kiyoka.2012_04_13 RSSPLAIN

Related pages: !kiyoka.blog.list !kiyoka.blog.2012_04
5555555555555555555555555555555555555555555555555555555555
5

[AWS][KVS] Amazon DynamoDBが思ったほど低レイテンシではなかった件

5

DynamoDBを使ってみた。

5

これまで、私はTokyo Cabinet、memcacehd、 Redisといった、わりと単純なデータモデルのKey-Value Storeを使ってきた。

5

そんな私が、DynamoDBを使ってだいぶ違うということを感じたので記事にしたい。

5

それはRemote APIのレイテンシが小さいか大きいかで全く適用範囲が違う別モノだということだ。

5

 

5

分散Key-Value Storeといってもいろんなタイプがある

5

Key-Value Storeというくくりが広すぎるということもある。(NoSQLという呼び名も同じ)

5

とにかく、分散ハッシュテーブルの原理を使ってスケールアウト可能なやつは全てKey-Value Storeと呼ばれているので注意が必要。

5

大きく分けると「ドキュメントデータベース」と「それ以外」になると思う。

5

 

5

分散Key-Value Storeの分類

5

もっと別の分類方法があると思うが、アプリケーションとしてどちらを適用するかという観点で見た場合の分類として考えてほしい。

5
 HXWe
5

 

5

ドキュメント指向データベース

5

傾向として書き込みは低速、APIのレイテンシは長い。

5

一般的に、JSONなどの複雑なデータを格納することができる。

5

カラム毎にインデックスを設定することができ、後でカラムに対する検索クエリが使える。

5

そういう分類をすればSimpleDBとDynamoDBはドキュメント指向データベースだと思う。

5

MongoDBやCouchDB、BigTableも同じカテゴリに入るだろう。

5

 

5

それ以外

5

傾向として書き込みは高速、APIのレイテンシは短い。

5

Key-Value StoreのValueに保存するデータ構造がシンプルなものを全部をこっちに入れたい。

5

Tokyo Cabinet、Redis、memcached、memcachedプロトコルでアクセスできる殆どのデータベースはこっち。

5

他にもOkuyama、flareなどデータベースもこちら。

5

 

5

シングルスレッドのレイテンシ

5

Redisはシンプルスレッドのプログラムから秒間10000オーダーのレスポンスを返してくれる。

5

現在開発中のdistributed-trieEXTはそういう低いレイテンシを期待したtrieのライブラリだが、それをSimpleDBとDynamoDBに適用しようとして無理だとわかった。

5

DynamoDBの方は宣伝文句に「低レイテンシ」と書いてあるので期待してしまったのだが、シングルスレッドからのレイテンシは長めで、高いスループットは出せない。

5

APIはhttpの上にRESTで構築されているので、シングルスレッドからは秒間100オーダーを出すのがやっとだろう。実際にAWS SDKに入っているPure Rubyのクライアントからは秒間20を出すのがやっとだった。

5

従って、DynamoDBが「低レイテンシ」と書いてあるのは、複数のスレッドから平行にアクセスした場合のトータルで計算したらレイテンシが低いという意味でとらえるべき。

5

それは低レイテンシとは言わない気がするけどなぁ。高スループットは但しいけど。

5

 

5

勘違いの要因

5

DynamoDBの方は宣伝文句に「低レイテンシ」と書いてあるので、もしかしてドキュメントベースのようにもmemcachedのようにも使える万能なものだと勘違いしてしまったのが要因。

5

 

5

まとめ

5

DynamoDBはKVSと呼ばれているが、memcachedのような低レイテンシなKVSと混同して使うと失敗する。

5

むしろ、メンテナンスのいらないApache CouchDBEXTのようなものとして使うこと。

5

 

5

補足

5

適用範囲を間違えただけでDynamoDBが期待外れの性能という意味ではありません。

5

複数スレッドからのスループットは期待通りであり、DBを止めずに限界スループットを上げていける様は圧巻です。将来きっと何かに使います。

5
   Amazon DynamoDB Overview, a fully managed NoSQL database service
5

 

5

参考

5
 key-valueストアの基礎知識EXT
5
 Bigtableと分散KVS - スティルハウスの書庫EXT
5
 分散KVSの使い方 - sdyuki-develEXT
5
 ここで言うところの分散KVSには、BigTableやCassandraなどの、いわゆる
5
 Multi dimensional sorted storeは含めていない。これらの分散データストア
5
 はkey-valueよりも高級なデータモデルを持ち、単純なKVSの効率上の問題を解
5
 決しようとしている。
5

 

5

...comment disabled...