kiyoka.2012_03_07 RSSPLAIN

Related pages: !kiyoka.blog.list kiyoka.2012_03_30 !kiyoka.blog.2012_03
45555555555555555555555555555555555555555555555555555555555555555555555555555555555555555555555555
4

[Sekka][KVS][TRIE] Sekkaにトライ木を実装するとしたら ver-1

5

 

5

先日の記事 「kiyoka.2012_02_25[Sekka][KVS][TRIE] Sekkaにトライ木の実装が必要な理由」の続き。

5

Sekkaの曖昧文字列マッチングはかなり手抜きな実装になっている。

5

そこをトライ木で改善できるのではないかという話。

5

※ 本記事はKey-Value Store型データベースにトライ木を構築する方法を書いています。ポピュラーなtrieライブラリであるDouble ArrayやLOUDSなどのデータ構造の話では無いので、それを期待されて来られた方はすみません… そのあたりの話は全部次の本に書いてあります。私は買いました。ステマではありませんよ。

5
 4774149934 日本語入力を支える技術。変わり続けるコンピュータと言葉の世界: 徳永 拓之
5

 

5

 

5

問題点

5

現状のSekkaではローマ字のキーワードが単純な文字列のリストで格納されているだけなので、ユーザが入力したローマ字との編集距離の比較が大量に発生する。

5

例えば、"Kanji" に対する編集距離(Jaro Winkler関数)の呼びだし回数は 113211回 (全文字列サイズデリミタのスペース文字を入れると1.6MByte)となる。

5

また "Ka"という2文字を入力した時と、"Kanji"という5文字を入力した時では同じ回数Jaro Winkler関数が実行される。

5

これはかなりひどい。

5

 

5

Key-Value Stroeの上に実装する理由

5

通常、トライ木のライブラリはCやJavaなどの言語を使って実装され、整数型の配列やポインタを駆使し(時にはビット演算まで使って)格納データサイズを圧縮することに主眼が起かれていることが多い。

5

しかしここでは、世間の常識に反してプレーンなKey-Value Stroe上に実装してみる。

5

理由は、C言語のtrieライブラリを使うとインストール作業の敷居が上がるのでやりたくないのと、分散ハッシュテーブルを使って曖昧文字列マッチングがスケールアウトする様を見てみたいというのがある。

5

実は、単純に趣味の問題も大きいが…

5

 

5

トライ木

5

トライ木EXTを使えば、計算しても意味が無い部分ツリーをばっさり枝刈りできると考えた。

5

文字列が短かければそれだけ計算量を減らすことができる。

5

 

5

トライ木の概念

5

プレフィックス木(Prefix Tree)とも言われるだけあって、検索したい文字列の先頭から1文字づつ比較しながら木を降りていける。

5

幅優先探索も、深さ優先探索もどちら簡単に実装できる。

5

概念図は下記のようなもので、各ノードから子に降りて行くエッジ部分に1文字のアルファベットが付いている。

5
 400px-Trie_example.svg
5

"A", "to", "tea", "ted", "ten", "i", "in", "inn" というキー群によるトライ木

5

 

5

上の図はトライ木 - WikipediaEXTからコピーしてきたもので、これを使って考える。

5

 

5

Key-Value Storeでの実現方法

5

あるノードの子をたどれるようにするために以下のようなデータ構造を考えることが可能だ。

5

[key]はKey-Value Storeのキー、[value]はKey-Value Storeの値とする。

5

キーという用語が二つ出てくるので注意。

5

Key-Value Storeのキーを[key] 、トライ木のキーを「キー」と表記する。

5

なお、扱える文字クラスはアスキーの範囲しか考慮していない。また $ は特別な記号に使っているため $ も使えない。

5

 

5
        [key]      [value]
5
   1   node:$     "i$ t A$"
5
   2   node:i     "n$"
5
   3   node:in    "n$"
5
   4   DATA:i     11
5
   5   DATA:in    5
5
   6   DATA:inn   9
5
   7   node:t     "e o$"
5
   8   DATA:to    7
5
   9   node:te    "a$ d$ n$"
5
  10   DATA:tea   3
5
  11   DATA:ted   4
5
  12   DATA:ten   12
5
  13   DATA:A     15
5

 

5

順番に解説すると1行目の [key] "node:$" はスーパールートといってツリー全体の根になる。

5

value側の "i$ t A$" のうち "i$" は $が付いているのでトライのキーとして登録されていることを示す。

5

 

5

[key]の "node:" で始まっているものがトライ木のノード、"DATA:"で始まっているものがトライ木に上のキーに対応するデータである。

5

[value]の数字は実際のデータである。そのKey-Value Storeがサポートしたデータならなんでも良い。

5

13行目は A に対してのデータで数値の15を例として入れてある。(わかりやすいように上の図のノード番号を入れている)

5

 

5

prefix searchの手順

5

木全体から "in" で始まる単語を探索する場合

5
1行目の "node:$" の[value]を調べる
5
1文字目の i がキーワードとして終端している "i$" があるので、iをキーワードとして蓄積する。
5
iに続くキーワードがまだあるかも知れないので、KVSから"node:i"で引いてノードがあるか調べる。
5
2行目の "node:i" が見つかるので[value]を調べる。
5
2文字目の n がキーワードとして終端している "n$" があるので、inをキーワードとして蓄積する。
5
inに続くキーワードがまだあるかも知れないので、KVSから"node:in"で引いてノードがあるか調べる。
5
2行目の "node:in" が見つかるので[value]を調べる。
5
3文字目の n がキーワードとして終端している "n$" があるので、innをキーワードとして蓄積する。
5
innに続くキーワードがまだあるかも知れないので、KVSから"node:inn"で引いてノードがあるか調べる。
5
ノードが無いので、inn以下のトラバースはしない。
5
探索結果から、検索文字列 "in"よりも文字列長が短かい "i" を削除したリストをprefixの結果とする。
5

 

5

※ 途中、[value]に複数の子ノードが見つかったら、それぞれのエントリを再帰的にトラバースする。

5

 

5

編集距離による絞り込み探索

5

prefix searchと違う点は文字列が完全一致しているかどうかを調べるかわりに、探索クエリ文字列とトラバース中に見つかったキーワード同士の編集距離が閾値に収まるかで判定する。

5

閾値に収まらないキーワード配下のツリーは探索対象としない。

5

 

5

キーワードの動的な登録

5

注意する点は、一般的なKVSは複数[key]の一貫性のある登録をサポートしていないので、登録中に参照があった場合、おかしな木が見える可能性があること。

5

対策として登録順を工夫する。

5

最初にデータ、次にツリーの葉のほうから根に向かって順に登録していくことで参照時のファントムリードが無いようにできる。

5

※ 参考:Tokyo Cabinetは複数エントリの一貫性のある登録(トランザクション)をサポートしている。

5

 

5

キーワードの動的な削除

5

注意する点は、一般的なKVSは複数[key]の一貫性のある削除をサポートしていないので、削除中に参照があった場合、おかしな木が見える可能性があること。

5

対策として削除順を工夫する。

5

最初にツリーの根のほうから葉に向かって順に削除、最後にデータという風に削除していくことで参照時のファントムリードが無いようにできる。

5

※ 参考:Tokyo Cabinetは複数エントリの一貫性のある登録(トランザクション)をサポートしている。

5

 

5

というわけで、一度実装してみて問題があれば、訂正記事を書こうと思う。

5

 

5

...comment disabled...