kiyoka.2011_07_07 RSSPLAIN

Related pages: !kiyoka.blog.list kiyoka.2011_07_13 kiyoka.2011_08_10 kiyoka.2011_08_24 Sekka.FAQ !kiyoka.blog.2011_08 !kiyoka.blog.2011_07
5555555555555555555555555555555555555555555555555555555555554325
5

[Sekka] 平仮名フレーズ辞書を追加してみようかな(2)

5
 NbpKsE
5

昨日のエントリ「kiyoka.2011_07_06[Sekka] 平仮名フレーズ辞書を追加してみようかな(1)」の続き。

5

平仮名フレーズ辞書の作りかただが、再度 矢田さんのウェブコーパスを調べてみた。

5
 日本語ウェブコーパス 2010EXTから引用
5
 本コーパスの作成においては,様々なウェブサービス,ツール,コーパスを利
5
 用させていただきました.開発者・研究者の皆様に感謝いたします.
5
 
5
   * コーパスの作成・保存・配布には Amazon Web Services を利用しています.
5
   * ウェブ検索には Yahoo! JAPAN 検索 Web API を利用しています.
5
   * ウェブコーパスのシードには IPAdic を利用しています.
5
   * 文字コードの変換には日本語用のパッチを適用した libiconv を利用しています.
5
   * Unicode の正規化には ICU を利用しています.
5
   * 形態素解析には MeCab を利用しています.
5
   * コーパスの圧縮には XZ Utils を利用しています.
5
   * 他にも様々なソフトウェアを利用しています.
5

 

5

なんか勘違いしていた。IPAdicとMeCabが使われている。

5

うまくフィルタリングすれば有用なデータが取れることがわかってきた。

5

 

5

Sekka用に一番集めたいフレーズは、「なりました」「しました」などの文末に出てくる定型フレーズ。自分としては使用頻度が高く、かつミスタイプでグダグダになりやすい傾向がある。

5

これは「なり」「まし」「た」などのような形態素を結合したものになるのだが、N-gramコーパスの 6-gramの </S> (文境界マーク) 付きの高頻度共起データから取れそう。

5

まず、</S>を見つけて、その直前の平仮名だけで構成される形態素を結合すれば良いかな。

5

例外として 「と」「の」「て」「に」「お」「は」 の形態素は捨てるべきかな? これは結果データを見てから決めよう。Sekkaのユースケースから考えると付いている/付いていないの両方があったほうがいいのかも。

5

 

5

「6mg-0000.xzの抜粋」

5
    .
5
    .
5
 % OFF と なり ます </S>     1222
5
 % OFF に なり ます </S>     2189
5
    .
5
    .
5
 " 監督 やり たい " </S>      1800
5
 " 現象 " で ある </S>       1319
5
    .
5
    .
5
 % 減少 し て いる </S>       1973
5
 % 減少 し まし た </S>       1714
5
 % 近く 上がり まし た </S>     3594
5
    .
5
    .
5
 % と なっ て いる </S>       27945
5
 % と なり まし た </S>       8012
5
 % な ん です か </S>        1184
5
 % に すぎ なかっ た </S>      1546
5
 % に すぎ ませ ん </S>       2356
5
 % に とどまっ て いる </S>     4109
5
 % に なっ て いる </S>       2149
5
 % に なり まし た </S>       3459
5
 % に も なり ます </S>       1126
5
 % に も 満た ない </S>       1974
5
 % に 上っ て いる </S>       1020
5

 

5

その次には「しかし」「もっとも」などの接続詞や副詞、や「こういう」などのような連体詞、その他使用頻度の高いフレーズが欲しい。

5

それは 1-gramから単純に取るのでいいのか、2-gramくらいから抜き出したほうがいいのか… これも推測より実験かな。

5

 

5

なんとかあまり労力をかけずにデータを集めれそうだ。いい時代になったなあと思う反面、便利すぎて大規模データに触れるチャンスが…

5

もっとデータの精度に拘れば、大規模データを自分で処理する必要が出るのだろう。

5

うーん。このままHadoopなどを使って大規模データマイニングをやるのが先延ばしになりそう。

5

 

4

COMMENTyoriyuki

Unicodeの正規化にicuを使っているとのことですが、具体的にどういう正規化なのか分かりますか?

3

COMMENTkiyoka

残念ながら、どういう正規化が行われているかはわかりませんでした。

ウェブコーパス作成におけるICUの利用目的も書いてありませんので、手がかりがありません。

ウェブマイニングする場合の最低限の正規化が組み込まれているのでしょうか。

2

COMMENTyoriyuki

なるほど、どうもありがとうございました。

5

...comment disabled...