kiyoka.2012_01_24 RSSPLAIN

Related pages: !kiyoka.blog.list !kiyoka.blog.2012_01
55555555555555555555555555555555555555555555555435
5

[Cloud][Kahua] Kahuaのメモリリークの調査と対策

5

 

5

Sumibi.orgを「さくらのクラウド」に引越した後もKahuaのメモリリーク問題が解決していなかった。

5

急遽RAM容量の大きなサーバインスタンスに変更して運用回避していたが、このまま無意味なコストの垂れ流しを止めるべく調査した。

5

やっと解決したので調査結果を書いておこうと思う。

5

このまま放置するとコスト削減額はなんと月額4000円にもなるので、ちょいと見過ごすわけにはいかないのである。

5

 

5

概要

5

Sumibi.orgのサイトは1台のサーバインスタンスで構成されており、Sumibi.orgの日本語変換サービスと、WikiシステムのOldTypeが同居している。

5

メモリリーク問題はOldTypeのほうにあり、使っているKahuaフレームワークのworkerのプロセスが膨張していくというのが問題だった。

5

Kahuaのworkerがメモリを圧迫し、結果的にSumibi.orgの変換レスポンスが重くなるという現象が発生していた。

5

 

5

膨張のペース

5

OldTypeを1日程度放置すると、Kahuaのworkerプロセスが1個につき1.2GByteまで膨張する。

5

常時2個のworkerを起動する設定にしていたため、3GByteのRAMでは足りず、swapを2G Byteほど侵食し、OldTypeのサイトがエラーを返すようになる。

5

GoogleやYahooのクローラが来て、サイトのページを一巡するとworkerは1.2GByteあたりになる。なぜか1.2GByte以上には膨張しないようだ。

5

 

5

回避策

5
 さくらのクラウドの料金シミュレーションEXT ページより
5
 HhG0
5

原因究明までの間、「さくらのクラウド」のインスタンスを3GByteから6GByteにして20日間ほど回避した。

5

6GByteならリークしていても問題なく運用できていた。ランニングコストを除いては問題ない(笑)

5

しかし、お金さえ払えば、問題を先送りして普通に運用できるのはクラウドサービスの良いところである。

5

 

5

対策

5

workerを1時間に1回リスタートするスクリプトを動かして対応した。

5

このスクリプトはOT_SITEにサイトバンドルのパスさえ設定すれば、どんなKahuaアプリでも使えるはず。

5
 hourly restarter for Kahua workers(restarter.sh)EXT
5

 

5

結果

5

RAM 3GByteでも約1GByteの余裕を持って運用できるようになった。

5

 

5

青い線はリザルトコード。一番下側に張りついている線は、"200 OK"のリクエスト。

5

"404 Not Found"が大量に出るのは、Kahuaフレームワークが非ブラウザが動的生成されたURLを叩いた時だ、自動的に404にしてくれているようだ。頼もしい。

5
 GCG6
5

 

5

restarter.shをリスタートすると、freeメモリのグラフがキザギザになる。うまくいっているようだ。

5

restarter.shを一定期間止めておいて、再度開始する実験をしたが、freeエリアがいっきに復活している。うまくいっているようだ。

5
 kWkz
5

 

5

 

5

 

5

まとめ

5

OldTypeもしくはKahuaのworkerプロセスが膨張するが、workerプロセスの定期的restartをかければ問題なく運用できる。

5

なぜworkerがそんなにメモリを消費するのかという原因追求はしていない。

5

対処療法的ではあるが対策し、無用なランニングコストを抑えることができた。

5

 

4

COMMENTshiro

workerプロセスは継続をたくさんハッシュテーブルに登録してますが、それのexpireがうまくいってないのかな?

workerが掴んでる継続の一覧をモニタできるようにしてみるといいかも。ちょっと見てみます。

3

COMMENTkiyoka

通常運用で、workerが膨張するのでshiroさんの予想は当たっているかもしれません。

OldTypeはコンテンツページの1行毎に継続が生成されているので、開放されないとするとすぐにworkerが肥大しそうですね。

以前shiroさんもchatonで同様の現象について、他に同じような現象を見た人はいませんかというような書き込みをされていたと思いますが、まさにこれがそうかも。

同じ原因だといいですね。よろしくお願いします。

5

...comment disabled...