[groonga-dev,01454] データDELETE,INSERT時のmmap Cannot allocate memoryについて

アーカイブの一覧に戻る

Naoya Murakami visio****@gmail*****
2013年 6月 3日 (月) 02:32:49 JST


お世話になっております。村上です。

mroonga3.04をMyISAMのラッパーモードで利用しています。

データのDELETE,INSERT時にmmap Cannot allocate memoryが発生して困っています。

以前、インデックス構築時にmmap failed!が発生していたときに、相談させてていただいたときは、
1.vm.overcommit_memory = 1の設定
2.swapを増加(スワップ64GB、実メモリ32GB)
3.テーブル分割数の見直し(1テーブル数十万レコード〜数百万レコード、数GB〜数十GB程度までにし、数十テーブルずつspiderでローカルリンク)
で改善することができました。

しかし、インデックスを有効にしたまま、データのDELETE,INSERTをしていると、mmap Cannot allocate
memoryが発生するようになってしまいました。

更新中にクラッシュすると、spiderでリンクしているテーブルすべてにcheck table、壊れていたら、repair table
でまた1日超かかってしまって困っています。

1回目は、負荷をかけすぎたのかなと、repair tableした後、2回目は、並列数を低くして実行したたもの、10分程度で事象が再発しました。

これは、もう、ハードのリソース不足というしかないんでしょうか?
更新の量はたいした量でなくても、発生しましたが。。テーブルサイズに対してメモリが足りないのでしょうか?

何か、調査方法、解決方法はないでしょうか?

方法がなければ、苦労して構築した数百GBのインデックスをまた削除して、
レコード追加してから、インデックスを再構築するぐらいしかないですかね。
また、1週間ぐらいかかりそうですが。。

・groonga.log抜粋
2013-06-03 01:43:53.189474|n|c27fc700|split (16384) encsize=393485
2013-06-03 01:43:57.588864|A|c283d700|mmap(4194304,600,12587008)=Cannot
allocate memory <13627740160>
2013-06-03 01:43:57.590934|A|c283d700|/usr/lib64/libgroonga.so.0(+0x12e5fb)
[0x7fc7c360a5fb]
2013-06-03
01:43:57.590947|A|c283d700|/usr/lib64/libgroonga.so.0(grn_io_seg_map_+0xb8)
[0x7fc7c360e848]
2013-06-03
01:43:57.590952|A|c283d700|/usr/lib64/libgroonga.so.0(grn_io_win_map2+0x1004)
[0x7fc7c3610294]
2013-06-03 01:43:57.590955|A|c283d700|/usr/lib64/libgroonga.so.0(+0x114e35)
[0x7fc7c35f0e35]
2013-06-03 01:43:57.590958|A|c283d700|/usr/lib64/libgroonga.so.0(+0x11e4cd)
[0x7fc7c35fa4cd]
2013-06-03
01:43:57.590961|A|c283d700|/usr/lib64/libgroonga.so.0(grn_ii_delete_one+0x16b)
[0x7fc7c35fe4ab]
2013-06-03
01:43:57.590964|A|c283d700|/usr/lib64/libgroonga.so.0(grn_ii_column_update+0x907)
[0x7fc7c36069e7]
2013-06-03
01:43:57.590967|A|c283d700|/usr/lib64/libgroonga.so.0(grn_column_index_update+0x3a)
[0x7fc7c350aeea]
2013-06-03
01:43:57.590971|A|c283d700|/usr/local/mysql-5.5.14-spider-3.0-vp-0.18-hs-1.2-q4m-0.95-linux-x86_64-glibc25/lib/plugin/ha_mroonga.so(_ZN10ha_mroonga24wrapper_delete_row_indexEPKh+0x20e)
[0x7fc7c3934a9e]

・・・
この後も、多数Cannot allocate memoryがでています。
2013-06-03 01:43:57.598247|A|c283d700|mmap(262144,599,575705088)=Cannot
allocate memory <13627740160>
2013-06-03 01:43:57.599186|A|c283d700|/usr/lib64/libgroonga.so.0(+0x12e5fb)
[0x7fc7c360a5fb]

・mysqld.log
130603  1:45:59 - mysqld got signal 11 ;
This could be because you hit a bug. It is also possible that this binary

以上、よろしくお願いします。



groonga-dev メーリングリストの案内
アーカイブの一覧に戻る