断続的なMySQLが「致命的なエラー:バッファプールにメモリを割り当てられません」というエラーでクラッシュする


40

編集時に追加、2013-05-29:これは長い質問と議論であるため、質問と解決策の簡単な要約を以下に示します。小さなLinuxサーバー(1 GBのメモリ)でMySQLとApacheを実行する際に問題が発生しました。Apacheはより多くのメモリを要求し続け、結果として、OSは常にメモリを回復するためにMySQLを殺しました。 解決策は、ApacheをLighttpdに置き換えることでした。それを行った後、サーバーでのメモリ使用は数か月間完全に安定しており、いかなるクラッシュもありませんでした。編集の終わり

私は小さな仮想サーバーの初心者システム管理者です。サーバーの主な機能は、PHPで書かれたオープンソースのMoodleコース管理システムソフトウェアを実行することです。データベース(この場合はMySQL)とWebサーバー(この場合はApache)に依存しています。

サーバーは、1 GBのメモリと200 GBのディスク、カーネルバージョン2.6.18-308.8.2.el5xenを備えた64ビットCentOSリリース5.8(最終)を実行しています。MySQLバージョンは、Linux(x86_64)でreadline 5.1を使用する場合、Ver 14.14 Distrib 5.5.25です。

MoodleソフトウェアはMySQLのそれほどヘビーユーザーではないと思います。現在、約10人の教師のみがアクセスでき、データベース全体をbzip2でダンプおよび圧縮すると、結果のダンプのサイズは1 MB未満になります。

数ヶ月前にシステムをセットアップしました。Apacheサーバーはこれまでずっと安定していますが、MySQLは数回クラッシュしました。Webから最適な構成について学習しようとしましたが、前回/etc/my.cnfファイルを変更したとき/usr/share/doc/mysql55-server-5.5.25/my-large.cnfは、MySQLに付属のファイルを例として使用しました。このファイルは、512 MBのメモリを搭載したシステム向けであると述べているため、メモリ関連の構成パラメータを使用することはこのシステムにとって安全だと考えました。(私は以前はるかに小さい数字でMySQLのメモリー関連のパラメータを設定していた、と私はそれがクラッシュにつながっているかもしれないと思ったクラッシュはまだ発生している間、システムはより速くなりました少なくともである。)これらは、現在の内容です/etc/my.cnf

# /etc/my.cfg

# The main and only MySQL configuration file on [WEBSITE ADDRESS REDACTED].
# Last updated 2012-09-23 by Teemu Leisti.

# Most of the memory settings are set to be the same as the example setting file
# /usr/share/doc/mysql55-server-5.5.25/my-large.cnf, which is meant for systems
# with 512M of memory.  This server currently has twice that, i.e. 1G of memory,
# which should make these settings safe.


[client]
default_character_set           = utf8
port                            = 3306
socket                          = /var/lib/mysql/mysql.sock

[mysqld]
character_set_filesystem        = utf8
character_set_server            = utf8
datadir                         = /var/lib/mysql
innodb_additional_mem_pool_size = 20M
innodb_buffer_pool_size         = 256M # You can set .._buffer_pool_size up to
                                       # 50..80% of RAM, but beware of setting
                                       # memory usage too high
innodb_data_file_path           = ibdata1:10M:autoextend
innodb_data_home_dir            = /var/lib/mysql
innodb_flush_log_at_trx_commit  = 1
innodb_lock_wait_timeout        = 50
innodb_log_buffer_size          = 8M
innodb_log_file_size            = 64M # Set .._log_file_size to 25% of buffer
                                      # pool size
innodb_log_group_home_dir       = /var/lib/mysql
interactive_timeout             = 60
key_buffer_size                 = 256M
long_query_time                 = 10
max_allowed_packet              = 1M
max_connections                 = 30
port                            = 3306
query_cache_limit               = 2M # see http://emergent.urbanpug.com/?p=61
query_cache_size                = 16M
read_buffer_size                = 1M
read_rnd_buffer_size            = 4M
skip_networking                 # Only local processes need to use MySQL
skip_symbolic_links             # Disabling symbolic_links is recommended to
                                # prevent assorted security risks
slow_query_log_file             = /var/log/mysql-slow-queries.log
socket                          = /var/lib/mysql/mysql.sock
sort_buffer_size                = 1M
table_open_cache                = 256
thread_cache_size               = 8
thread_concurrency              = 2 #    = number of CPUs * 2
user                            = mysql
wait_timeout                    = 10

[mysqld_safe]
log_error                       = /var/log/mysqld.log
open_files_limit                = 4096
pid_file                        = /var/run/mysqld/mysqld.pid

[mysqldump]
quick
max_allowed_packet              = 16M

[mysql]
no-auto-rehash
# Remove the next comment character if you are not familiar with SQL
safe-updates

[myisamchk]
key_buffer_size                 = 128M
sort_buffer_size                = 128M
read_buffer                     = 2M
write_buffer                    = 2M

[mysqlhotcopy]
interactive-timeout

設定でわかるように、セットアップはInnoDBエンジンを使用し、ローカルホストからのリクエストのみを処理します。システム管理者(私)とは別に、MoodleはMySQLの唯一のユーザーです。

MySQLがクラッシュすると、次のものが常にログファイルに書き込まれます/var/log/mysqld.log(もちろん、タイムスタンプを除きます)。

120926 08:00:51 mysqld_safe Number of processes running now: 0
120926 08:00:51 mysqld_safe mysqld restarted
120926  8:00:53 [Note] Plugin 'FEDERATED' is disabled.
120926  8:00:53 InnoDB: The InnoDB memory heap is disabled
120926  8:00:53 InnoDB: Mutexes and rw_locks use GCC atomic builtins
120926  8:00:53 InnoDB: Compressed tables use zlib 1.2.3
120926  8:00:53 InnoDB: Using Linux native AIO
120926  8:00:53 InnoDB: Initializing buffer pool, size = 256.0M
InnoDB: mmap(274726912 bytes) failed; errno 12
120926  8:00:53 InnoDB: Completed initialization of buffer pool
120926  8:00:53 InnoDB: Fatal error: cannot allocate memory for the buffer pool
120926  8:00:53 [ERROR] Plugin 'InnoDB' init function returned error.
120926  8:00:53 [ERROR] Plugin 'InnoDB' registration as a STORAGE ENGINE failed.
120926  8:00:53 [ERROR] Unknown/unsupported storage engine: InnoDB
120926  8:00:53 [ERROR] Aborting

120926  8:00:53 [Note] /usr/libexec/mysqld: Shutdown complete

120926 08:00:53 mysqld_safe mysqld from pid file /var/run/mysqld/mysqld.pid ended

service mysqld restartコマンドでMySQLを再起動できる場合もありますが、次の出力でコマンドが失敗する場合がありますmysqld dead but subsys locked。これらの場合、状況を回復するために考えられた唯一のことは、サーバーを再起動することです。その後、MySQLを再起動できます。これらの場合、出力は次のようになります。

120926 11:43:48 mysqld_safe Starting mysqld daemon with databases from /var/lib/mysql
120926 11:43:48 [Note] Plugin 'FEDERATED' is disabled.
120926 11:43:48 InnoDB: The InnoDB memory heap is disabled
120926 11:43:48 InnoDB: Mutexes and rw_locks use GCC atomic builtins
120926 11:43:48 InnoDB: Compressed tables use zlib 1.2.3
120926 11:43:48 InnoDB: Using Linux native AIO
120926 11:43:48 InnoDB: Initializing buffer pool, size = 256.0M
120926 11:43:48 InnoDB: Completed initialization of buffer pool
120926 11:43:48 InnoDB: highest supported file format is Barracuda.
InnoDB: The log sequence number in ibdata files does not match
InnoDB: the log sequence number in the ib_logfiles!
120926 11:43:48  InnoDB: Database was not shut down normally!
InnoDB: Starting crash recovery.
InnoDB: Reading tablespace information from the .ibd files...
InnoDB: Restoring possible half-written data pages from the doublewrite
InnoDB: buffer...
120926 11:43:51  InnoDB: Waiting for the background threads to start
120926 11:43:52 InnoDB: 1.1.8 started; log sequence number 466807107
120926 11:43:52 [Note] Event Scheduler: Loaded 0 events
120926 11:43:52 [Note] /usr/libexec/mysqld: ready for connections.
Version: '5.5.25'  socket: '/var/lib/mysql/mysql.sock'  port: 0  MySQL Community Server (GPL)

コマンドのfree -m現在の出力は次のとおりです。

# free -m
             total       used       free     shared    buffers     cached
Mem:          1024        869        154          0         70        153
-/+ buffers/cache:        644        379
Swap:            0          0          0

通常、「空き」列は50〜100 MBです。

コマンドの出力ulimit -a

# ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 8192
max locked memory       (kbytes, -l) 32
max memory size         (kbytes, -m) unlimited
open files                      (-n) 1024
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) 8192
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

Moodleの設定やコードファイルは変更していません。ただし/var/www/html/moodle/config.php、次のようになります(スペースを節約するためにコメント行を削除します)。

<?php
unset($CFG);  // Ignore this line
global $CFG;  // This is necessary here for PHPUnit execution
$CFG = new stdClass();
$CFG->dbtype    = 'mysqli';           // 'pgsql', 'mysqli', 'mssql', 'sqlsrv' or 'oci'
$CFG->dblibrary = 'native';           // 'native' only at the moment
$CFG->dbhost    = 'localhost';        // eg 'localhost' or 'db.isp.com' or IP
$CFG->dbname    = 'moodle';           // database name, eg moodle
$CFG->dbuser    = 'moodleuser';       // your database username
$CFG->dbpass    = '[REDACTED]';       // your database password
$CFG->prefix    = 'moodle_';          // prefix to use for all table names
$CFG->dboptions = array(
    'dbpersist' => false,       // should persistent database connections be
                                //  used? set to 'false' for the most stable
                                //  setting, 'true' can improve performance
                                //  sometimes
    'dbsocket'  => true,        // should connection via UNIX socket be used?
                                //  if you set it to 'true' or custom path
                                //  here set dbhost to 'localhost',
                                //  (please note mysql is always using socket
                                //  if dbhost is 'localhost' - if you need
                                //  local port connection use '127.0.0.1')
    'dbport'    => '',          // the TCP port number to use when connecting
                                //  to the server. keep empty string for the
                                //  default port
);
$CFG->passwordsaltmain = '[REDACTED]';
$CFG->wwwroot   = 'http://[REDACTED]';
$CFG->dataroot  = '/var/moodledata';
$CFG->directorypermissions = 02777;
$CFG->admin = 'admin';
date_default_timezone_set('Europe/Helsinki');
$CFG->disableupdatenotifications = true;
require_once(dirname(__FILE__) . '/lib/setup.php'); // Do not edit

(ただし、Attendanceモジュールとblockという 2つのMoodleプラグインをインストールしましたが、これらがこの問題にどのように関与するかわかりません。)

/etc/my.cnf1週間前に現在の状態に更新した後でも、MySQLは上記の症状で数回クラッシュしました。データベース管理の初心者であり、この問題について多くのグーグル検索を行った後、次に何をすべきか迷っています。助言がありますか?さらに構成データを投稿する必要がありますか?

編集時の追加:

ファイルの内容/var/log/messages.1は次のとおりです。

Sep 23 04:02:18 [machine name] syslogd 1.4.1: restart.
Sep 26 08:00:51 [machine name] kernel: mysqld invoked oom-killer: gfp_mask=0x201d2, order=0, oomkilladj=0
Sep 26 08:00:51 [machine name] kernel:
Sep 26 08:00:51 [machine name] kernel: Call Trace:
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff802c1bd5>] out_of_memory+0x8b/0x203
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff8020fa49>] __alloc_pages+0x27f/0x308
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff802139c9>] __do_page_cache_readahead+0xc8/0x1af
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff8021423a>] filemap_nopage+0x14c/0x360
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff80208e9d>] __handle_mm_fault+0x444/0x144f
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff80263929>] _spin_lock_irqsave+0x9/0x14
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff8023f468>] lock_timer_base+0x1b/0x3c
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff80266d94>] do_page_fault+0xf72/0x131b
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff802e5f4f>] sys_io_getevents+0x311/0x359
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff802e4e56>] timeout_func+0x0/0x10
Sep 26 08:00:51 [machine name] kernel:  [<ffffffff8025f82b>] error_exit+0x0/0x6e
Sep 26 08:00:51 [machine name] kernel:
Sep 26 08:00:51 [machine name] kernel: Mem-info:
Sep 26 08:00:51 [machine name] kernel: DMA per-cpu:
Sep 26 08:00:51 [machine name] kernel: cpu 0 hot: high 0, batch 1 used:0
Sep 26 08:00:51 [machine name] kernel: cpu 0 cold: high 0, batch 1 used:0
Sep 26 08:00:51 [machine name] kernel: DMA32 per-cpu:
Sep 26 08:00:51 [machine name] kernel: cpu 0 hot: high 186, batch 31 used:117
Sep 26 08:00:51 [machine name] kernel: cpu 0 cold: high 62, batch 15 used:53
Sep 26 08:00:51 [machine name] kernel: Normal per-cpu: empty
Sep 26 08:00:51 [machine name] kernel: HighMem per-cpu: empty
Sep 26 08:00:51 [machine name] kernel: Free pages:        7256kB (0kB HighMem)
Sep 26 08:00:51 [machine name] kernel: Active:241649 inactive:0 dirty:0 writeback:0 unstable:0 free:1814 slab:4104 mapped-file:1153 mapped-anon:240592 pagetables:3298
Sep 26 08:00:51 [machine name] kernel: DMA free:3268kB min:32kB low:40kB high:48kB active:0kB inactive:0kB present:9068kB pages_scanned:0 all_unreclaimable? yes
Sep 26 08:00:51 [machine name] kernel: lowmem_reserve[]: 0 994 994 994
Sep 26 08:00:51 [machine name] kernel: DMA32 free:3988kB min:4016kB low:5020kB high:6024kB active:966596kB inactive:0kB present:1018080kB pages_scanned:6327262 all_unreclaimable? yes
Sep 26 08:00:52 [machine name] kernel: lowmem_reserve[]: 0 0 0 0
Sep 26 08:00:52 [machine name] kernel: Normal free:0kB min:0kB low:0kB high:0kB active:0kB inactive:0kB present:0kB pages_scanned:0 all_unreclaimable? no
Sep 26 08:00:52 [machine name] kernel: lowmem_reserve[]: 0 0 0 0
Sep 26 08:00:52 [machine name] kernel: HighMem free:0kB min:128kB low:128kB high:128kB active:0kB inactive:0kB present:0kB pages_scanned:0 all_unreclaimable? no
Sep 26 08:00:52 [machine name] kernel: lowmem_reserve[]: 0 0 0 0
Sep 26 08:00:52 [machine name] kernel: DMA: 1*4kB 2*8kB 1*16kB 1*32kB 2*64kB 2*128kB 1*256kB 1*512kB 2*1024kB 0*2048kB 0*4096kB = 3268kB
Sep 26 08:00:52 [machine name] kernel: DMA32: 17*4kB 2*8kB 2*16kB 1*32kB 0*64kB 0*128kB 1*256kB 1*512kB 1*1024kB 1*2048kB 0*4096kB = 3988kB
Sep 26 08:00:52 [machine name] kernel: Normal: empty
Sep 26 08:00:52 [machine name] kernel: HighMem: empty
Sep 26 08:00:52 [machine name] kernel: 1214 pagecache pages
Sep 26 08:00:52 [machine name] kernel: Swap cache: add 0, delete 0, find 0/0, race 0+0
Sep 26 08:00:52 [machine name] kernel: Free swap  = 0kB
Sep 26 08:00:52 [machine name] kernel: Total swap = 0kB
Sep 26 08:00:52 [machine name] kernel: Free swap:            0kB
Sep 26 08:00:52 [machine name] kernel: 262144 pages of RAM
Sep 26 08:00:52 [machine name] kernel: 8320 reserved pages
Sep 26 08:00:52 [machine name] kernel: 22510 pages shared
Sep 26 08:00:52 [machine name] kernel: 0 pages swap cached
Sep 26 08:00:52 [machine name] kernel: Out of memory: Killed process 1371, UID 27, (mysqld).

11:42の再起動に関連する行。

編集#2の追加:

マイケルの答えにコメントしようとしましたが、コメントの文字数制限に違反していたので、ここで答えています。

マイケル、答えてくれてありがとう。クラッシュ時のマシンのシステムログの内容を含めるように質問を編集しました。(CentOSはシステムログを呼び出すよう/var/log/messagesです。)

はい、MySQLとシステムログの両方は、リンクした質問のログとほぼ同じに見えます。そして今、あなたがそれについて言及したので、このmysql restartedメッセージがMySQLがすでにクラッシュしたことを意味していることは一種の明白です。システムログはoom_killer、プロセスを取得したことを示しています。以前の回答では、「最初の推測:apache子プロセスはamokを実行します」と書きます。ここでもApacheが明らかな容疑者であるように思えます。

以前、記事「低メモリ使用のためのMySQLとApacheの最適化、パート1」を見つけました。Apacheを設定するために、著者は「まず、Apache。最初のステートメントは、回避できる場合は試してみてください。Lighttpdとthttpdはどちらも非常に優れたWebサーバーです。PHPでlighttpdを実行できます。 「大量のサイトを運営している場合、静的コンテンツ(通常は画像やjavascriptファイル)をLighttpdなどの軽量で超高速のHTTPdサーバーに渡すことで、パフォーマンスを大幅に向上させることができます。」

私は著者のアドバイスを受け入れようと考えており、次の週末にサーバー上のApacheをLighttpdに置き換えることをクライアントに同意しました。問題が解決することを願っています。2つの仮想サーバーを使用することはほとんど不可能です。

同じマシンでMySQLとApacheなどの安定した成熟したオープンソースサーバーを2台使用し、適切な量のメモリを使用するのは、これが面倒だとは思っていませんでした。

回答:


36

この最近の質問に対する私の答えを見直しください。状況は同じだと思います。

MySQLは問題ではないため、この時点でMySQL構成を変更しないでください。これは問題の症状にすぎません。つまり、システムに少量のメモリとゼロスワップスペースがあるように見えることです。

あなたのサーバーがされていないクラッシュ「ため」メモリは、バッファプールに割り当てることができません。サーバーがクラッシュしています...その後、システムメモリが使用できないため、その後再起動できません。InnoDBバッファープール用に構成されたすべてのメモリは、mysqlの起動時にシステムから要求されます。

このログメッセージが表示されたら...

120926 08:00:51 mysqld_safe Number of processes running now: 0

...サーバーはすでに停止しています。これより前に何も記録していない場合、最初のクラッシュについては何も記録しません。後続のログは、再起動の自動試行後のものです。

syslogを確認してください。極端なメモリ不足状態が原因で、カーネルが強制終了するプロセスを探したメッセージが見つかります。

ステップ1は、可能であればスワップスペースを追加したり、RAMを割り当てたりすることです。

それが不可能な場合は、実際に構成内のinnodb-buffer-poolサイズを小さくすることを検討てください。(私は実際に自分がそれを言うのを聞くとは思わなかった)。データベースが小さく、トラフィックが軽い限り、それほど大きなバッファプールは必要ないかもしれません...そして、InnoDBバッファプールのメモリは、必要かどうかに関係なく、起動時にすべて割り当てられるため、他のシステムが要求するもののためのシステムのメモリ。(バッファプールのサイズ設定に関するRAM全体の75%から80%の推奨事項は、サーバー全体がMySQL専用である場合にのみ当てはまります。)

ステップ2は、Apacheの分岐モデルと、サーバーに負荷がかからないようにするために構成で異なる方法を実行する必要がある場合があることを確認することです。Apache子プロセスの制御されない量またはメモリ要件の増加がイベントのカスケードを開始し、その結果、カーネルがMySQLを殺してサーバー全体の完全なクラッシュを回避しようとしている可能性があります。

柔軟性に応じて、ApacheとMySQL用の2つの別個の仮想マシンを検討することもできます。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.