CREATE TABLE AS SELECT中にMySQLがロックする


10

次の(ダミー)クエリを実行しています

CREATE TABLE large_temp_table AS 
    SELECT a.*, b.*, c.* 
    FROM a
    LEFT JOIN b ON a.foo = b.foo
    LEFT JOIN c ON a.bar = c.bar

クエリの実行に10分かかるとします。テーブルa、b、cの実行中に値を更新しようとすると、上記のクエリが最初に完了するまで待機します。このロックを回避したい(データの整合性は重要ではない)。どうすればそれを達成できますか?

使用:MySQL 5.1.41およびInnoDBテーブル

ps SET TRANSACTION ISOLATION LEVEL READ UNCOMMITTED; 動作に変化はありません

更新 クエリが実行されている間、SHOW ENGINE INNODB STATUSの出力は次のようになります(ここでは目的のために非常に遅いクエリを作成しています)。

=====================================
120323 15:26:29 INNODB MONITOR OUTPUT
=====================================
Per second averages calculated from the last 8 seconds
----------
SEMAPHORES
----------
OS WAIT ARRAY INFO: reservation count 1470, signal count 1468
Mutex spin waits 0, rounds 7525, OS waits 112
RW-shared spins 803, OS waits 364; RW-excl spins 1300, OS waits 959
------------
TRANSACTIONS
------------
Trx id counter 0 3145870
Purge done for trx's n:o < 0 3141943 undo n:o < 0 0
History list length 22
LIST OF TRANSACTIONS FOR EACH SESSION:
---TRANSACTION 0 0, not started, OS thread id 2958192640
MySQL thread id 7942, query id 69073 localhost root
SHOW ENGINE INNODB STATUS
---TRANSACTION 0 3145869, ACTIVE 20 sec, OS thread id 2955325440, thread declared inside InnoDB 343
mysql tables in use 1, locked 1
6 lock struct(s), heap size 1024, 162 row lock(s)
MySQL thread id 7935, query id 69037 localhost root Copying to tmp table
CREATE TABLE 1_temp_foo AS
                       SELECT SQL_NO_CACHE
                           a.*
                       FROM
                           crm_companies AS a
                       LEFT JOIN users b ON a.zipcode = b.uid
                       LEFT JOIN calc_base_materials c ON a.zipcode = c.material_id
                       LEFT JOIN calc_base_material_langtext d ON a.zipcode = d.material_id
                       LEFT JOIN crm_people e ON a.zipcode = e.telephone1_number
                       ORDER BY a.country, a.name1
--------
FILE I/O
--------
I/O thread 0 state: waiting for i/o request (insert buffer thread)
I/O thread 1 state: waiting for i/o request (log thread)
I/O thread 2 state: waiting for i/o request (read thread)
I/O thread 3 state: waiting for i/o request (write thread)
Pending normal aio reads: 0, aio writes: 0,
ibuf aio reads: 0, log i/o's: 0, sync i/o's: 0
Pending flushes (fsync) log: 0; buffer pool: 0
27579 OS file reads, 613 OS file writes, 392 OS fsyncs
0.00 reads/s, 0 avg bytes/read, 0.00 writes/s, 0.00 fsyncs/s
-------------------------------------
INSERT BUFFER AND ADAPTIVE HASH INDEX
-------------------------------------
Ibuf: size 1, free list len 5, seg size 7,
0 inserts, 0 merged recs, 0 merges
Hash table size 34679, node heap has 9 buffer(s)
0.00 hash searches/s, 0.00 non-hash searches/s
---
LOG
---
Log sequence number 1 2030837110
Log flushed up to   1 2030837110
Last checkpoint at  1 2030837110
0 pending log writes, 0 pending chkp writes
231 log i/o's done, 0.00 log i/o's/second
----------------------
BUFFER POOL AND MEMORY
----------------------
Total memory allocated 21060366; in additional pool allocated 1048576
Dictionary memory allocated 2897304
Buffer pool size   512
Free buffers       0
Database pages     503
Modified db pages  0
Pending reads 0
Pending writes: LRU 0, flush list 0, single page 0
Pages read 36022, created 166, written 504
0.00 reads/s, 0.00 creates/s, 0.00 writes/s
Buffer pool hit rate 1000 / 1000
--------------
ROW OPERATIONS
--------------
1 queries inside InnoDB, 0 queries in queue
1 read views open inside InnoDB
Main thread id 2957578240, state: waiting for server activity
Number of rows inserted 2022, updated 7, deleted 13, read 528536
0.00 inserts/s, 0.00 updates/s, 0.00 deletes/s, 8.00 reads/s
----------------------------
END OF INNODB MONITOR OUTPUT
============================

アップデート2

クエリの実行中にb、c、dのいずれかを更新しようとすると、INNODB STATUSは次のようになります。

=====================================
120323 16:12:58 INNODB MONITOR OUTPUT
=====================================
Per second averages calculated from the last 27 seconds
----------
SEMAPHORES
----------
OS WAIT ARRAY INFO: reservation count 2959, signal count 2957
Mutex spin waits 0, rounds 27587, OS waits 426
RW-shared spins 1321, OS waits 516; RW-excl spins 2578, OS waits 1855
------------
TRANSACTIONS
------------
Trx id counter 0 3145998
Purge done for trx's n:o < 0 3145994 undo n:o < 0 0
History list length 0
LIST OF TRANSACTIONS FOR EACH SESSION:
---TRANSACTION 0 0, not started, OS thread id 2958602240
MySQL thread id 7990, query id 69621 localhost root
SHOW INNODB STATUS
---TRANSACTION 0 3145997, ACTIVE 35 sec, OS thread id 2955325440, thread declared inside InnoDB 227
mysql tables in use 1, locked 0
MySQL thread id 7984, query id 69594 localhost root Copying to tmp table
CREATE TABLE 1_temp_foo AS
                       SELECT SQL_NO_CACHE
                           a.*
                       FROM
                           crm_companies AS a
                       LEFT JOIN users b ON a.zipcode = b.uid
                       LEFT JOIN calc_base_materials c ON a.zipcode = c.material_id
                       LEFT JOIN calc_base_material_langtext d ON a.zipcode = d.material_id
                       LEFT JOIN crm_people e ON a.zipcode = e.telephone1_number
                       ORDER BY a.country, a.name1
Trx read view will not see trx with id >= 0 3145998, sees < 0 3145998
--------
FILE I/O
--------
I/O thread 0 state: waiting for i/o request (insert buffer thread)
I/O thread 1 state: waiting for i/o request (log thread)
I/O thread 2 state: waiting for i/o request (read thread)
I/O thread 3 state: waiting for i/o request (write thread)
Pending normal aio reads: 0, aio writes: 0,
ibuf aio reads: 0, log i/o's: 0, sync i/o's: 0
Pending flushes (fsync) log: 0; buffer pool: 0
54447 OS file reads, 1335 OS file writes, 509 OS fsyncs
0.00 reads/s, 0 avg bytes/read, 0.00 writes/s, 0.00 fsyncs/s
-------------------------------------
INSERT BUFFER AND ADAPTIVE HASH INDEX
-------------------------------------
Ibuf: size 1, free list len 5, seg size 7,
584 inserts, 584 merged recs, 4 merges
Hash table size 34679, node heap has 1 buffer(s)
0.00 hash searches/s, 0.00 non-hash searches/s
---
LOG
---
Log sequence number 1 2060137545
Log flushed up to   1 2060137545
Last checkpoint at  1 2060137545
0 pending log writes, 0 pending chkp writes
338 log i/o's done, 0.00 log i/o's/second
----------------------
BUFFER POOL AND MEMORY
----------------------
Total memory allocated 20799534; in additional pool allocated 1047808
Dictionary memory allocated 2897304
Buffer pool size   512
Free buffers       0
Database pages     511
Modified db pages  0
Pending reads 0
Pending writes: LRU 0, flush list 0, single page 0
Pages read 70769, created 661, written 3156
0.00 reads/s, 0.00 creates/s, 0.00 writes/s
Buffer pool hit rate 1000 / 1000
--------------
ROW OPERATIONS
--------------
1 queries inside InnoDB, 0 queries in queue
2 read views open inside InnoDB
Main thread id 2957578240, state: waiting for server activity
Number of rows inserted 2022, updated 66643, deleted 13, read 626517
0.00 inserts/s, 0.00 updates/s, 0.00 deletes/s, 7.59 reads/s
----------------------------
END OF INNODB MONITOR OUTPUT
============================

そして実際のオープンプロセスリストがあります

プロセスリスト

回答:


10

私はこのクエリをあなたの中に見ます SHOW INNODB STATUS\G

CREATE TABLE 1_temp_foo AS 
                   SELECT SQL_NO_CACHE 
                       a.* 
                   FROM 
                       crm_companies AS a 
                   LEFT JOIN users b ON a.zipcode = b.uid 
                   LEFT JOIN calc_base_materials c ON a.zipcode = c.material_id 
                   LEFT JOIN calc_base_material_langtext d ON a.zipcode = d.material_id 
                   LEFT JOIN crm_people e ON a.zipcode = e.telephone1_number 
                   ORDER BY a.country, a.name1 

このクエリは、あなたが考えていなかったかもしれない3つのことを組み合わせているため、ゾッとします。

  • InnoDBは、最初の前提に基づいて関与しています。 Using: MySQL 5.1.41 and InnoDB Tables
  • MyISAMも関係しています。MyISAMが関与するのはなぜですか?すべての内部一時テーブルはMyISAMです!!! 結果の結合はMyISAMテーブルで、一時テーブルにデータが入力されたときにInnoDBに変換する必要があります。MyISAMテーブルのデフォルトのロックレベルは何ですか?テーブルレベルのロック。
  • 新しく作成されたテーブルが存在する必要があるため、DDLが関与します。その新しいテーブルは、一時テーブルにデータが入力され、InnoDBに変換されて、最後に名前が変更されるまで現れません1_temp_foo

注目に値する別の副作用があります。あなたがするとき

CREATE TABLE tblname AS SELECT ...

結果のテーブルにはインデックスがありません。

ロックの問題を回避するのに役立つと思われるものがあります。最初に別のクエリとしてテーブルを作成し、次にそれを生成します。一時テーブルを作成するには、2つのオプションがあります。

オプション#1:同じレイアウトでテーブルを作成してみます

CREATE TABLE 1_temp_foo LIKE crm_companies;

これにより1_temp_foo、元のテーブルとまったく同じインデックスとストレージエンジンを持つテーブルが作成されますcrm_companies

オプション#2:同じストレージエンジンのみでテーブルを作成し、インデックスは作成しないでください。

CREATE TABLE 1_temp_foo SELECT * FROM crm_companies WHERE 1=2;
ALTER TABLE 1_temp_foo ENGINE=InnoDB;

テーブルを作成した後(どちらを選択しても)、次のようにテーブルにデータを入力できます。

INSERT INTO 1_temp_foo
SELECT SQL_NO_CACHE a.*                   
FROM                   
    crm_companies AS a                   
    LEFT JOIN users b ON a.zipcode = b.uid                   
    LEFT JOIN calc_base_materials c ON a.zipcode = c.material_id                   
    LEFT JOIN calc_base_material_langtext d ON a.zipcode = d.material_id                   
    LEFT JOIN crm_people e ON a.zipcode = e.telephone1_number                   
    ORDER BY a.country, a.name
;

現在、このクエリは、反復可能な読み取りでデータを利用できるようにするために、行レベルのロックを生成する必要があります。つまり、これはトランザクションクエリです。

警告

オプション#2にはオプション#1よりも利点があります

  • 利点#1:crm_companiesに外部キー制約がある場合、OPTION#1は実際には不可能です。簡単にするために、オプション#2を選択する必要があります。
  • 利点#2:オプション#2はユーザー定義のインデックスのないテーブルを作成するため、オプション#1を介して作成されたテーブルよりもテーブルの読み込みが速くなるはずです。

2

トランザクション分離レベルをREAD COMMITTED(またはREAD UNCOMMITTED)に設定することに加えて、バイナリログ形式をMIXEDまたはROWに設定する必要もあります。STATEMENTベースのレプリケーションは、このタイプのステートメントをロックして、すべてが「安全」であることを確認します。一時的にinnodb_locks_unsafe_for_binlog = 1を設定することもできますが、そのようにして同期がとれていないスレーブになる可能性があります。

SET binlog_format = ROW;
CREATE TABLE ... SELECT ...

残念ながらこれも機能しません:(
clops

1
CREATE TABLEステートメントが実行されているときのSHOW ENGINE INNODB STATUSの出力は何ですか?
アーロンブラウン

1
また、READ UNCOMMITTEDではなく、READ COMMITTEDを使用していることを確認してください。5.1.47 bugs.mysql.com/bug.php?id=48607
アーロンブラウン

1
それは変です。外部キーはありますか?行を更新しようとしているときにINNODB STATUSを投稿できますか?MySQLのより新しいバージョンでこれを試しましたか?(私のディストリビューションに同梱されているため、5.1.41を使用していると思いますか?)
アーロンブラウン

1
ユーザーテーブルがInnoDBであることを確信していますか?更新はSHOW ENGINE INNODB STATUS出力に表示されず、プロセスリストでは通常MyISAMテーブルの結果であるLockedとして表示されます。@RolandoMySQLDBAの回答で問題が解決したことをうれしく思いますが、他にも何か問題があると思います。
アーロンブラウン
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.