常駐セットサイズ/仮想サイズの説明が必要


61

pidstatプロセスを監視するための優れたツールになると思いました。特定のプロセスの平均メモリ使用量を計算したい。出力例を次に示します。

02:34:36 PM       PID  minflt/s  majflt/s     VSZ    RSS   %MEM  Command
02:34:37 PM      7276      2.00      0.00  349212 210176   7.14  scalpel

(これはからの出力の一部ですpidstat -r -p 7276。)

常駐セットサイズ(RSS)または仮想サイズ(VSZ)情報を使用して平均メモリ消費量を計算する必要がありますか?私はウィキペディアとフォーラムでいくつかのことを読みましたが、違いを完全に理解できるかどうかはわかりません。さらに、それらのどれも信頼できるものではないようです。それでは、どのようにプロセスを監視してメモリ使用量を取得できますか?

この問題に関するヘルプは役に立ちます。



回答:


63

RSSは、このプロセスが現在メインメモリ(RAM)に保持しているメモリの量です。VSZは、プロセスの合計仮想メモリ量です。これには、RAMとスワップアウトの両方のすべてのタイプのメモリが含まれます。これらの数値には、共有ライブラリやその他の種類のメモリも含まれるため、歪む可能性があります。500個のインスタンスをbash実行できますが、メモリフットプリントの合計サイズはRSSまたはVSZ値の合計にはなりません。

プロセスのメモリフットプリントについてより詳細なアイデアを得る必要がある場合、いくつかのオプションがあります。あなたが/proc/$PID/map好きではないものを通過して除草することができます。共有ライブラリの場合、計算はあなたのニーズに応じて複雑になる可能性があります(覚えていると思います)。

プロセスのヒープサイズのみを考慮する場合[heap]は、mapファイル内のエントリをいつでも解析できます。カーネルは、プロセスヒープに割り当てられたサイズがまたはプロセスがいるバイトの正確な数を反映してもしなくてもよい求め割り当てるを。細かな詳細、カーネル内部、および最適化があり、これを回避できます。理想的な世界では、プロセスの必要に応じて、システムページサイズの最も近い倍数に切り上げられます(getconf PAGESIZEPCでは、おそらく4,096バイトです)。

プロセスが割り当てたメモリ量を確認する場合、最良の方法の1つはカーネル側のメトリックを控えることです。代わりに、LD_PRELOADメカニズムを使用してCライブラリのヒープメモリ(割り当て解除)関数をインスツルメントします。個人的に、私valgrindはこの種のことに関する情報を得るために少し悪用しています。(インスツルメンテーションを適用するには、プロセスを再起動する必要があります。)

また、ランタイムのベンチマークを行っている可能性valgrindがあるため、プログラムが非常にわずかに遅くなります(ただし、おそらく許容範囲内です)。


どうもありがとう!さまざまなオプションを調査します。あなたは役立っています!:)
Flanfl

「500個のbashインスタンスを実行できますが、メモリフットプリントの合計サイズはRSSまたはVSZ値の合計にはなりません。」しかし、RSS値の合計は適切な近似値になりますか?STATMから居住者の列の合計と同じように、私はスーパー信頼性の高い正確な値を必要としませんが、私は私のJavaプロセスが使用しているどのくらいのメモリハイレベル知っている必要があります
iloveretards

3
Ubuntuでは、/proc/$PID/mapsタイプミスですか、それともディストリビューションの違いですか?
dolzenko

1

最小限の実行可能な例

この意味を理解するために、あなたはページングの基本を理解する必要がある場合:https://stackoverflow.com/questions/18431261/how-does-x86-paging-work、特にOSは、ページ・テーブルを介して仮想メモリを割り当てることができること/ RAMまたはディスク(RSS常駐メモリ)に実際にバッキングストレージがある前に、内部メモリのブックキープ(VSZ仮想メモリ)を保持します。

これを実際に観察するために、次のプログラムを作成しましょう。

main.c

#define _GNU_SOURCE
#include <assert.h>
#include <inttypes.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <sys/mman.h>
#include <unistd.h>

typedef struct {
    unsigned long size,resident,share,text,lib,data,dt;
} ProcStatm;

/* https://stackoverflow.com/questions/1558402/memory-usage-of-current-process-in-c/7212248#7212248 */
void ProcStat_init(ProcStatm *result) {
    const char* statm_path = "/proc/self/statm";
    FILE *f = fopen(statm_path, "r");
    if(!f) {
        perror(statm_path);
        abort();
    }
    if(7 != fscanf(
        f,
        "%lu %lu %lu %lu %lu %lu %lu",
        &(result->size),
        &(result->resident),
        &(result->share),
        &(result->text),
        &(result->lib),
        &(result->data),
        &(result->dt)
    )) {
        perror(statm_path);
        abort();
    }
    fclose(f);
}

int main(int argc, char **argv) {
    ProcStatm proc_statm;
    char *base, *p;
    char system_cmd[1024];
    long page_size;
    size_t i, nbytes, print_interval, bytes_since_last_print;
    int snprintf_return;

    /* Decide how many ints to allocate. */
    if (argc < 2) {
        nbytes = 0x10000;
    } else {
        nbytes = strtoull(argv[1], NULL, 0);
    }
    if (argc < 3) {
        print_interval = 0x1000;
    } else {
        print_interval = strtoull(argv[2], NULL, 0);
    }
    page_size = sysconf(_SC_PAGESIZE);

    /* Allocate the memory. */
    base = mmap(
        NULL,
        nbytes,
        PROT_READ | PROT_WRITE,
        MAP_SHARED | MAP_ANONYMOUS,
        -1,
        0
    );
    if (base == MAP_FAILED) {
        perror("mmap");
        exit(EXIT_FAILURE);
    }

    /* Write to all the allocated pages. */
    i = 0;
    p = base;
    bytes_since_last_print = 0;
    /* Produce the ps command that lists only our VSZ and RSS. */
    snprintf_return = snprintf(
        system_cmd,
        sizeof(system_cmd),
        "ps -o pid,vsz,rss | awk '{if (NR == 1 || $1 == \"%ju\") print}'",
        (uintmax_t)getpid()
    );
    assert(snprintf_return >= 0);
    assert((size_t)snprintf_return < sizeof(system_cmd));
    bytes_since_last_print = print_interval;
    do {
        /* Modify a byte in the page. */
        *p = i;
        p += page_size;
        bytes_since_last_print += page_size;
        /* Print process memory usage every print_interval bytes.
         * We count memory using a few techniques from:
         * https://stackoverflow.com/questions/1558402/memory-usage-of-current-process-in-c */
        if (bytes_since_last_print > print_interval) {
            bytes_since_last_print -= print_interval;
            printf("extra_memory_committed %lu KiB\n", (i * page_size) / 1024);
            ProcStat_init(&proc_statm);
            /* Check /proc/self/statm */
            printf(
                "/proc/self/statm size resident %lu %lu KiB\n",
                (proc_statm.size * page_size) / 1024,
                (proc_statm.resident * page_size) / 1024
            );
            /* Check ps. */
            puts(system_cmd);
            system(system_cmd);
            puts("");
        }
        i++;
    } while (p < base + nbytes);

    /* Cleanup. */
    munmap(base, nbytes);
    return EXIT_SUCCESS;
}

GitHubアップストリーム

コンパイルして実行:

gcc -ggdb3 -O0 -std=c99 -Wall -Wextra -pedantic -o main.out main.c
echo 1 | sudo tee /proc/sys/vm/overcommit_memory
sudo dmesg -c
./main.out 0x1000000000 0x200000000
echo $?
sudo dmesg

どこ:

プログラム出力:

extra_memory_committed 0 KiB
/proc/self/statm size resident 67111332 768 KiB
ps -o pid,vsz,rss | awk '{if (NR == 1 || $1 == "29827") print}'
  PID    VSZ   RSS
29827 67111332 1648

extra_memory_committed 8388608 KiB
/proc/self/statm size resident 67111332 8390244 KiB
ps -o pid,vsz,rss | awk '{if (NR == 1 || $1 == "29827") print}'
  PID    VSZ   RSS
29827 67111332 8390256

extra_memory_committed 16777216 KiB
/proc/self/statm size resident 67111332 16778852 KiB
ps -o pid,vsz,rss | awk '{if (NR == 1 || $1 == "29827") print}'
  PID    VSZ   RSS
29827 67111332 16778864

extra_memory_committed 25165824 KiB
/proc/self/statm size resident 67111332 25167460 KiB
ps -o pid,vsz,rss | awk '{if (NR == 1 || $1 == "29827") print}'
  PID    VSZ   RSS
29827 67111332 25167472

Killed

終了ステータス:

137

これは、128 +シグナル番号ルールにより、シグナル番号を取得したことを意味します9。これman 7 signalは、SIGKILLであり、Linuxのメモリ不足キラーによって送信されます。

出力の解釈:

  • VSZ仮想メモリは、mmap後もprintf '0x%X\n' 0x40009A4 KiB ~= 64GiBps値はKiBで)一定のままです。
  • RSSの「実際のメモリ使用量」は、ページに触れたときにのみ遅延して増加します。例えば:
    • 最初の印刷物にはがありextra_memory_committed 0、これはまだページに触れていないことを意味します。RSSは、1648 KiBテキスト領域、グローバルなどの通常のプログラムの起動に割り当てられた小さなものです。
    • 2回目の印刷では、8388608 KiB == 8GiB相当数のページに書き込みました。その結果、RSSは正確に8GIB増加して、8390256 KiB == 8388608 KiB + 1648 KiB
    • RSSは8GiB単位で増加し続けています。最後の印刷は約24 GiBのメモリを示しており、32 GiBを印刷する前にOOMキラーがプロセスを終了しました。

参照:常駐セットのサイズ/仮想サイズに関する説明が必要

OOMキラーログ

私たちのdmesgコマンドは、OOMキラーログを表示しています。

それらの正確な解釈は次の場所で求められています:

ログの最初の行は次のとおりです。

[ 7283.479087] mongod invoked oom-killer: gfp_mask=0x6200ca(GFP_HIGHUSER_MOVABLE), order=0, oom_score_adj=0

興味深いことに、おそらく貧弱なものがメモリを割り当てようとしたときにOOMキラーを最初にトリガーしたのは、バックグラウンドでラップトップで常に実行されているMongoDBデーモンでした。

ただし、OOMキラーは必ずしも目を覚ました人を殺すわけではありません。

呼び出し後、カーネルは以下を含むテーブルまたはプロセスを出力しますoom_score

[ 7283.479292] [  pid  ]   uid  tgid total_vm      rss pgtables_bytes swapents oom_score_adj name
[ 7283.479303] [    496]     0   496    16126        6   172032      484             0 systemd-journal
[ 7283.479306] [    505]     0   505     1309        0    45056       52             0 blkmapd
[ 7283.479309] [    513]     0   513    19757        0    57344       55             0 lvmetad
[ 7283.479312] [    516]     0   516     4681        1    61440      444         -1000 systemd-udevd

さらに先に、私たち自身の小さなmain.outものが前の呼び出しで実際に殺されたことがわかります:

[ 7283.479871] Out of memory: Kill process 15665 (main.out) score 865 or sacrifice child
[ 7283.479879] Killed process 15665 (main.out) total-vm:67111332kB, anon-rss:92kB, file-rss:4kB, shmem-rss:30080832kB
[ 7283.479951] oom_reaper: reaped process 15665 (main.out), now anon-rss:0kB, file-rss:0kB, shmem-rss:30080832kB

このログには、score 865そのプロセスがあったもの、おそらく次のように最高(最悪)のOOMキラースコアが記載されています。

また興味深いことに、すべてが明らかに高速で発生したため、解放されたメモリが計上される前にoomDeadlineMonitorプロセスによって再び目が覚めました:

[ 7283.481043] DeadlineMonitor invoked oom-killer: gfp_mask=0x6200ca(GFP_HIGHUSER_MOVABLE), order=0, oom_score_adj=0

今回はいくつかのChromiumプロセスを強制終了しました。これは通常、私のコンピューターの通常のメモリホグです。

[ 7283.481773] Out of memory: Kill process 11786 (chromium-browse) score 306 or sacrifice child
[ 7283.481833] Killed process 11786 (chromium-browse) total-vm:1813576kB, anon-rss:208804kB, file-rss:0kB, shmem-rss:8380kB
[ 7283.497847] oom_reaper: reaped process 11786 (chromium-browse), now anon-rss:0kB, file-rss:0kB, shmem-rss:8044kB

Ubuntu 19.04、Linuxカーネル5.0.0でテスト済み。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.