ディザノイズをクランプする適切な方法は何ですか？

2ビットノイズ（n =] 0.5,1.5 [およびoutput = floor（input *（2 ^ bits-1）+ n）を使用）で色深度とディザリングを減らす場合、値の範囲の終わり（入力0.0および1.0） ）うるさい。それらを無地であることが望ましい。

例：https : //www.shadertoy.com/view/llsfz4

（上記shadertoyのスクリーンショット、勾配を描き、両端であるべきで、それぞれ白と黒の固体であるが、代わりにノイズが多いです）

もちろん、問題は値の範囲を圧縮するだけで解決でき、両端が常に単一の値に丸められます。これは少しハックのように感じますが、これを「適切に」実装する方法があるかどうか疑問に思っていますか？

TL; DR：2 * 1LSB triangle-pdfディザリングは、エッジケースの0と1でクランプにより中断します。解決策は、これらのエッジケースで1ビットの均一なディザーを許容することです。

2つ目の答えを追加します。これは、当初考えていたよりも少し複雑になったためです。この問題は「TODO：クランプが必要ですか？」2012年に正規化から三角ディザリングに切り替えてから、コードに追加しました。最後に確認してみてください:)投稿全体で使用されているソリューション/画像の完全なコード：https : //www.shadertoy.com/view/llXfzS

まず最初に、2 * 1LSB三角PDFディザリングを使用して信号を3ビットに量子化する場合の問題を次に示します。

-基本的にhotmultimediaが示したもの。

コントラストが高くなると、質問で説明されている効果が明らかになります。エッジケースでは出力が平均して黒/白になりません（実際には、そうする前は0/1をはるかに超えています）。

グラフを見ると、もう少し洞察が得られます。

（灰色の線は0/1を示し、灰色も出力しようとしている信号、黄色の線はディザリング/量子化された出力の平均、赤はエラー（信号平均）です）。

興味深いことに、平均出力が限界で0/1ではないだけでなく、線形ではありません（ノイズの三角確率密度分布によるものと思われます）。下端を見ると、出力が発散する理由は直感的に理解できます。ディザリングされた信号に負の値が含まれ始めると、出力のクランプにより、出力の低い方のディザリングされた部分の値（つまり負の値）が変化します。平均の値を増やします。図は正しいように見えます（均一で対称的な2LSBディザ、平均はまだ黄色）：

ここで、1LSB正規化ディザを使用するだけであれば、エッジケースではまったく問題はありませんが、もちろん、三角ディザリングの優れた特性が失われます（たとえば、このプレゼンテーションを参照）。

（実用的、経験的）ソリューション（ハック）は、エッジケースの[-0.5; 0.5 [均一ディザリングに戻すことです。

float dithertri = (rnd.x + rnd.y - 1.0); //note: symmetric, triangular dither, [-1;1[
float dithernorm = rnd.x - 0.5; //note: symmetric, uniform dither [-0.5;0.5[

float sizt_lo = clamp( v/(0.5/7.0), 0.0, 1.0 );
float sizt_hi = 1.0 - clamp( (v-6.5/7.0)/(1.0-6.5/7.0), 0.0, 1.0 );

dither = lerp( dithernorm, dithertri, min(sizt_lo, sizt_hi) );

三角形のディザリングをそのまま残しながら、エッジケースを修正します。

だからあなたの質問に答えないでください：より数学的に固い解決策があるかどうかわからないので、Masters of Pastが何をしたかについても等しく知りたいと思っています:)それまで、少なくとも私たちはコードを機能させ続けるためにこの恐ろしいハックをします。

編集
私はおそらく、単に信号を圧縮することについて、質問で与えられた回避策の提案をカバーするべきです。エッジケースでは平均値が線形ではないため、入力信号を圧縮するだけでは完全な結果は得られませんが、エンドポイントは修正されます。

参考文献

• https://www.shadertoy.com/view/llXfzS
• http://loopit.dk/rendering_inside.pdf
• http://loopit.dk/banding_in_games.pdf
• http://32ipi028l5q82yhj72224m8j-wpengine.netdna-ssl.com/wp-content/uploads/2016/03/GdcVdrLottes.pdf

私はあなたの質問に完全に答えられるかどうかわかりませんが、私はいくつかの考えを追加し、おそらく一緒に答えに到達することができます:)

まず、質問の根拠は私には少し不明確です。なぜ、他のすべての色にノイズがあるのに、黒/白をきれいにすることが望ましいと思うのですか？ディザリング後の理想的な結果は、完全に均一なノイズを持つ元の信号です。黒と白が異なる場合、ノイズは信号に依存します（とにかく色が固定される場所で発生するため、問題はないかもしれません）。

とは言っても、白または黒のいずれかにノイズがあると問題が発生する状況があります（私は、黒と白の両方を同時に「クリーン」にする必要があるユースケースを認識していません）。テクスチャの場合、クワッド全体にノイズを追加する必要はありません。テクスチャの外側にもノイズが表示されるためです。1つの解決策は、ノイズをオフセットすることです。そのため、[-0.5; 1.5 [を追加するのではなく、[-2.0; 0.0 [を追加します（つまり、2ビットのノイズを減算します）。これはかなり経験的な解決策ですが、私はもっと正しいアプローチを知りません。それについて考えると、失われた強度を補うために信号をブーストしたいと思うかもしれません...

ティモシーロッテス氏は、スペクトルの明るい部分のノイズを低減し、スペクトルの最も必要な部分にノイズをシェーピングすることについてGDCで話しました。http：//32ipi028l5q82yhj72224m8j-wpengine.netdna-ssl.com/wp- content / uploads / 2016/03 / GdcVdrLottes.pdf

Mikkel Gjoelの三角ノイズによるディザリングのアイデアを、RNG呼び出しが1つだけ必要な単純な関数に簡略化しました。私はすべての不要なビットを取り除いたので、何が起こっているのかをかなり読みやすく、理解できるはずです。

// Dithers and quantizes color value c in [0, 1] to the given color depth.
// It's expected that rng contains a uniform random variable on [0, 1].
uint dither_quantize(float c, uint depth, float rng) {
    float cmax = float(depth) - 1.0;
    float ci = c * cmax;

    float d;
    if (ci < 0.5 || ci >= cmax - 0.5) {
        // Uniform distribution on [-0.5, 0.5] for edges.
        d = rng - 0.5;
    } else {
        // Symmetric triangular distribution on [-1, 1].
        d = (rng < 0.5) ? sqrt(2.0 * rng) - 1.0 : 1.0 - sqrt(2.0 - 2.0*rng);
    }

    return uint(clamp(ci + d + 0.5, 0.0, cmax));
}

アイデアとコンテキストについては、Mikkel Gjoelの回答を紹介します。

私はこの素晴らしい質問へのリンクと、shadertoyの例をたどりました。

提案された解決策についていくつか質問があります。

1. 値vは何ですか？量子化したいのは0.0から1.0（黒から白）の範囲のRGB信号ですか？シングルフロートですか？（そうであれば、元のRGB信号からどのように計算しましたか？）
2. 「マジックナンバー」0.5 / 7.0の出所は何ですか？ハーフビンだと思いますが、8ビットで表されるビンのサイズが1.0 / 255.0になると思いますので、0.5 / 0.7とびっくりしました。これらの数値をどのように導き出したか説明していただけませんか。何が欠けていますか？
3. 三角形の分布が[-1,1]の範囲にあり、ユニフォームが[-0.5,0.5]にあると想定しています（「ハーフビット」は、エッジに近づいており、オーバーシュートしたくないためです。適用したロジック？）
4. 一様および三角形の確率変数は独立している必要があります。私は正しいですか？

すごい仕事！私はあなたの考えを正しく理解したことを望んでいます。ありがとう！