SHAP（Shapley Additive Explanation）とLIME（Local Interpretable Model-Agnostic Explanations）の比較

私は2つのポピュラーな事後モデルの解釈可能性のテクニックについて読んでいます：LIMEとSHAP

これら2つの手法の主な違いを理解するのに苦労しています。

SHAPの背後にある頭脳であるScott Lundbergを引用すると：

SHAP値には、LIMEのブラックボックスローカル推定の利点がありますが、ゲーム理論からの一貫性とローカル精度についての理論的保証もあります（他の統合方法からの属性）

私はこの「ゲーム理論からの一貫性と局所的精度に関する理論的保証」が何であるかを理解するのに苦労しています。SHAPはLIMEの後に開発されたので、LIMEが対処できないいくつかのギャップを埋めると思います。それらは何ですか？

シャプレー推定の章のクリストフ・モルナーの本は次のように述べています。

予測と平均予測の違いは、インスタンスの特徴値-シェイピー効率プロパティにかなり分散しています。このプロパティは、Shapley値をLIMEなどの他のメソッドとは別に設定します。ライムは、効果を完全に分配することを保証しません。Shapleyの値が完全な説明を提供する唯一の方法になる可能性があります

これを読んで、SHAPはローカルではなく、データポイントのグローカルな説明であるという感覚が得られます。私はここで間違っている可能性があり、上記の引用が何を意味するかについての洞察が必要です。私の質問を要約すると、LIMEはローカルの説明を生成します。SHAPの説明はLIMEの説明とどのように異なりますか？

LIMEは、予測を理解したいユニットの周囲に代理モデルをローカルに作成します。したがって、それは本質的にローカルです。形の良い値は、最終的な予測を各属性の寄与に「分解」します-これは、「一貫した」という意味です（値は、実際のモデルの実際の予測になりますが、LIMEで得られるものではありません）。しかし、実際に形の値を取得するには、何をすべきか/属性の値を「どのように」処理するかについて、いくつかの決定が必要です。これが値の到達方法です。この決定には、解釈を変更する可能性のある選択肢があります。属性を「除外」する場合、すべての可能性を平均しますか？「ベースライン」を選択しますか？

そのため、Shapelyは実際にスコアをどのように取得したかを付加的な方法で示しますが、「開始点」（つまり、省略された属性に関する決定）についてはいくつかの選択肢があります。

LIMEは、ローカルな意味で、関心のあるデータポイントの最も重要な属性を教えてくれます。