なぜ情報値を計算するのですか？

カテゴリー変数と連続変数を持つデータがありますが、説明的なデータ分析で情報値を見つける必要があります。

データ分析の最初に各変数の情報値を計算する理由と、分析を行うための情報値のカットオフポイントを教えてください

data-visualization

— user43247
ソース

「情報価値」の計算について具体的に教えてください。すべての読者が同じように理解できるような、その用語の標準化された定量的な意味はないようです。質問を編集するときは、どのような分析について話し合っているのか、また「カットオフポイント」を何のために使用しているのかを理解するのに役立つコンテキストも提供してください。

— whuber

一般的に言えば、情報値は、変数が、いくつかのターゲット変数バイナリ応答（たとえば、「良い」と「悪い」）をどれだけ区別できるかを示します。アイデアは、変数情報値が低い場合、ターゲット変数を分類するのに十分な仕事をしていない可能性があるため、説明変数として削除されます。 $X$ $Y$ $X$

これがどのように機能するかを確認するには、をビンにグループ化します。それぞれ相当する 2つの値のいずれかをとることができ、ビン、次いで0または1を言う、、 $X$ $n$ $x \in X$ $y \in Y$ $X_i$ $1 \leq i \leq n$

私 V = Σ_{私 = 1}^{ん} （ g_{私} - b_{私} ） * \ln （ g_{私} / b_{私} ）

$IV= \sum_{i=1}^n (g_i-b_i)*\ln(g_i/b_i)$

どこ

の '内のの 'におけるSの割合ビン内のがすべてのビン対 $b_i= (\#$ $0$ $X_i)/(\#$ $0$ $X) =$ $0$ $i$

の '内のの '内のの割合ビン内のをすべてのビン対 $g_i= (\#$ $1$ $X_i)/(\#$ $1$ $X) =$ $1$ $i$

は、証拠の重み（ビン）とも呼ばれます。カットオフ値は異なる場合があり、選択は主観的なものです。私はよく使用します（以下の[1]もそうです）。 $\ln(g_i/b_i)$ $X_i$ $IV < 0.3$

クレジットスコアリングのコンテキストでは、これら2つのリソースが役立ちます。

[1] http://www.mwsug.org/proceedings/2013/AA/MWSUG-2013-AA14.pdf

[2] http://support.sas.com/resources/papers/proceedings12/141-2012.pdf

— dmanuge
ソース

ビンの1つがすべて良好またはすべて不良の場合に、情報値を計算するための何らかの修正を知っていますか？私の考えは、この状況を修正するために各ビンの各列に1を追加することです。これが一般的な方法なのか、それとも他の理論的な懸念があるのかと思います。私は主に実用主義からこのステップを検討しています。

— Zelazny7 2014

一部の実務家がすべての善または悪をすべて含む用語を合計から削除するのを見てきましたが、完全な関連付けを本質的に無効にすることになるので、これはお勧めしません。定数（cなど）を追加することは興味深い解決策ですが、ビンの選択と定数およびサイズはIVに大きく影響します。cが0に近づくか、ビンサイズが無限大に近づくと、IVは無限大に近づきます。より代表的なIVを取得するには、すべての商品またはすべての不良品がある隣接するビンを結合することを検討してください。

— dmanuge 2015年