機械学習における特徴の構築と正規化

映画Mのロジスティック分類子を作成するとします。私の特徴は、人の年齢、性別、職業、場所などです。したがって、トレーニングセットは次のようになります。

• 年齢性別職業場所好き（1）/嫌い（0）
• 23 MソフトウェアUS 1
• 24 Fドクター英国0

など…。今、私の質問は、自分の機能をどのように拡大縮小して表現するかです。私が考えた1つの方法：年齢グループとして年齢を分けるので、18-25、25-35、35-上記、性別をM、F、場所を米国、英国、その他。ここで、これらすべての値に対してバイナリフィーチャを作成します。したがって、年齢にはそれぞれ年齢グループなどに対応する3つのバイナリフィーチャが含まれます。したがって、米国の28歳の男性は010 10 100（010->年齢グループ25-35、10->男性、100->米国）として表されます。

ここで機能を表す最良の方法は何でしょうか？また、私はいくつかのe.gsで気づきました。sklearnのすべての機能は何らかの方法でスケーリング/正規化されています。たとえば、性別は、男性と女性の0.0045と-.0.0045の2つの値で表されます。私はこのようなスケーリング/整形を行う方法についての手がかりがありませんか？

バイナリケース

フィーチャをバイナリにしたい場合、カテゴリ値（または実数）の適切な表現は、1つのホット（または温度計）エンコーディングです。あなたはしませんそれらを正規化する必要があります。

カテゴリ機能の1つのホットエンコーディングでは、クラスごとに1ビットを予約するだけです。したがって、このエンコードの長さは、フィーチャのクラスの数です。国の例を見てみましょう。

• 米国の場合は00001
• 英国の場合は00010
• アジアの場合は00100
• ヨーロッパの場合は01000
• その他の場合は10000

実数/整数機能の温度計エンコードでは、長さとしきい値を選択する必要があります。年齢の例では、しきい値18、25、および35に従って年齢を分割することを選択しました。コーディングは次のようになります。

• 0〜17の場合は000
• 18-25の場合001
• 25-34の場合011
• 35以上の場合は111

$$\overbrace{0 \cdot 0 \cdot 0 \cdot 1 \cdot 0}^{UK}\cdot \overbrace{0 \cdot 1 \cdot 1 }^{30yo}$$

連続ケース

$$\overbrace{0 \cdot 0 \cdot 0 \cdot 1 \cdot 0 }^{UK}\cdot \overbrace{30 }^{30yo}$$

BGreeneが言ったように、この値を正規化して、平均0と標準偏差1を維持し、多くの回帰モデルの安定性を確保する必要があります。それを行うには、単に経験的平均を減算し、経験的標準偏差で除算します。

Y_normalized = ( Y - mean(Y) ) / std(Y)

$(30-25)/10 = 0.5$

$$\overbrace{0 \cdot 0 \cdot 0 \cdot 1 \cdot 0}^{UK}\cdot \overbrace{0.5 }^{30yo}$$