統計とMLで名前が「カーネル」なのはなぜですか?


21

これは、オペレーティングシステムと線形代数のコンテキストで他のSEサイトで質問されていますが、統計と機械学習で使用されるカーネルメソッドに関しては、同じ質問がバグになります。

多くの場合、カーネル密度推定やSVMなどのカーネルは、ある種の類似性を表すと言われていますが、「カーネル」という名前の由来とその象徴性はどこにあるのかわかりません。

それでは、統計と機械学習の文脈でのカーネルの語源は何ですか?

明確にするために、カーネルとは何か、その主な特性をよく知っています。名前で知りたいのですが、シードまたはコアでほとんど何で定義されているのかはわかりません。辞書。または、少なくとも「メソッドの本質的な部分」よりも深い意味を見ることができません。

回答:


13

この問題に関する情報は、数学者のジェフ・ミラーが維持している数学の言葉のいくつかの最も早い既知の使用法についてウェブサイトをチェックすることで見つけることができます。また、標準の辞書ソースで「カーネル」という語語源に関する情報を見つけることもできます。

フランス語で書くと、フレドホルム(1903)は "noyau"(コア)という単語を使用し、ヒルベルト(1904)はこの用語を採用したが、ドイツ語で "kern"(コア)を作成した。これらの用語は、機能解析における積分方程式について書く文脈で使用されました。この直後に、Bôcher(1909)は英語で執筆し、「カーネル」という用語を使用して同じオブジェクトを指します。その後、この用語は、機能分析、フーリエ分析、さらには確率と統計に関する英語の文献に広がります。

上記のリンク辞書によると、この単語は古英語とゲルマン祖語に由来しています。シード、またはオブジェクトのコア、中心、またはエッセンスを参照できます。ドイツ語の「kern」と「kernel」の言語的な類似性は、同様の歴史的派生によるものと思われます。「カーネル」という言葉は、ゲルマン祖語の「クルン」(トウモロコシ)という仮説(再構成)に由来すると言われています。そのため、この歴史に基づいて、語源的には「カーネル」という語は種、核、または本質を指し、トウモロコシの古いドイツ語の英語化に基づいているようです。

更新:この回答は、ユーザーcbeleitesおよびRMによって私の注意を喚起された新しい情報を反映するために大幅に編集されました。当初、これは「kern」という単語の最近の英語化であると考えていましたが、辞書の情報源は英語の「kernel」という単語は非常に古いことを示唆しています。私は言語学者ではないので、上記の情報源から情報を提供するだけです。


MaximeBôcherのことは聞いたことがない。まず最初に、それはおそらく数年後に、インテグラルカーネルで非常に大きい(巨大な)Salomon Bochnerのタイプミスだと思った。
マークL.ストーン

それが私のせいです-アクセント記号付きのoを入力する方法がわかりません。どうやってやったの?
モニカを

1
ウィキペディアのリストからコピーして貼り付けました。
マークL.ストーン

1
私の本当のポイントは、ボッホナーがカーネルの巨人であることを知っていたが、ボッチャーのことは聞いたことがないということでした。ボッホナーはサミュエル・カーリンの論文顧問でした。ジャズ)。
マークL.ストーン

1
カーネルが少なくとも100年以上前に起こったことの意味では、カーネルがKernのAnglicizedバージョンであるかどうかはわかりません。私はいつも翻訳としてそれを取りました。merriam-webster.com / dictionary / kernel definition 1はドイツ語で「カーン」と呼ばれます。たとえば、リンゴの場合、シード= Kerne、コア=Kerngehäuse(文字通りカーネルハウジング)。
cbeleitesはモニカをサポートします

13

カーネルは、機械学習と統計で何度も使用されます。以下に例を示します。

  1. ではサポートベクターマシンのカーネルは、問題が(見て直線的に解けるとなり、より高次元の空間にデータをマップする関数であるこのことを)。

  2. カーネル密度推定

    カーネル密度推定は、ランダム変数の確率密度関数を推定するノンパラメトリックな方法です。

このコンテキストでは、カーネルはカーネル密度の推定に使用される単純な重み関数です。最後のリンクには、統計におけるカーネルという語の使用もいくつかあります。

  1. 畳み込みニューラルネットワーク、カーネルは、画像自体との間の畳み込みを実行するために使用される小行列です。こちらをご覧ください

これらのすべての例で、カーネルは、データの何らかの変換に使用される数学関数です。カーネルは、本質的にその変換の一定の部分です。各変換に使用するカーネルの選択に応じて、異なる効果が得られる場合があります。


5
βeβバツeβバツ

7
OPはカーネルの語源を探しています。
フランクダーノンクール

2
線形代数のヌル空間を指す「カーネル」の使用は、機械学習におけるこれらの使用のいずれかと関係がありますか?
syntonicC
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.