観測値よりも予測値が多いですか？

統計学者が回帰モデルの観測値よりも多くの予測子を持つことについて話すとき、それはどういう意味ですか？どうすればそれが可能でしょうか？なぜそれは回帰の問題ですか？謝罪、私は定量分析と統計が初めてなので、これが事実である理由がよくわかりませんか？できるだけ簡単な説明をいただければ幸いです-

混乱は「観察」という言葉が時々使われているためだと思います。20,000個の遺伝子の発現が血圧などの継続的な生物学的変数とどのように関連していたかを知りたいとします。20,000遺伝子の発現と10,000人の血圧の両方のデータがあります。これには10,000 * 20,001 = 200,010,000の観測が含まれると考えるかもしれません。確かにそのような多くの個別のデータポイントがあります。しかし、この場合、「観測値よりも予測値が多い」と人々が言うとき、彼らは一人一人を「観測値」として数えるだけです。「観測」は、単一の個人で収集されたすべてのデータポイントのベクトルです。。「観察」ではなく「ケース」と言う方が混乱が少ないかもしれませんが、実際の使用法では、このような仮定が隠されていることがよくあります。

ケース（通常 " " として示される）よりも多くの予測子がある場合の問題は、標準の線形回帰問題に対する一意の解決策がないことです。データポイントの行列の行がケースを表し、列が予測子を表す場合、行列の列間に線形依存が必ず存在します。したがって、の予測子の係数を見つけたら、他の予測子の係数は、最初の予測子の任意の線形結合として表すことができます。LASSOやリッジ回帰などの他のアプローチ、または他のさまざまな機械学習アプローチは、そのような場合に進む方法を提供します。$p>n$$n$$(p-n)$$n$