2つの変数間の任意の非線形関係の強度を測定する方法は？

2つのペア変数間の任意の非常に非線形な関係の強さを測定する方法は何ですか？非常に非線形とは、既知のモデルへの回帰によって、合理的または確実にモデル化できない関係を意味します。私は特に時系列に興味がありますが、2変量データで機能するものはすべてここで機能すると思います（2つの時系列をペアのデータポイントのセットとして扱う場合）。

私が知っている2つは、平均二乗差（つまり、平均二乗誤差、1つの時系列を「期待される」値として扱い、もう1つを観測値として扱う）、および距離共分散です。他には何がありますか？

明確化：私は基本的にシリーズ間の依存関係について尋ねています。線形相関または単純な非線形相関（log、exp、trig、その他の単純な分析変換後）はあまり意味がありません。

プレーンな古い線形回帰は、観測のすべてのペアにわたる平均線形トレンドとして、優れたノンパラメトリックな解釈を持っています。バーマン1988、「ヤコビの定理とその一般化」を参照してください。したがって、データを使用するためにデータが線形に見える必要はありません。（広く）単調な傾向は、このように要約できます。

スピアマンランク相関を使用することもできます...

2つの離散変数間の「関係の金額」、正式によって測定された相互情報：。共分散/相関はどういうわけか線形関係の量ですが、相互情報量は何らかの形で（あらゆる種類の）関係の量です。Wikipediaのページから画像を貼り付けています。Y I （X 、Y $X$$Y$$I(X,Y)$

連続変数の場合、情報理論の概念もしばしば定義されますが、管理が難しく、おそらく意味がありません。今のところ気になりたくありません。離散変数に固執しましょう。とにかく、特に情報理論的アプローチでは、（スライスを使用して）離散変数によって連続変数を近似することは理にかなっています。

情報理論的概念の問題は、多くの場合、それらの実行不可能性です。と間の相互情報量を概算できることは、それらの間の任意の非線形関係を見つけることができることと同じです。ほとんどの場合、合理的な範囲をはるかに超えて統計的検出力（データの量）が必要です。、各推定値を計算するには、多数（たとえば1000）のサンプルが必要です。これは、ほとんどの機械学習または統計分析の問題では不可能です。それは一種の論理的です。モデルが「あらゆる可能性」を表現できるようにすると、そのモデルは、あらゆる可能性をカバーするデータ量によってのみ数回トレーニングできます。Y x P （Y = y | X = x $X$$Y$$x$$P(Y=y|X=x)$

$X$$Y$

最終的に、単射関数の最も一般的な形式は

$f(x) = y$

また、その関数の離散化バージョンをデータのモデルとして使用できます。

$y$$a<x<b$

モデルの自由度が高いため、この方法は強力ではありません。ただし、これは、データのモデルを記述できる関数のタイプに高度な自由度（および一般性）を必要とする問題にも固有のものです。

より具体的なケースでは、改善を行うことができます。

相関と同様に、計算は高速であるが、たとえば2次関係を検出できる方法である必要があります。

別の回答で述べられたスピアマンの相関は、法案に適合します。データをランクに変換し、ランクのピアソン相関を見つけるだけで計算されます。単調な関連を検出できます。

$O(n \log n)$$O(n)$）、しかし、それは計算するのに人間の判断を必要とせず、すでに多くの統計ソフトウェアに実装されており、現代のマシンでは、非常に大きなデータセットを除いて、無症候性の複雑さは問題になりそうにありません。

何を測定しようとしているのかは完全に明確ではありませんが、役立つかもしれない情報をお伝えします。変数のセット間の内部の一貫性/関係を評価するために使用できるCronbackのアルファのような相関測定があります。また、一般的な加法モデル（GAM）などを使用して、関数推定が一定であるかどうかをテストすることもできます。これは、変数間に関係がないことを意味します。これに関する議論については、ここの回答を参照してください：非線形関連をテストするにはどうすればよいですか？

最大情報係数を試してみてください。これは、論文で選択された方法よりも優れており、2つの確率変数間の非線形関係の検出に適しています。

コメントできないので、回答を投稿する必要があります。粒度が異なる2つの時系列間のパターンを検出/比較できる単純なアルゴリズムである動的タイムワーピングをご覧ください。 https://en.wikipedia.org/wiki/Dynamic_time_warping