タグ付けされた質問 「least-squares」

解決する必要があります 秒。トン。分バツ∥ A X - B ∥22、∑私バツ私= 1 、バツ私≥ 0 、∀ 私は。分バツ‖Aバツ−b‖22、s。t。∑私バツ私=1、バツ私≥0、∀私。\begin{alignat}{1} & \min_{x}\|Ax - b\|^2_{2}, \\ \mathrm{s.t.} & \quad\sum_{i}x_{i} = 1, \\ & \quad x_{i} \geq 0, \quad \forall{i}. \end{alignat} 私はそれがCVXOPTで解決できる二次問題だと思いますが、どうやって解決するかはわかりません。

12 optimization  python  convex-optimization  least-squares  quadratic-programming 

私はminpackに関する最近の質問について説明を求め、次のコメントを得ました： 方程式系はいずれも最適化問題に相当します。そのため、最適化におけるニュートンベースの方法は、非線形方程式システムを解くためのニュートンベースの方法によく似ています。 このコメント（およびminpackのような特殊な非線形最小二乗ソルバーに関する関連する否定的な意見）について私を混乱させるものは、共役勾配法の例で最もよく説明されるかもしれません。この方法は、対称正定行列Aを持つシステム適用できます。一般的な最小二乗問題min x |を解決するためにも使用できます。| A x − b | | 任意の行列Aの場合は2A x = bAバツ=bAx=bAAA分バツ| | Ax−b | |2分バツ⁡||Aバツ−b||2\operatorname{min}_x||Ax-b||^2AAA、しかし、そうすることは推奨されません。これを行わない理由の1つは、システムの条件数が大幅に増加することです。 しかし、連立方程式を最適化問題に変換することが線形の場合でも問題があると考えられる場合、なぜ一般的な場合では問題が少ないのでしょうか？少し経年劣化した非線形最小二乗ソルバーを使用するのではなく、最先端の最適化アルゴリズムを使用することに何らかの関係があるようです。しかし、問題は、情報の破棄とシステムの条件数の増加に関連しており、実際に使用されている最適化アルゴリズムとは比較的無関係ではないでしょうか？

12 optimization  least-squares 

誰でも次の最小二乗問題の方法を推奨できますか？ 最小化するを見つける：、ここでRはユニタリ（回転）マトリックス。R∈R3×3R∈R3×3R \in \mathbb{R}^{3 \times 3}∑i=0N(Rxi−bi)2→min∑i=0N(Rxi−bi)2→min\sum\limits_{i=0}^N (Rx_i - b_i)^2 \rightarrow \minRRR ∑i=0N(Axi−bi)2→min∑i=0N(Axi−bi)2→min\sum\limits_{i=0}^N (Ax_i - b_i)^2 \rightarrow \min（任意のA∈R3×3A∈R3×3A \in \mathbb{R}^{3 \times 3}）を最小化することにより、近似解を得ることができますマトリックスAAAおよび： SVDの計算：A=UΣVTA=UΣVTA = U \Sigma V^T、ΣΣ\Sigmaをドロップし、R \ approx UV ^ Tを近似R≈UVTR≈UVTR \approx U V^T 極分解の計算：A=UPA=UPA = U P、スケールのみの対称（および私の場合は正定値）PPPをドロップし、R \ approx Uを近似するR≈UR≈UR \approx U QR分解も使用できますが、アイソメトリックではありません（座標系の選択に依存します）。 少なくともおおよそですが、上記の2つの方法よりも優れた近似でこれを行う方法を知っている人はいますか？

11 linear-algebra  least-squares  svd 

私は科学的計算のコースを取っているのですが、最小二乗近似について調べました。私の質問は、特に多項式を使用した近似についてです。n + 1個のデータポイントがある場合、これらすべてのポイントを記述する次数nの一意の多項式を見つけることができることを理解しています。しかし、これが必ずしも理想的ではない理由もわかります。このようなアプローチを使用すると、データポイント間で多くのノイズを取得できます。データを十分に推定する低次の多項式を取得するのは良いことだと思います。 私の質問は、実際にどの程度の多項式を使用するかをどのように決定するのですか？経験則はありますか、それとも手元の問題のみに依存していますか？多かれ少なかれ程度を決定する際に、さまざまなトレードオフを考慮する必要がありますか？または、私はここで何かを誤解していますか？ 前もって感謝します。

11 matlab  least-squares 

この問題を明確に説明する方法がよくわからないので、ご容赦ください。私は3つの正規直交単位ベクトルと位置、コンピューターグラフィックスの標準的な4x4変換行列のベースを持っています。 また、その空間にいくつかのポイント（オフセット）があり、ワールドスペースに変換します。次に、ポイントがわずかに摂動されます。次に、摂動されたポイントを表すのに最も近い新しい基準を見つけたいと思います。 元のオフセットを尊重したいので、主成分を見つけるのとはまったく異なります。それが理にかなっている場合。新しい各ポイントからそれぞれの開始位置へのスプリングのように。答えは最小二乗問題を解決することだと思いますが、頭が痛いので調べました。 誰かが簡単に説明してくれませんか。私は閉じた形のソリューションを好みますが、反復的なソリューションも大丈夫でしょう。どうもありがとう

8 optimization  regression  basis-set  least-squares