残差のブートストラップ：私はそれを正しく行っていますか？

まず、 私が理解したことから、残差のブートストラップは次のように機能します。

1. モデルをデータに合わせる
2. 残差を計算する
3. 残差を再サンプリングし、それらを1に追加します。
4. モデルを3からの新しいデータセットに適合させます。
5. n時間を繰り返しますが、常にリサンプリングされた残差を1からの近似に追加します。

これまでのところ正しいですか？

私がやりたいことは少し違うものです：

環境変数を推定するアルゴリズムのパラメーターと予測の不確実性を推定したい。

私が持っているのは、その変数の（シミュレーションからの）エラーのない時系列です。合成データセットを生成するために、x_trueそれにノイズを追加します。次に、アルゴリズムを二乗和（！ではなく！）を目的関数としてフィッティングして、最適なパラメーターを見つけようとします。アルゴリズムの動作を確認し、パラメーターの分布のサンプルを作成するために、を再サンプリングし、それをに追加し、モデルを再度フィッティングし、リンスして繰り返します。それはパラメータの不確実性を評価するための有効なアプローチですか？ブートストラップされたデータセットへの適合を予測の不確実性として解釈できますか、それとも上に投稿した手順に従う必要がありますか？x_noisexsum((x_estimate - x_true)^2)x_estimate - xx_noisex_true

/ edit：私は自分のモデルが何をしているのか明確にしていないと思います。それは本質的にノイズ除去方法のようなものと考えてください。これは予測モデルではなく、ノイズの多い時系列の環境データの根本的な信号を抽出しようとするアルゴリズムです。

/ edit ^ 2：そこにいるMATLAB-Usersのために、私が何を意味するのかについての簡単で汚い線形回帰の例を書き留めました。

これは、「通常の」残差のブートストラップが正しいと私が信じていることです（間違っている場合は修正してください）：http : //pastebin.com/C0CJp3d1

これは私がしたいことです：http：//pastebin.com/mbapsz4c

以下は、一般的な（セミパラメトリックブートストラップ）アルゴリズムの詳細です。

$\text{B}$

$y = x\beta + \epsilon$

$\hat{\epsilon}$

1. $\hat\beta$$\hat\epsilon$
2. $\hat\epsilon_\text{B}$
3. $y_\text{B} = x\hat\beta + \hat\epsilon_\text{B}$
4. $y_B$$x$$\hat\beta_\text{B}$
5. $\text{B}$

私の理解が正しいかわかりません。しかし、ここにあなたのコードを修正するための私の提案があります（ "残差の通常のブートストラップ"、28-34行目）：

for i = 2:n_boot  
x_res_boot = x_residuals( randi(n_data,n_data,1) );  
x_boot = x_res_boot+ x_best_fit;  
p_est(:, i) = polyfit( t, x_boot, 1 );  
x_best_fit2 = polyval( p_est(:, i), t );  
x_residuals = x_best_fit2 - x_boot;
x_best_fit=x_best_fit2;
end  

アイデアは、最初の実行からではなく、前回のブートストラップフィットからの残差を使用するたびです。私に関しては、他のすべてが有効であるようです。

これは、MATLABでチェックされた改訂版です。2つのエラーが修正されました。

予測精度/平均二乗誤差の観点からアルゴリズムの動作を確認するには、おそらくEfron-Gongの「楽観的」ブートストラップが必要です。これは、R rmsパッケージで簡単に使用できるように実装されています。その機能を参照してくださいols、validate.ols、calibrate。