データサイエンス

LSTM（または他のリカレント）ニューラルネットワークからの時系列予測の周りの予測間隔（確率分布）を計算する方法はありますか？ たとえば、最後の10個の観測されたサンプル（t-9からt）に基づいて、未来（t + 1からt + 10）までの10個のサンプルを予測しているとすると、t + 1での予測はより大きくなると予想します。 t + 10での予測よりも正確です。通常、予測の周りにエラーバーを描画して、間隔を示します。ARIMAモデル（正規分布エラーを想定）を使用すると、各予測値の周囲の予測間隔（95％など）を計算できます。LSTMモデルから同じもの（または予測間隔に関連するもの）を計算できますか？ 私はより多くの例以下、Keras / PythonでLSTMsで作業されていmachinelearningmastery.com私のサンプルコードは、（下記）に基づいているから、。私は問題を離散的なビンへの分類として再構成することを検討しています。それはクラスごとの信頼を生み出しますが、それは不十分な解決策のようです。 同様のトピックがいくつかありますが（以下など）、LSTM（または実際に他の）ニューラルネットワークからの予測間隔の問題に直接対処するものはないようです。 /stats/25055/how-to-calculate-the-confidence-interval-for-time-series-prediction ARIMAとLSTMを使用した時系列予測 from keras.models import Sequential from keras.layers import Dense from keras.layers import LSTM from math import sin from matplotlib import pyplot import numpy as np # Build an LSTM network and train def fit_lstm(X, …

13 machine-learning  deep-learning  time-series  prediction  lstm 

この質問がこのサイトで最も適切であることを願っています... Pythonでは、通常、クラス名は最初の文字として大文字を使用して定義されます。次に例を示します。 class Vehicle: ... しかし、機械学習の分野では、しばしば回は訓練し、試験データは以下のように定義されているXとY-ではないxとy。たとえば、私は現在Kerasでこのチュートリアルを読んでいますが、変数としてXおよびYを使用しています： from sklearn import datasets mnist = datasets.load_digits() X = mnist.data Y = mnist.target なぜこれらは大文字として定義されているのですか？これらの変数を定義するために大文字を使用する方が良いという、機械学習分野の間に（少なくともPythonでは）慣例はありますか？ あるいは、人々は機械学習で大文字と小文字の変数を区別しますか？ 実際、同じチュートリアルが後でこれらの変数を次のように区別します。 from sklearn.cross_validation import train_test_split train_X, test_X, train_y, test_y = train_test_split(X, Y, train_size=0.7, random_state=0)

13 python  dataset 

Wikipediaおよびdeeplearning4jで、ディープラーニングNN（DLNN）は1つ以上の非表示レイヤーを持つNNであると言われています。 この種のNNは私にとって大学では標準的でしたが、DLNNは現在非常に宣伝されています。そこに行って、それで終わりです-大したことは何ですか？ 積み重ねられたNNはディープラーニングと見なされているとも聞きました。ディープラーニングはどのように実際に定義されていますか？ 私のNNの背景は主に大学出身であり、仕事ではありません。 産業におけるNNの応用を研究 Artifについて約5つのコースがありました。インテル。＆マッハ。学ぶ。-たぶんそのうちの2つはNNにあります 画像認識に関する小規模でシンプルなプロジェクトにNNを使用-3層フィードフォワードNNを使用 それらについて（博士論文のように）実際の研究をしなかった

13 neural-network  deep-learning 

テストセットの配布がトレーニングセットとは異なるデータサイエンスコンペティションに取り組んでいます。テストセットによく似たトレーニングセットから観測値をサブサンプリングします。 これどうやってするの？

13 preprocessing 

線形回帰のモデルは、パラメーターが線形です。 これは実際にはどういう意味ですか？

13 regression  linear-regression 

私は機械学習の初心者です。SVMでは、分離超平面はとして定義されます。なぜ分離超平面に直交するベクトルwと言うのですか？y=wTx+by=wTx+by = w^T x + bwww

13 machine-learning  svm 

Synthetic Minority Oversampling Technique（SMOTE）は、データセットの不均衡問題で使用されるオーバーサンプリング技術です。これまでのところ、これを一般的な構造化データに適用する方法について考えています。しかし、テキスト分類問題にそれを適用することは可能ですか？データのどの部分をオーバーサンプリングする必要がありますか？それについてはすでに別の質問がありますが、答えはありません。どこから始めればよいでしょうか？

13 unbalanced-classes  text  smote 

こんにちは1600カテゴリを超える大きなカテゴリ値を持つデータフレームがあります。1600列を超えないように代替手段を見つける方法はありますか。 私はこれを興味深いリンクの下に見つけましたhttp://amunategui.github.io/feature-hashing/#sourcecode しかし、彼らは私が望まないクラス/オブジェクトに変換しています。さまざまな機械学習モデルでテストできるように、最終出力をデータフレームとして必要ですか？または、生成された行列を使用して、ロジスティック回帰またはXGBoost以外の他の機械学習モデルをトレーニングする方法はありますか？ とにかく実装できますか？

13 machine-learning  dataset  dimensionality-reduction  encoding 

データサイエンスでは、多くの人がパンダデータフレームをデータストアとして使用しているようです。他の多くのプログラミング分野でデータを格納するために使用されるMySQLのような通常のリレーショナルデータベースと比較して、それを優れたデータストアにするパンダの機能は何ですか？ パンダにはデータ探索に役立つ機能がいくつかありますが、SQLを使用することはできず、クエリの最適化やアクセス制限などの機能が失われます。

13 pandas  databases 

教師なし機械学習でよく聞かれる文章は 高次元の入力は通常、低次元の多様体の上または近くに存在します ディメンションとは何ですか？マニホールドとは何ですか？違いはなんですか？ 両方を説明する例を挙げられますか？ ウィキペディアのマニホールド： 数学では、多様体は各点の近くのユークリッド空間に似たトポロジー空間です。より正確には、n次元多様体の各点には、n次元のユークリッド空間に同型の近傍があります。 ウィキペディアのディメンション： 物理学と数学では、数学的な空間（またはオブジェクト）の次元は、その内部の任意の点を指定するために必要な座標の最小数として非公式に定義されます。 ウィキペディアは素人の言葉で何を意味していますか？ほとんどの機械学習の定義のような奇妙な定義のように聞こえますか？ どちらも空間です。ユークリッド空間（つまり、多様体）と次元空間（つまり、特徴に基づく）の違いは何ですか。

13 machine-learning  dimensionality-reduction 

ニューラルネットワークをゼロから実装して、その背後にある数学を理解しようとしました。私の問題は、バイアスに関する導関数を取るときの逆伝播に完全に関連しており、逆伝播で使用されるすべての方程式を導き出しました。これで、バイアスに関する微分を除いて、すべての方程式がニューラルネットワークのコードと一致しています。 z1=x.dot(theta1)+b1 h1=1/(1+np.exp(-z1)) z2=h1.dot(theta2)+b2 h2=1/(1+np.exp(-z2)) dh2=h2-y #back prop dz2=dh2*(1-dh2) H1=np.transpose(h1) dw2=np.dot(H1,dz2) db2=np.sum(dz2,axis=0,keepdims=True) オンラインでコードを検索しましたが、なぜ行列を加算してdb2=np.sum(dz2,axis=0,keepdims=True)からスカラーが元のバイアスから減算されるのか、行列全体が減算されないのはなぜですか。誰かがその背後にある直感を与えるのを手伝ってくれる？バイアスに関して損失の偏微分をとるz2=h1.dot(theta2)+b2と、h1とthetaが0になり、b2が1になるため、dz2である上部勾配のみが得られ ます。したがって、上部の項は残ります。 b2+=-alpha*db2

13 python  neural-network  backpropagation 

Kerasに、次のようなラベルのない新しいデータセットにフィットモデルを使用した予測を適用するように要求すると、 model1.predict_classes(X_test) それは正常に動作します。しかし、1行だけを予測しようとすると失敗します。 model1.predict_classes(X_test[10]) Exception: Error when checking : expected dense_input_6 to have shape (None, 784) but got array with shape (784, 1) なんでかしら？

13 neural-network  keras 

いくつかのニューロンを削除すると、モデルのパフォーマンスが向上する場合は、そもそも層数とニューロン数が少ない単純なニューラルネットワークを使用してみませんか？最初に大きくて複雑なモデルを作成し、後でその一部を抑制するのはなぜですか？

12 machine-learning  deep-learning  keras  regularization  dropout 

現在、tf.one_hot（indices、depth）を使用したテンソルフローのコースを行っています。今、私はこれらのインデックスがそのバイナリシーケンスにどのように変化するか理解していません。 誰かが私に正確なプロセスを説明してもらえますか？？？

12 machine-learning  python  neural-network  deep-learning  tensorflow 

Keras（またはTensorFlow）を使用して多次元および多変量の時系列予測を作成するためにデータを表現および形成する方法を理解しようとしてきましたが、正しい形状（ほとんどの例はわずかに少ない 私のデータセット： いくつかの都市 温度、車の交通量、湿度などの情報があります たとえば、過去2年間（毎日1レコード） 私がやりたいこと： 温度、車の交通量、湿度の遅れの可能性のあるバージョンを使用して、来年に期待できる気温を各都市で予測したい（もちろん、さらにいくつかの機能がありますが、これは単に思考の例）。 混乱していること： 2つの都市がある場合、365日間に3つの機能を記録しました。モデルがこれら2つの都市の365日間の予測を出力できるように、入力をどのように整形する必要があります（つまり、365日間の2つの時系列温度）。 直感的には、テンソルの形状は(?, 365, 3)365日間と3つの機能になります。しかし、私は何を第一次元に固執するのか定かではありません。そして最も重要なことは、それが多くの都市のためでなければならないとしたら驚かれるでしょう。しかし、同時に、寸法を適切に理解する必要があることをモデルに指定する方法がわかりません。 任意のポインターが役立ちます。私は他のニューラルネットワークでこれを行ったので、Kerasなどでネットワークをどのように構築するか、より具体的には所望の入力のシーケンスをエンコードするのに最適な方法で、残りの問題にかなり精通しています。 ああ、また、私は各都市を独立して訓練し予測することができたと思いますが、誰もがおそらくどの都市にも特有ではないが、それらのいくつかを検討した場合にのみ見ることができる学習すべきことがあることに同意するでしょうそのため、モデルにエンコードすることが重要だと思う理由です。

12 python  keras  rnn  lstm