タグ付けされた質問 「classification」

私は二値分類問題に取り組んでいますが、誤検知がないことがより重要です。かなり多くの偽陰性が問題ありません。たとえば、sklearnで一連の分類子を使用しましたが、精度と再現率のトレードオフを明示的に調整する機能はありません（かなり良い結果が得られますが、調整はできません）。 どの分類子が調整可能な精度/再現率を備えていますか？ランダムフォレストやAdaBoostなどの標準的な分類子の精度と再現率のトレードオフに影響を与える方法はありますか？

11 classification  precision-recall 

非常に不均衡なデータセット（9％の肯定的な結果）があるので、ROC曲線よりも精度-再現率曲線の方が適切であると判断しました。PR曲線下の面積の類似の要約測定値（興味がある場合は.49）を取得しましたが、それをどのように解釈するかわかりません。.8以上がROCに適したAUCであると聞きましたが、一般的なカットオフは、精度-再現率曲線のAUCと同じですか？

11 classification  precision-recall  auc 

私が読んでいるいくつかの論文によると、ジェフリーズとマツシタの距離が一般的に使用されています。しかし、私は以下の式を除いてそれについて多くの情報を見つけることができませんでした JMD（X、Y）= ∑(xi−−√2−yi−−√2)2−−−−−−−−−−−−−√2∑(xi2−yi2)22\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2} 平方根以外はユークリッド距離に似ています E（X、Y）= ∑(xi−yi)2−−−−−−−−−−√2∑(xi−yi)22\sqrt[2]{\sum(x_i-y_i)^2} 分類の点では、JM距離はユークリッド距離よりも信頼性が高いとされています。なぜこの違いがJM距離を改善するのか、誰か説明できますか？

11 classification  k-nearest-neighbour  euclidean 

私は保険リスク予測モデルの開発に取り組んでいます。これらのモデルは、航空会社のノーショー予測、ハードウェア障害検出などの「まれなイベント」のものです。データセットを準備していたため、分類を適用しようとしましたが、否定的なケースの割合が高いため、有用な分類子を取得できませんでした。 私は高校の統計コース以外に統計とデータのモデリングの経験があまりないので、ちょっと混乱しています。 最初に思ったように、私は不均質なポアソンプロセスモデルを使用することを考えています。イベントデータ（日付、緯度、経度）に基づいて分類し、特定の場所の特定の日の特定の時間におけるリスクの可能性を適切に推定しました。 知りたいのですが、まれなイベントを予測するための方法論やアルゴリズムは何ですか？ この問題に取り組むためのアプローチとして何をお勧めしますか？

11 classification  predictive-models  scikit-learn  poisson-process 

インスタンスを2つのクラスに分類するための教師付き機械学習で使用される、より小さな変数のセット、つまり主成分を取得するために、17個の量的変数に対してPCAを実行しました。PCAの後、PC1はデータの分散の31％を占め、PC2は17％を占め、PC3は10％を占め、PC4は8％を占め、PC5は7％を占め、PC6は6％を占めます。 ただし、2つのクラス間のPCの平均の違いを見ると、驚いたことに、PC1は2つのクラスの優れた識別器ではありません。残りのPCは優れた弁別子です。さらに、PC1は、決定木で使用されると関係がなくなります。つまり、枝刈り後、PC1はツリーに存在しなくなります。ツリーはPC2-PC6で構成されています。 この現象の説明はありますか？派生変数に何か問題がありますか？

11 machine-learning  classification  pca  dimensionality-reduction 

クラスラベルが関連付けられた一連のインスタンスがあるとします。これらのインスタンスがどのようにラベル付けされたかは関係ありませんが、それらのクラスメンバーシップがどの程度確実であるかは関係ありません。各インスタンスは正確に1つのクラスに属します。各クラスメンバーシップの確実性を、1から3（それぞれ非常に確実から不確実）の公称属性で定量化できるとしましょう。 そのような確実性の尺度を考慮に入れるある種の分類子はあり、もしそうなら、それはWEKAツールキットで利用可能ですか？ この状況はかなり頻繁に発生すると思います。たとえば、インスタンスが常に完全に確実ではない人間によって分類されている場合です。私の場合、画像を分類する必要があり、画像が複数のクラスに属する場合があります。これが発生した場合、私はクラスに高い不確実性を与えますが、それでも1つのクラスのみでクラスを分類します。 または、特別な分類子なしで、この問題に対する他のアプローチはありますか？例えば、トレーニングのために「特定の」分類のみをとるのですか？この場合、「国境」のケースがカバーされないため、誤分類が増えるのではないかと心配です。

11 classification  weka  uncertainty 

ランダムフォレストを構築するためによく知っている方法は次のとおりです（http://www.stat.berkeley.edu/~breiman/RandomForests/cc_home.htmから） フォレスト内にツリーを構築するには、次のようにします。 サイズNのサンプルをブートストラップします。ここで、Nはトレーニングセットのサイズです。このブートストラップサンプルを、このツリーのトレーニングセットとして使用します。 ツリーの各ノードで、M個の特徴のm個をランダムに選択します。分割するこれらのm個の特徴の中から最適なものを選択します。（ここで、mはランダムフォレストのパラメーターです） 各ツリーを可能な限り最大に成長させます-つまり剪定はしません。 このアルゴリズムは手順レベルで意味があり、確かに良い結果が得られますが、手順1、2、3の背後にある理論的な動機は何かはわかりません。誰かがこの手順を思いついた動機とその理由を説明できますか？うまくいく？ 例：なぜステップ1を実行する必要があるのですか？通常の分散減少の目的でブートストラップしているようには見えません。

11 machine-learning  classification  random-forest 

大規模なトレーニングデータセットを使用するマルチクラステキスト分類問題の2つの異なる分類子を比較したいと思います。2つの分類子を比較するためにROC曲線を使用するか、学習曲線を使用する必要があるか疑問です。 一方、学習曲線は、分類器が学習を停止する（場合によっては低下させる）データセットのサイズを見つけることができるため、トレーニングデータセットのサイズを決定するのに役立ちます。したがって、この場合の最適な分類子は、最小のデータセットサイズで最高の精度に到達する分類子です。 一方、ROC曲線を使用すると、感度/特異度の間で適切なトレードオフのあるポイントを見つけることができます。この場合の最適な分類子は、左上部分に近い分類子で、FPRのTPRが最も高くなります。 両方の評価方法を使用する必要がありますか？より良い学習曲線を持つメソッドがより悪いROC曲線を持つことは可能ですか？

11 machine-learning  classification  roc  accuracy 

2つの入力X線画像間の類似性メトリックを計算する分類問題に取り組んでいます。画像が同じ人物の場合（「右」のラベル）、より高いメトリックが計算されます。2人の異なる人物の画像（「間違った」というラベル）を入力すると、メトリックが低くなります。 階層化された10分割交差検証を使用して、誤分類の確率を計算しました。私の現在のサンプルサイズは約40の正しい一致と80の誤った一致で、各データポイントは計算されたメトリックです。私は0.00の誤分類確率を取得していますが、これについてある種の信頼区間/エラー分析が必要です。 私は二項比率信頼区間の使用を検討していました（相互検証の結果を、成功の数に対する正しいラベル付けまたは誤ったラベル付けとして使用しました）。ただし、二項分析の背後にある仮定の1つは、各試行で成功する確率が同じであり、交差検証での「正しい」または「間違った」の分類の背後にある方法が、同じ成功の確率。 私が考えることができる他の唯一の分析は、クロス検証をX回繰り返し、分類エラーの平均/標準偏差を計算することですが、私のデータを再利用しているので、これが適切かどうかはわかりません数回の比較的小さなサンプルサイズ。 何かご意見は？すべての分析にMATLABを使用していますが、統計ツールボックスがあります。すべての支援に感謝します！

11 classification  confidence-interval  cross-validation  matlab 

2クラスのラベル付きデータに対して複数の分類子を使用して分類を実行し、5分割交差検証を使用しました。フォールドごとに、tp、tn、fp、およびfnを計算しました。次に、各テストの精度、精度、再現率、Fスコアを計算しました。私の質問は、結果を平均化したいとき、精度の平均を取ったが、精度、再現率、Fスコアも平均化できるか？それとも数学的に間違っているのでしょうか？PS各フォールドで使用されるデータセットは、クラスあたりのインスタンス数の点でバランスが取れています。 ありがとう。

11 classification  cross-validation  precision-recall 

SVM、ランダムフォレスト、その他の分類器などの分類器をトレーニングしたい。データセットの特徴の1つは、1000レベルのカテゴリ変数です。この変数のレベル数を減らす最善の方法は何ですか。Rで呼び出された関数があるcombine.levels()にHmiscのまれなレベルを組み合わせたパッケージが、私は他の提案を探していました。

11 classification  svm  random-forest  many-categories 

私は100の観測値（9つのダミー指標変数）を持ち、1000のポジティブを持っています。この場合、ロジスティック回帰は問題なく機能するはずですが、カットオフの可能性に戸惑います。 一般的な文献では、1と0を予測するために50％カットオフを選択しています。モデルの最大値が1％以下であるため、これを行うことはできません。したがって、しきい値は0.007またはその付近のいずれかになります。 ROC曲線と、曲線の下の領域が同じデータセットの2つのLRモデルを選択するのにどのように役立つかを理解しています。ただし、ROCは、サンプル外のデータでモデルをテストするために使用できる最適なカットオフ確率を選択するのに役立ちません。 私は単に最小化するカットオフ値を使用する必要がありmisclassification rateますか？（http://www2.sas.com/proceedings/sugi31/210-31.pdf） 追加->このように低いイベントレートの場合、誤分類率は膨大な数の誤検知の影響を受けます。全体のユニバースサイズも大きいので、全体の比率は良好に見えますが、私のモデルはそれほど多くの誤検知があってはなりません（これは投資収益モデルであるため）。5/10係数は重要です。

11 regression  logistic  classification  generalized-linear-model  roc 

ウィキペディアは言う： VCディメンションは、アルゴリズムが粉砕できる最大のポイントセットのカーディナリティです。 たとえば、線形分類子のカーディナリティはn + 1です。私の質問は、なぜ私たちは気にするのですか？線形分類を行うほとんどのデータセットは非常に大きくなる傾向があり、多くのポイントが含まれています。

11 classification  algorithms  vc-dimension 

6つのクラスに問題があります。したがって、私は次のようにマルチクラス分類子を作成します。クラスごとに、One vs. Allを使用して1つのロジスティック回帰分類子があります。つまり、6つの異なる分類子があります。 分類子ごとに混同行列を報告できます。しかし、ここで多くの例を見てきたように、すべての分類子の混同行列を報告したいと思います。 どうすればできますか？One vs. AllではなくOne vs. Oneアルゴリズムを使用して分類戦略を変更する必要がありますか？これらの混同行列では、レポートは各クラスの誤検知を示しているためです。 マルチクラス混同行列の例 誤分類されたアイテムの数を調べたいのですが。最初の行には、クラス1に分類されたクラス1の例が137個あり、クラス2に分類されたクラス1の例が13個あります。この番号を取得するには？

11 machine-learning  logistic  classification  multi-class  confusion-matrix 

Decision Stumpを使用してAdaboostを実装したい。Adaboostの各反復で、データセットの機能と同じ数の決定の切り株を作ることは正しいですか？ たとえば、24の特徴を持つデータセットがある場合、各反復で24の決定株の分類子を使用する必要がありますか？または、いくつかの機能をランダムに選択して、すべての機能ではなくそれらに分類子を作成する必要がありますか？

11 machine-learning  classification  cart  boosting