「残念な賛成票」の問題はありますか？

これは話題から外れているように聞こえるかもしれませんが、聞いてください。

スタックオーバーフローでは、ここで投稿に対する投票を得ます。これはすべて表形式で保存されます。

例えば：

投稿ID投票者ID投票タイプ日時
------- -------- --------- --------
10 1 2 2000-1-1 10:00:01 
11 3 3 2000-1-1 10:00:01 
10 5 2 2000-1-1 10:00:01

... 等々。投票タイプ2は投票、投票タイプ3は投票です。このデータの匿名バージョンをhttp://data.stackexchange.comで照会できます

投稿のスコアが-1以下になると、投稿される可能性が高くなるという認識があります。これは単に確認バイアスである場合もあれば、実際に根付いている場合もあります。

この仮説を確認または否定するために、このデータをどのように分析しますか？このバイアスの影響をどのように測定しますか？

— サム・サフロン
ソース

クエリの例を入手できますか？誰もがSQLステートメントの作成に精通しているわけではありません。サンプルデータがあると、人々はそれを試してみることを奨励するかもしれません。質問の+1。

— mpiktas

投票は匿名化されている@Jeffだけデータ・ダンプから部分的情報を取得することができ、それはここにかかわらず、すべての遷移を含んでいます迅速なサンプルされdata.stackexchange.com/stackoverflow/q/101738フル匿名データは、公開データダンプで利用可能です

— サムサフラン

なぜ賛成票を投じるのですか？それぞれの特定の値の周りでアップまたはダウン投票が分割される確率は、どのように確かに興味深いでしょうか？

— ボブデュラント

@ボブ、確かに彼らが同意する

— サムサフラン

他の種類のサイトが投票を難読化する（つまり、表示する前にノイズを追加する）こともあります。さまざまな形式のバンドワゴン、哀れな投票、その他の「社会的」投票の要素。

— Glen_b

回答:

マルチステートモデルまたはマルコフチェーンを使用できます（Rのmsmパッケージは、これらに適合する1つの方法です）。次に、-1から0への遷移確率が0から1、1から2などよりも大きいかどうかを確認できます。他と比較して-1の平均時間を調べて、それがより短いかどうかを確認することもできます。。

— グレッグ・スノー
ソース

+1素晴らしいリファレンス。Journal of Statistics Softwareにmsmパッケージに関する記事があります。モデルはこの種のタスクに理想的に適合しているようです。

— mpiktas

マルコフ連鎖モデルのアイデアは良いアイデアのように見えますが、-1の平均時間では全体がわかりません。他の場所よりも-1でダウン投票される可能性が高い（そしてもっともらしい-悪い質問だと思う）。

— ボブデュラント

私が最初にしたいことは、投票軌跡をクラスター化することだと思います-（ほぼ）上昇/下降のみを行う（非常に人気のある/非常に悪い質問）ものと、より議論の多いものです。その後、3つのクラスでマルコフ連鎖を行うことができます。

— ジョナス

実験を行います。毎日特定の時間に新しい投稿の半分をランダムにダウン票します。

— charles.y.zheng
ソース

クール、私たちは「評論家」バッジが大幅に増加し、新規ユーザーのための動機ではおそらく減少を観察する必要があります:-)ベター（実験をバイアスのリスクがある！）、この場合には、高担当者のユーザーと開始します

— CHLを

実際には、これよりもうまくいく可能性があります... ABテストを使用して、サイトで-1投票された質問の半分を0、半分を-1として表示し、どちらかのグループがより可能性が高いかどうかを確認できます賛成！独創的。

— サムサフラン

実験のアイデアは投稿の品質を制御しますが、（1）ダウングレードされるものは事前に実験に参加することに同意する必要があり、（2）しばらくしてからダウングレードを削除する必要があります。

— zbicyclist

+1（およびここのすべてのコメントにも+1）：影響を受ける可能性のあるすべてのユーザーに事前に通知し、承認を得て実施する制御された可逆実験は、この情報を取得する最も強力な方法の1つです。

— whuber

私の答えの要約。私はマルコフ連鎖モデリングが好きですが、「時間的」側面が欠けています。一方、時間的側面（例：平均時間）に焦点を合わせると、「遷移」側面が失われます。私は、次の一般的なモデリングに入ります（適切な仮定を使用すると、[markovプロセス] [1]につながります）。また、この問題の背後には多くの「検閲された」統計があります（これは確かにソフトウェアの信頼性の古典的な問題ですか？）。私の答えの最後の方程式は、特定の投票状態に対する投票強度の最尤推定量（「+」で最大、「-」でダウ）を提供します。方程式からわかるように、これは、遷移確率のみを推定する場合と、特定の状態で費やされた時間のみを測定する場合の中間です。この助けを願っています。 $-1$

一般的なモデリング（質問と仮定を再度述べるため）。 してみましょうとそれぞれの投票日と関連投票記号（upvoteのための+1、-1 downvote用）をモデル化し、ランダムな変数です。投票プロセスは単純です $(VD_i)_{i\geq 1}$ $(S_{i})_{i\geq 1}$

Y_{t} = Y_{t}^{+} - Y_{t}^{-}

$Y_{t}=Y^+_t-Y^-_t$ ここで

Y_{t}^{+} = \sum_{i = 0}^{\infty} 1_{V D_{i} \leq t, S_{i} = 1} and Y_{t}^{-} = \sum_{i = 0}^{\infty} 1_{V D_{i} \leq t, S_{i} = - 1}

$Y^+_t=\sum_{i=0}^{\infty}1_{VD_i\leq t,S_i=1} \;\text{ and } \;Y^-_t=\sum_{i=0}^{\infty}1_{VD_i\leq t,S_i=-1}$

ここで重要な量は、 -jump ここで、はまたはあり、は適切なフィルターです。：。 $\epsilon$

λ_{t}^{ϵ} = lim_{d t \to 0} \frac{1}{d t} P (Y_{t + d t}^{ϵ} - Y_{t}^{ϵ} = 1 | F_{t})

$\lambda^{\epsilon}_t=\lim_{dt\rightarrow 0} \frac{1}{dt} P(Y^{\epsilon}_{t+dt}-Y^{\epsilon}_t=1|\mathcal{F}_t)$

ϵ

$\epsilon$

-

$-$

+

$+$

F_{t}

$\mathcal{F}_t$

F_{t} = σ (Y_{t}^{+}, Y_{t}^{-}, V D_{1}, \dots, V D_{Y_{t}^{+} + Y_{t}^{-}}, S_{1}, \dots, S_{Y_{t}^{+} + Y_{t}^{-}})

$\mathcal{F}_t=\sigma \left (Y^+_t,Y^-_t,VD_1,\dots,VD_{Y^+_t+Y^-_t},S_{1},\dots,S_{Y^+_t+Y^-_t} \right )$

しかし、あなたの質問の行に沿って、これは、に決定論的シーケンスよう。

P (Y_{t + d t}^{ϵ} - Y_{t}^{ϵ} = 1 | F_{t}) = P (Y_{t + d t}^{ϵ} - Y_{t}^{ϵ} = 1 | Y_{t})

$P \left ( Y^{\epsilon}_{t+dt}-Y^{\epsilon}_t=1 | \mathcal{F}_t \right )= P \left (Y^{\epsilon}_{t+dt}-Y^{\epsilon}_t=1| Y_t \right )$

ϵ = +, -

$\epsilon=+,-$

(μ_{i}^{ϵ})_{i \in Z}

$(\mu^{\epsilon}_i)_{i\in \mathbb{Z}}$

λ_{t}^{ϵ} = μ_{Y_{t}}^{ϵ}

$\lambda^{\epsilon}_t=\mu^{\epsilon}_{Y_t}$

この形式では、「」（または少なくとも差がa所定のしきい値）。 $\mu^{+}_{-1} -\mu^{+}_{0}>0$

この仮定の下で、あることを示すことは容易である上の[均質マルコフ過程] [3]ジェネレータとによって与えられます $Y_t$ $\mathbb{Z}$ $Q$

\forall i, j \in Z Q_{i, i + 1} = μ_{i}^{+} Q_{i, i - 1} = μ_{i}^{-} Q_{i i} = 1 - (μ_{i}^{+} + μ_{i}^{-}) Q_{i j} = 0 if | i - j | > 1

$\forall i,j \in \mathbb{Z}\;\;\; Q_{i,i+1}=\mu^{+}_{i}\;\; Q_{i,i-1}=\mu^{-}_{i}\;\; Q_{ii}=1-(\mu^{+}_{i}+\mu^{-}_{i}) \;\; Q_{ij}=0 \text{ if } |i-j|>1$

質問に答える（統計問題の最尤推定法を提案することにより） この再定式化から、を推定し、その値を上回るテストを構築することで問題を解決します。一般性を失うことなく、インデックスを修正して忘れましょう。（および）の推定は、 $(\mu^{+}_i)$ $i$ $\mu^+$ $\mu^-$

$(T^{1},\eta^1),\dots,(T^{p},\eta^p)$ ここで、は状態費やされた周期のの長さです。（とすなわち回連続）とある質問は、upvotedれた場合は、それがdownvotedとされた場合は、それは観察の最後の状態だった場合。 $T^j$ $j^{th}$ $p$ $i$ $Y_t=i$ $\eta^j$ $+1$ $-1$ $0$

最後の観測状態のケースを忘れた場合、言及されたカップルはおよび依存する分布からなります：（Expは指数分布からのランダムな変数で、は誰が最大値を実現するかに応じて+または-1です）。次に、次の簡単な補題を使用できます（証明は簡単です）。 $\mu_i^+$ $\mu_i^-$ $(\min(Exp(\mu_i^+),Exp(\mu_i^-)),\eta)$ $\eta$

補題もし及び、その後、及び。 $X_+\leadsto Exp(\mu_+)$ $X_{-} \leadsto Exp(\mu_{-})$ $T=\min(X_+,X_-)\leadsto Exp(\mu_++\mu_-)$ $P(X_+1<X_-)=\frac{\mu_+}{\mu_++\mu_-}$

これは、密度のことを意味しの次式で与えられる。ここでは指数確率変数の密度関数ですパラメータ。この式から、およびの最尤推定量を簡単に導出できます。 $f(t,\epsilon)$ $(T,\eta)$

f (t, ϵ) = g_{μ_{+} + μ_{-}} (\frac{1 (ϵ = + 1) * μ_{+} + 1 (ϵ = - 1) * μ_{-}}{μ_{+} + μ_{-}})

$f(t,\epsilon)=g_{\mu_++\mu_-}\left ( \frac{1(\epsilon=+1)*\mu_++1(\epsilon=-1)*\mu_-}{\mu_++\mu_-}\right )$

g_{a}

$g_a$

a > 0

$a>0$

a

$a$

μ_{+}

$\mu_+$

μ_{-}

$\mu_-$

({\hat{μ}}_{+}, {\hat{μ}}_{-}) = a r g m i n \ln (μ_{-} + μ_{+}) ((μ_{-} + μ_{+}) \sum_{i = 1}^{p} T^{i} + p) - p_{-} \ln (μ_{-}) - p_{+} \ln (μ_{+})

$(\hat{\mu}_+,\hat{\mu}_-)=argmin \ln (\mu_-+\mu_+)\left ( (\mu_-+\mu_+)\sum_{i=1}^p T^i+p\right )- p_-\ln\left (\mu_-\right ) -p_+ \ln \left (\mu_+\right )$ ここでおよび。

p_{-} = | i : δ_{i} = - 1 |

$p_-=|{i:\delta_i=-1}|$

p_{+} = | i : δ_{i} = + 1 |

$p_+=|{i:\delta_i=+1}|$

より高度なアプローチに対するコメント

が最後に観察された状態である場合（を通過するとき、それは多くの場合あなたの最後のスコアであるため、より賢くなります）のケースを考慮したい場合、少し推論を変更する必要があります。対応する打ち切りは比較的古典的です... $i$ $-1$

考えられる他のアプローチには、

時間とともに減少する強度を持つ
最後の投票以降に費やした時間とともに減少する強度を持つ（私はこれを好む。この場合、密度がどのように減少するかをモデル化する古典的な方法がある...
は滑らかな関数であると仮定することができます。 $\mu_i^+$ $i$
....他のアイデアを提案できます！

— ロビン・ジラード
ソース