可変数の評価を使用してRの評価者間の信頼性を計算していますか?


9

ウィキペディアでは、評価者間の信頼性を確認する1つの方法は、変量効果モデルを使用してクラス内相関を計算することです。クラス内相関の例では、

σα2σα2+σϵ2

モデルから

Yij=μ+αi+ϵij

「Yここでijは jは番目 Iで観察番目のグループ、μはα、未観測全体平均でiは iがグループ内のすべての値で共有未観測ランダム効果であり、ε ijは未観測ノイズ項です」。

特に私のデータでは、評価者がすべてのものを評価しておらず(ほとんどが20+を評価しています)、さまざまな回数(通常は3〜4)の評価が行われているため、これは特に魅力的なモデルです。

質問0:その例の「グループi」(「グループi」)は、評価されているもののグループですか?

質問#1:評価者間の信頼性を求めている場合、評価者と評価対象の2つの項を持つ変量効果モデルは必要ありませんか?結局のところ、両方とも可能なバリエーションがあります。

質問#2:このモデルをRで最もよく表現するにはどうすればよいですか?

ているかのように見えます。この問題は、見栄えの良い提案があります。

lmer(measurement ~ 1 + (1 | subject) + (1 | site), mydata)

私は見てカップルの 質問、およびLMEのための「ランダム」パラメータの構文は、私には不透明です。lmeヘルプページを読みましたが、「ランダム」の説明は例がなければ理解できません。

この質問は質問の長い リストにいくぶん似ていますが、これが最も近い質問です。ただし、ほとんどの場合、Rについては詳しく説明されていません。


混合効果モデルとランダム効果モデルは、Rで同じ方法でコード化されます。詳細については、ncbi.nlm.nih.gov / pmc / articles / PMC3402032を参照してください。
ノエ

回答:


6

質問で参照したモデルは、「一方向モデル」と呼ばれます。ランダムな行の効果が唯一の体系的な分散の原因であると想定しています。評価者間の信頼性の場合、行は測定対象(例、被験者)に対応します。

xij=μ+ri+wij
μriwij

ただし、「双方向モデル」もあります。これらは、ランダムな行効果だけでなく、ランダムまたは固定列効果に関連する分散があることを前提としています。評価者間の信頼性の場合、列は測定ソース(評価者など)に対応します。

xij=μ+ri+cj+rcij+eij
xij=μ+ri+cj+eij
μricjrcijeij

xijx¯i

ランダムな列効果を想定した場合の定義は次のとおりです。

ICC(C,1)=σr2σr2+(σrc2+σe2) or σr2σr2+σe2
ICC(C,k)=σr2σr2+(σrc2+σe2)/k or σr2σr2+σe2/k
ICC(A,1)=σr2σr2+(σc2+σrc2+σe2) or σr2σr2+(σc2+σe2)
ICC(A,k)=σr2σr2+(σc2+σrc2+σe2)/k or σr2σr2+(σc2+σe2)/k

ANOVAの平均二乗を使用してこれらの値を推定することもできます。

ICC(C,1)=MSRMSEMSR+(k1)MSE
ICC(C,k)=MSRMSEMSR
ICC(A,1)=MSRMSEMSR+(k1)MSE+k/n(MSCMSE)
ICC(A,k)=MSRMSEMSR+(MSCMSE)/n

これらの係数は、irrパッケージを使用してRで計算できます

icc(ratings, model = c("oneway", "twoway"),
type = c("consistency", "agreement"),
unit = c("single", "average"), r0 = 0, conf.level = 0.95)

参考文献

McGraw、KO、およびWong、SP(1996)。いくつかのクラス内相関係数に関する推論の形成。心理学的方法、1(1)、30–46。

Shrout、PE、&Fleiss、JL(1979)。クラス内相関:評価者の信頼性の評価に使用します。Psychological Bulletin、86(2)、420–428。


すばらしい答えをありがとう!Rのicc内の双方向モデルでは、行ごとの評価者のランダムな選択をどのように表すのですか?つまり、100人の評価者のプールがあり、各被験者の評価は5〜10人程度だとします。そのようなシナリオは、iccパッケージで処理できますか?
michal 2017

各評価者は、icc関数に供給する行列に独自の列を持っている必要があります。それ以外の場合、計算は変量効果モデルと混合効果モデルで同じです。主な違いは解釈にあります(結果を一般化できるかどうかを検討できます)。
Jeffrey Girard

答えてくれてありがとう!私はそれをやろうとしています、セルにほとんどNAがあります(そして特定の評価者が行に対応する主題を評価した列ごとの実際の数を持つほんの数の値)。ただし、出力では件名が記録されなかったというテキストが表示されます(例:件名= 0評価者= 9)。おそらくそれは、少なくとも1つのNAが見つかった場合は常に、行全体がフィルターで除外されることを意味しますか?しかし、どうすれば評価者から欠落している評価を示すことができますか?
michal 2017

この特定のicc機能の制限である可能性があります。この状況を処理できるMATLABスクリプトがあります。たまたまMATLABにアクセスできますか?
Jeffrey Girard

1
ええ、私のウェブサイトをチェックしてください:mreliability.jmgirard.com
Jeffrey Girard
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.