word2vecの入力ベクトル表現と出力ベクトル表現

word2vecのCBOWモデルとスキップグラムモデルでは、（入力単語行列）から単語ベクトルを選択する方法とから単語ベクトルを選択する方法W $W$$W'$（出力ワードマトリックス）は、結果のワードベクトルの品質に影響しますか？

CBOW：

スキップグラム：

ガーテン等。{1}は、入力単語ベクトルと出力単語ベクトルを加算して得られた単語ベクトルと、入力単語ベクトルと出力単語ベクトルを連結して得られた単語ベクトルを比較しました。彼らの実験では、連結すると著しく優れた結果が得られます：

ビデオ講義{2}では、入力単語ベクトルと出力単語ベクトルを平均化することを推奨していますが、入力単語ベクトルと出力単語ベクトルの連結とは比較されません。

参照：

• {1} Garten、J.、Sagae、K.、Ustun、V。、およびDehghani、M。（2015年6月）。単語の分散ベクトル表現を組み合わせる。NAACL-HLTの議事録（p。95-101）。
• {2}スタンフォードCS224N：クリストファーマニングによるディープラーニングを使用したNLP | 2019年冬| 講義2 –単語ベクトルと単語感覚。https://youtu.be/kEMJRjEdNzM?t=1565（ミラー）