非直交ベクトル問題

次の問題を検討してください。

直交ベクトル問題

入力：Aセットは、$S$の$n$ブールは、長さの各ベクトル$d$。

質問：DOは明確なベクトルが存在し$v_1$及び$v_2 \in S$それは、このような$v_1 \cdot v_2 = 0$？

非直交ベクトル問題

入力：Aセットは、$S$の$n$ブールは、長さの各ベクトル$d$と正の整数$k$。

質問：DOは明確なベクトルが存在し$v_1$及び$v_2 \in S$、このような$v_1 \cdot v_2 \geq k$？

これら2つの問題の関係は何ですか？

特に、ここで私が疑問に思っているいくつかのより具体的な質問を示します。

（1）これらの問題のどちらかが他よりも難しいように見えますか？

（2）私は確かに芸術アルゴリズムの現在の状態がOVP何のためにあるのかが、これらの問題のいずれかのために、あなたは上限よりも良い得ることができていないよ$O(n^2 \cdot d)$時間は？

（3）$k$を修正することは、2番目の問題の複雑さに対して何か違いがありますか？

、Iは、の内積平均V 1及びV 2を超えるR dは。$v_1 \cdot v_2$$v_1$$v_2$$\mathbb{R^d}$

編集：が小さい場合、ほとんどの応答は本当に素晴らしい洞察を提供します。 $d$

が大きい場合、何が言えるでしょうか。d = nまたはd = √と言います$d$$d = n$ 又は少なくともD=Nαいくつかのためにα>0。$d = \sqrt{n}$$d = n^\alpha$$\alpha > 0$

が入力の一部として与えられる場合、2番目の問題は単色のMax-IP問題と同等です（与えられた場合、見つけます）。$k$$S \subseteq \{0,1\}^d$$\max_{(a,b) \in S, a\ne b} a \cdot b$

最近、私とライアンウィリアムズは（非公開）の作業を行っていますが、、OVP、およびMax-IPのバイクロマティックバージョン（与えられて、見つける）は実際には同等です。つまり、それらの1つが時間アルゴリズムを持っている場合、他のアルゴリズムもそうです。（OVPからMax-IPへの削減はよく知られています。ここでの新しい削減はMax-IPからOVPへの削減です）。$d = O(\log n)$$A,B$$\max_{(a,b) \in A \times B} a \cdot b$$n^{2-\varepsilon}$

Max-IPの単色バージョンを二色バージョンに削減できるため、上記の結果は、場合、単色Max-IPをOVPに削減できることも意味し。$d = O(\log n)$

OVPをモノクロMax-IPに削減できるかどうかは未解決の問題だと思います。これは、最も近いペアの問題のOV硬度の確立にも密接に関連しています（たとえば、ポイントセットの極ペアによる最も近いペアの複雑さについてを参照）

単色Max-IPの場合、アルマン、チャン、ウィリアムズによる実行時間時間アルゴリズムのアルゴリズムがあります（ラスムスによって指摘された）、それは私が最先端の技術であると私は信じています。OVPの最適なアルゴリズムは、場合、時間で実行され、これは大幅に高速です。$n^{2 - 1/\widetilde{O}((d/\log n)^{1/3})}$$n^{2 - 1/O(\log c)}$$d = c \log n$

また、Max-IPの近似バージョンもこの論文で研究されていますOn The Hardness of Approximate and Exact（Bichromatic）Maximum Inner Productは、バイクロマティックのケース（つまり、寸法と近似比）問題は時間で解決できますか？）。その論文のアルゴリズムは単色の場合にも機能します。$d$$t$$n^{2-\varepsilon}$

場合、アルマン、チャン、ウィリアムズの手法が非直交ベクトル問題の最もよく知られた解決策を提供すると信じています。（彼らは、ハミングの最も近いペアの問題として別様に言いますが、これはpoly（）因子まで同等です。）$k=O(\log n)$$d$

に制限がない場合、非直交ベクトル問題のバイクロマティックバージョンは、少なくとも直交ベクトル問題（OVP）と同じくらい、係数まで困難です。最初に、係数オーバーヘッドを使用すると、OVPのバイクロマティックバージョン（（異なる「色」のセットへの結合））に削減でき、バイクロマティック直交ペア。第2に、係数オーバーヘッドを使用して、すべてのベクトルが同じハミング重みもつ OVPの特別な場合に削減できます。最後に、すべてのベクトルを反転して$k$$d \log n$$\log n$$S = S_1 \cup S_2$$(v_1,v_2)\in S_1\times S_2$$d$$S_1$$w$$S_2$$S'_2$我々はそれを見とあれば、直交ペアを持っている場合にのみと少なくともドット積とベクトルのペアを持っている。しかし、バイクロマティック非直交ベクトル問題から、説明したモノクロバージョンへの効率的な削減があるかどうかはわかりません。$S_1$$S_2$$S_1$$S'_2$$w$

近似を許可すると、バイクロマティック非直交ベクトル問題（最大内積検索問題と呼ばれることが多い）の最近の結果がいくつかあります。たとえば、この論文とその参考文献を参照してください。

同等：

セットのための非直交ベクトルの問題（上記で定義した）のブールは、長さの各ベクトル、正の整数以下と等価です。$S$$n$$d$$k$

• 発見によって与えで部分行列の1のによってブール行列。$2$$k$$n$$d$

• 最初の頂点セットのサイズがで、2番目の頂点セットのサイズがである、与えられた二部グラフで完全なサブグラフを見つけます。$\mathrm{K}_{2,k}$$n$$d$

単純なアルゴリズム：

非直交ベクトルの問題を実行するための単純なアプローチの時間はかかるため、単純ベクトルのすべての対の内積を計算する時間。$O(d \cdot n^2)$$O(d \cdot n^2)$

質問（2）および（3）への回答：

はい、さまざまなケースでより効率的なアルゴリズムがいくつかあります。

最初のアプローチ：

時間で非直交ベクトル問題を解くことができます。$O(d \cdot n + k \cdot n^2)$

注： 2つの長さブールベクトルの内積はで囲まれる必要があるため、この問題は場合にのみ意味があります。$d$$d$$k \leq d$

証明。それぞれ長さと正の整数のブールベクトルの セットが与えられたとします。の要素の列挙を考えます。$S$$n$$d$$k$$\{s_i\}_{i\in[n]}$$S$

ペアからへのハッシュマップを作成します。最初に、は各入力を値0にマップします。$m$$(a,b) \in [n] \times [n]$$\mathbb{N}$$m$

各について、次のことを行います。、番目のビットが1、番目のビットが1になるように、ベクトルとペアを列挙します場合、そのようなとそれぞれについての場合、とは非直交です。つまり、です。それ以外の場合は、をインクリメントして続行します。$i \in [d]$$s_a$$s_b$$a < b$$i$$s_a$$i$$s_b$$s_a$$s_b$$m(a,b) = k - 1$$s_a$$s_b$$s_a \cdot s_b \geq k$$m(a,b)$

列挙を終えると、直交しないベクトルのペアはありません。

すべてのベクトルのすべてのビットをスキャンするには、時間かかります。次に、ベクトルのペアを列挙するために追加の時間がかかります。ベクトルのペアは最大であり、各ペアは非直交であることが示される前に最大で回表示されるため、ペアを列挙すると最大で時間。したがって、総実行時間はです。$O(n \cdot d)$${n \choose 2}$$k-1$$O(k \cdot n^2)$$O(d \cdot n + k \cdot n^2)$

注：場合、このアプローチを時間に改善できます。これは、ときに、我々は間で非直交ベクトルのペア発見減らすことができの長さのブールベクトルうち、非直交ベクトルのペア発見に長さのブールベクトル。$k = 2$$O(n \cdot d)$$k = 2$$n$$d$$d$$n$

2番目のアプローチ：

時間で非直交ベクトル問題を解くことができ。$O(k \cdot {d \choose k} \cdot n)$

証明。それぞれ長さと正の整数のブールベクトルのセットが与えられたとします。$S$$n$$d$$k$

サイズがように、セット列挙します。すべてのベクトル、がの位置にすべて1を持っているかどうかを確認します。の位置にすべて1がある2つのベクトルが存在する場合、2つの非直交ベクトルが見つかります。$P \subseteq [d]$$P$$k$$v \in S$$v$$P$$P$

合計すると、には可能な選択肢があります。そして、選択ごとに、ベクトルからビットをスキャンします。したがって、全体として、ランタイムはです。${d \choose k}$$P$$k \cdot n$$O(k \cdot {d \choose k} \cdot n)$

3番目のアプローチ：

場合、非直交ベクトル問題を時間で解くことができます。ここで、は整数行列乗算の指数です。場合、非直交ベクトル問題を時間で解くことができます。$d \leq n$$O(d^{\omega - 2} \cdot n^2)$$\omega$$d > n$$O(d \cdot n^{\omega - 1})$

注： @Rasmus Paghが指摘したように、場合、このアルゴリズムを時間に改善できます。詳細については、こちらをご覧ください：https : //arxiv.org/abs/1204.1111$O(n^{2 + o(1)})$$d \leq n^{0.3}$

証明。それぞれ長さと正の整数のブールベクトルのセットが与えられたとします。$S$$n$$d$$k$

行列と考えます。第1のマトリックス寸法を有するによっての各列からベクトルである。第二行列寸法が有するによっての各列からベクトルである。$A$$B$$A$$n$$d$$A$$S$$B$$d$$n$$B$$S$

高速整数行列乗算のアルゴリズムを使用してを計算により、すべてのベクトルのペアのドット積を計算できます。$S$$A \cdot B$

場合、1つのアプローチは、四角形行列乗算を変換することである正方形の乗算によってマトリックス。高速正方行列の乗算を使用することにより、時間。$d \leq n$$(\frac{n}{d})^2$$d$$d$$O((\frac{n}{d})^2 \cdot d^{\omega}) = O(d^{\omega - 2} \cdot n^2)$

とき、1つのアプローチは、四角形行列乗算を変換することである正方形の乗算によって行列。高速正方行列乗算を使用すると、すべての乗算を計算できます時間。$d > n$$\frac{d}{n}$$n$$n$$O((\frac{d}{n}) \cdot n^{\omega}) = O(d \cdot n^{\omega - 1})$