任意精度の整数平方根アルゴリズム？

nビット整数の平方根のフロアを計算するための既知のサブ二次アルゴリズムはありますか？

素朴なアルゴリズムは次のようなものです

def sqrt(x):
    r = 0
    i = x.bit_length() // 2
    while i >= 0:
        inc = (r << (i+1)) + (1 << (i*2))
        if inc <= x:
            x -= inc
            r += 1 << i
        i -= 1
    return r

これにはO(n)反復が必要であり、各反復にはO(n)時間である加算が含まれるため、O(n^2)全体として時間です。もっと速いものはありますか？乗算の場合、2次時間よりも優れた特別なアルゴリズムがあることは知っていますが、平方根については何も見つかりません。

多項式p （x ）= x 2 − cの根への近似を見つけるために、ニュートン法または他の多くの方法のいずれかを使用できます。$p(x) = x^2 -c$

ニュートン法の収束率は2次式になります。つまり、正しいビット数が各反復で2倍になります。これは、ニュートン法の回の反復で十分であることを意味します。$O(\lg n)$

ニュートン法の各反復は

$$x_{j+1} = x_j - (x_j^2 -c)/(2x_j) = 0.5 x_j + \frac{c}{2x_j}.$$

乗算のビット複雑度はO（b lg b ）で、2つのbビット整数を乗算します（lg lg b係数を無視）。（bビットの精度への）除算のビット複雑度は同じです。したがって、各反復はO（n lg n ）演算で計算できます。O （lg n ）の繰り返しを掛けると、平方根をnビットの精度で計算する全体の実行時間はO（n （lg n）になります。$\stackrel{~}{O}(b \lg b)$$b$$\lg \lg b$$b$$\stackrel{~}{O}(n \lg n)$$O(\lg n)$$n$。これは準二次式です。$\stackrel{~}{O}(n (\lg n)^2)$

私はこれがに向上させることができる、より慎重な分析が示すと考えるO（nはLG N ）（我々は唯一の各知っておく必要があることを考慮することで、時間を実行しているが、Xのjはおよそ内にj個の精度のビットではなく、nは精度のビット） 。ただし、より基本的な分析でも、実行時間は明らかに2次以下です。$\stackrel{~}{O}(n \lg n)$$x_j$$j$$n$

ニュートン法の問題の1つは、反復ごとに除算演算が必要になることです。これは、最も遅い基本的な整数演算です。

しかし、逆平方根に対するニュートンの方法はそうではありません。が検索したい番号の場合$x$、繰り返し：$\frac{1}{\sqrt x}$

$$r_{i+1} = \frac{1}{2} r_i (3 - x r_i^2)$$

これはしばしば次のように表現されます：

d i = 1 − w i x r i + 1 = r i + r i d

$$w_i = r_i^2$$ $$d_i = 1 - w_i x$$ $$r_{i+1} = r_i + \frac{r_i d_i}{2}$$

これが3つの乗算演算です。2による除算は、右シフトとして実装できます。

ここで問題は、が整数ではないことです。ただし、浮動小数点を手動で実装し、必要に応じて一連のシフト操作を実行して補正することで、そのように操作できます。$r$

まず、再スケーリングします。$x$

$$x' = 2^{-2e} x$$

ここで、を1より大きく、ただし1に近くしたいとします。私たちは、上記のアルゴリズムを実行した場合のx "の代わりに、Xを、我々は見つけるR = $x'$$1$$x'$$x$。次に、$r = \frac{1}{\sqrt x'}$。$\sqrt{x} = 2^e r x'$

次に、を仮数と指数に分割します。$r$

$$r_i = 2^{-e_i} r'_i$$

ここで、は整数です。直感的に、e iは回答の精度を表します。$r'_i$$e_i$

ニュートンの方法では、正確な有効桁数が約2倍になることがわかっています。だから私たちは選ぶことができます：

$$e_{i+1} = 2e_i$$

少し操作すると、次のことがわかります。

w i = r ′ i 2 x ′ i =

$$e_{i+1} = 2e_i$$ $$w_i = {r'_i}^2$$ di=2ei+1−w ′ i x ′ $$x'_i = \frac{x}{2^{2e - e_{i+1}}}$$ $$d_i = 2^{e_{i+1}} - \frac{w_i' x'_i}{2^{e_{i+1}}}$$ $$r'_{i+1} = 2^{e_i} r'_i - \frac{r'_i d_i}{2^{e_i + 1}}$$

すべての反復で：

$$\sqrt{x} \approx \frac{r'_i x}{2^{e + e_i}}$$

$x = 2^{63}$$2^{31}\sqrt{2}$$\frac{1}{\sqrt{2}} 2^{-31}$$e = 31$$r'_0 = 3$$e_0 = 2$$\frac{3}{4}$$\frac{1}{\sqrt{2}}$

次に：

$$e_1 = 4, r'_1 = 11$$ $$e_2 = 8, r'_2 = 180$$ $$e_3 = 16, r'_3 = 46338$$ $$e_4 = 32, r'_4 = 3037000481$$

$e_i$$e$$e_i > 2e$

$$\sqrt{2^{63}} \approx \frac{3037000481 \times 2^{63}}{2^{31+32}} = 3037000481$$

$3037000499$$e_i$

$b$$O(b \log b)$$r'_i < 2^{e_i}$$w_i$$e_i$$e_{i+1}$$e_{i+1}$$2e_{i+1}$-ビット数。

$O(e_i \log e_i)$$O(\log e)$$O(2e \log 2e)$ operations. So the overall complexity is $O(e \log^2 e)$ operations, which is sub-quadratic in the number of bits in $x$. That ticks all the boxes.

However, this analysis hides an important principle which everyone working with large integers should keep in mind: because multiplication is superlinear in the number of bits, any multiplication operations should only be performed on integers which have the roughly the magnitude of the current precision (and, I might add, you should try to multiply numbers together which have a similar order of magnitude). Using integers larger than that is a waste of effort. Constant factors matter, and for large integers, they matter a lot.

As a final observation, two of the multiplications are of the form $\frac{ab}{2^c}$. Clearly it's wasteful to compute the all the bits of $ab$ only to throw $c$ of them away with a right-shift. Implementing a smart multiplication method which takes this into account is also left as an exercise.