対数を使用して、除算を取り除くことができます。以下のための(x,y)第1象限に:
z=log2(y)−log2(x)atan2(y,x)=atan(y/x)=atan(2z)
図1. atanのプロット(2 z)atan(2z)
あなたはおおよそのに必要となるatan(2z)の範囲内−30<z<30 1E-9のあなたに必要な精度を得るために。対称性atan (2 − z)= πを利用できますatan(2−z)=π2−atan(2z)または(x,y)が既知のオクタントにあることを確認します。log2(a)を近似するには:
b=floor(log2(a))c=a2blog2(a)=b+log2(c)
bは、最上位の非ゼロビットの位置を見つけることで計算できます。cはビットシフトで計算できます。あなたはおおよそのに必要となるlog2(c)の範囲で1≤c<2。
図2. ログ2のプロット(c )log2(c)
あなたの精度要件、線形補間及び均一サンプリングのために214+1=16385のサンプルlog2(c)及び30×212+1=122881の試料atan(2z)のために0<z<30十分です。後者のテーブルはかなり大きいです。これにより、補間による誤差はz大きく依存します。
図3 atan(2z)の異なる範囲に対する近似最大絶対誤差zの単位期間あたりのサンプル数が異なるため(横軸)(8192から32)z。最大絶対誤差0≤z<1(省略)わずかに小さいためよりもfloor(log2(z))=0。
atan(2z)の表は対応することが、複数のサブテーブルに分割することができ0≤z<1と異なるfloor(log2(z))とz≥1を計算することは容易です。テーブルの長さは、図3に示すように選択できます。サブテーブル内インデックスは、単純なビット文字列操作で計算できます。精度の要件については、zの範囲を0に拡張すると、atan(2z)サブテーブルには合計29217サンプルが含まれます。z0≤z<32簡単にするために。
後で参照するために、近似誤差の計算に使用した不格好なPythonスクリプトを以下に示します。
from numpy import *
from math import *
N = 10
M = 20
x = array(range(N + 1))/double(N) + 1
y = empty(N + 1, double)
for i in range(N + 1):
y[i] = log(x[i], 2)
maxErr = 0
for i in range(N):
for j in range(M):
a = y[i] + (y[i + 1] - y[i])*j/M
if N*M < 1000:
print str((i*M + j)/double(N*M) + 1) + ' ' + str(a)
b = log((i*M + j)/double(N*M) + 1, 2)
err = abs(a - b)
if err > maxErr:
maxErr = err
print maxErr
y2 = empty(N + 1, double)
for i in range(1, N):
y2[i] = -1.0/16.0*y[i-1] + 9.0/8.0*y[i] - 1.0/16.0*y[i+1]
y2[0] = -1.0/16.0*log(-1.0/N + 1, 2) + 9.0/8.0*y[0] - 1.0/16.0*y[1]
y2[N] = -1.0/16.0*y[N-1] + 9.0/8.0*y[N] - 1.0/16.0*log((N+1.0)/N + 1, 2)
maxErr = 0
for i in range(N):
for j in range(M):
a = y2[i] + (y2[i + 1] - y2[i])*j/M
b = log((i*M + j)/double(N*M) + 1, 2)
if N*M < 1000:
print a
err = abs(a - b)
if err > maxErr:
maxErr = err
print maxErr
y2[0] = 15.0/16.0*y[0] + 1.0/8.0*y[1] - 1.0/16.0*y[2]
y2[N] = -1.0/16.0*y[N - 2] + 1.0/8.0*y[N - 1] + 15.0/16.0*y[N]
maxErr = 0
for i in range(N):
for j in range(M):
a = y2[i] + (y2[i + 1] - y2[i])*j/M
b = log((i*M + j)/double(N*M) + 1, 2)
if N*M < 1000:
print str(a) + ' ' + str(b)
err = abs(a - b)
if err > maxErr:
maxErr = err
print maxErr
P = 32
NN = 13
M = 8
for k in range(NN):
N = 2**k
x = array(range(N*P + 1))/double(N)
y = empty((N*P + 1, NN), double)
maxErr = zeros(P)
for i in range(N*P + 1):
y[i] = atan(2**x[i])
for i in range(N*P):
for j in range(M):
a = y[i] + (y[i + 1] - y[i])*j/M
b = atan(2**((i*M + j)/double(N*M)))
err = abs(a - b)
if (i*M + j > 0 and err > maxErr[int(i/N)]):
maxErr[int(i/N)] = err
print N
for i in range(P):
print str(i) + " " + str(maxErr[i])
関数近似から極大誤差f(x)直線的に補間することにより、F(X )のサンプルからF (xが)、間隔のサンプリングとの均一なサンプリングによって撮影されたΔ X、によって解析的に近似することができます。f^(x)f(x)Δx
fˆ(x)−f(x)≈(Δx)2limΔx→0f(x)+f(x+Δx)2−f(x+Δx2)(Δx)2=(Δx)2f′′(x)8,
f′′(x)f(x)x
atanˆ(2z)−atan(2z)≈(Δz)22z(1−4z)ln(2)28(4z+1)2,log2ˆ(a)−log2(a)≈−(Δa)28a2ln(2).
関数は凹であり、サンプルは関数と一致するため、エラーは常に一方向になります。エラーの符号がサンプリング間隔ごとに1回ずつ交互に行われると、極大絶対誤差は半分になります。線形補間では、次の方法で各テーブルを事前フィルタリングすることにより、最適な結果に近づけることができます。
y[k]=⎧⎩⎨⎪⎪b2x[k−2]c1x[k−1]+b1x[k−1]b0x[k]+c0x[k]+b0x[k]+b1x[k+1]+c1x[k+1]+b2x[k+2]if k=0,if 0<k<N,if k=N,
xy0≤k≤Nc0=98,c1=−116,b0=1516,b1=18,b2=−116c0,c1N
(Δx)NlimΔx→0(c1f(x−Δx)+c0f(x)+c1f(x+Δx))(1−a)+(c1f(x)+c0f(x+Δx)+c1f(x+2Δx))a−f(x+aΔx)(Δx)N=⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪(c0+2c1−1)f(x)01+a−a2−c02(Δx)2f′′(x)if N=0,∣∣∣c1=1−c02if N=1,if N=2,∣∣∣c0=98
0≤a<1f(x)f(x)=exb0,b1,b2
(Δx)NlimΔx→0(b0f(x)+b1f(x+Δx)+b2f(x+2Δx))(1−a)+(c1f(x)+c0f(x+Δx)+c1f(x+2Δx))a−f(x+aΔx)(Δx)N=⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪(b0+b1+b2−1+a(1−b0−b1−b2))f(x)(a−1)(2b0+b1−2)Δxf′(x)(−12a2+(2316−b0)a+b0−1)(Δx)2f′′(x)if N=0,∣∣∣b2=1−b0−b1if N=1,∣∣∣b1=2−2b0if N=2,∣∣∣b0=1516
0≤a<1
log2(a)
この記事では、R。グティエレス、V。トーレス、およびJ.バルズの「対数変換とLUTベースの手法に基づくatan(Y / X)のFPGA実装」Journal of Systems Architecture、vol 。56、2010。要約では、その実装は、速度においては以前のCORDICベースのアルゴリズム、フットプリントサイズにおいてはLUTベースのアルゴリズムに勝ると述べています。