タグ付けされた質問 「floating-point」

NaNが算術で伝播することはよく知られていますが、デモを見つけることができなかったため、簡単なテストを作成しました。 #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 = qNaN - qNaN; float add1 = 6.0f + qNaN; float add2 = qNaN + qNaN; float …

300 c++  c  floating-point  ieee-754  icc 

私はの値を持っています25.00が、floatそれを画面に印刷するとそうなります25.0000000。 小数点以下2桁のみで値を表示するにはどうすればよいですか？

296 objective-c  formatting  floating-point 

合計の順序を変更すると、異なる結果が返されるのはなぜですか？ 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 JavaとJavaScriptはどちらも同じ結果を返します。 浮動小数点数が2進数で表現される方法が原因で、一部の有理数（1/3-0.333333 ...など）を正確に表現できないことを理解しています。 要素の順序を変更するだけで結果が影響を受けるのはなぜですか？

294 java  javascript  floating-point 

浮動小数点数を整数と比較する場合、値のペアによっては、同様の大きさの他の値よりも評価に時間がかかります。 例えば： >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 しかし、浮動小数点数または整数を一定量だけ小さくまたは大きくすると、比較ははるかに速く実行されます。 >>> timeit.timeit("562949953420000.7 < 562949953422000") # integer increased by 1000 0.1481498428446173 >>> timeit.timeit("562949953423001.8 < 562949953421000") # float increased by 3001.1 0.1459577925548956 比較演算子を変更しても（例：==または>代わりに）、時間に顕著な影響を与えることはありません。 大きい値または小さい値を選択すると比較が高速になるため、これはマグニチュードだけに関連しているわけではないので、ビットの並び方が不運なことにあるのではないかと思います。 明らかに、これらの値を比較することは、ほとんどのユースケースで十分な速さです。なぜPythonが他の値のペアよりもいくつかの値のペアで苦労しているように見えるのか、私は単に興味があります。

284 python  performance  floating-point  cpython  python-internals 

浮動小数点表現についてSOに投稿された質問がいくつかあります。たとえば、10進数0.1には正確な2進数表現がないため、==演算子を使用して別の浮動小数点数と比較するのは危険です。浮動小数点表現の背後にある原理を理解しています。 私が理解していないのは、数学的な観点から、小数点の右側の数値が左側の数値よりも「特別」である理由です。 たとえば、61.0という数値は、任意の数値の整数部分が常に正確であるため、正確なバイナリ表現になります。しかし、6.10という数値は正確ではありません。私がしたことは、小数点を1桁移動することだけでしたが、突然、ExactopiaからInexactvilleに移動しました。数学的には、2つの数値の間に本質的な違いがあってはなりません。それらは単なる数値です。 それとは対照的に、小数部を反対方向に1桁動かして610を生成しても、Exactopiaのままです。私はその方向（6100、610000000、610000000000000）に進むことができますが、それらはまだ正確です。ただし、小数がしきい値を超えるとすぐに、数値は正確ではなくなります。 どうしたの？ 編集：明確にするために、IEEEなどの業界標準の表現についての議論は避け、数学的に「純粋な」方法であると私が信じるものに固執したいと思います。基数10では、位置の値は次のとおりです。 ... 1000 100 10 1 1/10 1/100 ... バイナリでは、次のようになります。 ... 8 4 2 1 1/2 1/4 1/8 ... また、これらの数に任意の制限はありません。位置は左と右に無制限に増加します。

284 math  floating-point 

時々、Activerecordデータタイプは私を混乱させます。エラー、よくあります。私の永遠の質問の1つは、特定のケースについて、 私が使用する必要があります:decimalか:float？ 私は頻繁にこのリンクに出くわしました、ActiveRecord：：decimal vs：float？、しかし答えは私が確信できるほど明確ではありません： 浮動小数点を使用せず、常に10進数を使用することをお勧めするスレッドがたくさんあります。また、フロートを科学的用途にのみ使用するという提案もいくつかあります。 いくつかのケース例を以下に示します。 ジオロケーション/緯度/経度：-45.756688、120.5777777、... 比率/割合：0.9、1.25、1.333、1.4143、... 私は:decimal以前に使用しましたがBigDecimal、Ruby でオブジェクトを処理することは、フロートに比べて不必要に扱いにくいことに気付きました。:integerたとえば、お金やセントを表すために使用できることもわかっていますが、たとえば、精度が時間の経過とともに変化する可能性がある場合など、他のケースにはあまり適していません。 それぞれを使用する利点/欠点は何ですか？ どのタイプを使用するかを知るための良い経験則は何でしょうか？

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

次のコードは明らかに間違っています。どうしたの？ i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

C ++でランダムなフロートを生成するにはどうすればよいですか？ 私は整数のランドを取り、それを何かで割ることができると思いました、それで十分でしょうか？

271 c++  random  floating-point 

NaN値の比較が他のすべての値と異なる動作をするのはなぜですか？つまり、演算子==、<=、> =、<、>のいずれかまたは両方の値がNaNであるすべての比較は、他のすべての値の動作とは逆に、falseを返します。 これにより数値計算がある程度簡略化されたと思いますが、他の設計上の決定について詳細に説明しているKahanによるIEEE 754のステータスに関する講義ノートでさえ、明確に述べられた理由を見つけることができませんでした。 この逸脱した動作は、単純なデータ処理を行うときに問題を引き起こしています。たとえば、Cプログラムでいくつかの実数値フィールドに対してレコードのリストを並べ替える場合、NaNを最大要素として処理する追加のコードを記述する必要があります。そうしないと、並べ替えアルゴリズムが混乱する可能性があります。 編集： これまでの答えはすべて、NaNを比較することは無意味であると主張しています。 私は同意しますが、これは正解が偽であることを意味するのではなく、幸いなことに存在しないブール値ではない（NaB）です。 したがって、比較に対してtrueまたはfalseを返すかどうかの選択は、私の見解では任意であり、一般的なデータ処理では、データ構造を考慮せずに、通常の法則（==の再帰性、<、==、>のトリコトミー）に従うと有利です。これらの法律に依存するものは混乱します。 だから私は、哲学的推論だけでなく、これらの法律を破ることのいくつかの具体的な利点を求めています。 編集2： NaNを最大にすることが悪い考えになる理由が今理解できたと思います、それは上限の計算を台無しにするでしょう。 NaN！= NaNは、次のようなループで収束を検出しないようにするために望ましい場合があります。 while (x != oldX) { oldX = x; x = better_approximation(x); } ただし、絶対的な違いを小さな制限と比較することで記述します。だから私見これはNaNで反射性を壊すための比較的弱い議論です。

267 floating-point  comparison  nan  ieee-754  iec10967 

代わりにdouble（またはfloat）を使用することには、次の3つの利点がありdecimalます。 より少ないメモリを使用します。 浮動小数点演算がプロセッサによってネイティブにサポートされているため、より高速です。 より広い範囲の数値を表すことができます。 しかし、これらの利点は、モデリングソフトウェアで見られるような計算集約型の操作にのみ適用されるようです。もちろん、財務計算などの精度が必要な場合は、doubleを使用しないでください。では、「通常の」アプリケーションの代わりにこれまでにdouble（またはfloat）を選択する実用的な理由はありdecimalますか？ 追加のために編集：すべてのすばらしい応答をありがとう、私はそれらから学んだ。 もう1つの質問：一部の人々は、doubleは実数をより正確に表すことができると主張しました。宣言されたとき、私はそれらが通常それらをより正確に表すと思います。しかし、浮動小数点演算が実行されると、精度が（時には大幅に）低下する可能性があるというのは本当のことですか？

265 c#  types  floating-point  double  decimal 

私はこれが何をするか調べましたが、誰かが実際strictfpにJavaでキーワードを使用するときの例を持っていますか？誰かが実際にこれの用途を見つけましたか？ 私のすべての浮動小数点演算にそれを置くだけの副作用はありますか？

258 java  floating-point  strictfp 

私は地図データを使用してLatitude/Longitudeおり、小数点以下8桁まで拡張しています。例えば： Latitude 40.71727401 Longitude -74.00898606 私は 使用するGoogleドキュメントで見ました： lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL ただし、それらの小数点以下の桁数は6 になりますFLOAT(10, 8)。正確にするために、このデータを保存するために別の方法を使用する必要があるかどうかを検討してください。マップ計算で使用されます。ありがとう！

257 mysql  types  floating-point 

例えば： 9 / 5 #=> 1 しかし、私は期待した1.8。正しい10進数（非整数）の結果を取得するにはどうすればよいですか？なぜそれが戻ってくるの1ですか？

256 ruby  math  floating-point  division  integer-division 

データグリッドから2つの値を解析しようとしています。フィールドは数値であり、カンマがある場合（例：554,20）、カンマの後の数値を取得できません。私が試したparseIntとparseFloat。これどうやってするの？

255 javascript  parsing  floating-point 

これはコメント付きの例です： class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct D2 { public double d; …

247 c#  .net  floating-point