タグ付けされた質問 「floating-point」

OverаэтотвопросестьответынаStack Overflowнарусском：Вычисленияначислахсплавающейточкойнеработат 次のコードを検討してください。 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 なぜこれらの不正確さが起こるのですか？

2983 math  language-agnostic  floating-point  floating-accuracy 

Pythonでは、数値文字列"545.2222"を対応する浮動小数点値のように解析するにはどうすればよい545.2222ですか？または、文字列"31"を整数に解析します31か？ float strをにfloat、（個別に）int strをに解析する方法を知りたいだけですint。

2252 python  parsing  floating-point  type-conversion  integer 

科学的なアプリケーションで数値の最適化を行っています。私が気づいたことの1つは、GCCはにpow(a,2)コンパイルすることで呼び出しを最適化しますa*aが、呼び出しpow(a,6)は最適化されておらず、実際にはライブラリ関数を呼び出すpowため、パフォーマンスが大幅に低下します。（対照的に、インテルC ++コンパイラー（実行可能icc）は、のライブラリー呼び出しを排除しますpow(a,6)。） 私は好奇心だと、私は交換したときにということであるpow(a,6)とa*a*a*a*a*aGCC 4.5.1とオプション「を使用して-O3 -lm -funroll-loops -msse4」、それは5つの使用mulsd説明書を： movapd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 私が書いた場合(a*a*a)*(a*a*a)、それは生成されます movapd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm14, %xmm13 mulsd %xmm13, %xmm13 乗算命令の数を3に減らすと、icc同様の動作になります。 コンパイラがこの最適化トリックを認識しないのはなぜですか？

2120 gcc  assembly  floating-point  compiler-optimization  fast-math 

違いは何ですかdecimal、floatとdouble.NETのは？ いつこれらのいずれかを使用しますか？

2086 .net  floating-point  double  decimal 

13.95aに四捨五入したい。 >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 round機能は、私が期待されるように動作しません。

1691 python  floating-point  rounding  precision 

文字列がPythonで数値として表現できるかどうかを確認する最良の方法は何ですか？ 私が現在持っている機能は： def is_number(s): try: float(s) return True except ValueError: return False 醜くて遅いだけでなく、不格好に見えます。しかしfloat、メイン関数の呼び出しはさらに悪いため、私はより良い方法を見つけていません。

1609 python  casting  floating-point  type-conversion 

なぜこのようなコードは、 const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i = 0; i …

1527 c++  performance  visual-studio-2010  compilation  floating-point 

私は常にお金やタイプを表現しないように言われてきました、そして今度はあなたに質問をします：なぜですか？doublefloat 私にはそれが何であるかがわからない、非常に正当な理由があると確信しています。

939 floating-point  currency 

html5.orgによると、「数値」入力タイプの「値属性は、指定されて空でない場合、有効な浮動小数点数である値を持つ必要があります。」 しかし、それは単に（とにかく最新バージョンのChromeでは）、浮動小数点数ではなく整数を使用する「アップダウン」コントロールです。 <input type="number" id="totalAmt"></input> コードスニペットを実行する結果を非表示スニペットを展開 HTML5にネイティブの浮動小数点入力要素、または数値入力タイプを整数ではなく浮動小数点で動作させる方法はありますか？または、jQuery UIプラグインを使用する必要がありますか？

818 html  input  floating-point 

常に小数点以下2桁を表示するように数値をフォーマットします（該当する場合は丸めます）。 例： number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 私はこれを使用しています： parseFloat(num).toFixed(2); しかし、ではなく1として表示されています。11.00

783 javascript  floating-point  number-formatting 

0と1の間を0.1ずつステップする方法はありますか？ 私は次のようにそれを行うことができると思いましたが、失敗しました： for i in range(0, 1, 0.1): print i 代わりに、ステップの引数をゼロにすることはできません。

744 python  floating-point  range 

私は2つの整数値aとを持っていますbが、浮動小数点での比率が必要です。私はそれを知っていてa < b、計算したいa / bので、整数除算を使用すると、常にの余りで0になりますa。 c次のようにPythonで浮動小数点数になるように強制するにはどうすればよいですか？ c = a / b

721 python  floating-point  integer  division  python-2.x 

を使用しTrack-Barて、Formの不透明度を変更します。 これは私のコードです： decimal trans = trackBar1.Value / 5000; this.Opacity = trans; アプリケーションをビルドすると、次のエラーが発生します。 暗黙的にタイプdecimalを変換できませんdouble 私が使って試してみましたtransし、doubleその後Controlは動作しません。このコードは、過去のVB.NETプロジェクトで問題なく機能しました。

671 c#  floating-point  type-conversion  double  decimal 

次のダミーテストスクリプトがあります。 function test() { var x = 0.1 * 0.2; document.write(x); } test(); コードスニペットを実行する結果を非表示スニペットを展開 これは結果0.020000000000000004を印刷しますが、0.02（計算機を使用する場合）印刷する必要があります。私が理解している限り、これは浮動小数点乗算精度のエラーによるものです。 そのような場合に私が正しい結果を得るように誰かが良い解決策を持っています0.02か？などの関数があることはわかっていますがtoFixed、丸めが別の可能性になることもありますが、丸めたり丸めたりせずに実際に整数を印刷したいです。誰かが素敵でエレガントな解決策を持っているかどうか知りたいだけです。 もちろん、それ以外の場合は、10桁程度に丸めます。

620 javascript  floating-point 

次のプログラムで.5は、を除いて、各値が切り捨てられるよりもわずかに小さいことがわかります0.5。 for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while (Math.round(x) > i); } プリント 10.5 rounded is 11 10.499999999999998 rounded is 10 9.5 rounded …

567 java  floating-point  double  rounding