タグ付けされた質問 「floating-point」

とのような浮動小数点数が3.2あり1.6ます。 数値を整数部と小数部に分ける必要があります。例えば、の値は3.2二つの数に分割されるだろう、すなわち3と0.2 整数部分を取得するのは簡単です： n = Math.floor(n); しかし、小数部分を取得するのに問題があります。私はこれを試しました： remainer = n % 2; //obtem a parte decimal do rating ただし、常に正しく機能するとは限りません。 前のコードの出力は次のとおりです。 n = 3.1 => remainer = 1.1 ここで何が欠けていますか？

247 javascript  floating-point  numbers  decimal  rounding 

ドキュメントandroid:lineSpacingMultiplier から使用して、TextViewsの行間に小さなスペースを追加しようとしています： 乗数として、テキストの行間の余分なスペース。 「1.2」などの浮動小数点値でなければなりません。 これをいくつかの異なるTextViewで使用しているので、グローバルディメンション/値をリソースに追加したいのですが、使用するタグが存在する場合でも、それがわかりません。私には意味のあるすべての種類のリソースを試しましたが、どれも機能しません。 私が欲しいのは次のようなものです： <resources> <dimen name="text_line_spacing">1.4</dimen> </resources> 編集：私は承知してandroid:lineSpacingExtraいます（これには単位が追加されたディメンションが必要です）が、android:lineSpacingMultiplier可能であれば使用したいと思います。

243 android  resources  floating-point 

Bashスクリプトで2つの画像の幅を分割しようとしていますが、bashを実行0すると結果が得られます。 RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) 私はBashガイドを研究しましたがbc、インターネットでのすべての例で、彼らが使用するものを使用する必要があることを知っていますbc。にecho同じものを入れようとしたのですSCALEが、うまくいきませんでした。 これがチュートリアルで見つけた例です： echo "scale=2; ${userinput}" | bc どのようにしてBashに私にフロートを与えることができ0.5ますか？

242 bash  floating-point  arithmetic-expressions 

私が持っているDecimal('3.9')オブジェクトの一部として、とのようになりますJSON文字列にこれをエンコードしたいです{'x': 3.9}。クライアント側の精度は気にしないので、フロートは問題ありません。 これをシリアル化する良い方法はありますか？JSONDecoderはDecimalオブジェクトを受け入れず、事前に浮動小数点数に変換するとエラーが{'x': 3.8999999999999999}発生し、帯域幅の大きな浪費になります。

242 python  json  floating-point  decimal 

Pythonの無限大のハッシュには、piに一致する数字があります。 >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 それは単なる偶然ですか、それとも意図的なものですか？

241 python  math  hash  floating-point  pi 

単純な浮動小数点丸め関数が必要なので、次のようにします。 double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 私はmath.hでそれを見つけることができますがceil()、できfloor()ませんround()。 それは別の名前で標準C ++ライブラリに存在しますか、それとも欠落していますか？

232 c++  floating-point  rounding 

CSVからインポートされたデータを操作しています。パンダは一部の列を浮動小数点に変更したため、これらの列の数値は浮動小数点として表示されます。ただし、整数として、またはコンマなしで表示する必要があります。それらを整数に変換する方法、またはコンマを表示しない方法はありますか？

230 python  pandas  floating-point  integer  dataset 

精度を失うことなくIEEE 754 double型に格納できる最大の「浮動」整数は何ですか？

225 types  floating-point  double  ieee-754 

浮動小数点数を "n"の小数位にフォーマットする必要があります。 BigDecimalを試みましたが、戻り値が正しくありません... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct (625.30) return value.floatValue(); // but here the values is 625.3 } 指定した小数点以下の桁数の浮動小数点値を返す必要があります。 私は欲しい Float値を返すませんDouble …

220 java  android  floating-point  numbers  format 

floatデータ型は単精度の32ビットIEEE 754浮動小数点で、doubleデータ型は倍精度の64ビットIEEE 754浮動小数点です。 どういう意味ですか？また、いつdoubleの代わりにfloatを使用する必要がありますか？

220 java  floating-point  double  ieee-754 

Cで浮動小数点値（37.777779など）を小数点以下2桁（37.78）に丸めるにはどうすればよいですか？

215 c  floating-point  decimal 

現在、クライアントのWebサイトの販売モジュールを構築しています。これまでのところ、完全に計算するための販売価格を取得していますが、行き詰まっているのは、出力を小数点以下2桁にフォーマットすることです。 結果をリストビューにデータバインドできるように、私は現在これを変数で呼び出しています。 Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price / 100))).ToString())), 出力を小数点以下2桁にフォーマットする方法を誰かに教えてもらえますか？どうもありがとう！

210 c#  variables  floating-point  decimal 

私は、12,000未満の整数である最大の立方根を見つけようとしています。 processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not それが整数であるかどうかを確認する方法がわかりません！文字列に変換してから、インデックスを使用して終了値を確認し、それらがゼロかどうかを確認することもできますが、かなり面倒です。より簡単な方法はありますか？

202 python  floating-point 

一部の数値が浮動小数点数として格納されると、精度が失われるのはなぜですか？ たとえば、10進数9.2は2つの10進整数（92/10）の比率として正確に表すことができ、両方とも2進数（）で正確に表すことができます0b1011100/0b1010。ただし、浮動小数点数として保存された同じ比率が正確に次の値になることはありません9.2。 32-bit "single precision" float: 9.19999980926513671875 64-bit "double precision" float: 9.199999999999999289457264239899814128875732421875 そのように見える単純な数が64ビットのメモリで表現するには「大きすぎる」のはなぜでしょうか。

198 floating-point  language-agnostic  precision 

私の同僚は、ビットごとまたは以下を使用して浮動小数点数をフロアする方法に出くわしました。 var a = 13.6 | 0; //a == 13 私たちはそれについて話していて、いくつかのことを疑問に思いました。 どのように機能しますか？私たちの理論では、このような演算子を使用すると、数値が整数にキャストされ、小数部分が削除されます。 それを行うことよりも利点はありMath.floorますか？多分それは少し速いですか？（しゃれは意図されていません） 欠点はありますか？多分それはいくつかのケースでは動作しませんか？私たちはそれを理解しなければならなかったので、明快さは明白なものです、そしてまあ、私はこの質問を書いています。 ありがとう。

192 javascript  floating-point  bit-manipulation