タグ付けされた質問 「decimal」

違いは何ですかdecimal、floatとdouble.NETのは？ いつこれらのいずれかを使用しますか？

2086 .net  floating-point  double  decimal 

私が望むのは、doubleを、ハーフアップメソッドを使用して丸める文字列に変換するメソッドです。つまり、丸められる小数が5の場合、常に次の数値に切り上げられます。これは、ほとんどの人がほとんどの状況で期待する丸めの標準的な方法です。 また、有効数字のみが表示されるようにしたいと考えています。つまり、後続のゼロがあってはなりません。 これを行う1つの方法は、そのString.format方法を使用することです。 String.format("%.5g%n", 0.912385); 戻り値： 0.91239 これはすばらしいことですが、たとえ重要でなくても、常に小数点以下5桁の数値が表示されます。 String.format("%.5g%n", 0.912300); 戻り値： 0.91230 もう一つの方法は、使用することですDecimalFormatter： DecimalFormat df = new DecimalFormat("#.#####"); df.format(0.912385); 戻り値： 0.91238 ただし、ご覧のとおり、これは半偶数丸めを使用しています。つまり、前の桁が偶数の場合は切り捨てられます。私が欲しいのはこれです： 0.912385 -> 0.91239 0.912300 -> 0.9123 これをJavaで実現する最良の方法は何ですか？

1259 java  decimal  rounding  digits 

を使用しTrack-Barて、Formの不透明度を変更します。 これは私のコードです： decimal trans = trackBar1.Value / 5000; this.Opacity = trans; アプリケーションをビルドすると、次のエラーが発生します。 暗黙的にタイプdecimalを変換できませんdouble 私が使って試してみましたtransし、doubleその後Controlは動作しません。このコードは、過去のVB.NETプロジェクトで問題なく機能しました。

671 c#  floating-point  type-conversion  double  decimal 

現在で小数の値を表示する場合、小数点以下.ToString()15桁で正確です。ドルとセントを表すために使用しているので、出力を小数点以下2桁にしたいだけです。 .ToString()これにのバリエーションを使用しますか？

649 c#  .net  decimal  rounding 

Math.Round関数を使用してこれを実行したい

380 c#  decimal  rounding  bankers-rounding 

10進数のデータ型を操作するには、変数の初期化でこれを行う必要があります。 decimal aValue = 50.0M; Mパーツは何を表していますか？

312 c#  decimal  literals 

時々、Activerecordデータタイプは私を混乱させます。エラー、よくあります。私の永遠の質問の1つは、特定のケースについて、 私が使用する必要があります:decimalか:float？ 私は頻繁にこのリンクに出くわしました、ActiveRecord：：decimal vs：float？、しかし答えは私が確信できるほど明確ではありません： 浮動小数点を使用せず、常に10進数を使用することをお勧めするスレッドがたくさんあります。また、フロートを科学的用途にのみ使用するという提案もいくつかあります。 いくつかのケース例を以下に示します。 ジオロケーション/緯度/経度：-45.756688、120.5777777、... 比率/割合：0.9、1.25、1.333、1.4143、... 私は:decimal以前に使用しましたがBigDecimal、Ruby でオブジェクトを処理することは、フロートに比べて不必要に扱いにくいことに気付きました。:integerたとえば、お金やセントを表すために使用できることもわかっていますが、たとえば、精度が時間の経過とともに変化する可能性がある場合など、他のケースにはあまり適していません。 それぞれを使用する利点/欠点は何ですか？ どのタイプを使用するかを知るための良い経験則は何でしょうか？

283 ruby-on-rails  types  floating-point  decimal  rails-activerecord 

SQL Serverの列の10進データ型を把握しようとしています。15.5、26.9、24.7、9.8などの値を保存できるようにする必要がある decimal(18, 0)列のデータ型に割り当てましたが、これによりこれらの値を保存できません。 これを行う正しい方法は何ですか？

272 sql  sql-server  types  decimal 

代わりにdouble（またはfloat）を使用することには、次の3つの利点がありdecimalます。 より少ないメモリを使用します。 浮動小数点演算がプロセッサによってネイティブにサポートされているため、より高速です。 より広い範囲の数値を表すことができます。 しかし、これらの利点は、モデリングソフトウェアで見られるような計算集約型の操作にのみ適用されるようです。もちろん、財務計算などの精度が必要な場合は、doubleを使用しないでください。では、「通常の」アプリケーションの代わりにこれまでにdouble（またはfloat）を選択する実用的な理由はありdecimalますか？ 追加のために編集：すべてのすばらしい応答をありがとう、私はそれらから学んだ。 もう1つの質問：一部の人々は、doubleは実数をより正確に表すことができると主張しました。宣言されたとき、私はそれらが通常それらをより正確に表すと思います。しかし、浮動小数点演算が実行されると、精度が（時には大幅に）低下する可能性があるというのは本当のことですか？

265 c#  types  floating-point  double  decimal 

とのような浮動小数点数が3.2あり1.6ます。 数値を整数部と小数部に分ける必要があります。例えば、の値は3.2二つの数に分割されるだろう、すなわち3と0.2 整数部分を取得するのは簡単です： n = Math.floor(n); しかし、小数部分を取得するのに問題があります。私はこれを試しました： remainer = n % 2; //obtem a parte decimal do rating ただし、常に正しく機能するとは限りません。 前のコードの出力は次のとおりです。 n = 3.1 => remainer = 1.1 ここで何が欠けていますか？

247 javascript  floating-point  numbers  decimal  rounding 

データベースに次の列が指定されています：decimal（5,2） これはどのように解釈されますか？ SQL Server Management Studioで表示される列のプロパティによると、10進数（数値の精度、数値のスケール）を意味することがわかります。 精度とスケールは、実際にはどういう意味ですか？ これを5桁と小数点以下2桁の10進数として解釈するのは簡単です...すなわち12345.12 PS同僚から正しい答えを特定することはできましたが、オンラインで答えを見つけるのが非常に困難でした。したがって、今後の参考のために、ここでStackoverflowに関する質問と回答を文書化したいと思います。

245 sql  database  decimal  scale  precision 

私が持っているDecimal('3.9')オブジェクトの一部として、とのようになりますJSON文字列にこれをエンコードしたいです{'x': 3.9}。クライアント側の精度は気にしないので、フロートは問題ありません。 これをシリアル化する良い方法はありますか？JSONDecoderはDecimalオブジェクトを受け入れず、事前に浮動小数点数に変換するとエラーが{'x': 3.8999999999999999}発生し、帯域幅の大きな浪費になります。

242 python  json  floating-point  decimal 

0〜9およびピリオド以外のすべての文字と文字を削除しようとしています。私は使用してCharacter.isDigit()いますが、10進数も削除されます。どうすれば10進数を保持できますか？

237 java  string  character  decimal 

私はこのコードファーストアプローチを試していますが、System.Decimal型のプロパティがdecimal（18、0）型のsql列にマップされていることがわかりました。 データベース列の精度を設定するにはどうすればよいですか？

230 c#  .net  entity-framework  ef-code-first  decimal 

10進数をintに変換するにはどうすればよいですか？

227 c#  .net  int  decimal