タグ付けされた質問 「rounding」

このコード（華氏から摂氏へのコンバーター）の出力で多くの小数を取得しています。 私のコードは現在次のようになっています： def main(): printC(formeln(typeHere())) def typeHere(): global Fahrenheit try: Fahrenheit = int(raw_input("Hi! Enter Fahrenheit value, and get it in Celsius!\n")) except ValueError: print "\nYour insertion was not a digit!" print "We've put your Fahrenheit value to 50!" Fahrenheit = 50 return Fahrenheit def formeln(c): Celsius = (Fahrenheit - 32.00) …

254 python  rounding 

とのような浮動小数点数が3.2あり1.6ます。 数値を整数部と小数部に分ける必要があります。例えば、の値は3.2二つの数に分割されるだろう、すなわち3と0.2 整数部分を取得するのは簡単です： n = Math.floor(n); しかし、小数部分を取得するのに問題があります。私はこれを試しました： remainer = n % 2; //obtem a parte decimal do rating ただし、常に正しく機能するとは限りません。 前のコードの出力は次のとおりです。 n = 3.1 => remainer = 1.1 ここで何が欠けていますか？

247 javascript  floating-point  numbers  decimal  rounding 

単純な浮動小数点丸め関数が必要なので、次のようにします。 double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 私はmath.hでそれを見つけることができますがceil()、できfloor()ませんround()。 それは別の名前で標準C ++ライブラリに存在しますか、それとも欠落していますか？

232 c++  floating-point  rounding 

JavaScriptで数値を切り捨てる方法を教えてください。 math.round() 小数点以下を四捨五入するため、機能しません。 最初のビットを維持する際に小数点で分解する以外に、より良い方法があるかどうかはわかりません。がなければならない...

228 javascript  math  rounding 

分を時間に変換し、小数点第2位を四捨五入する必要があります。小数点以下2桁まで表示する必要もあります。だから私は650分の分がある場合、時間は10.83になるはずです ここに私がこれまで持っているものがあります： Select round(Minutes/60.0,2) from .... しかし、この場合、私の分がたとえば630の場合、時間は10.5000000です。しかし、私はそれを（丸めた後）10.50のみとして欲しいです どうすればこれを達成できますか？

222 sql  rounding 

BigDecimal値を小数点以下2桁に切り上げようとしています。 私は使っています BigDecimal rounded = value.round(new MathContext(2, RoundingMode.CEILING)); logger.trace("rounded {} to {}", value, rounded); しかし、それは私が一貫して望むことをしません： rounded 0.819 to 0.82 rounded 1.092 to 1.1 rounded 1.365 to 1.4 // should be 1.37 rounded 2.730 to 2.8 // should be 2.74 rounded 0.819 to 0.82 有効数字は気にせず、小数点以下2桁にしたいだけです。BigDecimalでこれを行うにはどうすればよいですか？または、これにより適した別のクラス/ライブラリはありますか？

217 java  math  bigdecimal  rounding 

丸めずにSQLで余分な小数点以下を切り捨てまたは削除する最良の方法を決定しようとしています。例えば： declare @value decimal(18,2) set @value = 123.456 これは自動的にに丸め@valueられます123.46。これはほとんどの場合に適しています。ただし、このプロジェクトでは必要ありません。不要な小数を切り捨てる簡単な方法はありますか？left()関数を使用して、10進数に戻すことができることを知っています。他の方法はありますか？

194 sql  sql-server  tsql  rounding 

float数値で表された以下の4つのパーセンテージを検討してください。 13.626332% 47.989636% 9.596008% 28.788024% ----------- 100.000000% これらの割合を整数で表す必要があります。単純にを使用Math.round()すると、合計101％になります。 14 + 48 + 10 + 29 = 101 を使用parseInt()すると、合計97％になります。 13 + 47 + 9 + 28 = 97 合計として100％を維持しながら、任意の数のパーセンテージを整数として表すための適切なアルゴリズムは何ですか？ 編集：コメントと回答の一部を読んだ後、これを解決するための方法は明らかにたくさんあります。 私の考えでは、数値に忠実であり続けるために、「正しい」結果は、実際の値に対してどれだけのエラー丸めが導入するかによって定義される、全体的なエラーを最小化するものです。 value rounded error decision ---------------------------------------------------- 13.626332 14 2.7% round up (14) 47.989636 48 0.0% round up (48) 9.596008 10 4.0% …

192 algorithm  math  rounding  percentage 

私はちょうど再読み込みされた新機能ではPython 3.0を、それが述べて： round（）関数の丸め方法と戻り値の型が変更されました。正確な中間ケースは、ゼロからではなく、最も近い偶数の結果に丸められるようになりました。（たとえば、round（2.5）は3ではなく2を返すようになりました。） ラウンドのドキュメント： round（）をサポートする組み込み型の場合、値は10の累乗からnを引いた最も近い倍数に丸められます。2つの倍数が等しく近い場合、丸めは偶数の選択に向かって行われます したがって、v2.7.3の下では： In [85]: round(2.5) Out[85]: 3.0 In [86]: round(3.5) Out[86]: 4.0 私が期待したように。ただし、現在はv3.2.3の下にあります。 In [32]: round(2.5) Out[32]: 2 In [33]: round(3.5) Out[33]: 4 これは直感に反し、丸めについて理解している（そして人々をつまずかせるのは当然）ことに反しています。英語は私の母国語ではありませんが、これを読むまで、丸めが何を意味するのかはわかっていたと思いました：-/ v3が導入された時点では、これについてある程度の議論があったに違いありませんが、理由はわかりませんでした。私の検索。 これがこれに変更された理由について誰かが洞察を持っていますか？ この種の（一貫性のない）丸めを行う他の主流のプログラミング言語（C、C ++、Java、Perlなど）はありますか？ ここで何が欠けていますか？ 更新：@ Li-aungYipの「バンカーの丸め」に関するコメントで、検索する適切な検索用語/キーワードが与えられ、このSOの質問が見つかりました。なぜ.NETはデフォルトで銀行の丸めを使用するのですか？なので、注意深く読んでいきます。

176 python  python-3.x  rounding 

ここで何か不足していますか？ var someNumber = 123.456; someNumber = someNumber.toFixed(2); alert(typeof(someNumber)); //alerts string なぜない.toFixed()文字列を返しますか？ 数値を2桁の10進数に丸めたい。

176 javascript  types  rounding 

10進数（浮動小数点）を最も近い整数に丸めるにはどうすればよいですか？ 例えば 1.2 = 1 1.7 = 2

174 perl  floating-point  rounding 

JRuby1.6.x。フロートをjrubyの小数点以下の桁数に丸めるにはどうすればよいですか。 number = 1.1164 number.round(2) The above shows the following error wrong number of arguments (1 for 0) これを小数点第2位に四捨五入するにはどうすればよいですか？

172 ruby  jruby  rounding 

T-SQLとMicrosoft SQL Serverを使用して、次のように2つの整数間で除算を行う場合、10進数の桁数を指定したいと思います。 select 1/3 現在はそれが返されます0。返品をお願いし0,33ます。 何かのようなもの： select round(1/3, -2) しかし、それはうまくいきません。どうすれば望ましい結果を得ることができますか？

172 sql-server  sql-server-2008  division  rounding 

Double結果を最も近い整数に丸め、そこから再計算する成長率の計算機（）を作成しようとしています。 let firstUsers = 10.0 let growth = 0.1 var users = firstUsers var week = 0 while users < 14 { println("week \(week) has \(users) users") users += users * growth week += 1 } しかし、私は今のところできませんでした。 編集 私はちょっとそのようにしました： var firstUsers = 10.0 let growth = 0.1 var users:Int = …

170 swift  int  double  rounding 

OK-これは基本的な質問のように思われるため、ここに投稿するのはほとんど恥ずかしいです（そして、誰かが投票に投票した場合は削除します）。 これはC ++で数値の倍数に切り上げる正しい方法ですか？ 私はこれに関連する他の質問があることを知っていますが、C ++でこれを行うための最良の方法は何かを知ることに特に興味があります。 int roundUp(int numToRound, int multiple) { if(multiple == 0) { return numToRound; } int roundDown = ( (int) (numToRound) / multiple) * multiple; int roundUp = roundDown + multiple; int roundCalc = roundUp; return (roundCalc); } 更新：申し訳ありませんが、私はおそらく意図を明確にしませんでした。ここではいくつかの例を示します。 roundUp(7, 100) //return 100 roundUp(117, 100) //return 200 …

168 c++  algorithm  rounding