タグ付けされた質問 「dc」

3
bashで正確に2つの有効数字で浮動小数点数をフォーマットする方法は?
浮動小数点数をbashで正確に2桁の有効数字で出力したい(おそらくawk、bc、dc、perlなどの一般的なツールを使用して)。 例: 76543は76000として印刷する必要があります 0.0076543は0.0076として印刷する必要があります どちらの場合も、有効数字は7と6です。次のような同様の問題に対するいくつかの回答を読みました。 シェルで浮動小数点数を丸める方法は? 浮動小数点変数のbash制限精度 しかし、答えは、有効桁数の代わりに小数点以下の桁数を制限することに焦点を当てています(例:でのbcコマンドscale=2またはでのprintfコマンド%.2f)。 数字を正確に2桁の有効数字でフォーマットする簡単な方法はありますか、それとも独自の関数を作成する必要がありますか?
17 bash  awk  bc  floating-point  dc 

3
DCによる精度の低下
dc16進数で16進数を処理するために使用したいのですが、精度の問題に直面しています。たとえば、以下では、両方を16進数で乗算F423F.FDしてい100ます。予想される答えはF423FFD、代わりに、与えることですが、F423FFA.E1丸めても十分に正確ではありません。 $ dc 16 d i o F423F.FD 100 * p F423FFA.E1 私はそれdcが無制限の精度の計算機であることを読みましたが、これは決して大きな数ではありません。私が間違っていることはありますか? ご回答ありがとうございます。の問題を考慮してdc、私は弾丸を噛み、他のベースの実数用に独自のパーサーを作成しました。コードに興味がある人は、ここに投稿できます。
12 dc 
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.