タグ付けされた質問 「floating-point」

16
bashまたは他の言語/フレームワークで整数と浮動小数点の計算を行う方法は?
echo "20+5"文字通りに使用すると、テキスト「20+5」が生成されます。 25この場合、数値の合計を取得するためにどのコマンドを使用できますか? また、浮動小数点にbashを使用するだけの簡単な方法は何ですか?たとえば、:(をecho $((3224/3807.0))出力し0ます。 基本的なコマンドシェル(「コマンドライン」)自体を使用するか、コマンドラインから使用可能な言語を使用して回答を探しています。


2
現在の小数点記号はどれですか?
POSIXシェルスクリプトがあるとします。 私が管理していないさまざまなシステム/環境で実行する必要がある ロケール設定を尊重するプログラムによって出力される文字列から小数点記号を削除する必要があります。 最も一般的な方法で小数点区切り文字を検出するにはどうすればよいですか?

3
bashで正確に2つの有効数字で浮動小数点数をフォーマットする方法は?
浮動小数点数をbashで正確に2桁の有効数字で出力したい(おそらくawk、bc、dc、perlなどの一般的なツールを使用して)。 例: 76543は76000として印刷する必要があります 0.0076543は0.0076として印刷する必要があります どちらの場合も、有効数字は7と6です。次のような同様の問題に対するいくつかの回答を読みました。 シェルで浮動小数点数を丸める方法は? 浮動小数点変数のbash制限精度 しかし、答えは、有効桁数の代わりに小数点以下の桁数を制限することに焦点を当てています(例:でのbcコマンドscale=2またはでのprintfコマンド%.2f)。 数字を正確に2桁の有効数字でフォーマットする簡単な方法はありますか、それとも独自の関数を作成する必要がありますか?
17 bash  awk  bc  floating-point  dc 

2
シェルで浮動小数点数を丸める方法は?
コマンドラインでIEEE 754浮動小数点数を正しく丸めるにはどうすればよいですか? 出力数値の精度-小数桁数を指定したいのですが。 丸め6.66精度にして1与える必要があり6.7、たとえば、。以下の表の詳細: Value Precision Rounded 6.66 0 7 6.66 1 6.7 6.66 2 6.66 6.66 3 6.660 6.666 3 6.666 6.6666 3 6.667 対話型シェルで使用できる必要がありますが、本番シェルスクリプトで使用するには十分に堅牢であることが理想的です。


2
awk高精度演算
私はawkに高精度の算術演算を代入演算で行うように指示する方法を探しています。これには、ファイルからフィールドを読み取り、その値を1%の増分で置き換えることが含まれます。しかし、私はそこで精度を失っています。これは問題の簡単な再現です: $ echo 0.4970436865354813 | awk '{gsub($1, $1*1.1)}; {print}' 0.546748 ここでは、小数点以下16桁の精度がありますが、awkでは6桁しかありません。printfを使用しても、同じ結果が得られます。 $ echo 0.4970436865354813 | awk '{gsub($1, $1*1.1)}; {printf("%.16G\n", $1)}' 0.546748 希望する精度を得る方法について何か提案はありますか?
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.