タグ付けされた質問 「significant-digits」

18
任意の有効桁数への丸め
任意の数値(0より大きい整数だけでなく)を有効数字Nに丸めるにはどうすればよいですか? たとえば、有効数字3桁に四捨五入したい場合は、次の式を使用できます。 1,239,451およびリターン1,240,000 12.1257および12.1を返します .0681およびリターン.0681 5とリターン5 当然のことながら、アルゴリズムをハードコーディングしてN of 3のみを処理することはできませんが、それが出発点になります。
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.