2009-02-06から1日間の記事一覧
あたりまえじゃんと思ったあなたはえらい。小学校で習った四捨五入は、少しだけ大きめに丸める傾向があり、大量のものを扱っていると誤差ではすまなくなります。そこでJIS丸めというものがあります(JIS Z8401 or ISO 3110)。これは以下のルールで丸めます。 …
あたりまえじゃんと思ったあなたはえらい。小学校で習った四捨五入は、少しだけ大きめに丸める傾向があり、大量のものを扱っていると誤差ではすまなくなります。そこでJIS丸めというものがあります(JIS Z8401 or ISO 3110)。これは以下のルールで丸めます。 …