2010/03/27

[Python](有効桁数|誤差)について

以下のPythonコードを実行すると、エラーが発生する

>>>a = 3
>>>b = 4
>>>b/(2.0+a)
0.80000000000000004

本来ならば、0.80を表示してほしいのだが、実際、0.00000000000000004の誤差が発生しています。
小数点が発生する計算の場合には気をつけたいところです。

0 コメント:

コメントを投稿