以下のPythonコードを実行すると、エラーが発生する
>>>a = 3 >>>b = 4 >>>b/(2.0+a) 0.80000000000000004 |
本来ならば、0.80を表示してほしいのだが、実際、0.00000000000000004の誤差が発生しています。
小数点が発生する計算の場合には気をつけたいところです。
常にテンパってます。
以下のPythonコードを実行すると、エラーが発生する
>>>a = 3 >>>b = 4 >>>b/(2.0+a) 0.80000000000000004 |
0 コメント:
コメントを投稿