気ままな宇宙人

ソフトウェアのTipsやWebサービスを紹介しています

Windowsの電卓で√4 - 2を計算すると?



Windowsの普通の電卓で√4 - 2を計算すると0にはならずに-1.068281969439142e-19になります。
(Eとは何ですか-教えてgoo)
電卓のバグ (1)

ちなみに関数電卓で√4 - 2を計算すると-8.1648465955514287168521180122928e-39になります。
電卓のバグ (2)

同じWindowsの電卓なのに少し違う値が出てきます。
この違いどこから出てくるのでしょうか?そもそも、0にならない理由も少し気になりますね。
関連エントリー
Loading

コメント
コメントの投稿
管理者にだけ表示を許可する