Skip to content
2010/08/11 / highmt

「浮動小数点演算について」

http://docs.sun.com/source/806-4847/ncg_goldberg.html

あるいは

What Every Computer Scientist Should Know About Floating-Point Arithmetic
http://docs.sun.com/source/806-3568/ncg_goldberg.html

巷では有名な文書らしい。
Wikipediaやforthのマニュアルからも参照されている。

とりあえず「保護桁」と「相殺」のところを読んでみて、
今までなんもわかってなかったんだな、と反省。

広告
%d人のブロガーが「いいね」をつけました。