Subnormal numberが出てくるとPCが重くなるという話 | Phile-webコミュニティ

公開:2012-05-08 19:55
更新:2017-07-29 13:17
カテゴリ:デジタル信号処理

Subnormal numberが出てくるとPCが重くなるという話 | Phile-webコミュニティ.

デノーマル・サブノーマルの話。サブノーマル問題は存在は知っていたが、理屈はわかってなかったのでこの解説はありがたい。

対応方法はある程度小さな数値になったらゼロとみなすとかしないといけないらしい。

SSEとかSSE2にはサブノーマル対策の命令というかモードがあるんですな。初めて知った。