math
プログラマのための数学#2を眺めていました。途中から(あまりにもメジャーな処理系である)SML#とNJをいじり始めて聞いてませんでしたけど…。 で、いきなりバグ見つけて混乱したり。 序 で、本題です。SMLの実数型であるReal.realがIEEE754準拠であることが…
プログラマのための数学#2を眺めていました。途中から(あまりにもメジャーな処理系である)SML#とNJをいじり始めて聞いてませんでしたけど…。 で、いきなりバグ見つけて混乱したり。 序 で、本題です。SMLの実数型であるReal.realがIEEE754準拠であることが…