[#42503] floatの値がずれる — Sato Hiroshi <hirocy.f01@...>

hirocyと申します.

33 messages 2006/07/04
[#42504] Re: floatの値がずれる — rubikitch <rubikitch@...> 2006/07/04

From: Sato Hiroshi <hirocy.f01@plala.to>

[#42505] Re: floatの値がずれる — Sato Hiroshi <hirocy.f01@...> 2006/07/04

hirocyです.るびきちさん,ありがとうございます.

[#42569] JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...>

こんばんは。

19 messages 2006/07/11
[#42570] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[#42572] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Takahiro Kambe <taca@...> 2006/07/11

In message <1152619872.835566.21152.nullmailer@x31.priv.netlab.jp>

[#42575] Re: JVN、スクリプト言語「Ruby」の2件の脆弱性情報を公表 — Yukihiro Matsumoto <matz@...> 2006/07/11

まつもと ゆきひろです

[ruby-list:42518] Re: floatの値がずれる

From: Tadashi Saito <shiba@...2.accsnet.ne.jp>
Date: 2006-07-05 05:22:03 UTC
List: ruby-list #42518
斎藤と申します。

On Tue, 4 Jul 2006 18:51:38 +0900
rubikitch <rubikitch@ruby-lang.org> wrote:

> または、固定小数点数ライブラリ(BigDecimal)を使ってみましょう。

完全にちゃちゃですが、誤差が発生しない⇒固定小数点数っていうのは
誤解だと思います。

http://ja.wikipedia.org/wiki/%E5%9B%BA%E5%AE%9A%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0
> 固定小数点数では整数部分に用いるビット数と小数部分に用いるビット数をあらかじめ
> 固定して表現する。

BigDecimalにこのような部分は見当たらないと思うのですが。

--
斎藤ただし

In This Thread