[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>

お世話になっております。そえじま@勉強中です。

16 messages 2010/06/23

[ruby-list:47193] Re: 小数点以下を切り捨てる方法について

From: "T.Soejima" <clev@...2.so-net.ne.jp>
Date: 2010-06-25 02:40:25 UTC
List: ruby-list #47193
そえじま@勉強中です。

みなさん、ありがとうございます。
桁が異常に多いときは、C言語のdoubleの精度でものを考えるか
bigdecimalというのを使えばいいということですね。

今のところ現実の問題として、20桁を越えるような値は返って
こないようなので、どうやらあまり気にしなくても良さそうだ
ということは分かったのですが。

> それはともかく、もともとの10進小数の切捨てというのが
> 「本当に」必要なのかは疑問に感じました。
> ワーストケースで比較すると四捨五入の2倍くらい
> 誤差がありますので。
>
>   
ワーストケースで比較するというのが、意味として理解できない
んですが、(理解できないのは、私の理解力が低いからです。)
現在は通貨の計算をしていまして、実際の値と計算上の値に若干
の誤差があります。
この場合は、どうやらある桁数以下の値は、すべて切り捨てている
ようなのです。
なので、今回はどうしても切り捨てにしたかったという経緯でした。



In This Thread