[#47133] [ANN] ulmul-0.4.1 is released with ulmul2html5 and ulmul2xhtml — Takeshi NISHIMATSU <t_nissie@...>
西松と申します。
4 messages
2010/06/06
[#47158] [ANN] RubyKaigi 2010: PGP Keysigning Party — Urabe Shyouhei <shyouhei@...>
みなさんこんにちわ。
5 messages
2010/06/15
[#47173] 小数点以下を切り捨てる方法について — "T.Soejima" <clev@...2.so-net.ne.jp>
お世話になっております。そえじま@勉強中です。
16 messages
2010/06/23
[#47174] Re: 小数点以下を切り捨てる方法について
— "NARUSE, Yui" <naruse@...>
2010/06/23
成瀬です。
[#47180] Re: 小数点以下を切り捨てる方法について
— "T.Soejima" <clev@...2.so-net.ne.jp>
2010/06/24
そえじま@勉強中です。
[#47182] Re: 小数点以下を切り捨てる方法について
— "KISHIMOTO, Makoto" <ksmakoto@...4u.or.jp>
2010/06/24
kなんとか、じゃない、きしもとです
[#47199] [ANN] RubyKaigi2010のライトニングトークスの応募フォームをオープンしました — SHIMADA Koji <snoozer.05@...>
日本Ruby会議2010実行委員のしまだです。
5 messages
2010/06/30
[ruby-list:47193] Re: 小数点以下を切り捨てる方法について
From:
"T.Soejima" <clev@...2.so-net.ne.jp>
Date:
2010-06-25 02:40:25 UTC
List:
ruby-list #47193
そえじま@勉強中です。 みなさん、ありがとうございます。 桁が異常に多いときは、C言語のdoubleの精度でものを考えるか bigdecimalというのを使えばいいということですね。 今のところ現実の問題として、20桁を越えるような値は返って こないようなので、どうやらあまり気にしなくても良さそうだ ということは分かったのですが。 > それはともかく、もともとの10進小数の切捨てというのが > 「本当に」必要なのかは疑問に感じました。 > ワーストケースで比較すると四捨五入の2倍くらい > 誤差がありますので。 > > ワーストケースで比較するというのが、意味として理解できない んですが、(理解できないのは、私の理解力が低いからです。) 現在は通貨の計算をしていまして、実際の値と計算上の値に若干 の誤差があります。 この場合は、どうやらある桁数以下の値は、すべて切り捨てている ようなのです。 なので、今回はどうしても切り捨てにしたかったという経緯でした。