FC2ブログ
 

Technology へようこそ
ここは技術者の「経験」と「ノウハウ」のブログです


--年--月--日

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。


2010年01月05日

桁落ち

SQL Serverで、除算した結果の少数点以下5桁目を
端数処理するという処理をしておりました。

ところが、思ったような結果にならないので調べたところ
原因が判明しました。

計算は、A(money型)÷B(money型)だったのですが、
実はmoney型は少数点以下4桁までしか保証されず、
計算においても同様に4桁までの保証となります。

AとBを、decimalにcastすることで回避できましたが、
どちらか一方でもcastすれば、大丈夫です。

[ posted by S.S ]

この記事に対するコメント


この記事に対するコメントの投稿














管理者にだけ表示を許可する



この記事に対するトラックバック
トラックバックURL
http://comfair2.blog24.fc2.com/tb.php/451-362e2cb8
この記事にトラックバックする(FC2ブログユーザー)











上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。