teacup. [ 掲示板 ] [ 掲示板作成 ] [ 有料掲示板 ] [ ブログ ]


新着順:71/94 記事一覧表示 | 《前のページ | 次のページ》

誤差の問題

 投稿者:えぬざわ  投稿日:2005年 6月15日(水)20時57分50秒 p1135-ipbf07kokuryo.gunma.ocn.ne.jp
  通報 返信・引用 編集済
  先日質問を受けた誤差の問題(初級シスアド平成7年度 午前 問33)について載せておきます。

何故 X*0.03 で誤差が生じ、X*3/100 で誤差が生じないのかということですが、これはコンピュータ内部での実数の表現方法(浮動小数点数)に原因があります。コンピュータは二進数で値を保持しますが、実数に関しては通常 IEEE754 という規格に定められた方法で値を表現します。この方式は実数を効率良く扱うことが出来る代わりに、値を近似値としてしか表現出来ません。

一方、整数の場合は、基本的にコンピュータでも誤差は発生しません。X*0.03 で誤差が生じ、X*3/100 で誤差が生じないことの原因はここにあります。早い話が二進数では十進数の実数を正確に表せない訳です。詳しいメカニズムはリンク先に書かれていますので、そちらをご覧下さい(基本情報技術者の試験範囲です)。

日経PC21 / エクセル「演算誤差」対策講座
へっぽこ誤差第四章
演算誤差について(10進数と2進数) (unibon)
 
 
》記事一覧表示

新着順:71/94 《前のページ | 次のページ》
/94