32ビットの符号無しの固定小数点(整数部16ビット、小数部16ビット)で、非負の数値を表現するコンピュータがある。このコンピュータで、無限級数の値を求めたい。この無限級数を有限和で近似するとき、誤差が10-3以下になる最小のNの値は?
∞ ∑(1/2n) n=1
N ∑(1/2n) n=1
解く手順
Published 2005年7月15日 13:01 by nyanta
No Comments