Deprecated: Assigning the return value of new by reference is deprecated in /home/users/2/floppy.jp-999953/web/kagakusukimono/class/View.php on line 25

Deprecated: Assigning the return value of new by reference is deprecated in /home/users/2/floppy.jp-999953/web/kagakusukimono/class/View.php on line 30

Warning: Cannot modify header information - headers already sent by (output started at /home/users/2/floppy.jp-999953/web/kagakusukimono/class/View.php:25) in /home/users/2/floppy.jp-999953/web/kagakusukimono/class/View.php on line 81
科学好き者の日々::積分の分解能

積分の分解能

定積分をエクセルで解くのを書いたのですが、精度を確認したほうがいいと思って区切りの数を変えてやってみました。

積分回数.jpg

0から1の間を10、100,1000、10000に分割した場合です。
10   0.935053001
100   0.881193305
1000  0.875583073
10000  0.875019809

1000区切りで有効数字3桁は合うようです。


Calendar
<< May 2024 >>
SunMonTueWedThuFriSat
   1234
567891011
12131415161718
19202122232425
262728293031
search this site.
tags
archives
recent comment
recent trackback
others
admin