2009-02-05から1日間の記事一覧

有効桁数

有効数字とか有効桁数とか実はよくわかってないのですが、Jでは1割る3(1%3)とすると、0.333333と表示されます。 まず、これは表示桁数であって、変更できます。 1 % 3 0.333333 (9!:11) 20 1 % 3 0.33333333333333331 解説:Jでは割り算は普通のプログラム言…