読者です 読者をやめる 読者になる 読者になる

Panda Noir

JavaScript の限界を究めるブログです。

任意精度演算とは?

プログラミング・パソコン アルゴリズム プログラミング

大きい数を扱うとき、必ずといっていいほど四捨五入されたりして値がずれてしまい、計算ができなくてこまったこと、ありますよね?

任意精度演算とは

任意精度演算とは、要するに任意の精度で演算ができるということです。任意の精度ということなので大きい桁でも扱えます。要するに大きい数の演算が可能ということです。

やり方は様々あります。基本原理は数字をいくつかに分けて、それを使って演算するです。例えば30000+2034をするときに30と000=0、2と034=34という風に3桁で区切れます。次に30と2、0と34を足して桁をずらして32034で完成です。

ライブラリー

とはいったものの世の中には自分で実装しなくてもすでに誰かがやってくれているものです。様々な言語でライブラリが作られています。

終わりに

パソコンで円周率を求める方法とかを考えているとこの辺にたどり着くと思います。私がそうでした。long型を使っても限界があります。それをやすやすと超えた値をパソコンでどうやってだしているのだろうか、と。そんな疑問を感じていた人の助けになったのなら幸いです。