数値型の桁数で処理がエラーを起こすことってよくありますよね。スピードを取るか安全を取るかってところですが、仕事でつかうなら安全を取るべきかなと思います。
数字型
読んで字のごとく数字の型ですが、今回は有効桁数に注目します
整数型
-32,768~32,768の数値(2バイト)
長整数型
-2,147,483,648~2,147,483,648の数値(4バイト)
単精度浮動小数点型
負の場合、-3.40E+38~-1.40E-45の数値、正の場合、1.40E-45~3.40E+38の数値(8バイト)
倍精度浮動小数点型
負の場合、-1.79E+308~-4.94E-324の数値、正の場合、1.79E-308~4.94E-324の数値(16バイト)
久しぶりにはまりましたので備忘録として残しておきます。
この記事へのコメントはありません。