浮動小数点数

この COBOL システムには、IEEE 浮動小数点サポートがあります。これは、Microsoft で提供される各種言語 (Microsoft Visual C++ V6.0 など) と完全に互換性があります。

浮動小数点値は次の範囲内になければなりません。

COMP-1 データの場合 8.43E-37 3.37E38
  -8.43E-37 -3.37E38
COMP-2 データの場合 4.19E-307 1.67E308
  -4.19E-307 -1.67E308

上記の範囲は内部的にサポートされますが、この COBOL システムでは 2 桁の指数しかサポートされないため、実際の範囲は次のようになることに注意してください。

COMP-2 データの場合 4.19E-99 1.67E99
  -4.19E-99 -1.67E99

浮動小数点値の精度は次のようになります。

COMP-1 データ (4 バイト) の場合 6 ~ 7 有効桁
COMP-2 データ (8 バイト) の場合 15 ~ 16 有効桁
リテラルの場合、浮動小数点値は次の範囲内になければなりません。
  • 0.54E-78 ~ 0.72E+76
  • -0.54E-78 ~ -0.72E+76