この COBOL システムには、IEEE 浮動小数点サポートがあります。これは、Microsoft で提供される各種言語 (Microsoft Visual C++ V6.0 など) と完全に互換性があります。
浮動小数点値は次の範囲内になければなりません。
COMP-1 データの場合 |
8.43E-37 |
~ |
3.37E38 |
|
-8.43E-37 |
~ |
-3.37E38 |
COMP-2 データの場合 |
4.19E-307 |
~ |
1.67E308 |
|
-4.19E-307 |
~ |
-1.67E308 |
上記の範囲は内部的にサポートされますが、この COBOL システムでは 2 桁の指数しかサポートされないため、実際の範囲は次のようになることに注意してください。
COMP-2 データの場合 |
4.19E-99 |
~ |
1.67E99 |
|
-4.19E-99 |
~ |
-1.67E99 |
浮動小数点値の精度は次のようになります。
COMP-1 データ (4 バイト) の場合 |
6 ~ 7 有効桁 |
COMP-2 データ (8 バイト) の場合 |
15 ~ 16 有効桁 |
リテラルの場合、浮動小数点値は次の範囲内になければなりません。
- 0.54E-78 ~ 0.72E+76
- -0.54E-78 ~ -0.72E+76