演算精度

演算データ タイプには、それぞれデフォルト精度と最大精度が指定されています (表 2-2 を参照)。固定小数点データのスケール係数の範囲は、0 ~ 31 (0 ≤ q ≤ 31) です。

データ タイプ 最大精度 デフォルト精度
Fixed Binary 31 15*
Fixed Decimal 31 5
Float Binary 52 23
Float Decimal 16 6

* -longint オプションを使用すると、 Fixed Binary のデフォルト精度が 15 から 31 に変わります。