【COBOL学習|豆知識】ベテランが教える「浮動小数点」の暗黙変換と精度管理の勘所

導入

現代のCOBOL開発では、基幹業務の事務計算(固定小数点)と、統計解析や科学技術計算(浮動小数点)を同一のプログラム内で扱う機会が増えています。しかし、異なるデータ型を混ぜて演算を行うと、予期せぬ精度落ちや、中間結果の型変換によるパフォーマンス低下を招くことがあります。今回は、COBOL 2002以降で強化された「暗黙変換」の仕組みを理解し、安全に計算を行うためのテクニックを解説します。

基礎知識

COBOLにおける「固定小数点数(PIC 9形式)」は、10進数として正確に値を保持しますが、扱える範囲や桁数に制限があります。一方、「浮動小数点数(FLOAT-LONG等)」は、指数表現を用いて非常に大きな値や小さな値を扱えますが、内部的には2進数で表現されるため、厳密な10進数の桁合わせには向きません。COMPUTE文でこれらを混在させた場合、コンパイラは「情報落ち」を最小限にするため、浮動小数点型へ自動的に型変換(プロモーション)を行ってから演算処理を行います。

実装/解決策

算術演算において最も重要なのは、演算結果をどこに格納するかです。暗黙変換はコンパイラが自動で行ってくれますが、計算結果を固定小数点の項目に戻す際、浮動小数点の精度が固定小数点の桁数を超えていると、端数処理が発生します。計算式の中では一時的な精度の向上を許容し、最終的な出力値の精度を明確に定義することが、バグを防ぐ鍵となります。

サンプルプログラム

以下は、固定小数点数と浮動小数点数を混在させて計算する実用的な例です。

IDENTIFICATION DIVISION.
PROGRAM-ID. FLOAT-CALC-SAMPLE.
DATA DIVISION.
WORKING-STORAGE SECTION.

  • 固定小数点(事務計算用)

01 WS-FIXED-VAL PIC S9(7)V99 VALUE 1000.50.

  • 浮動小数点(倍精度)

01 WS-FLOAT-VAL COMP-2 VALUE 1.055.

  • 結果格納用

01 WS-RESULT PIC S9(9)V99.

PROCEDURE DIVISION.
> 固定小数点と浮動小数点を混在させた計算
> コンパイラがWS-FIXED-VALを一時的に浮動小数点に変換して計算する
COMPUTE WS-RESULT = WS-FIXED-VAL WS-FLOAT-VAL

DISPLAY “計算結果: ” WS-RESULT

GOBACK.

応用・注意点

現場で注意すべきは、「丸め誤差」の累積です。浮動小数点は2進数近似であるため、0.1のような数値でも厳密には誤差を含みます。そのため、金額計算など「1円の狂いも許されない」処理においては、計算の中間段階で浮動小数点型を多用せず、可能な限り固定小数点型(COMP-3など)で計算を完結させるのが原則です。浮動小数点を使うのは、あくまで「膨大な倍率計算」や「科学的定数の扱い」など、固定小数点では桁溢れしてしまう場合に限定しましょう。また、デバッグ時には計算結果の境界値テストを必ず行い、期待値との乖離がないかを確認してください。

コメント

タイトルとURLをコピーしました