作成日: 2019/07/02 最終更新日: 2019/07/02
文書種別
制限事項
詳細
グリッドに小数点以下を含む17桁の数値を設定すると、クライアント側で値が変化する場合があります。
例えば、列のDataFormatStringプロパティを"n4"に設定し、整数13桁且つ小数点以下4桁のデータを設定した際、グリッド上で小数点4桁目の値が実際の値と異なる場合があります。
JavaScriptでは、数値はIEEE 754倍精度浮動小数点として扱われ、この型は64ビットであり約16桁の精度があります。
本製品の内部ではJavaScriptのparseFloatメソッドを使用しており、上記のような17桁の数値は保証されていないため、正しい値を返しません。
同様の動作は、本製品を使用せず次のようなコードを実行した場合にも再現します。
alert(parseFloat('1234567890123.1239'));
===結果===
1234567890123.1238
例えば、列のDataFormatStringプロパティを"n4"に設定し、整数13桁且つ小数点以下4桁のデータを設定した際、グリッド上で小数点4桁目の値が実際の値と異なる場合があります。
JavaScriptでは、数値はIEEE 754倍精度浮動小数点として扱われ、この型は64ビットであり約16桁の精度があります。
本製品の内部ではJavaScriptのparseFloatメソッドを使用しており、上記のような17桁の数値は保証されていないため、正しい値を返しません。
同様の動作は、本製品を使用せず次のようなコードを実行した場合にも再現します。
alert(parseFloat('1234567890123.1239'));
===結果===
1234567890123.1238
旧文書番号
84177