2025/08/07 17:19
※プログラム開発やコーディングに関する話題は『cybozu developer network』のコミュニティへお願いいたします
マイナスを含む四則演算をkintoneの計算を行うと全く異なる値が出力される
2件のコメント
(新着順)
※プログラム開発やコーディングに関する話題は『cybozu developer network』のコミュニティへお願いいたします
マイナスを含む四則演算をkintoneの計算を行うと全く異なる値が出力される
ミュートしたユーザーの投稿です。
投稿を表示お疲れ様です。
記事が編集されているものと思われるためよくわかりませんが、「マイナスの四則演算で誤差が出る」というキーワードから推察すると、カスタマイズか計算フィールド(もしくはプラグイン?)でマイナスを含む小数計算か大きい桁数の計算をしているのではないかと推測します。
(kintoneの基本機能でも、計算の仕方次第では、同様の誤差が出るかもしれません。)
いわゆる「ビット演算による丸め誤差」と呼ばれるもので、一般的には、
・欲しい小数点の位までを一旦整数にして、計算後、位を戻す。
・桁数が大きくなる時は、フィールドや変数を二つに分ける方法を検討する。
が有効だと思われます。
厳密な数字が求められる場合、小数の計算をできるだけ避ける運用にした方が、トラブルは少ないかもしれません(kintoneの特徴というわけではなく、コンピュータ全般に当てはまります。)。
ミュートしたユーザーの投稿です。
投稿を表示こんにちは。
とのことですが、電卓で叩いた値と異なるということでしょうか?
・フィールド設定の表示桁数以下の見えない部分の影響
・数値と計算の精度の設定
・式が誤っている
などが考えられます。
異なる値が出力されている画面のスクリーンショット等貼っていただけると
もう少し詳しくご回答できるかと思います。
以上です。