2024-10-01から1ヶ月間の記事一覧

浮動小数点の演算について

背景 商品価格に対し割引率をかけて最終価格を出す際に計算結果にずれが生じていたため、それについて調べた内容をまとめます。 たとえば以下のような、数値リテラル(Floatクラス)で計算した場合、計算結果が微妙にずれてしまっています。 pry(main)> 0.3 …