久々に数値演算。
強度の計算なのだが・・・資料の数値に合わせられない。
自分が間違っているのだとは思うのだが・・・。
数学的な脳みそが目覚めない。
どうも資料にも間違いがある。
不確かな中であと少しで躓いています。
サインコサインをエクセルでラジアンに変換しつつ色々やっているのだけれど・・・
エクセルの端数処理にバグっぽいものを見つけたりもして。
切り上げをさせると数値が狂う。
それが表示上と内部での扱いの違いによるもののような気がするのでたちが悪い。
さて、明らかなわり算の間違いを資料に見つけたので蔵に問い合わせてから寝よう。
怒るかなあ・・・?