“HP 35S”にcos(x)を計算させると…

Posted at Thu, 20 Sep 2007 15:56:51 +0900 (JST)

昨日も打ったが、海外の熱心なHP電卓マニアが投稿したバグリスト？の中に「cos(x)を度で計算させたとき、90度付近の計算結果がオカシイ」というものがあった。
どの程度のオカシさなのか、比較対象としてHP 50gに登場願い、実際に計算させてみた。

x (deg.) 35S 50g
89 1.75424064373E-2 同左
89.9 1.7453283659E-3 同左
89.99 1.74532924306E-4 1.74532924313E-4
89.999 1.74532925091E-5 1.74532925191E-5
89.9999 1.74532925E-6 1.74532925199E-6
89.99999 1.7453292E-7 1.74532925199E-7
89.999999 1.745329E-8 1.74532925199E-8
89.9999999 1.74532E-9 1.74532925199E-9
89.99999999 1.74532925199E-10 同左
89.999999999 1.74532925199E-11 同左
89.9999999999 1.74532925199E-12 同左
89.99999999999 1.74532925199E-12 0
89.999999999999 1.74532925199E-12 0
89.9999999999999 1.74532925199E-12 0
89.99999999999999 1.74532925199E-12 0
89.999999999999999 1.74532925199E-12 0
90 0 0

…確かに妙だ。

  • 35Sでは小数第11位から下では計算結果に変動が無い。50gでは計算可能な有効桁数以下はゼロを出力するが、35Sでは小数点以下無限位まで計算できるかのように出力するものの、出力結果は小数第10位と同じ。
  • 35Sでは小数第4位〜7位で計算結果の桁数が1桁減る。同じ箇所で50gは計算結果の小数部が同じで小数点が1つずつ前にズレていくので、35Sはマジメに計算しているのか？ ただ小数第8位以降は桁数が元に戻る。

    • 前者は関数電卓として問題があるように思えるし、後者はビックリするだろう。少なくともこれまで使ってきた関数電卓では、50gのような動作が多かったように記憶しているが、その記憶は曖昧だ。
    昨晩はこの2機種にのみ着目して計算させたが、今度は他社製の関数電卓にも同じ計算をさせたいと思う。

    現在所有しているのは、Texas Instruments製のTI-89 Titanuim、カシオ計算機製のfx-7000GAおよびCFX-9850Gである。