計算例

  1. ホーム/
  2. 計算例

フリー計算での入力(実数) ・・・「実数DEG」を選択

例題入力方法と答え桁数モード
四則演算6
べき乗計算6
指数計算6
関数を使用6
変数を使用
6実数DEG
桁数の変更
[桁数] 22桁
6
↓
22		実数DEG
角度を変更

[モード] RAD
 22↓
実数RAD
繰返計算

答え
10.8414709848078965066525
1.10.8912073600614353399518
1.20.9320390859672263496701
・・・・
1.90.9463000876874144884897
22実数RAD

このページの先頭へ

フリー計算での入力（複素数）・・・「複素数RAD」を選択

例題入力方法と答え桁数モード
四則演算
6 複素数RAD
ルート計算
6 複素数RAD

このページの先頭へ

フリー計算でのグラフ作成

例題
入力方法		 モード グラフ描画と設定
ルート √




 6桁
実数DEG
シート幅=190, 高さ=170,
X軸ｽｷｯﾌﾟ=10
三角関数




 6桁
実数DEG
シート幅=200, 高さ=170,
Y軸目盛り Max=1, Min=-1
X軸ｽｷｯﾌﾟ=18,
凡例位置 下, 高さ10
正規分布




 6桁
実数DEG
シート幅=190, 高さ=170,
Y軸目盛り Max=0.5, Min=0
X軸目盛り 10plot毎
凡例位置 下, 高さ10
ベッセル関数
J0(x),Y0(x)

Expressionbesselj(0,x);
bessely(0,x)


 6桁
実数DEG
シート幅=190, 高さ=180,
Y軸目盛り Max=1, Min=-1
凡例位置 下, 高さ30, 行数2

精度計算 (桁数可変技術の応用で精度保証計算を追求)

例題 モード Keisan (6桁演算) 精度保証
Excel2003 (16桁演算)
小数計算
 6桁
実数RAD		 0.4-0.3-0.1 =0
(0.4-0.3-0.1) =2.77556E-17
2進10進変換で誤差発生
π計算
 6桁
実数RAD		 sin(9*pi) =0
SIN(9*PI()) =1.10263E-15
πの有限数値化で誤差発生
無理数計算
9√2-√162
 6桁
実数RAD		 9*sqrt(2)-sqrt(162) =0
(9*SQRT(2)-SQRT(162)) =1.77636E-15
無理数の有限数値化で誤差発生
複素数計算
(1+i)4

6桁
複素数RAD		 (1+i)^4 =-4
IMPOWER("1+i", 4) =-4 +4.89842541528951E-16i
解 (1+i)4 =(√2*eiπ/4)4
　　　　　=(√2)4*eiπ =-4
√(1+x)-1
x=1.23456E-100

 6桁
実数RAD		 sqrt(1+ 1.23456E-100)-1 =6.1728E-101
SQRT(1+ 1.23456E-100)-1 =0
x≪1の場合、1+x=1となり精度出ない
eln(1+x)-1
x=1.23456E-14

 6桁
実数RAD		 e^ln(1+ 1.23456E-14)-1 =1.23456E-14
EXP(LN(1+ 1.23456E-14))-1 =1.24345E-14
x≒1E-14の場合、3桁しか精度出ない
eln(1+x)-1
x=1.23456E-15

 6桁
実数RAD		 e^ln(1+ 1.23456E-15)-1 =1.23456E-15
EXP(LN(1+ 1.23456E-15))-1 =0
x<1E-15の場合、全く精度出ない
人間の運動エネルギー
E=mc2(1-√(1-v2/c2))
m= 80kg
v= 100/9.77m/s
c= 299792458m/s




 6桁
実数RAD		 m=80;v=100/9.77;c=299792458;
m*c^2*(1-sqrt(1-v^2/c^2)) =4190.55
m=80;v=100/9.77;c=299792458;
m*c^2*(1-SQRT(1-v^2/c^2)) =3991.274772
v≪cの場合、ﾆｭｰﾄﾝ近似で E=mv2/2=4190.55

ブックマーク

実行履歴