OKWAVEのAI「あい」が美容・健康の悩みに最適な回答をご提案!
-PR-
解決
済み

VB5での有効桁数以上の計算結果について。

  • 暇なときにでも
  • 質問No.103024
  • 閲覧数301
  • ありがとう数1
  • 気になる数0
  • 回答数2
  • コメント数0

お礼率 32% (12/37)

現在、VB5をやっているのですが、以前の質問のログを見てさらに思ったのですが、乗除算で
Double型で15桁や通貨型などで、有効桁数より大きな数(20桁)等を計算して、正しい数値を
表すには(指数ではなくて)何かいい方法があるのですか?
999,999,999,999,999 * 10 などの計算です。
通報する
  • 回答数2
  • 気になる
    質問をブックマークします。
    マイページでまとめて確認できます。

質問者が選んだベストアンサー

  • 回答No.2
レベル12

ベストアンサー率 65% (276/422)

再度田吾作7です。

これを実行してみてください。

'バリアントで宣言
Dim wkDecimal As Variant
'10進型でセット
wkDecimal = CDec(999999999999999# * 9999999#)
'イミディエイトウィンドウへ出力
Debug.Print wkDecimal


Dim の所でDecimal(10進型)で宣言したいところですが、それは出来ないようです。ですのでバリアント型で宣言しておき、値をセットするタイミングで10進型にしてあげます。するとバリアントのwkDecimalは、内部で10進型の変数になります。
偶然的に見つけたものですから、詳しく実験はしておりません。。。

でわでわ
-PR-
-PR-

その他の回答 (全1件)

  • 回答No.1
レベル12

ベストアンサー率 65% (276/422)

どもども田吾作7です。 ('_`)ウゥ 計算は標準で有効桁数が限られているので、標準では出来ないと思います。(もし出来るのであれば、ぼくも知りたいです。だれか教えて!) ぼくの場合は自分で計算モジュールを作っちゃいます。 一応たし算とかけ算のサンプルを載せておきます。 そういえば、この前別の質問に答えて、サンプルを参考URLに載せたら、gooの人から「直接リンクを張っ ...続きを読む
どもども田吾作7です。

('_`)ウゥ 計算は標準で有効桁数が限られているので、標準では出来ないと思います。(もし出来るのであれば、ぼくも知りたいです。だれか教えて!)

ぼくの場合は自分で計算モジュールを作っちゃいます。


一応たし算とかけ算のサンプルを載せておきます。

そういえば、この前別の質問に答えて、サンプルを参考URLに載せたら、gooの人から「直接リンクを張ってはいけない」とメールが送られてきて、しかもその発言を削除されてしまいました。。。(-ロ-;グハッ
どうやら、いけない行動だったらしいのです。ですので、ここにアドレスを書いときます。(ここならOKなのかな?)

http://f-ga.com/Lib/CalcProject.lzh
以下のソースは上記のファイルのソースを、コピペしたものです。


必要なコントロール
Command1
Text1
Text2
Label1

Command2
Text3
Text4
Label2


Private Sub Command1_Click()
'たし算
Dim wkStr As String
Dim wkLng As Long

With Me
'テキスト1には数値が長くても大丈夫
wkStr = .Text1.Text

'テキスト2にはLONG型に収まる値にしてください
wkLng = Val(.Text2.Text)

.Label1 = funcTASU(wkStr, wkLng)
End With
End Sub

Private Sub Command2_Click()
'かけ算
Dim wkStr As String
Dim wkLng As Long

With Me
'テキスト3には数値が長くても大丈夫
wkStr = .Text3.Text

'テキスト4にはLONG型に収まる値にしてください
wkLng = Val(.Text4.Text)

.Label2 = funcKAKERU(wkStr, wkLng)
End With
End Sub


Function funcTASU(inStrNumber As String, inLngPlusNumber) As String
Const CutNum As Long = 3 'とりあえず3桁で区切ることにする

Dim wkMaxLen As Long '文字型ナンバーの桁数
Dim wkMaxCnt As Long 'ループ回数
Dim wkMod As Long '3桁にならない余りの上位桁
Dim i As Long 'ループカウンタ
Dim wkSpotPos As Long '区切り位置

Dim wkSpotNum As Long '区切られた部分の数値

Dim wkCalc As Long '計算用ワーク


Dim memCalc As String '計算用ワーク
Dim ketaCalc As Long '桁上がり計算用ワーク


If Not IsNumeric(inStrNumber) Then GoTo PGMEND

wkMaxLen = Len(inStrNumber)
'この回数繰り返す
wkMaxCnt = (wkMaxLen \ CutNum)

'3で割り切れない桁数を得る
wkMod = (wkMaxLen Mod CutNum)

'余りがあるとき、ループ数を増やす
If Not (wkMod = 0) Then
wkMaxCnt = wkMaxCnt + 1
End If


For i = 1 To wkMaxCnt
'基本的に3桁づつ取り出す
If (i = wkMaxCnt) And (Not (wkMod = 0)) Then
'最上位桁が3桁じゃない時、上位余り桁を得る
wkSpotNum = Left(inStrNumber, wkMod)
Else
'それ以外
wkSpotPos = (wkMaxLen - (i * CutNum) + 1)
wkSpotNum = Mid(inStrNumber, wkSpotPos, CutNum)
End If

If i = 1 Then
'最下位桁には指定の値をたす
wkCalc = inLngPlusNumber + wkSpotNum
Else
'最下位桁以外は、繰り上がりの値をたす
wkCalc = wkSpotNum + ketaCalc
End If

'上位桁として下3桁だけ連結させる
memCalc = Right(wkCalc, CutNum) & memCalc

'10の3乗で除算し、その答えが桁上がり
ketaCalc = wkCalc \ (10 ^ CutNum)
Next i

'桁上がりが存在していたら、上位桁として連結
If Not (ketaCalc = 0) Then
memCalc = ketaCalc & memCalc
End If

PGMEND:
'返り値をセット
funcTASU = memCalc
End Function


Function funcKAKERU(inStrNumber As String, inLngKakeruNumber) As String
Const CutNum As Long = 3 'とりあえず3桁で区切ることにする

Dim wkMaxLen As Long '文字型ナンバーの桁数
Dim wkMaxCnt As Long 'ループ回数
Dim wkMod As Long '3桁にならない余りの上位桁
Dim i As Long 'ループカウンタ
Dim wkSpotPos As Long '区切り位置

Dim wkSpotNum As Long '区切られた部分の数値

Dim wkCalc As Long '計算用ワーク


Dim memCalc As String '計算用ワーク
Dim ketaCalc As Long '桁上がり計算用ワーク


If Not IsNumeric(inStrNumber) Then GoTo PGMEND

wkMaxLen = Len(inStrNumber)
'この回数繰り返す
wkMaxCnt = (wkMaxLen \ CutNum)

'3で割り切れない桁数を得る
wkMod = (wkMaxLen Mod CutNum)

'余りがあるとき、ループ数を増やす
If Not (wkMod = 0) Then
wkMaxCnt = wkMaxCnt + 1
End If


For i = 1 To wkMaxCnt
'基本的に3桁づつ取り出す
If (i = wkMaxCnt) And (Not (wkMod = 0)) Then
'最上位桁が3桁じゃない時、上位余り桁を得る
wkSpotNum = Left(inStrNumber, wkMod)
Else
'それ以外
wkSpotPos = (wkMaxLen - (i * CutNum) + 1)
wkSpotNum = Mid(inStrNumber, wkSpotPos, CutNum)
End If


'とりあえずかける
wkCalc = inLngKakeruNumber * wkSpotNum

'繰り上がりの値をたす
wkCalc = wkCalc + ketaCalc

'上位桁として下3桁だけ連結させる
memCalc = Right(wkCalc, CutNum) & memCalc

'10の3乗で除算し、その答えが桁上がり
ketaCalc = wkCalc \ (10 ^ CutNum)

Next i

'桁上がりが存在していたら、上位桁として連結
If Not (ketaCalc = 0) Then
memCalc = ketaCalc & memCalc
End If

PGMEND:
'返り値をセット
funcKAKERU = memCalc
End Function


ってな感じです。

でわでわ


このQ&Aで解決しましたか?
関連するQ&A
-PR-
-PR-
こんな書き方もあるよ!この情報は知ってる?あなたの知識を教えて!
このQ&Aにはまだコメントがありません。
あなたの思ったこと、知っていることをここにコメントしてみましょう。

その他の関連するQ&A、テーマをキーワードで探す

キーワードでQ&A、テーマを検索する
-PR-
-PR-
-PR-

特集


いま みんなが気になるQ&A

関連するQ&A

-PR-

ピックアップ

-PR-
ページ先頭へ