- ベストアンサー
VB2005で掛け算の結果がおかしい
VB2005を利用しています。 例えば以下のように記述すると、 Dim a As Double = 2.3 Dim b As Double = 27000 Dim c As Double c = a * b ｃに62099.999999999993という 値が入ります。 a=2.1だと c=56700.0 a=2.2だと c=59400.000000000007 となります。 本当はa=2.3の場合には62100.0となって欲しいのですが。 何がおかしいのでしょうか？
- rabu_chihaha
- お礼率68% (120/174)
- Visual Basic
- 回答数2
- ありがとう数2
- みんなの回答 （2）
- 専門家の回答
関連するQ&A
- VB6-標準モジュールとの変数の受け渡し
VB6の初心者です。ごく初歩的な問題でお恥ずかしいのですが困っています。 標準モジュール内にある以下のサブルーチンを行わせるために、 Sub Transform(NumSamples As Long, RealIn() As Double, ImageIn() As Double, RealOut() As Double, ImagOut() As Double, Optional InverseTransform As Boolean = False) （NumSamples、RealIn()、ImageIn()は入力値） （RealOut()、ImagOut()は戻り値） ... ... End Sub フォームモジュール内で以下のようにコールすると、 Private Sub cmdStart_Click() Dim A as Long Dim B(10000) as Double Dim C(10000) as Double Dim D(10000) as Double Dim E(10000) as Double ... （A,B,Cに数値入力） ... Call Transform(A, B(), C(), D(), E(), False) End Sub で実行すると、変数D()に対して「コンパイルエラー：型が一致しません：配列またはユーザ定義型を指定してください」が出ます。なお、配列は10000まで宣言していますが実際には0～4096を使っています。 変数型は合わせているはずなのになぜエラーになるのでしょうか。D(),E()の型宣言をPublicにして標準モジュール内に入れたり、いろいろやってみたつもりですがうまくいきません。 よろしくお願いします。
- 締切済み
- Visual Basic
- VBに詳しい方に質問です
VBではdouble型等の型を持つ関数は宣言できるのでしょうか？ C#だちできると思うのですが・・・。 また、VBでも Dim hoge as doubleなど、変数ならできると思うのですが・・。 ご存知の方、お願いします。
- ベストアンサー
- Visual Basic
- ＶＢでの変数宣言は１行に２つできないのですか？
Ｖｉｓｕａｌ ＢＡＳＩＣで変数宣言は１行に２つ以上記述しても実際、動作します。 例 ＤＩＭ Ａ、Ｂ ａｓ Ｉｎｔｅｇｅｒ このように宣言すると、ＡもＢも整数となります。 しかし、このように宣言して、この変数を Ｃａｌｌ サブプログラム名（Ｂ） のように、パラメ－タとして引き渡そうとするとエラーとなってしまうようです。 よくわからないまま、 ＤＩＭ Ａ ａｓ Ｉｎｔｅｇｅｒ ＤＩＭ Ｂ ａｓ Ｉｎｔｅｇｅｒ と分けて記述したらエラーがきえたようです。 変数宣言は１行に２つ以上まとめて記述してはいけないのでしょうか？ ＶＢは Ｖｅｒ ５ です。
- ベストアンサー
- その他(ソフトウェア)
- VB６のTYPE文をVB.NETのStructureに変えるとき
VB６のTYPE文をVB.NETのStructureに変えるとき 下記VB6のコードをVB.NETのStructureに変える場合 Type kouzou1 i As Integer j As Integer a As String * 20 b As String * 50 End Type を下記にしてみたのですが *20,*50のところは、どのように表現するのでしょうか。 Structure kouzou1 Dim i As Integer Dim j As Integer Dim a As String * 20 <- ステートメントの終わりを示してくださいのエラーになる。 Dim b As String * 50 <- ステートメントの終わりを示してくださいのエラーになる。 End Structure お教え下さい。
- ベストアンサー
- Visual Basic
- VB6.0 →VB2005 のアップグレードでエラー表示
VB6.0の標準モジュールでは Private Type typset a As String b As String c As Integer End Type Public make() As typset と記述してエラーもなく正常なのですが、VB2005にアップグレードしたときに、 Option Strict Off Option Explicit On Module Module1 Private Structure typset Dim a As String Dim b As String Dim c As Integer End Structure Public make() As typset←▼エラー▼ End Module 【エラー内容】 'make' は、module 'Module1' をとおして型 'typset' を namespace 'WindowsApplication1' で公開することはできません。 structure部をPublicなどにしてもエラーは消えますが、参照先に影響が出てしまいます。 根本的な解決方法が分かりません。 教えていただけないでしょうか？
- 締切済み
- Visual Basic
- VB2005での関数への配列の参照渡しの方法
Visual Basic 2005で、 =============================================================== Function func(ByVal a As Integer, ByRef b() As Integer) As Integer a += 1 : b(0) = 1 : b(1) = 2 : b(2) = 3 Return 0 End Function ============================================================== という関数があったとしてメインのプロシージャに ================================================================ Dim c As Integer Dim d As Integer Dim e() As Integer = Array.CreateInstance(GetType(Integer), 10) d=7 c = func(d, e) ================================================================ と書き入れると結果はd=7(∵値渡し)、e(0)=1,e(1)=0,e(2)=0(∵参照渡し)となってしまうと思います。 e(0)=1,e(1)=2,e(2)=3としたい場合はどのように記述すればよいのでしょうか？
- ベストアンサー
- Visual Basic
- VB functionについて
プログラム初心者です。 以下のソースをVB２０１０で動作させると型'double'の値を'system.Collections.ArrayList'に変換できません。となります。呼び出し方法がおかしいと思うのですが。よく分かりません。解決方法を教えてくださいお願い致します。 Private Sub Button1_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click Dim aArr() As Double aArr(1) = 1.1 aArr(2) = 2.3 MsgBox(AAA(aArr)) End Sub Public Function AAA(ByVal aArr As ArrayList) As Double() Dim retVal As Double() = Nothing ReDim retVal(2) Dim loopCnt As Integer = 0 Dim Arrcnt As Integer = aArr.Count Dim sum As Double = 0.0 For loopCnt = 0 To Arrcnt - 1 sum += aArr(loopCnt) Next sum = sum / loopCnt retVal(0) = sum Return retVal End Function
- ベストアンサー
- Visual Basic
- ＶＢ２００５でバイト配列をコピーするには
どなたかご教授下さい。 ＶＢ６で作成したプログラムをＶＢ２００５にコンバートしました。構造体からなる配列変数を一つの配列変数にコピー したいのですが、構造体の最初のメンバーだけ値が同じで以降の値は正しくセットされていませんでした。 どのように記述したらよいのでしょうか。またCopymMemory以外で良い方法があればご教授下さい。 よろしくお願い致します。 ===概略=== Declare Sub CopyMemory Lib "kernel32" Alias "RtlMoveMemory" (ByRef Destination As Byte, ByRef Source As Byte, ByVal Length As Short) 構造体定義 （コピー元） <StructLayout(LayoutKind.Sequential)>Structure ST_MOTO <MarshalAs(UnmanagedType.ByValArray, SizeConst:=4)> Dim byte_strTranCd() As Byte <MarshalAs(UnmanagedType.ByValArray, SizeConst:=5)> Dim byte_strTanSeq() As Byte <MarshalAs(UnmanagedType.ByValArray, SizeConst:=2)> Dim byte_strTxtNo() As Byte <MarshalAs(UnmanagedType.ByValArray, SizeConst:=3)> Dim byte_strTxtSeq() As Byte End Structure Dim A As ST_MOTO （コピー先） <StructLayout(LayoutKind.Sequential)> Structure ST_SAKI Dim lngrecLen As Integer 'データのLength <MarshalAs(UnmanagedType.ByValArray, SizeConst:=100)> Dim bytrecData() As Byte 'データ End Structure Dim B As ST_SAKI Call CopyMemory(B.bytrecData(0), A.byte_strTranCd(0), 14) 出力結果 '最初の構造体のメンバーの値は正しく設定されている B.bytrecData(0) =80 A.byte_strTranCd(0) =80 B.bytrecData(1) =50 A.byte_strTranCd(1) =50 B.bytrecData(2) =57 A.byte_strTranCd(2) =57 B.bytrecData(3) =50 A.byte_strTranCd(3) =50 'これ以降は正しくない。（VB6だと正しく設定されている） B.bytrecData(4) =0 A.byte_strTanSeq(0) =80 B.bytrecData(5) =0 A.byte_strTanSeq(1) =87 B.bytrecData(6) =0 A.byte_strTanSeq(2) =48 B.bytrecData(7) =0 A.byte_strTanSeq(3) =48 B.bytrecData(8) =6 A.byte_strTanSeq(4) =55 ・ ・ ・ ・
- 締切済み
- Visual Basic
- 足し算の結果のみが変!?
ExcelVBAでinputbox()やuserformのtextboxから値を取得する場合に Sub prog() Dim a, b, c As Integer a = InputBox("値1を入力") b = InputBox("値2を入力") c = a + b MsgBox c End Sub とすると,例えば(値1)=2,(値2)=3としたときにメッセージボックスに本来であれば2+3なので5と表示されるはずですが23と表示されてしまうのはどうしてでしょうか。引き算や掛け算,割り算の場合はちゃんと表示されるのですが、、、
- ベストアンサー
- Visual Basic
- VB6.0での小数点の扱いについて
現在、VB6.0を使用しており、小数点の扱いに困っています。 Sub Keisan() Dim A As String Dim B As String Dim C As String A = 1.29033 B = 1.91458 C = CStr(A + CDec((B - A) / 6) * 3) MsgBox C End Sub 上記のプログラムを実行すると、 「1.602455000000001」と表示されますが、 電卓を用いて計算すると、 「1.602454998・・・」となり、微妙に誤差が出てしまいます。 小数点を整数にして計算→元の桁数に戻す、という 処理を行うと、誤差なく求めることが出来ましたが、 「もっとスマートなコードにして」と言われてしまいまして どうしたものかと思っております。 この誤差を解決する方法は無いでしょうか？
- ベストアンサー
- Visual Basic
- リモートデスクトップを使ったことが無いので試してみたかったのですが、PCが1台しかないのでPCの物理マシン上に仮想PCを作成し、物理PCをホスト、仮想PCをクライアントとして試してみようと思いました。
- ホストPCとクライアントPCの設定をし、クライアントPCからリモートデスクトップを実行して物理PCに接続を試みましたが、ログオンに失敗しました。
- 1台のPCでリモートデスクトップを試すことは可能ですが、正常に接続するには設定やアカウントの確認が必要です。
お礼
ありがとうございます。 できました。