- 締切済み
円周率の使用範囲とノギス測定の誤差について
hahaha8635の回答
- hahaha8635
- ベストアンサー率22% (800/3609)
倍精度浮動小数点数 64ビット https://ja.wikipedia.org/wiki/%E5%80%8D%E7%B2%BE%E5%BA%A6%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0 もっと制度のいる場合 四倍精度浮動小数点数 https://ja.wikipedia.org/wiki/%E5%9B%9B%E5%80%8D%E7%B2%BE%E5%BA%A6%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0 directXは 単精度浮動小数点? マシン構成やプログラムよって変わる https://ja.wikipedia.org/wiki/%E5%9B%9B%E5%80%8D%E7%B2%BE%E5%BA%A6%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0 openGLはプログラム依存 http://uno036.starfree.jp/PRGmanual/system/opengl/gl2.html 上記はパソコンの中の話 シミレータやCAEなど の演算結果は上記のように マシン精度やプロフラム制度によって変わる >>建築物、ビルなど 住宅メーカー生産ライン https://www.youtube.com/watch?v=Rlj0-W3ElEg 基本的には工業製品と変わらない 精度 地球サイズの望遠鏡 https://www.nao.ac.jp/news/science/2019/20190410-eht.html 設置誤差は数ミリ 東京タワーの誤差もミリ単位 https://note.com/shokosuzuki/n/n5a9a44d6f067
関連するQ&A
- 測定誤差の指導について。
ノギスを使って本の厚さを測るなどして,算数や数学で測定誤差の指導をすべきだと思いますか。 【備考】ノギスでは 0.05 mm 単位で測定できるので,測定誤差は ±0.05 mm
- ベストアンサー
- 数学・算数
- ノギスなどの誤差要因について教えて下さい
ノギス、マイクロメ―タ、空気マイクロメ―タの誤差原因は、どのようなことが考えられるでしょうか? ノギスの測定は、目測時に視差が生じると思うのですが 他の気温などの関係もあるのでしょうか? 回答よろしくお願いします
- 締切済み
- その他(学問・教育)
- 加工における寸法公差の考え方について
初歩的な質問になります。 図面にφ10±0.1と書かれたある軸を加工するとします。 質問1.この場合φ9.9000・・・~φ10.1000・・・ の範囲で仕上げなければならないということでしょうか。 質問2.ノギスで径を測定して10.1となったらOKとなりますか。 測定誤差を考慮する必要はありますか。 質問3.そもそもこの測定にはノギスではなくマイクロメータを使う必要がありますか。 以上よろしくお願いします。
- 締切済み
- 測定・分析
- 統計、申込率の確率についての質問です。
1、●%の誤差を調べるには何回、測定したらいいでしょうか。 現在、申込率を調べています。 0.1%単位で正確な測定をしたいので、 申込数の誤差が気になります。 ●%の誤差を調べるには何回測定したらいいでしょうか。 計算式などは教えてください。 例えば、サイコロ「1」の出る確率は16.66・・・%。 これは1回サイコロを投げると「1」が6分の1の確率ででるからです。 1回だけ測定すると上記の確率になります。 ただし現実問題として、1000回なげると 「1」が出現する回数は166回ではないはずです。 必ず誤差がでてきます。 そこで誤差を調べるには何回測定したらいいでしょうか。 もしくはどのような計算式がありますか? 1000回サイコロを降り、1%の誤差がある場合は 10回も出現回数が違ってきます。 2、Xの確率の試行をY%信頼区間で調べるには何回したらよい? 同様に、 信頼区間を調べるには、どのような計算式がありますか?
- 締切済み
- 数学・算数
- 不良率測定のためのサンプル数の算出方法
月産1000台の製品の不良率を測定するために、20項目で(良・不良)の評価を行うとします。 ただ、1000台全部の測定は工数的に厳しいので1000台中の数台の測定するのに留めたいのです。 ここでサンプルのみの測定と1000台すべてを測定した場合で誤差は発生すると思いますが、この誤差を5%以内に収めるには何台の測定をすればいいのでしょうか。 また誤差を10%まで許容する時はどのように算出すればよいのでしょうか。 その考え方、算出方法をできるだけ詳しく知りたいと思っています。 よろしくお願い致します。
- 締切済み
- その他(ビジネス・キャリア)