抵抗率測定における補正係数の求め方

このQ&Aのポイント
  • 抵抗率測定における補正係数の求め方について、エクセルでの自動計算方法について調べています。
  • エクセルで補正係数を求めた測定をしている方がいらっしゃれば、何が考えられるか教えてください。
  • 計算式中の(COS)内がラジアンである場合、2πを超えた段階でおかしなことになる可能性があります。JIS K 7194を参照してください。
回答を見る
  • 締切済み

抵抗率測定における補正係数の求め方

薄材の抵抗率を求めることになりました。抵抗測定のための、4探針測定用婦ローブは、専用の物を準備しますが、抵抗測定は、汎用のボルトメータを使うことになりました。  そこで、JISK7194に基づき、補正係数を使用したいのですが、汎用性を持たすために、JISの付属書の数表を使用せず、参考の「補正係数Fの計算方法」に従って、エクセルで自動計算したいと考えています。  ところが、出来た計算式に、パラメーターを与えてみると、JISの数表と数値が一致しません。どこかが違うと思うのですが、何度見ても間違いが見つかりません。  そこで質問ですが、同じようにエクセルで補正係数Fを求めた測定をしている方はいないでしょうか?もしいらっしゃれば、どんなことが考えられるでしょうか?  また、計算式中のCOSの( )内は、ラジアンで良いのでしょうか? 計算式中のCOSの( )内がラジアンだとすると、( )内の値が、2πを超えた段階でおかしな事になると思うのですが・・・・ JISの計算方法をここに表現できれば良いのですが、とにかく長いので、もし、エクセルや数学に強い方がいらっしゃれば、JIS K 7194を参照してください。 http://www.jisc.go.jp/app/pager?id=11060 参考2.計算

noname#230358
noname#230358

みんなの回答

noname#230359
noname#230359
回答No.1

参考URLは三菱化学の抵抗率計のカタログです。 この中の資料が約にたつのではないかと思います。

参考URL:
http://www.dins.jp/dins_j/6data/pdf/catalog/Lineup_catalog_J0408-LP.3000US.pdf
noname#230358
質問者

お礼

早速のレスありがとうございます。 残念ながら、ご呈示していただいたURL資料は、確認済みです。中に記載の式は、JISに記載のものと同じです

関連するQ&A

  • この式をエクセルで解きたい

    抵抗率を測定するため、JIS K 7194にある補正係数を求めたいと思い、エクセルで式をたてましたが、数表にある値と一致しません。数学的に解釈が間違っているのか、エクセルの入力が間違っているのか、何度見ても、分からず困っています。 数式がかなり長いので、画像として添付しますが、ポアソンの式を解いたものです。 何かヒントになるようなことだけでも良いのでよろしくお願いします

  • ガスクロマトグラフ 補正係数

    大学の実験でガスクロマトグラフにより定量分析を行いました。 標準物質を含む既知組成の混合物のクロマトグラムの各成分のピーク面積の測定から、その面積を求めることができ、補正係数が既知である時、未知組成の混合物の組成はAF/ΣAF×100(ある一つの物質)で表されるらしいのですがこの式の意味がよくわかりません。 Aは各成分に対応するピーク面積、Fは補正係数です。 よろしくお願いします。

  • 半導体の抵抗率の公式につて

    半導体の抵抗率の式について質問があります。 (1)ρ=2πS(V/I)  Sは探針間距離です。 (2)ρ=(V/I)・W・CF  Wは試料の厚さ CFは補正係数です。 この2式の違いを教えていただけないでしょうか? どのような時に(1)あるいは(2)を使えばいいのでしょうか? またどちらがより有効なのか? もしよろしければご解回答いただけないでしょうか。よろしくお願いいたします。

  • 長岡係数の補正領域

    長岡係数の補正領域 今、直径165mm、巻数密度 2380.952381[回/m]のコイルを用いました。簡単にすれば100巻あたり42mmということになります。まぁコイルはこんなもんなサイズで、エクセルでLundinの近似式を用いて、長岡係数を求めたところ次のようになりました 100巻き・・・0.534187834 200巻き・・・0.534888292 300巻き・・・0.627439066 400巻き・・・0.692340069 500巻き・・・0.738659139 600巻き・・・0.77315526 700巻き・・・0.799765855 800巻き・・・0.820879807 また計算サイトで求めたところ 100巻き・・・0.369 200巻き・・・0.53 300巻き・・・0.627 400巻き・・・0.693 500巻き・・・0.738 600巻き・・・0.774 700巻き・・・0.8 800巻き・・・0.821 Lundinで求めたら、100巻きの時の長岡係数が変になったので、計算サイトで得られた長岡係数を用いて考えると、200(400かな?)巻きのあたりから長岡係数の変化はだいぶ緩くなっていて、このあたりから両端を補正すべき領域(長岡係数が補正してくれる範囲)から脱していると考えていいのでしょうか?というのは、これで理論値インダクタンスを求めると、100~200巻のあたりではやや曲線に、それ以降は、無限長ソレノイドと同様にほぼ直線のようになっているからです(もちろんインダクタンスは無限長より小さいですし、長岡係数は1に近づいていくので長い目で見ればいつか無限長のインダクタンスと一致しますよね)。長岡係数はどこまで正確に補正してくれるんでしょうか 教えてください。

  • 分析結果の補正係数

    いつもお世話になります。 ある食品の酸度や食塩分の分析方法を変更するに当たって、 新規の方法と従来の方法の結果を摺り合わせするために 補正係数を算出したいと思っています。 まずそれぞれの方法で50回ずつ分析しました。 私が思いついたのは最小二乗法だったので、Excelで散布図にプロットし 線形近似で方程式を求め、そこに新規法の結果を代入し、補正値を算出しました。 別の人は、従来法結果÷新規法結果の50回分の平均を補正係数としていました。 (補正値-新規法結果)が従来値に近いほど補正係数として適していると考え計算したところ、 酸度では私の方法(最小二乗法)が塩分では別の人の方法(除数の平均)がよりよい結果になりました。 どちらが正しい方法なのでしょうか? また通常こういった場合の補正係数はどのように求めるのでしょうか? レベルの低い質問で恐縮ですが、何とぞご教示下さいますようよろしくお願いします。

  • エクセルにて工程能力評価時の補正係数について

    お世話になります。 工程能力Cp、Cpkを算出する際ですが、 http://w3e.kanazawa-it.ac.jp/jinzai/qm/qm0703.pdf のページの50ページのように、サンプリング数(データ数)によって 補正係数を使って補正しています。 エクセルで工程能力を求めた場合、 STDEV関数で標準偏差を求めた場合、補正係数での計算は 不要という理解で正しいでしょうか? (普通そうしないと思いますが、  STDEVP関数で求めた場合、補正係数が必要という理解でしょうか?) 宜しくお願いします。

  • フーリエ係数

    画像のような波形信号のフーリエ係数を求めるときは [0-π]の範囲ではf(t)=4sin(t)で、[π-2π]の範囲ではf(t)=0として計算すればよいのでしょうか? そうすると計算式は積分範囲は[0-π]で a0=(1/π)*∫4sin(t)dt, an=(1/π)*∫4sin(t)*cos(nt)dt, bn=(1/π)*∫4sin(t)*sin(nt)dt, となるのでしょうか? また、周期2πで、[-π,π]において、f(t)=π-|t|、で表わされる関数f(t)のフーリエ係数は a0=π, an=(2/n)*(cos(nπ)-sin(nπ)), bn=0, になったのですが(計算があってるかはわかりません) フーリエ級数を求めるには、この後どうすればいいのでしょうか? よろしくお願いします。

  • 温度測定について質問です。

    温度測定に、熱電対 もしくは 測温抵抗体を用いる場合ですが、 測定器の分解能が0.1℃、確度も同程度あるとしても、 センサー自体(熱電対 or 測温抵抗体)の確度が2~3℃くらいになっています。 どのセンサーのカタログを見ても、同じ程度です。 せっかく測定器の精度が良いのに、センサー自体の確度が悪いため 高精度な温度測定ができません。 世間一般では、どのように補正しているのでしょうか? (例えば、JISの基準電圧表を参考にあとで補正しているとか?) どなたか、ご教授願います。

  • 超音波流量計の測定原理

    伝播時間差法に基づく超音波流量計の測定原理を調べているのですが、1点分からないところがあり、ご教示いただければ幸いです。 超音波流量計で実際に測定されるのは超音波の伝播路に沿った線平均流速Vですが、流量の計算に用いるのは管の横断面での面平均流速Vaです。線平均流速と面平均流速は異なるため、これを補正する補正係数Kを用いて流量Qは次のように計算されます。(rは管の内半径です) Q=π・r^2・Va=π・r^2・K・V 流れが層流の場合は補正係数Kは理論的に一定ですが、流れが乱流の場合は補正係数Kはレイノルズ数Reの関数になります。 流れが乱流の場合に、流量計の校正により、レイノルズ数Reと補正係数Kの関係を求めることはできると思います。 分からないのはこここからです。 実際に超音波流量計で流量を測定するときに実測できるのは伝播時間であり、装着条件により決まる入射角,管内半径を用いて線平均速度が計算されます。しかし、この段階ではまだ流量は得られていないのでレイノルズ数Reは未知であり、したがって、補正係数Kも未知です。どのような計算で流量を計算するのか分かりません。 ご教示よろしくお願いします。

  • リレー接点の接触抵抗測定について教えてください。

    メカニカルリレー(HC3-HP-AC200V-F:松下)の接点の接触抵抗を測定したいと考えています。 JIS C 5442「制御用小形電磁リレーの試験方法」によると、DC6V、1A電圧降下法で測定するとなっており、また、メーカーの試験でもその方法で行われています。 メーカーの仕様値では、接点の接触抵抗は30mΩとなっています。 この場合の測定方法について、ご回答をお願いします。 私が考えている測定方法は、DC6Vの電源を用意し、リレー接点と接続し、さらにVR(可変抵抗)と電流計をシリーズに接続し、電流計が1Aを指すようにVRを調整して、リレー接点の両端を電圧計(テスタ)で測定しようと考えています。 このとき、接点の接触抵抗を無視すると、VRは6V/1A=6Ω、VRの容量は6V×1A=6Wとなりますが、6Wもの大容量のVRはなかなか見つかりません。 ホーロー、巻線の可変抵抗なら大容量のものもありますが、測定対象の接点抵抗が非常に小さいため、正確に測定するためにも微調節のしやすいVRが必要になると思います。 求めたいオーダーは、少数点第2位から第1位くらいで考えています。 接点の接触抵抗や回路中の抵抗などを考慮すると、5~6Ω程度で可変できる抵抗が必要になってくると思います。 こういった測定をする場合、少ない部品、簡単な回路ではどのような方法があるのでしょうか? 手元にあるのはVRが数種類(100kΩ、1/4Wなど)、セメント抵抗(10Ω5Wが10個程度)カーボン抵抗が一通り(1/4W、1/2W)などです。 これらを組み合わせて作ることは可能だと思われますが、シンプルな回路にしたいと思います。 足りない部品は、入手が難しい部品でなければ購入しようと考えています。 以上、よろしくお願いします。