相関係数と検量線の求め方と使い方

質問

相関係数と検量線の求め方がわからなくて困っています・・・。

釘試料0.5gを酸で溶解し、生成したマンガンイオンを酸化させ過マンガン酸イオンとして100cm＾3に低要したものを吸光度測定すると0.276でした。
200μｇ・cm^-3　の過マンガン酸カリウム標準溶液を0,4,8cm^3とり、100cm^3の酸に溶かし、この一部を1cmのセルに入れて吸光度を測定すると
0cm^3時:0.009、4cm^3時:0.335、8cm^3時0.674
この結果について相関分析と回帰分析を行い、濃度をXppm、吸光度をｙとし相関係数と検量線を求めなさい。

という問題です・・・。
過去ログを探して似たような問題をみましたが、検量線、相関係数がよくわかりません・・・。自分の未熟のせいもあるのですが、どうか教えてください。

回答No.3

kgu-2 · ベストアンサー

検量線ためには、まず散布図を描きます。散布図の横軸は、標準液の濃度です。
　200ppmのものから、0m採ったものの濃度は、0ppmです。4ml採ったときの濃度は、原文のままなら、7.69ppm。8mlの場合は、14.8ppmになります。そのときの吸光度が、0.009、0.335、0.674ですね。
　エクセルのA列にX軸の数値になる濃度を、B列にその吸光度を入力します。すなわち、A1番地に0、A2に7.69、A3に14.8を入力します。B1に0.009、B2に0.335、B3に0.674を入力します。

　あとは、グラフから散布図を選んで描いて下さい。散布図における回帰式が、検量線になります。
　すなわち、グラフのウィンドをクリック>メニューバのグラフ>近似曲線の追加>種類(ここで、高次式を選ぶことも可能)、を確認後、オプションのタグ>グラフに数式を表示する、と、グラフにR-2乗値を表示する、のボックスにチェックをいれれば、グラフ上に回帰式と決定係数が表示されます。

　このやり方だと、y=0.0449+0.0028 (r^2=0.9989)になりました。fox19jpさんとほぼ同じ値ですので。おそらく正しく計算なさっていると想います。
　相関係数は、0.9989の平方根を計算すればOKです。

　あとは、サンプルの吸光度が0.276ですから、y軸の0.276から右に直線を水平に引き、検量線の交点からは、垂直に線をおろして、x軸の交点を読めば、6ppmほどの値がよめます。
　yに0.276を代入して、xを求めると、より正確ですが。

　あとは、5gのサンプル中のマンガンイオンは、100mlの溶液に全て移り、その濃度は約6ppmなのですから、釈迦に説法でしょう。

　厳密には、fox19jpさんの補足にある
ｒ＝√Σ(Xi－Xの平均)^2　／　Σ(Yi－Yの平均)^2
ｍ＝(ΣXi－Xの平均)y　／　Σ(Xi－Xの平均)^2
Yi－Yの平均＝ｍ(Xi－Xの平均)
　から計算した値と、エクセルの散布図の検量線として扱った回帰式とは、一致しません。
　前者は、最小2乗法で計算し、エクセルのグラフは回帰だからです。

　現実的には、その差は無視できるくらいなので、実用上は問題ありません。

　文字で書くと、表現が貧弱で、分かって下さるかなと不安になり、イライラします。ご不明の点は、書き込んで下さい。

お礼

的確で明瞭な回答ありがとうございました。
おかげで、エクセルで回帰直線と散布図
を書くことができました。kgu-2さんの計算
と同じで安心しました。どうもありがとう
ございます。

こちらも質問等で、文字化けやら打ち間違え
やらで、迷惑をかけてすいません。

回答No.2

kgu-2

>残念ながら、検量線を書いた事はありません。
お察しのとおり大学の課題なのですが、手書きで求めろという意味合いが強い
検量線が手書きなら、そのグラフを見て、正否を判断するので、相関係数を求める必要がありません。相関係数は、統計学的処理によって、検量線の適否の判断に使うからです。手書きの場合は、相関係数を計算するのは不可能です。
　30年も昔に、10サンプルについて相関係数を場粗紺ではなく電卓で計算しました。キーを1000回くらい打つ必要があり、何度やっても一致しなかったので、諦めました。善意に開始訳すれば、標準液が2つなのは、その点の配慮なのかも。

回答の補足で
>KMnO4の体積(cm^3)　　　0 2 　　 4 　　6 　　　 8
の濃度(ppm) 0 4 　　 8 　　12 　　　16
の吸光度　　　0.009　0.175　　0.334　0.522　　0.674
となっています。が、この中で、2と6は、私の指摘で、fox19jpさんご自身で、その吸光度を測定されたものですね。

　大学のレポートであっても、ここまでされていれば、解答に近いものを書き込んでも違反にならないと想いますので。

　手では大変なので、エクセルを前提にして、長くなるので、次に書きます。

回答No.1

kgu-2

失礼な問いですが、検量線を描いたことがおありですか。
そのご経験があるなら、あとは、検量線のための横軸の濃度を計算するだけなのですが。
　200μｇ・cm^-3は、200μｇ/mlの方が分かりやすいですね。cm^3ではなく、mlが化学の世界では一般的です。

>相関係数と検量線の求め方がわからなくて困っています・・・。
　検量線は、手書きではなく、エクセルで３年生の学生実習でやらせています。相関係数を求めるには、パソコンがないと無理で、それもエクセルを使えば簡単にできます。ただ、XとYを逆にして計算しないと、ワークシートを作るのが大変です。厳密にはだめですが、実用上は問題ありません。

　大学の課題のような印象があるので、回答しにくいのですが、実際には、「試料中の濃度を求めよ」という文章が続くと思うので。そして、この問題は、分かっているようでスッキリしない、という経験があります。それでも４年生になって研究室で実験をやるようになれば、毎日でも行う操作です。
1) 検量線、相関係数の用語が分からないのか
2) 検量線を手書きでも図にかけないのか
3) エクセルでの計算ができないのか　を書いてください。

　ちなみに、この実験には、欠点があります。私なら「次の方法の欠点を述べよ」の問題にしますが。
　第一に、0、4、8mlをとり、100mlの酸に溶かし、は、「100mlの酸で全量を100mlにする」というのが普通です。そのように書いていませんか。さもないと、面倒な計算がいり、そんな意地悪な問題はつくりません。
　第二に、0、4、8mlではなく、0、2、4、6、8、10mlとり、それぞれ測定します。

補足

アドバイス、ありがとうございます。
残念ながら、検量線を書いた事はありません。
お察しのとおり大学の課題なのですが、手書きで求めろという意味合いが強いようです・・・。
式では
ｒ＝√Σ(Xi－Xの平均)^2　／　Σ(Yi－Yの平均)^2
ｍ＝(ΣXi－Xの平均)y　／　Σ(Xi－Xの平均)^2
Yi－Yの平均＝ｍ(Xi－Xの平均)
という式を使って求めるそうです。

パソコンで相関係数を求めるやり方もあるそうですが、それが全く解りません・・・。
また、文章には試料中の濃度と含有量を求めよという文章が続きます。
自力で以下の用に求めてみたのですが、あっているか自信がありません・・・。

KMnO4の体積(cm^3)　　　0 2 　　 4 　　6 　　　 8
の濃度(ppm) 0 4 　　 8 　　12 　　　16
の吸光度　　　0.009　0.175　　0.334　0.522　　0.674
より
ｙ＝ax + 0.009
200µ　cm^-3　＝200ppm
2cm^3時：200ppm　×　2cm^3　＝400ppm・cm^3　÷　100cm^3　＝4ppm
4cm^3時：200ppm　×　4cm^3　＝800ppm・cm^3　÷　100cm^3　＝8ppm
6cm^3時：200ppm　×　6cm^3　＝1200ppm・cm^3　÷　100cm^3　＝12ppm
8cm^3時：200ppm　×　8cm^3　＝1600ppm・cm^3　÷　100cm^3　＝16ppm
となり上記の濃度が出る・・・と思うのですが
この値より
ｙ＝0.0416X　＋0.009
となり、
釘0.25ｇを100cm^3に定容して、吸光度　0.276なので
そのときは　X＝　6.2ppm(濃度)
よって　6.2×100＝620µg
620×10^-6　／　0.25　(g)　　×１００＝　0.248　％　
となりました・・・。

色々、足りない文章でお手数をおかけ致します・・・。
また、吸光度の値を一部訂正しました。
また、「100mlの酸で全量を100mlにする」という指摘ですが、僕も思いましたが、そのまま100mlの酸にとかす。としか書いてありません。おそらく課題の方が間違えていると思います…。