• 締切済み

線型回帰分析でy=αx+β+uとありますがαとβはどうやって求めるので

線型回帰分析でy=αx+β+uとありますがαとβはどうやって求めるのでしょうか?

みんなの回答

  • sanori
  • ベストアンサー率48% (5664/11798)
回答No.1

こんばんは。 データがn個あるとします。 k番目のデータ(xk、yk)回帰直線からのずれ具合は、 uk = yk - axk - b 二乗誤差は、 uk^2 = (yk - axk - b)^2  = yk^2 + a^2xk^2 + b^2 - 2axkyk + 2abxk - 2byk 二乗誤差の合計Sは、 S = Σ[k=1⇒n]uk^2 このSを最小にするのが最小二乗法(回帰)です。 最小とは極小。極小とは極値。 つまり、Sを微分してゼロになれば、そのときのa、bが回帰直線のa、bです。 ∂S/∂a = Σ[k=1⇒n](2axk^2 - 2xkyk + 2bxk) ∂S/∂b = Σ[k=1⇒n](2b + 2axk - 2yk) よって、連立方程式 Σ[k=1⇒n](axk^2 - xkyk + bxk) = 0 Σ[k=1⇒n](b + axk - yk) = 0 を解けば、aとbが求まります。

関連するQ&A

  • 非線形回帰分析の定義が分かりません.

    回帰分析を勉強しているのですが,非線形回帰分析が何なのか分からなくて困っています. 線形回帰モデルは Y = b0 + b1*X1 + b2*X2 + … + bp*Xp で与えられますが,この場合の線形とはパラメータに関して線形という 意味であって, Y = b0 + b1*lnX や Y = b0 + b1*X1 + b12*X1*X2 + b22*X2^2 も線形回帰モデルに含まれると聞いたのですが, だとすると非線形回帰分析とはどのようなモデルを想定することを言うのでしょうか?どなたか教えて頂けるとありがたいです.

  • 単回帰分析

    単回帰分析における回帰直線y=a+bxの係数a,bの導出方法を教えてください。 調べたところ、a=y~-bx~ , b=Σ(x-x~)(y-y~)/(x-x~)^2とあったのですが導出する方法がわかりませんでした。 y~=1/n*Σy , x~=1/nΣx お願いします

  • 重回帰分析?

    二つの変数があり、各々従属変数に対して単回帰分析を行うと決定係数が0.5と0.4ぐらいの感じになります。この二つの変数をくっつけてもう少し精度を上げたいのですが、一方は線形なんですが、もう片方が非線形(指数関数)なのです。 たしか、重回帰分析は線形どうしでしかくっつけることができなかったような気がするのですが、どのようにしたらできるでしょうか? 混合モデルとかを使ったらよいのでしょうか??? 理論的に考えると Y=aX1 + bexp(cX2) かY=aX1 + bX1exp(cX2)と思うのです Yが従属変数X1,X2が変数、a,b,cがそれぞれ係数です。 使用できるソフトはSPSS,SAS,mintab,S-plus,R,excelです。Rでのが使い慣れているのでRでできるとよいのですが、できるならどのソフトでもかまいません。

  • 単回帰分析と重回帰分析の結果の違い

    論文を読んでいて疑問に思うことがありました.よろしくお願いします. 私は,回帰分析とは変数Yを、p個の変数X1,X2 ,… Xpにより説明したり予測するための統計的手法であり,p=1のときは単回帰分析,p>1のときは重回帰分析と呼ぶ,と解釈しています. 今,ある施設のサービス改善についての調査論文を読んでおります.そこではアンケート調査でその施設のサービスの総合評価Yと,8個の各サービス毎の評価(x1~x8)を調べ,総合評価Yを従属変数, x1~x8を説明変数として重回帰分析にかけます.そして出た相関係数から施設の総合評価に対する各サービスの重要度を求め,改善につなげようとしています. 結果,重要度は x1>x2>x6>x3>x7>x8>x4>x5 という結果になりました.ここまではわかるんです. ですが次に総合評価Yを従属変数,x1を説明変数として単回帰分析,また総合評価Yを従属変数,x2を説明変数として単回帰分析,また総合評価Yを従属変数,x3を説明変数として単回帰分析・・・というようにこの操作をx8まで続け,出た相関係数を比較しています.結果は x1>x2>x4>x8>x3>x5>x7=x6 となっており,重回帰分析の結果と照らしあわせると最初のx1とx2は合致しているものの,あとはバラバラです.x6にいたっては最後にきています.なぜでしょうか.論文は「どのサービスも総合満足度に重要な影響を与えており,特にx1,x2,x3,x4を改善するのがよい」 と締めくくっています. 質問は3点です. (1)なぜ重回帰分析の結果と単回帰分析の結果が異なるのか (2)どのサービスも総合満足度に重要な影響があるとして,それは重回帰分析の結果だけで言えるのではないか(重回帰でも相関係数は出ているし,単回帰分析をする意味はあるのか) 稚文ですみません. 当方あまりオツムがよろしくないのでできるだけわかりやすくよろしくお願いします.

  • 非線形モデル回帰分析の前提条件

    非線形回帰分析で、従属変数の母集団は正規分布を仮定できる必要はありますか? 回帰分析では従属変数の母集団は正規分布を仮定できる必要があると思いますが、これは線形の時だけでしょうか、それとも、非線形でもそうなのでしょうか?

  • 三角関数を含んだモデル式での回帰分析の方法を教えてください.

    実験データを, Y = A * TAN( 2 * PI() * X / B ) Y・・・目的変数 X・・・説明変数 A, B ・・・係数 TAN() ・・・タンジェント PI() ・・・円周率 というモデルの回帰式に当てはめたいと考えているのですが, A,Bの値をどのように求めればいいのかが,よく分かりません. 対数線形回帰分析のようにこのモデルを, Y = A * X + B といった線形モデルに変形することは可能なのでしょうか. 不可能な場合は,どのようにしてA,Bを求めればいいのでしょうか. 回帰分析に詳しい方,よろしくお願いします.

  • 回帰分析が分かりません。

    合計特殊出生率と一人あたりの所得の関係について埼玉県を市町村別に回帰分析を行い、その結果を都道府県を単位とした分析の結果と比較して考察する問題なのですが、教科書を見ながらExcelの散布図で一人あたりの所得を従属変数、合計特殊出生率を独立変数として回帰分析を行う所まではできたのですが、結果として何が分かってどのようなことが考察できるのかが分かりません。教えてください。 埼玉県がy=396671x+2E+06,Rの2乗=0.0379, 都道府県別がy=-1E+06x+5E+06,Rの2乗=0.1915となりました。 Excel操作が苦手で回帰分析が全く理解できていない状態です。

  • 回帰分析における回帰係数(α)の意味

    回帰分析における回帰係数(α)の意味 線形回帰式Y=α+βXにおける 定数項αの意味について、2点質問いたします。 (1)定数項αが0以外の数値をとるということは、 被説明変数Yの数値に対して、αは何か影響を 与えていることを表すものでしょうか? (2)αについて仮説検定を行うために、帰無仮説・ 対立仮説をそれぞれ立てたとき、各仮説の意味は 以下の通りになるでしょうか? ・帰無仮説(α=0)→Yの数値に対して影響を与えている変数が他に存在する ・対立仮説(α>0)→Yの数値に対して影響を与えている変数が他に存在しない 当方、数学及び統計学については初学者です。 分かりやすくご教示いただける方からのご回答を お待ちしております。 以上、よろしくお願い申し上げます。

  • 統計に関する基礎的な質問です。線形判別モデル、線形回帰分析モデル、ロジット分析モデルの違いをうまく説明できません。

    統計に関する基礎的な質問です。線形判別モデル、線形回帰分析モデル、ロジット分析モデルのそれぞれの特徴と違いを大学のゼミでうまく説明したのですが、不勉強のためうまく説明できません。 とくに、線形判別モデルと線形回帰分析モデルの違いがよくわからず困っています。どちらも、最小二乗法などを用いて回帰式を求めているので同じようなものだと思えてしまうのですが・・・どなたか、教えてください。

  • 対数をとった回帰分析の解釈について

    対数をとった回帰分析の解釈について教えてください。 y = {5, 10, 13, 18, 21} x = {10, 20, 30, 40, 50} というデータセットがあったとして、x,yともにlog(x),log(y)と対数変換し、 弾力性を仮定したモデルを想定します。 このとき対数変換したものを最小二乗法で回帰分析を実行すると、下記の結果が得られると思います。 log(y) = -0.41 + 0.88*log(x) 解釈として、xが1%増えると、yが0.88%増加するとなると思うのですが、 このときのxの1%とは、何に対する1%と解釈すればよろしいのでしょうか。 yも0.88%増加するというのは、何に対する0.88%なのでしょうか。 これまでは、対数をとって回帰分析をしたときに、y = exp(-0.41 + 0.88*log(x))と変換してxとyの関係を見ておりましたが、「xが1%増えると、yが0.88%増加する」という部分を考えてみたところ、理解できず質問させていただきました。 xが1%増えるというのは、対数スケールではなく、通常のスケールでxがどのくらい増えていることを意味するのでしょうか。 お手すきの際にご回答いただけますと幸いです。