分布からみた 標準偏差、標準誤差について

質問

はじめまして。よろしくお願いします。
さまざまな標準偏差、標準誤差についての投稿をみましたが、
分布から見た場合標準偏差と標準誤差とはどのようになるのでしょうか？
データのサンプルをとり、それを正規化し、分布にあらわすと正規分布に限りなく近づいてくると思います。（これには中心極限定理がかかわっていると思います）
そこでその分布の山の幅（というのでしょうか？）が標準偏差になっていると思うのですが、標準誤差とはどこを表すものなのでしょうか？
また標準誤差をあらわすにあたって、中心極限定理を使ってあらわすことはできるのでしょうか？

回答No.1

Ishiwara · ベストアンサー

(1) 偏差と誤差は、まったく違う概念ですが、このサイトの投稿者の中には混用している方が多いので、注意して読みましょう。誤差というのは、サンプルを取って母数（母集団のパラメータ）の推定を行うときに、その正確さを表現する用語です。

(2) 標準偏差とは、ある分布の（母集団の）パラメータの一つであって、サンプルを取るなどの作業をする以前に存在しているものです。「山の幅」というのは、かなり非数学的な表現です。また、全体のバラツキ幅の約1/６などという不正確な覚え方をしている方が多いようです。
標準偏差は、母集団からサンプル1個を取るとき、[その値－母平均] の２乗の期待値（母分散）の平方根をいいます。または、サンプル無限個を取るとき、[各値－母平均] の２乗の平均値（母分散）の平方根といっても同じです。上記の「1個や無限個のサンプル」は、説明のための語であって、母数を調べるために採取するサンプルではありません。ここでは「誤差」という概念は出てきません。

(3) 一方、標準誤差とは、ある個数のサンプルを取り、その値からある統計量（断りがなければ平均値）を推定する場合に、その推定につきまとう誤差の標準値（このサンプルの平均値の母集団を考えるとき、その標準偏差）を指しています。

このように、一定個数のサンプルの平均値をもとの分布の母数推定に用いるときは「誤差」といいますが、サンプルの平均値の母集団を考えるときは、再び「標準偏差」という語を使うことが許されます。このような「相対性」も理解することが必要です。

補足

回答ありがとうございます。

(1)、(2)についてはおおよそ理解できました。
しかし(3)の標準誤差についてがどうもしっくりきません。
ある個数のサンプルを取り、その平均値をとる。サンプルによって平均値のばらつきがあると思うのですが、そのばらつきではないのでしょうか？