高次のモーメント（積率）と
モーメント母関数（積率母関数）

「二項分布・ポアソン分布・正規分布」において、
高次のモーメントを直接確率密度関数から導出するのは、
煩雑になるので、モーメント母関数を利用した方がよい、と述べた。
ここでは、最初に、モーメント（積率）やモーメント母関数（積率母関数）の
定義について述べるが、テキストによって表記が異なるので、
まずは、オリジナルの記号を用いて、これらを再定義することにする。
そして、モーメント母関数を用いても、高次のモーメントを
導出するのが煩雑な場合に、数式処理ソフト「Maxima」を利用して、
これらを計算する為のコマンドラインを載せてみた。

また、モーメント母関数（積率母関数）は、連続型の分布においては、
ある意味において、一種のラプラス変換である、とみなせる。
一方、モーメント母関数（積率母関数）M(θ)の定義式で、
虚数単位iを用いて、変数θをiξに形式的に置き換えた、
特性関数M(ξ)は、連続な確率密度関数f(x)のフーリエ変換になっている。
そして、キュムラント母関数には、モーメント母関数（積率母関数）M(θ)の
対数として定義される場合と、特性関数M(ξ)の対数として定義される場合
の二通りの定義が存在することについても述べる。

目次

期待値とは何か

そもそも、期待値とは何か、というところから始めることにする。
ある任意の関数φ(x)の「期待値」とは、
その独立変数xの分布が、確率密度関数f(x)に従うとき、

で定義されるものであるとする。上は離散的な分布の場合、
下は連続的な分布の場合である。ここで、記号Eは、
期待値(expectation value)の頭文字に由来しているが、
テキストにより、鍵括弧の場合と丸括弧の場合があるようだ。
ここでは、鍵括弧の方が見やすいと思うので、こちらを利用する。
また、離散分布の場合は、確率密度関数f(x)は、
単に確率(probability)と呼び、p(x)と表記している文献もある。

原点周りのモーメント（積率）

次に、本題である、「モーメント（積率）」とは何か。
実は、これには主に「原点周りのモーメント」と「平均値周りのモーメント」の
二通りの場合があり、混乱を招く可能性がある。

先に、前者の「原点周りのモーメント」の方から説明することにする。
先程の期待値の定義において、任意の関数φ(x)が、
冪乗の関数：xⁿであるとき、その期待値は、
E[xⁿ]と表記できる筈であるが、
これを「原点周りのn次のモーメント（積率）」と呼ぶ。
ここでは、本サイト独自の記号E_nを用いて、

と定義する。先程と同様、上は離散的な分布の場合、
下は連続的な分布の場合である。ここで、E₀は全確率の総和なので、
勿論 1 であり、E₁は相加平均値のことに他ならない。
だが、平均値に関しては、文献によって、

等と様々な表記がある。ギリシア文字の「μ」は、
平均値(mean)の頭文字である、ローマ字の「m」に対応しているので、
そのことに因んでいるようだ。離散的な分布の平均値は、
変数の上にバーを付けて表し、連続的な分布の平均値は、
山括弧で変数を括る形で区別しているテキストもあるようだが、
ここでは、E₁に統一することにしたい。

平均値周りのモーメント（積率）

続いて、後者の「平均値周りのモーメント」について説明する。
一般的なテキストでは、単にn次のモーメントといった場合、
暗にこちらを指すことが多く、m_n等と表記するが、
ここでは、本サイト独自の記号V_nを用いる（理由は後述）。
前述の通り、平均値はE₁（これも本サイト独自の記号）
であるので、これを用いて、

と定義する。これまでと同様、
上は離散的な分布の場合、下は連続的な分布の場合である。
ここで、V₀は、確率密度関数f(x)に
係る係数が 1 となる為、結局E₀と同じであり、
V₁は、偏差、或いは、残差の総和に相当するので、0である。

V₂は、分散であるが、これも文献によって、

等の様々な表記がある。ローマ字の「s」とギリシア文字の「σ」は、
対応関係にある。これらはどちらも、
標準偏差(standard deviation) の頭文字に因んでおり、
分散が、標準偏差の2乗であることを意味している。また、記号Vを用いたのは、
分散(variance)の頭文字に由来しているからである。

平均値周りの3次のモーメントm₃を
標準偏差の3乗σ³で割ったものは、
歪度(skewness)と呼ばれ、分布の左右対称性の目安としてよく使われる。
即ち、歪度：a₃は、

と、本サイト独自の記号を用いて表せる。σ³で割る理由は、
分子もσ³のオーダーなので、こうすれば単位によらない
無次元の値になるからである。

また、平均値周りの4次のモーメントm₄と
2次のモーメントm₂の2乗との比を尖度(kurtosis)という。
即ち、尖度：a₄もまた、

と、本サイト独自の記号を用いて表せる。

モーメント母関数（積率母関数）

モーメント母関数（積率母関数）は、

で定義される。上は離散的な分布の場合、下は連続的な分布の場合である。
E[e^θx]とは、e^θxの 期待値という意味である。また、連続型の分布においては、
ある意味において、一種のラプラス変換である、とみなせる。
実際、通常の片側ラプラス変換の積分範囲は、半開区間[0,∞)で、
指数部の符号はマイナスだが、連続な確率密度関数をf(x)に対して、
M(－θ)とすれば、これは、f(x)の 「両側ラプラス変換」である。

このモーメント母関数を原点の周りでテイラー展開（マクローリン展開）すると、

となって、θに関する展開の係数として、
次々に原点周りのn次のモーメント：E_nを
生み出す(generate)ので、母関数(generating function)と呼ばれるのである。
即ち、このM(θ)をθでn回微分して、
θ＝0を代入することで、機械的に、原点周りのモーメント：

が得られることを意味している。
平均値周りのモーメントは、それらを用いて、
V₂＝E₂ －2E₁・E₁ ＋E₁²・E₀
V₃＝E₃ －3E₁・E₂ ＋3E₁²・E₁ －E₁³・E₀
V₄＝E₄ －4E₁・E₃ ＋6E₁²・E₂ －4E₁³・E₁ ＋E₁⁴・E₀
と計算すればよい。

二項分布（ベルヌーイ分布）の
モーメント母関数（積率母関数）

二項分布（ベルヌーイ分布）の確率密度関数をf(x)は、
f(x) ≡ _nC_x p^x(1－p)^n－x ＝_nC_x p^x q^n－x
であったが、変数の種類が増えると煩雑になるので、pだけで式変形し、
qは、最後まで温存しておき、必要に応じて代入する方が望ましいだろう。
一応注意しておくと、このnは試行回数であって、モーメントの次数ではない。
紛らわしい場合は、どちらかの変数の文字を適宜変更した方がよいだろう。

モーメント母関数の定義と二項定理により、二項定理のモーメント母関数：

を得る。総和は、
E₀＝M(0) ＝(pe⁰＋q)ⁿ ＝(p＋q)ⁿ＝1ⁿ＝1
であり、平均は、

であり、二乗の平均は、

であるから、これらを代入して、分散：
V₂＝E₂ －2E₁・E₁ ＋E₁²・E₀ ＝E₂－E₁²
＝n(n－1)p²＋np －n²p² ＝－np²＋np ＝np(1－p)＝npq
を得る。

モーメント母関数を用いても、二項分布（ベルヌーイ分布）の
3次以上のモーメントを導出するのは、煩雑である。
そこで、数式処理ソフト「Maxima」を利用して、
これらを計算する為のコマンドラインを以下に示す。
ここでは、θの代わりにtを用いた。

binomial : taylor((p*exp(t)+(1-p))^n,t,0,4);
E0 : coeff(binomial, t, 0)*0!;
E1 : coeff(binomial, t, 1)*1!;
E2 : coeff(binomial, t, 2)*2!;
E3 : coeff(binomial, t, 3)*3!;
E4 : coeff(binomial, t, 4)*4!;
V2 : E2-2*E1*E1+E1^2*E0;
V3 : E3-3*E1*E2+3*E1^2*E1-E1^3*E0;
V4 : E4-4*E1*E3+6*E1^2*E2-4*E1^3*E1+E1^4*E0;
SKEW : V3/(sqrt(V2)^3);
KURT : V4/V2^2;

ポアソン分布のモーメント母関数（積率母関数）

ポアソン分布の確率密度関数をf(x)は、

であったので、これをモーメント母関数の定義式に代入すると、
指数関数のマクローリン展開より、

を得る。総和は、
E₀＝M(0) ＝e^－λ・e^λ＝1
であり、平均は、

であり、二乗の平均は、

であるから、これらを代入して、分散：
V₂＝E₂ －2E₁・E₁ ＋E₁²・E₀ ＝E₂－E₁² ＝λ²＋λ－λ²＝λ
を得る。

モーメント母関数を用いても、ポアソン分布の
3次以上のモーメントを導出するのは、煩雑である。
そこで、数式処理ソフト「Maxima」を利用して、
これらを計算する為のコマンドラインを以下に示す。
ここでは、θの代わりにt、λの代わりにuを用いた。

poisson : taylor(exp(-u)*exp(u*exp(t)),t,0,4);
E0 : coeff(poisson, t, 0)*0!;
E1 : coeff(poisson, t, 1)*1!;
E2 : coeff(poisson, t, 2)*2!;
E3 : coeff(poisson, t, 3)*3!;
E4 : coeff(poisson, t, 4)*4!;
V2 : E2-2*E1*E1+E1^2*E0;
V3 : E3-3*E1*E2+3*E1^2*E1-E1^3*E0;
V4 : E4-4*E1*E3+6*E1^2*E2-4*E1^3*E1+E1^4*E0;
SKEW : V3/(sqrt(V2)^3);
KURT : V4/V2^2;

正規分布（ガウス分布）の
モーメント母関数（積率母関数）

正規分布（ガウス分布）の確率密度関数は、

であったので、これをモーメント母関数の定義式に代入すると、

を得る。指数部分を式変形して平方完成し、
xに依らない部分を分離すると、

となる。ここで、

と置くと、ガウス積分の公式より、

を得る。総和は、
E₀＝M(0) ＝e^0＋0＝1
であり、平均は、

であり、二乗の平均は、

であるから、これらを代入して、分散：
V₂＝E₂ －2E₁・E₁ ＋E₁²・E₀ ＝E₂－E₁² ＝(σ²＋μ²) －μ²＝σ²
を得る。

モーメント母関数を用いても、正規分布（ガウス分布）の
3次以上のモーメントを導出するのは、煩雑である。
そこで、数式処理ソフト「Maxima」を利用して、
これらを計算する為のコマンドラインを以下に示す。
ここでは、θの代わりにt、μの代わりにm、 σの代わりにsを用いた。

normal : taylor((exp(m*t+(s^2)*(t^2)/2)),t,0,4);
E0 : coeff(normal, t, 0)*0!;
E1 : coeff(normal, t, 1)*1!;
E2 : coeff(normal, t, 2)*2!;
E3 : coeff(normal, t, 3)*3!;
E4 : coeff(normal, t, 4)*4!;
V2 : E2-2*E1*E1+E1^2*E0;
V3 : E3-3*E1*E2+3*E1^2*E1-E1^3*E0;
V4 : E4-4*E1*E3+6*E1^2*E2-4*E1^3*E1+E1^4*E0;
SKEW : V3/(sqrt(V2)^3);
KURT : V4/V2^2;

標準正規分布：

のモーメント母関数もまた、
正規分布のモーメント母関数において、
平均値μ＝0、分散σ²＝1とすることで、
M(θ)＝e^θ2/2
が得られる。

特性関数

「特性関数(characteristic function)」とは、モーメント母関数（積率母関数）M(θ)の定義式で、
虚数単位iを用いて、変数θをiξに形式的に置き換えたもの：

である。即ち、特性関数M(ξ)は、連続な確率密度関数f(x)の 「フーリエ変換」になっている。
この特性関数も原点の周りでテイラー展開（マクローリン展開）すると、

となって、ξに関する展開の係数として、
次々に原点周りのn次のモーメント：E_nを生み出す。
即ち、このM(ξ)をξでn回微分して、ξ＝0を代入しても、
機械的に、原点周りのモーメントが得られる。

二項分布（ベルヌーイ分布）、ポアソン分布、正規分布（ガウス分布）の
各分布のモーメント母関数（積率母関数）において、それぞれ、
変数θをiξに形式的に置き換えることによって、
二項分布（ベルヌーイ分布）の特性関数：
M(ξ)＝ (pe^iξ＋q)ⁿ
ポアソン分布の特性関数：
M(ξ)＝ e^λ(eiξ－1)
正規分布（ガウス分布）の特性関数：

が得られる。

キュムラントとキュムラント母関数

「キュムラント母関数(cumulant generating function)」には、モーメント母関数（積率母関数）M(θ)の
対数として定義される場合（こちらを以降「定義1」と呼ぶ）K(θ)：

と、特性関数M(ξ)の対数として定義される場合（こちらを以降「定義2」と呼ぶ）K(ξ)：

の二通りの定義が存在する。Wikipediaによると、「定義2」のキュムラント母関数は、
「第2キュムラント母関数(second characteristic function)」と呼ばれることもあるようだ。
このキュムラント母関数を原点の周りでテイラー展開（マクローリン展開）したとき、
展開の係数κ_nをn次のキュムラント(cumulant)という。
記号expは、指数関数(exponential)のことで、eの肩が長いときによく用いられる。
特に、ポアソン分布や正規分布（ガウス分布）の様に、
モーメント母関数（積率母関数）M(θ)や
特性関数M(ξ)が、指数関数の形で表されるとき、
キュムラントとキュムラント母関数を考えると良いことがある（後述）。

ポアソン分布のキュムラント母関数（定義1）：

或いは、ポアソン分布のキュムラント母関数（定義2）：

より、
κ_n＝λ　(n＝1, 2, 3, …)
となって、「ポアソン分布では、全てのキュムラントがλに等しい」ことが分かる。
また、正規分布（ガウス分布）のキュムラント母関数（定義1）：

： 或いは、正規分布（ガウス分布）のキュムラント母関数（定義2）：

より、
κ₁＝μ,　 κ₂＝σ²,　 κ_n＝0　(n ≥ 3)
となって、「正規分布（ガウス分布）は、
3次以上のキュムラントが0となる分布である」ということが分かる。

参考文献

Shadow Academy トップへ戻る