神经网络十六概率论基础知识-伽马函数上
神经网络|(十六)概率论基础知识-伽马函数·上
【1】引言
前序学习进程中，对经典的
和
已经有一定的掌握。
今天为学习一种稍显复杂的分布提前布局一下，学习伽马函数。
【2】伽马函数
伽马函数有两种经典写法，一种是积分形式，另一种是无穷乘积形式。
【2.1】积分形式
对于所有大于0的复数 z z z，伽马函数定义为：
Γ ( z )
∫
0
+
∞
t
z
−
1
e
−
t
d
t
\Gamma(z)=\int_{0}^{+\infty}t^{z-1}e^{-t}dt
Γ(z)=∫0+∞tz−1e−tdt
这个积分式子在
z
0 z>0 z>0时收敛。
【2.2】无穷乘积形式
Γ ( z )
1 z ∏ n
1
+
∞
(
1
+
1
n
)
z
1
+
z
n
\Gamma(z)=\frac{1}{z}\prod_{n=1}^{+\infty}\frac{(1+\frac{1}{n})^z}{1+\frac{z}{n}}
Γ(z)=z1n=1∏+∞1+nz(1+n1)z
这种形式的伽马函数在
z
0 , − 1 , − 2 , . . . z=0,-1,-2,… z=0,−1,−2,…处存在极点，函数值会趋向于无穷大。
【3】溯源
如果只知道定义式，很难理解伽马函数的意义。为此，我们很有必要溯源。
【3.1】阶乘-离散式子
中学阶段我们就知道，正整数 n n n的阶乘计算式为：
n !
n
×
(
n
−
1
)
×
(
n
−
2
)
×
.
.
.
×
2
×
1
n!=n\times(n-1)\times(n-2)\times…\times2\times1
n!=n×(n−1)×(n−2)×…×2×1
以及
0
!
1
0!=1
0!=1
很明显，这样的阶乘计算只能计算非负整数，定义域比较有限。
【3.2】积分-连续式子
【3.1】阶乘改写
上述 n ! n! n!可以改写成下式：
n !
l
i
m
k
→
+
∞
k
n
⋅
k
!
(
n
+
1
)
(
n
+
2
)
.
.
.
(
n
+
k
)
n!=lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(n+1)(n+2)…(n+k)}
n!=limk→+∞(n+1)(n+2)…(n+k)kn⋅k!这个式子的作用是，用
k
k
k的幂次抵消乘积的增长，让极限趋向于有限值。
证明这个式子：
第一步：
( n + 1 ) ( n + 2 ) . . . ( n + k )
(
n
+
k
)
!
n
!
(n+1)(n+2)…(n+k)=\frac{(n+k)!}{n!}
(n+1)(n+2)…(n+k)=n!(n+k)!
第二步，代入阶乘式有：
n !
l i m k → + ∞ k n ⋅ k ! ⋅ n ! ( n + k ) !
n
!
l
i
m
k
→
+
∞
k
n
⋅
k
!
(
n
+
k
)
!
n!=lim_{k\rightarrow+\infty}\frac{k^n\cdot k!\cdot n!}{(n+k)!}=\ n!lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(n+k)!}
n!=limk→+∞(n+k)!kn⋅k!⋅n!=n!limk→+∞(n+k)!kn⋅k!
所以对式子的证明，可以简化为：
l i m k → + ∞ k n ⋅ k ! ( n + k ) !
1 lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(n+k)!}=1 limk→+∞(n+k)!kn⋅k!=1
第三步：
因为：
( n + k ) !
[
k
!
]
[
(
k
+
1
)
(
k
+
2
)
⋅
⋅
⋅
(
k
+
n
)
]
(n+k)!=[k!][(k+1)(k+2) \cdot \cdot \cdot(k+n)]
(n+k)!=[k!][(k+1)(k+2)⋅⋅⋅(k+n)]
所以：
l i m k → + ∞ k n ⋅ k ! ( n + k ) !
l i m k → + ∞ k n ⋅ k ! [ k ! ] [ ( k + 1 ) ( k + 2 ) ⋅ ⋅ ⋅ ( k + n ) ]
l i m k → + ∞ k n ⋅ k ! [ k ! ] [ ( k + 1 ) ( k + 2 ) ⋅ ⋅ ⋅ ( k + n ) ]
l
i
m
k
→
+
∞
k
n
(
k
+
1
)
(
k
+
2
)
⋅
⋅
⋅
(
k
+
n
)
lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(n+k)!}=\lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{[k!][(k+1)(k+2) \cdot \cdot \cdot(k+n)]}=\lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{[k!][(k+1)(k+2) \cdot \cdot \cdot(k+n)]}=\ lim_{k\rightarrow+\infty}\frac{k^n}{(k+1)(k+2)\cdot \cdot \cdot(k+n)}
limk→+∞(n+k)!kn⋅k!=limk→+∞[k!][(k+1)(k+2)⋅⋅⋅(k+n)]kn⋅k!=limk→+∞[k!][(k+1)(k+2)⋅⋅⋅(k+n)]kn⋅k!=limk→+∞(k+1)(k+2)⋅⋅⋅(k+n)kn
第四步：分母每个括号中都提取一个
k
k
k：
l i m k → + ∞ k n ( k + 1 ) ( k + 2 ) ⋅ ⋅ ⋅ ( k + n )
l i m k → + ∞ k n [ k ( 1 + 1 k ) ] [ k ( 1 + 2 k ) ] ⋅ ⋅ ⋅ [ k ( 1 + n k ) ]
l i m k → + ∞ k n k n ⋅ ( 1 + 1 k ) ( 1 + 2 k ) ⋅ ⋅ ⋅ ( 1 + n k )
l
i
m
k
→
+
∞
1
(
1
+
1
k
)
(
1
+
2
k
)
⋅
⋅
⋅
(
1
+
n
k
)
lim_{k\rightarrow+\infty}\frac{k^n}{(k+1)(k+2)\cdot \cdot \cdot(k+n)}=\ lim_{k \rightarrow+\infty}\frac{k^n}{[k(1+\frac{1}{k})][k(1+\frac{2}{k})]\cdot \cdot \cdot [k(1+\frac{n}{k})]}=\ lim_{k\rightarrow+\infty}\frac{k^n}{k^n\cdot (1+\frac{1}{k})(1+\frac{2}{k})\cdot \cdot \cdot (1+\frac{n}{k})}=\ lim_{k\rightarrow+\infty}\frac{1}{(1+\frac{1}{k})(1+\frac{2}{k})\cdot \cdot \cdot (1+\frac{n}{k})}
limk→+∞(k+1)(k+2)⋅⋅⋅(k+n)kn=limk→+∞[k(1+k1)][k(1+k2)]⋅⋅⋅[k(1+kn)]kn=limk→+∞kn⋅(1+k1)(1+k2)⋅⋅⋅(1+kn)kn=limk→+∞(1+k1)(1+k2)⋅⋅⋅(1+kn)1
对于上述计算式，当
k
→
+
∞
k \rightarrow+\infty
k→+∞时，分母的乘积为1，所以：
l i m k → + ∞ k n ( k + 1 ) ( k + 2 ) ⋅ ⋅ ⋅ ( k + n )
1 lim_{k\rightarrow+\infty}\frac{k^n}{(k+1)(k+2)\cdot \cdot \cdot(k+n)}=1 limk→+∞(k+1)(k+2)⋅⋅⋅(k+n)kn=1
第五步，反过来再直接推一遍式子：
因为：
l i m k → + ∞ k n ( k + 1 ) ( k + 2 ) ⋅ ⋅ ⋅ ( k + n )
1
l i m k → + ∞ k n ⋅ k ! k ! ⋅ ( k + 1 ) ( k + 2 ) ⋅ ⋅ ⋅ ( k + n )
l i m k → + ∞ k n ⋅ k ! ( k + n ) !
1
lim_{k\rightarrow+\infty}\frac{k^n}{(k+1)(k+2)\cdot \cdot \cdot(k+n)}=1\= lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{k!\cdot (k+1)(k+2)\cdot \cdot \cdot(k+n)}=\ lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(k+n)!}=1
limk→+∞(k+1)(k+2)⋅⋅⋅(k+n)kn=1=limk→+∞k!⋅(k+1)(k+2)⋅⋅⋅(k+n)kn⋅k!=limk→+∞(k+n)!kn⋅k!=1
所以
n !
n ! ⋅ l i m k → + ∞ k n ⋅ k ! ( n + k ) !
l i m k → + ∞ k n ⋅ k ! ⋅ n ! ( n + k ) !
l i m k → + ∞ k n ⋅ k ! ( n + 1 ) ( n + 2 ) . . . ( n + k ) n!=n! \cdot lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(n+k)!}=\lim_{k\rightarrow+\infty}\frac{k^n\cdot k!\cdot n!}{(n+k)!}=\ lim_{k\rightarrow+\infty}\frac{k^n\cdot k!}{(n+1)(n+2)…(n+k)} n!=n!⋅limk→+∞(n+k)!kn⋅k!=limk→+∞(n+k)!kn⋅k!⋅n!=limk→+∞(n+1)(n+2)…(n+k)kn⋅k!
【4】细节说明
阶乘形式的伽马函数主要适用于整数，如果把证书替换成任意实数，就会有：
x !
l
i
m
k
→
+
∞
k
x
⋅
k
!
(
x
+
1
)
(
x
+
2
)
.
.
.
(
x
+
k
)
x!=lim_{k\rightarrow+\infty}\frac{k^x\cdot k!}{(x+1)(x+2)…(x+k)}
x!=limk→+∞(x+1)(x+2)…(x+k)kx⋅k!
此时，只要
x
x
x不是负整数，因为负整数会导致分母为0，上述计算式就能执行，此时阶乘形式的伽马函数被扩展到除负整数以外的所有实数。
【5】总结
初步学习了伽马函数并对伽马函数展开了溯源。