最大似然估计(或最大似然)是用于以多种方式猜测参数化统计模型的参数。这些方法根据观测值计算概率分布最可能的参数值。
在统计学中,最大似然估计(英语:maximum likelihood estimation,缩写为MLE),也称极大似然估计、最大概似估计,是用来估计一个概率模型的参数的一种方法。
给定一个概率分布,已知其概率密度函数(连续分布)或概率质量函数(离散分布)为,以及一个分布参数 ,我们可以从这个分布中抽出一个具有个值的采样利用计算出其似然函数:
若是离散分布,即是在参数为 时观测到这一采样的概率。若其是连续分布,则为联合分布的概率密度函数在观测值处的取值。
一旦我们获得, 我们就能求得一个关于 的估计。最大似然估计会寻找关于 的最可能的值(即,在所有可能的 取值中,寻找一个值使这个采样的“可能性”最大化)。从数学上来说,我们可以在 的所有可能取值中寻找一个值使得似然函数取到最大值。这个使可能性最大的值即称为 的最大似然估计。由定义,最大似然估计是样本的函数。
import numpy as np
from scipy.stats import norm
import matplotlib.pyplot as plt
μ = 30 # 数学期望
σ = 2 # 方差
x = μ + σ * np.random.randn(10000) # 正态分布
plt.hist(x, bins=100) # 直方图显示
plt.show()
# norm.fit()函数根据样本值计算数学期望和方差
print(norm.fit(x)) # 返回极大似然估计,估计出参数约为30和2
运行结果:

(30.003973211969715, 2.0153598111055775)
【参考】