贝叶斯估计

Description

设总体有概率密度 $f(X;\theta )$ ，从这个总体中抽样本 $X_1,\dots ,X_n$ ， 则这组样本的密度为 $f(X_1,\theta )\dots ,f(X_n,\theta )$ 。 $\theta$ 的先验密度为 $h(\theta )$ 。 $\theta ,X_1,\dots ,X_n$ 的联合密度为：

$$h(\theta )f(X_1,\theta )\dots f(X_n,\theta )$$

由此算出 $(X_1,\dots ,X_n)$ 的边缘密度为：

$$p(X_1,\dots ,X_n)=\int h(\theta )f(X_1,\theta ),\dots ,f(X_n,\theta )d\theta$$

在给定 $X_1,\dots ,X_n$ 的条件下， $\theta$ 的条件密度为：

$$h(\theta |X_1,\dots ,X_n)=h(\theta )f(X_1,\theta )\dots f(X_n,\theta )/p(X_1.\dots ,X_n)$$

这个条件密度代表了现在（取得样本之后）对 $\theta$ 的认识，它综合了先验信息（ $h(\theta )$ ）以及样本信息。