贝叶斯估计

设总体有概率密度 $f(X;\theta)$ ，从这个总体中抽样本 $X_1,\dots,X_n$ ， 则这组样本的密度为 $f(X_1,\theta)\dots,f(X_n,\theta)$ 。 $\theta$ 的先验密度为 $h(\theta)$ 。 $\theta,X_1,\dots,X_n$ 的联合密度为： $$ h(\theta)f(X_1,\theta)\dots f(X_n,\theta) $$ 由此算出 $(X_1,\dots,X_n)$ 的边缘密度为： $$ p(X_1,\dots,X_n)=\int{h(\theta)f(X_1,\theta),\dots,f(X_n,\theta)}d\theta $$ 在给定 $X_1,\dots,X_n$ 的条件下， $\theta$ 的条件密度为： $$ h(\theta|X_1,\dots,X_n)=h(\theta)f(X_1,\theta)\dots f(X_n,\theta)/p(X_1.\dots,X_n) $$ 这个条件密度代表了现在（取得样本之后）对 $\theta$ 的认识，它综合了先验信息（ $h(\theta)$ ）以及样本信息。