定义
设 为齐次马氏链
的k步转移概率,如果对一切i,j,存在不依赖于i的极限
则称马氏链
具有遍历性,若
构成一个概率分布,则称该马氏链存在着极限分布
。1
遍历定理定理1对于有限状态齐次马氏链,如果存在正整数s,并且对所有的 都有
成立,则该马氏链必具有遍历性,且式
中的
即为极限分布,它的方程组
满足条件
,
的唯一解。1
定理2不可约非周期的可列状态其次马氏链存在平稳分布的充要条件是,这个链的所有状态都是正常返的,且这时极限分布是唯一的平稳分布。1
例题分析1.在一计算机系统中,每一循环具有误差的概率取决于先前一个循环是否有误差。以0表示误差状态,以1表示无误差状态,且状态的一步转移概率矩阵为
试说明相应齐次马尔可夫链是遍历的,并求其平稳分布:
(1)用定义解;
(2)引用遍历性定理解。
解:
(1)因为
由定义知,此链具有遍历性,其稳态概率为
(2)由定理知因为的腹元均大于0,故此链具有遍历性,且其稳态概率满足等式
解得
,即平稳分布
。2
2. 设齐次马尔可夫链的一步转移概率矩阵为
证此链不是遍历的。
**解:**因为
故对于任意的n, ,且
,故此链不是遍历的。