《运筹与管理科学丛书（22）：马尔可夫决策过程理论与应用》从马氏决策的一般理论出发，介绍了马氏决策的基本概念，给出了决策过程的表述方法并介绍了不同准则条件下的基本理论，还给出了作者对一些实际问题的研究心得，为读者提供参考. 《运筹与管理科学丛书（22）：马尔可夫决策过程理论与应用》在《实用马尔可夫决策过程》一书的基础上增加了 Bandit 过程、部分可观察过程、软件可靠性建模分析以及大规模计算方法等章节，为读者提供更为宽阔的视野。

　　《运筹与管理科学丛书（22）：马尔可夫决策过程理论与应用》：
　　第1章 引 论
　　做决策是人们在日常生活和生产实践中经常遇到的问题。 人们也总希望做出的决策能够达到最优的效果。 事实上， 人们在做决策的时候需要考虑很多影响决策效果的因素， 如当前决策立即显现出的效果?当前决策行为对长远利益的影响等等。因此， 做决策不是孤立的， 也就是说今天的决策会影响到明天， 而明天的决策会影响到将来。 如果不顾及对将来的影响而只考虑当前的利益做决策 （即采用近视眼策略）， 从长远的角度来看， 通常效果不会很好。 比如说长跑运动员， 要根据需要跑的距离而合理分配自己的体力， 以避免尚未跑完全程就筋疲力尽。
　　本书描述和研究了在不确定环境下的一类序列决策模型， 决策者不仅要考虑决策结果的即时效应， 还要考虑到为将来做决策创造机会。 看上去这个模型比较直观且不复杂， 但是它的应用极其广泛， 而且产生了丰富的数学理论。 这一章主要通过一些例子来说明做决策过程中的关键因素?这些因素之间的关系以及决策过程的动态表现， 然后给出马氏决策过程的一般记号与定义， 最后叙述了马氏决策过程的 发展简史和一些比较有影响的相关书籍。
　　1。1 序列决策模型
　　我们用图 1。1。1 描述多阶段决策过程的一个完整步骤。 在时刻 t， 控制系统的决 策者观察到系统当前所处的状态， 并根据这个状态从可行的决策行为集合中选取一 个决策行为 （我们称选择一个行动）。 之后， 该行动会对系统的后续运行产生两方面 的影响：一方面是产生了一个既得的报酬或费用， 而另一方面是系统的状态会按照 与这个行动有关的一个概率规律在下个阶段即在 t + 1 时刻转移到一个新的状态。 这时决策者面临着与开始时 （即时刻 t） 相同的问题， 也就是选取 t + 1 时刻的决策 行为。 依此循环下去， 不同的只是在不同时刻系统的状态可能是不同的， 而且可采 用的行动集合随着状态的变化也会发生相应的变化。
　　……

序言
常用符号表

第1章 引论
1.1 序列决策模型
1.2 马氏决策过程的例子
1.3 马氏决策过程的定义与记号
1.3.1 决策时刻与周期
1.3.2 状态与行动集
1.3.3 转移概率和报酬
1.3.4 历史?决策规则与策略.
1.3.5 诱导过程?效用准则与马氏策略优势
1.4 马氏决策过程的起源和发展.
1.5 问题.

第2章 有限阶段模型.
2.1 最优准则
2.2 有限阶段的策略迭代和最优方程
2.3 最优策略的存在性和算法
2.4 两个例子
2.4.1 序贯分配问题
2.4.2 秘书问题.2 6 2.5 单调策略的最优性
2.6 部分可观察的马氏决策过程.
2.6.1 有限状态和行动空间的部分可观察马氏决策过程
2.6.2 算法
2.7 问题.

第3章 无限阶段折扣模型
3.1 最优准则
3.2 最优方程
3.3 最优策略的存在性
3.4 策略迭代算法
3.5 值迭代算法
3.6 改进的策略迭代算法
3.7 线性规划算法
3.8 可数状态与行动的模型
3.8.1 无界报酬的情形
3.8.2 有限状态逼近无限状态的情形
3.8.3 设备维修的例子
3.8.4 有限状态可数行动的情形
3.9 最优单调策略
3.1 0 最优策略的结构.
3.1 1 多臂赌博机问题.
3.1 2 问题

第4章 无限阶段平均模型
4.1 最优准则
4.2 最优平稳策略的存在性
4.3 平稳策略一些特征
4.4 最优方程与策略迭代算法
4.5 单链时的情形
4.5.1 最优方程解存在的条件
4.5.2 值迭代算法
4.5.3 单链 MDPs 的策略迭代算法及其改进
4.5.4 单链 MDPs 的线性规划算法
4.5.5 带约束模型和方差准则模型
4.5.6 可数状态模型
4.5.7 结构化最优策略
4.6 多链时的情形
4.6.1 线性规划算法
4.6.2 平均准则下的 Bellman 最优原则
4.7 问题

第5章 权重准则模型与概率准则模型.
5.1 折扣权重模型
5.2 折扣与平均权重模型
5.3 MDP 的百分比与目标水平.
5.4 风险概率准则模型
5.4.1 终达目标最小风险模型
5.4.2 首达目标最小风险模型
5.5 问题

第6章 连续时间与半马氏模型
6.1 连续时间折扣 MDP
6.1.1 模型和策略的定义
6.1.2 连续时间 MDP 的决策过程与折扣准则
6.1.3 最优策略的存在性与结构
6.1.4 转化为离散时间模型
6.1.5 适用范围的推广
6.2 连续时间平均 MDP
6.3 折扣半马氏模型.
6.4 平均半马氏模型.
6.5 服务率受控的一个排队模型.
6.6 问题

第7章 空集装箱调配问题.
7.1 单港口的问题与建模
7.2 无限阶段折扣准则
7.3 无限阶段平均准则
7.4 数值例子.
7.5 多港口空集装箱的调配问题.

第8章 人力资源模型
8.1 问题
8.2 数学模型.
8.2.1 状态空间
8.2.2 决策时刻与行动集
8.2.3 转移速率与转移概率
8.2.4 费用与准则
8.3 相关参数分析
8.4 数例

第9章 软件测试的最优发布问题
9.1 模型
9.2 结构性质.
9.2.1 最优函数 V ¤（n； t） 的性质
9.2.2 最优策略的阈值结构
9.3 数值仿真研究
9.3.1 连续时间模型的离散逼近
9.3.2 数值例子
9.4 基本模型的一般化

第10章 大规模问题的近似算法.
10.1 大规模问题的挑战
10.2 向前动态规划方法
10.2.1 近似最优决策行为的选择
10.2.2 随时间向前递推过程
10.2.3 随机变量的抽样
10.2.4 向前动态规划算法
10.3 Q-learning 和 SARSA 方法.
10.3.1 Q-learning 方法
10.3.2 SARSA 方法
10.4 实时动态规划方法
10.5 逼近值迭代方法
10.6 决策后状态方法
10.6.1 寻找决策后状态变量
10.6.2 决策后状态变量的例子
10.6.3 决策后状态变量的最优方程.
10.6.4 决策后状态方程的逼近算法.
10.6.5 决策后状态与 Q-learning
10.7 探索和利用的问题
10.8 近似线性规划方法
10.9 策略近似算法
10.1 0 总结
附录 习题解答
参考文献.
索引
《运筹与管理科学丛书》已出版书目