算法-动态规划初步

算法-动态规划初步
4FGR参考资料:动态规划基础 - OI Wiki
目前绝大多数内容摘自OI-Wiki,个人理解重构等后续更新
动态规划初步
动态规划(Dynamic Programming),简称DP,它本身不是一种特定的算法,而是一种思想。当状态变动与之前或之后状态有关时,我们往往可以使用方程来描述这种关系。这种方程被称作状态转移方程。
动态规划原理
能用动态规划解决的问题,需要满足三个条件:最优子结构,无后效性和子问题重叠。
最优子结构
具有最优子结构也可能是用适合贪心的方法求解。
注意要确保我们考察了最优解中用到的所有子问题
- 证明问题最优解的第一个组成部分是做出一个选择;
- 对于一个给定问题,在其可能的第一步选择中,假定你已经知道哪种选择才会得到最优解,你现在并不关心这种选择具体是如何得到的,只是假定已经知道了这种选择。
- 给定可获得的最优解的选择后,确定这次选择会产生哪些子问题,以及如何最好地刻画子问题空间;
- 证明作为构成原问题最优解的组成部分,每个子问题的解就是它本省的最优解。方法是反证法,考虑加入某个子问题的解不是其自身的最优解,那么就可以从原问题中的解用该子问题的最优解替换掉当前的非最优解,从而得到原问题的一个更优的解,从而与原问题最优解的假设矛盾。
要保持子问题空间尽量简单,只在必要时扩展。
最优子结构的不同体现在两个方面:
- 原问题的最优解中涉及多少个子问题。
- 确定最优解使用哪些子问题时,需要考察多少种选择。
子问题图中每个顶点对应一个子问题,而需要考察的选择对应关联至子问题顶点的边。
无后效性
已经求解的子问题,不会再受到后续决策的影响。
子问题重叠
如果有大量的重叠子问题,我们可以用空间将这些子问题的解存储下来,避免重复求解相同的子问题,从而提升效率。
基本思路
对于一个能用动态规划解决的问题,一般采用如下思路解决:
将原问题划分为若干阶段,每个阶段对应若干个子问题,提取这些子问题的特征(称之为 状态);
寻找每一个状态的可能决策,或者说是各状态间的相互转移方式(用数学的语言描述就是 状态转移方程)。
- 按顺序求解每一个阶段的问题。
如果用图论的思想理解,我们建立一个有向无环图,每个状态对应图上一个节点,决策对应节点键的连边。这样问题就转变为了一个再DAG上寻找最长(短)路的问题。
记忆化搜索
记忆化搜索是一种通过记录已经遍历过的状态的信息,从而避免对同一状态重复遍历的搜索实现方式。
在求解动态规划的问题时,记忆化搜索与递推的代码,在形式上是高度类似的。这是由于它们使用了相同的状态表示方法和类似的状态转移。两种实现的时间复杂度是一样的,只不过是将递推的形式转换成了递归的形式。
与递推相比,记忆化搜索因为不用明确规定访问顺序,在实现难度上有时低于递推,且能比较方便低处理边界情况。但与此同时,记忆化搜索难以使用滚动数组等优化,且由于存在递归,运行效率和低于递推。
写记忆化搜索的方法:
方法一
- 把这道题的
状态和方程写出来 - 根据它们写出
函数 - 添加记忆化数组
方法二
- 写出这道题的暴力搜索程序(最好是
) - 将这个
改成「无需外部变量」的 - 添加记忆化数组
最长公共子序列
最长公共子序列问题
设
对于每个
该做法的实践复杂度为
另外,本题存在
1 | int a[MAXN],b[MAXM],f(MAXM)[MAXM]; |
最长不下降子序列
最长不下降子序列
算法一
设
容易发现该算法的时间复杂度为
1 | int a[MAXN],d[MAXN]; |
算法二
当
回顾一下之前的状态:
但这次, 我们不是要按照相同的
再看一下之前的转移:
初始时
那么,只需要找到一个
那么,根据上面的方法,我们就需要维护一个可能的转移列表,并逐个处理转移。
所以可以定义
初始化:
现在我们已知最长的不下降子序列长度为1,那么我们让
考虑进来一个元素
- 元素大于等于
,直接将该元素插入到 序列的末尾。 - 元素小于
,找到第一个大于它的元素, 用 替换它。
为什么:
对于步骤1:
由于我们是从前往后扫,所以说元素大于等于
时一定会有一个不下降子序列使得这个不下降子序列的末项后面可以再接这个元素。 对于步骤2:
同步骤1,如果插在
的末尾,那么由于前面的元素大于要插入的元素,所以不符合 的定义,因此必须先找到第一个大于它的元素,再用 替换。
步骤2如果用暴力查找,则时间复杂度仍然是
1 | for(int i=0; i<n; i++) cin >> a[i]; |