清华大学出版社 TSINGHUA UNIVERSITY PRESS 第5章回溯法
1 第5章 回溯法
清华大学出版社 TSINGHUA UNIVERSITY PRESS 回溯法 ·有许多问题,当需要找出它的解集或者要求回答什么 解是满足某些约束条件的最佳解时,往往要使用回溯 法。 回溯法的基本做法是搜索,或是一种组织得井井有条 的,能避免不必要搜索的穷举式搜索法。这种方法适 用于解一些组合数相当大的问题 回溯法在问题的解空间树中,按深度优先策略,从根 结点出发搜索解空间树。算法搜索至解空间树的任意 点时,先判断该结点是否包含问题的解。如果肯定 不包含,则跳过对该结点为根的子树的搜索,逐层向 其祖先结点回溯;否则,进入该子树,继续按深度优 先策略搜索。 2
2 回溯法 • 有许多问题，当需要找出它的解集或者要求回答什么 解是满足某些约束条件的最佳解时，往往要使用回溯 法。 • 回溯法的基本做法是搜索，或是一种组织得井井有条 的，能避免不必要搜索的穷举式搜索法。这种方法适 用于解一些组合数相当大的问题。 • 回溯法在问题的解空间树中，按深度优先策略，从根 结点出发搜索解空间树。算法搜索至解空间树的任意 一点时，先判断该结点是否包含问题的解。如果肯定 不包含，则跳过对该结点为根的子树的搜索，逐层向 其祖先结点回溯；否则，进入该子树，继续按深度优 先策略搜索
清华大学出版社 问题的解空间 问题的解向量:回溯法希望一个问题的解能够表示成一个n 元式(x1,x2,…,xn)的形式。 显约束:对分量xi的取值限定。 ·隐约束:为满足问题的解而对不同分量之间施加的约束。 ·解空间:对于问题的一个实例,解向量满足显式约束条件的 所有多元组,构成了该实例的一个解空间。 注意:同一个问题可以有多种表示,有些表示方法更简单 所需表示的状态空间更小(存储量少,搜索方法简单)。 n=3时的0-1背包问题用完全二叉树表示的解空间3
3 问题的解空间 • 问题的解向量：回溯法希望一个问题的解能够表示成一个n 元式(x1,x2,…,xn)的形式。 • 显约束：对分量xi的取值限定。 • 隐约束：为满足问题的解而对不同分量之间施加的约束。 • 解空间：对于问题的一个实例，解向量满足显式约束条件的 所有多元组，构成了该实例的一个解空间。 注意：同一个问题可以有多种表示，有些表示方法更简单， 所需表示的状态空间更小（存储量少，搜索方法简单）。 n=3时的0-1背包问题用完全二叉树表示的解空间
清华大学出版社 TSINGHUA UNIVERSITY PRESS 生成问题状态的基本方法 扩展结点一个正在产生儿子的结点称为扩展结点 活结点:一个自身已生成但其儿子还没有全部生成的节点 称做活结点 死结点一个所有儿子已经产生的结点称做死结点 ·深度优先的问题状态生成法:如果对一个扩展结点R, 旦产生了它的一个儿子C,就把C当做新的扩展结点。在 完成对子树C(以C为根的子树)的穷尽搜索之后,将R重 新变成扩展结点,继续生成R的下一个儿子(如果存在 ·宽度优先的问题状态生成法:在一个扩展结点变成死结点 之前,它一直是扩展结点 回溯法:为了避免生成那些不可能产生最佳解的问题状态, 要不断地利用限界函数( bounding function来处死那些实际 上不可能产生所需解的活结点,以减少问题的计算量。具 有限界函数的深度优先生成法称为回溯法 4
4 生成问题状态的基本方法 • 扩展结点:一个正在产生儿子的结点称为扩展结点 • 活结点:一个自身已生成但其儿子还没有全部生成的节点 称做活结点 • 死结点:一个所有儿子已经产生的结点称做死结点 • 深度优先的问题状态生成法：如果对一个扩展结点R，一 旦产生了它的一个儿子C，就把C当做新的扩展结点。在 完成对子树C（以C为根的子树）的穷尽搜索之后，将R重 新变成扩展结点，继续生成R的下一个儿子（如果存在） • 宽度优先的问题状态生成法：在一个扩展结点变成死结点 之前，它一直是扩展结点 • 回溯法：为了避免生成那些不可能产生最佳解的问题状态， 要不断地利用限界函数(bounding function)来处死那些实际 上不可能产生所需解的活结点，以减少问题的计算量。具 有限界函数的深度优先生成法称为回溯法
清华大学出版社 回溯法的基本思想 1)针对所给问题,定义问题的解空间 (2)确定易于搜索的解空间结构 (3)以深度优先方式搜索解空间,并在搜索过程中 用剪枝函数避免无效搜索 常用剪枝函数: 用约束函数在扩展结点处剪去不满足约束的子树 用限界函数剪去得不到最优解的子树。 用回溯法解题的一个显著特征是在搜索过程中动态产生问题的 解空间。在任何时刻,算法只保存从根结点到当前扩展结点的 路径。如果解空间树中从根结点到叶结点的最长路径的长度为 h(η),则回溯法所需的计算空间通常为O(h(η)。而显式地存储 整个解空间则需要○(2m)或O(h(η))内存空间
5 回溯法的基本思想 (1)针对所给问题，定义问题的解空间； (2)确定易于搜索的解空间结构； (3)以深度优先方式搜索解空间，并在搜索过程中 用剪枝函数避免无效搜索。 常用剪枝函数： 用约束函数在扩展结点处剪去不满足约束的子树； 用限界函数剪去得不到最优解的子树。 用回溯法解题的一个显著特征是在搜索过程中动态产生问题的 解空间。在任何时刻，算法只保存从根结点到当前扩展结点的 路径。如果解空间树中从根结点到叶结点的最长路径的长度为 h(n)，则回溯法所需的计算空间通常为O(h(n))。而显式地存储 整个解空间则需要O(2h(n))或O(h(n)!)内存空间
清华大学出版社 TSINGHUA UNIVERSITY PRESS 递归回溯 回溯法对解空间作深度优先搜索,因此,在一般情况下 用递归方法实现回溯法。 void backtrack(int if(tsn output(x) else for(int i=f(n, t); i <=g(n, t); i ++)i t]=h( if(constraint(t)&&bound(t)) backtrack(t+1)
6 递归回溯 回溯法对解空间作深度优先搜索，因此，在一般情况下 用递归方法实现回溯法。 void backtrack (int t) { if (t>n) output(x); else for (int i=f(n,t);i<=g(n,t);i++) { x[t]=h(i); if (constraint(t)&&bound(t)) backtrack(t+1); } }
清华大学出版社 迭代回溯 RS/TY PRESS 采用树的非递归深度优先遍历算法,可将回溯法表示为一个非 递归迭代过程。 void iterativeBacktrack O int tE1. while(tso)i if(f(n,)<≡g(n,t) for (int i=f(n, t); i <=g(n, t); i++i t]=h( if (constraint(t)&&bound(t)i if (solution (t))output(x) else t++ I else t
7 迭代回溯 采用树的非递归深度优先遍历算法，可将回溯法表示为一个非 递归迭代过程。 void iterativeBacktrack () { int t=1; while (t>0) { if (f(n,t)<=g(n,t)) for (int i=f(n,t);i<=g(n,t);i++) { x[t]=h(i); if (constraint(t)&&bound(t)) { if (solution(t)) output(x); else t++;} } else t--; } }
清华大学出版 子集树与排列树 TY PRESS F 遍历子集树需O(2)计算时间遍历排列树需要O(n)计算时间 void backtrack (int t void backtrack (int t) if(t>n) output(x) if(t>n) output(x) else else or(inti=0;<=1;++){ for(int i=t; i<=n;i++) x[t=i; sWap(刈[切,x]) if (legal(t)) backtrack(t+1) if(legal(t)) backtrack(t+1) sWap(刈[切,x])
8 子集树与排列树 遍历子集树需O(2n )计算时间 遍历排列树需要O(n!)计算时间 void backtrack (int t) { if (t>n) output(x); else for (int i=0;in) output(x); else for (int i=t;i<=n;i++) { swap(x[t], x[i]); if (legal(t)) backtrack(t+1); swap(x[t], x[i]); } }
清华大学出版社 装载问题 RSITY PRESS 有一批共n个集装箱要装上2艘载重量分别为c1和c2的轮船,其 中集装箱i的重量为wi,且∑w≤c+c2 装载问题要求确定是否有一个合理的装载方案可将这个集装箱 装上这2艘轮船。如果有,找出一种装载方案。 容易证明,如果一个给定装载问题有解,则采用下面的策略可 得到最优装载方案。 (1)首先将第一艘轮船尽可能装满 (2)将剩余的集裝箱装上第二艘轮船。 将第一艘轮船尽可能装满等价于选取全体集装箱的一个子集, 使该子集中集装箱重量之和最接近。由此可知,装载问题等价 于以下特殊的0-1背包问题。 maⅹ>v;x 用回溯法设计解裝载问题的O(2)计 算时间算法。在某些情况下该算法 t.>wx,≤c1 优于动态规划算法。 x∈{0l},1≤i≤n
9 装载问题 有一批共n个集装箱要装上2艘载重量分别为c1和c2的轮船，其 中集装箱i的重量为wi，且 1 2 1 w c c n i i + = 装载问题要求确定是否有一个合理的装载方案可将这个集装箱 装上这2艘轮船。如果有，找出一种装载方案。 容易证明，如果一个给定装载问题有解，则采用下面的策略可 得到最优装载方案。 (1)首先将第一艘轮船尽可能装满； (2)将剩余的集装箱装上第二艘轮船。 将第一艘轮船尽可能装满等价于选取全体集装箱的一个子集， 使该子集中集装箱重量之和最接近。由此可知，装载问题等价 于以下特殊的0-1背包问题。 x i n w x c w x i n i i i n i i i = = {0,1},1 s.t. max 1 1 1 用回溯法设计解装载问题的O(2n )计 算时间算法。在某些情况下该算法 优于动态规划算法
装载问题 RSTY PRESS 解空间:子集树 可行性约束函数(选择当前元素):∑mx≤c1 上界函数(不选择当前元素): 当前载重量cw剩余集装箱的重量r≤当前最优载重量 best private static void backtrack(int i) {∥/搜索第层结点 if(i>n)∥/到达叶结点 更新最优解 best, best; return r-=WO if(cW+w] best)i 刈]=0;∥搜索右子树 backtrack (i+1): y +=W
10 装载问题 •解空间：子集树 •可行性约束函数(选择当前元素)： •上界函数(不选择当前元素)： 当前载重量cw+剩余集装箱的重量r当前最优载重量bestw 1 1 w x c n i i i = private static void backtrack (int i) {// 搜索第i层结点 if (i > n) // 到达叶结点 更新最优解bestx,bestw;return; r -= w[i]; if (cw + w[i] bestw) { x[i] = 0; // 搜索右子树 backtrack(i + 1); } r += w[i]; }