好久没写博客了，最近看了个东西，觉得不错，整理了一下：
遗传算法
遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法 。 遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。
一.进化论知识
作为遗传算法生物背景的介绍，下面内容了解即可：
种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。
个体：组成种群的单个生物。
基因 ( Gene ) ：一个遗传因子。
染色体 ( Chromosome ) ：包含一组的基因。
生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。
遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。
简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变( Mutation )，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。
二.遗传算法思想
借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。
举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串(0：不取，1：取) ；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中的概率要比较高。这样经过G代的进化后就可能会产生出0-1背包问题的一个“近似最优解”。
编码：需要将问题的解编码成字符串的形式才能使用遗传算法。最简单的一种编码方式是二进制编码，即将问题的解编码成二进制位数组的形式。例如，问题的解是整数，那么可以将其编码成二进制位数组的形式。将0-1字符串作为0-1背包问题的解就属于二进制编码。
遗传算法有3个最基本的操作：选择，交叉，变异。
选择：选择一些染色体来产生下一代。一种常用的选择策略是 “比例选择”，也就是个体被选中的概率与其适应度函数值成正比。假设群体的个体总数是M，那么那么一个体Xi被选中的概率为f(Xi)/( f(X1) + f(X2) +…….. + f(Xn) )。比例选择实现算法就是所谓的“轮盘赌算法”( Roulette Wheel Selection )，轮盘赌算法的一个简单的实现如下：
Objective-C
轮盘赌算法
/*
* 按设定的概率，随机选中一个个体
* P[i]表示第i个个体被选中的概率
*/
int RWS()
{
m =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
/* 产生的随机数在m~m+P[i]间则认为选中了i
* 因此i被选中的概率是P[i]
*/
m = m + P[i];
if(r<=m) return i;
}
}
轮盘赌算法
/*
* 按设定的概率，随机选中一个个体
* P[i]表示第i个个体被选中的概率
*/
int RWS()
{
m =0;
r =Random(0,1); //r为0至1的随机数
for(i=1;i<=N; i++)
{
/* 产生的随机数在m~m+P[i]间则认为选中了i
* 因此i被选中的概率是P[i]
*/
m = m + P[i];
if(r<=m) return i;
}
}
交叉(Crossover)：2条染色体交换部分基因，来构造下一代的2条新的染色体。例如：
交叉前：
00000|011100000000|10000
11100|000001111110|00101
交叉后：
00000|000001111110|10000
11100|011100000000|00101
染色体交叉是以一定的概率发生的，这个概率记为Pc 。
变异(Mutation)：在繁殖过程，新产生的染色体中的基因会以一定的概率出错，称为变异。变异发生的概率记为Pm。例如：
变异前：
000001110000000010000
变异后：
000001110000100010000
适应度函数 ( Fitness Function )：用于评价某个染色体的适应度，用f(x)表示。有时需要区分染色体的适应度函数与问题的目标函数。例如：0-1背包问题的目标函数是所取得物品价值，但将物品价值作为染色体的适应度函数可能并不一定适合。适应度函数与目标函数是正相关的，可对目标函数作一些变形来得到适应度函数。
三.基本遗传算法的伪代码
Objective-C
基本遗传算法伪代码
/*
* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop
do
{
计算种群Pop中每一个体的适应度F(i)。
初始化空种群newPop
do
{
根据适应度以比例选择算法从种群Pop中选出2个个体
if ( random ( 0 , 1 ) < Pc )
{
对2个个体按交叉概率Pc执行交叉操作
}
if ( random ( 0 , 1 ) < Pm )
{
对2个个体按变异概率Pm执行变异操作
}
将2个新个体加入种群newPop中
} until ( M个子代被创建)
用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
基本遗传算法伪代码
/*
* Pc：交叉发生的概率
* Pm：变异发生的概率
* M：种群规模
* G：终止进化的代数
* Tf：进化产生的任何一个个体的适应度函数超过Tf，则可以终止进化过程
*/
初始化Pm，Pc，M，G，Tf等参数。随机产生第一代种群Pop
do
{
计算种群Pop中每一个体的适应度F(i)。
初始化空种群newPop
do
{
根据适应度以比例选择算法从种群Pop中选出2个个体
if ( random ( 0 , 1 ) < Pc )
{
对2个个体按交叉概率Pc执行交叉操作
}
if ( random ( 0 , 1 ) < Pm )
{
对2个个体按变异概率Pm执行变异操作
}
将2个新个体加入种群newPop中
} until ( M个子代被创建)
用newPop取代Pop
}until ( 任何染色体得分超过Tf， 或繁殖代数超过G )
四.基本遗传算法优化
下面的方法可优化遗传算法的性能。
精英主义(Elitist Strategy)选择：是基本遗传算法的一种优化。为了防止进化过程中产生的最优解被交叉和变异所破坏，可以将每一代中的最优解原封不动的复制到下一代中。
插入操作：可在3个基本操作的基础上增加一个插入操作。插入操作将染色体中的某个随机的片段移位到另一个随机的位置。
五、框架
GAFT框架：
优化GAFT
函数返回值缓存
从之前我写的best_indv中可以看到，我将fitness作为key用于获取最大值，Python内置的max函数会内部调用fitness进行相互比较来获取最大值，这个时候便对fitness进行了多余的调用，因为在遗传算法中，每一代的population中的个体是不会发生变化的我们只需要在每一次迭代的一开始调用fitnessn次就好了(n为种群大小)，每一代中再次需要用到适应度值的地方直接获取。这样需要我们对种群中的个体进行惰性求值，也就是对所有的fitness的值进行缓存。这种操作我在优化自己的催化动力学程序的时候也使用过，叫做函数返回值缓存。
但是在gaft中这种缓存有稍微麻烦一点，因为缓存并不是缓存一次就可以一直用了，它会随着条件的变化需要重新计算种群中所有个体的适应度然后重新缓存。
重新计算适应度值需要同时满足的条件
种群中的所有个体没有发生任何变化 (如果变化了那肯定要重新计算适应度值了)。
已有缓存的适应度值 (如果是第一次那肯定需要计算一次所有个体的适应度值)。
计算适应度值的适应度函数与之前比较没有发生变化(如果计算适应度函数都改变了，那当然需要重新估计适应度值了)。
GAFT文件结构
.
├──LICENSE
├──MANIFEST.in
├──README.rst
├──examples
│ ├──ex01
│ └──ex02
├──gaft
│ ├──__init__.py
│ ├──__pycache__
│ ├──analysis
│ ├──components
│ ├──engine.py
│ ├──operators
│ └──plugin_interfaces
├──setup.cfg
├──setup.py
└──tests
├──flip_bit_mutation_test.py
├──gaft_test.py
├──individual_test.py
├──population_test.py
├──roulette_wheel_selection_test.py
└──uniform_crossover_test.py
一维搜索
首先我们先对一个简单的具有多个局部极值的函数进行优化，我们来使用内置的算子求函数f(x)=x+10sin(5x)+7cos(4x)f(x)=x+10sin(5x)+7cos(4x)的极大值，x的取值范围为[0,10]f(x)=ysin(2πx)+xcos(2πy)
先导入需要的模块
Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
frommathimportsin,cos
# 导入种群和内置算子相关类
fromgaft importGAEngine
ponents importGAIndividual
ponents importGAPopulation
fromgaft.operators importRouletteWheelSelection
fromgaft.operators importUniformCrossover
fromgaft.operators importFlipBitMutation
# 用于编写分析插件的接口类
fromgaft.plugin_interfaces.analysis importOnTheFlyAnalysis
# 内置的存档适应度函数的分析类
fromgaft.analysis.fitness_store importFitnessStoreAnalysis
# 我们将用两种方式将分析插件注册到遗传算法引擎中
2. 创建引擎
Python
1
2
3
4
5
6
7
8
9
10
11
12
13
# 定义种群
indv_template= GAIndividual(ranges=[(0,10)],encoding='binary',eps=0.001)
population= GAPopulation(indv_template=indv_template,size=50)
# 创建遗传算子
selection= RouletteWheelSelection()
crossover= UniformCrossover(pc=0.8,pe=0.5)
mutation= FlipBitMutation(pm=0.1)
# 创建遗传算法引擎, 分析插件和适应度函数可以以参数的形式传入引擎中
engine= GAEngine(population=population,selection=selection,
crossover=crossover,mutation=mutation,
analysis=[FitnessStoreAnalysis])
自定义适应度函数
Python
1
2
3
4
@engine.fitness_register
deffitness(indv):
x,= indv.variants
returnx+ 10*sin(5*x)+ 7*cos(4*x)
4. 自定义on-the-fly分析插件
Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
@engine.analysis_register
classConsoleOutputAnalysis(OnTheFlyAnalysis):
interval= 1
defregister_step(self,ng,population,engine):
best_indv= population.best_indv(engine.fitness)
msg= 'Generation: {}, best fitness: {:.3f}'.format(ng,engine.fitness(best_indv))
engine.logger.info(msg)
deffinalize(self,population,engine):
best_indv= population.best_indv(engine.fitness)
x= best_indv.variants
y= engine.fitness(best_indv)
msg= 'Optimal solution: ({}, {})'.format(x,y)
engine.logger.info(msg)
六、解决问题
资源分配问题：
对于任何一个企业来说，其拥有的生产资源总是有限的。如何合理的把有限的资源分配给企业内各生产部门，使得本企业在相对较低的成本投入下得到较大利润是每一个企业所追 求的目标 。为了充分地利用现有资源，以获得最优经济成果，于是就产生了如何分配以使工程目标或生产目的达到最优的问题，即资源分配问题 。很多人对这类问题就离散型收益函数给出了求解方法，但这些方法还只针对某些特定模型, 不具有通用性。 遗传算法(Genetic Algorithm, GA)是基于自然界“适者生存”机制的一种全局优化算法。 它将问题的可行解编码为由基因组成的染色体,通过模拟染色体群的选择、交换和变异等操作不断迭代,最终收敛到高适应度值的染色体,从而求得问题的最优解或满意解 。
