支持向量机
关于支持向量机里面讲核函数的,介绍了线性核函数、高斯核函数、及多项式核函数等。还介绍了核函数的判定以及Mercer定理1x1121T3212T42.3p(a)L313x2.3.32cT1V2C.223+d更一般地,核数K(x2z)=(xz+)“对应的映射后特征维度为a(求解方法参见http://zhidao.baiducom/question/16706714.html)由于计算的是内积,我们可以想到IR中的余弦相似度,如果ⅹ和z向量夹角越小,那么核函数值越大,反之,越小。因此,核函数值是(x)和(z)的相似度。再看另外一个核函数K(r, z)=expz-z|222这时,如果x和z很相近(x-2‖≈0),那么核函数值为1,如果x和z相差很大(x-2》0),那么核函数值约等于0。由于这个函数类似于高斯分布,因此称为高斯核函数,也叫做径向基函数( Radial basis function简称RBF)。它能够把原始特征映射到无穷维。既然高斯核函数能够比较ⅹ和z的相似度,并映射到0到1,回想 logistic回归, sigmoid函数可以,因此还有sigmoid核函数等等下面有张图说明在低维线性不可分时,映射到高维后就可分了,使用高斯核函数。Linear回回看目即Gaussian来自 Eric Xing的sdes注意,使用核函数后,怎么分类新来的样本呢?线性的时候我们使用SVM学与出W和b,新来样木ⅹ的话,我们使用wTx+ b来判断,如果值大于等于1,那么是正类,小于等于是负类。在两者之间,认为无法确定。如果使用了核函数后,W2x+b就变成了wφ(x)+b,是否先要找到p(x),然后再预测?答案背定不是了,找φ(x很麻烦,回想我们之前说过的wa+6=boy(0)x+bi=1(x(,x)+b只需将替换成(x,x),然后值的判断同上8核函数有效性判定问题:给定一个函数K,我们能否使用K来替代计算φ(x)2中(z),也就说,是否能够找出一个,使得对丁所有的x和z,都有k(x,2)=(x)r中(2)9比如给出了K(x,2)=(x2)2,是否能够认为K是一个有效的核函数下面来解决这个问题,给定m个训练样本全(r(3xm,每一个对应一个特征向量。那么,我们可以将(e) yJ仟意两个和带入K中,计算得到=0。I可以从1到m,j以从1到m,这样可以计算出m*m的核函数矩阵( Kernel Matrix)。为了方便,我们将核函数矩阵和(x,z)都使用K来表示如果假设K是有效地核函数,那么根据核函数定义k1=K(x0x0)=p(x()p(x0)=p(x(0)p(x()=K(x(,x)=K可见,矩阵K应该是个对称阵。让我们得出一个更强的结论,首先使用符号中x(x)来表示映射函数中(x)的第k维属性值。那么对于任意向量z,得2K2=∑∑2K3∑∑(m0y(0)2∑∑∑(z0)(x0)z∑∑∑29(x)k(z0)k i j=S|∑zipk(c(ak0.最后一步和前面计算K(x)=(x2)时类似。从这个公式我们可以看出,如果K是个有效的核函数(即K(xz)和(x)p(2)等价),那么,在训练集上得到的核函数矩阵K应该是半正定的(K≥0这样我们得到一个核函数的必要条件:K是有效的核函数==>核函数矩阵K是对称半正定的可幸的是,这个条件也是充分的,由 Mercer定理来表达。Mercer定理:如果函数K是×四→巫上的映射(也就是从两个n维向量映射到实数域)。那么如果K是一个有效核函数(也称为 Mercer核函数),那么当且仅当对于训练样例(r()x(m,其相应的核函数矩阵是对称半正定的。Mercer定理表明为了证明K是有效的核函数,那么我们不用去寻找φ,而只需要在训练集上求出各,然后判断矩阵K是否是半正定(使用左上角主子式大于等于零等方法)即可。许多其他的教科书在 Mercer定理证明过程中使用了范数和再生希尔伯特空间等概念,但在特征是n维的情况下,这里给出的证明是等价的。核函数不仅仅用在SWM上,但凡在一个模型后算法中出现了,我们都可以常使用区(xz)去替换,这可能能够很好地改善我们的算法。posted on2011-03-1820:22 Jerry Lead阅读(…)评论(…)编辑收藏刷新评论刷新页面返回顶部博客园首页博问新闻闪存程序员招聘知识库Powered by:博客园 Copyright@ Jerry Lead
- 2020-12-01下载
- 积分:1
基于模糊算法的移动机器人路径规划
一种基于模糊算法的移动机器人路径规划策略. 利用超声波传感器对环境进行探测, 得到关于障碍物和目标的信息. 运用模糊推理将障碍位置信息与目标位置信息模糊化,建立模糊规则并解模糊最终使机器人可以很好的避障,从而实现了移动机器人的路径规划。第4期陈卫东:基于模糊算法的移动机器人路径规划按照同样的方法,可以建立起多种条件下的控制规则的合成隶属度结果规则.类似于这样的控制规则可归纳总结为很多条.在模糊控制规则的制定上采用基于控制器行为特性的方NB NSPS PBNBSPS PBA0.7式,将动作分为若干基本行为,复杂的行为可由几个简0.303X)嬷单行为按次序构成,可简化模糊控制规则的确定,并可10-5减少模糊控制规则的数目,避开被控对象的特性建模cmis-10-510 cm/s(a)左轮加速度b)右轮加速度3.4模糊推理图8左右轮合成隶属度函数模糊推理是模糊控制器的核心,它具有模拟人的3.5解模糊基于模糊概念的推理能力,该推理过程是基于模糊逻通过模糊推理得到的结果是一个模糊集合.但在辑中的蕴含关系及推理规则来进行的由模糊规则推实际模糊控制中,必须要有一个确定值才能控制或驱理出输岀量的隶属度根据 Mamdani模糊推理方法求取动执行机构.将模糊推理结果转化为精确值的过程称模糊关系矩阵0为解模糊.所以,解模糊的作用是将模糊集合映射为为了说明模糊推理控制器的工作过程,这里以机个确定的点.也就是把上面推理合成得到的左右轮加器人在FD=105cm;ID=117cm;RD=40cm;θ=45deg;υ速度模糊集合转化为一个精确值来控制机器人的运=3.5cm/s的状态为例来说明推理决策的过程.査询数动解模糊方法的选择与隶属度函数形状的选择、推理据库中的规则,此状态下的模糊规则为表格中的第5、方法的选择相关. MATLAB提供5种解模糊方法:面积6、11和12.由模糊规则的推理与合成(取极小,取极大)重心法、面积等分法、平均最大隶属度法、最大隶属度得到输出的隶属度如下取小法和最大隶属度取大法.本文仿真采用的重心第五个规则推理结果法.这种方法也称为质心法或面积中心法,是所有解模糊化方法中最为合理、最流行和引人关注的方法.该方NB NS 1Z PS PBNB NS 1ZPSPB法的数学表达式是0.3031p1(a)d(a1)10 cm/s2左轮加速度2)ALaI(a)左轮加速度b)右轮加速度图4规则5推理的左右轮合成隶属度函数第六规则推理结果:ar uR(ar)d(a,)右轮加速度=(3)NB NS IZ PS PBNB NSPS PB式中,表示输出模糊子集所有元素的隶属度值在连续0.20.2论域上的代数积分,而加速度的取值是表示其左右两0m/s2-10-5cn边的面积为相等.该方法计算复杂,但它包含了输出模(a)左轮加速度(b)右轮加速度图5规则6推理的左右轮合成隶属度函数糊子集所有元素的信息,也较精确.采用重心法将模糊第十一规则推理结果量转换成清晰量,再经过线性尺度变换为实际输入给直流电机的控制量控制移动机器人的移动NB NS 1Z PS PBNB NS IZ PS PB0.74仿真实验及结果分析为了验证本文提出的模糊控制方法的可行性,在10-5105cm/s210-5cnMatlab中利用 Simulink建立系统仿真模型,对控制规则(a)左轮加速度(b)右轮加速度图6规则11推理的左右轮合成隶属度函数进行了仿真,假设移动机器人的行驶速度为0.6m/s,使第十二规则推理结果:用 Fuzzy logic工具箱软件对模糊算法进行了仿真.在仿n真过程中,起点和终点的位置可以任意设置,障碍物的NB NS IZ PS PBPS大小、形状和位置也可以任意设置,这样就可以在任意环境下检验算法的正确性和可靠性0.20.2图9为当起点为(0,0),目标点为(9,9),在障碍物100cm/s2-10-5cmls存在时模糊算法和势场法的路径规划仿真.由图我们(a)左轮加速度(b)右轮加速度图7规则12推理的左右轮合成隶属度函数可以看出,模糊算法比势场法规划的路径更优.其工作4电子学报011年代价更小,行走的路径也更短由于速度的控制,比文5结论献[12]中只对转向角进行控制节省大量时间移动机器人由于传感器的限制以及周围环境的不移动机器人路径规划仿真确定性,很难预先对机器人的移动路径进行规划.本文目标点釆用了的模糊控制算法对移动机器人进行控制.这种8算法对移动机器人的运行环境几乎没有什么限制,它能在情况很复杂的未知环境里运行.对障碍物的形状及其个数也没有什么约束.并可避开传统算法中存在障碍物的对移动机器人的定位精度敏感,对环境信息依赖性强等缺点.并且通过对速度的控制使机器人比以前只2模糊算法路径dd对转角控制进行路径规划节省时间,具有很强的时效性.从实验中的移动轨迹可以看出,移动机器人的行为0起始点势场法路径表现出很好的一致性、连续性和稳定性参考文献10x/m图9模糊算法和势场法的仿真对比图[1]李磊,叶涛,谭民,等.移动机器人技术研究现状与未来在相同的环境下用A算法和模糊算法也进行了J].机器人,2002,24(5):475-480仿真对比,仿真路径图如图10.应用两种算法获得的最Li Lei, Ye Tao, Tan Ming. Present state and future development优路径如图所示.其中,A*算法计算量较大,并且Aof mobile robot technology research [J. Robot. 2002, 24(5)算法只能在环境信息已知的情况下找到路径而不适合475-480.(in Chinese)部分环境信息已知的情况,而且很不适合动态环境的2 Pradhan, DR Parhi, A K Panda. Potential feld method to路径规划.模糊算法显然比A算法规划的路径更优,navigate several mobile robots[ J. Applied Intelligence, 2006(25):321-333并且能够实现移动机器人的实时避障3]郝宗波,洪炳熔.未知环境下基于传感器的移动机器人路移动机器人路径规划仿真径规划[J].电子学报,2006,34(5):953-956目标点Hao Zong-bo, Hong Bing-rong Sensor-based path planning for8mobile robot in unknown environment[J. Acta ElectronicaSinica, 2006, 34(5): 953-956(in Chinese)64]周兰凤,洪炳熔.用基于知识的遗传算法实现移动机器人障碍物路径规划[J].电子学报,2006,34(5):911-914Zhou Lan-feng; Hong Bing-rong. a knowledge based geneticalgorithm for path planning of a mobile robot[ J. Acta Elec2模糊算法路径tronic Sinica, 2006, 34 (5): 911-914(in Chinese0[5]高庆吉,雷亚莉,胡丹丹,等.基于自适应感知复位算法的起始点A*算法路径移动机器人定位[J.电子学报,2007,35(11):2166-217110Gao Qing-ji, Lei Ya-li, Hu Dan-dan. A robot localizationr/m图10模糊算法和A*算法的仿真对比图method based on adaptive sensor resetting algorithm[ J].Acta对比实验表明,模糊算法不但优于人工势场法,也Electronica Sinica, 2007, 35(11): 2166-2171.(in Chinese)优于A算法模糊算法大大优化移动机器人的路径规6TLLe,C-JWu. Fuzzy motion planning of mobile robots in划,是一种很智能的路径规划方法.模糊算法仿真成功unknown environments[J]. Journal of Intelligent and RoboticSystems,2003,37(2):177-191(下转第980页)证明使用模糊控制进行路径规划时对移动机器人的运行环境几乎没有什么限制,它能在未知环境里运行.对作者简介障碍物的形状及其个数也没有什么约東.从仿真实验陈卫东男,1972年生于吉林长春,教授,主要研究方向为机器中的移动轨迹可以看出,移动机器人的行为表现出比人控制,智能算法及其应用,图像处理等较好的一致性、连续性和稳定性.采用模糊控制算法避E-mail:wdchen@ysu.edu.cn开了传统算法中存在的对移动机器人的定位精度敏朱奇光男,1978年生于浙江宁波,讲师,博士研究生,主要研究感、对环境的信息依赖性强等缺点方向为机器人控制,智能算法及其应用第4期陈卫东:基于模糊算法的移动机器人路径规划
- 2021-05-06下载
- 积分:1