对于多类问题的迭代加权最小二乘算法

应用背景在线性回归模型的情况下，最大似然解，高斯噪声模型的假设，导致一个封闭的形式的解决方案。这是一个后果的对数似然函数的对数似然函数的参数向量的回归，有不再是一个封闭的形式的解决方案，由于物流乙状结肠功能的非线性。然而，背离二次形式并不是实质性的。要精确，误差函数是凹的，因此具有唯一的最小值。误差函数可以通过一个基于牛顿-拉夫逊迭代优化方案有效的迭代技术最小化，采用局部二次近似对数似然函数。关键技术分类的目的是将输入向量x和分配给一个K离散类c_k k = 1，。..在最常见的情况下，该类是不相交的，因此，每个输入被分配给一个只有一个类。输入空间被划分为决策区域，其边界被称为决策边界或决策面。在这里，我们考虑分类的线性模型，即决定表面的输入向量X，因此定义的线性函数（D−1）维超平面在d维输入空间。数据集的类可以被称为线性可分的线性决策面完全分离。