- 上一篇：微型不锈钢柱焊接工艺研究+文献综述
- 下一篇：反应物浓度对材料的影响+文献综述
可以合并为：
(1.6)
若想要得到最优超平面，即使得 为最小，那么即是解二次规划问题
(1.7)
(1.8)
引入Lagrange函数，求解出该线性问题
(1.9)
对式中的 和 求偏导，并且令其偏导数为0
(1.10)
(1.11)
解(1.10)和(1.11)可得：
把(1.12)和(1.13)代入(1.9)可得：
将目标函数换成极小，得到优化对偶的问题
线性不可分
如图1.3所示的问题，当一条直线不能把目标研究内容集合准确地分开，会产生很大的误差，这一类问题统称为线性可分问题，要使用非线性学习机。
线性不可分问题
当训练集合不能用一条直线准确分为两类时，此时我们要引入一个非负变量：
对最大间隔的要求适当的放松，可以允许有不在约束条件 的点存在，可以用式(1.20)表示：
(1.20)
解决下列最优化问题即为构造了最优超平面
(1.21)
(1.22)
(1.23)
相似的线性可分问题，也是使用Lagrange函数求解二次规划问题的
为Lagrange子向量，可得到对偶问题：
(1.24)
(1.25)
1.3.3 多元回归分析
回归分析作为数理统计学的一种方法，可以通过回归分析一组变量之间的相关性，而且可以解出表示它们相关性的函数[15]。如这是一个简单的回归问题：分析两个变量X和Y的关系。假设测得的若干个X的值和其相对应的Y值， ，根据这些数值，分析推断两个变量之间的关系。即如图1.3所示寻求一条曲线 。
回归问题 x
用数学语言描述：
给定训练集合
(1.26)
假设数据样本是按照一个概率 选取的独立分别的样本点，损失函数为 ，寻找一个相关性函数 使得期望风险
(1.27)
有最小值。
在研究多个变量之间的关系时，则要求运用多元回归分析法，它的表达式一般为：
(1.28)
模型参数是 ， 是误差项， 的存在有一定的变异性。
1.4分析方法的比较
预测模型的评价指标主要是有两个，一是预测结果的精确度，二是模型的可靠性。一般而言，判定模型的好与坏是采用多项误差方法来确定的，因为只使用一种误差分析方法来评价预测模型的优劣势不可靠的[26]。这个章节会分析三个方法的数据分析特点，包括神经网络、SVM和回归分析。