留一法matlab 留一交叉验证证和普通matlab 留一交叉验证证有什么区别

来源：蜘蛛抓取(WebSpider) 时间：2016-11-20 06:53 标签： 留一交叉验证法 例子
用交叉验证法
leave one out
流感病毒神经氨酸酶抑制剂的定量构效关系(QSAR)的研究 Quantitative structure-activity relationship(QSAR)studies of influenza neuraminidase inhibitors
方法建立了预测模型.计算中使用偏最小二乘(PLS)和主成分分析(PCA)降低变量维数,减少噪音干扰.用交叉验证法(leave one out,LOO)检验了预测模型的可信性,并用一个由4个抑制剂组成的测试集进一步验证预测模型的预测能力,证实了QSAR
基于1个网页-
用缺一交叉验证法检验网络的稳定性与预测精度。
The stability and accuracy of predicted outputs were tested by the leave-one-out cross validation.
最后用交叉验证法对估值结果进行了检验，证明建立的指示变异函数模型合理且估值效果较好。
Eventually, after checking the parameters of the structural model , it is found that the constructed indicator variogram models are reasonable and the estimated values are effective.
$firstVoiceSent
- 来自原声例句
请问您想要如何调整此模块？
感谢您的反馈，我们会尽快进行适当修改！
请问您想要如何调整此模块？
感谢您的反馈，我们会尽快进行适当修改！机器学习之正则化与交叉验证 - 推酷
机器学习之正则化与交叉验证
地点：基地
--------------------------------------------------------------------------------
今天学习两种模型选择方法，一种是正则化方法，还一种是交叉验证。
--------------------------------------------------------------------------------
一、正则化(regularization)
正则化（regularization)是模型选择的一种典型方法。是结构风险最小化的策略实现。它 在经验风险上还加上了一个正则化项（regularizer)或罚项（penalty term) ，在这里， 正则化项一般是模型复杂度的单调递增函数，模型越复杂，正则化值就越大。
正则化公式如下：
正则化公式前一项即是经验风险，后一项为正则化项，
在这里大于或等于0 ，为调整经验风险项和正则化项之间关系的系数。
正则化项可以有多种不同形式，比如在回归问题中，损失函数为平方损失，正则化项是参数向量的L2范数：
这里的||w||表示的是参数向量w的L2范数
当然正化项也可以是参数向量的L1范数，这样，正则化公式为：
在这里||w||1为参数向量的L1范数。
这样一来，经验风险较小的模型可能比较复杂，含多个非零参数，于是第2项正则化项就会较大。正则化的目的就是为了选择经验风险与模型复杂度同时都比较小的模型。
正则化符合 奥卡姆剃刀原理：在所有可能选择的模型中，能够很好地解释已知数据且十分简单的模型才是最好的模型。从贝叶斯估计的角度来看，就是正则化项对应于模型的先验概率，复杂的模型具有较小的先验概率，而简答的模型具有较大的先验概率 。
--------------------------------------------------------------------------------
二、交叉验证（cross validation)
当给定样本数据充足，进行模型选择的方法一般为：
随机将数据集划分为三部分，分别为： 训练集，验证集，测试集 。我们用训练集数据来训练模型，用验证集数据来选择模型，用测试集数据最终对学习方法进行评估。一般来说，我们选择对验证集有最小预测误差的模型，由于验证集有足够多的数据，因此对模型进行选择也是有效的。但由于许多实际应用中，数据本身不充足，为了选择好的模型，我们需要用到交叉验证：即重复使用数据，把给定数据进行切分，将切分数据集组合为训练集与测试集，在此基础上反复进行训练，测试已经模型选择。
2.1简单交叉验证
1.随机将数据分为两个部分：训练集（70%）+测试集（30%）
2.然后用训练集在各种条件下（比如不同参数个数）训练模型，从而得到不同模型
3.在测试集上评价各个模型的测试误差，选出测试误差最小的模型。
2.2 S折 交叉验证
S折交叉验证（S-fold cross validation）应用最多，它的步骤为
首先：随机将已知数据切分为S个互不相交的大小相同的子集
然后：利用S-1个子集的数据训练模型，利用剩下的一个子集测试模型，将这一过程对可能的S种可能（即划分后，把每个子集都当一次测试集其余训练集）重复进行
最后选择出S次评测中平均测试误差最小的模型
2.3 留一 交叉验证
S折交叉验证的特殊情形就是S=N,，称为留一交叉验证（leave-one-out cross validation)，在数据比较缺乏的情况下使用，N恰好为给定数据集的容量）
已发表评论数()
请填写推刊名
描述不能大于100个字符!
权限设置： 公开
仅自己可见
正文不准确
标题不准确
排版有问题
主题不准确
没有分页内容
图片无法显示
视频无法显示
与原文不一致简单交叉验证 hold-out cross validation
从全部训练数据S中随机选择s个样例作为训练集training set，剩余的作为测试集testing set；
通过对测试集训练 ，得到假设函数或者模型；
在测试集中对每一个样本根据假设函数或者模型，得到训练集的类标，求出分类正确率；
选择具有最大分类率的模型或者假设。
测试集和训练集分开，避免过拟合现象。
k折交叉验证 k-fold cross validation
将全部训练数据S分成k个不相交的子集，假设S中的训练样例个数为m，那么每一个子集有m/k个训练样例，相应的子集为 {s1,s2,…,sk}；
每次从分好的子集中中拿出一个作为测试集，其它k-1个作为训练集；
根据训练训练出模型或者假设函数；
把这个模型放到测试集上，得到分类率；
计算k次求得的分类率的平均值，作为该模型或者假设函数的真实分类率。
这个方法充分利用了所有样本。但计算比较繁琐，需要训练k次，测试k次。
留一法 leave-one-out cross validation
留一法就是每次只留下一个样本做测试集，其它样本做训练集，如果有k个样本，则需要训练k次，测试k次。留一法即k=1的k折交叉验证。
留一法计算最繁琐，但样本利用率最高。适合于小样本的情况。
阅读(...) 评论()

我要回帖

更多关于 留一交叉验证法 例子 的文章

 

随机推荐