陈曦点点头,立刻打开电脑,搜索 “深度学习过拟合解决方法”。他快速浏览了多篇专业文献,结合自己的理解,总结出两个核心解决方案:“要解决过拟合问题,一是要优化数据处理,通过数据增强技术增加样本的多样性,同时均衡各等级样本的占比;二是要调整模型结构,加入正则化层,防止模型过度依赖训练数据的特征。”
本小章还未完,请点击下一页继续阅读后面精彩内容!
“我们先从数据处理入手,这是最直接有效的方法。” 林默做出决策,“陈曦负责研究数据增强技术,生成扩展样本;苏晚负责验证增强后样本的有效性,确保数据符合实际情况;小王负责调整样本分布,让各等级样本占比均衡;我负责统筹协调,跟踪优化进度。”
方案确定后,团队立刻投入工作。陈曦选择了三种常用的数据增强技术:图像旋转(0°、90°、180°、270°)、缩放(0.8 倍、1.0 倍、1.2 倍)、亮度调整(±10%、±20%)。他编写了一段 Python 脚本,对现有的 500 组样本图片进行处理,每组图片生成 2 组扩展样本,最终得到 1500 组样本数据。
“通过旋转、缩放和亮度调整,能让模型学习到不同角度、不同大小、不同光线条件下的样本特征,从而提升泛化能力。” 陈曦向团队解释道,“比如之前我们担心的光线变化问题,通过亮度调整生成的扩展样本,就能让模型提前适应这种变化,为后续的光线补偿算法打下基础。”
苏晚则仔细对比了原始样本和增强样本的数据差异。她随机抽取了 10 组增强样本,测量它们的湿度、气孔直径等关键数据,发现增强后的样本特征与原始样本基本一致,没有出现失真的情况。“数据增强后的样本仍然符合实际生产中的情况,不会影响模型的学习效果。” 苏晚向团队汇报了验证结果。
接下来是样本均衡化处理。小王将 1500 组样本按照发酵等级重新分类,通过随机筛选的方式,让每个等级的样本数量都保持在 300 组,占比均为 20%。“这样一来,模型在训练时就不会偏向任何一个等级的样本,能够均匀学习到所有等级的特征,尤其是临界样本的特征。” 小王说道。
为了进一步提升模型的泛化能力,陈曦还对样本集进行了重新划分:“我们将 1500 组样本分为训练集(1200 组,占 80%)和验证集(300 组,占 20%),其中验证集全部采用增强后的样本,而且确保验证集中各等级样本的分布与训练集一致。这样在训练过程中,模型就能不断通过验证集进行自我修正,避免过度依赖训练数据。”
一切准备就绪后,陈曦启动了第二轮模型训练。这次他还在模型中加入了 L2 正则化层,进一步防止过拟合。“正则化层能给模型的权重参数加上约束,避免某些参数过大,从而防止模型过度拟合训练数据的细节特征。” 陈曦解释道。
团队成员们没有离开车间,而是守在电脑旁,实时关注着训练进度。随着迭代次数的增加,训练集和验证集的识别准确率都在稳步提升,而且两者之间的差距越来越小 —— 这意味着过拟合问题正在得到缓解。
“你们看,训练到 50 次迭代时,训练集准确率 92%,验证集准确率 91%,差距只有 1%!” 李萌萌兴奋地喊道,“这比第一次训练时的差距小多了,说明数据增强和正则化起到了作用!”
苏晚则重点关注临界样本的识别情况。她从验证集中抽取了 50 组临界样本,跟踪模型的识别准确率。当训练进行到 80 次迭代时,临界样本的识别准确率已经从之前的 30% 提升到了 75%,有了质的飞跃。
“太好了!临界样本的识别精度提升很明显!” 苏晚激动地说道,“这说明我们的样本增强和均衡化处理是有效的,模型已经开始学会区分那些细微的临界差异了。”
林默看着屏幕上不断攀升的准确率曲线,心中十分欣慰:“这就是团队协作的力量!遇到问题不可怕,只要我们团结一心,积极寻找解决方案,就没有克服不了的困难。”
6 小时后,第二轮模型训练结束。最终结果显示:训练集识别准确率 94%,验证集识别准确率 93%,两者差距仅 1%,过拟合问题得到了有效解决。
“现在我们用之前的 20 组测试样本再验证一次!” 小王迫不及待地说道。