怎样根据训练集和验证集判断欠拟合与过拟合？

直接结论

欠拟合通常表现为训练集和验证集都较差，说明模型连主要规律都没有学好；过拟合通常表现为训练集很好、验证集明显较差，说明模型过度记住了训练数据中的细节和噪声。

欠拟合

典型表现：

训练集表现差
验证集表现也差

它通常对应较高偏差，常见原因包括：

• 模型表达能力过弱。
• 训练轮数不足。
• 输入特征不足或质量较差。
• 正则化过强。

常见处理方式：

• 增加模型能力。
• 增加或改进有效特征。
• 适当增加训练轮数。
• 减弱过强的正则化。

过拟合

典型表现：

训练集表现很好
验证集或测试集明显较差

它通常对应较高方差，常见原因包括：

• 模型相对数据量过于复杂。
• 数据量少或代表性不足。
• 训练时间过长。
• 缺少有效正则化。

常见处理方式：

• 增加训练数据或使用数据增强。
• 使用L1、L2或权重衰减。
• 使用Dropout。
• 配置早停并保存最佳Checkpoint。
• 降低模型复杂度。
• 对决策树进行剪枝或限制深度。

判断时不要只看一个数

训练集和验证集都差，并不自动证明“模型太简单”，还需要排除标签错误、数据预处理不一致、学习率不合理等问题。训练集很好而验证集差，也应先确认数据划分和指标计算是否正确。

面试口述

欠拟合表现为训练集和验证集都较差，说明模型能力或训练程度不足，通常属于高偏差；过拟合表现为训练集很好但验证集较差，说明模型过度记忆训练数据，通常属于高方差。欠拟合可以通过增加模型能力、特征和训练时间改善；过拟合可以通过增加数据、数据增强、正则化、Dropout、早停和降低模型复杂度缓解。