(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211232414.8 (22)申请日 2022.10.09 (71)申请人 宁波大学 地址 315000 浙江省宁波市江北区风 华路 818号 (72)发明人 徐昊　彭成斌　陈传梓　邱晓杰　 肖辉　严迪群　董理　 (74)专利代理 机构 南京利丰知识产权代理事务 所(特殊普通 合伙) 32256 专利代理师 王锋 (51)Int.Cl. G06V 10/764(2022.01) G06N 20/00(2019.01) (54)发明名称 基于伪负标签的半监督模型训练方法、 系统 及应用 (57)摘要 本发明公开了一种针对半监督图像分类任 务下基于伪负标签的模型训练方法、 系统及应 用。 所述训练方法包括： 获取结构相同的两个基 础模型及训练集； 计算有监督损失值； 将无标签 数据分别进行弱增强和强增强操作； 分别输入基 础模型获得伪标签和预测结果； 基于伪标签生成 伪负标签， 负标签代表图片不属于的类别， 并基 于模型预测和对方提供的伪负标签计算无监督 损失值； 基于有监督和无监督损失值， 迭代更新 参数。 本发 明所提供的训练方法通过生成伪负标 签， 避免了对伪标签进行筛选， 有效提高了无标 签数据利用率， 并降低两个基础模 型参数之间的 耦合程度； 通过伪负标签选择生成更高效的伪负 标签供对 方基础模型学习， 从而显著提高了训练 效率和模型分类准确性。 权利要求书3页 说明书11页 附图2页 CN 115482418 A 2022.12.16 CN 115482418 A 1.一种基于伪负标签的半监 督模型训练方法， 其特 征在于， 包括： 1)获取结构相同的第一基础模型和第二基础模型以及训练集， 所述训练集包括有标签 数据及其对应的真值标签， 以及无 标签数据； 2)将任一所述有标签数据分别进行两次不同的弱增强操作， 获得有标签第 一结果和有 标签第二结果， 基于所述有标签第一结果和有标签第二结果及其对应的真值标签分别计算 所述第一基础模型的第一有监 督损失值和第二基础模型的第二有监 督损失值； 3)将任一所述无标签数据分别进行弱增强操作和强增强操作， 获得无标签弱增强结果 和无标签强增强结果； 4)将所述无标签弱增强结果分别输入所述第 一基础模型和第二基础模型中进行分类， 获得第一伪标签和 第二伪标签； 将所述无标签强增强结果分别输入所述第一基础模型和 第 二基础模型中进行分类， 获得第一分类结果和第二分类结果； 5)基于所述第一伪标签和第二伪标签生成第一伪负标签和第二伪负标签， 其中， 伪负 标签代表不同于对应的伪标签的其余类别标签， 并基于所述第一分类结果和 第二伪负标签 计算第一无监 督损失值， 基于所述第二分类结果和第一伪负标签 计算第二无监 督损失值； 6)基于所述第 一有监督损失值和第 一无监督损失值， 迭代更新所述第 一基础模型的参 数， 基于所述第二有监 督损失值和第二无监 督损失值， 迭代更新所述第二基础模型的参数。 2.根据权利要求1所述的训练方法， 其特 征在于， 步骤2)具体包括： 将任一所述有标签数据分别进行两次不同的弱增强操作， 获得有标签第 一结果和有标 签第二结果， 并分别输入所述第一基础 模型和第二基础 模型， 获得两个有标签分类结果， 并 结合对应的所述真值标签计算所述第一基础模型的第一有监督损失值和第二基础模型的 第二有监 督损失值。 3.根据权利要求2所述的训练方法， 其特征在于， 步骤5)中， 所述伪负标签的生成方法 具体包括： 基于所述有标签分类结果， 统计所述真值标签所指示的类别之外的其余各个类别的分 类概率； 基于所述分类概率， 从所述伪标签所指示的类别之外的其余各个类别中随机抽取若干 类别作为所述伪负标签。 4.根据权利要求3所述的训练方法， 其特征在于， 通过使用有标签数据计算基础模型误 分类到其 余各个类别的分类分数， 所述分类分数代 表所述分类概 率； 所述分类分数的计算公式为： Rk＝Softmax(Prk) 其中， Prk表示基础模型对第k类别数据误分到其余类别的分数向量， Prk[j]代表所述基 础模型对第k类别数据误分到第j类上的概率分数； Nk代表模型对于本次迭代中 的多个有标 签数据中第k类数据误分类的总个数； pij表示基础模 型对第i个样 本第j类的预测概率； Rk代 表标准化过后的所述 概率分数， 并作为所述分类分数使用； 且在迭代过程中， 采用指数移动平均的方法更新Prk[j]。权　利　要　求　书 1/3 页 2 CN 115482418 A 25.根据权利要求1所述的训练方法， 其特 征在于， 步骤4)中， 所述伪标签的计算公式为： 其中， Y(p)代表所述伪标签； OneHot代表热编码操作； 代表所述无标签弱增强结果； 代表基础模型对所述无 标签弱增强结果进行分类获得的分类概 率分布。 6.根据权利要求5所述的训练方法， 其特征在于， 步骤5)中， 所述伪负标签的计算公式 为： Y(c)∈z(Y(p)， m) 其中， Y(c)代表所述伪负标签， 从集合z(Y(p)， m)中随机选择； K代表总类别个数； m为一个 大于等于1小于K的正整数， 代表随机选择的伪负标签的个数； v代表一个包含K个特征的一 维向量。 7.根据权利要求2所述的训练方法， 其特征在于， 所述第 一有监督损失值和第 二有监督 损失值的损失函数分别为： 上述公式 中， 其中， 代表所述第一有监督损失值； 代表所述第二有监督损失值； 和 代表 两次不同的弱增强操作获得的两个有标签弱增强结果； fθ代表所述第一基础模型， 代表 所述第二基础模型； Y(t)代表所述真值标签编码之后的热向量， Y(1)代表所述有标签分类结 果； 所述第一无监 督损失值和第二无监 督损失值的损失函数分别为： 上述公式 中， 其中， 代表所述第一无监督损失值， 代表所述第二无监督损失值； 代表所 述无标签弱增强结果； Y(c)代表所述伪负标签编码后的热向量； Y(2)代表所述第一分类结果 或第二分类结果。 8.根据权利要求7所述的训练方法， 其特征在于， 将有监督损失值与 无监督损失值的线 型加和值作为总损失值对相应的基础模型的参数进行 更新； 所述总损失值的计算公式分别为： 其中， λ代表有监督损失和无监督损失之间的平衡系数， 其取值范围为0.5～1之间； l(1) 和l(2)分别代表所述第一基础模型和第二基础模型对应的总损失值。 9.一种基于伪负标签的图像分类模型训练系统， 其特 征在于， 包括： 模型数据模块， 用于获取结构相同的第一基础模型和第二基础模型以及训练集， 所述 训练集包括有标签数据及其对应的真值标签， 以及无 标签数据； 有标签增强模块， 用于将任一所述有标签数据分别进行两次不同的弱增强操作， 获得权　利　要　求　书 2/3 页 3 CN 115482418 A 3