(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211219861.X (22)申请日 2022.10.08 (71)申请人 北京肿瘤医院 （北京大 学肿瘤医院） 地址 100142 北京市海淀区阜成路52号北 京肿瘤医院 (72)发明人 沈琳　陈杨　张江东　张小田　 董彬　陈梓帆　张立　孙宇　赵杰　 郏科人　 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 李文清 (51)Int.Cl. G06T 7/00(2017.01) G06T 7/73(2017.01) G16H 50/30(2018.01)G06N 3/08(2006.01) G06N 3/04(2006.01) (54)发明名称 肿瘤免疫治疗预后评估方法、 装置、 电子设 备及存储介质 (57)摘要 本发明提供一种肿瘤免疫治疗预后评估方 法、 装置、 电子设备及存储介质， 属于医学检测技 术领域， 包括： 将待测患者的每个肿瘤组织切片 中各个肿瘤微环境的图像特征信息输入到免疫 细胞评分模 型， 获得免疫细胞评分模 型输出的待 测患者的各类细胞亚型免疫细胞的评分； 将待测 患者的各类细胞亚型免疫细胞的评分输入到预 设回归模型， 获取预设回归模型输出的待测患者 的肿瘤免疫治疗 预后评估结果； 免疫细胞评分模 型的网络参数是基于肿瘤免疫治疗疗效预测模 型的网络参数确定的， 肿瘤免疫治疗疗效预测模 型是基于肿瘤组织切片中肿瘤微环境的图像特 征信息样本及其对应的样本免疫治疗疗效标签 训练得到的。 本发明可以实现对患者的肿瘤免疫 治疗预后的有效评估。 权利要求书2页 说明书16页 附图3页 CN 115294129 A 2022.11.04 CN 115294129 A 1.一种肿瘤免疫 治疗预后评估方法， 其特 征在于， 包括： 将待测患者的每个肿瘤组织切片中各个肿瘤微环境的图像特征信息输入到免疫细胞 评分模型， 获得所述免疫细胞评分模型输出的所述待测患者的各类细胞亚型免疫细胞的评 分； 将所述待测患 者的各类细胞亚型免疫细胞的评分输入到预设回归模型， 获取所述预设 回归模型输出的所述待测患者的肿瘤免疫 治疗预后评估结果； 所述免疫细胞评分模型的网络参数是基于肿瘤免疫治疗疗效预测模型的网络参数确 定的， 所述肿瘤免疫治疗疗效预测模型是基于肿瘤组织切片中肿瘤微环境的图像特征信息 样本及其对应的样本免疫 治疗疗效标签训练得到的。 2.根据权利要求1所述的肿瘤免疫治疗预后评估方法， 其特征在于， 在所述将待测患 者 的每个肿瘤组织切片中各个肿瘤微环境的图像特征信息输入到免疫细胞评 分模型之前， 所 述方法还 包括： 基于所述肿瘤微环境的图像特征信息和预设Transformer模型， 建立所述肿瘤免疫治 疗疗效预测模 型及所述免疫细胞评 分模型； 所述预设Transformer模 型包括多个块， 每个块 包括多头注意力机制层和前向反馈网络层。 3.根据权利要求2所述的肿瘤免疫治疗预后评估方法， 其特征在于， 所述肿瘤微环境的 图像特征信息包括肿瘤细胞的位置向量、 所述肿瘤细胞周围的各个免疫细胞的细胞亚型的 特征向量和所述各个免疫细胞的位置向量； 基于所述肿瘤微环境的图像特征信息和预设 Transformer模型， 建立所述肿瘤免疫 治疗疗效预测模型及所述免疫细胞评分模型， 包括： 基于所述肿瘤细胞的位置向量、 所述肿瘤细胞周围的各个免疫细胞的细胞亚型的特征 向量和所述各个免疫细胞的位置向量， 通过所述预设Tr ansformer模型中的第一个块和第 二个块， 确定第一关系模型和 第一注意力图， 并基于所述第一关系模 型， 确定所述肿瘤细胞 的特征向量； 基于各个所述肿瘤细胞的位置向量及各个所述肿瘤细胞的特征向量， 通过所述预设 Transformer模 型中的第三个块， 确定第二关系模 型及第二注 意力图， 并基于所述第二关系 模型和Softmax函数， 确定第三关系模型； 基于预先勾画的各个感兴趣区域的特征向量， 通过所述预设Transformer模型中的第 四个块， 确 定第四关系模型及第三注意力图， 并基于所述第四关系模型和Softmax函数， 确 定第五关系模型； 所述感兴趣区域的特征向量是基于所述第三关系模型确定的； 所述感兴 趣区域包括多个所述肿瘤 细胞的图像区域； 基于预设的各个切 片图像的特征向量， 通过所述预设Transformer模型中的第五个块， 确定第六关系模 型及第四注意力图， 并基于所述第六关系模 型和Softmax函数， 确定第七关 系模型； 所述切片图像的特征向量是基于所述第 五关系模型确定的， 所述切片图像包括多 个所述感兴趣区域； 基于所述第七关系模型， 建立所述肿瘤免疫 治疗疗效预测模型； 基于所述第 一注意力图、 所述第 二注意力图、 所述第 三注意力图和所述第四注意力图， 建立所述免疫细胞评分模型。 4.根据权利要求1所述的肿瘤免疫治疗预后评估方法， 其特征在于， 在所述将待测患 者 的每个肿瘤组织切片中各个肿瘤微环境的图像特征信息输入到免疫细胞评 分模型之前， 所权　利　要　求　书 1/2 页 2 CN 115294129 A 2述方法还 包括： 将患者的肿瘤组织切片中肿瘤微环境的图像特征信息样本及其对应的样本免疫治疗 疗效标签作为 一组训练样本， 获取多组训练样本； 利用所述多组训练样本， 对所述肿瘤免疫 治疗疗效预测模型进行训练。 5.根据权利要求4所述的肿瘤免疫治疗预后评估方法， 其特征在于， 利用所述多组训练 样本， 对所述肿瘤免疫 治疗疗效预测模型进行训练， 包括： 对于任意一组训练样本， 将所述训练样本输入到所述肿瘤免疫治疗疗效预测模型， 获 得所述肿瘤免疫 治疗疗效预测模型输出的所述训练样本对应的免疫 治疗疗效预测值； 利用预设损失函数， 根据所述训练样本对应的免疫治疗疗 效预测值和所述训练样本对 应的样本免疫 治疗疗效标签 计算损失值； 若所述损失值小于预设阈值， 则所述肿瘤免疫 治疗疗效预测模型训练完成。 6.根据权利要求5所述的肿瘤免疫治疗预后评估方法， 其特征在于， 在所述若所述损失 值小于预设阈值， 则所述肿瘤免疫 治疗疗效预测模型训练完成之后， 所述方法还 包括： 确定训练完成后的所述肿瘤免疫治疗疗 效预测模型的网络参数； 所述网络参数包括网 络权重和网络偏置向量； 将所述免疫细胞评分模型的网络权重和网络偏置向量分别更新为所述肿瘤免疫治疗 疗效预测模型的网络 权重和网络偏置向量。 7.根据权利要求1所述的肿瘤免疫治疗预后评估方法， 其特征在于， 在所述将待测患 者 的每个肿瘤组织切片中各个肿瘤微环境的图像特征信息输入到免疫细胞评 分模型之前， 所 述方法还 包括： 对所述待测患 者的各个肿瘤组织切片的肿瘤微环境图像进行感兴趣区域提取， 得到每 个所述肿瘤组织切片的多个感兴趣区域； 对每个所述肿瘤组织切片的各个感兴趣区域进行细胞表型分析， 得到每个所述肿瘤组 织切片中各个肿瘤微环境的图像特 征信息。 8.一种肿瘤免疫 治疗预后评估 装置， 其特 征在于， 包括： 评分模块， 用于将待测患 者的每个肿瘤组织切片中各个肿瘤微环境的图像特征信 息输 入到免疫细胞评分模型， 获得所述免疫细胞评 分模型输出的所述待测 患者的各类细胞亚型 免疫细胞的评分； 评估模块， 用于将所述待测患者的各类细胞亚型免疫细胞的评分输入到预设回归模 型， 获取所述预设回归 模型输出的所述待测患者的肿瘤免疫 治疗预后评估结果； 所述免疫细胞评分模型的网络参数是基于肿瘤免疫治疗疗效预测模型的网络参数确 定的， 所述肿瘤免疫治疗疗效预测模型是基于肿瘤组织切片中肿瘤微环境的图像特征信息 样本及其对应的样本免疫 治疗疗效标签训练得到的。 9.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求1至7任一项所 述肿瘤免疫 治疗预后评估方法。 10.一种非暂态计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算 机程序被处 理器执行时实现如权利要求1至7任一项所述肿瘤免疫 治疗预后评估方法。权　利　要　求　书 2/2 页 3 CN 115294129 A 3