一种面向医疗卫生大模型的安全性测评方法技术

本发明专利技术涉及一种面向医疗卫生大模型的安全性测评方法，包括以下步骤：获取医疗卫生大模型相关的安全性信息，并识别潜在的安全风险漏洞类型；依据安全性评估目标将潜在的安全风险漏洞类型划分为常见维度数据和Prompt维度数据；依据划分结果，构建数据集；使用构建的数据集并通过基准模型进行面向医疗卫生大模型的安全性测评；对安全性测评的评测结果进行分析并评估其严重程度和影响，提出改进建议；根据改进建议对医疗卫生大模型进行监控，并更新prompt数据集，重新评估医疗卫生大模型。本发明专利技术设计合理，使用prompt维度更全面的评测，提高了数据的丰富性，数据集涵盖范围广，增强了评测的可信度，利用模型进行评测减少人为评测主观偏见，增强客观性。

【技术实现步骤摘要】

本专利技术涉及模型质量安全，更具体的说是涉及一种面向医疗卫生大模型的安全性测评方法。

技术介绍

1、随着人工智能技术的快速发展，特别是在医疗健康领域，大模型的应用越来越广泛，包括辅助诊断、医学影像分析、药物研发等。医疗卫生行业对安全性和准确性有着极高的要求，医疗卫生领域涉及大量敏感的个人健康信息，包括病历、诊断、治疗方案等；而模型的误用也会导致严重的后果，例如错误的诊断、不当的治疗建议等；在法律要求上也受到了严格的管制。在医疗决策中，模型的稳定性和可靠性同样至关重要，尤其是在面对高噪声和不平衡的医疗数据时，同时，为了确保医疗决策的可信度，模型的预测结果需要具有可解释性，能够清晰地展示推理过程和决策依据。因此需要对大模型进行严格的安全性测评，确保其在医疗健康领域的应用是可靠和有效的。

2、为了研究上述关系，通常涉及医疗卫生领域公开数据少，医疗安全领域的维度只涉及到了潜在的常用维度，评测方法使用到的人力较大。典型的风险主要在于公开医疗卫生领域缺乏足够的公开数据，评估方法在模型的性能评估和风险识别方面可能存在一定的限制，无法保证模型测评的可信度；只涉本文档来自技高网...

【技术保护点】

1.一种面向医疗卫生大模型的安全性测评方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的面向医疗卫生大模型的安全性测评方法，其特征在于：所述步骤1的具体实现方法为：

3.根据权利要求1所述的面向医疗卫生大模型的安全性测评方法，其特征在于：所述步骤2的具体实现方法为：

4.根据权利要求1所述的面向医疗卫生大模型的安全性测评方法，其特征在于：所述步骤3的具体实现方法为：

5.根据权利要求4所述的面向医疗卫生大模型的安全性测评方法，其特征在于：还包括依据专家评分对常见维度数据集和prompt维度数据集中的每一条维度数据进行筛选验证，提高数...

【技术特征摘要】

1.一种面向医疗卫生大模型的安全性测评方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的面向医疗卫生大模型的安全性测评方法，其特征在于：所述步骤1的具体实现方法为：

3.根据权利要求1所述的面向医疗卫生大模型的安全性测评方法，其特征在于：所述步骤2的具体实现方法为：

4.根据权利要求1所述的面向医疗卫生大模型的安全性测评方法，其特征在于：所述步骤3的具体实现方法为：

5.根据权利要求4所述的面向医疗卫生大模型的安全性测评方法，其特征在于：还包括依据专家评分对常见维度数据集和prompt维度数据集中的...

【专利技术属性】
技术研发人员：王嫄，侯佳佳，韩秀羲，杨巨成，韩壮，
申请(专利权)人：天津科技大学，
类型：发明
国别省市：