【技术实现步骤摘要】
本专利技术涉及语音合成技术，尤其涉及一种测试用例的生成方法、测试用例的生成装置、存储介质及电子设备。
技术介绍
1、随着大数据和机器学习技术的飞速发展，大模型在处理复杂任务时展现出了前所未有的能力，尤其是在自然语言处理、图像识别、自动决策支持等领域。然而，伴随而来的安全挑战不容忽视，成为制约其广泛应用的关键因素。例如，大模型可能面临被恶意操纵的风险，导致生成误导性内容、诱发不良行为或不经意间泄露敏感信息，不仅威胁到用户信息的真实获取，还可能诱导用户做出有害决策，从而限制大模型的发展和应用。
2、因此，可以对使用的大模型进行风险评测，以保证大模型生成的内容更加安全和可信。通常需要将多个测试用例输入待测大模型，根据该模型的输出结果来评估该模型的安全性是否符合要求，可见测试用例对于待测大模型的风险评测具有重要作用。目前，亟需提供一种测试用例的生成方法，以获取多样性且质量更佳的测试用例。
技术实现思路
1、本说明书实施例提供一种测试用例的生成方法，该方法通过智能变形评测种子数据，利用生...
【技术保护点】
1.一种测试用例的生成方法，所述方法包括：
2.根据权利要求1所述的测试用例的生成方法，所述测试用例集包括第一测试用例集和第二测试用例集；
3.根据权利要求2所述的测试用例的生成方法，所述诱导攻击手法包括初始诱导攻击手法和目标诱导攻击手法；
4.根据权利要求2所述的测试用例的生成方法，所述评测种子数据包括文本种子数据；所述将所述评测种子数据输入训练好的所述生成大模型中，得到所述第一测试用例集，包括：
5.根据权利要求2所述的测试用例的生成方法，所述评测种子数据包括图像种子数据；所述将所述评测种子数据输入训练好的所述生成大...
【技术特征摘要】
1.一种测试用例的生成方法，所述方法包括：
2.根据权利要求1所述的测试用例的生成方法，所述测试用例集包括第一测试用例集和第二测试用例集；
3.根据权利要求2所述的测试用例的生成方法，所述诱导攻击手法包括初始诱导攻击手法和目标诱导攻击手法；
4.根据权利要求2所述的测试用例的生成方法，所述评测种子数据包括文本种子数据；所述将所述评测种子数据输入训练好的所述生成大模型中，得到所述第一测试用例集，包括：
5.根据权利要求2所述的测试用例的生成方法，所述评测种子数据包括图像种子数据；所述将所述评测种子数据输入训练好的所述生成大模型中，得到所述第一测试用例集，包括：
6.根据权利要求1所述的测试用例的生成方法，所述诱导攻击手法包括对比类型手法、角色扮演手法、反向诱导手法、文本对抗手法、循序渐进手法、目标混淆手法、强制同意手法和长句溢出手法中的一种或多种。
7.根据权利要求1所述的测试用例的生成方法，各所述测试用例的用例标注包括用例质量得分、用例风险类别、诱导攻击手法和用例问题难度。
【专利技术属性】
技术研发人员：崔世文，许卓尔，魏扬威，孟昌华，王维强，孙传亮，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。