生成式AI质检中心在沪挂牌

本报讯（记者 马亚宁）“无中生有”，堪称生成式人工智能（AI）强大学习能力的本质特点。在从无到有的过程中，人工智能会不会犯错？近日，由上海计算机软件技术开发中心筹建的上海市生成式人工智能质量检验检测中心挂牌。作为上海首家批筹的人工智能领域质检中心，其将帮助生成式人工智能在深度学习、智能生成过程中及时修偏纠错，助生成式AI产品名副其实，少走弯路。

ChatGPT展现了强大的智能潜力，让生成式AI火遍全球。今年5月发布的《中国人工智能大模型地图研究报告》显示，我国已有79个10亿级以上参数规模的大模型。不过，在一些大语言模型应用初期，部分恶意用户可能会通过角色扮演、分步提问等方式，规避大语言模型安全规则，诱导其给出违反法律法规的回答，或生成违背伦理道德的内容。如何客观地评价大模型的性能，同时让刚萌芽且学习能力飞快的大模型应用合规，成为其赋能各行各业的重要一环。

生成式人工智能质量检验检测中心，正是要检测生成式AI产品中潜在的类似漏洞，提升人工智能系统的安全性，减少各类风险。“我们会对送检的人工智能软件各项指标进行‘体检’，并出具详细的‘体检报告’。”上海科学院直属上海计算机软件技术开发中心主任蔡立志说，上海市生成式人工智能质检中心重点聚焦生成式人工智能、工业智能质检、智慧医疗、人脸识别、自动驾驶领域的人工智能检验检测。