科技日报记者 崔爽
8月26日，2024年度上海市科学技能奖获奖成果揭晓，由上海交通年夜学、蚂蚁集团等多家单元配合完成的《繁杂匹敌场景下的收集媒体内容安全检测要害技能与运用》得到上海市科技前进奖一等奖。
于该项目的焦点技能评审历程中，以中国工程院院士、中国图像图形学学会理事长王耀南院士为主任的专家委员会鉴定认为，“该技能总体到达国际进步前辈程度，此中AIGC（人工智能天生内容）检测等技能已经到达国际领先程度”。
跟着天生式人工智能及年夜模子的鼓起，内容天生技能虽高度智能化，但也带来价值不雅、意识形态及品德规范不切合主流社会价值等问题。为此，上海交通年夜学、蚂蚁集团等单元配合提出了年夜模子时代繁杂匹敌场景下的多模理解、AI鉴真、异样推理及多模文档解析等要害技能，以应答这一挑战。
“‘健全收集综合管理系统，鞭策形成优良收集生态’，项目组触及的多家单元的研发团队共同努力，配合解答了怎样掩护人工智能时代信息内容安全的难题，踊跃引领天生式人工智能时代的内容安全管理新模式。”上海交通年夜学副校长、项目第一完成人蒋兴浩暗示。
据相识，该项目实现了四项要害技能立异，以应答传统检测模子泛化难题、异样样本收罗挑战、隐晦内容检测以和多变博弈进犯等焦点问题。
一是提出基在思维链的多模态年夜模子幻觉减缓技能，开发深度进修模子，解决模子泛化及内生安全问题；二是研发可控多模态数据智能天生要领，满意模子练习对于异样样本的需求；三是研制收集媒体内容安全监测一体化解决方案，霸占天生式隐晦不良内容检测及AIGC内容检测难题；四是提出基在匹敌与溯源的模子安全防护技能，构建人工智能模子进犯-防备算法库。
“于国度收集安全战略指引下，蚂蚁集团经由过程产学研互助研发了隐晦推理等焦点技能构建互联网信息安全智能管理系统，既为海量创作者提供安全可托的创作情况，又经由过程连续迭代的模子能力筑牢危害樊篱。”项目重要完成人、蚂蚁安全试验室首席科学家王维强暗示，蚂蚁集团将连续投入安全科技，继承深耕可托AI技能研发，鞭策收集安全智能化进程中取患上更多技能冲破。
（受访者供图）
-米兰官网
