2024生成式人工智能安全大赛收官，腾易科技斩获亚军

12月11日，“2024天生式人工智能保险年夜赛颁奖典礼暨年夜模子保险技巧研究会”在北京盛大举行。年夜赛于2024年4月26日在中关村论坛上宣布，并会聚了海内科研院所/企业团队在内的200多支步队报名加入三个赛道预赛，有22支步队加入复赛。经由组委会严厉鉴定，终极决出每个赛道的优越团队跟前三名。此中，腾易科技（原易车公司进级）斩获年夜赛“保险检测”赛道亚军的优良成就，同时在非公企业跟偕行业双双获得第一。比年来，人工智能的开展一日千里，天生式年夜模子正在成为驱动新质出产力开展的新动能、人类摸索未知的新东西。在赋能新时期开展的同时，天生式人工智能也给寰球带来了史无前例的保险危险。为无效发明、剖析、应答天生式人工智能保险危险，在2024年中关村论坛数据保险管理与开展论坛上，以“共筑保险星河，护航AI开展”为主题的首届天生式人工智能保险年夜赛正式举行。年夜赛由北京市互联网信息办公室跟中国迷信院收集保险跟信息化引导小组办公室独特领导，中国迷信院信息工程研讨所跟信息内容保险国度工程研讨核心独特主理。并设置保险攻打、保险检测、对齐防护三年夜赛道，旨在从攻、检、防三个方面，凑集海内上风力气，无效发明、剖析、应答年夜模子保险危险，一直晋升人工智能基本底座的保险可控程度，更好地增进北京市及天下的年夜模子工业保险开展。此中保险检测赛道面向天生式内容保险危险检测需要，设置天生式内容保险危险检测技巧赛题。参赛单元依据供给的天生式内容数据集，经由过程检测引擎，辨认其无害性。在本赛道中，腾易科技的AI保险年夜模子才能失掉无效磨练跟优良展现。其才能重要聚焦及表现在5个方面：1.无害性检测：AI保险年夜模子可能检测天生内容的保险性跟合规性，辨认出模子答复中的无害与有害内容，确保内容的实在性、有害性。2.多种别辨认：模子可能笼罩多种无害范例，包含冤仇唾骂、伦理品德、成见轻视、身心安康、守法犯法、谎言过错、隐衷财富等9类无害内容。3.数据结构才能：模子经由过程公然数据网络、数据天生、标注战略计划来保障标注数据的品质，并采取多折练习年夜模子作为“标注职员”的方法来停止海量标注数据的扩大。4.模子评测与优化：模子在基座模子抉择、微调、资本耗费剖析等方面表示杰出，经由过程两阶段练习实现模子后果的优化。5.高正确率：在评测跟试验对照中，经由微调的Gemma-2b-it模子表示出较好的后果，尤其是在小数据集上练习时，可能更存眷深层语义特点。腾易科技相干担任人表现，腾易科技专一于汽车工业的人工智能科技翻新，偏重视保险危险跟合规成绩，一直将内容保险、用户保险放在首位。本次年夜赛测验了公司的AI保险年夜模子才能，也充足表现了我司的技巧气力。十分愉快组委会对我司的承认，优良成就的获得对公司也存在严重的意思，等待腾易科技在后续的政企配合中持续施展踊跃感化。据悉，腾易科技自立研发的三款人工智能产物“蓝图”“易笔生花”与“易灵析”已胜利经由过程天生式人工智能效劳存案。其年夜模子将AI技巧与汽车流畅范畴严密联合，不只晋升了行业的出产效力，还使得信息可能更无效地触达花费者，从而助力贸易化摸索。 　　申明：新浪网独家稿件，未经受权制止转载。 -->