外滩大会: AI立异赛TOP选手现场请战Deepfake
发布日期:2024-09-09 05:18    点击次数:156

外滩大会: AI立异赛TOP选手现场请战Deepfake

当科技博主毕导看到数字东谈主“毕导”口出狂言地抢我方的饭碗时,再一次直呼Amazing。

9月6日下昼,外滩大会AI立异赛•宇宙Deepfake攻防挑战赛的饰演赛拉开帷幕,用AI本事反抗Deepfake的TOP选手代表,在全网期待中亮相。室外40度的天气,室内400度的关心。来自上海的不雅众朱先生暗意,第一次肉眼看到生成式AI与deepfake检测本事的正面交锋,比赛太特道理了。

东谈主工PK东谈主工智能,哪家强?

在毛糙的Top选手授奖之后,选手之间的比拼再次打响。中国科学本事大学集结空间安全学院和蚂蚁数科天玑实验室连合出题,对选手模子进行终极试验。和线上赛一样,饰演赛现场分为图像赛谈和音视频赛谈,各赛谈TOP3选手两两PK。

清华大学究诘员兴军亮、蚂蚁数科CEO赵闻飙为宇宙Deepfake攻防挑战赛选手授奖

图像赛谈一开动,台下立即躁动起来。主捏东谈主毕导唤出了9张玛丽莲梦露的相片,其中2张是AIGC伪造的。肉眼真假难辨的9张图,选手却需要用我方的参赛模子给出每张图片的伪造概率值,并对概率值最高的2张相片与正确谜底进行比对。“原来以为只需要隔岸不雅火,不曾思到,我方也被卷进了斗争景况,试图用肉眼与AI一较凹凸”,来自一家科技公司的不雅众小张说。不雅众互动设施,台下不敬佩的视觉计算师以至请战AI,但愿展示我方的专科明锐度。

伪造概率值的问题,激发了毕导的追问,到底AI能否100%识别伪造。赛事出题东谈主之一、ZOLOZ本事总监姚伟斌先容谈,让AI百分百识别伪造图像是否伪造,是绝顶远程的。伪造本事也在束缚迭代更新,反抗需要束缚地擢升。这亦然咱们今天作念比赛的一大道理。在施行利用中,继续是将识别算法与其他检测技巧相接使用,详尽判断风险。

视频赛谈设施,毕导数字分身出演了多部经典电影名场地,选手一样要通过AI模子来分裂真伪。现场选手比分上,在一些难度一般的赛题上,饰演赛的收尾比分接近,伪造识别率简直齐在80%以上,关联词在一些高难度赛题上,模子收尾相反悬殊。

毕导向新加坡科技究诘局天異教训发出灵魂拷问,为什么肉眼认为一眼假的画面,AI却不成富有答对?而肉眼难以分裂的画面,AI反而1秒识别?对此,周天異认为东谈主类在判断图像是否伪造会依赖直观和逻辑,比如毕导的东谈主脸换到了哈利波特身上,东谈主类一眼便知,AI却不了解背后的故事。而东谈主类会下意志地偷懒,AI是最尽责的用具东谈主,AI不受热情干与,他会一点不苟、勤勤恳恳地完成东谈主类的请示。是以,AI在使命效果和踏实性上,齐是大大高于东谈主类的。

近百名选手参与开源模子代码用功

近日,Deepfake恶性事件牵动东谈主心。8月30日,赛事组委会发起开源倡议:“复古并饱读吹优秀参与者开源比赛模子,裁汰本事门槛、加强本事疏浚,进而匡助更多东谈主检测伪造内容,助力AI向善。参赛者自主开源后,大赛组委会将在官方Github主页上汇总整个开源存储库。”倡议如故发出,就获得中国科学院自动化究诘所VisionRush队列和澳门大学JTGroup的积极相应。开源不单是是免费共享,还意味着在本事社区开展代码用功,任何东谈主齐不错参与完善开源模子。姚伟斌暗意,限制现在,已有近百名选手及场合队列暗意开心参与代码用功,但愿通过本事技巧,为每一个可能受到伤害的东谈主提供保护。参与选手还在束缚增多。

[宇宙Deepfake攻防挑战赛“DeepFakeDefenders”代码用功活动]

研发检测算法,只是阻遏Deepfake本事浪费的边幅之一。姚伟斌坦言,这种边幅是相对滞后的。若是要从根源上耀眼讹诈活动,姚伟斌认为应在顺序和立法角度,条件给AIGC内容配置通用象征,比如每一张AIGC生成的视频/图片齐在文献信息里带一个签名或水印,这么平台解决更有依据,也能让AIGC不错更确凿。

会上,十余家机构连合发布国内首个面向金融场景的“AI换脸”检测顺序。该顺序的发布为金融场景下的短处数字东谈主脸安全检测和评估提供了依据,也填补了这一限度的空缺。这场Deepfake攻防挑战赛,恰是利用了此顺序的框架和认识,进行赛题的制定和谜底的评价。

[国内首个金融限度“AI换脸”检测顺序崇敬发布]

宇宙Deepfake攻防挑战赛针对“AI换脸”的讹诈风险进行攻防实战演练,并诞生100万元东谈主民币的奖金池,饱读吹推进AI向善的本事东谈主才。大赛眩惑了宇宙2200多名选手,1500多支队列报名,遮掩中国、好意思国、印度、澳大利亚、日本、印尼、马来、新加坡、香港、越南等26个国度和地区。

据了解,外滩大会AI立异赛包括“AFAC2024金融智能立异大赛”和“宇宙Deepfake攻防挑战赛”两大子赛事。全面展示了东谈主工智能在多个限度的最新利用与前沿探索,也彰显出了科技立异的无穷活力。同期,Inclusion外滩大会第二届AI立异赛•"宇宙AI攻防挑战赛”也崇敬启动。赛事聚焦AI大模子产业扩充,设有攻防双向赛谈。





Powered by 山东赏章附网络科技 @2013-2022 RSS地图 HTML地图

Copyright 365站群 © 2013-2022 本站首页 版权所有