澎湃热榜2024年11月13日发布:拜登来电莫迪跳舞？别被骗！AI造假打开潘多拉魔盒？何老师是什么时候开始不叫娜娜改叫谢娜的？

“真是一派胡言！重要的是，你要把选票留到11月的选举中。本周的投票只会让共和党人再次选举唐纳德·特朗普……”近期，在美国新罕布什尔州举行初选前，很多美国人接到了“美国总统拜登”的电话留言，而这通电话被认为是人工智能(AI)生成的“虚假电话”。

随着生成式人工智能(GAI)时代的到来，“眼见为实”“有图有真相”逐渐被颠覆。2024年开年，美国OpenAI公司发布了首个文生视频模型“Sora”，在振奋科技圈的同时，也让人们对AI生成的假视频和假图片泛滥的担忧与日俱增。大量“深度伪造”视频的出现，可能对选举等政治和安全领域产生负面影响，世界各国仍需合作来应对这一挑战。

图片来源：OpenAI网站截图

“AI换脸”真假难辨

多国政要“躺枪”

近年来，AI技术发展迅猛，文生图、文生视频的工具如Pika、Sora等层出不穷。而“AI换脸”也通过深度合成算法处理，为“二度创作”提供了支持。深度伪造技术似乎愈发出格，甚至多国政要也纷纷“躺枪”……

2023年3月18日，美国前总统特朗普曾在社交媒体上发文称，他预计自己将于2023年3月21日被捕。此消息一出，“特朗普被捕”的“照片”在一些社交平台迅速流传开来。这些“照片”包括“特朗普被警察围捕”、“特朗普穿囚服”，甚至还有“特朗普越狱”，精彩程度堪比好莱坞大片。

日本首相岸田文雄也曾因“AI换脸”技术“躺枪”。2023年11月，日本一名25岁男子借助AI技术，制作了“岸田文雄开发布会”的假视频。

视频中的“岸田”身着西装，神态紧张，语气郑重。该视频还带有日本电视台的台标和“突发新闻”字样。这条假视频上线仅一天，播放量就超过230万次。

“莫迪跳舞”的假视频截图 图片来源：社交平台X截图

印度总理莫迪也曾陷“深度伪造”风波。2023年11月，一段“莫迪跳舞”的视频在网上疯传。视频中，“莫迪”和其他舞者身穿传统服饰，围成一个圈，欢快地跳着印度古吉拉特邦的一种节日舞蹈——加尔巴舞。

莫迪亲自辟谣，称视频是AI合成的。他警告称，“人们会误以为自己看见的是真实的，这会引发巨大危机……在人工智能时代，负责任地使用技术很重要。”

新加坡总理李显龙2023年底也在社交媒体发文称，近日出现了一些利用他的音频制作的深度伪造视频，宣传加密货币骗局。流传的伪造视频中，李显龙提到获新加坡政府批准的投资机会，并推广了一个所谓由特斯拉首席执行官马斯克设计的“革命性投资平台”。李显龙呼吁公众提高警惕，切勿上当受骗。

政治“深伪”时刻到来？

AI安全成焦点

除了满足网络受众的猎奇心理和社交需求，AI技术近来逐渐在选举中崭露头角，它与政治的融合既带来进步，也带来“陷阱”。

瓦拉斯谴责网上发布的有关他的虚假视频。图片来源：美国哥伦比亚广播公司(CBS)报道截图

2023年2月，美国芝加哥市长选举前夕，一段“温和派民主党候选人保罗·瓦拉斯猛烈抨击芝加哥”的视频在网络迅速流传。视频中，瓦拉斯称，由于缺乏法律和秩序，芝加哥已经变成一个“无法无天”的真空地带，而且“警察随随便便就可以射杀嫌疑人，人们却对这些情况视而不见”。

不过，这段视频被证明是AI合成。虽然社交平台最后删除了该视频，但其产生的负面影响仍无法消除，瓦拉斯也在市长选举中不敌对手布兰登•约翰逊。

《今日美国报》援引布鲁金斯学会技术创新中心高级研究员达雷尔·韦斯特的话称，“2024年的美国大选，将会出现人工智能(AI)生成的虚假信息‘海啸’。我们已看到这种情况，且情况将会变得更糟。”

美国政府监管组织“捍卫公众利益组织”负责人罗伯特•韦斯曼也称，政治“深度伪造”时刻已经到来，政策制定者必须尽快采取保护措施，否则将面临“选举混乱”。

关于AI可能被用来误导选民和恶意歪曲选举的担忧，在2024年这个“全球超级大选年”急剧上升。

2月16日，OpenAI、亚马逊、谷歌、微软、TikTok、脸书的母公司“元”、社交平台X(原推特)等全球多家领先的科技企业，在第60届慕尼黑安全会议(慕安会)上签署协议，承诺在2024年这个多国举行重要选举的年份，通过技术部署，减少利用人工智能生成和分发欺骗性内容干扰选举的风险。

“政府需要在人工智能领域扮演重要角色，确保设置安全屏障和护栏，让产业内人士知道，哪些能做，哪些不能做。”美国消费者技术协会首席执行官夏皮罗如是说道。(陈彩霞)

来源：中国新闻网