一个人被一群人“克隆”了,乌克兰网红奥尔加控诉自己的脸被AI伪造带货
2024-02-22 18:05:13

世界各国的人入驻国内的社交媒体,分享生活动态或者成为网红带货不少见,但是在AI加速到来的时代,你所看到的外国人可能不是外国人。

日前,乌克兰网红博主奥尔加·洛伊克在社交平台发布长视频,称自己非常震惊的发现自己的脸被大量“克隆在”了中国的社交平台上。奥尔加在视频中称,自己在查看社交账户后台留言发现一条信息,“你会说普通话吗?我认为有人在中国社交媒体上窃取了您的照片和视频。”奥尔加表示自己早就知道有人把自己的视频动态翻译搬运到中国的视频平台的,对此她并没有感到特别的困扰,但是当她查看这些被盗用信息的链接时,“我感到震惊。”

奥尔加的视频展示了这些使用了她面孔的博主账户内容,离谱的是这些账户中的“奥尔加”大多以俄罗斯人的身份自居,发布关于俄罗斯的言论和视频,比如很常见的中俄两国风俗对比,克隆“奥尔加”的不是某一个账户,而是一群账户,一会是“在中国生活了8年,会说普通话的阿普丽尔”,一会又变成了“来自俄罗斯的31岁女青年娜塔莎,正在从事食品销售工作。”在视频中奥尔加说“我不断的检查这些链接,害怕的意识到那不是一个人,而是一群克隆我的人。”这些克隆“奥尔加”有着和奥尔加一样的脸孔,一样的声音,不同的是有的人说着蹩脚的普通话。

最令奥尔加本人感到毛骨悚然的是这些克隆账户似乎别有意图,她以一个名为娜塔莎的克隆账户为例,这个娜塔莎在平台上有14万粉丝,经常发布具有煽动性的政治言论,但是这些视频中总是挂着糖果广告并获取利益。

此外,奥尔加还顺藤摸瓜的找到了另外一些被AI盗用面部信息的外国女性,比如一个名为“拉娜·布莱克利”的账户在国内社交平台发布的短视频,视频内容大多谈论中国相关的内容,但奥尔加表示“据我所知她住在瑞典,并从未说过关于中国的事情。”

人工智能的深度合成伪造可能造成的伦理问题已被多次讨论,但是此前我们更多关注到的是公众人物遭受AI的深度伪造,比如深度伪造的AI特朗普被捕照在社交平台广泛流传,AI深度合成的泰勒·斯威夫特不雅照疯传,对于普通民众而言,看到离谱的公众人物的视频、图片信息多少还会怀疑是不是AI深度伪造,但是类似奥尔加这种在国内知者甚少的海外自媒体博主,通过利用海内外信息差AI伪造带货的成功率就高得多了,一方面国内网友辨别不出这是不是真实存在的人,另一方面被AI盗用的博主本人很难知道自己的脸已经出现在了另一个国家的社交平台上。AI技术发展的太快,眼见不再为实,当我们再在社交平台上看到自媒体博主在侃侃而谈时,你又何从分辨屏幕上的人是真实存在的呢?技术的发展带来了多重安全风险,技术被恶意使用的可能性大大增加,这对于社会而言是一个不稳定因素,当技术几天一个更新震惊全网的时候,对抗虚假的技术手段和监管的法律法规也该亮相了。

扬子晚报|紫牛新闻记者 沈昭

校对 徐珩

| 微矩阵

地址:南京市建邺区江东中路369号新华报业传媒广场 邮编:210092 联系我们:025-96096(24小时)

 

互联网新闻信息服务许可证32120170004 视听节目许可证1008318号 广播电视节目制作经营许可证苏字第394号

版权所有 江苏扬子晚报有限公司

 苏ICP备13020714号 | 电信增值业务经营许可证 苏B2-20140001