开局一张脸,人设全靠编!俄罗斯美女竟是AI换脸,百万粉丝被骗

一些事在科技界 2024-08-30 21:55:33

在科技飞速发展的当今时代,AI 技术如同一场汹涌的浪潮,席卷了我们生活的各个角落。

从社交平台上的美食分享到直播带货,每一个细节都似乎在诉说着真实与美好。

然而,在这些光鲜亮丽的背后,却隐藏着一个不为人知的秘密——批量生产的AI美女。

她们以一张脸、一套人设,迅速在网络上走红,带货、种草、收割流量,让人不禁要问:这到底是真还是假?

开局一张脸,人设全靠编

在社交平台上,娜塔莎,一个自称定居中国、热爱分享俄罗斯美食的31岁俄罗斯美女,以其流利的普通话和亲和的形象,吸引了二十万粉丝的关注。然而,这背后却是一个精心策划的骗局。

娜塔莎的脸,实际上是乌克兰视频博主Olga Loiek的,而后者在YouTube上的粉丝仅有一万多。

今年1月底,Olga Loiek才了解到平行宇宙中的娜塔莎,她对另一个“自己”很吃惊,很难描述正在发生的事情。“有人克隆了我”,她愤怒地表示。

通过AI技术,Olga的脸被复制到了无数个“娜塔莎”身上,她们在中国互联网上以不同的身份和故事,有的叫格蕾丝,有的叫安娜,她们的橱窗里都摆满了各种俄罗斯商品。

不仅仅是Olga,还有许多来自不同国家的网红,如瑞典的拉纳布莱克利,也成为了AI技术的受害者。

只要拥有一点素材,通过唾手可得的AI合成软件,各式各样充满异国风情的美女便能批量产生。这些AI美女不仅拥有精致的面容,还能根据需要变换不同的背景和场景,仿佛真人在世界各地生活。

尽管有些生成的视频画质模糊,人物滤镜很重,但很多网友依然信以为真。

在评论区里,粉丝们积极留言表达赞美之情。比如评论中,就有 “你很漂亮”“我很想见到你”“请回复我消息” 等。

AI技术批量生产

随着AI技术的发展,生成虚拟人物并不再是难事。

生成一个虚拟的AI美女并不难,AI技术已经使这一过程变得简单且高效。只需要一点点素材,十几秒就能生成一张非常自然的图片,几乎不需要任何专业技能,能批量生产,成本逼近为零。

随着AI美女在社交媒体上的走红,一条围绕AI定制服务的产业链也逐渐形成。一些商家和个人打着“AI俄罗斯美女”的旗号,以低至5、6元的价格推出数字人定制业务,包含形象生成、声音克隆和训练等。

更令人担忧的是,一些AI博主甚至盗用了普通人的生活照进行换脸操作。这些被盗用的照片往往被用于制作虚假的视频和图片,在社交媒体上广泛传播。这种行为不仅侵犯了他人的隐私权,还可能导致一系列不可预测的后果。

虚拟人物带货变现

AI虚拟人物的主要目的是带货。

以 “娜塔莎进口食品” 为例,视频中的娜塔莎会先强调中俄之间的友好关系,然后顺势附上俄罗斯糖果的链接。

AI 颜值博主 “陈也” 则通过分享护肤经验来推广葡萄籽。还有一些其他的 AI 账号,如 “温柔”“小姨妹” 等,近 30 天的累计预估带货金额在 5 万元以上。

此外,像谢霆锋的美食品牌使用 AI 虚拟的数字人直播,也取得了不错的成绩。

去年一位河南男子将自己包装成俄罗斯大兵 “保尔・柯察铁”,通过荒谬的言论吸引了几十万粉丝关注,并成功带货卖出 38 万元的奶粉。

还有一些难辨真假的 “数字洋人”,通过分享心灵鸡汤积累粉丝后开始带货保健品。这些案例都显示了 AI 带货可能存在的欺骗消费者的风险。

平台的应对之策

在深度合成技术的加持下,制作未经授权的真人数字复制品变得轻而易举,也更难被识别。

深度合成技术不仅在欺骗普通网民,还被用于色情传播和金融诈骗,用虚假视频进行经济诈骗的案例层出不穷。

不仅普通人可能成为受害者,一些明星也难逃其害。比如歌手泰勒・斯威夫特就因恋情被人用 AI 合成露骨照片在网络上广泛传播。此外,换脸诈骗案也层出不穷,给社会带来了极大的危害。

面对深度合成技术的挑战,各大社交平台纷纷采取行动。抖音发布公告打击利用 AIGC 技术创建虚拟人物仿冒真人的内容,小红书也清除了一批 AI 仿冒博主的账号,并推出 AIGC 社区主张,强调不能用 AI 技术虚构使用体验以商业变现。

结语

在这个充满虚假与欺骗的网络世界中,我们不禁要问:何时能回归真实?

AI技术的快速发展为我们带来了诸多便利和乐趣,但同时也带来了诸多挑战和风险。

作为普通网民,我们应该保持警惕和理性思考的能力;作为社交平台和内容创作者,我们应该坚守道德底线和法律法规的约束;作为整个社会,我们应该共同努力营造一个真实、健康、有序的网络环境。

只有这样,我们才能在这个信息爆炸的时代中找到属于自己的真实与美好。

0 阅读:0