AI换脸热的隐忧,在这部剧成真

ZAO中的“换脸术”引发的震惊与质疑不过才过去一个多月,BBC的最新政治惊悚剧《真相捕捉》,就将AI换脸热的潜在焦虑植入现实,搬上了荧屏。

一键生成,天衣无缝。

只要一张照片,就可以把你的脸换在任何监控录像上,成为呈堂证供、定罪关键。

ZAO中的“换脸术”引发的震惊与质疑不过才过去一个多月,BBC的最新政治惊悚剧《真相捕捉》,就将AI换脸热的潜在焦虑植入现实,搬上了荧屏。

没错,这部剧的假设比我们想像的更为惊悚,如果我们的脸被拿去杀人,该怎么办?

1

真相,存疑

想像一下,这边你在和暧昧对象拥吻送她上巴士,那边监控拍到的却是施暴场面,涉嫌绑架。被拍到根本没干过的事儿,不光莫名其妙还有口难辩,这就是主人公肖恩的遭遇。

同一时间,不同的人物行为,监控和当事人的回忆之间必然有一方在撒谎。

深情一吻后,一辆飞驰而过的公交,模糊了记忆与真实的边界。

2

肖恩在看过监控视频中自己殴打汉娜的画面后,甚至脑海中开始闪现相关画面,他不禁产生质疑,到底是自己忘记了曾经做过的事还是监控在撒谎。

3

肖恩的狂躁反抗更加深了人们对其创伤后压力心理障碍症的看法。毕竟作为一名退伍士兵,他才刚刚摆脱谋杀战俘的指控。

为国英勇奋斗的战士在彷徨,谁还相信我,我又该相信谁?

4

在这个更加重视证据,更加讲求公平的社会中,为什么我们的安全感变得更低了?

我们该相信什么,什么又是事实?

“眼见为实”被啪啪打脸

在肖恩是否犯有谋杀罪这件事上,人们相信眼见为实,但有意思的是,肖恩能够摆脱上一案件的指控,恰恰是因为“眼见并非事实”的悖论。

这位阿富汗战场上的士兵,枪杀了一名士兵,正好被同伴的摄像机记录下来。视频中他大喊Get Fucking Back,控方认为肖恩是在有意掩饰自己的罪行。

5

肖恩却一再坚持自己这句话是对战俘说的,而后为了防止对方攻击,他才开枪射击。

这个辩论过程与开头的那一次相似,在铁证如山的视频证据面前,人的辩白根本站不住脚。

但因法庭上有专家作证,摄像机每拍摄一个小时,就会出现长达五六秒的延时。视频的音画不对位与肖恩的证词吻合,他凭借这一点洗脱了罪名。这段戏铺垫了这部剧“技术质疑”的基调。

6

不过,比起法庭的“相信”无罪,更难改变的是人心的相信。

追查本案的警探瑞秋,正是此间的顽固派,她靠着一次视频监控举证而平步青云,眼见为实是她毫不怀疑的价值根基。

但最为讽刺的是,她在监控中心指挥手下追踪肖恩时,监控中,肖恩被带进了伊顿广场48号。

7

但她的手下在现场却什么都没有看到。

此时,瑞秋才意识到实时监控在说谎,这也成为后续剧情转折的关键——一步步发现被AI换脸术所蒙蔽的真相。

始于娱乐,却卒于隐患?

虚构世界中的想像并非耸人听闻,真实世界中对于AI换脸术的运用让人细思极恐。早在2017年一个名为deepfakes的用户在Reddit论坛中剖出的视频就曾引起轩然大波,他将情色片中的女主角换脸成为“神奇女侠”盖尔·加朵。

在此之前,公众对于AI换脸术还并不了解,2013年保罗·沃克意外去世,由他参演的电影《速度与激情7》采用替身加换脸完成拍摄,让这项技术还颇具情怀。

但当换脸术被运用于情色产业时,AI的一只脚已经开始迈向充满隐患和让人忧虑的道路。

与此同时,在娱乐之路上AI换脸术也越走越远,朱茵版黄蓉被换脸成杨幂,活灵活现不见破绽已被大众所接受,甚至有公司看到此间商机已经开始运作。据了解,在山影集团的支持下,一家名为山影世嘉的特效公司已于年初成立,这家公司主要运用AI换脸术制作影视后期,目前来看,这项技术对于影视行业来说,更多的是机遇。

9

在不久的将来,我们可能不用再扒某某明星是不是又去整形了,只要她拥有足够多角度的年轻时候的照片,AI换脸技术就能够通过深度学习建构出其年轻时的脸庞。观众广为吐槽的扮嫩装扮将不复存在,替身穿帮的镜头会越来越少,抠图特效多半也会江湖绝迹……

到那时还需要演员吗?似乎只要替身和明星就够了?如果荧屏上的幻像都可一键生造,究竟什么是现实?

不过,也许技术走在前面是件好事,至少它能倒逼人们去思考技术背后可能带来的隐忧。

10

好在《真相捕捉》中的肖恩还只是虚构的人物,看完惊悚剧的故事,我决定下楼溜达一圈儿以平复情绪,走进电梯,瞟一眼头顶的监控,我本能低下了头。

猜你喜欢