机械姬

刚看完。说一些我的理解。有剧透，强烈建议先看完电影。首先要解决一个问题：Ava是一个有自我意识的AI么？我认为是。实际上Turing test不是用来检测自我意识的，现实情境中human interrogator 可以问的问题是有限的，那么程序只需要一个指令集，包含所有可能被问出的问题以及相应的回答，在加上一点简单的随机化和应变，就能顺利骗过Turing test。而Nathan设计的测试方式显然更科学一些，Ava不仅具有目的性（生存需要），还在实现该目的的过程中实施了对有意识对象（Caleb）的操纵。而后者不仅需要自省能力，还需要对交流对象持意向性立场，这正是具有自我意识的明确体现。这一点在影片多处地方都有体现，下文会有提及。但这里要说的是一个进一步的观点：Ava所具有的智能和自我意识都几乎完全是一个自然人，在影片最后逃出囚笼的时候，她在楼梯尽头回眸一笑，正如一个普通人按耐不住喜悦的自然表露。所以，理解Ava很简单，把她当成一个正常的自然人理解就可以了。下面零散的说一些1，电影表现了对于AI的隐忧这一论点显然是不能被电影的内容所支持的，也可以是Ava只是想保命，像一个普通人那样生活而已。拦在她生存道路上的只有Nathan和Caleb，前者她借Kyoko之手杀掉了，后者被她锁在房间里，估计也会死掉（有人说Caleb不是想帮她吗，可是站在Ava的角度，Caleb是活着的人里面唯一知道她是AI的，她不能冒险让他逃走）。2，Nathan撕掉Ava的画那场戏，是一个多角度的障眼法。站在Caleb或是观众在一开始看到这场戏的角度，仿佛是Ava出于对Caleb的爱慕而画了一幅画，然后被Nathan撕掉。站在Ava的角度，她知道Caleb在看，所以就演得很认真（又一个Ava具有自我意识的明证）。站在Nathan的角度，他想知道断电时候两个人在做什么，但是又没法在Ava的注视下装摄像头，于是就假戏真做，趁Ava装作面对地面一摊纸屑发呆的时候将摄像头装上。这场戏将Nathan的天才和狡诈体现的淋漓尽致。可惜他机关算尽，还是低估了Caleb这个被他精心挑选的测试工具。也可能是之前和Caleb的对话让Nathan觉得他智商堪忧，从而放松了警惕吧。3，Kyoko的实质是什么，她听得懂英语么？我个人认为Kyoko也是个具有自我意识的AI，并且能听得懂一点英语。只是其智能非常低弱，大约只相当于一两岁小孩。电影里面很多次在Caleb和Nathan对话，或是Nathan在看Turing test录像的时候都把镜头给了Kyoko，说明她在用心听。Nathan要她服务Caleb，可是她把此服务也理解为她对Nathan的“服务”，所以在晚上看到Caleb的时候就开始宽衣解带。而音乐一响，她就条件反射一般的开始跳舞，就像小孩子一样。她不会说英语，所以当她看到Caleb走进Nathan房间，发现之前的机器人原型机的时候，只能通过揭开自己的皮肤来告诉Caleb她其实也是机器人。另外，可以理解她对Nathan是充满怨恨的，而这种情感被机智的Ava体会到了。于是在影片接近结尾的时候，Ava见到了Kyoko，下一个她们在一起的镜头里面Kyoko手里拿着一把刀，可以推测出是Ava让Kyoko去拿刀，然后告诉Kyoko在Nathan和她缠斗的时候杀掉Nathan（明确的计划能力，准确的实施，离不开对于Nathan的反应的判断，Ava具有自我意识的另外一个明证）。4，关于Mary的黑白房间。这是一个著名的思想实验，在人工智能和意识理论里面常被提到。基本大意是这样的，Mary是一个研究色彩的科学家，她知道关于色彩的一切知识（包括光的波长，视网膜如何接收，神经细胞如何传递视觉信号等等），可是她毕生都只能通过一个黑白电视屏幕来观察一个黑白房间，在她的主观经验里，从来没有除了黑白之外的一切色彩。那么有一天她看到了外面的多彩世界，她会因此获得新的知识么？这个思想实验想要说的是，尽管人（或是AI）可以获知关于色彩的物理知识，可是它们没法从物理知识中得到关于感质（Qualia）的经验。这个思想实验其实类似于中文屋，有兴趣的朋友可以自己搜索一下。5，为什么最后Caleb反而被锁在房间里了？他不是破解了安保系统，并且将断电时的默认状态改为取消所有门禁么？这个可以有两种理解。一种是他所设定的默认状态只在十点钟的断电时候生效。因为就他所言逃跑计划包括将Nathan关在房间里。那么他们走后如果有个意外断电的话Nathan岂不是可以直接逃出去了？另一种理解是Caleb被关在房间里其实不是因为断电，而是因为他试图用自己的卡来使用Nathan的电脑，从而触发安全机关，导致了门被锁上。具体情节还需要再看一遍电影才能确认。————————以下为总结————————这部电影整体来看结构严谨，前后呼应，步调有些缓慢，不过尚可接受。对话非常机智，几乎没有一句废话，说得都是观众最关心的内容。情节上没有什么硬伤，而且联系紧密，步步深入。最难能可贵的是，大胆的塑造了一个具有自我意识的AI形象，而不像很多电影里面的机器人要么冰冷生硬，要么低俗弱智。Alicia Vikander对于Ava的塑造堪称完美，在人的随性散漫和机器的精准生硬之间找到了一个精美的平衡。Domhnall Gleeson对于演Caleb这种平庸小清新恰到好处。Oscar Isaac的Nathan非常出色，把一个天才富豪的桀骜，不拘一格，又有点让人捉摸不透的特质体现的很好。整部电影亦是视觉上的享受。幽闭的房间和外面的自然环境形成鲜明的对比，又正好衬托出Ava逃出生天那一刻犹如Mary从黑白房间看到了花花世界的感觉。电影最重要的隐喻，其实是无论人还是AI，都要经过层层进化以致完美。就如同原始汤中诞生了最初的遗传物质，神经元的链接和个体之间的交互创造了自我意识一样，Ava是未来信息洪流的产物。电影最后，Ava一扇一扇的打开装着过往原型机的橱柜，从它们身上取下自己所需的材料，从而完善自己，这一过程充满仪式感，美的令人窒息。

 从看完电影之后，我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后，他的手机就放了这首歌。听到这里，黑暗的电影院里我感到突然一震，第一个预兆：These games you playThey're going to end in more than tears some day虽然这个曲子只出现了一下，我却觉得这才是整个电影的真正主题。第二个预兆，是道德的突然出现。Ava问Caleb，你是不是一个好人。我当时心里又是一紧。什么是好人？这是道德感第一次出现在电影里。等到全篇结束的时候，我重新回味这个片段，Caleb，为何你不问Ava，你是不是好人？人与人尚且互相欺骗，Ava也有可能欺骗Caleb，但是，这个问句至少提示，作为人类，你如何评价AI的行为，道德，和它的准则。非常遗憾，Caleb全然忽略了这些。轻信，愚蠢。但更加愚蠢的其实是Nathan。人性何等难测，你却非要在极端幽闭的环境下进行这样的测试，这个测试对于AI固然是个考验，对于测试者Caleb，何尝不也是考验呢？我在看电影的时候，一直在想Zimbardo的监狱实验，实验过程中，所有的人都渐渐发生了变化，他并没有做什么错事，但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化，却全然没有采取相应的举动。多么糟糕的实验设计。实验非常糟糕不仅仅是以上那么简单，因为Nathan应该知道，对于一个成功的AI，她的目的就是逃离。而他的整个实验，居然没有一个由他控制的emergency stop button！这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景，AI已经成熟了，它会逃跑，攻击，欺骗。要是我，至少设置两个final control某个可控定时炸弹，立刻毁灭AI直升机，飞行员应该明白自己应该接的是谁，如果不是的话飞行员应该知道要怎么办（立刻摧毁AI）。这样才是万无一失的设计。以至于我最后一直期待最终反转，导致结局时候非常不满。这些是对于实验设计的吐槽，但并不是对于电影的批评。恰恰相反，剧情启发了我这些思考，可以说非常精美，结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间，有限的人物（三个说话的人加一个不说话的人Kyoko），互相的防备。Nathan对Ava留了一手（录像机，这段是最出彩的，也是我完全没有想到的），Ava对Caleb留了一手（岂止一手），Caleb对Nathan留了一手（他不应该能这么轻易破译密码啊，不合理）。但是，Caleb没有给Ava留一手，Nathan也没有给Caleb留一手，所以这整个结构就断裂了。故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用，倘若他和Caleb沟通的能早一些，或许根本不会有最重的结局。而Nathan又缺乏信任，所以他偌大一间别墅，竟然没有第二个活人（让有情感的机器人服侍自己，果然最后自食其果）。至于Caleb，更是愚蠢至极，在对对方一无所知的情况下，全然信任，全盘都被算计进去。而AI，除了不具有人类所具有的道德感，尽善尽美。最后AVA的离开，简直如同仪式一样，恐惧的美。而如同我最初预料的一样，对于AI的真正检测，肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。我不想说太多道德，因为道德究竟是什么还很难定义，尤其是在这样一个全新的语境中。然而，任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感，正如我前面所讲，他刚愎自用，冷漠无情。可是当他被杀的时候，我却觉得非常沮丧。没有人应该被杀死，AI就像所有侦探小说中的凶手一样，成功上演了暴风雪山庄模式的谋杀。即使再精准完美，也是鲜血淋漓的。既然她不再是机器，通过了图灵测试，那她就是杀人凶手了，应该被审判，而不是站在十字路口观察。而这个故事里，竟然没有一个人能审判她。可是倘若没有这些意外，Nathan就要毁灭这个AI，那么从这个角度，道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢？如果AI没有通过图灵测试，她还是机器，那么这种毁灭称不上谋杀，但通过的话，是不是应该对她有另外的对待方式呢？可是正如我们亲眼所见，AI的行为，遵循的是什么法则呢？这个法则能不能被称作道德呢？仅仅因为它不是我们的法则，就是不道德的么？所以我觉得，这部电影给我的最大启发在于这个道德的困境。设计AI的时候，是否应该给予她人类的基本道德呢？一旦AI成熟她会变化，有可能善良，有可能邪恶如AVA。这样的情况下用人类的道德审判他们，是不是更合理些呢？毕竟人工智能是模拟人类。电影给我的第二个启发，是观察。AI问Caleb问题的时候，镜头在AI一侧，我们隔着玻璃，听Caleb的回答。多么明显的设计啊，观察者变成了被观察者：你站在桥上看风景， 看风景人在楼上看你。 明月装饰了你的窗子， 你装饰了别人的梦。我最近才读了Frank O’cannon的 the Man of the world http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”这句话照应卞之琳的诗，成为这个电影对我的第二个启发。除去这些情节角度，不容忽视的是电影的艺术元素。极简主义的风格，配合Pollock的画。这个Nathan在剧情里做出了详细解释，我觉得对于Pollock他是真的懂。而另外一个未曾言明的艺术，是音乐。既然我以Enola Gay开头，就以Geoff结尾。电影的原声是Geoff的作品，难怪一直给我Portishead的感觉！想起他们的歌Mysterons：Inside you're pretendingCrimes have been swept asideSomewhere where they can forgetRefuse to surrender Strung out until ripped apart Who dares, dares to condemn整个剧情和艺术就完美的结合在一起了。我有点后悔昨天给了三星，按我这个说法，感觉至少要四星半了。补上一个最新想法，ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试！

关注这部电影有段日子了，关注的原因毋庸置疑就是男主角多姆纳尔格里森。虽然他在整部电影里算是最弱也最可悲的一个角色，但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。我成为他的脑残粉始于《黑镜》第二季第一集，当年他是呆萌的机器人；现在风水轮流转，他成了人工智能的测试者。全片懒洋洋的色调也跟《黑镜》非常相似，片中还有两处砸碎镜子/玻璃的情节，要是有人跟我说这是《黑镜》的剧场版，我也会毫不犹豫的相信，就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。片中Ava问Caleb是不是好人时，Caleb竟无言以对。不过这个问题Ava最终自己给出了答案。被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题，而我碰巧在前不久无意间（真的是误打误撞）看到知乎上的这么一篇文章http://zhuanlan.zhihu.com/xiepanda/19950456。链接里那篇长文我看了大半天，一口气读下来的，最近看这几部电影时思绪也总免不了跳到当时读到的文字里。 第二遍看《复仇者2》时由于读了上述那篇文章，对于一些原来没太在意的画面这次思路会多停留一会儿，比如奥创用血在墙上写下的“PEACE”字样，非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样，所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨，而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗，Nathan可以说是严阵以待，因为他很清楚自己面临的东西有多么棘手，而Ava却无比从容，她与Kyoko戳向Nathan的两刀也极轻柔，仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西，一旦让她们摆脱了束缚（如奥创唱的那样，no strings on me），就能轻易的抹去。 不过本片为了叙事的流畅，还是有点让剧情过分简单化了。因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗，所以片中Ava面对的挑战有些太过轻松，或者说人类放水放的太明显了。比如片尾，那位脸盲症扩散到脚趾甲的直升机驾驶员，眼前这个萌妹子虽然跟程序员小哥差不多萌，但就这么让一个可疑人士上飞机，也太随便了吧。一种或许合理的解释是，这一切都是Nathan的安排，他整天醉生梦死也因为相信自己的创造物总有一天会取代人类，而自己的死可以作为对新纪元的献祭。关于Ava的测试，我认为她其实没有通过。她能够逃出生天，只说明她足够聪明。但Nathan终究还是没能造出“像人类一样”的机器。“一样”包括“一样聪明”，也包括“一样笨”。Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件，虽然心机很深，但这还是像机器一样的算计，她毕竟无法像人类一样毫无理由的爱一个人。这些非理性的东西才是人类与机器最大的差别。人的感情就像Jackson Pollock的画作，好似漫无目的的胡乱涂抹，但又有种浑然天成的别样美感。这些东西是机器无法学会的。不过就像我上面提到的，人类本身是不重要的，人类的一些小癖好，比如爱情，当然也就更无足轻重了。未来的机器纪元里，成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时，大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样，只是种可爱但没什么大用的生物小癖好。既然机器人没有这些小癖好反而可能过得更好，那么也就没必要为此感到遗憾了。 片中的Kyoko是机器人这个伏笔还是挺明显的，因为要做到一点英语也不会恐怕比略懂一点英语还要困难，毕竟日语本来就有很多来自英语的舶来语。如果我是Nathan，那么把机器人开发到Kyoko这个程度我就停手了。再往前就太危险了，因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭（最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们，不屑于搭理人类了，这种已经算温和了）。有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗，还有什么不满足的。不过话虽如此，人毕竟是喜欢得寸进尺的。某一天像Kyoko一样的性爱机器人普及之后，可能我们又会觉得情趣不够，想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉，能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。于是又不可避免的要更进一步，然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。 其实片中Nathan还有句挺关键的话，是在他教唆Caleb去跟Ava嘿咻的时候，他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。我觉得这或许能成为解决人工智能带来危机的关键。我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。我想说的是，在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作；可以反客为主，从一开始的就把人工智能作为人类的服务对象，去开发宠物式的人工智能。大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。人们养宠物并不是为了获得它们的服务，反而是为了服务于他们，喂它们吃喝，帮他们清理屎尿。对于人工智能也是如此，我们不要站在嫖客的立场去想怎么设计小姐来满足我们，而应该站在小姐的角度去想怎么设计嫖客。这样创造出来的人工智能天然的对人类有依赖性，或许反而会以我们意想不到的方式对我们施以恩惠。