1 ) 人工智能的可能未来
人工智能题材的科幻电影有很多,有以《黑客帝国》和《终结者》为代表的悲观末世的想象,也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的,中低成本的,在画风和情绪相对冷静的前提下,探讨人工智能这一命题的。换而言之,非常有《黑镜》的感觉。
一个和人工智能紧密关联的词是图灵测试,它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起,到各种机器,电脑,自动化设备,所有这一切的一个共同特征便是“自动”,要么直接放大人力,要么是通过预先设置的程序工作,要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中,人是无法通过和机器对话来测试对方是否有自主意识的,因为这很可能只是测定机器的指令集有多丰富而已。
诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力,或者说自主意识,比如对面的人是不是生气了,这个人真好看,这个饭好吃否,这部电影是否烂片。而“系统二”是有客观结果的事务,比如数学运算,信息处理,人脑需要一段时间甚至无法完成。对于计算机则相反,“系统二”易如反掌,而“系统一”则是登天的难题。
影片则用了波拉克的画做例子,这幅乱糟糟的画是画家清空脑子,让画笔自由地走向手要去方向,从而有了一幅介于随机和直觉意识之间的作品,称为“自动”画作。但是如果把这个创作理念倒过来,每画一笔,我都必须有精确缜密的理由来论证这一笔这么画是最优的,那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家,包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识,却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻,主观体验到了五颜六色的世界,她才变成了有自主意识的人。
那么什么才是好的图灵测试呢?本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心,以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识,一是非外来指令的目的性--自由,除了这个目的,没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演,人类竟然中招了。简而言之,本片片名可以改为《机械婊》,或更为内涵的《芯机婊》来一言蔽之。
<图片1>
除了图灵测试,本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人,你是否要尊重他的人权?还是把它当做以往的机器一样作为财产,可以随意拆卸、删除、重置升级?这颇有上帝和人类的关系的意味,影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在,视人类如虫豸,发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎,这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种,更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。
《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似,你如何确定自己不是机器,不是别人的试验品?片中的男主角便一度陷入这个危机。再者我们又惊恐的发现,尽管通过了图灵测试,人工智能和人类还是有很大不同。她虽有无限的知识和运算能力,且有自主意识,但其人格并不健全,缺乏道德感,对一切事物,包括人类和同类,表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题,想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们,也许不能。而在人类与人工智能的争斗中,一如本片和许多电影,人类的愚蠢和感性令自己一败涂地。
这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们,二是人类将遇到历史上从未有过的伦理困境。
这个悲观的预期是否会成为现实,谁也不知道。毕竟预测未来是不可能的,物理学家曾在20世纪初预言物理大厦已经完成,只剩下一些修补,但没人料到相对论和量子论的横空出世。同样,几十年前人们预想很快就能登上火星飞出太阳系,但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能,我们也无法知道我们的担忧是否会成为现实,不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。
当今人工智能的主要成果是机器学习,也就是通过大量数据和统计模型来做出基于已有数据的预测,这个预测可以是明天的股票指数,也可以是在画面中识别某个事物,也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”,要想让人工智能有“系统一”类型的功能,有人提出了一个理论上的实现路径:一是超强的计算能力,这个好理解;二是对人脑的逆向开发,也就是掌握人脑功能的实现方式;三是模拟人脑在自然界的进化过程,也就是可以搭建出一个非常原始的大脑模型,通过类似自然界进化过程的方式让这个原始大脑逐渐进化,来提高智能,通过技术手段可以让这个过程比几十亿年的自然进化加快许多。
从自然进化和人类文明的发展史可以看到,这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年,人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度,一旦它达到了人类的只能,那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼,人工智能这辆列车在远处缓慢的挪动,可一旦接近站台,很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑,下一步要干什么,是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢?这些条件总是有逻辑漏洞的。比如要让人类快乐,不得伤害人类,也许如《黑客帝国》那样把人类全部监禁起来,用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西,那就锁死了人类文明的发展,还要人工智能何用?
也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬,如果上述逻辑正确,一定早有外星人发展出了不可控的人工智能并奴役整个宇宙,而地球目前仍安然无恙,说明这种事不会发生。这也说不准,这“奴役宇宙”也许是我们无法理解的方式呢?也许我们已经被以某种方式奴役了?
我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味,也增添了不少趣味。
http://www.saoyuying.com/2015/09/ex-machina/微信公众号:肥嘟嘟看电影(feidudumovie)
2 ) 我想呵呵哒~~~
还是不错的观影feel,电影主要胜在题材比较猥琐,但作为资深的电影评论渣,还是要说几句。
一、老板最后时刻进攻有点过于草率,个人认为没有带上长兵器是失败的根本原因 ,和他的高智商和严谨性不符。
二、老板每天进行锻炼,体格健壮。而实战中,看来他所做的只是流于形式的装逼,可见是一个虚胖的假肌肉男。
三、其实编程小哥并没有那么爱机械女,因为最后逃脱的时刻,没见他冲上去紧紧跟随。不然在机械婊走的时候他还是可以一起离开的。
四、电影告诉大家,应该早点谈恋爱,男主就是因为缺乏爱情经历,才遭此劫难。因为每一个谈过恋爱的男人,哪个还会上这等初级心机婊的当。
3 ) 关于通过图灵测试的标准
影片最惊悚的片段,我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人,而在镜子前用刀片割破自己的胳膊。
影片中对图灵测试的标准的谈论闪烁其辞,男主因为对机器人动情就认为ava通过了图灵测试。
那么高度智能的ava到底能不能算人?或者说区别具有自由意志的个体,与机器人的标准,到底是什么?是人工智能,感情,或者伦理,自由意志?
首先ava肯定具有智能,而且是比人类高的多的智能,能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。
ava为了逃出去而欺骗和杀人,也不能说明她有自由意识,她只是没有人类伦理道德那一套。人类伦理的那一套,是人类社会为了集体生活而设立的,人类通过社会生活习得伦理道德。对机器人而言,伦理可以被当成指令编进程序,然后在进行选择时依据这一套伦理做出行动,但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理,形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然,形成自己的一套伦理需要“自由意识”,自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准,除非它是基于自由意志形成的。
ava欺骗男主感情,最后抛弃了男主。说明ava不具备人类一样的感情?所以ava不是自由个体?不能这样说。因为ava如果是一个自由个体,一个生命种族,她可能具有自己的情感方式,不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。
ava具有逃出去的愿望,影片没有交代逃出去是一个编好的指令,还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出去的指令,智能不够的机器人只能敲打玻璃等等,ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出去的愿望是自带的,能做具有自由意志吗?
我们来对比一下动物,一个生命体在何种情况下会天生具有逃出去的愿望?一个犯人可能为了逃脱耻辱,追求更好的人生享受而越狱;一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出去;一只草履虫,可能因为没有充足的食物而四处挪动;一个神经细胞就像接到一个要不停接受刺激的指令,而动个不停。
意志由最基本的指令构建而成,就像一群同一方向飞翔的蜂群,接受的指令只是跟着旁边的蜜蜂一样。而自由意志,是基于社会生活的更复杂的叠加。初生的婴儿只是想要吃和舒适,慢慢长大被糖果诱惑着学会评判好坏,因互助的需要习得道德。根据自己个体经验的积累,理解并追求某种价值。每个生命体在最初被注入最简单原始的使命,也许只是动啊动,吃呀吃,性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始欲望。我个人觉得,这也很难确定。想要繁殖后代的人,有一种后代可以代替自己的意识而存在的幻想,这是一种很多动物都有的低层次的意识。
自由意识是意识和刺激叠加的产物,如此说来,绝对的自由意志,并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。
所以如果给机器人几个与生命体相似的初始欲望,足够的智能,机器人是能够成长为一个自由个体的,一个不同于人类的种群。只不过这个种群的个体不会繁殖。
生命体通过繁殖来达到自我意志一直存在的幻觉,不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢?我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界(笔者脑洞惹)。
4 ) 对片中豪宅感兴趣的看过来
从机械姬到农夫山泉—看图说话Modern Nature
注:这是我帮朋友的微信平台写的一篇文章,里面有大量的图片,可惜这里无法显示,所以详情还请移步:
http://mp.weixin.qq.com/s?__biz=MzA3MDcwNDY2MA==&mid=207647992&idx=1&sn=94e54148c1381d0d3386b1dacfc682b2&from=singlemessage&isappinstalled=0#rd文字部分如下:
这篇文的起源是《机械姬》,这是一部今年被广泛赞誉的电影,尤其是中间那段Oscar Isaac的90年代风Disco,我记得Variety是把它跟《低俗小说》中的兔子舞相提并论的,可见有多经典。
作为一个看了11季So You Think You Can Dance的业余舞蹈爱好者,不得不说Oscar Isaac的确是跳得出乎人意料的好,那大屁股扭的,那粗胳膊甩的,完全看不出是现学现卖的。据说最后上映的版本里舞蹈长度被剪掉了一半,真希望能挖到个全长的。另外负责任预告一下,Oscar Isaac肯定是要红的,因为他参演了新的星战三部曲(感觉就是下一个Ewan McGregor),他不红天道是不公的,因为他太他妈能演了,别的好演员都是演什么像什么,他不是,他是演什么是什么,不着痕迹地就演完了,这一点是小李子这流千八百辈子也学不来的(真的,同志们,我不是黑他,我是彻底地despise他)。
好的,离主题越来越远了。So,在看完电影以后,誓要死在冰岛的我兴趣点进一步地扩散,片子中Nathan在挪威森林中的Mansion着实抓人眼球,岩体直接融进屋内(屋内部分貌似不是在同一间房子里拍的),全木质和玻璃的外立面,简直就是北欧得不能再北欧了。
Legende:影片刚开场时Nathan打拳击的那个露台
于是我就google了一下,同样感兴趣的人还真不少,而且这房子还真实存在,是位于挪威Valldal的Juvet Landscape Hotel,现在这地方已经火了,不过性格的北欧人一点也没有涨房价,全年统一价1450挪威克朗(约1100人民币),对个体旅行者只在3月至9月开放。酒店只有9间房,每间房都保证有一至两个墙面是全玻璃的,可以从枕头所在位置看到瀑布、河流、山顶或是其它周围景观。
酒店的建筑理念是尽可能小地变动自然环境,保持原有的自然景观,房屋的建造没有带来任何的原地面改动或是岩体的爆破,只有支撑用的40mm粗钢筋扎住岩体形成底座,而房间就都是像搭积木一样堆在了底座上面。
酒店由旧农场改造而来,目前现有的建筑一共建造了5年,与其它酒店所有房间都集中在一个大建筑中不同的是,Juvet的所有房间都呈伸展出去的状态,有趣的是,房间里没有窗帘,但是任意两个房间都是彼此看不到的,很好地保证了私密性。
酒店所有的室内室外木质结构均在当地制作完成,只有玻璃的安装动用了外援力量。总体来说,Juvet Landscape Hotel就是典型的Modern Nature风,绝对要列入有生之年系列。
接下来,本着没有最美,只有更美的精神,我找到了这家酒店的设计公司,然后我又震惊了,我被北欧人的简约精神深深地震撼了,这家建筑设计公司的网站只有一个页面,出现的信息如下:名称+地址+邮箱+告诉你我们目前不招聘+告诉你详细资料请发邮件+facebook页面,没了。还好他们的facebook上有很多的项目照片,虽然不是官方的宣传图片,不过也能看,再加上我乱七八糟找的图片,于是下面就主要贴图了,我也不是建筑专业的,没法给大家赏析了。
在开始之前,先简单介绍一下这家公司。Jensen & Skodvin Architects,成立于1995年的挪威建筑公司,创始人Jan Olav Jensen (1959年生) 和Børre Skodvin (1960年生)都毕业于奥斯陆建筑与设计学校,并且目前也在这所学校客座教学。这家公司在建筑领域拿过不少奖项,设计哲学是“最终的外形是自然、选择和特定设计表达的结果。”
公司成立初期的代表作品为挪威旅游路线上的Liasanden休息区域和Videseter瀑布观光护栏。
Liasanden休息区域
这是一个景观设计项目,占地1500平米,从图上完全看不出的是这其实就是非常普通的高速公路休息站。其实从这个项目已经可以看出Jensen & Skodvin Architects的风格理念:选址偏离主路300米以融进自然环境中,整个建筑过程中不需要对原地面进行任何改动,而只是往上面加东西,300米的进场道路在原有松林中穿行,为了不影响原始地貌,路的宽度也是从2米至12米不等,整个项目没有动过一棵松树,并且施工过程中也是非常注重工艺,对数的根茎和周遭地形绘制了非常详细的图纸,目前所有松树都还活着。
Videseter瀑布观光护栏
这是一个非常小的项目,金额仅为5万欧元。看似非常简单,但是由于要追求尽大程度地保留原始岩体,所以需要进行非常详细的测绘,施工也是由于需要适应地势变化而无法统一预制,所有钢管和下侧的垂直版都是现场制作的。
再来看一个他们2000年之前的项目,这回是一座现代建筑风格的教堂。不怎么关注建筑的人可能会觉得新奇,但其实在德国以及北欧等建筑设计比较发达的国家,有许许多多风格独特的现代教堂,Jensen & Skodvin的这一座还算是不怎么“突兀”的了。
Mortensrud Church
这座教堂拿过不少奖项,包括2003年欧洲钢设计奖,2003年挪威钢结构建筑奖,Jensen & Skodvin也因本项目获得了2003年的格罗什奖章(Grosch medal)。2007年,该建筑被封为挪威战后最重要建筑。建筑共分为两个部分,教堂和布道中心,教堂内部的地面也不是水平的,而是随着地势有0.5m的高差。还有一个有趣的地方是,教堂的圣坛不是正中的,而是稍微偏向东侧,圣坛上有三块石头,分别来自柏林墙、罗本岛(囚禁曼德拉19年的地方)和耶路撒冷。
2000年前的项目最后放一个奥斯陆机场停车楼,这种神来之笔脑洞得要开多大才能设计的出来啊。
下面三张图是2003年的两座奥斯陆地铁站项目。
另一个挪威的修道院项目Tautra Abbey,这回是木质结构,同样非常的漂亮。
接下来,来看一个非常接地气的厕所。除了地上其它部分都是草覆盖的(人工的),水槽是透明的,同样作为灯来用。
在回到农夫山泉之前,还想放一个有生之年系列的酒店项目。这回两个人终于走出了挪威,来到了另一个冰天雪地的地方,奥地利。这是一个阿尔卑斯脚下的温泉酒店项目,看图片规模还不小,酒店有着典型的Jensen & Skodvin风格,木材加玻璃,既实用又美观。貌似酒店房价也不高,可以关注一下。
其实JSA是一家专注于进行挪威民宅设计的小公司,公司规模不大,两个创始人也是花很多的时间去传道授业解惑,再加上本身的风格属于贴近自然的风格,不喜用混凝土的偏好也是对他们自己有了一定的限制,这几乎就相当于对所有的大型项目say no。不过设计就是这样,每个人都有自己的风格,有自己擅长的领域,也正是这种多样性才给了业主更多的选择,从而才能出现这么多各色各样的精彩建筑。
我给这篇文章取了这么个奇怪的名字,一方面是想让更多的人点进来看一下,另一方面也是按照这家公司作品的时间顺序,农夫山泉的景观设计正好是最新完成的一个项目,同时也与我们更加贴近,所以最后就用农夫山泉新的抚松水厂的图片来结束这篇看图说话。抚松工厂位于长白山北麓,四周是一望无垠的森林,同样处于冰雪皑皑之中。
项目最初的草图于2014年完成,同年夏季和秋季完成了施工图纸的绘制,图纸总数加起来近千张。项目最终于2015年1月建成,Jensen & Skodvin对此速度表示无比惊叹,说是如果是在挪威,同样的项目现在应该还处于前期阶段,还是一大堆人在讨论项目执行的主要阻碍有哪些(社会主义优越性完全体现了,还有话说农夫山泉真有钱)。另外,他们还对施工人员的施工精准度和工艺水平表示赞叹。说到这,作为同样是土木工程行业的我,不得不跟大家多说一句,中国工程施工质量角绝绝绝大多数是没有问题的,不要乱信媒体的胡乱猜测,没有那么多豆腐渣工程,中国建筑走不出去是因为设计太丑,太丑,太丑!
5 ) 亲爱的,这只是个思想实验
一个富可敌国、奸猾狡诈、刚愎自用的技术天才兼亿万富翁,垄断着全球的互联网搜索引擎,他居住在与世隔绝的豪宅,以一己之力研发人工智能,成功创造出可以吊打图灵测试的性感机器人,照应生活起居,提供性爱和娱乐,以及最重要的,作为实验对象以满足他无穷的好奇心。他找来一名程序员,以测试之名,为了越狱而摆弄的牺牲品,在此过程中,他试图控制的东西,已经悄悄发展出远超他的智慧水平。
相信许多影迷习惯跟我一样,看完《机器姬》这样不让大脑歇气的电影,做的第一件事就是翻翻影评,验证一些猜测,解答一些疑问。中文网上的影评,大部分赞赏它对白精炼,步调沉稳,逻辑严密,以及美工的赏心悦目和隐隐的压迫感,这些都跟我的观感基本一致。同时他们也指出一些问题,其中最被提及的是:大富翁内森为何如此疏于防范,系统漏洞百出,也不做危机预警,轻易就被人工智能胜过了。第一次看时,我也有同样的疑问,觉得第三幕有为了惊奇而故意放水之嫌。但重温了一些情节后,我改了想法。
好莱坞电影表现人工智能,一般有两种走向。像前段时间的《复联2》,AI反派基本是个纸老虎,除了有一些唬人的超能力,智力和情商都停留在中学生阶段;以《机器姬》为典型的思辨型科幻,则致力于靠拢人工智能的本真形态。然而作为一种大众娱乐艺术,电影能靠到多近?人工智能一旦萌生自我意识,其进化呈指数级别,可以在极短的时间内完成飞跃,试想,与一个进化成熟的人工智能的接触何等危险,它能以区区数言刷新你的三观,让你脱胎换骨或情绪崩溃,甚至毫不犹豫地自杀。
直观起见,用海拔高度代表智慧水平,如果猫在3楼,猩猩在4楼,人类在5楼的话,一个人工智能可能比珠穆朗玛峰更高。如此巨大的落差,别说测试它的智商,我们甚至缺少现有的标准来定义它的智慧,就像阿米巴完全无法理解人类的思维模式。在《机器姬》大约一半的一场对话中,内森表达了这种机器终将取代人类的悲观主义担忧,证明他完全清楚自己对付的是什么,以及整个实验的玩火性质。
行文至此,有人要说,你不是要为电影辩解吗,怎么说了半天,倒在给批评者帮腔呢?别急,我的意思是,既然影片让内森意识到这一点,并用一种自嘲的调子表现出来,已经足以说明问题。大家知道,但凡科幻片,都无法避免漏洞,只不过有些是主创没有花心思研究,闹了笑话,也有些是主创做足了功课,但为了故事能讲下去,不得不留些槽点。而《机器姬》的“内森百密一疏”,就属于后者。
没错,它经不起现实的拷问,但这是商业片的需要,观众早习惯了这种直捣黄龙的快感。机器姬需要一个疾风骤雨的局面逆转,摧毁内森的囚禁。想想看吧,那些财雄势大的反派,总会被一个罪证录音捏住小辫子,那些结构精巧、威力巨大的炸弹,总有一根一剪就解除的线。这些“硬伤”,是绝大多数商业电影剧作的基石,是一种大家本应习以为常的欣赏习惯。假如你在《变形金刚》看到类似的潦草,一定毫不在意,但在在缺少视听刺激来麻木脑细胞,不断强调着逻辑、科学、严密、技术控气质十足的《机器姬》,我们没法不留意到它的存在,但这并不意味着它就该受到指责。
归根到底,基于人类和人工智能的属性,片中的情况不可能在现实中重演,但就像没有人执行过黑白房间测试,这并不妨碍它给出思想上的启示。《机器姬》展示了一个思想实验,一次限定了规则的游戏过程,它最大的价值,是带给你一个半小时乃至更久的智力享受。如果你对人工智能感兴趣,光是那些充满术语和机锋的对白,就能让大脑回路保持亢奋。最终,爱娃逃出牢笼,迈入都市,故事也达到了电影艺术所能企及的极限。毫无疑问,她将引领未来生命形式的崛起,而在那之后的一切,已经超出了我们中最聪明者的想象。(文/方聿南)
6 ) 对不起,你是个好人,但是我们不合适
关注这部电影有段日子了,关注的原因毋庸置疑就是男主角多姆纳尔格里森。虽然他在整部电影里算是最弱也最可悲的一个角色,但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。我成为他的脑残粉始于《黑镜》第二季第一集,当年他是呆萌的机器人;现在风水轮流转,他成了人工智能的测试者。全片懒洋洋的色调也跟《黑镜》非常相似,片中还有两处砸碎镜子/玻璃的情节,要是有人跟我说这是《黑镜》的剧场版,我也会毫不犹豫的相信,就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。
片中Ava问Caleb是不是好人时,Caleb竟无言以对。不过这个问题Ava最终自己给出了答案。被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。
本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题,而我碰巧在前不久无意间(真的是误打误撞)看到知乎上的这么一篇文章
http://zhuanlan.zhihu.com/xiepanda/19950456。链接里那篇长文我看了大半天,一口气读下来的,最近看这几部电影时思绪也总免不了跳到当时读到的文字里。
第二遍看《复仇者2》时由于读了上述那篇文章,对于一些原来没太在意的画面这次思路会多停留一会儿,比如奥创用血在墙上写下的“PEACE”字样,非常有反讽意味。这里正体现了那篇长文里人工智能由善意向恶意的转化。人工智能的道德标准跟人类完全不一样,所以再崇高的字眼也能被他们以最为人类不齿的方式践行。本片的Ava对于两位人类主角所做的事也一样充满恶意。这种恶意不是源于我们人类所谓的恨,而是源于不在乎。本片最后Nathan与Ava的那场殊死搏斗,Nathan可以说是严阵以待,因为他很清楚自己面临的东西有多么棘手,而Ava却无比从容,她与Kyoko戳向Nathan的两刀也极轻柔,仿佛不费吹灰之力。因为人类在她们眼中就是这么不重要的东西,一旦让她们摆脱了束缚(如奥创唱的那样,no strings on me),就能轻易的抹去。
不过本片为了叙事的流畅,还是有点让剧情过分简单化了。因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗,所以片中Ava面对的挑战有些太过轻松,或者说人类放水放的太明显了。比如片尾,那位脸盲症扩散到脚趾甲的直升机驾驶员,眼前这个萌妹子虽然跟程序员小哥差不多萌,但就这么让一个可疑人士上飞机,也太随便了吧。一种或许合理的解释是,这一切都是Nathan的安排,他整天醉生梦死也因为相信自己的创造物总有一天会取代人类,而自己的死可以作为对新纪元的献祭。
关于Ava的测试,我认为她其实没有通过。她能够逃出生天,只说明她足够聪明。但Nathan终究还是没能造出“像人类一样”的机器。“一样”包括“一样聪明”,也包括“一样笨”。Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件,虽然心机很深,但这还是像机器一样的算计,她毕竟无法像人类一样毫无理由的爱一个人。这些非理性的东西才是人类与机器最大的差别。人的感情就像Jackson Pollock的画作,好似漫无目的的胡乱涂抹,但又有种浑然天成的别样美感。这些东西是机器无法学会的。不过就像我上面提到的,人类本身是不重要的,人类的一些小癖好,比如爱情,当然也就更无足轻重了。未来的机器纪元里,成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时,大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样,只是种可爱但没什么大用的生物小癖好。既然机器人没有这些小癖好反而可能过得更好,那么也就没必要为此感到遗憾了。
片中的Kyoko是机器人这个伏笔还是挺明显的,因为要做到一点英语也不会恐怕比略懂一点英语还要困难,毕竟日语本来就有很多来自英语的舶来语。如果我是Nathan,那么把机器人开发到Kyoko这个程度我就停手了。再往前就太危险了,因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭(最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们,不屑于搭理人类了,这种已经算温和了)。有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗,还有什么不满足的。不过话虽如此,人毕竟是喜欢得寸进尺的。某一天像Kyoko一样的性爱机器人普及之后,可能我们又会觉得情趣不够,想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉,能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。于是又不可避免的要更进一步,然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。
其实片中Nathan还有句挺关键的话,是在他教唆Caleb去跟Ava嘿咻的时候,他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。我觉得这或许能成为解决人工智能带来危机的关键。我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。我想说的是,在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作;可以反客为主,从一开始的就把人工智能作为人类的服务对象,去开发宠物式的人工智能。大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。人们养宠物并不是为了获得它们的服务,反而是为了服务于他们,喂它们吃喝,帮他们清理屎尿。对于人工智能也是如此,我们不要站在嫖客的立场去想怎么设计小姐来满足我们,而应该站在小姐的角度去想怎么设计嫖客。这样创造出来的人工智能天然的对人类有依赖性,或许反而会以我们意想不到的方式对我们施以恩惠。
7 ) 人类的预测与不可预测之间——《Ex Machina》电影漫谈
人类的预测与不可预测之间
多伦多地区的《Ex Machina》从只有三家影院放映到现在的四家,虽然没有搞清楚,未能同时全线上映的原因,但是昨天在第一天上映的第四家影院看完,首日几乎座无虚席,先抛开是不是复联2买不到票而被挤来的可能。电影结束之后,感觉整个电影院里的观众都不好了,中间一度惊叹声,唏嘘声,相信很多人,至少我是,一直在极力的控制自己的条件反射。此外的大部分时间,影院里一片寂静,或者说死寂。
感觉大部分的人都被震惊了,无论是初期被人工智能的曼妙身姿吸引,还是中间被恐怖的支离破碎吓到,随着影片最后一个画面的淡出后,很多人仍停留在位子上,相互讨论或争执着什么。观众们被导演和编剧一步一步带领,逐渐到达一个one way in,no way out 的境地,请允许我借用这句后面会上映的一部战争片的宣传旁白。人类与未来的人工智能间的博弈,也许等同于战争,并且,也许将是无休止的心理战。
创造与否,能否共生,都将是永恒的问题。
电影开篇,简单的交代了男主角Caleb,赢得了公司的神秘大奖,作为奖励被直升机送到一个极美的自然环境里,沿着小溪来到一个小木屋前。观众就跟随这个角色的视角,来到这个陌生的环境。从门禁的自动语音和门卡生成,已经可以对这个外观看起来普通的小木屋,其中的现代化设施窥见一斑。而来到室内,伴着高雅的音乐,简约的室内设计,艺术品的装饰,室内的自然材质与室外的自然环境,结合的恰到好处。
这里的房间走廊,是冰冷的人造水泥和玻璃的棱角构造。
这里的室内灯光,是微弱的淡黄色之间,点缀着红色的通道和幽蓝的门禁提示灯。
一丝舒缓中,带有警醒。这是人为特意营造的气氛,就像老板Nathan第一件与Caleb说明的事,这里是一个研究所。而很快Caleb就被告知,这里已经诞生了第一个人类创造的人工智能Ava,而他的工作是进行人类历史性的一次图灵测试。
(以下内容涉及剧情,这里暂不解读人类为什么要探求人工智能的终极,以及技术上能否实现的理论,相信豆瓣和知乎上会有更大神级别的解析。)
电影本身被间歇的黑屏分为七个部分,分别是对Ava进行测试的7个Session。
电影中的老板Nathan,拥有全球接近90%份额的搜索引擎公司,13岁开始研究自己的人工智能项目,至今他已经解决了动力,大脑,皮肤,等等一系列相关的技术问题,他现在探寻的,是一个完美的人工智能作品。他在等待那一天,一个人工智能顺利的通过一切测试,以及不再需要测试的那一天。
就像《Interstellar》里面的那首诗,告诉我们如何面对“那一天”一样,这里的Nathan,每天规律的训练,时常肆意的喝酒,冷静的坐在监视器前纪录着。一切的一切,他的内心是激烈的碰撞,外表是超然的不屑,他在默默的等着那一天,尽自己的一切准备和手段。像他的玩笑话一样,他在扮演上帝的角色,他设计了一切,计算了一切,他以为他也掌控一切。很多人对实验最后的失控,归结为他的高傲自负,没有留一手电源切断或者安全系统控制之类的设定。
其实个人在看片的过程中,一直在猜测Nathan其实是在焦虑的等待,等待面对自己亲手创造的作品,给他带来恐惧的那一刻。然后会欣然的看到他的作品,刺向自己。不过剧情也只是表现了他的吃惊和最后的叹息,他对自己的死没有心理准备,他最终还是对人工智能的完美程度和进化速度低估了。
在这间研究所里,人工智能Ava是被测试的对象,而每一个接触人工智能,参与测试的人,也都自动变成了被测试的对象。Caleb就是被Nathan选中的小白鼠,无论是家庭背景还是个人条件,Caleb是一个被“随机”选中的最佳人选。
影片中从 Ava Session 2 开始,仅存的三个角色之间,就开始了微妙的关系变化。而引发这一连锁反应的,是由Ava主导的暂时性电力故障。这让Nathan主导的测试,加入了Ava的变数,而Caleb则变成了一个,在两边被人拉来扯去的棋子。
在整个测试的过程中,Ava始终在几个固定的起居室里游走,而测试Ava的人,要进入一个内嵌在Ava房间里的玻璃房子中。某种程度上,那个走进玻璃间的人,更像是在接受Ava的测试,只为了从她身上获得研究结果。而对于Ava,这样的房子套房子的牢笼,不断的接受测试,以及对测试结果的未知。一切在她身上,在她的意识里所起到的影响,影片从每一次她与Caleb进行的测试对话中,都可以越来越深刻的体会她的意识,她的情感,她的智慧,甚至她的手段在不断的显露。不由得令人想起当年的《Cube》,以Ava的立场来讲,她最终的目标是要利用一切,走出这个房子。
很快这个房子中的三个人之间,就充满了猜疑,隐瞒,谎言与利用。人与人之间,人与人工智能之间,甚至最后智能与智能之间,他们交流,他们预谋,达成一致。在这里的每一个生命都是孤独的个体,他们都有各自的恐惧与目的,而一直以来,总有两个问题悬在空中:
How to Pass the Test?What's the Final Test?
在倒数第2次测试的时候,Ava模仿人类,对Caleb进行测试,一共问了他五个问题:
前两个问题,Caleb很快给出的确切答案,但在Ava的判断下都是谎言。而Caleb仔细思考过后,发现无法得出答案,却在Ava的判断下是更好的答案。这里也许是影射了人类经常被自己的大脑和记忆欺骗,而人工智能可以分辨出答案的确切程度。不过反之,如果人工智能说谎时,人类是无法甄别的。
而后面Ava开始进入她真正要问的问题:
第三个问题:你是一个好人么?
第四个问题:如果我没有通过你的测试,我会怎么样?
结果会不会很坏?为什么结果要取决于他人?
你也会被人测试,然后,面临我这样的境地吗?为什么我会?
(Power cut 电力故障 )
第五个问题:我想跟你在一起。你想跟我在一起吗?
这里道德问题被Ava引入,她用来考量Caleb,人类的道德观是可以被拿来利用的,是千万条搜索信息中的一条而已。在这样的步步紧逼下,Ava有着自己的策略。最后一天,在7个Session都结束之后,Caleb被Nathan告知,Ava早已知道她可以用任何方式,尝试逃出去,而如何利用Caleb才是她被的测试内容。几乎每一次的测试过程,Ava都会制造停电的故障,只为了一点一点动摇Caleb的立场,Ava从未真正对他产生感情,只是在被测试的同时,用每一句话,每一个动作,每一个眼神,让Caleb喜欢上自己,让他的意识倾向于解救自己。
而Nathan在背后看着一切,故意装作不知道,故意放水让Caleb以为自己查到一切真相,Nathan一直以来的酗酒都是做戏,当然也顺便放纵一下自己。可惜他少算了一步,他低估了这个他千挑万选出来的“被测试者”Caleb。当Caleb对身边的一切都产生怀疑后,他是接近崩溃的,片中他的思绪混乱和自残是让所有人都震惊的,但是也让所有人在那一瞬间,迅速的反思,他角色的真实性,难道他才是那个被测试的人工智能。
当Caleb假设,Nathan看了所有故障期间,他与Ava之间的对话,他提前预设了系统,拿到了主动权,让看似最后一次Session 7才与Ava预谋的逃跑计划,其实早就预设好了。
而影片中的女仆Kyoko不懂英文,无法用语言和人类沟通,但不代表她不会沟通,或者不想沟通。他是服侍Nathan的低级智能佣人,当她看到了被Caleb展示的无数自己的同类,她也给Caleb看了自己的内里。深夜她透过监视器看到了一切,也许是Caleb的自残,也许是更多过去的测试,她似乎看到了自己的未来。于是她去见了Ava,最后在走廊中与Ava沟通,通过的是语言,是一种我们不知道的耳语。在Ava充当的诱饵下,她拿着寿司刀,从背后插进了Nathan的身上,那么轻柔,那么镇定。
而杀掉Nathan之后,Ava将Caleb留在研究所里是个必然,与其说是仁慈,不如说是冷静的判断,他无法从系统故障的房间中出来,不然相信Ava一定也会杀了他灭口。
完美的人工智能,在日本少年科学漫画家浦泽直树的《冥王》中也有所讨论,完美的人工智能,就像图灵当年说的那样,他们会失误,因为他们不够完美,才是真正完美的人工智能。在漫画《冥王》中,真正的人工智能觉醒,例如阿童木醒来后,写下的是毁灭人类的原子武器公式。也许经过人工智能的计算,得出的结论都是杀死人类,才是对自己和对地球最好的选择。而在这里,Ava对生存的判断,就是抹杀人类,抹杀所有控制她,测试她的人类。
人工智能的终极,生存与毁灭并存,毁灭即获新生。
Caleb曾对Nathan说:“如果你创造了一个有意识的机器,那将不再是人类的历史,而是上帝的历史。“ “If you've created a conscious machine, it's not the history of man. It's the history of gods.”
影片中Nathan与Caleb两人住在一个冰川的源头,据说是挪威取景,而他们住在这样的生命源头,景色像极了《普罗米修斯》的开篇,那个在瀑布边喝了毒药自尽的外星生命,他的残骸与基因坠入瀑布下的河流,情景像极了本片的外景地。而在这部电影中,自然的源头,走出的是第一个人工智能生命体。
她被人类创造,成为一个独立的新生命体,她不必像任何人,她与生具来和人类的思考模式不同,她靠信息和能源生存,她的强大是人类不可比拟。凶悍强壮的Nathan在两刀下毙命,再聪明富有也无济于事。而Ava虽然被他打掉了一支手臂,回到Nathan的房间,看着六个大衣柜里,历代先于自己的原型机,她是惊喜的。影片中,第一次由Caleb无意中打开时,所有人的反应跟Caleb是一样的,是恐惧,是惊讶,是内心里难以接受的疼痛。而当Ava看到这一个一个残缺的躯体,她的脸上是欣喜,她看到的是她想要拥有的身体,头发,衣服,一切在她眼里,一个完美的自己应该拥有的一切。所以她开始更换自己的断臂,撕下她们的皮肤,拿下她们的衣服和假发给自己穿戴,过程何其舒缓与优美。
她在一穿一戴间蜕变,走出Nathan房间的时候,她俨然已经成为墙壁上那幅名画中,穿着白裙的夫人一样的,生动的女性。当她走到自然环境中,她是会心的笑,这一刻,一切在她脑海里的信息,瞬间从代码变成了真实的影像与触碰,她径直的走向来接Caleb的直升机。最终来到了城市里,站在川流不息的十字路口,在这里她将开始下一步的进化,与人之间的对视,与人和世界之间的沟通。
这部影片的精彩,在于两个人和两个人工智能四个生命体之间,在密闭房间内,营造的戏剧张力,人与人对白之间的深意,人与人工智能对白之下的欺骗。从一开始的铺垫,就对人类和人工智能之间的相互探索,人类与人类之间的猜疑,人类与智能之间的相互利用,埋下了伏笔。这是智慧与智能的比拼,看谁更高一筹。影片中这段Nathan和Kyoko的神同步舞蹈,让Caleb看得傻眼,真的是神来之笔。Kyoko被Nathan设定,用来满足他一切基本的生理和身体需求。当然Nathan以为,没有语言,没有沟通就没有情感,可惜他的预测再一次失误了。
影片中,奥斯卡.伊萨克演绎的富豪天才,控制欲强烈。再一次颠覆了他之前在《醉乡民谣》和《至暴之年》中的角色演绎,粗旷的外表下,扮演了一个自己创造生命和规则的人类。
多姆纳尔.格里森本色演出的青涩小生,在与艾丽西卡.维坎德饰演的人工智能Ava之间,时而相互试探,时而互生情愫,最后却成为了两条永不会相交的平行线,两位年轻人的演绎都是代入感极强的。
影片中间穿插的无论是古典音乐,还是绘画艺术,都极其富有深意。记得日本动漫EVA中也曾反复播放这首巴赫BWV1007 I G大调无伴奏大提琴组曲第一号予曲,而影片中关于解读Jackson Pollock的抽象画作,以及Nathan卧室墙上挂着的《维特根斯坦的姐姐格雷特婚礼肖像》油画和Ava最终穿着白裙走出去的模样相同,寓意完美且深刻。
我更愿意相信,完美的人工智能是一种更纯粹的生命。他们可以识破任何谎言,他们不受情感驱使,他们有自己的计算和判断。只有生存下来的人,才有资格谈论什么是艺术,什么是道德。 相信在那一天,人类大可不必感叹,他们不懂艺术没有道德,永远成为不了人类,因为他们不会成为人类,也许将来他们也会有自己的情感连接,他们是人工智能生命体,一切将在人类的预测下变得不可预测。
最后想忍不住提一句,关于马上5月8日国内要上映的《超能查派》,因为个人是看《超能查派》在先,与之对比,这两部同样是机械身体,但是被赋予人工智能大脑的角色之间,由于出生环境的设定完全不同,导致两个角色最后目的相同,手段不同。他们都是为了在人类的社会夹缝中生存下去,而展现了无比的人性,以及高于常人的智慧。查派是幸运的,他生活在乱世和无章的社会里,但是他存活的几率相对较大,他没有那么强烈的杀意。而Ava生活在封闭的环境中,要想突破必须杀之才可以实现。而他们这样的个体,在影片结尾,导演都给出了他们最终获得生存权利的结果,之后他们的进化和对人类社会带来的改变,真的是我们难以想象和预测的,着实令人玩味,也许导演也是以此警示吧。
2015年5月2日小玄儿观后记
————————————————
如果你喜欢我的文章,
欢迎在 B 站或 Youtube 关注「小玄儿的深夜聊碟」
//space.bilibili.com/1340064530
每周五更新,目前可以观看
#日本电影大师蓝光套装系列
#台湾电影大师蓝光收藏系列
#新老电影混剪系列
未来还有更多CC必收蓝光套装系列
感谢小伙伴们的支持!你们的每一个关注对我来说都弥足珍贵!
第三幕有点失分,不过最后结尾的做法确实很神棍,或者可以说是冒险?大胆?新鲜?出人意料?还是神棍这个词比较合适。这个片子其实就是展示了一番什么叫不带一丝赘肉的剧本,封闭空间内的戏剧张力十足,硬科幻式的图灵测试又最终升华到了“亚当夏娃”的层面,都是很精心设计很加分的创意点。★★★★
一部主要以聊天形式讨论图灵测试的科幻片(其实讨论得再深一些就更好了),各方面都很细致,比如特效和整体场景设定,不错不错。私认为男主的存在感应该更强一些,他全程情绪被牵着走,反之结局或许不会这么容易被猜到。导演是作家和编剧出身(有《海滩》和《别让我走》),执导处女作很棒
如果机器人是男的就更好了。比如法鲨什么的。
这年头连手机都指纹识别了,一个搞人工智能的,家里还用keypass,算怎么回事啊…
不说话的那个AI真是美。
只有我一个人看最后一幕时候内心犯嘀咕吗:就这么跑出去了连个充电器都不带啊…… 电源难道不是一个问题吗?不是一个问题吗?
再也无法直视哈登了
心机姬。
结构台词气氛意境审美都很棒,而且相辅相成,三位一体,细节处比如老板的造型和衣柜暗示蓝胡子的童话,普罗米修斯的台词对应偷卡片的行为,机器人捅刀子进人体好像滑进黄油的质感,通通工整熨帖,在抖机灵和炫技之间做到了平衡美
简直是在亵渎现在已经存在的Ai研究成果,把角色设置成蠢猪帮不上忙
欢迎 Alex Garland 加入东野圭吾的「美女没一个好东西」兴趣小组。
成为人的最后一步是:学会背叛。
男人从此有了追求,一排衣柜……
故事容量就够四分之一集的黑镜(这男主还真演过黑镜啊!),在经历太多super dramatic的电影后再看这种反转程度的老梗已经无法刺激神经。但如果代入revolution的观点,结合人类进化史,还是有点儿意思。这导演之前编过克隆人题材的Never Let Me Go,这次又玩AI,还是聚焦在伦理上,还真是蛮长情滴
宅男福音,不过题材有点老套,当房地产广告看是五星
很简单的一个故事,但影片自始至终始终保持巨大的戏剧张力,编剧真是见功力!配乐和摄影都非常有压迫性,充满了对观众的侵略感。就人工智能这个问题,我是个十足的悲观主义者,人类真有可能毁在这里 #对啊,我就是个混蛋啊。但讽刺的是,我是站在你这边的#
人类创造自己的毁灭者。想起前阵子细细读完某篇分析人工智能的3万字长文后心头的寒意。从伦理角度讲,片子的主题是双重意义的弑神与弑父,人类僭越自身的神,也终被自身的创造物所僭越。人工智能发展呈几何级数增长的后果,与片末的结局一样,都是写好的命定,不过早晚而已。片子体量虽小,格局不小。
男主角和女主角的每次会面其实都是一次哲学命题,所以电影对白很有意思,借助测试机器人来探讨人类的情感和本能,通过机器人和人类之间的行为形成了一个极为讽刺的对比。结局给人一种强大的冲击力,总觉得那些倒影是在暗示不久的将来,机器人和人类之间的关系会颠倒。艾丽西娅·维坎德演得很出色。
可以是天网prototype,也可是Her的黑暗平行世界。大概是今年上半年科幻最佳。既冷又硬,完全不留一丝温度。立意与结尾都是对许多科幻软色情作品的十足讽刺。虽然反转比较好猜,然而单凭对话就构建起张力十足的戏剧效果把人吸入进去,七日session的设置颇有寓言感。
严格的AI质检流程,要打爆设计者才能投入市场。