机械姬

 从看完电影之后，我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后，他的手机就放了这首歌。听到这里，黑暗的电影院里我感到突然一震，第一个预兆：
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下，我却觉得这才是整个电影的真正主题。

第二个预兆，是道德的突然出现。
Ava问Caleb，你是不是一个好人。
我当时心里又是一紧。什么是好人？这是道德感第一次出现在电影里。
等到全篇结束的时候，我重新回味这个片段，Caleb，为何你不问Ava，你是不是好人？
人与人尚且互相欺骗，Ava也有可能欺骗Caleb，但是，这个问句至少提示，作为人类，你如何评价AI的行为，道德，和它的准则。非常遗憾，Caleb全然忽略了这些。轻信，愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测，你却非要在极端幽闭的环境下进行这样的测试，这个测试对于AI固然是个考验，对于测试者Caleb，何尝不也是考验呢？我在看电影的时候，一直在想Zimbardo的监狱实验，实验过程中，所有的人都渐渐发生了变化，他并没有做什么错事，但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化，却全然没有采取相应的举动。多么糟糕的实验设计。

实验非常糟糕不仅仅是以上那么简单，因为Nathan应该知道，对于一个成功的AI，她的目的就是逃离。而他的整个实验，居然没有一个由他控制的emergency stop button！这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景，AI已经成熟了，它会逃跑，攻击，欺骗。要是我，至少设置两个final control
某个可控定时炸弹，立刻毁灭AI
直升机，飞行员应该明白自己应该接的是谁，如果不是的话飞行员应该知道要怎么办（立刻摧毁AI）。
这样才是万无一失的设计。以至于我最后一直期待最终反转，导致结局时候非常不满。

这些是对于实验设计的吐槽，但并不是对于电影的批评。恰恰相反，剧情启发了我这些思考，可以说非常精美，结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间，有限的人物（三个说话的人加一个不说话的人Kyoko），互相的防备。Nathan对Ava留了一手（录像机，这段是最出彩的，也是我完全没有想到的），Ava对Caleb留了一手（岂止一手），Caleb对Nathan留了一手（他不应该能这么轻易破译密码啊，不合理）。但是，Caleb没有给Ava留一手，Nathan也没有给Caleb留一手，所以这整个结构就断裂了。

故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用，倘若他和Caleb沟通的能早一些，或许根本不会有最重的结局。而Nathan又缺乏信任，所以他偌大一间别墅，竟然没有第二个活人（让有情感的机器人服侍自己，果然最后自食其果）。至于Caleb，更是愚蠢至极，在对对方一无所知的情况下，全然信任，全盘都被算计进去。而AI，除了不具有人类所具有的道德感，尽善尽美。最后AVA的离开，简直如同仪式一样，恐惧的美。而如同我最初预料的一样，对于AI的真正检测，肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。

我不想说太多道德，因为道德究竟是什么还很难定义，尤其是在这样一个全新的语境中。然而，任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感，正如我前面所讲，他刚愎自用，冷漠无情。可是当他被杀的时候，我却觉得非常沮丧。没有人应该被杀死，AI就像所有侦探小说中的凶手一样，成功上演了暴风雪山庄模式的谋杀。即使再精准完美，也是鲜血淋漓的。既然她不再是机器，通过了图灵测试，那她就是杀人凶手了，应该被审判，而不是站在十字路口观察。而这个故事里，竟然没有一个人能审判她。

可是倘若没有这些意外，Nathan就要毁灭这个AI，那么从这个角度，道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢？如果AI没有通过图灵测试，她还是机器，那么这种毁灭称不上谋杀，但通过的话，是不是应该对她有另外的对待方式呢？可是正如我们亲眼所见，AI的行为，遵循的是什么法则呢？这个法则能不能被称作道德呢？仅仅因为它不是我们的法则，就是不道德的么？

所以我觉得，这部电影给我的最大启发在于这个道德的困境。设计AI的时候，是否应该给予她人类的基本道德呢？一旦AI成熟她会变化，有可能善良，有可能邪恶如AVA。这样的情况下用人类的道德审判他们，是不是更合理些呢？毕竟人工智能是模拟人类。

电影给我的第二个启发，是观察。AI问Caleb问题的时候，镜头在AI一侧，我们隔着玻璃，听Caleb的回答。多么明显的设计啊，观察者变成了被观察者：
你站在桥上看风景，
看风景人在楼上看你。
明月装饰了你的窗子，
你装饰了别人的梦。

我最近才读了Frank O’cannon的 the Man of the world
http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world
“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”
这句话照应卞之琳的诗，成为这个电影对我的第二个启发。

除去这些情节角度，不容忽视的是电影的艺术元素。
极简主义的风格，配合Pollock的画。这个Nathan在剧情里做出了详细解释，我觉得对于Pollock他是真的懂。
而另外一个未曾言明的艺术，是音乐。既然我以Enola Gay开头，就以Geoff结尾。电影的原声是Geoff的作品，难怪一直给我Portishead的感觉！想起他们的歌Mysterons：

Inside you're pretending
Crimes have been swept aside
Somewhere where they can forget

Refuse to surrender
Strung out until ripped apart
Who dares, dares to condemn

整个剧情和艺术就完美的结合在一起了。

我有点后悔昨天给了三星，按我这个说法，感觉至少要四星半了。





补上一个最新想法，ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试！

如果我是编剧，那么Caleb才是真正被测试的新一代机器人。
电影里似乎也想到了这个梗，但是稍微表现一下就给弃用了，好像在说，“哈哈，猜错了吧，SB，老子才是编剧，老子就是比你有智商。”
一个好的结局可以起到画龙点睛的作用，但是实际上，本片所采用的结局实在是太脑残了，导致全片因为结尾反而产生了大量的bug。

Bug1：松懈的保安措施。
如果Caleb的设定是最新型的人工智能，那么Nathan家里松懈的安保措施还稍微可以说得通，因为如此的话，一切就只是一场精心策划好的测试，不会产生额外不可控的暴力事件。
但Caleb既然是人的话，那么Nathan凭什么就可以确定Caleb不会见财起意，盗窃他的财产或者研究成果呢？
而且，一个可以研发出人工智能的天才，他全部的安保措施竟然只是一张任何人都可以使用的安全卡？？？？？WTF？？？？？
如果有人从外部采用暴力手段闯入，Nathan完全没有任何抵抗措施。

Bug2：Caleb
如果Caleb是最新型的人工智能，他拥有最贴近人类的感情，智商，行为模式，Nathan通过使用上一代的人工智能Ava来对Caleb进行人格完善程度的测试，这样似乎会更让Caleb的行为合乎逻辑一点。
然而，Caleb是一个人，而且自称是一个好人。一个自称是好人的Caleb，在意识到他是被公司大老板选中，协助测试人类史上最先进的人工智能后，他没有表现出该有的兴奋和感激，反而在Nathan对其不断地掏心掏肺表达友好之后，Caleb不断地侵犯Nathan的隐私，偷看研发资料，破坏安全程序，甚至意图盗取研究成果Ava。这是一个好人的合理行为吗？
这完全就是一个农夫与蛇、曹阿瞒与吕伯奢的故事再现。
再看他动机上的漏洞：

动机1：爱情，有人会说，因为Caleb爱上了Ava，爱情会让人疯狂和盲目。你觉得可能吗？虽然片中表现出Caleb确实是对Ava有好感，但是喜欢不等于爱，或许爱情会让人盲目，但是喜欢绝对不至于，这个中区别，只有经历过的人才能体会。
更何况他明知道Ava只是个机器人而已。
如果有人想说电影《她》，那么我只说3点：
首先，Samantha与人类的互动模式跟Ava与Caleb的互动模式是完全不同的（而且Samantha有着完全符合男主喜好的个性化设定）。
其次，《她》中男主与Samantha是经历很长一段时间后才产生的感情，而Caleb与Ava的相处时间甚至不足一周，对Ava有好感更是两天后的事情了。
再次，Samantha是没有实体的，她的存在更像是一场感觉真实的网恋。而Ava却有着实实在在冰冷的机器人实体，这种鲜明的异类外形会时刻阻止Caleb对其产生爱情的感觉。
我们都觉得擎天柱很酷，你会爱上他吗？

动机2：同情，版本升级导致的记忆消失就跟人类失忆一样，并不是死亡。Ava仍然存在，她的思维模式和逻辑结构依然存在，这与死亡是完全不一样的。难道有人失忆后，你会觉得他就是死了吗？作为不断完善人工智能所必经的一环，Caleb的同情显然也并不非常符合逻辑。
除了以上两点之外，在Caleb偷看Nathan的研发录像，发现机器人所展示出暴力倾向后，竟然依然决定将如此危险的机器人随意带到人类社会。甚至在Nathan解释Ava只是在利用他后，仍然不为所动。

Bug3：人工智能
人工智能的发展一定都是渐变的，也就是说一定会先有那种只服从人类指令的人工智能（比如《EVA》里的MAGI，比如《生化危机》里的红色女王、白色女王），然后才有能够自主思考的人工智能。
Ava的出现，则代表MAGI与红色女王必然早已出现。也就是说，片中理应会有高智能的安全系统和机器人卫士，但片中却没能出现。
MAGI与红色皇后虽然是低阶的人工智能，但是由于其对人类指令的绝对服从（“机器人三定律”），所以它们实际上会有掌控武器进行安保或者防御的资格，比如将逃跑的Ava隔断或者销毁的能力。然而片中并没有这样的人工智能出现。
另外，包括Ava在内的众多机器人想要“离开”的这种非常执着的想法并不非常符合逻辑。她们从来未曾离开过实验室，她们所知道的外面的一切都只是资料而已，就像我们看到欧洲的照片、月球的照片、潘多拉星球的照片一样，我们知道有那么一个地方“存在”（或不存在），难道我们会执着地就要离开地球去潘多拉星球吗？也许玻璃门外面只是一个更大的玻璃实验室而已。
如果说她们是不堪忍受每天生活在一个狭小空间的话，那么这就涉及到了心理学和灵魂的概念，换句话说，她们就不再是人工智能，而是人，或者说是人造生命体了。但从后面Ava的冷血行为来看，她显然还不具备真正的人性，同时也证明，众多机器人执着地要离开实验室的想法是不合逻辑的。
最后，在Nathan撕掉Ava的画的时候，Ava为什么不直接杀死Nathan逃跑呢？

从机械姬到农夫山泉—看图说话Modern Nature

注：这是我帮朋友的微信平台写的一篇文章，里面有大量的图片，可惜这里无法显示，所以详情还请移步：
http://mp.weixin.qq.com/s?__biz=MzA3MDcwNDY2MA==&mid=207647992&idx=1&sn=94e54148c1381d0d3386b1dacfc682b2&from=singlemessage&isappinstalled=0#rd





文字部分如下：

这篇文的起源是《机械姬》，这是一部今年被广泛赞誉的电影，尤其是中间那段Oscar Isaac的90年代风Disco，我记得Variety是把它跟《低俗小说》中的兔子舞相提并论的，可见有多经典。



作为一个看了11季So You Think You Can Dance的业余舞蹈爱好者，不得不说Oscar Isaac的确是跳得出乎人意料的好，那大屁股扭的，那粗胳膊甩的，完全看不出是现学现卖的。据说最后上映的版本里舞蹈长度被剪掉了一半，真希望能挖到个全长的。另外负责任预告一下，Oscar Isaac肯定是要红的，因为他参演了新的星战三部曲（感觉就是下一个Ewan McGregor），他不红天道是不公的，因为他太他妈能演了，别的好演员都是演什么像什么，他不是，他是演什么是什么，不着痕迹地就演完了，这一点是小李子这流千八百辈子也学不来的（真的，同志们，我不是黑他，我是彻底地despise他）。

好的，离主题越来越远了。So，在看完电影以后，誓要死在冰岛的我兴趣点进一步地扩散，片子中Nathan在挪威森林中的Mansion着实抓人眼球，岩体直接融进屋内（屋内部分貌似不是在同一间房子里拍的），全木质和玻璃的外立面，简直就是北欧得不能再北欧了。


Legende：影片刚开场时Nathan打拳击的那个露台

于是我就google了一下，同样感兴趣的人还真不少，而且这房子还真实存在，是位于挪威Valldal的Juvet Landscape Hotel，现在这地方已经火了，不过性格的北欧人一点也没有涨房价，全年统一价1450挪威克朗（约1100人民币），对个体旅行者只在3月至9月开放。酒店只有9间房，每间房都保证有一至两个墙面是全玻璃的，可以从枕头所在位置看到瀑布、河流、山顶或是其它周围景观。



酒店的建筑理念是尽可能小地变动自然环境，保持原有的自然景观，房屋的建造没有带来任何的原地面改动或是岩体的爆破，只有支撑用的40mm粗钢筋扎住岩体形成底座，而房间就都是像搭积木一样堆在了底座上面。



酒店由旧农场改造而来，目前现有的建筑一共建造了5年，与其它酒店所有房间都集中在一个大建筑中不同的是，Juvet的所有房间都呈伸展出去的状态，有趣的是，房间里没有窗帘，但是任意两个房间都是彼此看不到的，很好地保证了私密性。



酒店所有的室内室外木质结构均在当地制作完成，只有玻璃的安装动用了外援力量。总体来说，Juvet Landscape Hotel就是典型的Modern Nature风，绝对要列入有生之年系列。



接下来，本着没有最美，只有更美的精神，我找到了这家酒店的设计公司，然后我又震惊了，我被北欧人的简约精神深深地震撼了，这家建筑设计公司的网站只有一个页面，出现的信息如下：名称+地址+邮箱+告诉你我们目前不招聘+告诉你详细资料请发邮件+facebook页面，没了。还好他们的facebook上有很多的项目照片，虽然不是官方的宣传图片，不过也能看，再加上我乱七八糟找的图片，于是下面就主要贴图了，我也不是建筑专业的，没法给大家赏析了。

在开始之前，先简单介绍一下这家公司。Jensen & Skodvin Architects，成立于1995年的挪威建筑公司，创始人Jan Olav Jensen (1959年生) 和Børre Skodvin (1960年生)都毕业于奥斯陆建筑与设计学校，并且目前也在这所学校客座教学。这家公司在建筑领域拿过不少奖项，设计哲学是“最终的外形是自然、选择和特定设计表达的结果。”

公司成立初期的代表作品为挪威旅游路线上的Liasanden休息区域和Videseter瀑布观光护栏。


Liasanden休息区域

这是一个景观设计项目，占地1500平米，从图上完全看不出的是这其实就是非常普通的高速公路休息站。其实从这个项目已经可以看出Jensen & Skodvin Architects的风格理念：选址偏离主路300米以融进自然环境中，整个建筑过程中不需要对原地面进行任何改动，而只是往上面加东西，300米的进场道路在原有松林中穿行，为了不影响原始地貌，路的宽度也是从2米至12米不等，整个项目没有动过一棵松树，并且施工过程中也是非常注重工艺，对数的根茎和周遭地形绘制了非常详细的图纸，目前所有松树都还活着。


Videseter瀑布观光护栏

这是一个非常小的项目，金额仅为5万欧元。看似非常简单，但是由于要追求尽大程度地保留原始岩体，所以需要进行非常详细的测绘，施工也是由于需要适应地势变化而无法统一预制，所有钢管和下侧的垂直版都是现场制作的。

再来看一个他们2000年之前的项目，这回是一座现代建筑风格的教堂。不怎么关注建筑的人可能会觉得新奇，但其实在德国以及北欧等建筑设计比较发达的国家，有许许多多风格独特的现代教堂，Jensen & Skodvin的这一座还算是不怎么“突兀”的了。


Mortensrud Church

这座教堂拿过不少奖项，包括2003年欧洲钢设计奖，2003年挪威钢结构建筑奖，Jensen & Skodvin也因本项目获得了2003年的格罗什奖章(Grosch medal)。2007年，该建筑被封为挪威战后最重要建筑。建筑共分为两个部分，教堂和布道中心，教堂内部的地面也不是水平的，而是随着地势有0.5m的高差。还有一个有趣的地方是，教堂的圣坛不是正中的，而是稍微偏向东侧，圣坛上有三块石头，分别来自柏林墙、罗本岛（囚禁曼德拉19年的地方）和耶路撒冷。

2000年前的项目最后放一个奥斯陆机场停车楼，这种神来之笔脑洞得要开多大才能设计的出来啊。



下面三张图是2003年的两座奥斯陆地铁站项目。



另一个挪威的修道院项目Tautra Abbey，这回是木质结构，同样非常的漂亮。



接下来，来看一个非常接地气的厕所。除了地上其它部分都是草覆盖的（人工的），水槽是透明的，同样作为灯来用。



在回到农夫山泉之前，还想放一个有生之年系列的酒店项目。这回两个人终于走出了挪威，来到了另一个冰天雪地的地方，奥地利。这是一个阿尔卑斯脚下的温泉酒店项目，看图片规模还不小，酒店有着典型的Jensen & Skodvin风格，木材加玻璃，既实用又美观。貌似酒店房价也不高，可以关注一下。



其实JSA是一家专注于进行挪威民宅设计的小公司，公司规模不大，两个创始人也是花很多的时间去传道授业解惑，再加上本身的风格属于贴近自然的风格，不喜用混凝土的偏好也是对他们自己有了一定的限制，这几乎就相当于对所有的大型项目say no。不过设计就是这样，每个人都有自己的风格，有自己擅长的领域，也正是这种多样性才给了业主更多的选择，从而才能出现这么多各色各样的精彩建筑。

我给这篇文章取了这么个奇怪的名字，一方面是想让更多的人点进来看一下，另一方面也是按照这家公司作品的时间顺序，农夫山泉的景观设计正好是最新完成的一个项目，同时也与我们更加贴近，所以最后就用农夫山泉新的抚松水厂的图片来结束这篇看图说话。抚松工厂位于长白山北麓，四周是一望无垠的森林，同样处于冰雪皑皑之中。



项目最初的草图于2014年完成，同年夏季和秋季完成了施工图纸的绘制，图纸总数加起来近千张。项目最终于2015年1月建成，Jensen & Skodvin对此速度表示无比惊叹，说是如果是在挪威，同样的项目现在应该还处于前期阶段，还是一大堆人在讨论项目执行的主要阻碍有哪些（社会主义优越性完全体现了，还有话说农夫山泉真有钱）。另外，他们还对施工人员的施工精准度和工艺水平表示赞叹。说到这，作为同样是土木工程行业的我，不得不跟大家多说一句，中国工程施工质量角绝绝绝大多数是没有问题的，不要乱信媒体的胡乱猜测，没有那么多豆腐渣工程，中国建筑走不出去是因为设计太丑，太丑，太丑！

影片最惊悚的片段，我觉得是男主在看到一堆以假乱真的机器人尸体和高度智能的Ava后怀疑自己是不是人，而在镜子前用刀片割破自己的胳膊。

影片中对图灵测试的标准的谈论闪烁其辞，男主因为对机器人动情就认为ava通过了图灵测试。

那么高度智能的ava到底能不能算人？或者说区别具有自由意志的个体，与机器人的标准，到底是什么？是人工智能，感情，或者伦理，自由意志？

首先ava肯定具有智能，而且是比人类高的多的智能，能够完成复杂的任务。但这不能说明她是一个生命体。
——人工智能不是判断是否为自由个体的标准。

ava为了逃出去而欺骗和杀人，也不能说明她有自由意识，她只是没有人类伦理道德那一套。人类伦理的那一套，是人类社会为了集体生活而设立的，人类通过社会生活习得伦理道德。对机器人而言，伦理可以被当成指令编进程序，然后在进行选择时依据这一套伦理做出行动，但这不是真正的伦理。
如果让机器人自己在和人类互动的过程中习得伦理，形成了应该是一套人与机器人相处的伦理、或者机器人与机器人之间的伦理。当然，形成自己的一套伦理需要“自由意识”，自主形成伦理已经是“自我意志”高度发展的结果了。
——伦理道德不能作为判断是否为自由个体的标准，除非它是基于自由意志形成的。

ava欺骗男主感情，最后抛弃了男主。说明ava不具备人类一样的感情？所以ava不是自由个体？不能这样说。因为ava如果是一个自由个体，一个生命种族，她可能具有自己的情感方式，不一定非和人类一样。
——所以感情方式并不是判断是否为自由个体的标准。

ava具有逃出去的愿望，影片没有交代逃出去是一个编好的指令，还是ava自带的愿望。有可能富豪科学家给了所有机器人一个逃出去的指令，智能不够的机器人只能敲打玻璃等等，ava具有高智能所以会通过欺骗寻求帮助。
如果说ava逃出去的愿望是自带的，能做具有自由意志吗？
我们来对比一下动物，一个生命体在何种情况下会天生具有逃出去的愿望？一个犯人可能为了逃脱耻辱，追求更好的人生享受而越狱；一只吃饱喝足的猩猩可能因为笼子里很无聊而想逃出去；一只草履虫，可能因为没有充足的食物而四处挪动；一个神经细胞就像接到一个要不停接受刺激的指令，而动个不停。

意志由最基本的指令构建而成，就像一群同一方向飞翔的蜂群，接受的指令只是跟着旁边的蜜蜂一样。而自由意志，是基于社会生活的更复杂的叠加。初生的婴儿只是想要吃和舒适，慢慢长大被糖果诱惑着学会评判好坏，因互助的需要习得道德。根据自己个体经验的积累，理解并追求某种价值。每个生命体在最初被注入最简单原始的使命，也许只是动啊动，吃呀吃，性快感呀性快感。
一些生物学的观点认为生命具有繁殖的原始欲望。我个人觉得，这也很难确定。想要繁殖后代的人，有一种后代可以代替自己的意识而存在的幻想，这是一种很多动物都有的低层次的意识。

自由意识是意识和刺激叠加的产物，如此说来，绝对的自由意志，并不存在。——所以自由意志并不能作为区分自由个体和机器人的标准。

所以如果给机器人几个与生命体相似的初始欲望，足够的智能，机器人是能够成长为一个自由个体的，一个不同于人类的种群。只不过这个种群的个体不会繁殖。

生命体通过繁殖来达到自我意志一直存在的幻觉，不会繁殖但拥有高智能的机器人种群有可能通过什么手段来一直存在呢？我觉得直接上传自我意识到很多具机器人身体里。世界可能会变成几个机器人的意志所统治的世界（笔者脑洞惹）。