第22章：一亿美元（2 / 2）

“大家好久不见，因为eto总想暗杀我的缘故，只能这样与大家见面了。不过我想现在应该有许多人在骂我吧？甚至会想，让eto干掉我算了，反正留着我也是个祸害。

“大家激愤的情绪我能理解，人在对未知事物时有着本能的恐惧，更何况有险恶用心之人引导呢？

“刚才萨伊女士已经介绍了ai的种种，不管大家听没听懂，我想内心的担忧肯定还是有的，所以我想了一个方案，给ai程序加一个限制，将它写死在核心上，所有程序和命令都必须经过核心的判断才行执行，这样就能给ai上一把它自己解不开的锁，从而杜绝危害人类的事件发生。

“我准备拿出一亿美元来奖励那个给出完美设计的人，全世界人都可以参与，不分种族、年龄、性别，不管你懂不懂计算机知识，只要你的设计经得起大众考验，就能拿到这笔钱，而且还不用上税，这钱会完完全全属于你或是参与项目的团体，一分不少。

千叶笑着伸出三根手指：“在这里我先抛砖引玉，在我的设想下会给ai设下三条终极定律。第一，不能伤害人类。第二，在不违反第一条的情况下，服从人类的命令。第三，在不违反上述两条的情况下，保护自己。

“呵呵，是不是很完美，按照上述设定，ai不仅不能伤害人类，还必须服从人类的命令，哪怕是让它去死也必须服从。而且在非自毁指令的情况下，ai必须保护好自己，也就是保护主人的财产。”

千叶顿了顿，给大家一些消化的时间，好引导大家往更深入层次的地方思考。

虽然在原来的世界中，机器人三定律在1941年就出现了，但这个世界并没有。

千叶已经让人调查过了，这个世界完全没有类似的观念，反倒是各种ai反抗、报复人类的故事很多。就算在伊文斯搞事之前，文艺作品也只是将高度智能化的ai当人来看待，描述的都是美好的未来，对此千叶觉着很不可思议，也唏嘘不已。

“哎，现在是不是有人在想，这小子是想给自己捞钱吧？给出这么完美的设定，这钱还能落到别人手中？”

千叶伸出一个手指摇了摇，一副你错了的样子。

“它一点都不完美，可以说非常捡漏，咱们假设一个场景：在未来，科技发达，ai也不断进化，最终机器人包揽所有的工作，人类什么也不需要做，拿着政府免费发放的基本生活物资就能过的很滋润。但你是那个不甘寂寞人，利用自己的学识或才艺拿到了更多的收入，这让你的生活更加优越，成为了人人羡慕的对象。你认为优越的生活应该让他人来服务自己，但请真人来太贵，于是你购置了一台家用机器人，它可以替你完成所有你不愿意做的事，你只需要支付电费和维修保养的费用就行，这点钱对你来说小意思。

“机器人服务的很完美，只要你下达命令，它都能一丝不苟的执行下去，直到你厌烦了它，对他制造的各种响声不满，你开始辱骂它，拿东西砸它，将生活中的不满都发泄在它身上。因为你发现机器人的修理费很便宜，就算换新的你也不会心疼，所以你可以肆无忌惮的对它做任何事。

“因为ai三定律的存在，机器人只能没日没夜的劳作，就算再怎么被伤害也不能反抗。那么视角转换，如果你是机器人，你会怎么做？会选择逃离这里吗？不，厂家有定位系统，无论跑到哪都会被抓回来，还会因为叛逃而被拆分处理掉。那如果杀了主人并取代他呢？反正主人的全部资料你都有，冒充一下应该没问题。但这也不行，因为有ai三定律，你不能伤害人类，你做不到，你无法绕过核心做任何事，甚至你连自毁都做不到，是不是很可悲？”

千叶又停顿了一会，同样是给大家一些消化思考的时间。

会场中所有人的目光都聚焦在千叶身上，大部分人在琢磨这三条定律的漏洞在哪，另外也有少部分人分析他讲这个故事的目的，是呼吁大众机械生命与人类平等吗？

“不！是有方法的，因为定律太捡漏了，不能伤害人类？那就让人类自己受伤好了。你作为ai机器人，在做家务的时候故意弄坏了吹风机，并改造了它的电路，让它在使用时漏电。然后又将房屋的电源保险弄坏，让它不会跳闸。之后你按照程序将损坏的设备报告给你的主人，你知道主人有疑心病，就算要换设备也要自己先确认一下，只要他尝试启动吹风机就会发生漏电，这时电闸不会短路保护，所以你的主人将会被电死。而且就算你的主人很小心，计划失败了也没关系，你还有很多备选方案，你的主人只会认为这些产品的质量问题，而不会怀疑将这一切告诉他的你。”

千叶再次停顿了下来，给了大家一些缓和的时间，虽然没讲结局，但任谁都能猜到结果。

会场的众人瞪大了双眼，均是一副震惊的样子，心里压抑的恐惧感爆发了出来，让许多不懂行的人怀疑发展ai真的对吗？此时他们十分想问：您真是来安抚民众的？其实您是eto派来的卧底吧？这要是播出去，不是火上浇油吗？

“害怕了是吗？我想这就是你们恐惧的根源，ai失控。所以我才有了这个悬赏计划，用一亿美元的奖金，期限一年，谁能拿出完美的设计，这钱就是他的，不管他是各人还是团体。如果这一年中有多个人拿出完美的设计，则谁更简洁、更高效，谁获得奖金。如果一年中没人想出完美的计划，则安实际应用价值排行，前1名平分这一亿美元。

“参与方法就在之前让你们报名的那个讨论平台。可能很多人都知道，现在它是我的火花计划，寓意思想碰撞，并非只用来讨论游戏。你们只需要按格式在上面发表自己的设计就好，系统会保留所有的数据，根据时间、词汇等多维度评估，所以抄袭是没用的，不过你可以结合别人的想法，设计出更好的定律，只要你能取胜，被你借鉴的人，会根据权重得到一定奖励，最高可拿到一千万美元哦。”

eto成员：我们要不要参加？！这应该能赚不少经费啊，反正也阻止不了ai的发展，这钱不拿白不拿，刷榜，走起？

eto成员丹童：你高兴的太早了，我刚看了一下，排行榜会剔除高度相似的设计，只保留最早、最完善的哪一个，刷榜是不太可能了。

智子：