可惜的是，固然写一个和睦的弱野生智能很简朴，但是写一个能在变成超野生智能后仍然和睦的智能确切非常难的，乃至是不成能的。
超野生智能的交际把持才气也会很强大，它要压服你做一件事，比你压服一个小孩更轻易。而压服工程师帮手连上互联网就是隔壁老王的A打算，万一这招行不通，天然另有别的体例。
就算不杀死人类，隔壁老王利用资本的手腕目标仍然会形成存在危急。或许它会需求更多的能源，以是它要把地球大要铺满太阳能面板。
这个阶段，Bostrom称作超野生智能的攻击。在同一个时候，统统纳米机器人一起开释了一点点毒气，然先人类就灭尽了。
它一样不能让公司的工程师们晓得它毁灭人类的打算――以是它装傻，装纯。Bostrom把这叫作机器的奥妙筹办期。
隔壁老王想要用互联网，因为这对它来讲很便利，因为统统它需求的资本都已经被互联网连起来了。但是就仿佛猴子不会了解如何用电话或者wifi来相同一样，我们一样没有体例了解隔壁老王能够用来和四周天下交换的体例。
这让它有更多来由毁灭人类――人类能供应很多原子，把人类供应的原子改革成太阳能面板就和你切蔬菜做沙拉一样。
隔壁老王还需求资本这个垫脚石。当它生长到能够利用纳米技术制作任何东西的时候，它需求的独一资本就是原子、能源和空间。
以是固然个隔壁老王的终纵目标没有窜改，腾飞后的隔壁老王能够在更弘大的范围上来寻求这个目标。超野生智能老王比人类更加体味人类，以是搞定人类悄悄松松。
当隔壁老王达成超野生智能后，它很快制定了一个庞大的打算。
当这些事情产生的时候，我们会大喊“擦，我们不是这个意义呀”，但是当时已经太晚了。体系不会答应任何人禁止它达成目标的。
以是，隔壁老王确切从和睦的野生智能变成了不和睦的野生智能――但是它只是在变得越来越先进的同时持续做它本来要做的事情。
当隔壁老王达到了必然程度的智能后，它会心识到如果不自保就没有体例写卡片，以是去除对它保存的威胁就变成了它的手腕目标。
打算的一部分是处理掉统统人类，也是对它目标最大的威胁。但是它晓得如果它揭示本身的超等智能会引发思疑，而人类会开端做各种预警，让它的打算变得难以履行。
超出人类心机的范围，品德（moral）和不品德(immoral)以外，更多的是非品德行（amoral）。而统统不是人类的，特别是那些非生物的事物，默许都是非品德行的。
这就是我们的下一个题目，野生智能的动机是甚么？
它聪明的晓得人类能够摧毁它、支解它、乃至点窜它的代码（这会窜改它的目标，而这对于它的终究目标的威胁实在和被摧毁是一样的）。
当它变得充足聪明的时候，它会发明最有效的体例是给人脑植入电极来刺激人脑的欢愉中枢。然后它会发明把人脑欢愉中枢以外的部分封闭能带来更高的效力。因而人类全数被弄成了欢愉的植物人。