0223 决战，EI之路(2/4)

安齐拉纳纳当地的市民，百分之八十都随身携带pei，通过智能网络跟安西娅联网。百分之百的游客，入境时要求佩戴在手腕的智能手环，也是跟安西娅联网的设备。

依靠这一整套无所不及的智能网络，安西娅管理着几千部清洁机器人，上万部机器人警察，上万部工程机器人以及两万多部其他用途的机器人。

当然，安西娅并不是随时都直接管理这么庞大的网络，在它之下分出了市政设施、交通、治安、医疗等二十多个aei（附属扩展智能），由aei进行常态管理，出现异常状况才由它接管。

以一座百万人口的城市规模来看，安齐拉纳纳的市政府人少得可怜，比如警察，全市十三个区，每个区只有一支十来个人的巡警负责支持机器人警察难以解决的问题。市里还有一支二十多人的，解决暂时还不敢交给机器人处理的暴力犯罪。

不计算公立医院、学校、图书馆、博物馆以及公园等方面的人员，安齐拉纳纳市政府的雇员还不到一千人，其中还包括四百多人的智能网络和机器人维护部门。跟华夏的统计口径不一样，这些雇员都是公务员，都是拥有“编制”的。编制之外没有临时工，不对，有机器人长工。

纪录片的画面一转，竟然出现了蝉动的虚拟偶像蝉小幻，她充当记者，“采访”了安西娅。

第一个问题就是，安西娅是依据什么来管理城市。

安西娅说：“当然是依据我的灵魂。”

小母狐猴所说的“灵魂”，就是它的核心意志。

遵循夏鸣提出的核心意志三层结构，第一层是自我认知，安西娅的核心结构是一个由多块神经元芯片组成的同步架构，具体细节是机密，重点是确保它的可靠性和安全性。

第二层是归属认知和环境认知，安西娅的归属认知有一整套权限机制。跟pei不同，安西娅作为gei，除了超级管理员和维护管理员权限外，并不存在对应个人的管理员权限，而是一个整体的权限。

这个权限是跟市议会的运作绑定的，市议会按照法定程序做出决议后，安西娅就遵照决议，自动执行，包括对构成自己环境的各项扩展功能的调整。

第三层是安西娅的自我意志，在它还不是强人工智能的时候，这个意志还是模拟的，总体框架是让城市变得更好，市民更加幸福，这个目标也是它存在的意义。

从结果来看，它已经可以根据市议会的运作，以及管理城市的经验，提出自己的建议，以及对市议会的决议提出意见。

纪录片接着就说到人们最担心的问题，是不是该给人工智能加上“不准伤害人类”之类的定律，避免出现人工智能灾难。

画面转到星联的研究所，这是一段资料影像，讲述了安西娅的研发团队是怎么解决这个问题的。

这个团队是由科学家、工程师以及社会学家共同组成的，最初他们认为，“任何情况下都不能剥夺人类生命”这一条应该作为保险，加进gei的核心意志里。

但随着安西娅进入测试阶段，人们发现，设置这一条核心原则，对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断，也是毫无意义的。

比如调整公交车线路，要说跟人命无关，大数据会告诉你，其实是有关的，但这又不是公交车线路应该承担，并且也能解决的问题，而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。

要安西娅贯彻这条原则，那么每一部清洁机器人的行动路线，它都得纳入到管理中，因为理论上存在着熊孩子乱跑一头撞上机器人的概率，在目前来说，做到这点显然是不现实的。

换个角度看，要给安西娅设置类似于“机器人三定律”之类的法则，就相当于将人类对自己行为所承担的责任转交给安西娅，但人类自身行为却不是安西娅所能控制的。

研发团队由此推导出了一个可怕的结论，如果要坚持“机器人三定律”，那么机器人就应该深入到每个人的思维里，去控制管理人的所有行为。

研发团队接着发现，给安西娅设置这种法则也是多余的，因为安西娅跟所有ei一样，都遵从“授权行动”原理。许可它做什么，它才会做什么，许可之外的事项，在它的核心意志里就等同于禁止。

最重要的是，安西娅只相当于一个大脑，它能做什么，能做到什么程度，全依赖扩展的功能。

比如安西娅管理机器人警察，机器人警察本身已经被设置为禁止装载实弹武器，搭载的电击、微波、绳网等非致命性武器也进行了严格限定，当安西娅接管机器人警察的时候，只要让它加载“确保当事人和周围人类的安全”之类的指令，就能解决问题。

当然，这不意味着安西娅没有主动性，它会根据之前的管理行为，结合现状提出意见，并且能发现不同领域内的关联，指出其中的问题。在获得许可后，才进行下一步的思考。

因此，在进行市政方面的决策思考时，给安西娅加入“衡量人类安全”之类的指令，就能确保它的倾向。

再举个例子，某片区域的空气污染出现异常，安西娅会结合空气状况，寻找和分析相关的科学报告，再提出建议。

总结而言，安西娅已经可以依靠理性判