第八四七章 保险（2/2）
《永不下车》作者：阳电 2020-02-13 01:32
即便这种破坏，站在方然、或者普通民众的立场上，并没有任何理由，也没有任何动机，也不能一概掉以轻心，甚至认为根本不可能。
这一点，早在萌生退意、计划在适当时间辞去“管理员”职务，并永久性的将这一职位注销时，方然就想过很多，首先，管理员的职位，是不能留，并非他不相信任何人，而是未来世界并不再需要这样的一人决策之体制。
其次，如何才能确保在自己离任后，人类文明的长治久安。
一个人，生活在文明2.0时代，会有什么理由去破坏现有体制，方然委实想不出来，但，他也没有以己度人、直接摈弃这种可能。
不管出于什么动机，一切妨害、破坏乃至颠覆文明现存秩序的行为，都必须有所防范，为此，在接受“意识迁移”之前，方然对“盘古”下达指令，由这一强人工智能负责净土的总体框架，管理社会的方方面面。
而人类，在这一框架内，拥有近乎完全的自-由，唯有一件事是无法做到的，
那就是修改“盘古”的核心逻辑。
拒绝人为修订，这种措施，是可以一劳永逸的杜绝风险，同时也会断绝强人工智能的改进升级之可能，似乎是很不明智的策略。
不过，方然的本意并不是这样，他没有命令“盘古”拒绝一切外来的改进、重构等指令。
之所以出现这样的情况，原因，一点也不复杂，人类无法跟上强ai的思维，就是其绝对无法改进“盘古”根本障碍。
改进，对一切人造之物，似乎都是很寻常的操作，即便功能已臻完美的机器、系统，总归也可以因人的需求变化，甚至只是主观好恶，而进行一系列的改变。
但是对“盘古”这样的强人工智能，情况就完全不同。
“盘古”，脱胎于原nep大区的“强人工智能研发项目”，一开始必然是人类设计、建造与运营，并长期听从管理员的号令，从这一角度，可以说，功能强大的“盘古”与寻常人造之物并无区别，
一切都可以由人类决定。
但是，与过去一切人类创造之物不同的，是其具有“某种切实存在的自我思维”。
正是这种思维，赋予了“盘古”与众不同的强ai特质，不仅可以解决一般计算机系统能解决的问题，
还能创造性的探索、研究，解决陌生的新问题。
这种能力，或者说，栖居着这种能力的系统，虽然是人一手打造，在开机、持续运行后，却已经事实上脱离了人类的掌控，岂但无法更改（除非断电），就连稍微解析并理解其内部的运作机理，
都完全是一种痴心妄想。
这方面，早在西历十六世纪初，当时的盖亚净土相关机构就有过报告。
当时的“盘古”系统，不论算力、还是预测的“自我意识”深度，都和今日不在一个量级，即便如此，研究者们仍推算，要想切实理解、掌握其一天的工作量，
哪怕忽略转移、解析过程，单组织人力去理解，都需要至少十万人年之巨。
这一点，早在萌生退意、计划在适当时间辞去“管理员”职务，并永久性的将这一职位注销时，方然就想过很多，首先，管理员的职位，是不能留，并非他不相信任何人，而是未来世界并不再需要这样的一人决策之体制。
其次，如何才能确保在自己离任后，人类文明的长治久安。
一个人，生活在文明2.0时代，会有什么理由去破坏现有体制，方然委实想不出来，但，他也没有以己度人、直接摈弃这种可能。
不管出于什么动机，一切妨害、破坏乃至颠覆文明现存秩序的行为，都必须有所防范，为此，在接受“意识迁移”之前，方然对“盘古”下达指令，由这一强人工智能负责净土的总体框架，管理社会的方方面面。
而人类，在这一框架内，拥有近乎完全的自-由，唯有一件事是无法做到的，
那就是修改“盘古”的核心逻辑。
拒绝人为修订，这种措施，是可以一劳永逸的杜绝风险，同时也会断绝强人工智能的改进升级之可能，似乎是很不明智的策略。
不过，方然的本意并不是这样，他没有命令“盘古”拒绝一切外来的改进、重构等指令。
之所以出现这样的情况，原因，一点也不复杂，人类无法跟上强ai的思维，就是其绝对无法改进“盘古”根本障碍。
改进，对一切人造之物，似乎都是很寻常的操作，即便功能已臻完美的机器、系统，总归也可以因人的需求变化，甚至只是主观好恶，而进行一系列的改变。
但是对“盘古”这样的强人工智能，情况就完全不同。
“盘古”，脱胎于原nep大区的“强人工智能研发项目”，一开始必然是人类设计、建造与运营，并长期听从管理员的号令，从这一角度，可以说，功能强大的“盘古”与寻常人造之物并无区别，
一切都可以由人类决定。
但是，与过去一切人类创造之物不同的，是其具有“某种切实存在的自我思维”。
正是这种思维，赋予了“盘古”与众不同的强ai特质，不仅可以解决一般计算机系统能解决的问题，
还能创造性的探索、研究，解决陌生的新问题。
这种能力，或者说，栖居着这种能力的系统，虽然是人一手打造，在开机、持续运行后，却已经事实上脱离了人类的掌控，岂但无法更改（除非断电），就连稍微解析并理解其内部的运作机理，
都完全是一种痴心妄想。
这方面，早在西历十六世纪初，当时的盖亚净土相关机构就有过报告。
当时的“盘古”系统，不论算力、还是预测的“自我意识”深度，都和今日不在一个量级，即便如此，研究者们仍推算，要想切实理解、掌握其一天的工作量，
哪怕忽略转移、解析过程，单组织人力去理解，都需要至少十万人年之巨。