人工智能危机(人工智能危机电影)

 

一万年前，人类的农业发展成熟，盈余的、可以长期保存的食物供养了大量不需要直接从事农业生产的人员，为文明的发展奠定了基础，让人类从飞虫走兽中脱颖而出，成为万物灵长。

两百年前的工业革命，极大地提升了生产力，人类文明开启了现代世界的新篇章。

如今移动互联网，5G又给我们的生活带来崭新的信息化生活。

回望过去，技术的发展进步尽管可能伴随着一些罪恶，但对于人类全体而言是积极的进步的。

畅享未来，科学技术的进一步发展会让世界更美好，实现物质丰富，人民幸福的大同社会，也会让人类飞出地球，在地球变得不宜居前，向着广阔的星海殖民，让人类文明的火种延续。

现实真的会这样吗？有没有另一种可能，科学技术会把人类带向末日，例如很多科幻故事中讲的人工智能危机，强人工智能自我意识觉醒，消灭了人类。一种观点认为技术的发展几乎必然导致文明的覆灭，这就是我们今天要介绍的脆弱世界假说。

脆弱世界假说的概念

粗略地说，在这种世界中，存在着某种程度的技术发展，在这种技术发展水平上，文明几乎肯定会毁灭，除非世界处于一种极强的政府监管状态，文明才可以苟延残喘。要有稳定脆弱世界的能力，就需要大大扩大预防性警务和全球治理的能力。

互联网小常识：SNMP优点：简单，易于实现、支持广泛、操作原于简捷、性能高。缺点：SNMP建立在无连接的传输协议之上，另外它是非面向对象的，不支持分布式管理。

科技的发展可以比作袋中摸球

科技的发展是摸着石头过河，在得到结果前，我们不会知道结果是好是坏。这好比从袋中摸球，迄今为止，我们摸到的球大都是白色的（有益的），例如植物、动物的驯化、指南针、造纸术、蒸汽机、电力等。也有少部分灰色的（有益也有害），例如核武器。核武器可以造成大规模伤亡，也可以通过制衡带来和平。很幸运的是，我们还没有摸出过黑色的球（纯粹有害）。也许对人类中的一部分群体来说，黑球事件已经出现过，例如航海技术间接导致美洲土著灭亡，航海技术可以看做是美洲土著的黑球。

如果袋里有个黑球怎么办？如果科学技术研究继续下去，我们最终会找到它并把它拉出来。一旦摸出这个黑球，就再也无法把它放回袋中。如果真的摸出这个黑球，我们该怎么办？

在深入讨论前，我们先看一个思想实验。已知目前最具毁灭性的力量是核爆炸，如果核爆炸武器非常容易制取，世界将会怎样？

一个思想实验：易制核武器

互联网小常识：网络服务器的类型可以分为：文件服务器、数据库服务器、Internet通用服务器与应用服务器。应用服务器是基于B/S工作模式的。

在我们的世界，制造原子弹需要几公斤的钚或高浓缩铀，这两种物质的生产都非常困难和昂贵。然而，假设事实并非如此:曾经有一种非常简单的方法来释放原子的能量，比如，通过放置在两片玻璃之间的金属物体发送电流，就可以产生核裂变！

在这个假想的世界中，西拉德发明了核裂变，并意识到可以用一块玻璃、一个金属物体和一个特殊配置的电池来制造核弹。尽管西拉德守口如瓶，然而，技术发展以及不可避免地走到了那一步，很快，研究如何用金属、玻璃和电来启动核链反应将不再需要天才，而是任何有创造性思维的学生都能做到的。

为了防止这种易制核武器的方法流传开来，政府采取了严厉的措施：所有大学的物理系都必须关闭，并启动安全检查。大量的教师和学生将被迫离开。人们会对所有这些严厉措施的原因进行激烈的猜测。被禁止进入他们的研究领域的物理学博士和教师们会围坐在一起，猜测可能存在的秘密危险。

另一种方法是消除所有的玻璃、金属或电流来源。考虑到这些材料的普遍性，这样的任务将是极其艰巨的。为这些措施争取政治支持并不比叫停物理教育容易。 为了执行这些规定，社区将受到严格的监控——告密者网络受到高额奖励的激励，警察频繁突袭私人住所，持续的数字监控，等等。

这是乐观的设想。在更悲观的情况下，易制核武器被大量制成并投放，法律和秩序将完全崩溃，社会可能分裂成派系，发动核武器内战，造成饥荒和瘟疫。只有当社会变得如此衰落，没有人能够再用储存的材料或城市废墟的碎片组装炸弹和延迟引爆器时，毁灭才可能结束。

如果文明再次开始从灰烬中崛起，知识就会在那里等待，一旦人们再次学会如何制造平板玻璃和电流发电机，易制核武器会再次出现，新一轮的毁灭会再次开始！

这是多么可怕的世界！

脆弱世界假说很可能是对的

也许有人会反驳，说我们的世界不是脆弱的，像这种玻璃和金属制成简易核武器的技术在现实中根本不会出现，毕竟玻璃可能在火山活动的地方出现，金属在自然界也随处可见，也没见到自然界自发出现核爆炸呀。反对者会认为我们的文明发展了这么久，两次世界大战也没让文明毁灭，足够证明文明不是脆弱的。

然而我们的世界仍很有可能也是脆弱世界。原因有二，一是科学技术爆炸式发展才两三百年时间，发现和掌握的技术数量比较有限，没有从袋中摸出黑球算是一种幸运。未来人类还会持续发展科技，没有人可以保证未来不会从袋中摸出黑球；二是脆弱世界的种类有几种，简易核武器所涉及的只是属于其中一种，脆弱世界完全可能是表明呈现得很温和，但背后却不知不觉地走向末日。文明的毁灭也许不是在烈焰中瞬间化成灰烬，而是在漫长的挣扎和呜咽中逐渐衰亡！

下期我们将详细了解脆弱世界的几个种类，举例介绍它们，并讨论如何应对。

互联网小常识：交换机的交换结构分为软件执行交换结构(早期)、矩阵交换结构（较少）、总线交换结构（应用比较广泛）和共享存储器交换结构（小型交换机）。

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186