温和的走入奇点时代

Sam Altman 的最新文章，题目是The Gentle Singularity, 温和的奇点。 Sam 在推文中说，这大概是他最后一次没有AI帮助的写作了。 

“Do not go gentle into that good night. 不要温和的走入那个良夜。”这是我看到这篇文章的第一眼想起的那句诗。

Sam 用了gentle 来定义即将到来的singularity,  温和的奇点，这个词似乎是这篇文章的核心。那曾经冲击力十足的，奇幻般的，不可思议的，遥远的，奇点时代，就已经变成温和的了?  

为什么变得温和了？是否因为，它已经不是一种遥远而模糊的想象，而是一个已经行将发生的，越来越清晰可见的不远的将来；是否因为，我们已经在或多或少的体验这个奇点给我们带来的改变；是否因为，不论喜欢与否，我们都将不可抗拒的走入这个奇点时代。

在这篇文章里，我们可以看到Sam对于超级智能的到来已经是非常笃定和平静，而且时间也很确定，就是在2030年代，也就是十年之内，我们就会进入这个智能与能量近乎无限充裕的时代，一个前所未有的时代。

在这个时代里，AI不仅能写出一个优美的段落，而且能写出一个优美的小说；AI不仅能做出救人性命的诊断，而且能研发出治愈疾病的疗法；AI不仅能编写出小程序，而且能创建和运行一家新的公司。 奇点时代里，这些奇迹成为了日常的生活陪伴。 

奇点时代里，智能和能量都将是无限充裕的，也就是说我们几乎可以创造出我们所有的想象。 唯一缺失的，只是好的想法。 

AI发展的高级阶段是AI research,AI研究。用AI来加速科研的速度，让过去要十年实现的研究能够在一个月里实现突破，从而解决人类面临的各种研究困难，包括一些重大的疾病突破。 再进一步，机器人开始能够自我复制，也就是自主制造新的机器人，包括数据中心等各种基础设施，那就必然带来经济发展的十倍速增长。当然，也让马斯克的火星移民计划更加靠谱。

这时候，我们面临的将是社会体制的挑战。当AI生产力带来社会财富空前增长的时候，社会将如何分配这些财富？会不会带来财富和权力的高度集中，也就是集中到哪些极少数的掌握了AI权力的人们手中，而剩余绝大多数人过的非常悲惨？这取决于superalignment是否能够同步于AI的发展，取决于世界各个国家和地区在奇点时代的治理机制。 这个机制如同AI的能力一样，在世界各地应该也是分布不均匀的。 

Sam这里对于工作机会基于历史做出了一个乐观的假设，就是AI的奇点时代会如同工业革命的蒸汽机时代一样，经过阵痛之后会给社会带来更多的更丰富的就业机会，人类会因为掌握了空前强大的工具而能够创造出更加奇妙的东西。 十年后，人们依然可以通过自己的创造力和想象力来实现伟大的突破，比如登陆火星。 但是这个假设目前只是基于历史的轨迹，而并没有确凿的逻辑，更多是一种期待或者是共同努力的方向。 希望如此。 

如同Ilya前几天的演讲所说，AI带来人类巨大的机遇的同时也带来巨大的挑战，也许是前所未有的挑战。 Sam作为一个乐观派，也清楚的知道这个面临的挑战。文章里提出了两个准则，来更好的应对AI发展的未来：

第一个就是解决AI对齐的问题，让AI始终能够朝着全人类想要的方向行事。社交媒体的信息流就是一个没有对齐的错误例子，这种逐利的算法模式让人类的时间大量的被浪费在推送的短视频上了，而且这个趋势很难再逆转。

的确，信息流推荐是互联网自从搜索之后也许最大的一个人类获取信息方式的变革，但也许却是一个错误到可怕的变革。这个技术的创造者基于对于人性和技术的理解创造并让这个技术在诸多产品上开花并普及到数十亿人，用户们每天沉迷数个小时甚至十几个小时而不自觉，以至于作家王朔最近还说他经常每天刷短视频转眼十几个小时就过去了。

这个产品的创造者们应该都是不会沉迷于这些产品的，除非是为了体验，不知道他们的孩子们是不是会每天沉迷于这些产品，估计也都躲不开。

昨天和孩子看一个科幻动画片Wall-E,里面飞船上几百年后的人类都是全天候躺在自动轮椅上，目不转睛的对着屏幕，喝着营养液，各个都肥胖的丧失了基本的行动力。 不过这个电影是2008年制作的，那时候还没有信息流产品的样子。某种程度上来说，信息流推送和短视频也许是技术与商业发展的必然产物，这个人没有创作出来，其他人也会创造出来，就像原子弹。

一个文明的发展如同一个生命，必然有开始，也有终结，在其蓬勃发展的同时也会埋下消亡的引子。

第二个准则是让超级智能变得极其便宜无所不在，也就是让全社会所有的人都能够触手可得，从而避免让这样的能力只集中在少数国家，企业和个人手中。依靠群体的智慧来实现有效的纠错，从而让AI能够提供最广泛意义上的人类的福祉。 

通过分布式的民众的力量和智慧来避免AI的集中化带来的可怕后果，这个方法的问题是微小的民众的力量如何与掌握了强大的AI力量的国家或者企业抗衡。AI的发展带来的集中化，集权化是必然结果，财富和权力必然会越来越集中在少数掌握AI能力的集团手中。那弱小的民众们，在AI时代里，对于生产力的创造甚至消费都没有太大意义的民众们，如何能有权力与巨头们抗衡来实现平衡，乃至去纠巨头们的错呢？选票在未来时代里可能都没有太大意义，而且如何避免那个时代里的民众不被巨头意志的AI所影响？ 

区块链的分布式力量能在一定程度上来部署与中心化的AI权力进行抗衡吗？是否还需要一个像比特币一样天才的设计来把AI的权力和成果让最广泛的社会来持有并实现分配和制衡？希望如此，人类文明的历史本身就充满了奇迹和不可思议。 

“May we scale smoothly, exponentially and uneventfully through superintelligence.愿我们能够在迈向超级智能的征途中，平稳、以指数级速度且波澜不惊地前行。”

Sam在这篇文章里显示了对于在未来几年里实现AGI的超级强大的信心，这个信心也代表了哈萨比思，马斯克，Ilya等这些对于AI未来最有洞见的人们的看法。问题是，人类是否能够温和的走进那个奇点时代？我们又该如何能够温和的走进那个奇点时代？

不要温和的走进那个良夜

- 迪兰_·__托马斯 （_Dylan Thomas）

不要温和的走进那个良夜，

落幕之时的岁月应尽情燃烧咆哮；

怒斥，怒斥光明的消逝。

睿智的生命弥留时懂得黑暗是归宿，

因为激荡的闪电已不再属于他们的言语；

不要温和的走进那个良夜。

美艳的生命划过最后的旅程，呼喊浮生的易逝，

那绿色港湾中的舞台曾怎样明媚；

怒斥，怒斥光明的消逝。

澎湃的生命应追逐太阳并与之欢唱

懂得，如果太晚，那一路便只剩悲歌

不要温和的走进那个良夜

庄重的生命，临近死亡，当回顾炫目的景象

闭上的眼睛也能像流星般狂喜和闪耀

怒斥，怒斥光明的消逝

您呀，我的父亲，在我悲伤的尽头，

现在请诅咒我，祝福我，用你热烈的泪水，我求你。

不要温和地走进那个良夜。

怒斥，怒斥光明的消逝。