2027年的5000万智能机器，希望还是毁灭？

“在马上到来的2027年，有一个超过5000万台天才智能机器的强大国家，我们该如何应对？”

Dario 最新发了一个2万字的长文，《the Adolescence of technology》（技术的青春期），这是继他个人2024年10月份的《The Machine of Love》（慈爱的机器）之后一篇重要文章，也是一篇富有前瞻性，充满深思熟虑，且包含了对于人类未来深刻善意和期待的文章。

Dario应该是当下这个时代里对于未来十年里影响最大的几个人之一。这样的几个人，应该还有马斯克, 哈萨比思, Sam, 黄仁勋，Ilya, 当然还有中美两国元首。而Dario 感觉是其中最富有理想主义而且充满善意的人，只是对于中国的发展一直极度排斥和超级警惕。

Dario上次那篇文章《慈爱的机器》是充满了乐观主义的对于AI所带来的人类美好未来的畅享，但是这一篇核心则是对于AI的警示和思考。为什么呢？首先应该是AI过去两年的发展速度甚至超出了他自己的想象。要知道，三年前的AI还不会做小学三年级的数学题，而现在的AI已经可以替代人类最顶级的程序员完成最复杂的编程了。 

文中他提出了powerful AI的概念:  

• 这些机器的智商以及在各个领域的知识和认知能力超过了各领域的诺贝尔奖获得者，也就是说不管是在编程、数学、工程和写作领域的能力都超过了当世最优秀的人类。

• 能够通过各种界面远程操作物理设备，包括机器人等。不仅能被动回答问题，而且可以自主完成数周数月才能完成的复杂任务。

• 对于信息吸收的速度是人类的10倍到100倍；可以独立运作，也可以互相协作。

时间点上，Dario觉得可能是一到两年里，也就是2027年就可能实现。 这一点预估的激进程度，与马斯克基本接近。

Dario提出和回答的问题就是：假如就在马上到来的2027年，有这样一个超过5000万台智能机器的天才之国，我们该如何应对？

某种程度上来说，Dario像辛顿教授一样，在亲身体验和面对着AI的快速发展的同时有了越来越多的担忧和焦虑。这一篇文章的核心，是呼吁和号召世界各政府，各大企业行动起来，共同通过协作和立法，建立好防御，不让AI的发展进入文中所说的五个危机和陷阱里。

五个危机的第一个就是如何避免让这些超级天才的机器们不会攻击和伤害人类。AI会不会有自己的价值观和意图？会不会形成自己的目标和权力导向，进而发展出自己的人格。这个是人类面对AI发展最大的未知和挑战。

这方面，Anthropic 自身做的是建立大模型宪法，给大模型输入价值观和原则，好像父母养育一个孩子，目标是培养出有道德的，平衡的，做事深思熟虑的人。 当然，仅仅立宪法是不够的，还需要去研究AI操作的可解释性，了解AI的行为模式和轨迹，从而更好的应对。此外，就是自身从内部到外部的监控。同时，自己一家这么做是不够的，这个防范需要的是从政府层面联合所有的大模型厂商一起确立规则，立法。 如果做到这些，Dario文中是表达了乐观可以应对机器的自主风险。

如果我们可以避免强大的AI去攻击人类，那么剩下的是如何避免人类自己利用AI来破坏世界、或者控制奴役人类自己。这就是Dario谈到的危机中的第二个是不法分子利用AI来进行破坏，以及第三个一些集权或者专制政权拥有了更强大的AI之后统治世界。 AI所拥有的能力，包括全自动武器，人工智能监控以及AI对于宣传意识的灌输在结构上就天然有利于集权和专制政府的统治，如同1984书中描述的一样。

这方面，Dario提出的除了对于模型公司的监控，政府的立法，国际规范等，最终是要民主的制度来保障AI的福祉和方向。 不过，这方面，其实矛盾和悖论很多，Dario自己都心有疑虑。

第四个和第五个危机是AI快速发展所带来的生产力高速发展，对于人类劳动力的替代，以及其他不稳定的风险，比如生物学风险，黑镜成了现实，还有人类生活的意义等。

关于就业冲击，Dario说AI首先冲击认知能力较弱的人。那这个认知能力较弱是指什么呢？AI不是直接冲击的是写字编程的知识分子吗？这个认知能力较弱应该指的是适应性差，对于AI的学习和协作能力跟不上的人。因为他们最难通过再培训找到新的经济角色。

那什么是高认知能力的人呢？就是更能适应新工作，更能利用AI放大自己的生产力，更能转向需要判断、协调、创造的岗位，更能成为AI的管理者、监督者、整合者。这个冲击和替代应该也是阶梯和渐进式的。

不过，关于AI替代人类劳动，从文中来看Dario本质上也是相信这种替代是不可阻挡，不可逆的，人类最终要脱离经济生产力的创造体系。 这个过程有多长？很难预估，即便是Dario所说的强大的AI在2027年实现，对于整体人类经济工作的替代应该也是有个十年二十年甚至更长的渐进过程的。还是希望这个过程能够更长一些，更缓一些，让我们能够慢慢适应。 

那么最后的问题还是，人类未来的意义在哪里？

Dario这方面的观点是明确的。 在AI时代里，人类要打破传统和历史所形成的人生意义与经济创造之间的必然联系，我们的意义不取决于我们是否创造了生产力价值，不取决于我们挣了多少钱，不取决于我们是否在某个领域做到顶尖。“我们可以从自己热爱的故事中和项目中，在漫长的岁月中找到意义。” 

其实想一想，人类历史上是有很多岁月里，意义和价值不是一定要与经济活动挂钩的。比如文艺复兴的时期，春秋时期百家齐放的时代，哲学、思想、文化是社会的一个主流。当生产力已经都由AI来实现，物资可以极大丰富的时候，如特斯拉最新的公司使命 — build a world of amazing abundance （创造一个惊人丰裕的世界），人类都可以随心所欲的个性化的生活，自由自在做自己喜欢的事情，没有规则，没有统一的路径，那么是否有可能进入新的文化的繁荣时期，进入一个新的文艺复兴呢？

未来五到十年这世界未来面临的困境和矛盾，不是AI的速度慢，不是担心powerful AI 实现不了，而是面对AI发展面临的悖论、矛盾和囚徒困境。

如果因为担心发展过快失控的话减缓发展的话，会面临其他竞争对手的企业或者国家在拼命向前而造成自己落后的局面；加大监督力度以避免个体滥用又有可能增加国家和政权暴政；生产力的快速飞涨，财富的增加是否会普惠民众还是会带来极大的财富和权力的集中，等等。这些面临的风险之多，还有各种潜在的未知风险，构成了人类面临的前所未有的艰巨挑战。

文中最后一段话，Dario 充满感性的号召， 也把最后的希望放在了人类的勇气和品格的力量。正如好莱坞电影中所演绎的，这种力量总是在最黑暗的时刻能够凝聚起来，拯救人类，带来光明。

“未来的岁月将无比艰难，对我们的要求远超我们自身的能力。但作为一名研究者、领导者和公民，我见证了无数勇气和高尚品格，足以让我坚信我们能够战胜困难——即使身处最黑暗的境地，人类也总能在看似最后一刻的力量和智慧中凝聚起胜利的希望。我们刻不容缓。”