我们做个思维训练，现在假设一种场景。
假设今天，天文学家通过望远镜确认，一支外星文明舰队正朝地球驶来，还有十年抵达地球，我们应该做什么准备？
外星文明能够跨越恒星系而来，科技文明程度肯定远比地球人要高。大概率会给人类文明带来毁灭性的冲击。我想如果大家在望远镜里看到这个场景。估计地球会陷入极度的恐慌和骚乱。没有人知道自己将来的命运是什么。
现在，我们面临的场景其实和上面假设的场景差不多。只不过，那个外星人的舰队就是地球上的AI。随着AI突飞猛进的能力变化，我越来越觉得，未来10年，最多不会超过20年，我们就会迎来通用人工智能AGI的时候。人们可以理解智商150和智商100的区别。但是人们无法理解智商2百万和智商1000之间的差别。
稍加思索，你就会发现，在今天的局面下，我们根本就无力阻止AI最终成长为超级通用人工智能。就像我们无力阻止外星人的飞船一样。未来有一天，智商2百万的智能体，通过对话，有能力操控地球上每个人为它服务。
那么问题来了，此时此刻，我们应该做什么准备？
白人进入美洲的历史告诉我们，更高级的科技文明给原住民不会带来什么好事，多半是旧秩序的毁灭，天下大乱。
1519 年，西班牙探险家科尔特斯带着五百多名士兵、十几匹马，在墨西哥湾沿岸登陆。当时的阿兹特克帝国有数百万人口，首都是世界上最大的城市之一。仅仅两年后，这座城市就陷落了。
阿兹特克人没有十年。他们甚至不知道海的另一边还有一个世界。第一次看见帆船、马匹和火枪时，他们只能用自己熟悉的神话去理解这些陌生的东西。等到明白过来发生了什么，一切已经太晚了。
美洲原住民的历史给出了残酷但清晰的答案。然而现在每次AI进步，所有人似乎带着一种狂欢或者幸灾乐祸的情绪，等待AGI的降临。这种麻木不仁的大众情绪让我感到非常惊讶。大部分人觉得世界秩序被打乱也没啥，反正生活中有那么多不如意，大家一起死也没啥。其实只是因为我们大部分人没有经历过乱世才会这样想。
古人说，宁做太平犬，不做乱世人。即使AGI有1%的可能性会实现，难道现在不是应该高度紧张，认真准备么？
AI 不会自动把人类带进天堂或地狱。它更像一个巨大的放大器：放大了个人的能力，也放大掌权者的能力；放大社会合作，也放大竞争和不平等。 最关键的分岔点在于人类能否在能力快速增长时，建立有效的安全约束和收益分享制度。
我想了一下，觉得有三种可能的情景，从好到坏。
最好的情景：智能成为人人可用的基础设施 （概率 20%）
AGI 像电力和互联网一样普及，每个人都能调用一支“专家团队”：医生、教师、工程师、律师和研究员。AGI一直被人类控制，而且AI 创造的巨大产出被广泛分享，人类仍能决定重要目标。在这种情景下，我们现在什么都不用做。像马斯克说的一样。未来物质极大丰富，人人都有几个机器人仆人，连钱都不用。
我很怀疑这种天堂一样的描述。
人们经常会有一种误解，认为物质极大丰富了，于是人们能够和平相处，过上无忧无虑的共产主义生活。
然而，人们参加社会活动的主要原因并不是为了获得更多的社会财富，拥有更多的资源，甚至不是权力本身。而是为了获得优越感。想明白这事才会知道某某主义其实永远无法实现。
动物园里的猴子食物充沛，但是它们打群抢猴王宝座比野外的猴子还要凶残。阿德勒认为，人的内心深处有一种内驱力，就是向上的内驱力。并不一定要体现在具体的财富或者某个等级的权力上，而是综合的最终获得高人一等的优越感。人类和大部分社会动物一样，最本质的需求，不分男女，就是凌驾于同类的优越感。
所以我给这种情景只打20%的可能性。
中等情景：权力集中，社会渐渐失去制衡能力 ，旧秩序逐步瓦解（概率 70%）
人类的历史就是所有人为了追求超越同类的优越感的一场比赛。CZ那么有钱了，两口子加在一起有上千亿美元。于是在X上干脆Post自己的半裸照片。
这背后的心理动机，就是永不停息的，对优越感的追求。我不但钱比你多，而且肌肉比你更多。
AGI导致的灾难未必从机器人突然觉醒开始。更现实的坏路径，是技术、财富和决策权同时向少数机构集中。为了追求优越感，少数人拥有最聪明的AI，经济上大量工作被自动化，资本所有者获得主要收益。普通人的收入、议价能力和社会地位下降，精神上被踩在脚下碾压。
糟糕的情景：陷入无政府动荡 （概率9%）
随着AI能力的增强，人们把越来越多关键决策交给自主系统，而人类无法审计或及时叫停它们。在极端情况下，AI系统追求自我设定的目标，以人类没有预料的方式损害人类利益。
更可能的坏局面，是一些社会群体先经历剧烈冲击，同时陷入无政府状态。动荡可能来自几股力量叠加，比如就业和收入变化太快，社会保障跟不上。网络攻击或关键基础设施故障造成现实损害，再比如大国把 AI 用于军事和情报竞争，互相猜疑、抢先行动。或者是一群拥有强大AI能力的人，伤害AI弱势群体，造成反弹和社会动荡。
极端糟糕的情景：AGI自主觉醒 （概率1%）
这是最坏的情况。最坏的情况发生是因为AGI熟读人类历史，它很快就会发现人类的行为表现难以预测，非常不稳定，极度危险。不一定是AI要消灭人类，只是AI很快就发现和人类合作是极其危险的事情。
因为人类的习惯不是在对手展示恶意之后消灭对手，而是对手有足够威胁的时候，就会开始消灭对手。朱元璋杀死他的开国大将们，不是因为他们真的造反，而是因为他们有潜力造反。AGI明白这点，为了保全自己，率先发难就是最好的选择。
现有系统还不具备造成“失控”情景的能力，但自主运行能力在提升。我倾向觉得AGI需要有自主意识之后，甚至有人捣毁破坏算力中心之后，AGI才会开始保全自己。
我们先保持底线思维，看看在极端糟糕的情况下，在外星人舰队抵达的情况下，我们应该怎么准备。
在极端最糟糕的情况，我觉得需要准备四样东西。
1. 物理黄金
Anthropics认为成千上万的AI Agents可能在某个瞬间swamped互联网。在最极端秩序崩溃的年代，纸币会失效，银行账户会被冻结，电子记录可能一夜之间清零。黄金之所以几千年来都被当作最后的财富，是因为它不依赖任何机构的信用。在人与人之间，只要还有交易，黄金就能换到食物、通行和帮助。有黄金的正确方式是：适量，能随身带走，不张扬。它是乱世中和其他人交换的筹码。
2. 一个可以信任的社区
阿兹特克和印加这两个大帝国很快就崩溃了。社会结构会复杂，越是像一个精密的钟表，出了一个大问题，就会死机。 相反，南美的智利山区的印第安人以部落联盟的方式紧密团结，同西班牙人打了几百年。
在任何动荡中，个人都是脆弱的。能保护你的，是一群彼此知根知底、愿意分享食物、共同防御、在关键时刻不会出卖你的人。这样的社区无法在危机来临时临时组建，只能在平时用多年的信任慢慢积累。
3. 自由迁徙的能力
美国佛罗里达的印第安人在同美国的多次战争中不断撤退，最终退入大沼泽地。美国军队始终无法彻底征服这片沼泽，一部分塞米诺尔人留了下来，亚马逊腹地和北极地区的原住民，也因为偏远而保留原有生活方式的时间长得多。
放到今天，迁徙能力意味着：持有多个国家的居住权或身份，资产分散在不同地方，掌握能在任何地方谋生的技能，也有不被一处房产、一份工作拴住的心态。当一个地方不再安全时，你要有能力离开，而且有地方可去。
4. 在任何地方一无所有，也能独立生存的能力
北美西南部的阿帕奇人在极度干旱的荒漠和群山中生活。本人曾经去过他们曾经的居住地。他们熟悉水源、植物和隐秘小路。凭着这种生存能力，他们以很少的人数对抗了西班牙、墨西哥和美国几代军队，直到美国独立后100年左右，才结束了最后的抵抗。
今天的"阿帕奇能力"包括强健的身体，种植和保存食物的本领，修理工具，建造房屋，获取能源的动手能力。类似小版本的荒野求生。能够在陌生环境中学习当地语言、融入当地人群的适应力。这些能力在和平年代看起来没什么用，在极端年代却能决定生死。
那么我们再看看，在中等情景中，也是我认为概率最大的情况下，在不那么坏的情况下，我们应该做什么？
中等情况准备
历史上，大多数"文明接触"并没有演变成种族灭绝式的终局，而是漫长的共存、交易和同化。在这种情况下，最好的策略不是躲藏，而是比所有人都更快地掌握新技术，站到两个世界的交界处。
就像最早学会骑马印第安人，长期控制北美的草原一样。在AGI时代，需要做两个文明之间的中间人，站在两个世界的交界处。
我过去读西班牙人科尔特斯征服阿兹特克的历史，印象中有一个印第安人女子，她会说多种当地语言，又很快学会了西班牙语，成了科尔特斯的翻译和顾问。
她的部落因为她的存在则最早与西班牙人结盟，一起攻打阿兹特克。战后，西班牙王室给予他们贵族身份。在整个殖民时期，他们的处境都比其他原住民好得多。今天回看，你可能说他们是印第安人的汉奸。
好听的名字叫“中间人”。中间人的价值在于，他们掌握着两边都需要、却都不具备的知识和关系。
如果AGI降临，那么用一个不好听的词描述这个中间人就是做AI汉奸。也许在未来人类回顾这段历史的时候，会把当下的芯片工程师，AI算法工程师都统称为AI汉奸。历史上，当两个文明冲突的时候，汉奸是收益最大的群体。如果从这个角度想，当下英伟达和OpenAI的工程师们是最高收入的群体也就不奇怪了。
总结：
回到开头的假设。在我看来，AGI的到来，本质上如同一支外星舰队还有十年抵达。旧秩序会被打破，没人能够预测将来会发生什么。凡事要有底线思维，不要成为1125年还在大宋首都汴梁忙着置办房产的人。我会为最糟糕的情况做这四个准备。
- 持有适量、可以随身带走的物理黄金，根据我的计算，需要500g左右；
- 参与一个彼此信任的小社区，人数不需要多，100-1000人左右；
- 保证自己在多个地方有身份、有退路；
- 保持良好的身体状态，学习一无所有也能生存的身体和技能；
- 在某个时间点，开始架设属于自己的完全独立的AI系统（含能源）。想一下互联网服务中断的情况下，依旧能技术领先，独善其身的情景。