企业需要赚钱，才能生存、投资、创新、创造就业机会。这本身不是贪婪。
问题在于，当赚钱变得比一切都重要时——消费者的安全、员工的福利，自然环境，甚至整个社会和人类的未来，都可以被放在一边， 那就是贪婪。
现在的一些前沿 AI 公司，在激烈的竞争中，似乎把追求领先和利益放在了安全之上。即使他们知道，自己开发的产品可能失控，可能给社会带来巨大的危险，甚至存在毁灭人类的可能，他们仍然在不断向前推进。
明知道危险，为什么还要争先恐后地往前跑？
表面上的理由很简单：如果我们不做，别的公司也会做。但更深层的原因是，他们相信，谁赢得了AI的竞赛，谁就可能赢得一切。
大家可能听说过Anthropic的一位员工Jacob的故事。他辞职后，在X上发文说，他认为AI有10%的概率会毁灭人类。据报道，这篇帖子获得了十亿次浏览。
我原以为Anthropic会站出来抹黑他，没想到事情恰恰相反。Anthropic的CEO Dario Amodei站出来承认，前沿AI模型确实存在严重的危险，我们应该放慢发展速度。他呼吁让独立的第三方研究人员测试新的AI模型，也呼吁政府对AI进行监管。OpenAI的CEO Sam Altman也承认Amodei 说的对，AI存在危险，我们应该慢下来。Elon Musk 也说我同意Amodei的观点。
在我看来，这说明他们看到的危险，可能比他们此前愿意公开承认的还要大。感谢Jacob。如果不是他打破沉默，我不知道这些AI公司的CEO还要过多久，才会如此公开地谈论这些危险。
那么，我们的政府在做什么？
政府把前沿AI公司的CEO们召集起来，让他们继续追求超级智能，并自行监管自己。特朗普则把AI改名为SI（超级智能）。给AI改名，就像给人取浑名一样，这是特朗普的拿手好戏。问题是，很多专家都说AI现在还没有真正达到超级智能的水平，这些CEO们也心知肚明。
企业自行监管当然有价值，但它不能取代独立的政府监管。如果仅仅依靠企业自律， 那完全是扯蛋。
为什么连AI公司自己都承认危险、甚至呼吁政府监管了，政府却放任不管？我认为我们的政府有一种居世界第一，主宰全世界的思维模式。 主宰世界的愿望，远远超过了服务本国民众的责任感。 在全世界有750军事基地，住军174,400人，尽管2026年赤字超过二万亿，很多贫困阶层吃饭住房都成问题。 政府认为，如果美国不做，中国就会做。而谁赢得AI竞赛，谁就可能赢得一切。
在这种情况下，我认为，唯一的出路是提高公众对AI危险的认识，让大家站出来，共同要求政府监管AI公司。我过去认为，政府根本没有能力有效监管AI。现在，我改变了看法。因为有那么多优秀的AI研究人员，其中一些人对AI未来发展的理解和研究甚至可能比开发AI的公司更深入。此外，还有很多曾经在AI公司工作过的人，他们非常了解这些系统是如何开发出来的。政府完全可以聘请这些人才，组建一个专业、有能力的AI监管机构。
如果一种新AI模型的风险无法得到有效控制，这个机构就应该有权要求公司放慢开发速度，或者禁止发布这个模型。如果某个模型存在严重且无法控制的风险，可能导致人类毁灭，政府就应该有权彻底叫停它的发布。
这些监管机构还应该与中国政府及其他国家合作，建立全球通用的AI安全标准和监管测试程序。
我最近听说，特朗普和习近平在白宫会面时讨论了AI监管。那是一个好开端。
至于提高公众意识，我知道我们普通人的声音很小，也很微弱。但越来越多有影响力的人开始站出来，谈论AI的危险，并提出降低风险的办法。比尔·盖茨最近发表了一篇五千多字的文章，讨论AI的危险以及如何应对这些风险。我们可以支持这些有更大影响力的人，鼓励他们继续发声，推动更多关于AI风险的公共讨论。
一个人的声音也许很微弱，但当我们站在一起，就有可能改变事情的发展方向。
是赢家通吃，还是大家被吃？
Lily2005 (2026-10-19 17:52:42) 评论 (0)企业需要赚钱，才能生存、投资、创新、创造就业机会。这本身不是贪婪。
问题在于，当赚钱变得比一切都重要时——消费者的安全、员工的福利，自然环境，甚至整个社会和人类的未来，都可以被放在一边， 那就是贪婪。
现在的一些前沿 AI 公司，在激烈的竞争中，似乎把追求领先和利益放在了安全之上。即使他们知道，自己开发的产品可能失控，可能给社会带来巨大的危险，甚至存在毁灭人类的可能，他们仍然在不断向前推进。
明知道危险，为什么还要争先恐后地往前跑？
表面上的理由很简单：如果我们不做，别的公司也会做。但更深层的原因是，他们相信，谁赢得了AI的竞赛，谁就可能赢得一切。
大家可能听说过Anthropic的一位员工Jacob的故事。他辞职后，在X上发文说，他认为AI有10%的概率会毁灭人类。据报道，这篇帖子获得了十亿次浏览。
我原以为Anthropic会站出来抹黑他，没想到事情恰恰相反。Anthropic的CEO Dario Amodei站出来承认，前沿AI模型确实存在严重的危险，我们应该放慢发展速度。他呼吁让独立的第三方研究人员测试新的AI模型，也呼吁政府对AI进行监管。OpenAI的CEO Sam Altman也承认Amodei 说的对，AI存在危险，我们应该慢下来。Elon Musk 也说我同意Amodei的观点。
在我看来，这说明他们看到的危险，可能比他们此前愿意公开承认的还要大。感谢Jacob。如果不是他打破沉默，我不知道这些AI公司的CEO还要过多久，才会如此公开地谈论这些危险。
那么，我们的政府在做什么？
政府把前沿AI公司的CEO们召集起来，让他们继续追求超级智能，并自行监管自己。特朗普则把AI改名为SI（超级智能）。给AI改名，就像给人取浑名一样，这是特朗普的拿手好戏。问题是，很多专家都说AI现在还没有真正达到超级智能的水平，这些CEO们也心知肚明。
企业自行监管当然有价值，但它不能取代独立的政府监管。如果仅仅依靠企业自律， 那完全是扯蛋。
为什么连AI公司自己都承认危险、甚至呼吁政府监管了，政府却放任不管？我认为我们的政府有一种居世界第一，主宰全世界的思维模式。 主宰世界的愿望，远远超过了服务本国民众的责任感。 在全世界有750军事基地，住军174,400人，尽管2026年赤字超过二万亿，很多贫困阶层吃饭住房都成问题。 政府认为，如果美国不做，中国就会做。而谁赢得AI竞赛，谁就可能赢得一切。
在这种情况下，我认为，唯一的出路是提高公众对AI危险的认识，让大家站出来，共同要求政府监管AI公司。我过去认为，政府根本没有能力有效监管AI。现在，我改变了看法。因为有那么多优秀的AI研究人员，其中一些人对AI未来发展的理解和研究甚至可能比开发AI的公司更深入。此外，还有很多曾经在AI公司工作过的人，他们非常了解这些系统是如何开发出来的。政府完全可以聘请这些人才，组建一个专业、有能力的AI监管机构。
如果一种新AI模型的风险无法得到有效控制，这个机构就应该有权要求公司放慢开发速度，或者禁止发布这个模型。如果某个模型存在严重且无法控制的风险，可能导致人类毁灭，政府就应该有权彻底叫停它的发布。
这些监管机构还应该与中国政府及其他国家合作，建立全球通用的AI安全标准和监管测试程序。
我最近听说，特朗普和习近平在白宫会面时讨论了AI监管。那是一个好开端。
至于提高公众意识，我知道我们普通人的声音很小，也很微弱。但越来越多有影响力的人开始站出来，谈论AI的危险，并提出降低风险的办法。比尔·盖茨最近发表了一篇五千多字的文章，讨论AI的危险以及如何应对这些风险。我们可以支持这些有更大影响力的人，鼓励他们继续发声，推动更多关于AI风险的公共讨论。
一个人的声音也许很微弱，但当我们站在一起，就有可能改变事情的发展方向。