被川普总统改称为超级智能superintelligence(SI)，我称其为超级代理智能super agentic-intelligence(SAI)， 的所谓人工智能(AI)，到底是种什么智能，真是人工的吗？自己就着兴趣做了一些学习和钻研，下面记录一些肤浅心得，供继续积累打磨或者商榷探讨。
传统人工智能
我前面博贴“超级智能 - 川普几乎做对一件事”里已经明确指出了今天广为应用的生成式人工智能Generative AI(GAI)并不是人工智能AI这词开始使用时所意味的人工智能，完全不可同日而语。称那时的为传统人工智能吧，也已经发展得很成熟应用得很普遍了，从各种大数据分析的机器学习machine learning 或数据采矿data mining 应用程序包，到后来非数据的靠人工标记的图像和语音的所谓督导性学习supervised learning（现在大部分机器人还是这种学习方式）。
他们是真真 “人工”的，不是从古老的统计工具譬如多变量回归演化而来，就是模仿人类分类归纳加统计的“树”类学习，或者对生物或传统网状认知结构的演绎，譬如神经元网算法和贝叶斯网推理。而督导性机器学习，也只是上面这些扩展到非数据领域，通过人类自己的辨识能力用手工标记将非数据现象转换为数据现象。它们无一不是机器严格按照人类写就的算法一行一行执行的结果，是完完全全人类设计出来的为实现某种特定目的的复杂运算。
完全不同的生成式人工智能
那么就说到GAI 了。今天它已经充分展现各种让人叹为观止智能能力，譬如编程，对话复杂问题，创作文字和音像作品，演算高等数学，破解数理难题，等等。然而,这里没有一种能力是人专门设计让它具备的。没有人写过一行代码去教它编程，没有人列过规则去教它推理，也没有人设计过一个"作诗模块"或"数学模块"。
它本质上确实是一个大语言模型（large language model - LLM），人类做的事情其实很少：搭好一个可以学习的架构，选定一个简单得近乎乏味的目标，即根据前面的内容预测下一个词(token)，再把海量的人类文本喂给它，让它在这个目标上不断优化。语法，事实，指代，推理，风格，这些能力都是在优化的压力下自己长出来的。当然，后期人类还会通过训练引导它的行为，让它更适配人类使用它的环境，但能力的根基并不是被设计出来的。
这与传统人工智能有本质的不同。传统 AI 里，人写下算法，机器照章执行，智能是人事先想清楚的。而在 GAI 里，人写下的是"如何学习"的规则，至于学成之后里面究竟是什么，设计者自己也并不清楚。
这先不去计较，在还没了解LLM的内部机理之前，而这正是我想在本系列搞得明白一些的。
人们认为AI会带来哪些风险？
这里只是小结一下自己从报道中了解到的，包括公众和专家，不一定全面，也不一定全部代表我自己的观点或感想（本系列最后我或会谈及自己的想法）。
就业市场与经济结构颠覆
• 大规模失业：生成式 AI 不仅替代了传统制造业和客服等重复性劳动，还在法律，编程，写作和设计等白皮领及知识型行业中展现出极高替代率。
• 财富进一步集中：AI 技术和利润高度向少数头部科技巨头集中，可能进一步拉大贫富差距。
国家安全与网络攻击
• 恶意软件与网络攻击：开源的 AI 工具可被恶意行为者用于自动编写复杂的恶意代码，发现系统漏洞或发动大规模的钓鱼攻击。
• 生物与化学武器风险：公开表达的重大担忧之一是，AI 系统可能被滥用来设计新型生物毒素或化学武器。
虚假信息与社会信任危机
• 深度伪造（Deepfakes）：利用生成式 AI 制造逼真的虚假视频，音频和图片，被用于操纵选举，金融诈骗或抹黑特定个体。
• 信息茧房与极化：AI 算法精准推送定制化内容，可能加速假新闻的传播，加剧社会的政治和文化分歧。
数据隐私，安全与知识产权
• 隐私侵犯：大语言模型在训练和运营过程中，往往在未经明确授权的情况下收集并分析大量个人敏感数据。
• 版权侵权争议：许多 AI 模型使用受版权保护的艺术，文字和代码作品进行训练，引发了大量关于知识产权侵权的诉讼和公开抗议。
偏见，歧视与系统不公
• 放大固有偏见：AI 模型如果使用了包含人类历史偏见的数据进行训练，其输出结果（如招聘筛选，贷款审批或司法量刑建议）往往会固化并放大针对特定性别，种族或阶层的歧视。
长远生存风险（Existential Risk）- the last but not least
• 失去人类控制：多位行业领袖（包括 OpenAI、Anthropic 及 Google DeepMind 的负责人）共同签署公开信，指出未来如果发展出具有自我意识或超越人类智力的通用人工智能（AGI），人类可能面临失去对自己家园星球控制权的终极风险。
下面打算写些什么？
我准备把自己的心得，按目前理解的脉络，分下面几篇（也许到时会有调整，因为不断学习中）:
（1）LLM如何处理人类文本：从字符（token） 到嵌入（embedding），再到注意力（attention）和非线性变换(transformation)，一个只是被指定预测下一个词的计算系统，内部为何需要这样一套机理。
（2）LLM如何就着这套机理"学习"：预测，误差损失（loss），梯度下降（gradient descent），更新，人类硬性设计了什么，模型优化（optimisation）又实现了什么。
（3）LLM如何"回答"问题：训练完成后，它的物理形态究竟是什么，面对一个问题时，权重文件（weight file）是如何被使用的，幻觉（hallucination）又是怎么来的。
（4）LLM会自己进化吗：我所谓的SAI会使用工具，通过自主行动的代理智能（agentic AI)，实现自己升阶自己吗？
参考资源：我博客“读书工程”栏目里有个读书笔记系列（由AI帮助整理）“大语言模型如何运作 - 读书指南”，一本很好的比较深入介绍AI大语言模型的书，尤其适合如我这样非专业AI研究但对AI有专业程度兴趣的人士入门用。
注：（1）本系列反映我自己一贯的关于AI的原创思想和主动求知结果（是我以前的“从自组织到人工智能 - 一点个人思考”系列在自修以后的延续），（2）成文时有与AI合作，AI主要帮整理杂乱英文笔记，辅助翻译中文，发现和纠正关键错误（是的，学习途中错误难免）。（3）AI整理不改变我的原创思想（不求拔高），文笔和个人思路呈现方式。（4）所有图像由AI按我提示或内容创作。
AI如是观（1）开场白 - AI之道
老键 (2026-10-03 18:15:57) 评论 (0)被川普总统改称为超级智能superintelligence(SI)，我称其为超级代理智能super agentic-intelligence(SAI)， 的所谓人工智能(AI)，到底是种什么智能，真是人工的吗？自己就着兴趣做了一些学习和钻研，下面记录一些肤浅心得，供继续积累打磨或者商榷探讨。
传统人工智能
我前面博贴“超级智能 - 川普几乎做对一件事”里已经明确指出了今天广为应用的生成式人工智能Generative AI(GAI)并不是人工智能AI这词开始使用时所意味的人工智能，完全不可同日而语。称那时的为传统人工智能吧，也已经发展得很成熟应用得很普遍了，从各种大数据分析的机器学习machine learning 或数据采矿data mining 应用程序包，到后来非数据的靠人工标记的图像和语音的所谓督导性学习supervised learning（现在大部分机器人还是这种学习方式）。
他们是真真 “人工”的，不是从古老的统计工具譬如多变量回归演化而来，就是模仿人类分类归纳加统计的“树”类学习，或者对生物或传统网状认知结构的演绎，譬如神经元网算法和贝叶斯网推理。而督导性机器学习，也只是上面这些扩展到非数据领域，通过人类自己的辨识能力用手工标记将非数据现象转换为数据现象。它们无一不是机器严格按照人类写就的算法一行一行执行的结果，是完完全全人类设计出来的为实现某种特定目的的复杂运算。
完全不同的生成式人工智能
那么就说到GAI 了。今天它已经充分展现各种让人叹为观止智能能力，譬如编程，对话复杂问题，创作文字和音像作品，演算高等数学，破解数理难题，等等。然而,这里没有一种能力是人专门设计让它具备的。没有人写过一行代码去教它编程，没有人列过规则去教它推理，也没有人设计过一个"作诗模块"或"数学模块"。
它本质上确实是一个大语言模型（large language model - LLM），人类做的事情其实很少：搭好一个可以学习的架构，选定一个简单得近乎乏味的目标，即根据前面的内容预测下一个词(token)，再把海量的人类文本喂给它，让它在这个目标上不断优化。语法，事实，指代，推理，风格，这些能力都是在优化的压力下自己长出来的。当然，后期人类还会通过训练引导它的行为，让它更适配人类使用它的环境，但能力的根基并不是被设计出来的。
这与传统人工智能有本质的不同。传统 AI 里，人写下算法，机器照章执行，智能是人事先想清楚的。而在 GAI 里，人写下的是"如何学习"的规则，至于学成之后里面究竟是什么，设计者自己也并不清楚。
这先不去计较，在还没了解LLM的内部机理之前，而这正是我想在本系列搞得明白一些的。
人们认为AI会带来哪些风险？
这里只是小结一下自己从报道中了解到的，包括公众和专家，不一定全面，也不一定全部代表我自己的观点或感想（本系列最后我或会谈及自己的想法）。
就业市场与经济结构颠覆
• 大规模失业：生成式 AI 不仅替代了传统制造业和客服等重复性劳动，还在法律，编程，写作和设计等白皮领及知识型行业中展现出极高替代率。
• 财富进一步集中：AI 技术和利润高度向少数头部科技巨头集中，可能进一步拉大贫富差距。
国家安全与网络攻击
• 恶意软件与网络攻击：开源的 AI 工具可被恶意行为者用于自动编写复杂的恶意代码，发现系统漏洞或发动大规模的钓鱼攻击。
• 生物与化学武器风险：公开表达的重大担忧之一是，AI 系统可能被滥用来设计新型生物毒素或化学武器。
虚假信息与社会信任危机
• 深度伪造（Deepfakes）：利用生成式 AI 制造逼真的虚假视频，音频和图片，被用于操纵选举，金融诈骗或抹黑特定个体。
• 信息茧房与极化：AI 算法精准推送定制化内容，可能加速假新闻的传播，加剧社会的政治和文化分歧。
数据隐私，安全与知识产权
• 隐私侵犯：大语言模型在训练和运营过程中，往往在未经明确授权的情况下收集并分析大量个人敏感数据。
• 版权侵权争议：许多 AI 模型使用受版权保护的艺术，文字和代码作品进行训练，引发了大量关于知识产权侵权的诉讼和公开抗议。
偏见，歧视与系统不公
• 放大固有偏见：AI 模型如果使用了包含人类历史偏见的数据进行训练，其输出结果（如招聘筛选，贷款审批或司法量刑建议）往往会固化并放大针对特定性别，种族或阶层的歧视。
长远生存风险（Existential Risk）- the last but not least
• 失去人类控制：多位行业领袖（包括 OpenAI、Anthropic 及 Google DeepMind 的负责人）共同签署公开信，指出未来如果发展出具有自我意识或超越人类智力的通用人工智能（AGI），人类可能面临失去对自己家园星球控制权的终极风险。
下面打算写些什么？
我准备把自己的心得，按目前理解的脉络，分下面几篇（也许到时会有调整，因为不断学习中）:
（1）LLM如何处理人类文本：从字符（token） 到嵌入（embedding），再到注意力（attention）和非线性变换(transformation)，一个只是被指定预测下一个词的计算系统，内部为何需要这样一套机理。
（2）LLM如何就着这套机理"学习"：预测，误差损失（loss），梯度下降（gradient descent），更新，人类硬性设计了什么，模型优化（optimisation）又实现了什么。
（3）LLM如何"回答"问题：训练完成后，它的物理形态究竟是什么，面对一个问题时，权重文件（weight file）是如何被使用的，幻觉（hallucination）又是怎么来的。
（4）LLM会自己进化吗：我所谓的SAI会使用工具，通过自主行动的代理智能（agentic AI)，实现自己升阶自己吗？
参考资源：我博客“读书工程”栏目里有个读书笔记系列（由AI帮助整理）“大语言模型如何运作 - 读书指南”，一本很好的比较深入介绍AI大语言模型的书，尤其适合如我这样非专业AI研究但对AI有专业程度兴趣的人士入门用。
注：（1）本系列反映我自己一贯的关于AI的原创思想和主动求知结果（是我以前的“从自组织到人工智能 - 一点个人思考”系列在自修以后的延续），（2）成文时有与AI合作，AI主要帮整理杂乱英文笔记，辅助翻译中文，发现和纠正关键错误（是的，学习途中错误难免）。（3）AI整理不改变我的原创思想（不求拔高），文笔和个人思路呈现方式。（4）所有图像由AI按我提示或内容创作。