评论: OpenAI首席科学家：异类心智正在诞生 恐脱离掌控

正如文中所说，AI虽表现出和人相似的推理和逻辑，但其内部实现推理和逻辑的方式和人脑完全不同，那是一种人所不理解的方式，一种异类的方式，因此也是一种人无法控制的方式。

除非人能发现这种方式的死穴！

根本不是人类可能正在失去对于AI的理解，而是人类从来就不理解为什么AI能涌现出惊人的能力。

AI到现在还是一个黑箱，即使是创造者，也只能看见输入和输出，而不知其内部机制，完全不知为什么。既然完全不理解，当然也没有能力控制。

一个恶魔，已经在人的无知中产生，又正在无知中养育长大。人类将可能在无知中被这个被亲手养大的魔鬼吞掉。最聪明的和最危险的只有一步之遥。

既然不能理解AI，又怎么能造出守护AI，以夷制夷，对抗叛逆AI？怎么保证守护者不会成为叛逆者的同盟？

没有用。

人类控制不住自己。“研发人员深知盲目追求更大更强的计算规模可能唤醒不可控的异类心智，但任何一家身处领跑地位的商业机构或国家力量，都无法承受因单方面停滞不前而被对手反超的战略代价” ------ 这只是众多无法解决的人性问题之中，最不evil的那个。

最终的人类和地球，包括AI本身，都是一个毁灭。可惜吗？不可惜。