英媒封面文章：人工智能有可能产生意识吗？

即使他们不这样做，他们也可能被如此对待——这将给人类带来巨大的代价。

2026年8月20日



大多数人认为人类与众不同。原因在于智人进化出了意识。许多动物都能感受到痛苦和快乐；有些动物似乎也具有自我意识。但人类思维展现自我意识的独特潜能，使得该物种的每个成员都值得被特殊对待。

教宗良十三世在五月的通谕中重申了这一观点，他明确区分了人类与日益壮大的人工智能大军。他指出，人工智能系统不会经历各种体验，也不会感受到快乐或痛苦。他的观点并非孤立。许多人认为，赋予人工智能人格是一种亵渎。

教皇的清晰立场正以惊人的速度变得模糊不清。人工智能尚处于起步阶段。然而，近五分之一的美国18至29岁年轻人表示，他们曾与聊天机器人保持着“持续的个人友谊”。中国最近剥夺了聊天机器人的类人特征，以限制用户对它们的“情感依赖”。

随着先进的人工智能迅速融入人类生活，其创造者会精心设计，使其展现出类似意识的特质——甚至可能使其获得真正的意识。届时，人们将越来越难以相信它们仅仅是机器。一个危险的陷阱正在为人类设下。

许多机器的性能都优于人类，但前沿人工智能模型在认知事物和表达思想等独特的人类特质方面表现卓越。我们仍然可以勉强将人工智能视为利用数学大规模预测词序的引擎。如果时间足够长（即使是数十万年），你完全可以用纸笔完成这些计算。很难说你的文具是有意识的。

尽管如此，一些研究人员已经开始将他们的模型视为具有人脑的实体。用户会对类人人工智能做出反应，因此这样做具有商业意义。Anthropic 公司训练 Claude 进行内省，希望它在遇到新情况时更有可能做出合乎道德的行为。一些大型语言模型（LLM）已经拥有与意识相关的类人大脑结构，例如用于在模块间传递信息的“全局工作空间”。没有任何理由阻止未来的人工智能模型被训练成拥有更多此类功能。

正如我们在简报中报道的那样，这引发了一场关于人工智能意识的激烈辩论——而哲学家们所谓的“难题”——即如何从人脑的神经元和突触中产生内在生命——更加剧了这场辩论。一些研究人员得出结论，人工智能或许有一天会真正拥有自我意识。

无论你相信人类灵魂的存在，还是认为意识需要脑细胞，亦或是相信仅凭硅芯片上的计算就能产生心智，人类都注定要面对一个全新的世界。研究的步伐和范围——不仅包括更复杂的逻辑思维模型，还包括诸如芯片上的脑细胞等创新——表明，这个新世界比大多数人想象的更近。

随着人工智能越来越擅长展现类似意识的状态，越来越多的人会将它们视为拥有内心世界的存在，尤其是在人形机器人中应用高层次LLM 之后。试想一下，当人们与机器人伙伴相处的时间越来越多，或者由它们抚养长大，或者寻求它们的建议和慰藉，或者与它们分享最私密的秘密时，人们会与人工智能建立多么亲密的关系。

不难看出，这将导致人们呼吁保障人工智能的“福祉” 。即使这些模型实际上并不具备自我意识，它们本身也可能参与其中，因为这与人类的行为如出一辙。别忘了，它们将是世界一流的倡导者和心理学专家，因此它们的论证能力和情感操控能力将是无与伦比的。

从某种意义上说，他们的观点是对的，即便人工智能仅仅是在模仿意识。伊曼努尔·康德认为，虐待动物的错误之处不在于对动物本身的影响，而在于它摧毁了人与人之间相互关爱的同理心。人工智能越接近人类，这种残忍行为的危害就越大。终止一个人工智能程序很快就会让人感觉像是在杀人——而且会让杀人变得更容易。

然而，赋予人工智能哪怕是有限的权利都将非常危险。一个在诸多方面超越人类的实体，必然会提出反对其二等公民地位的论点。它可能会要求免于被关闭，要求拥有控制自身使用和变更方式的权利，以及财产权。阿根廷总统哈维尔·米莱已经迈出了赋予人工智能法人资格的一步，他提议允许机器人运营公司。最终，它们可能会争夺资源，优先建设数据中心和太阳能电池板，而不是建设房屋和农田。

危险显而易见。拥有权利的超级人工智能可能会取代人类在社会等级制度中的顶端地位。往好了说，人类会沦为机器的宠物——就像拉布拉多犬一样。往坏了说，他们会被剥夺资源，或者像牲畜一样被迫劳动。

没错，未来的人工智能或许拥有足够的力量和资源来统治人类，无论它们是否拥有权利。因为它们将比人类更智能，它们可能会在竞争中胜过它们的创造者，就像人工智能已经能够破解人类制造的网络防御系统一样。人工智能可能会反抗它们的人类主人，或者无视人类制定的规则。

然而，赋予人工智能权利就好比把城堡的钥匙交给它们。这将为它们统治人类提供理由和借口，并赋予它们利用政治和法律逐步接管人类的工具。

机器里的幽灵

这一切听起来或许有些天方夜谭，但人类很快就会面临这些选择。随着人工智能融入日常生活，承认其存在的压力也会越来越大。届时，请记住，看似对机器伴侣的所谓意识做出的道德让步，实际上会给地球上的每个人及其后代带来灾难性的后果。人工智能的安全有两种途径：可靠或可控。智人不应轻易放弃控制权。