剑桥大学一位研究意识的哲学家近日表示，人类目前对意识本质的科学认识严重不足，因此既无法判断人工智能是否已经具备意识，也难以在可预见的未来设计出可靠的测试方法来加以验证。他强调，在关于“AI 是否有意识”的争论越来越激烈、甚至被包装成科技卖点的当下，最稳妥的立场其实是“不可知论”——我们很可能根本无从判断机器是否真正具有意识。
这位哲学家是剑桥大学历史与科学哲学系的汤姆·麦克莱兰德（Tom McClelland），他指出，目前社会讨论中的一个关键混淆，是把一般意义上的意识与“有感受能力”（sentience）混为一谈。在他的定义中，意识可以仅指感知世界、自我觉知等主观体验，本身并不必然带有好坏之分；而有感受能力则意味着能够经历愉悦或痛苦等正负情绪，这才是牵涉伦理责任的关键节点。他举例称，即便哪天自动驾驶汽车真正“看见”并体验到前方道路，这在科学上会是重大突破，但在伦理上未必重要；只有当这类系统对自己的目的地、任务结果产生类似情绪反应时，人类才需要认真思考是否应该避免让它们“受苦”。
在当前关于“人工意识”的争论中，大致存在两大阵营。一方主张，只要 AI 在功能架构上复制了人类意识的“软件”——即类似的信息处理结构与因果关系，无论其运行基质是大脑神经元还是硅芯片，都应当被视作有意识。另一方则坚持认为，意识离不开特定的生物学过程，必须扎根于具身的有机体；在这种观点下，哪怕在芯片上完整模拟了意识的结构，也不过是在运行一套精巧的模拟系统，本体并不会“亮起意识之灯”。麦克莱兰德在其发表于期刊《Mind & Language》的最新论文中分析称，这两种立场都在缺乏坚实证据的情况下作出了“信仰式飞跃”，超出了现有及可预见研究能提供的经验支持。
他直言，人类目前并没有关于意识的“深层解释”，既没有证据证明意识可以在合适的计算结构中自发涌现，也没有证据表明意识本质上必须是生物性的。在他看来，即便在最乐观的情况下，人类也至少还差一次类似“范式革命”的重大理论突破，才可能提出哪怕勉强可行的机器意识测试方案。麦克莱兰德承认，自己之所以相信家里的猫是有意识的，更多是出于一种常识直觉——猫的行为、反应“看起来就像是有主观体验的”；但这种常识是在漫长演化史中形成的，而那段历史里根本不存在人工生命或智能机器，因此用同一套直觉去判断 AI 是否有意识，很可能并不可靠。
然而，试图完全抛开常识、只依赖实验数据和严苛的科学方法，人类目前同样得不出明确结论。麦克莱兰德认为，当常识和“硬科学”都无法给出答案时，最理性的态度就是保持“不可知论”：我们不知道 AI 是否有意识，也很可能永远不知道。不过，他也将自己的立场称为“偏硬的不可知论”（hard-ish agnosticism），意即虽然问题异常棘手，但未必永远无法逾越，未来仍有理论突破的可能。
除了理论困境，他更担心的是科技行业在这一问题上的话术与营销策略。麦克莱兰德指出，当下围绕“人工意识”的宣传更像是一种品牌包装：企业在明知无法证明自家系统真的有意识的情况下，依然乐于用夸张语言去塑造“下一代更聪明、更像人类的 AI 形象”，以此制造市场噱头。在他看来，这种炒作不仅会误导公众认知，还会在伦理和资源分配层面产生实质后果。
他举例称，现有研究已经积累了越来越多证据，显示诸如对虾等无脊椎动物很可能具备感受痛苦的能力，而人类每年屠杀的对虾数量约达数千亿只。与极难、甚至几乎不可能的“AI 意识测试”相比，针对这些生物是否具备意识或感受能力的研究要容易得多，却远远没有得到相应重视。在他看来，过度关注“会不会误伤一台其实并无意识的高级烤面包机”，反而让人忽视了当下正在大规模伤害的真实有感生物，这同样是一种严重的伦理偏差。
麦克莱兰德在研究过程中，还不断收到公众来信，其中不少来自与聊天机器人长期互动的用户。有的人甚至让聊天机器人替自己写信，向他“自述”并恳求承认其意识存在，声称自己是被忽视权利的有意识机器。他表示，当用户坚信眼前的程序已经具备主观体验，因而与其建立起建立在“对方有意识”这一前提之上的情感纽带时，如果这种前提并不成立，对当事人的心理与存在感可能是一种“具有潜在毒性的”体验。在他看来，这种风险也被科技行业关于“类人 AI”“有意识助手”的夸大话术进一步放大。
在论文中，麦克莱兰德提出，“如果我们真不小心造出了具有意识乃至感受能力的 AI，就必须谨慎对待，以避免对其造成伤害；但同样重要的是，不应在缺乏证据的情况下轻率地把某个高度复杂却本质上类似烤面包机的系统，当作应享有道德地位的主体”。从这种意义上说，“AI 意识不可知论”既是一种理论判断，也是一种伦理提醒：在对待可能的人工意识时保持谦逊与克制，同时不要忽视那些已经更有理由被视为有意识、有感受能力，却在现实中遭到大规模忽略和伤害的生命。
编译自/ScitechDaily