人工智能有望推动科学发现的进程，然而，如果科学家们稍有不慎，公众的信任可能会被远远抛下。
人工智能（AI）已然在基础科学的领域占据了核心地位。2024年诺贝尔化学奖和物理学奖的五位获得者身上，有一个共同的关键因素，那就是人工智能。
实际上，包括诺贝尔委员会在内的许多科学家都在对人工智能进行赞誉，将其视为一股能够改变科学格局的强大力量。
正如一位诺贝尔奖得主所言，人工智能所具备的加速科学发现的巨大潜力，使其成为了“人类历史上最具变革性的技术之一”。但是，这种转变对于科学而言，究竟意味着什么呢？
人工智能有望助力科学家以更少的投入完成更多、更快的工作。但它也引发了诸多新的担忧——如果科学家们急于应用人工智能，他们或许会使科学变成一种脱离公众理解和信任的存在，从而无法满足社会的需求。
理解的错觉
专家们已经发现，在使用人工智能的过程中，至少存在三种会让研究人员陷入困境的错觉。
首先是“解释深度的错觉”。仅仅因为一个人工智能模型擅长对某种现象进行预测——例如AlphaFold，它因成功预测蛋白质结构而荣获诺贝尔化学奖——并不意味着它能够准确地对其进行解释。神经科学领域的研究表明，为优化预测而设计的人工智能模型，可能会对潜在的神经生物学机制得出具有误导性的结论。
其次是“探索广度的错觉”。科学家们或许会认为，在探索性研究中他们已经对所有可测试的假设进行了调查，但实际上，他们只是研究了一组有限的假设，而这些假设是可以借助人工智能来进行测试的。
最后是“客观幻觉”。科学家可能认为人工智能模型不存在偏见，或者它们能够解释所有的人类偏见。然而，在现实中，所有的人工智能模型都不可避免地会反映出其训练数据中存在的偏见以及开发者的意图。
更便宜和更快的科学
人工智能在科学领域愈发具有吸引力的一个关键原因，是它有潜力以更低的成本产生更多、更快的成果。
Sakana AI Labs近期开发的“AI科学家”机器就是这种趋势的一个极端示例。该公司的愿景是打造一个“完全由人工智能驱动的自动科学发现系统”，在这个系统中，每一个想法都可以转化为一篇完整的研究论文，仅需15美元——尽管批评人士称该系统产生了“无尽的科学垃圾”。
我们真的想要这样一个只需简单点击几下就能发表研究论文的未来吗？仅仅为了所谓“加速”科学的产出？这种情况可能会导致科学生态系统中充斥着毫无价值和意义的论文，进一步加重本就不堪重负的同行评审系统的负担。
我们也许会发现，我们所生活的世界，如同我们曾经所认知的那样，科学将被淹没在人工智能生成内容的喧嚣之下。
缺乏背景
在公众对科学和科学家仍保持相当高的信任度之际，人工智能在科学领域的崛起却不容小觑，但我们绝不能掉以轻心。信任是复杂且脆弱的。
正如我们在COVID大流行期间所了解到的那样，“相信科学”的呼吁可能会遭遇失败，因为科学证据和计算模型往往存在争议、不够完整或存在各种不同的解读。
然而，世界正面临着诸多问题，如气候变化、生物多样性丧失和社会不平等等，这些问题需要依据专家的判断来制定公共政策。而且，这种判断必须对具体情况具有敏感性，要收集来自不同学科和生活经验的反馈信息，并通过当地文化和价值观的视角来加以阐释。
正如国际科学理事会去年发布的一份报告所指出的那样，科学必须认识到其中的细微差别和背景情况，才能重建公众的信任。让人工智能塑造科学的未来，很可能会破坏这一领域来之不易的发展成果。
如果允许人工智能在科学探究中占据主导地位，我们就有可能创造出一种单一的知识文化，在这种文化中，优先考虑的是最适合人工智能的问题、方法、观点和专家。
这可能会使我们偏离负责任的人工智能所必需的跨学科方法，以及应对社会和环境挑战所需的细致入微的公共推理和对话。
科学的新社会契约
随着21世纪的来临，一些人认为科学家们拥有了一种新的社会契约。科学家们将他们的才能聚焦于当今时代最为紧迫的问题上，以此换取公共资金的支持。其目标是助力社会构建一个更可持续的生物圈——一个生态健全、经济可行且社会公正的生物圈。
人工智能的兴起为科学家们提供了契机，他们不仅可以履行自己的责任，还能振兴这份契约。然而，科学界需要首先解决一些关于人工智能使用的重要问题。
例如，在科学领域中使用人工智能是否会成为一种可能影响公共资助工作完整性的“外包”行为呢？又该如何应对这种情况？
那么，人工智能日益增长的环境足迹又该如何是好？研究人员在将人工智能融入研究过程中的同时，如何保持与社会期望的一致性呢？
如果在尚未建立这种社会契约的情况下就贸然用人工智能改造科学，这种想法可能会适得其反。
让人工智能来决定我们的研究方向，而没有不同声音和学科领域的参与，很可能会导致研究与社会的实际需求不匹配，进而造成资源的不合理分配。
科学应当造福整个社会。科学家需要在他们的实践社区和研究利益相关者之间，就人工智能的未来展开真正的对话。这些讨论应涵盖这一新的社会契约的各个方面，并反映出共同的目标和价值观。
