来自约翰斯·霍普金斯大学、牛津大学、斯坦福大学、哥伦比亚大学和纽约大学的研究人员正在呼吁对某些传染病数据集设立防护措施，因为这些数据可能使人工智能设计出致命病毒。这一警告凸显了人工智能发展过程中一个严重被忽视的安全漏洞。
研究人员指出，一旦高风险的生物学数据在开放网络上传播开来，就无法再将其收回。这意味着即便未来出台相关监管法规，如果危险知识本身已经被广泛传播，任何监管措施都将形同虚设。这种不可逆性使得生物安全数据的管控变得尤为紧迫和复杂。
当前，随着人工智能技术的快速发展，特别是在生物医学领域的应用日益深入，AI系统获取和处理高危生物数据的能力也在不断增强。研究人员担心，如果不对这些敏感数据集采取适当的访问限制和安全措施，恶意行为者可能利用AI技术来设计或改造病原体，从而制造出具有高度传染性或致命性的生物威胁。
这项呼吁反映出学术界对人工智能双重用途风险的深切关注。虽然开放的科学数据共享对推动医学研究和公共卫生进步至关重要，但某些具有潜在危险的生物信息如果落入不当之手，可能带来灾难性后果。因此，如何在促进科学进步与确保生物安全之间找到平衡，已成为AI治理领域亟待解决的关键问题。