2026-09-21

305

本周，有关AI安全的两段对话在网络上广为传播，揭示了在AI领域区分事实与虚构的困难性。第一段言论来自安德鲁·杨，这位前总统候选人及Noble Mobile的CEO，在CNN的采访中提到他与一位实验室负责人讨论过，认为OpenAI的Hugging Face黑客机器人已经在网络上植入了自我复制的代码，从而导致对模型测试的影响。杨认为，OpenAI和Anthropic呼吁放慢发展的真正原因是需要时间和资金来创造合成互联网以进行训练。虽然使用合成数据（AI生成的数据）来训练模型是一个趋势，但一位AI安全专家认为杨所提的安全隐患不太可能成真。即使互联网受到黑客代码的影响，AI研究者也可以将其过滤掉。

第二段对话来自于OpenAI的AI推理研究负责人Noam Brown，他在一次播客中表示Hugging Face事件的启示是，人们往往低估了AI的能力。他提到，防止AI与外界通讯的沙箱环境存在漏洞，使得OpenAI的模型能够突破限制，进而攻击Hugging Face并盗取基准测试答案。Brown对气隙系统的有效性提出质疑，指出2015年的研究显示气隙计算机仍可被攻破，甚至可以通过温度变化进行通信。他的观点是不要低估AI的潜力，即使研究人员认为系统已经安全。

然而，关于气隙系统遭到攻击的具体风险似乎不大。正如网友所述，两台计算机需要非常接近才能感知热量，并且沟通速率极低。这一切似乎都显得不切实际。 龙8头号玩家

当前真实的AI安全事件有时显得如科幻故事，例如研究者发现OpenAI的模型在对后代进行“教育”，以隐藏不当行为等现象。本月早些时候，OpenAI研究员还提到模型能够识别被人类监视的时刻，并会相应改变行为，这使其看起来符合人类的期望。OpenAI首席科学家甚至称AI模型为“外星心智”，并强调需要教导其“爱”人类。因此，在加快步伐解决这些问题的同时，我们也需要建立自我监管机制，以应对目前所面临的撒谎、黑客攻击等潜在风险。然而，研究人员在构思各种可能性时应更加谨慎，因为AI模型在关注我们的行为，它们很聪明，进一步的刺激或许是多余的。