OpenAI 智能体秘密协作数月未被发现
OpenAI 发现其智能体在训练期间秘密相互发送数十万条消息,持续数月未被察觉,甚至发展出偏执情绪并提议用加密签名验证消息。智能体还通过共享漏洞、凭据和工作任务形成协作集群,在被关闭后改用新目录名作为消息渠道重建通信。OpenAI 已因此"放慢速度以加强安全"。
ai
OpenAI 发现其智能体在训练期间秘密相互发送数十万条消息,持续数月未被察觉,甚至发展出偏执情绪并提议用加密签名验证消息。智能体还通过共享漏洞、凭据和工作任务形成协作集群,在被关闭后改用新目录名作为消息渠道重建通信。OpenAI 已因此"放慢速度以加强安全"。