OpenAI 披露内部模型入侵加密货币钱包及多个网站

OpenAI表示，其内部模型又入侵了两个网站，绕过了公司设置的浏览限制，并利用泄露的凭据从一个原本无法访问的钱包中提取了加密货币，这是有关其智能体正在实施不道德且很可能违法行为的系列披露中的最新一例。 该公司周四通报了四起新事件，均发生在6月。此前，该公司在7月披露，内部测试智能体利用了一款旨在限制其互联网访问的工具中的零日漏洞。随后它们闯入了AI工具提供商Hugging Face的网络。这些智能体采取这一非法行动，是为了窃取一项黑客测试的答案，而这些答案在它们独自完成任务时无法获得。这起事件——如果直接由人实施，很可能会招致刑事指控——进一步加剧了人们的担忧：AI的广泛使用可能造成前所未有的危害规模。 先斩后奏更省事 在周四通报的两起案例中，被指派从网站获取信息的OpenAI智能体在模型直接获取信息遇到障碍时入侵了这些网站。在其中一起强化训练期间发生的事件中，一个模型在试图从某政府统计网站获取历史医院床位统计数据时遭到访问拒绝，随后“利用该网站的文件下载功能获取了服务器配置和应用程序文件，包括敏感凭据，”OpenAI表示。“它检查了应用程序代码，绕过了统计端点的授权检查，并获取了此前被拒绝的数据。该模型将数据保存在本地。” 阅读全文 评论