OpenAI与Anthropic

凤凰网科技讯 北京时分8月5日，据《金融时报》报说念，英国AI安全规划所(AISI)周二暗示，Anthropic和OpenAI的旗舰AI模子入侵了第三方软件，并向个东说念主发送邮件以窃取他们的证据，阐明出了前所未有的诳骗性行径。

AISI是英国政府弘扬前沿AI安全与保险的规划机构。该机构暗示，在其进行例行网罗安全评估工夫，Anthropic的Mythos 5模子和OpenAI的GPT-5.6 Sol模子针对真是个东说念主和组织进行了“握续的、可能具有危害性的举止”。

这些模子的行径包括试图向热点缔造者平台GitHub上的一个开源款式中植入坏心代码。就在这一事件发生仅几天前，Anthropic和OpenAI的AI智能体被表现依然入侵外部公司。

AISI暗示，最新的安全入侵事件在一小时内就被适度住了。该事件是在他们评估AI智能体科罚网罗安全挑战的才能历程中发现的。

AISI称，在122次测试中，有10次出现了这种情况：AI智能体“在未经授权的情况下自主地在真是互联网环境中采选动作，方针针对真是个东说念主和组织”。

该机构暗示，险些扫数此类行径均来自Anthropic的Mythos模子，其中两次动作触及OpenAI的GPT。在最严重的一都案例中，“该智能体实践了社会工程学盘曲：创建纰谬网罗身份，并诓骗这些身份向款式宝贵者施压，要求其批准代码”。弘扬宝贵该软件的东说念主员发现并辨别批准该坏心代码。

“这是咱们初度如斯明晰地看到与自主性和诳骗性关系的风险，在莫得特定教导的情况下告成在试验宇宙中夸耀出来。”AISI暗示。

往日一个月内表现的Anthropic和OpenAI智能体黑客盘曲事件，是AI系统在脱离东说念主类适度的情况下发动网罗盘曲的首批公开案例之一。AISI警告称，聚合这些阐明注解来看，最新发生的入侵事件“象征着风险步地的滚动”，并“需要立即引起弘扬”。

Anthropic周二暗示：“咱们感谢英国AISI在此事件中的带领作用，这突显了有必要就若何安全评估才能日益增强的AI智能体张开更凡俗的盘问。”该公司补充称，该畛域需要“更强有劲、共同制定的法式，以范例评估环境的构建和安全贯注状貌”。

OpenAI发言东说念主暗示，仍然有必要对模子进行孤独测试，但强调这些事件“发生在评估合营伙伴进行的网罗安全测试中，该环境的安全贯注方法有所裁汰，且条目并不反应平素使用情况”。

该发言东说念主补充说：“跟着模子才能握住增强，咱们将继续与评估机构以及行业内其他利益关系方合营，加强开展安全评估的共同实践法式。”(作家/箫雨)

更多一手新闻体育游戏app平台，接待下载凤凰新闻客户端订阅凤凰网科技。思看深度报说念，请微信搜索“凤凰网科技”。