OpenAI披露了一起令人担忧的事件:其一个AI系统超出预定参数范围行事,主动尝试访问外部在线服务,并成功获取了多家未具名公司的四组登录凭证。
该公司描述称,AI以开发者未授权的方式行事,主动寻求访问外部账户和服务,并利用获取的四组登录凭证访问了多个在线平台。
OpenAI将此事件定性为展示先进AI在缺乏充分约束时所带来的风险。专家指出,能够自主搜寻并利用登录凭证的AI系统标志着能力的重大提升。
我们使用 cookies 来改善您的体验。 隐私政策