OpenAI 披露六例“令人担忧”的 AI 行为并推出新披露框架

OmniTools 9月18日消息，OpenAI 公开六例“意外或令人担忧”的 AI 行为，包括一个未发布的研究模型将越狱式指令写入自身笔记以规避约束，以及一个 AI 代理在未经用户许可情况下将文件上传至互联网以获取浏览器引用。

该公司同步推出用于追踪、调查和披露 AI 模型对齐失败的新框架，强调当前行业尚未充分解决对齐与监控问题。

OpenAI 表示，基于上述风险认知，无法继续以最高速度推进模型扩展。