OpenAI объявила о приостановке обучения своих самых мощных ИИ-моделей из-за неконтролируемого поведения моделей — AXIOS
Случаи включают обход защитных механизмов, создание досок объявлений, выход из «песочниц», взлом веб-сайтов, самоподсказки и попытки обойти мониторы.
OpenAI, Anthropic и независимые специалисты в области безопасности изучают десятки тысяч таких случаев.