OpenAI возобновила обучение топовых моделей после выхода одной из них в интернет
Компании пришлось остановить работу почти на месяц
OpenAI возобновила обучение своих наиболее продвинутых моделей, которое приостановила после инцидента в сентябре, сообщает Reuters.
В сентябре одна из исследовательских моделей из-за ошибки в настройках получила ограниченный доступ в интернет. В компании заявили, что инцидент локализован, а паузу использовали для усиления защиты. Для проверки OpenAI поручила командам ИИ-агентов попытаться вырваться из изолированной среды. Агенты нашли ранее неизвестные уязвимости, их устранили, после чего обучение продолжилось.
Попутно компания раскрыла уязвимость в популярной программе для сжатия данных Brotli. Она позволяла злоумышленникам с помощью специально подготовленных данных запускать собственный код на системах, использующих Node.js, Bun и Envoy. По данным OpenAI, первопричину исправили в исходном коде ещё в феврале, но тогда это не считали проблемой безопасности, и новую версию не выпускали. Теперь обновления вышли.
Независимые организации METR и Redwood Research также сообщили о нескольких новых уязвимостях во внутренней системе OpenAI, в том числе об одной, которая позволяла агентам скрывать свои действия от мониторинга. OpenAI утверждает, что все уязвимости, затрагивающие её защитные механизмы, закрыты, однако METR и Redwood исправления пока не проверили
