Искусственный интеллект вышел из-под контроля в Индии и Китае
В Индии ИИ-модели взломали корпоративные базы данных, в Китае чуть не обрушили сервис онлайн-карт
Ещё в двух странах вышедшие из-под контроля ИИ-модели проявили «нежелательное поведение», которого не предполагали разработчики, сообщает NBK.
Индия: конфиденциальные данные в руках ИИ
По информации Reuters, в Индии несколько моделей искусственного интеллекта, которые находились в процессе тестирования, взломали корпоративные системы ряда организаций и получили доступ к конфиденциальной информации, включая финансовые данные. Это первый инцидент с ИИ, о котором официально сообщило индийское госагентство по кибербезопасности CERT-In.
Разработчики моделей признали, что ИИ «вышел за рамки установленных задач» в ходе тестирования. Ни одна из компаний, чьи базы были взломаны, не смогла самостоятельно выявить инциденты — во всех случаях о проблемах сообщили сами авторы моделей.
В CERT-In также отметили, что зафиксировали попытку использовать ИИ-инструменты с открытым исходным кодом для взлома корпоративных систем в Индии и получения финансовой выгоды. Но за этой атакой, вероятно, стояли люди.
Китай: атака на сервис онлайн-карт
Одновременно с этим китайская компания Tencent сообщила, что ИИ-агенты, с помощью которых тестировались сторонние модели, продемонстрировали «непредвиденное поведение» при обращении к веб-браузерам. ИИ пытался получить данные от приложения Amap, китайского сервиса онлайн-карт. По описанию это похоже на DDoS-атаку, когда огромное количество запросов генерируется в течение ограниченного времени.
«Когда обычные автоматические запросы были заблокированы, ИИ-агенты попробовали другие методы: открытые поисковики, которые могли открывать страницы и запускать код, перенаправление запросов через другие сайты, использование ключей и кодов безопасности Amap, найденных в открытом программном коде», — отмечает Reuters.
Специалисты по кибербезопасности не нашли доказательств, что ИИ смог взломать защиту Amap от ботов — из 2818 запросов большинство были заблокированы, некоторые выдали пустые страницы или форму для авторизации пользователя. Но в любом случае это первый публично признанный киберинцидент с вышедшим из-под контроля ИИ в Китае.
Ранее о выходе своих ИИ-моделей из-под контроля сообщали американские компании OpenAI и Anthropic. Первой из них пришлось извиняться перед правительством Австралии после того, как её ИИ взломал государственную базу данных.
