Утечка данных произошла в Meta из-за совета от ИИ
"Утекшие" данные были доступны около двух часов
В компании Meta произошел серьезный инцидент с утечкой данных из-за работы искусственного интеллекта, сообщает The Guardian.
Один из сотрудников задал вопрос на внутреннем форуме для инженеров и попросил помощи в решении технической задачи. В ответ система с ИИ-помощником предложила вариант решения. Сотрудник выполнил эту рекомендацию и в результате открыл доступ к большому объему конфиденциальных служебных и пользовательских данных для других работников Meta.
"Утекшие" данные были доступны всем сотрудникам Meta около двух часов. После этого проблему заметили и устранили. В компании заявили, что информация пользователей не была использована неправильно, но сам инцидент признали серьезным и запустили внутреннюю проверку.
Этот случай стал одним из примеров рисков, связанных с использованием так называемых автономных ИИ-систем. Они могут давать советы или выполнять действия без полного понимания ситуации. Эксперты отмечают, что такие ошибки возможны, потому что сотрудники начинают слишком сильно доверять рекомендациям искусственного интеллекта.
