Видео с очков RayBan Meta показывает модераторам банковские данные пользователей

Видео и фотографии, снятые умными очками RayBan Meta Smart Glasses, просматривают модераторы из Кении, которые помогают обучать системы искусственного интеллекта компании Meta Platforms. Об этом говорится в расследовании шведских изданий Svenska Dagbladet и Göteborgs‑Posten.

Журналисты поговорили с сотрудниками аутсорсинговых компаний в Найроби, которые занимаются разметкой данных. Их задача заключается в том, чтобы просматривать фрагменты видео и аудио, снятые очками, и отмечать объекты, действия или ситуации. Это помогает алгоритмам лучше понимать окружающую среду пользователя и корректно отвечать на команды.

По словам работников, среди материалов часто оказываются записи из частной жизни пользователей. В записях встречаются личные разговоры с близкими, а иногда и крайне интимные моменты. Модераторы рассказали журналистам, что им приходилось видеть фрагменты, где люди переодеваются или находятся в ванной. Еще большее беспокойство вызывает то, что иногда на видео заметны банковские карты с читаемыми номерами, финансовые документы или номера счетов.

Модераторы утверждают, что часть таких материалов попадает в систему, потому что владельцы очков не всегда осознают, что устройство продолжает записывать происходящее вокруг. В некоторых случаях камера фиксирует происходящее в комнате, пока очки лежат на столе или тумбочке.

Опрошенные участники расследования отметили, что отказаться от просмотра подобных файлов сложно. Задания приходят автоматически и считаются частью обычной работы по обучению алгоритмов. При этом сотрудники говорят, что иногда им приходится обрабатывать контент, который они считают слишком личным или неловким для просмотра.

Компания Meta Platforms в своей политике конфиденциальности предупреждает, что записи могут использоваться для улучшения сервисов и работы искусственного интеллекта. Однако расследование шведских журналистов впервые подробно показало, как именно этот процесс выглядит на практике и какую потенциальную опасность может представлять доступность таких материалов модераторам.