Google убрал часть ИИ-функций из поиска из-за опасных советов по здоровью

Google сворачивает некоторые функции поиска с искусственным интеллектом, которые показывали пользователям советы по здоровью. Об этом сообщает The Guardian со ссылкой на источники внутри компании.

Выяснилось, что ИИ собирал мнения обычных людей и показывал их как подсказки в поиске. По сути, вместо рекомендаций от профессионалов пользователь мог получить советы от незнакомых людей с похожими симптомами.

Ранее The Guardian опубликовал расследование, в котором выяснилось, что такие ИИ-обзоры могут содержать неточную и даже опасную информацию. В некоторых случаях пользователи рисковали неправильно оценить свое состояние или проигнорировать серьезные симптомы.

После этого Google начал убирать часть медицинских ИИ-ответов и ограничивать их показ по отдельным запросам.

В самой компании заявили, что отказ от одной из функций связан с упрощением поиска, а не с проблемами качества или безопасности. Тем не менее эксперты считают такие ошибки потенциально опасными для пользователей.