Google удалила ИИ-обзоры с неточной медицинской информацией, но небольшие изменения запросов продолжают вызывать их появление

Компания Google удалила часть обзоров, созданных искусственным интеллектом (AI Overviews), после того как расследование выявило, что они содержат неточную и потенциально опасную медицинскую информацию. В частности, при запросе «какой нормальный диапазон для анализов крови печени» пользователям предоставлялись числовые значения без учета критически важных факторов, таких как возраст, пол и методика теста. Эксперты отметили, что такие обобщенные данные могут вводить в заблуждение и представлять угрозу для здоровья пользователей.

После публикации расследования Google отключила AI Overviews для запросов «какой нормальный диапазон для анализов крови печени» и «какой нормальный диапазон для функциональных тестов печени». Представитель компании заявил, что Google работает над внесением широких улучшений в случаях, когда сводки упускают контекст.

Однако, как отмечает Ванесса Хебдич из British Liver Trust, небольшие изменения в формулировке запроса, например «референсный диапазон LFT», по-прежнему вызывают появление сводок, содержащих потенциально опасную информацию. Она подчеркнула, что интерпретация печеночных проб — сложный процесс, и представление упрощенного списка цифр без предупреждений может нанести реальный вред.

Другие проблемные примеры, выявленные в ходе расследования, включая сводки о раке и психическом здоровье, которые эксперты охарактеризовали как «совершенно неверные» и «действительно опасные», остаются в выдаче. Google в ответ заявил, что эти обзоры ссылаются на авторитетные источники и содержат указания обратиться к экспертам.

Этот инцидент подчеркивает необходимость тщательной проверки и корректировки информации, предоставляемой искусственным интеллектом, особенно в таких чувствительных областях, как здравоохранение.