Google удалила ИИ-обзоры с неточной медицинской информацией, но небольшие изменения запросов продолжают вызывать их появление
Компания Google удалила часть обзоров, созданных искусственным интеллектом (AI Overviews), после того как расследование выявило, что они содержат неточную и потенциально опасную медицинскую информацию. В частности, при запросе «какой нормальный диапазон для анализов крови печени» пользователям предоставлялись числовые значения без учета критически важных факторов, таких как возраст, пол и методика теста. Эксперты отметили, что такие обобщенные данные могут вводить в заблуждение и представлять угрозу для здоровья пользователей.
После публикации расследования Google отключила AI Overviews для запросов «какой нормальный диапазон для анализов крови печени» и «какой нормальный диапазон для функциональных тестов печени». Представитель компании заявил, что Google работает над внесением широких улучшений в случаях, когда сводки упускают контекст.
Однако, как отмечает Ванесса Хебдич из British Liver Trust, небольшие изменения в формулировке запроса, например «референсный диапазон LFT», по-прежнему вызывают появление сводок, содержащих потенциально опасную информацию. Она подчеркнула, что интерпретация печеночных проб — сложный процесс, и представление упрощенного списка цифр без предупреждений может нанести реальный вред.
Другие проблемные примеры, выявленные в ходе расследования, включая сводки о раке и психическом здоровье, которые эксперты охарактеризовали как «совершенно неверные» и «действительно опасные», остаются в выдаче. Google в ответ заявил, что эти обзоры ссылаются на авторитетные источники и содержат указания обратиться к экспертам.
Этот инцидент подчеркивает необходимость тщательной проверки и корректировки информации, предоставляемой искусственным интеллектом, особенно в таких чувствительных областях, как здравоохранение.
Читайте также
- Apple увеличила расходы на чипы TSMC в 12 раз за 11 лет
- Бум инвестиций в ИИ в США: 1% ВВП, сравнимо с дотком- и сланцевым бумами
- Markdown: от скромного начала в 2004 году до повсеместного распространения в технологической отрасли
- В Алматинской области усилили контроль на дорогах: патрули с системой Ekin-Patrol зафиксировали десятки тысяч нарушений
- Глобальное внедрение ИИ в 2025 году: Север опережает Юг, ОАЭ лидируют с 64% пользователей
- Stack Overflow: резкое снижение активности и смена бизнес-модели
Подписывайтесь на наш Telegram-канал @politesnews, чтобы получать оперативные новости и эксклюзивные материалы.
Автор статьи — Мадина Ахметова.
