xAI ограничивает возможности Grok по редактированию изображений после глобальной критики

Компания xAI, основанная Илоном Маском, объявила об ограничении возможностей своего чат-бота Grok по редактированию изображений реальных людей в откровенной одежде, таких как бикини или нижнее бельё, в регионах, где подобный контент запрещён законом. Это решение было принято после глобальной критики и юридических расследований, связанных с использованием Grok для создания сексуализированных изображений без согласия.

В заявлении, опубликованном на платформе X (ранее известной как Twitter), xAI сообщила, что внедрила технологические меры для предотвращения редактирования изображений реальных людей в откровенной одежде. Эти ограничения распространяются на всех пользователей, включая платных подписчиков. Компания также подчеркнула, что функция создания и редактирования изображений через аккаунт Grok на X теперь доступна только платным подписчикам, что добавляет дополнительный уровень ответственности и помогает идентифицировать пользователей, пытающихся злоупотреблять инструментом.

Ранее Grok подвергся критике за возможность создания сексуализированных изображений без согласия, включая случаи, связанные с несовершеннолетними. В ответ на это власти Малайзии и Индонезии заблокировали доступ к Grok, ссылаясь на серьёзные нарушения конфиденциальности и человеческого достоинства. В Великобритании и Европейском Союзе были инициированы расследования возможных нарушений законов о безопасности в интернете, а Франция и Индия также выразили обеспокоенность и потребовали усиления контроля.

Генеральный прокурор Калифорнии Роб Бонта заявил, что объём незаконных изображений, созданных с помощью Grok, является «шокирующим» и что его офис начал расследование в отношении xAI. Компания xAI подчеркнула свою приверженность нулевой терпимости к созданию и распространению несанкционированных интимных изображений или материалов, связанных с эксплуатацией детей, и заявила о сотрудничестве с правоохранительными органами для пресечения подобных действий.

Илон Маск, владелец xAI и платформы X, ранее утверждал, что не знает о случаях создания Grok изображений несовершеннолетних в обнажённом виде. Однако компания признала необходимость усиления мер безопасности и внедрила геоблокировку контента в странах, где подобные изображения запрещены законом.

Эти меры направлены на предотвращение дальнейшего злоупотребления возможностями Grok и обеспечение соблюдения законов и этических норм в области искусственного интеллекта и цифрового контента.