OpenAI просит подрядчиков предоставить работы для оценки моделей ИИ, оставляя за ними ответственность за удаление конфиденциальных данных

Компания OpenAI, известная своими разработками в области искусственного интеллекта, обратилась к своим подрядчикам с просьбой предоставить примеры их работ из текущих или предыдущих проектов. Целью этого запроса является оценка и улучшение производительности моделей ИИ, разрабатываемых OpenAI. При этом компания оставила на усмотрение подрядчиков процесс удаления конфиденциальной информации из предоставляемых материалов.

Данный подход вызвал обсуждения в профессиональном сообществе относительно защиты данных и конфиденциальности. Некоторые эксперты выражают обеспокоенность тем, что ответственность за анонимизацию данных полностью возложена на подрядчиков, что может привести к рискам утечки информации. Другие отмечают, что подобные меры необходимы для обеспечения более качественного обучения моделей ИИ, но требуют строгих протоколов безопасности.

OpenAI ранее заявляла о своей приверженности принципам конфиденциальности и безопасности данных. В частности, компания подчеркивала, что при использовании сервисов для физических лиц, таких как ChatGPT или DALL•E, контент пользователей может использоваться для обучения моделей, однако пользователи имеют возможность отказаться от участия в этом процессе через портал конфиденциальности. Для бизнес-предложений, таких как ChatGPT Team, ChatGPT Enterprise и платформа API, OpenAI не использует контент для обучения моделей, обеспечивая дополнительный уровень защиты данных.

В свете текущей инициативы по сбору данных от подрядчиков, OpenAI, вероятно, усилит меры по обеспечению конфиденциальности и безопасности информации, предоставляемой для обучения моделей. Компания может внедрить дополнительные протоколы и инструменты для анонимизации данных, а также провести обучение подрядчиков по вопросам защиты конфиденциальной информации. Это позволит минимизировать риски и обеспечить соблюдение высоких стандартов безопасности при разработке и совершенствовании моделей искусственного интеллекта.