Согласно расследованию издания 404 Media, компания OpenAI использует сотни подрядчиков для чтения и оценки реальных диалогов пользователей ChatGPT с целью улучшения работы нейросети (в частности, чтобы бот меньше «поддакивал»). Несмотря на то, что имена пользователей скрыты, фильтрация чувствительных данных (здоровье, финансы, личные отношения) не всегда эффективна, и сотрудники могут видеть конфиденциальную информацию. OpenAI подтверждает, что данные, отправленные в обычный ChatGPT, могут быть доступны уполномоченным лицам. Аналогичная практика ручной проверки чатов используется и компанией Anthropic (разработчик Claude). Для защиты конфиденциальности пользователям рекомендуется в настройках ChatGPT («Настройки» → «Управление данными») отключить опцию «Улучшать модель для всех» (Improve the model for everyone). Ранее WP сообщала о случаях, когда переписки с ИИ становились доказательствами в судебных процессах.