OpenAI привлекает сотни подрядчиков, которые читают реальные запросы пользователей ChatGPT, а иногда и переписку целиком. Об этом 14 сентября сообщило издание 404 Media со ссылкой на утёкшие внутренние документы и примеры запросов. Проект внутри компании, по данным издания, называется Project Lily.
Задача проверяющих — оценивать и критиковать ответы чат-бота, чтобы улучшать модели: в частности, учить ChatGPT не очеловечивать себя и меньше поддакивать собеседнику. Имён пользователей подрядчики не видят. OpenAI, по данным издания, старается удалять личные данные до того, как запросы попадают к людям, но признала, что чувствительные сведения всё равно могут просочиться. Anthropic подтвердила 404 Media, что тоже использует проверку ответов людьми.
Запретить использовать свои чаты для обучения можно в настройках ChatGPT. По справке OpenAI, в веб-версии это делается так: Settings → Data Controls → выключить «Improve the model for everyone»; в приложении пункт Data Controls находится в профиле. Переписка после этого остаётся в истории, но не идёт на обучение. Распространяется ли настройка на ручную проверку, о которой пишет 404 Media, из опубликованной части материала не ясно.
Источник — 404 Media.
