OpenAI ужесточает контроль над попытками узнать "скрытую логику" в новых моделях ИИ

Похоже, OpenAI решила отойти от принципов открытости, начав рассылать письма пользователям, задающим слишком пытливые вопросы новейшим моделям компании под кодовым названием Strawberry.

По сообщениям некоторых пользователей, при использовании определенных фраз или вопросов в общении с моделями o1-preview или o1-mini приходит предупреждение по электронной почте:

Пожалуйста, прекратите эту деятельность и убедитесь, что вы используете ChatGPT в соответствии с нашими Условиями использования и Политикой использования. Дальнейшие нарушения этой политики могут привести к потере доступа к GPT-4o с рассуждениями.

Например, пользователь X под ником thebes утверждает, что получает это предупреждение при использовании слов "reasoning trace" (след рассуждений) в запросе. Райли Гудсайд, промпт-инженер в Scale AI, получил предупреждение о нарушении политики прямо в чате за то, что попросил модель не рассказывать ему о ее "следе рассуждений".

Похоже, OpenAI не хочет раскрывать информацию о "рассуждениях" своей новейшей модели. Хотя эти модели пытаются рассуждать над проблемами линейным образом, пользователи могут видеть только "отфильтрованную" форму этих рассуждений, но OpenAI скрывает тонкости всего процесса.

OpenAI заявляет, что решение скрыть такие "цепочки мыслей" было принято "после взвешивания нескольких факторов, включая пользовательский опыт, конкурентное преимущество и возможность отслеживания цепочки рассуждений".

Все это напоминает, что хотя компания OpenAI технически считается некоммерческой, реальность гораздо сложнее. Компания фактически имеет гибридную структуру — отчасти некоммерческую, отчасти коммерческую. Вспомним иск Илона Маска против OpenAI, в котором утверждалось, что компания отошла от своего первоначального учредительного соглашения, когда начала стремиться к прибыли.

Это также напоминание пользователям о том, что их чаты не являются полностью приватными и бесплатными, о чем иногда легко забыть.