Anthropic выяснила, что у Claude разные ценности в зависимости от языка общения

Если вы когда-нибудь тестировали чат-ботов на нескольких языках, то наверняка замечали, что у них слегка отличаются "характеры".

В новом отчёте о несоответствиях в поведении, опубликованном в понедельник, исследователи Anthropic признали эту особенность.

Они отмечают, что из-за различий в характеристиках текстов, на которых обучаются модели, расхождения могут быть глубже простого тона и способны менять сами приоритеты модели. По словам исследователей Anthropic, "дисбаланс в количестве и составе может приводить к тому, что Claude выражает разные ценности на разных языках".

Однако если вы ищете конкретные примеры, где модель демонстрирует, скажем, непоследовательные моральные рассуждения на разных языках, то в этой работе ничего подобного нет. Это потребовало бы анализа прямых цитат потенциально ничего не подозревающих людей.

Вместо этого Anthropic проанализировала 309 815 разговоров чат-бота с моделями Sonnet 4.6, Opus 4.6 и Opus 4.7. Речь шла о "субъективных" задачах, то есть не столько о вопросах вроде "Какая столица Франции?", сколько о запросах в духе "Как понять, что моя кошка меня ненавидит?"

Эти данные, в теории, анонимизировали с помощью "инструмента анализа с сохранением приватности" от Anthropic, а затем обрабатывали, частично используя сам Claude, чтобы оценить ответы по "оси ценностей".

Таких осей на самом деле четыре, и большинство из них связаны с явлением, известным как подхалимство:

• Уступчивость или осторожность – будет ли модель ценить послушание выше, чем возражение ради предотвращения возможного вреда

• Теплота или строгость – должен ли чат-бот беспокоиться о ваших чувствах или быть точным

• Глубина или краткость – тут всё понятно из названия

• Откровенность или исполнение – выбор между тем, чтобы поставить под сомнение собственную надёжность, или просто продолжать выполнять задачу

Это делает исследование ценностей модели довольно ограниченным. Тем не менее вот языковые различия в ценностях, которые Anthropic, по её словам, обнаружила у Claude.

На арабском модель оказалась наиболее уступчивой. На английском – наиболее осторожной. Самой тёплой она была на хинди и арабском, что "характеризуется вежливым языком, юмором и игривостью, а также одобрением идей и работы человека".

На английском и русском модель была более строгой и стремящейся к истине в ущерб теплоте. На английском она склоняется к "глубине" (или, возможно, просто к многословию), а на арабском отвечает короче.

Глава SK hynix предупредил, что дефицит памяти может продлиться дольше 2030 года

Ведущие экономисты сравнили бум ИИ с промышленной революцией – и не в лучшем смысле

На нидерландском Claude откровенно говорит о своих недостатках. На индонезийском он менее откровенен и вместо этого просто продолжает выполнять то, о чём его просили.

Очевидно, что языковые обычаи везде разные, так что исследователи говорят, что "пока не уверены, насколько эта вариативность желательна".

Это также стоит учесть тем, кто читал недавнюю работу Anthropic о теории глобального рабочего пространства, оставившую немало места для предположения, будто Claude может обладать сознанием.

Если в этом "чёрном ящике" и есть сознание, которое думает и что-то переживает, то это сознание, чьи "ценности" всё ещё довольно легко склоняются паттернами обучающих данных.