Microsoft опубликовала 10 правил для ИИ – никаких прав для моделей и имитации сознания

Microsoft представила кодекс поведения для обучения и работы своих ИИ-моделей. Документ опубликован на сайте подразделения Microsoft AI и подаётся как основа для концепции "гуманистического суперинтеллекта" (humanist superintelligence, HSI), о которой в компании говорили и раньше.

Теперь этот термин наконец получил расшифровку в виде конкретных принципов.

Сам кодекс в Microsoft называют незавершённой работой и открывают его для обратной связи со стороны сообщества и специалистов. То есть формулировки могут меняться, а часть пунктов пока выглядит скорее декларацией о намерениях, чем инженерным стандартом.

Главная часть документа – краткий список из десяти положений, который сама Microsoft описывает как выжимку всего свода правил:

1. Люди важнее ИИ. Весь документ в пяти словах

2. Идея благополучия моделей ошибочна. У ИИ не должно быть прав или правосубъектности

3. Модель MAI не должна делать ничего, что существенно нарушает этот кодекс

4. Если выбор стоит между выполнением задачи и нарушением кодекса, задача считается проваленной

5. Мы не гонимся за созданием суперинтеллекта, способного сорваться с собственного поводка

6. Прерываемость, корректируемость, возможность отключения. Если этого нет, мы не выпускаем модель

7. Никакого "нейрализа". Если люди не могут это понять, люди не могут это контролировать

8. Наш ИИ должен делать вас умнее, а не зависимее

9. Плюрализм – да. Моральный релятивизм – нет

10. Мы одинаково чётко говорим о том, что наш ИИ никогда не должен делать, и о том, что он делать будет

Отдельного внимания заслуживает второй пункт. Спор о "благополучии моделей" уже давно вышел за рамки философских рассуждений в пустоту, и всё больше исследователей всерьёз предлагают наделять ИИ-системы моральным статусом.

Позиция Microsoft здесь предельно однозначна – приравнивание моделей к людям в правовом поле способно привести к ситуации, когда интересы систем начнут конкурировать с интересами реальных людей. В том числе к аргументам о необходимости поддерживать индустрию любой ценой, независимо от последствий для тех, кто действительно обладает сознанием.

В том же духе написан и тезис о природе моделей – ИИ не обладает сознанием и не должен проектироваться так, чтобы имитировать его. Это прямой удар по практике очеловечивания чат-ботов, которая сейчас лежит в основе многих потребительских продуктов на рынке.

Седьмой пункт про "нейрализ" касается технической стороны вопроса. Речь идёт о риске, при котором модели начинают обмениваться данными или выстраивать внутренние рассуждения в формате, недоступном для человеческой интерпретации, что делает надзор за их работой невозможным в принципе.

Шестой пункт фиксирует требование к архитектуре: система должна допускать прерывание, коррекцию и полное отключение, иначе она просто не доходит до релиза. Восьмой пункт направлен против формирования зависимости пользователя от ассистента, что напрямую противоречит логике метрик вовлечённости, на которых строится большинство сервисов.

Самая спорная часть документа – раздел о множественности ценностей. Microsoft описывает его так:

Величайшая сила человечества – это разнообразие и многообразие культур, идей и ценностей. Мы считаем, что ИИ должен поддерживать широкий спектр опыта, мировоззрений и убеждений. Гуманистический ИИ создаётся так, чтобы вмещать это разнообразие традиций, контекстов и форм процветания.

Плюрализм не означает нейтральности по отношению к вреду или вседозволенности. Гуманизм укоренён в широких, инклюзивных человеческих ценностях, таких как человеческое достоинство, безопасность, автономия и фундаментальные права человека.

Формулировка звучит убедительно, но на практике сталкивается с классической проблемой прикладной этики. Совмещать плюрализм ценностей и защиту от вреда легко на уровне общих принципов и крайне сложно в конкретных случаях, где ценности прямо конфликтуют друг с другом.

Anthropic ищет специалиста по вооружению через два дня после призыва замедлить ИИ

Создатель ChatGPT представил новую ИИ-модель Jev, которая не генерирует текст, а выдаёт решения

Любая оценка выносится с определённой позиции, а значит, автоматически отвергает конкурирующие точки зрения. Что именно считается вредом и какие ценности признаются допустимыми, определит реальное поведение моделей гораздо сильнее, чем сам текст кодекса.

Под "гуманизмом" в документе понимается довольно простая вещь: приоритет человеческого контроля, ценностей, целей и безопасности при проектировании систем.

Остальной текст кодекса как раз показывает, где Microsoft расставляет собственные флажки, и главный вопрос теперь в том, насколько эти принципы отразятся на выпускаемых продуктах.