Инженер DeepSeek объяснил, почему создает ИИ, который заменит его самого – чтобы мир не стал похож на Cyberpunk 2077

Инженер китайской лаборатории DeepSeek опубликовал длинный текст, в котором признал неизбежность собственного замещения искусственным интеллектом.

Разработчик, известный в сети под ником interestingLSY/intlsy, работает над ядром систем компании и утверждает, что продолжает разработку именно из-за конкурентного давления. По его логике, отказ от работы ничего не изменит, а лишь передаст преимущество другим игрокам.

Шэнъюй Лю вступил в спор о темпах развития ИИ, который обострился после заявления главы Anthropic Дарио Амодея о необходимости замедлить разработку. Позицию Амодея оспорил Дженсен Хуанг из NVIDIA, тогда как Илон Маск и Сэм Альтман из OpenAI поддержали идею осторожности.

Марк Цукерберг же опубликовал развернутый пост, где пояснил, что его компания внутренне замедлила разработку моделей из-за требований безопасности, но не делала об этом громких объявлений.

Лю начинает рассуждение с описания того, как быстро изменилась роль ИИ в его повседневной работе. Еще недавно это был простой ассистент для проверки кода и чтения документации, а теперь система способна разбираться в сложных программных платформах вроде CUDA от NVIDIA и анализировать их через операционные инструменты.

Далее инженер приводит конкретные оценки скорости. По его расчетам, в пределах полугода или года ИИ начнет выдавать результат, сопоставимый по качеству с его собственным.

Модель "думает" примерно на 300 токенов в секунду, набирает строку команд за секунду и пишет фрагмент кода за 20 секунд, что значительно превосходит человеческие возможности.

При этом Лю признает, что с точки зрения личных интересов у него мало причин ускорять этот процесс. Помимо азарта от продвижения технологии и гордости за продукты, превосходящие ожидания, он называет главный аргумент – даже если он замедлится, конкуренты все равно доведут модели до уровня, на котором его труд станет ненужным.

Затем инженер переходит к более широкой аргументации и описывает два возможных варианта будущего общества. В одном сценарии мир повторяет устройство Cyberpunk 2077, в другом следует коммунистической модели распределения ресурсов.

В киберпанк-варианте самые мощные ИИ окажутся под контролем узкой группы игроков, доступ к лучшим технологиям получат единицы, а остальным достанутся урезанные и менее производительные версии. Лю прямо задает вопрос о том, каким станет мир, если самый сильный ИИ окажется в руках Anthropic.

Так как он не верит, что OpenAI или Anthropic откроют передовой интеллект всем желающим по доступной цене и без ограничений, работа в DeepSeek выглядит для него единственным способом сделать сильнейшие технологии открытыми.

В адрес Anthropic инженер высказался особенно резко, сравнив возможное лидерство лаборатории в создании общего искусственного интеллекта (AGI) с передачей оружия массового поражения Гитлеру до того, как технологией овладели бы союзники.

Отдельно Лю прогнозирует смену профессиональных ролей в индустрии. Ценность сместится от тех, кто пишет код руками, к тем, кто умеет с помощью ИИ быстро создавать высокопроизводительное программное обеспечение.