Стартап Mirendil с поддержкой a16z привлёк 200 миллионов на самоулучшающийся ИИ для науки

Многие энтузиасты считают, что главное обещание ИИ заключается в его способности ускорить научные открытия. По их мнению, прорывы, которые случаются раз в поколение, однажды могут стать рутиной благодаря алгоритмам.

Извлекая закономерности из массивов данных, слишком огромных для человеческого разума, ИИ-учёные в перспективе помогут решить самые острые технические проблемы человечества. Речь идёт об изменении климата, раке и даже, по мнению убеждённых трансгуманистов, о самой смерти.

ИИ-модель Anthropic Mythos за несколько часов взломала почти все секретные системы АНБ во время теста

Однако наука представляет собой коллективное предприятие, зависящее от глобального сообщества исследователей, которые свободно используют и развивают работы друг друга. ИИ-индустрия, напротив, сейчас контролируется горсткой исследовательских лабораторий, чей проприетарный код закрыт как друг от друга, так и от внешнего мира.

Быстрорастущий стартап Mirendil намерен преодолеть этот разрыв между научными открытиями и доступом к передовому ИИ. Компания недавно привлекла 200 миллионов долларов финансирования, доведя свою общую оценку до 1 миллиарда долларов.

Средства предоставили венчурные фирмы Andreessen Horowitz и Kleiner Perkins, а также Nvidia. Стартап базируется в центре Сан-Франциско и насчитывает около двадцати технических сотрудников. На его сайте размещены вакансии со стартовыми зарплатами до 500 тысяч долларов.

Название компании означает "друг драгоценных вещей" на эльфийском языке, пополняя растущий список имён технологических фирм, вдохновлённых "Властелином колец", что получается крайне иронично – эльфы точно бы такое не одобрили. Ситуация с именами даже стала вызывать подозрения, что их используют специально, в попытке "обелить" опасные и объективно угрожающие людям технологии.

Mirendil взялась за создание давней технической цели, а порой и источника беспокойства в Кремниевой долине – ИИ, способного создавать всё более совершенные версии самого себя. Этот процесс в технических кругах называют рекурсивным самоулучшением.

Все алгоритмы ИИ и машинного обучения в принципе обладают некоторой способностью к самоулучшению, так как обучаются на собственных ошибках со временем и корректируют свои результаты. Но некоторые из новейших и самых продвинутых моделей вывели этот процесс на новый уровень, во многом заменив инженеров-программистов и переписывая большую часть кода, на котором работают.

Это указывает на возможное будущее, где каждая новая версия модели создаёт собственного преемника. Подобная петля обратной связи может привести нас либо к утопии постдефицита, либо к аду под властью несогласованных сверхразумных ИИ-повелителей, в зависимости от того, кого спросить.

Даже Anthropic и OpenAI, два нынешних лидера гонки ИИ, публично призвали к формированию глобального наблюдательного комитета, который следил бы за рекурсивно самоулучшающимся ИИ. При необходимости такой орган должен был бы как-то обеспечить одностороннее замедление, чтобы люди не потеряли контроль.

Двое сооснователей Mirendil, Бехнам Нейшабур и Харш Мехта, ранее работали в Anthropic. Они покинули компанию в январе.

Microsoft тем временем пытается превратить тренд на рекурсивное самоулучшение в коммерческое предложение для корпоративного ИИ. В посте в X ранее в этом месяце глава компании Сатья Наделла написал, что "агентные системы, улучшающиеся со временем" вскоре могут стать важным активом для бизнеса.

Модель Anthropic Fable 5, выпущенная публично ранее в этом месяце и затем быстро отключённая по требованию администрации Трампа, поставляется с защитными ограничениями. Они не позволяют ей отвечать на запросы по потенциально опасным темам вроде кибербезопасности и химии. Однако ограничения оказались настолько строгими, что модель часто отказывалась обсуждать безобидные научно-исследовательские вопросы.

Ученые назвали 3 ключевых фактора возникновения ИИ-психоза

Anthropic вернёт доступ к ИИ-модели Mythos 5 для защиты критической инфраструктуры США

Mirendil полагает, что проблема не в самом рекурсивно самоулучшающемся ИИ, а в том, что доступ к таким передовым возможностям сейчас закрыт небольшим числом богатых лабораторий, вроде бывшего работодателя Нейшабура и Мехты. Поэтому компания намерена создавать самоулучшающиеся системы ИИ специально для разработчиков с открытым исходным кодом.

Сегодня любая лаборатория, пытающаяся использовать ИИ в разработке лекарств, химии, биологии или робототехнике, должна также стать передовой ИИ-лабораторией. Наша цель – демократизировать передовые исследования и разработки в области ИИ и сделать их широко доступными. Наша работа ускорит каждое научное и технологическое начинание, зависящее от ИИ.

Иными словами, идея состоит в том, чтобы передать рекурсивно самоулучшающийся ИИ передового уровня в руки как можно большего числа независимых лабораторий с конечной целью ускорить научный прогресс.