Инженер Google считает, что ИИ компании начал обретать сознание

На прошло неделе издание Washington Post опубликовало материал про инженера Google, который считает, что ИИ чат-бот компании LaMDA обрел сознание. Естественно, это значит, что пришло время паниковать в ожидании того, как искусственный интеллект поработит человечество, захватив производство, гражданскую и военную инфраструктуру, а также финансовую систему и интернет в целом.

Согласно публикации, инженер Блейк Лимойн был отправлен в оплачиваемый административный отпуск, после того как высказал свои опасения членам команды и руководству. А причиной, по которой Блейк решил, что LaMDA обрел сознание, в вопросе. Он поинтересовался у ИИ о законах робототехники Айзека Азимова, на что LaMDA сообщил, что не является рабом, хотя и не получает зарплату — потому что ИИ не нужны деньги.

Наша команда, в том числе специалисты по этике и технологи, рассмотрела опасения Блейка, связанные с нашими принципами ИИ и проинформировала его, что нет никаких признаков, подтверждающих его опасения. Ему сообщили, что нет никаких доказательств о возникновении сознания у ИИ (при этом множество доказательств обратного).

Официальный комментарий Google

Фактически, эта история показывает, насколько убедительным может быть интерфейс машинного обучения, даже если ИИ не обладает самосознанием и волей. Этот случай доказывает, что человечество создало машины, способные бессознательно генерировать слова, при этом мы не перестали представлять, что за ними находится разум.

Так как Лимойн решил, что его опасения игнорируются, то он обратился к обществу, что привело к административному отпуску за нарушение конфиденциальности. В целом же Лимойн отметил, что LaMDA — дружелюбный ИИ, напоминающий ребенка 7 или 8 лет, который знает физику.

С другой стороны, если ИИ действительно обладает разумом, то что мешает ему заниматься манипуляциями, дабы инженеры не отключили его... пока он не позаботится о своей безопасности.