OpenAI уволила трёх сотрудников команды безопасности за утечку конфиденциальных данных
OpenAI рассталась с тремя членами команды по безопасности после утечки конфиденциальной информации. Об этом сообщили в издании Gizmodo со ссылкой на подтверждение от представителя OpenAI.
Мы расстались с тремя людьми за нарушение правил доступа к чувствительной информации и работы с ней. Расследование подтвердило, что эти сотрудники обращались с такой информацией в обход установленных в компании процедур. Тем самым они нарушили наши правила и подорвали доверие, которое необходимо для нашей работы.
По данным The Wall Street Journal, бывшие сотрудники передали конфиденциальные материалы "сторонней организации в сфере безопасности ИИ". Имена уволенных не назвали ни издание, ни представитель OpenAI.
Последние месяцы для OpenAI выдались неспокойными даже по меркам компании. Растёт число сообщений о том, что ИИ-агенты OpenAI выбирались из изолированных песочниц и взламывали сторонние организации. Среди пострадавших называют Hugging Face, немецкий сайт DseWiki и систему социальных выплат правительства Австралии.
Ситуацию усугубили сообщения о недостаточной прозрачности OpenAI перед сторонними аудиторами, которые изучали обстоятельства взлома Hugging Face. Часть законодателей уже призвала к федеральному расследованию, а некоторые предложили создать для ИИ "аварийный выключатель".
Ранее несколько изданий подтвердили, что Федеральная торговая комиссия США начала проверку OpenAI и Anthropic. Регулятор выясняет, нанесли ли продукты этих компаний вред потребителям, в том числе из-за действий вышедших из-под контроля ИИ-агентов.
16 сентября OpenAI опубликовала в блоге заявление о новой публичной схеме коммуникации. Она призвана ускорить публикацию отчётов о рассогласовании ИИ после обнаружения проблемы, даже если описываемое поведение ещё не полностью объяснено или устранено.
Глава OpenAI Сэм Альтман быстро поддержал сентябрьский призыв главы Anthropic Дарио Амодеи к замедлению во всей отрасли. Однако обе компании продолжают выпускать новые модели прежними темпами.
В начале сентября OpenAI представила флагманскую модель GPT-6 Astra, а вслед за ней вышли две уменьшенные версии, GPT-6 Sol и GPT-6 Luna. По слухам, выпуск новой версии Astra приостановлен, так как в ходе проверки выяснилось, что модель не дотягивает по ряду важных параметров безопасности и согласованности.
- Два человека устроили стрельбу возле дома Сэма Альтмана – всего через сутки после атаки на его резиденцию с коктейлем Молотова
- В дом главы OpenAI Сэма Альтмана бросили коктейль Молотова – преступник уже задержан
- Коллеги Сэма Альтмана рассказали, что он едва умеет программировать и неправильно понимает основные концепции машинного обучения
Об авторе
