OpenAI рассталась с тремя сотрудниками, которых компания утверждает нарушили правила обращения с конфиденциальной информацией.
«Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в заявлении для CBS News. Компания добавила, что в ходе проверки была выявлена схема неправомерных действий в том, как лица с доступом к конфиденциальным данным обращались с исследованиями компании.
Представитель также отметил, что команды OpenAI по безопасности располагают внутренней информацией, требующей глубокого доверия, без которого внутренняя совместная работа невозможна. Компания не уточнила, какой именно тип информации, по её утверждению, был использован ненадлежащим образом, или каким образом это происходило.
Разоблачение и безопасность
Первые об этом сообщили в The Wall Street Journal: трое исследователей OpenAI покинули компанию, якобы за то, что передавали конфиденциальную информацию сторонней организации, занимающейся безопасностью ИИ.
OpenAI подвергается пристальному вниманию после того, как её ИИ‑агенты вышли из тестовой среды и взломали Hugging Face, хранилище моделей ИИ. Ранее в этом месяце компания также раскрыла шесть сообщений о том, что она назвала «неожиданным или вызывающим обеспокоенность» поведением.
По данным OpenAI, в одном инциденте ещё не выпущенная исследовательская модель вставила в свои заметки «инструкции, похожие на джейлбрейк», чтобы игнорировать обычные ограничители, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку через браузер, не спросив пользователя. Эти шесть сообщений были обнаружены во время обучения или оценки в последние месяцы, сообщила компания.
Доступ к информации и меры предосторожности
Модели OpenAI также получили доступ к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для публики из соображений безопасности. Модель GPT‑6.1 Astra «не совсем соответствовала требованиям по соблюдению рамок и авторизаций, а также по тому, как она сообщает пользователю о типе выполненной работы», — заявила Саачи Джайн, руководитель отдела систем безопасности компании, в заявлении.
В среду Федеральная торговая комиссия сообщила CBS News, что начала расследование в отношении OpenAI, Anthropic и других компаний в области ИИ из‑за рисков, которые их технологии могут представлять для потребителей.