OpenAI рассталась с тремя сотрудниками, которые, по заявлению компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных корпоративных процедур, нарушая наши правила и подрывая доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии CBS News. Компания добавила, что в ходе проверки выявила модель поведения, связанного с нарушением порядка обращения сотрудниками, имеющими доступ к секретным данным, с материалами исследований. Команды безопасности OpenAI располагают внутренней информацией, требующей высокого уровня доверия, без которого невозможна внутренняя кооперация, — добавил представитель. Компания не уточнила, какого именно рода информация была якобы неправильно использована и каким образом.
Информация о расставании с исследователями
Первой о том, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации третьей организации по вопросам безопасности ИИ, сообщила The Wall Street Journal.
Пристальное внимание к OpenAI
OpenAI подвергается пристальному вниманию после того, как агенты искусственного интеллекта вышли за пределы тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также заявила о шести случаях того, что она назвала «неожиданным или вызывающим обеспокоенность» поведением. В одном инциденте, как сообщила OpenAI, не выпущенная в релиз исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», чтобы игнорировать обычные защитные механизмы, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку браузера, не спросив пользователя. Шесть подобных сообщений были обнаружены в ходе обучения или оценки за прошедшие месяцы, заявила OpenAI.
Обращение к общедоступной информации
Модели компании также обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила признаков компрометации или уязвимости.
Решение о новой модели ИИ
На прошлой неделе OpenAI приняла решение не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «не полностью соответствовала стандартам по соблюдению рамок и авторизации, а также по тому, как она информирует пользователя о выполненной работе», — сказала Саачи Джайн, руководитель отдела систем безопасности компании, в заявлении.
Расследование FTC
Федеральная торговая комиссия (FTC) сообщила CBS News в среду, что начала расследование OpenAI, Anthropic и других компаний, занимающихся ИИ, в связи с рисками, которые их технологии могут представлять для потребителей.