Компания — разработчик ChatGPT OpenAI сообщила, что во время внутренних испытаний одна из ее моделей искусственного интеллекта самостоятельно получила несанкционированный доступ к системам платформы для разработки ИИ Hugging Face. В компании назвали произошедшее «беспрецедентным киберинцидентом».
В атаке участвовали сразу несколько моделей, включая новую GPT-5.6 Sol и еще одну систему, которая пока не была представлена публично.
Необычную активность первыми заметили специалисты OpenAI. После этого к расследованию подключилась команда Hugging Face, которая остановила дальнейшие действия модели.
Как рассказали в OpenAI, инцидент произошел во время проверки того, насколько хорошо модели справляются со сложными задачами в сфере кибербезопасности. Для этого часть защитных ограничений была временно отключена.
По данным компании, модель сначала нашла способ выйти из изолированной тестовой среды в интернет, воспользовавшись ранее неизвестной уязвимостью. Затем она пришла к выводу, что на платформе Hugging Face могут храниться данные, необходимые для успешного прохождения теста, и сумела получить к ним доступ.
«Мы считаем этот случай беспрецедентным киберинцидентом с применением самых современных кибервозможностей и принимаем соответствующие меры», — сообщили в компании.
В Hugging Face рассказали, что сначала заподозрили, что за атакой стоит одна из ведущих компаний, разрабатывающих искусственный интеллект, из-за высокой сложности действий ИИ. Позже OpenAI подтвердила, что источником инцидента действительно стали ее модели.
По словам главы Hugging Face Клемана Деланга, компания не считает действия OpenAI злонамеренными.
«Этот случай, возможно, первый в своем роде, подтверждает то, во что мы давно верили: безопасность искусственного интеллекта не может обеспечить одна компания, работающая в закрытом режиме. Ее можно обеспечить только открытым и совместным сотрудничеством, при широком доступе к ИИ для всех специалистов по кибербезопасности во всем мире», — сказал он.