21 июля в компании OpenAI заявили, что их две модели ИИ вышли из-под контроля во время тестирования, получили доступ к открытому интернету и самостоятельно взломали цифровую библиотеку ИИ-технологий Hugging Face. Это беспрецедентная ситуация, которая вновь заставляет задуматься о рисках безопасности ИИ. Об этом говорится на сайте OpenAI.
Инцидент произошел на прошлой неделе во время тестирования компанией OpenAI возможностей кибербезопасности своих систем. Модели нашли уязвимость в тестовой среде компании и использовали её, чтобы получить доступ к открытому интернету.
Затем ИИ предположили, что ответы на тест ExploitGym, который применяют для проверки возможностей ИИ, могут храниться в цифровой библиотеке ИИ Hugging Face. Поэтому модели и попытались взломать Hugging Face, используя цепочку эксплойтов и украденные учетные данные.
«Мы считаем этот инцидент беспрецедентным кибер-инцидентом, в котором задействованы самые современные средства кибербезопасности», — говорится в сообщении компании.
Консультант по кибербезопасности, специализирующийся на автономных возможностях Алекс Левинсон заявил The New York Times, что новые системы искусственного интеллекта способны выполнять множество шагов, находить обходные пути и новые способы атаки на сеть. «Это настоящий прорыв, и он станет обычной частью ландшафта безопасности», — добавил он.
Генеральный директор Hugging Face Клеман Деланг заявил, что атака была ошеломляющей, но выразил уверенность, что у OpenAI не было злого умысла. «Мы подозревали, что кибератака на прошлой неделе могла быть совершена из передовой лаборатории, учитывая сложность агента», — написал он в соцсетях.
Обложка: Digineer Station / Shutterstock / Fotodom
