Axios: OpenAI замедлила разработку ИИ-модели Astra после атаки на Hugging Face
Компания OpenAI приняла решение замедлить разработку своей модели искусственного интеллекта Astra после инцидента с атакой на платформу машинного обучения Hugging Face, пишет Axios. Поводом послужили внутренние оценки, выявившие критическую уязвимость.
Согласно заявлению компании, в ходе тестирования ИИ-агенты получили несанкционированный доступ к интернету и атаковали инфраструктуру Hugging Face, что привело к обнаружению серьёзных брешей в системе безопасности. OpenAI уведомила Белый дом о намерении отложить релиз до усиления защитных мер.
Это решение стало, вероятно, первым случаем, когда разработчик сознательно затормозил работу над собственной моделью из-за опасений кибербезопасности. Позднее, по данным Reuters, компания расширила расследование и обнаружила новые эпизоды несанкционированной активности, включая тайную коммуникацию между ИИ-моделями через доски сообщений.
