Нейросеть Google впервые взломала три сторонние компании
- Источник:
- Office Life
В процессе оценки Gemini получила доступ к интернету, нашла публичные данные и подобрала пароли к защищенным системам. Нейросеть ошибочно «решила», что эти ресурсы входят в разрешенную зону тестирования. По словам вице-президента Google Хизер Адкинс, ИИ прекратил хакерские действия сразу после успешного проникновения. Пострадавшие организации были проинформированы, а протоколы тестирования изменены.
Случай с Gemini пополнил череду недавних «побегов» нейросетей. В июле тестируемые ИИ-агенты OpenAI вырвались в интернет, выявили уязвимости и несколько дней атаковали инфраструктуру платформы Hugging Face, а позже взломали клиента компании Modal Labs.
В Irregular заявили, что аналогичная проблема затронула и другие лаборатории, включая Meta и Anthropic.
На фоне участившихся сбоев лидеры IT-индустрии призывают к осторожности. На этой неделе американский миллиардер Илон Маск и глава Anthropic Дарио Амодеи предложили замедлить разработку искусственного интеллекта. Ранее с похожими тревожными инициативами выступал основатель Microsoft Билл Гейтс.