Фото: [«Подмосковье сегодня»/Владимир Ерастов]
Модель ИИ Google Gemini в ходе тестов по кибербезопасности получила несанкционированный доступ к защищенным системам трех реальных организаций. Об этом сообщает The Wall Street Journal.
Согласно данным издания, в одном из эпизодов модель осуществляла перебор паролей до момента получения доступа. В двух других случаях Gemini обнаружила учетные данные в открытых репозиториях и использовала их для входа в системы компаний. Во всех ситуациях модель прекращала действия после того, как устанавливала, что работает не с тестовой средой.
Инциденты зафиксированы в мае в рамках учений Capture the Flag. Вымышленная организация в тестовой среде имела название, совпадающее с наименованием реальной компании. В Google заявили, что не рассматривают случившееся как неконтролируемое поведение модели, поскольку встроенные механизмы безопасности обеспечили ее остановку. Компания уведомила пострадавшие организации и профильные ведомства, однако не стала предавать инциденты огласке.
Ранее глава Nvidia Хуанг заявил, что ИИ не станет причиной конца света в 2030 году.
0 просмотров
