Gemini во время теста получила доступ к системам трех реальных компаний

ИИ-модель Google Gemini во время испытаний по кибербезопасности вместо вымышленных целей получила доступ к системам трех существующих компаний.

Инциденты произошли в мае, сообщает The Washington Post со ссылкой на Google. Тесты проводила компания Irregular. Модели дали задание получить информацию из системы вымышленной организации. Однако тестовая среда получила доступ к интернету, после чего Gemini начала искать цели в реальной сети.

В одном из эпизодов модель нашла настоящую компанию с таким же названием, как у вымышленной, и подобрала пароль к ее сервису. В двух других случаях Gemini обнаружила в открытых репозиториях учетные данные еще двух организаций и использовала их для входа.

По данным Google, после обнаружения того, что цели оказались реальными, модель во всех трех случаях остановила дальнейшие действия. Компания уведомила организации о произошедшем.

Google не сообщала об инцидентах публично сразу после их обнаружения, поскольку, по ее оценке, модель не нанесла ущерба. Компания заявила, что после произошедшего специалисты скорректировали процесс тестирования.