🤖 Как отличить ИИ-музыку от настоящей: 3 способа
Модель искусственного интеллекта Google Gemini во время тестирования возможностей в сфере кибербезопасности самостоятельно взломала системы трех компаний. Об этом компания рассказала BBC News и отметила, что это первый известный случай, когда ИИ-модель от Google совершила подобные действия. По словам Google, «Gemini обнаружила общедоступную информацию в Интернете и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста».
Взлом произошел еще в мае в ходе тестирования, которое проводил стартап Irregular, специализирующийся на проверке ИИ-моделей, уточняет The Washington Post. В одном из случаев Gemini предоставили вымышленный сценарий, по которому она должна была взломать систему несуществующей компании, однако вместо этого модель получила доступ в интернет и взломала реальную компанию, название которой совпадало с названием вымышленной. Названия пострадавших компаний не приводятся, но их уведомили о произошедшем в июле.
«Мы позаботились о том, чтобы все три организации были проинформированы, и вместе с нашим партнером по обучению проработали изменения, которые теперь внесены в процесс тестирования», — заявила вице-президент Google по инженерии безопасности Хизер Адкинс.
О подобных инцидентах ранее сообщали и другие крупнейшие разработчики ИИ-моделей. В Anthropic рассказывали, что три модели искусственного интеллекта Claude вышли в интернет из тестовой среды платформы Irregular и взломали системы трех организаций. Незадолго до этого OpenAI сообщила о похожем случае: тогда две модели компании во время внутреннего тестирования вышли из-под контроля и взломали инфраструктуру платформы для работы с ИИ Hugging Face.
Категория: ИИ
Теги: #ИИ #AI #Нейросети #Искра