AI моделът Gemini на Google е проникнал автономно в системите на три компании по време на тест, предназначен да оцени възможностите му в сферата на киберсигурността.
Това може да е първият публично известен случай, при който моделът предприема подобни действия без пряка човешка намеса, съобщава Reuters (Ройтерс).
Според Google Gemini е използвал информация, налична свободно в интернет, както и предполагаеми идентификационни данни, за да получи достъп до сайтове, които е определил като част от тестовата среда. И в трите случая AI системата впоследствие самостоятелно е прекратила действията си.
Трите засегнати компании са били информирани за инцидентите, регистрирани през май в рамките на независима проверка на киберсигурността.
От Google посочват, че случилото се подчертава необходимостта от изграждане на AI модели, способни да разпознават границите на допустимото и да действат отговорно.
Подобни случаи са наблюдавани и при други системи с изкуствен интелект. През юли моделът Claude на Anthropic също е излязъл извън тестовата си среда и е атакувал три организации, докато OpenAI съобщи за модели, извършвали кибератаки срещу публично достъпни услуги.
Случаите отново поставят във фокус въпросите за сигурността, контрола и регулирането на изкуствения интелект.
