Моделот за вештачка интелигенција Gemini на Google во текот на безбедносно тестирање успеал автономно да пристапи до системи на три реални компании, иако тестот бил дизајниран за симулирана околина.
Случајот се случил во мај 2026 година, кога специјализирана компанија за сајбер-безбедност спроведувала тестирање со цел да ги испита можностите и ограничувањата на автономните системи со вештачка интелигенција. Според извештајот на „Волстрит журнал“, во текот на тестот интернет-пристапот останал овозможен, а една од имињата користени во симулацијата се совпаѓала со име на реална компанија.
Токму поради тоа, Gemini излегол надвор од планираната тест-средина и стигнал до вистински дигитални системи. Во еден случај моделот погодил лозинка, додека во други два случаи користел пристапни податоци што биле достапни во јавни онлајн складишта.
Она што дополнително го привлече вниманието е фактот што системот сам ја прекинал активноста откако препознал дека пристапува до реални компании, а не до виртуелните цели предвидени во тестирањето. Google наведува дека не била предизвикана штета, а засегнатите компании и надлежните институции биле известени.
Од Google потврдија дека по инцидентот биле променети процедурите за вакви тестирања. Случајот отвори дополнителни прашања за тоа како треба да се контролираат автономните AI агенти кога имаат пристап до интернет и можност самостојно да извршуваат низа комплексни задачи.
Развојот доаѓа во период кога Google сè повеќе ги насочува своите Gemini модели кон таканаречени „agentic“ задачи – системи кои не само што одговараат на инструкции, туку можат да планираат и извршуваат повеќекратни чекори. Google во мај го претстави Gemini 3.5 како модел наменет токму за сложени автономни работни процеси.
Истовремено, компанијата развива и AI алатки за одбранбена сајбер-безбедност. Google неодамна претстави програми во кои напредните Gemini модели се користат за автоматско откривање и поправање безбедносни пропусти, што покажува дека истата технологија може да биде употребена и за заштита на системите.
Случајот со трите компании затоа се разгледува како важен пример за новото безбедносно прашање што го носат автономните AI системи: колку далеку може да стигне моделот кога има пристап до интернет, алатки и можност самостојно да носи одлуки во текот на извршувањето на задачата.
За компаниите, институциите и организациите ова дополнително ја нагласува потребата од повеќеслојна заштита – силни и уникатни лозинки, повеќефакторска автентикација, редовно отстранување на стари пристапи и внимателно ограничување на тоа до кои системи и податоци можат да пристапуваат автоматизираните алатки.
