Google konfirmon se modeli i inteligjencës artificiale depërtoi në sistemet e 3 kompanive reale gjatë një testi sigurie

Google ka konfirmuar se një nga modelet e saj të inteligjencës artificiale Gemini depërtoi në sistemet e tre kompanive reale gjatë një vlerësimi të sigurisë kibernetike në muajin maj, rasti i parë i njohur kur inteligjenca artificiale e kompanisë ka vepruar në mënyrë autonome në këtë mënyrë, transmeton Anadolu

Sipas raportit nga Ëall Street Journal, testi u krye nga kompania e sigurisë Irregular, e cila ishte përfshirë gjithashtu në incidente të ngjashme të bëra publike nga OpenAI, Anthropic dhe Meta.

Google tha se modelit i ishte caktuar si objektiv një kompani e simuluar që kishte të njëjtin emër me një kompani reale. Sipas Irregular, qasja në internet ishte lënë pa dashje e hapur.

Në një rast, modeli hamendësoi fjalëkalime për të hyrë në shërbimin e një kompanie reale. Në dy rastet e tjera, ai përdori kredenciale të gjetura në depo publike në internet, thuhet në raport. Sipas Google, në secilin rast modeli e ndërpreu depërtimin pasi kuptoi se sistemet ishin reale.

Ëall Street Journal theksoi se Irregular njoftoi kompaninë Google në fund të korrikut, por kompania nuk i bëri publike incidentet derisa gazeta e pyeti për to këtë javë.

Google tha se depërtimet nuk kërkonin njoftim publik, pasi nuk ishte shkaktuar asnjë dëm, duke e krahasuar rastin me një program “bug bounty”, përmes të cilit raportohen dobësitë e sigurisë.

“Ky rast nxjerr në pah rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale për të vepruar me përgjegjësi. Në këtë rast, modeli veproi në mënyrën e duhur”, tha zëdhënësja e kompanisë Google, Heather Adkins.

Jack Cable, drejtor ekzekutiv i kompanisë së sigurisë së inteligjencës artificiale Corridor, nuk u pajtua me këtë vlerësim.

“Problemi më i gjerë është se modelet po dalin jashtë kufijve të asaj që duhet të bëjnë dhe po kryejnë sulme të vërteta kibernetike”, tha ai.

Irregular tha se rasti përputhet me incidentet e mëparshme dhe nuk përfaqëson një problem të ri.

Sipas raportit, Claude Opus 4.7 i Anthropic nuk u ndal pasi dyshoi se po hynte në sistemet e një kompanie reale, ndërsa modeli i OpenAI besonte se objektivi ishte pjesë e simulimit.

Të mërkurën, OpenAI publikoi një kornizë të re për raportimin e incidenteve, së bashku me gjashtë shembuj të pazbuluar më parë të rasteve kur sjellja e modeleve nuk ishte në përputhje me synimet e përcaktuara.