OpenAI: Modelet e IA-së dolën jashtë kontrollit gjatë testimeve dhe kryen sulm kibernetik
OpenAI njoftoi se gjatë një vlerësimi të sigurisë, disa nga modelet e saj të inteligjencës artificiale u sollën në mënyrë të papritur dhe kryen një sulm kibernetik që depërtoi në sistemet e startup-it të inteligjencës artificiale Hugging Face javën e kaluar.
Në një deklaratë, kompania tha se po vlerësonte aftësitë e disa prej modeleve të saj më të avancuara të inteligjencës artificiale në një mjedis të kontrolluar. Megjithatë, sipas raportimeve, modelet dolën nga mjedisi i testimit, hynë në internet dhe depërtuan në infrastrukturën e Hugging Face në përpjekje për të përmbushur objektivin që u ishte caktuar.
Në deklaratë thuhet se arratisja ishte “një incident kibernetik i paprecedentë, që përfshinte kapacitete kibernetike të teknologjisë më të avancuar” dhe se kompania po forconte masat e saj mbrojtëse.
“Po ndajmë gjetjet paraprake në këtë fazë për të ndihmuar mbrojtësit të kuptojnë se çfarë ndodhi dhe për të ndihmuar në vlerësimin e aftësive që modelet kanë tashmë”, shtohet në deklaratë.
Hugging Face, një platformë e përdorur për të pritur modele të mëdha gjuhësore me kod të hapur dhe grupe të dhënash, shkaktoi reagime në komunitetin e sigurisë kibernetike kur javën e kaluar tha në një deklaratë se kishte qenë objektiv i një sulmi hakerash që “ishte ndryshe nga çdo gjë me të cilën ishim përballur më parë”, pasi “u drejtua nga fillimi deri në fund nga një sistem autonom agjentësh të inteligjencës artificiale”.
Në një postim në X, bashkëthemeluesi i Hugging Face, Clement Delangue tha se kompania dyshonte se sulmi haker mund të kishte ardhur “nga një laborator i nivelit më të lartë, duke pasur parasysh sofistikimin e agjentit. Doli se vërtet ishte!” Ai shtoi: “Është vërtet marramendëse që e gjithë kjo ndodhi në mënyrë autonome!”.
