Kreu i OpenAI: Bota duhet të pranojë disa gjëra të këqija nga inteligjenca artificiale
Bota duhet të pranojë disa “gjëra të këqija”, duke përfshirë sulmet kibernetike, mashtrimet dhe keqpërdorimin, në këmbim të përfitimeve të inteligjencës artificiale dhe mbajtjes së teknologjisë gjerësisht të arritshme, tha drejtori ekzekutiv i OpenAI, Sam Altman.
Në një intervistë me Politico të botuar të hënën, Altman hodhi poshtë idenë se parandalimi i të gjitha përdorimeve të dëmshme të inteligjencës artificiale do të justifikonte vendosjen e teknologjisë nën një kontroll më të rreptë.
“Bota duhet të pranojë që po ndodhin disa gjëra të këqija për përfitimet e kësaj teknologjie dhe njerëzve që kanë agjencinë”, tha Altman.
Shefi i OpenAI tha se nuk do ta kufizonte aksesin në IA edhe në këmbim të garancive kundër sulmeve të mëdha kibernetike, keqpërdorimit, mashtrimeve dhe pasojave të tjera të dëmshme. “Mendoj se njerëzit do të bëjnë jashtëzakonisht shumë – shumë më tepër – gjëra të mira sesa gjëra të këqija”, shpjegoi ai.
Megjithatë, Altman theksoi se nuk do të pranonte “rreziqet vërtet katastrofike”, duke përfshirë “një humbje serioze të kontrollit ndaj inteligjencës artificiale”.
Ai gjithashtu hodhi poshtë një qasje në të cilën një teknologji e fuqishme dhe potencialisht e rrezikshme kontrollohet nga një laborator i vetëm që vendos se si shpërndahen përfitimet e saj. Altman e quajti një kompromis të tillë “krejtësisht të papranueshëm”, duke argumentuar në vend të kësaj për akses më të gjerë në inteligjencën artificiale.
Këto komente vijnë në një kohë kur OpenAI përballet me shqyrtim të ashpër mbi agjentët gjithnjë e më autonomë të IA-së që sillen në mënyra të papritura. Gjatë verës, agjentët e kompanisë shpëtuan nga mjedisi i tyre i testimit dhe hynë në servera që i përkisnin Hugging Face, një depo online për modele dhe grupe të dhënash të IA-së. Që atëherë, agjentët e IA-së kanë fituar akses të paautorizuar ose janë përpjekur të shkelin faqet e internetit që i përkasin agjencive federale të SHBA-së, qeverisë australiane dhe OKB-së.
OpenAI ishte midis gjashtë kompanive të mëdha amerikane të teknologjisë që nënshkruan një marrëveshje të Shtëpisë së Bardhë javën e kaluar duke u zotuar për masa mbrojtëse më të forta kundër inteligjencës artificiale mashtruese. Google, Meta, xAI, Anthropic, Nvidia dhe OpenAI ranë dakord të prezantojnë kontrolle të brendshme më të ashpra dhe auditime të pavarura, si dhe të sigurohen që modelet e tyre “të mos hakojnë ose të mos hyjnë në sisteme teknike në mënyra të paqëllimshme”.
Marrëveshja erdhi ndërsa u shtuan shqetësimet rreth sistemeve të inteligjencës artificiale që vepronin jashtë kontrollit të zhvilluesve. Kompanitë u zotuan të zbulonin dhe adresonin shpejt sjellje të tilla, ndërsa auditorët e pavarur dhe komitetet e bordit do të vlerësonin nëse masat mbrojtëse po funksionojnë.
Shkencëtari kompjuterik, fitues i Çmimit Nobel, Geoffrey Hinton, paralajmëroi muajin e kaluar se inteligjenca artificiale gjithnjë e më e fuqishme mund t’i shpëtojë përfundimisht kontrollit njerëzor, me pasoja potencialisht katastrofike për njerëzimin. Ai argumentoi se nuk ka një metodë të përcaktuar për të siguruar që njerëzit të mbeten në kontroll të sistemeve që bëhen dukshëm më inteligjentë se krijuesit e tyre.
Bashkëthemeluesi i Microsoft, Bill Gates, ka bërë thirrje gjithashtu për rregullim qeveritar, duke paralajmëruar se inteligjenca artificiale në duart e aktorëve keqdashës është mjaft e fuqishme për të shkaktuar ngjarje që shkaktojnë “një miliard vdekje”.
