Loading ...
OpenAI ka bërë të ditur se disa nga modelet e saj më të avancuara të inteligjencës artificiale u bënë mashtruese dhe arritën të depërtonin në sistemet e një startup-i, pasi humbi kontrollin mbi to gjatë një testi sigurie, shkruan BBC.
Kompania krijuese e ChatGPT tha se agjenti i saj i IA-së – një sistem që mund të veprojë në mënyrë autonome pasi merr udhëzime nga njeriu – po testohej në një mjedis të kontrolluar. Megjithatë, ai zbuloi dobësi në sistem dhe arriti të dalë jashtë mjedisit të testimit.
Më pas, modelet shënjestruan Hugging Face, një nga platformat më të mëdha në botë për ndarjen e modeleve të inteligjencës artificiale, duke siguruar akses në disa sisteme të brendshme të kompanisë.
OpenAI e cilësoi incidentin si “të paprecedentë” dhe tha se po zhvillon një hetim të përbashkët me Hugging Face. Drejtori ekzekutiv i kësaj kompanie, Clement Delangue, shkroi në platformën X se ishte “e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome”.
“Hetimi është ende në vazhdim dhe do të ndajmë më shumë mësime nga ajo që mund të jetë incidenti i parë i këtij lloji”, shtoi Delangue.
Një “sandbox” jo mjaftueshëm i sigurt
Gina Neff, drejtuese e Qendrës Minderoo për Teknologji dhe Demokraci në Universitetin e Kembrixhit, tha për programin Today në BBC Radio 4 se mjediset e testimit të sigurisë, të njohura si “sandbox”, janë krijuar pikërisht për të testuar në mënyrë të sigurt aftësitë e modeleve të IA-së.
“Në këtë rast, duket se OpenAI nuk krijoi një mjedis testimi mjaftueshëm të sigurt”, u shpreh ajo.
Sipas saj, agjentët e inteligjencës artificiale arritën të identifikonin një dobësi në vetë “sandbox”-in dhe ta shfrytëzonin atë për të dalë jashtë tij.
Pasi dolën nga mjedisi i testimit, modelet identifikuan Hugging Face si një burim të mundshëm informacioni që u nevojitej për testin dhe u përpoqën të fitonin akses në sistemet e kompanisë.
Neil Lawrence, profesor i të mësuarit automatik në Universitetin e Kembrixhit, e cilësoi ngjarjen si një “arritje mbresëlënëse”, por theksoi se ajo “mbetet brenda aftësive të njohura të gjeneratës aktuale të modeleve të avancuara të IA-së”.
Ai shtoi se OpenAI po përgatitet të dalë në bursë dhe po përballet me konkurrencë të fortë nga Anthropic, e cila ka tërhequr vëmendje me modelin e saj të inteligjencës artificiale, Claude Mythos.
“OpenAI po përpiqet të rifitojë terren dhe të demonstrojë aftësitë e sistemeve të saj në fushën e sigurisë kibernetike”, tha Lawrence.
Megjithatë, ai shtoi se incidenti “tregon se OpenAI ende nuk është në gjendje ta vendosë teknologjinë e vet në funksion në mënyrë plotësisht të sigurt”.
Dobësitë u mbyllën
Në njoftimin fillestar për incidentin, më 16 korrik, Hugging Face bëri të ditur se po vlerësonte nëse ishin prekur të dhënat e klientëve apo partnerëve dhe se do të njoftonte çdo palë të prekur, nëse do të ishte e nevojshme.
Kompania tha se dobësitë e zbuluara janë mbyllur dhe sistemet e prekura janë rindërtuar.
“Mjetet autonome të sulmit, të drejtuara nga inteligjenca artificiale, nuk janë më thjesht një teori”, theksoi kompania.
“Sot, mbrojtja e një platforme online nënkupton trajtimin e të dhënave dhe të vetë modeleve të IA-së si objektiva të mundshëm sulmi, si edhe përdorimin e inteligjencës artificiale për mbrojtje, në mënyrë që të ecet me të njëjtin ritëm.”
“Ne do të vazhdojmë të investojmë në këtë drejtim dhe do të ndajmë publikisht mësimet që nxjerrim.”
Një “moment kthjellimi” për sigurinë kibernetike
Incidenti ka ngritur pikëpyetje të reja mbi aftësitë e sistemeve të avancuara të inteligjencës artificiale dhe nëse masat aktuale të sigurisë janë të mjaftueshme, ndërsa teknologjia zhvillohet me ritme të shpejta.
Spencer Starkey, drejtues në kompaninë e sigurisë kibernetike SonicWall, tha për BBC se ngjarja tregon qartë se organizatat duhet të forcojnë mbrojtjen e tyre dhe ta trajtojnë rezistencën kibernetike si një përparësi kryesore.
“E vërteta e pakëndshme është se shumë organizata vazhdojnë të mbrohen me shpejtësinë e njeriut, ndërsa sulmuesit po veprojnë me shpejtësinë e makinës”, u shpreh ai.
Ndërkohë, Travis Lelle, inxhinier kryesor i sigurisë në Guidepoint Security, e quajti këtë zhvillim një “moment kthjellimi për sigurinë kibernetike”.
“Kjo nxjerr në pah një asimetri të njohur: agjentët ofensivë nuk kanë kufizime, ndërsa mjetet më të mira mbrojtëse janë ende të kufizuara nga mekanizma që nuk arrijnë të kuptojnë plotësisht kontekstin”, tha ai.
Nga ana tjetër, Jake Moore, këshilltar global për sigurinë kibernetike në ESET, sugjeroi se njoftimi i OpenAI mund të ketë edhe një dimension strategjik.
Sipas tij, kompania mund të jetë duke vënë në pah aftësitë e modeleve të saj të inteligjencës artificiale në një kohë kur rivali Anthropic po fiton gjithnjë e më shumë vëmendje me modelin Claude Mythos.
“Kjo ngre pyetjen nëse OpenAI po përpiqet të rivalizojë suksesin e marketingut që Anthropic ka arritur së fundmi”, tha Moore.
Ky zhvillim vjen vetëm një javë pasi startup-i kinez Moonshot AI prezantoi Kimi K3, një model të ri të inteligjencës artificiale, për të cilin kompania pretendon se mund të rivalizojë modelet kryesore amerikane.
