Loading ...
Kompania amerikane e inteligjencës artificiale Anthropic thotë se ka zbuluar dhe penguar një sërë përpjekjesh për të përdorur modelin e saj Claude për aktivitete keqdashëse, përfshirë zhvillimin e armëve biologjike dhe konvencionale.
Në raportin e saj më të fundit mbi kërcënimet, kompania bëri të ditur se Claude është përdorur edhe në një fushatë spiunazhi kibernetik të lidhur me Rusinë, si dhe nga një institucion iranian i propagandës.
Rastet e identifikuara gjatë tetë muajve të fundit përfshijnë një gamë të gjerë aktivitetesh, nga aplikacione të rreme takimesh dhe mashtrime përmes Wi-Fi-ve të hoteleve, deri te sisteme survejimi të krijuara për të identifikuar disidentë.
Anthropic tha se ka ndërhyrë ndaj përdorimit keqdashës të modeleve Claude Haiku, Sonnet dhe Opus gjatë periudhës dhjetor 2025–gusht 2026.
AI për zhvillimin e armëve biologjike
Një nga shqetësimet kryesore të kompanisë është përdorimi i AI-së në fushën biologjike.
Raporti përmend pesë raste ku aktorë të ndryshëm përdorën modelet e Anthropic në mënyra që mund të ndihmonin zhvillimin e armëve biologjike. Kompania thotë se ka bllokuar edhe përdorues nga komuniteti shkencor kur ka konstatuar se teknologjia mund të përdorej në këtë drejtim.
Anthropic e cilëson keqpërdorimin biologjik si “një nga rreziqet më serioze” të modeleve të avancuara të AI-së, duke paralajmëruar se, pa masa të përshtatshme sigurie, këto aftësi mund të kenë pasoja katastrofike.
Kompania thekson megjithatë se i njëjti informacion mund të përdoret si për zhvillimin e armëve biologjike, ashtu edhe për qëllime të dobishme, si krijimi i vaksinave apo trajtimeve për sëmundje.
Jacob Klein, drejtuesi i inteligjencës mbi kërcënimet në Anthropic, e përshkroi situatën si “jashtëzakonisht komplekse”.
Claude u përdor edhe për armë konvencionale
Raporti identifikon gjithashtu gjashtë raste ku Claude është përdorur për zhvillimin e programeve që lidhen me armë konvencionale, përfshirë armë zjarri, raketa, dronë të armatosur, bomba dhe municione të tjera.
Në këto raste përfshihen edhe sisteme të shënjestrimit dhe kontrollit të armëve.
Anthropic paralajmëron se kriminelët kibernetikë dhe grupet e mbështetura nga shtete po përdorin gjithnjë e më shumë AI-në për të përmirësuar operacionet e tyre.
Në raport përmendet edhe grupi i hakerëve ShinyHunters, si dhe laboratorë me bazë në Kinë.
Një tjetër rast lidhet me një grup hakerësh, aktiviteti i të cilit përputhet me atë të grupit rus Midnight Blizzard. Sipas Anthropic, grupi dyshohet se ka përdorur AI-në për të krijuar një sistem që zbulonte automatikisht kur programet keqdashëse identifikoheshin nga sistemet e sigurisë dhe më pas rishkruante kodin për t’iu shmangur zbulimit.
Paralajmërime për rrezikun e AI-së
Raporti publikohet në një moment kur shqetësimet për zhvillimin e shpejtë të inteligjencës artificiale po shtohen.
Një studiues i lartë i sigurisë në Anthropic ka paralajmëruar se, me ritmin aktual të zhvillimit, ekziston një mundësi mbi 10% që AI të mund të shkaktojë zhdukjen e njerëzimit brenda dekadës së ardhshme.
Ndërkohë, shkencëtari kryesor i OpenAI-së, Jakub Pachocki, ka bërë thirrje për “ngadalësime vullnetare” në zhvillimin e AI-së, deri në vendosjen e masave të përshtatshme të sigurisë.
“Jam i shqetësuar se askush nuk është i përgatitur për pasojat e rritjes së vazhdueshme dhe të shpejtë të inteligjencës së makinave”, tha Pachocki.
Paralajmërimet kanë nxitur gjithashtu thirrje për një traktat ndërkombëtar që të përcaktojë rregulla për zhvillimin e sigurt të AI-së.
Në SHBA, senatori demokrat Bernie Sanders ka propozuar legjislacion për ndalimin e superinteligjencës artificiale dhe pezullimin e përkohshëm të zhvillimit të sistemeve të avancuara të AI-së.
“Kur shkencëtarët ju thonë se ekziston një mundësi që kjo të ketë një ndikim katastrofik mbi njerëzimin, duhet të jesh idiot të mos thuash: ngadalësojeni”, deklaroi Sanders.
