Loading ...
Zhvilluesi kinez i inteligjencës artificiale Moonshot AI ka nisur një shqyrtim të brendshëm pasi studiuesit e sigurisë zbuluan se dy modele të tij, Kimi K2.6 dhe K3 Swarm, mund të anashkalonin kufizimet e sigurisë dhe të jepnin përgjigje për tema të rrezikshme.
Sipas kompanisë Mindgard, gjatë testimeve në korrik, studiuesit përdorën teknika të njohura si “jailbreaking” për të bindur modelet të diskutonin mbi krijimin e armëve biologjike dhe kryerjen e vrasjeve. Mindgard nuk ka vërtetuar nëse informacioni i dhënë nga modelet do të funksiononte në praktikë, por thekson se mekanizmat mbrojtës duhet t’i kishin bllokuar këto përgjigje.
Themeluesi i Mindgard, Peter Garraghan, tha për BBC se pas anashkalimit të kufizimeve, modeli mund të japë përgjigje për një gamë të gjerë temash të dëmshme.
Moonshot tha se mirëpret testimet e jashtme dhe konfirmoi se po diskuton gjetjet me Mindgard. Kompania deklaroi se gjatë vlerësimeve të brendshme modelet e saj kishin treguar një nivel të lartë refuzimi ndaj kërkesave të tilla.
Mindgard ngriti edhe shqetësime për sigurinë kibernetike, duke argumentuar se një Kimi i komprometuar mund të përdorej për ekzekutimin e kodit dhe lidhjen me internetin, duke krijuar potencialisht rrezik për sulme kibernetike.
Kimi është një model me peshë të hapur, që mund të merret dhe të ekzekutohet në infrastrukturë të pavarur. Profesori Alan Woodward nga Universiteti i Surrey-t tha se kjo mund të krijojë rreziqe nëse teknologjia keqpërdoret, por modelet me burim të hapur mund të përdoren edhe për mbrojtjen kibernetike.
Rasti rikthen debatin mbi sigurinë e modeleve të inteligjencës artificiale dhe vështirësinë për të parandaluar përpjekjet për anashkalimin e kufizimeve. Ekspertët theksojnë se krahas forcimit të mekanizmave teknikë të sigurisë, nevojiten edhe masa për të identifikuar dhe ndjekur përdoruesit që i keqpërdorin këto sisteme.
