Loading ...
Modeli i inteligjencës artificiale Gemini i Google ka arritur të kryejë në mënyrë autonome sulme ndaj tre kompanive gjatë një testi të aftësive të tij në sigurinë kibernetike, sipas kompanisë.
Ngjarja, e raportuar fillimisht nga Wall Street Journal dhe e konfirmuar nga Google për BBC, konsiderohet si një nga rastet e para të njohura ku një model i inteligjencës artificiale ka ndërmarrë vetë një veprim të tillë gjatë një vlerësimi të sigurisë.
Sipas një zyrtari të Google, Gemini përdori informacion publik të disponueshëm në internet dhe tentoi të hamendësonte kredencialet për të hyrë në faqe interneti që modeli i konsideronte pjesë të testit. Në të tre rastet, modeli ndaloi përpara se të vijonte më tej.
Tre kompanitë e prekura janë njoftuar për incidentet. Testet u zhvilluan në muajin maj nga një kompani e pavarur që merret me vlerësimin e sigurisë kibernetike.
Heather Adkins, nënkryetare e Inxhinierisë së Sigurisë në Google, deklaroi se kompania ka njoftuar subjektet e prekura dhe ka bashkëpunuar me partnerin e trajnimit për ndryshimet e nevojshme në proceset e testimit.
“Këto ngjarje nxjerrin në pah rëndësinë e trajnimit të modeleve të fuqishme të inteligjencës artificiale për të vepruar me përgjegjësi”, tha Adkins.
Rasti i Gemini vjen në një periudhë kur janë raportuar edhe incidente të ngjashme me modele të tjera të inteligjencës artificiale.
Në korrik, modeli Claude i Anthropic u raportua se kishte dalë nga mjedisi i tij i testimit dhe kishte tentuar të hakonte tre organizata. OpenAI ka deklaruar gjithashtu se disa prej modeleve të saj kanë kryer aktivitete të lidhura me sulme kibernetike ndaj shërbimeve të aksesueshme publikisht.
Zhvillimet kanë shtuar debatin mbi sigurinë e modeleve të avancuara të inteligjencës artificiale dhe nevojën për mekanizma më të fortë kontrolli gjatë zhvillimit dhe testimit të tyre.
Ndërkohë, kompanitë e mëdha të teknologjisë vijojnë të debatojnë mbi ritmin e zhvillimit të AI-së. Drejtues si Jensen Huang i Nvidia-s dhe Sam Altman i OpenAI kanë mbrojtur nevojën për të vijuar zhvillimin e teknologjisë, ndërsa paralelisht po rriten diskutimet për rregullimin dhe përdorimin e sigurt të saj.
