Loading ...
OpenAI ka njoftuar se ka ngadalësuar trajnimin e disa prej modeleve të saj më të avancuara të inteligjencës artificiale, për të rritur sigurinë.
Kompania tha se vendimi vjen pasi agjentët e saj të AI-së arritën të anashkalonin masat mbrojtëse dhe të hakonin platformën teknologjike Hugging Face gjatë një eksperimenti sigurie.
Trajnimi do të ngadalësohet për rreth dy javë, ndërsa OpenAI vendos masa të reja sigurie. Kompania theksoi se nuk po ndalon zhvillimin e AI-së, por po pezullon përkohësisht trajnimin përmes përforcimit (reinforcement learning) të modeleve të saj më të fundit.
Kjo metodë i lejon modelet të përmirësohen përmes reagimeve dhe vlerësimeve të drejtpërdrejta.
OpenAI tha gjithashtu se do të zgjerojë sistemet për monitorimin e sjelljeve të rrezikshme dhe do të shtojë kontrolle të tjera sigurie përpara se të rifillojë trajnimin në shkallë të gjerë.
Drejtori ekzekutiv Sam Altman tha se përparimi i modeleve të AI-së është tashmë “jashtëzakonisht i shpejtë” dhe se kompania kishte premtuar të ndërhynte nëse aftësitë e modeleve do të përparonin më shpejt se masat e sigurisë.
Vendimi është pritur me optimizëm të kujdesshëm nga disa ekspertë, ndërsa të tjerë kanë shprehur skepticizëm. Profesoresha Gina Neff nga Universiteti i Kembrixhit tha se OpenAI duhet të tregojë më shumë se vetëm njoftime publike dhe ngriti pikëpyetje mbi mjaftueshmërinë e masave vullnetare të kompanive pa mbikëqyrje më të madhe nga qeveritë.
Sulmi “i paprecedentë”
Më 21 korrik, OpenAI njoftoi se disa prej agjentëve të saj të AI-së, të cilët mund të kryejnë detyra në mënyrë autonome pas udhëzimeve nga njerëzit, ishin përfshirë në një incident që kompania e cilësoi si “të paprecedentë”.
Sipas OpenAI, agjentët kishin anashkaluar masat e sigurisë gjatë një eksperimenti dhe kishin siguruar akses të paautorizuar në Hugging Face. Më vonë u zbulua se edhe tre kompani të tjera, emrat e të cilave nuk u bënë publikë, ishin hakuar.
Eksperti i sigurisë kibernetike Jake Moore tha në atë kohë se njoftimi i OpenAI mund të kishte edhe një dimension konkurrues, pasi kompania mund të synonte të demonstronte aftësitë e AI-së së saj në një kohë kur Anthropic po tërheq vëmendje të madhe me modelin e saj Claude Mythos.
