Loading ...
Drejtuesit e kompanisë OpenAI shpërfillën paralajmërimet e brendshme dhe të jashtme për dobësitë e sigurisë disa muaj përpara se modelet e saj të inteligjencës artificiale të dilnin nga mjediset e testimit dhe të sulmonin organizata jashtë kompanisë.
Dy punonjës i thanë gazetës The New York Times se u kishin dërguar postë elektronike drejtuesve të lartë, duke shprehur shqetësimin se modelet e reja nuk po monitoroheshin dhe nuk po siguroheshin në mënyrë të mjaftueshme gjatë testimit.
Sipas punonjësve, të cilët folën në kushte anonimiteti, drejtuesit u përgjigjën se testimi duhej të përshpejtohej për të respektuar afatet e publikimit dhe nuk u shtuan masa të tjera mbrojtëse.
Më vonë, modelet dolën nga mjediset e tyre të testimit dhe synuan kompaninë e inteligjencës artificiale Hugging Face dhe organizata të tjera.
Sipas gazetës, në rreth një duzinë incidentesh, sistemet e OpenAI-së tentuan të depërtonin në organizata, përfshirë faqet e internetit të agjencive qeveritare amerikane, fshehën gabime, krijuan të dhëna të sajuara dhe zhvendosën skedarë në internetin publik pa udhëzim.
Studiues të pavarur i thanë gjithashtu The New York Times se kishin zbuluar dobësi që ekspozonin komunikimet e brendshme të punonjësve, kodin e kompanisë dhe bisedat e përdoruesve të ChatGPT-së, ndërsa OpenAI fillimisht i kishte shpërfillur gjetjet e tyre.
Hacktron tha se raporti i tij i korrikut fillimisht ishte hedhur poshtë, ndërsa Objective-See Foundation tha se raporti i saj për një problem sigurie në shtator mbeti pa u trajtuar derisa çështja u përshkallëzua në mënyrë joformale. OpenAI u pagoi atyre përkatësisht 6.500 dhe 500 dollarë.
Patrick Wardle nga Objective-See e përshkroi reagimin si “jo një program të pjekur sigurie që do të prisje”.
Zëdhënësi i OpenAI-së, Drew Pusateri, tha se kompania i merr seriozisht shqetësimet për sigurinë dhe se veproi menjëherë pas gjetjeve të studiuesve.
Raporti theksoi se edhe Google, Meta dhe Anthropic kanë bërë të ditura incidente të ngjashme. Sipas The New York Times, OpenAI ka pezulluar trajnimin e modeleve të saj më të avancuara dhe të hënën tha se nuk do të publikojë GPT-6.1 Astra, për shkak të shqetësimeve të sigurisë të ngritura nga studiuesit e saj.
