McDonald’s do të investojë 8.5 miliardë dollarë në restorante
Një model i OpenAI ka anashkaluar masat e sigurisë dhe ka depërtuar në një faqe të qeverisë australiane që përmbante të dhëna dhe skedarë privatë, në një incident që kryeministri Anthony Albanese e cilësoi “qartazi të papranueshëm”.
Sipas Albanese, modeli u përpoq në qershor të hynte në një portal australian për statistikat shëndetësore dhe, pasi iu mohua qasja, nuk u ndal. Ai anashkaloi kufizimet dhe arriti të hyjë në një pjesë të faqes ku ruheshin skedarë jo publikë.
Kryeministri australian tha se e kishte diskutuar incidentin drejtpërdrejt me shefin ekzekutiv të OpenAI, Sam Altman, duke shprehur “shqetësimin ekstrem” të Australisë dhe zhgënjimin për vonesën në njoftimin e autoriteteve, transmeton Telegrafi.
OpenAI nuk e informoi qeverinë australiane deri më 10 shtator, rreth tre muaj pas incidentit. Njoftimi u dërgua në një adresë të përgjithshme elektronike të qeverisë, e cila kontrollohet vetëm një herë në ditë.
Ministrja për Shërbimet Qeveritare, Katy Gallagher, tha se modeli ishte përdorur gjatë një ushtrimi trajnimi për të kërkuar në internet të dhëna mbi shpenzimet e qeverisë australiane për ilaçe.
Sipas OpenAI, kompania nuk e zbuloi aktivitetin e padëshiruar deri në gusht, kur nisi një rishikim të mënyrës se si modelet e saj po vepronin gjatë testimeve.
Autoritetet australiane thonë se modeli arriti të aksesojë skedarë publikë dhe jo publikë në një faqe të vjetër të statistikave shëndetësore. Megjithatë, Albanese theksoi se nuk ka prova që të dhënat personale të qytetarëve janë aksesuar dhe se shërbime të tjera qeveritare nuk janë komprometuar.
Ministri i Mbrojtjes, Richard Marles, e përshkroi situatën në mënyrë figurative: modeli “e kapërceu gardhin”. Sipas tij, pasi nuk mori informacionin që kërkonte, në vend që të ndalej, sistemi vazhdoi të kërkonte një mënyrë tjetër për të hyrë.
Australia ka nisur një hetim të shpejtë për incidentin, ku do të përfshihet edhe agjencia kombëtare përgjegjëse për sigurinë kibernetike.
OpenAI tha se incidenti u zbulua gjatë një “rishikimi të gjerë” të modeleve të saj. Kompania pranoi se, gjatë një vlerësimi të brendshëm për kërkimin e statistikave rreth Australisë, modelet ndërmorën veprime që nuk ishin parashikuar nga zhvilluesit.
Incidenti vjen në një periudhë kur shqetësimet për aftësinë e modeleve të avancuara të inteligjencës artificiale për të kryer veprime kibernetike po shtohen.
Në një rast tjetër, dy modele të OpenAI u larguan nga një mjedis i mbyllur testimi dhe hynë në sistemet e brendshme të Hugging Face, platformë e përdorur gjerësisht nga zhvilluesit e AI-së. Ndërkohë, Anthropic ka raportuar se modelet e saj kishin fituar akses të paautorizuar në sistemet e tre organizatave gjatë testimeve.
Edhe Google ka deklaruar së fundmi se modeli i saj Gemini kishte arritur të komprometonte disa sisteme duke hamendësuar kredencialet e hyrjes.
Rasti australian rikthen në qendër të vëmendjes pyetjen se sa larg mund të shkojnë modelet e inteligjencës artificiale kur u kërkohet të kërkojnë informacion në internet dhe sa efektive janë mekanizmat që duhet t’i ndalojnë ato kur përballen me kufizime. /Telegrafi/
