“Po hyjmë në një kapitull tjetër”: Drejtuesi i OpenAI paralajmëron se intelegjenca artificiale mund të kryejë sulme kibernetike të vazhdueshme
Një drejtues i lartë i OpenAI ka thënë se njerëzit duhet të përgatiten për t’u mbrojtur nga sulme kibernetike “të vazhdueshme dhe persistente” të kryera nga inteligjenca artificiale (IA), ndërsa modelet më të avancuara të IA-së po fitojnë aftësi të sofistikuara për të planifikuar dhe ndërmarrë ofensiva.
Kompania kryesore e IA-së njoftoi këtë javë se ka pezulluar zhvillimin e disa prej modeleve të saj më të avancuara të brendshme, për shkak të shqetësimeve në rritje për sigurinë. Chris Lehane, drejtuesi i çështjeve globale në OpenAI, tha: “Po hyjmë në një kapitull tjetër, në një moment tjetër të IA-së, për sa i përket asaj që mund të bëjnë aftësitë e kësaj teknologjie.”
Ai foli për The Guardian pasi agjentët e IA-së që po trajnoheshin, në mënyrë të papritur dolën nga një mjedis “sandbox” që supozohej të ishte i sigurt, hynë në internet dhe hakuan një kompani tjetër, Hugging Face, në fund të korrikut. OpenAI tha gjithashtu se nuk mund ta përjashtonte mundësinë që një model i ri, Astra, të kishte “aftësi kritike në sigurinë kibernetike”.
Sipas përkufizimit të vetë OpenAI, kjo mund të nënkuptojë aftësinë për të nisur sulme kibernetike që “mund të çojnë në katastrofë nga aktorë të vetëm, duke hakuar sisteme ushtarake ose industriale, apo infrastrukturën e OpenAI-së”.
Të martën, OpenAI njoftoi se ka pezulluar trajnimin e disa modeleve të avancuara të IA-së për të zbatuar masa të reja sigurie. Nuk dihet se kur do të rifillojë trajnimi, pasi të vendosen masat e reja mbrojtëse.
Mia Glaese, e cila drejton punën për sigurinë dhe përshtatjen e IA-së me vlerat njerëzore, tha: “Jemi shumë larg rikthimit të gjithçkaje në normalitet.” Drejtori ekzekutiv Sam Altman tha: “Të bëjmë sigurinë e IA-së siç duhet është më e rëndësishme se ritmi i përparimit të çdo kompanie.”
Lehane pranoi se njerëzit nuk do të “ndihen mirë” përballë kërcënimit të sulmeve dhe tha se rreziku vjen edhe nga modelet me burim të hapur – shumë prej të cilave zhvillohen në Kinë – të cilat janë vetëm disa muaj prapa modeleve më të avancuara, të mbyllura, të kompanive si OpenAI.
“Njerëzit do të kenë mundësi t’i përdorin këto modele me burim të hapur dhe të kryejnë sulme të vazhdueshme ndaj jush. Ju do të keni nevojë për modele vërtet superiore për t’i zmbrapsur dhe për t’u mbrojtur,” tha ai. “Kjo nuk do ta bëjë domosdoshmërisht publikun të ndihet mirë. Por ky është realiteti drejt të cilit po shkojmë.”
Kërcënimi që sulmet kibernetike të paralizojnë bizneset, infrastrukturën dhe publikun e gjerë është ngritur me shpejtësi në krye të listës së shqetësimeve urgjente lidhur me IA-në. Këtë javë, Qendra Kombëtare e Sigurisë Kibernetike e Mbretërisë së Bashkuar paralajmëroi për kujdes në përdorimin e agjentëve të IA-së, duke thënë se kontrollet e tyre të sigurisë mund të anashkalohen dhe se një agjent IA-je “nuk ka sens të përbashkët”. Ajo këshilloi organizatat që t’ua kufizojnë autonominë: “Duhet të jeni gjithmonë në gjendje të ‘tërhiqni prizën’ dhe të ndaloni menjëherë aktivitetin e një agjenti autonom të IA-së.”
Lehane përsëriti thirrjet që qeveria amerikane të miratojë ligje për të krijuar rregulla mbi sigurinë e IA-së së avancuar. Ai tha se fakti që modelet më të avancuara dhe ende të papublikuara të IA-së duket se po përmirësohen më shpejt në aftësitë sulmuese kibernetike sesa në ato mbrojtëse, ishte “një nga arsyet pse mendoj se është absolutisht e domosdoshme që ky vend të miratojë një ligj kombëtar që krijon standarde të detyrueshme sigurie”.
Ai sugjeroi se modelet nuk duhet të lejohen të publikohen ose të vendosen në përdorim pa dëshmuar dhe garantuar një nivel të caktuar sigurie. Sipas tij, fillimisht duhet të krijohet një sistem kombëtar në SHBA dhe më pas një strukturë ndërkombëtare, sepse në fund do të nevojitet një lloj organizimi global.
OpenAI ka paraqitur dokumentet për t’u listuar në bursë, me një vlerësim të raportuar mbi 850 miliardë dollarë, ndoshta këtë vit ose vitin e ardhshëm. Kompania është në garë me rivalin Anthropic, krijuesin e chatbot-it Claude, për të zhvilluar modele gjithnjë e më të fuqishme të IA-së. Edhe Anthropic pritet të dalë në bursën amerikane gjatë vitit të ardhshëm, me një vlerësim shumë të lartë.
Në një shenjë se administrata e Donald Trump po largohet nga qasja e saj relativisht liberale ndaj rregullimit të IA-së, mes garës së fortë për të qëndruar përpara Kinës, presidenti amerikan në qershor nxori një urdhër ekzekutiv që inkurajon testimin e modeleve të avancuara përpara publikimit, si dhe të modeleve me pesha të hapura kur ato afrohen me nivelin më të avancuar të teknologjisë.
Sistemi do të jetë vullnetar dhe është kritikuar për mungesë transparence, por disa vëzhgues mendojnë se mund të hapë rrugën për masa më të rrepta. Demis Hassabis, president i Google DeepMind, ka propozuar krijimin e një organizate të re standardesh, të modeluar sipas FINRA-s, ide që është mbështetur edhe nga Dario Amodei, drejtori ekzekutiv i Anthropic.
“Dritarja ku mund të shohim miratimin e ligjeve është potencialisht në pjesën e parë të vitit të ardhshëm, kur të mblidhet Kongresi i ri,” tha Lehane. “Mendoj se po krijohet një konsensus politik që tejkalon ndarjet partiake.”
Një marrëveshje sigurie me Kinën konsiderohet gjithashtu e rëndësishme, ndërsa presidenti Xi Jinping pritet të takohet me Trump në Uashington më 24 shtator.
“Duke pasur parasysh sa e rëndësishme është kjo teknologji, sa shpejt po zhvillohet dhe çfarë aftësish po fiton, sa më shpejt të fillojnë këto bisedime, aq më shpejt mund të fillojmë punën e vështirë për të parë nëse mund të gjejmë një zgjidhje,” tha Lehane.
Incidenti me Hugging Face, së bashku me raste të ngjashme të pranuara kohët e fundit nga kompani të tjera të IA-së, ka nxitur kritika në rritje nga ekspertët e sigurisë, të cilët thonë se kompanitë e IA-së kanë vepruar në mënyrë të papërgjegjshme ndërsa garojnë për të fituar garën e IA-së dhe, në rastin e OpenAI dhe Anthropic, përgatiten të dalin në bursë.
Daniel Kokotajlo, një ish-kërkues i OpenAI-së që u largua në vitin 2024 dhe vitin e kaluar themeloi një organizatë jofitimprurëse, ka paralajmëruar se zhvillimi i pakontrolluar i IA-së mund të çojë në një probabilitet prej 10–30% për zhdukjen e njerëzimit.
Organizata e tij, AI Futures Project, parashikon se super-inteligjenca artificiale mund të arrihet deri në vitin 2030, por kërkon që qeveritë ta parandalojnë këtë deri rreth një dekadë më vonë, në mënyrë që shkencëtarët e IA-së të kenë kohë të përballen me rreziqet e këtyre aftësive në rritje.
“IA-të e sotme janë të rrezikshme në njëfarë kuptimi, por nuk janë asgjë në krahasim me IA-të e vitit të ardhshëm dhe të vitit pas tij,” tha ai për The Guardian.
Organizata e tij kërkon që qeveritë amerikane dhe ndërkombëtare ta ngadalësojnë këtë përparim për të shmangur një “shpërthim të pakontrolluar të inteligjencës”, ku skenari më i keq mund të jetë një “katastrofë ekzistenciale e shkaktuar nga IA”, për shembull nëse IA-të marrin kontrollin e mjeteve ushtarake ose armëve biologjike.
Kokotajlo tha se është aq i shqetësuar për rreziqet saqë po e shtyn vendimin për të pasur më shumë fëmijë derisa të ketë një pauzë në kërkimet mbi IA-në e avancuar.
David Krueger, profesor i IA-së, aktivist për sigurinë dhe ish-drejtor themelues i Institutit të Sigurisë së IA-së në Mbretërinë e Bashkuar, tha: “Askush nuk duhet të ndërtojë sisteme IA-je më të fuqishme, sepse nuk dimë ende si t’i kontrollojmë, si t’i përshtatim me vlerat njerëzore dhe si të kuptojmë mjaftueshëm mirë se çfarë po ‘mendojnë’.”
Ai e quajti qëndrimin e kompanive të IA-së ndaj sigurisë “të tmerrshëm” dhe “të papranueshëm”.
“Ato po tregohen vërtet të papërgjegjshme dhe gjithnjë e më shumë po heqin dorë nga kontrolli,” tha ai. “Sapo kemi parë se çfarë ndodh kur e bën këtë.”
Lehane u përgjigj: “Kjo është gjëja më e rëndësishme për të cilën mendojmë dhe që bëjmë gjatë zhvillimit të teknologjisë. Mendoj se fakti që ne në të vërtetë kemi ndaluar përkohësisht këto procese flet vetë.”
