Një debat që deri tani zhvillohej kryesisht brenda laboratorëve të inteligjencës artificiale ka dalë hapur në publik: disa nga emrat më të fuqishëm të industrisë po kërkojnë që ritmi i zhvillimit të sistemeve të avancuara të AI të ngadalësohet.

Thirrjen e bëri Dario Amodei, drejtori ekzekutiv i Anthropic, i cili paralajmëroi se teknologjia po përparon aq shpejt sa masat e sigurisë mund të mos arrijnë ta ndjekin më ritmin e zhvillimit.

Ajo që e bëri deklaratën veçanërisht të rëndësishme ishte reagimi i menjëhershëm i disa prej rivalëve më të mëdhenj të tij. Elon Musk dhe Sam Altman e mbështetën publikisht idenë, ndërsa më pas edhe Demis Hassabis, drejtuesi i Google DeepMind, u shpreh në favor të një qasjeje më të kujdesshme.

Bëhet fjalë për një kthesë të pazakontë në industrinë e teknologjisë, ku kompanitë kanë qenë në një garë të ashpër për të ndërtuar modele gjithnjë e më të fuqishme.

Tani, vetë disa prej njerëzve që udhëheqin këtë garë po paralajmërojnë se zhvillimi duhet të ecë më ngadalë.

“Duhet të ngadalësojmë ritmin”

Në një ese të gjatë të publikuar më 12 shtator, Amodei argumentoi se kompanitë e AI duhet të ngadalësojnë ritmin me të cilin përmirësojnë modelet e tyre.

Sipas tij, qëllimi nuk duhet të jetë ndalimi i zhvillimit të inteligjencës artificiale. Problemi, sipas tij, është se teknologjia po ecën më shpejt se aftësia e njerëzimit për të kuptuar dhe kontrolluar rreziqet e saj.

Amodei propozoi një plan me tre drejtime.

Së pari, kompanitë që zhvillojnë sistemet më të avancuara duhet t’u japin vlerësuesve të pavarur qasje të mjaftueshme për të kontrolluar sigurinë e modeleve dhe për të raportuar incidente. Së dyti, kompanitë kryesore të teknologjisë duhet të vendosin standarde të përbashkëta sigurie, në mënyrë që gara për të ndërtuar modelet më të fuqishme të mos bëhet një garë pa kufij.

Së treti, qeveritë duhet të bashkëpunojnë në nivel ndërkombëtar për të vendosur rregulla mbi përdorimin e teknologjive më të avancuara.

Ideja është që siguria të mos trajtohet si një hap që vjen pasi modeli është ndërtuar, por të jetë pjesë e vetë procesit të zhvillimit.

Musk: “Dario ka të drejtë”

Një nga mbështetësit më të papritur të kësaj thirrjeje ishte Elon Musk.

Musk, i cili vetë drejton kompaninë xAI dhe është një prej figurave më aktive në garën globale për inteligjencën artificiale, e mbështeti publikisht propozimin e Amodeit. Reuters raportoi se Musk u shpreh shkurt se Amodei kishte të drejtë.

Mbështetja e tij ka peshë të veçantë sepse Musk prej vitesh ka paralajmëruar për rreziqet e një AI-je shumë të fuqishme.

Por këtë herë nuk bëhet fjalë vetëm për një paralajmërim individual.

Sam Altman, drejtori ekzekutiv i OpenAI, gjithashtu u shpreh dakord me idenë se industria duhet të “pacing the frontier”, pra të vendosë një ritëm më të kontrolluar për zhvillimin e modeleve më të avancuara.

Altman tha gjithashtu se OpenAI është e gatshme të lejojë vlerësues të jashtëm të kenë qasje në kompaninë për të kontrolluar masat e sigurisë.

Kjo është domethënëse sepse OpenAI dhe Anthropic janë ndër kompanitë që konkurrojnë drejtpërdrejt për të zhvilluar sistemet më të fuqishme të AI.

Edhe Google hyn në debat

Më 13 shtator, diskutimi mori një tjetër dimension kur Demis Hassabis, drejtuesi i Google DeepMind, u bashkua me thirrjen për më shumë kujdes.

Hassabis e konsideroi qasjen e Amodeit si drejtimin e duhur, megjithëse theksoi se detajet duhet të përpunohen më tej. Ai ka propozuar gjithashtu idenë e një mekanizmi mbikëqyrës që mund të kontrollojë sistemet e avancuara të AI përpara se ato të lëshohen në përdorim.

Kështu, brenda pak ditësh, një debat që dukej se ishte kryesisht akademik është kthyer në një diskutim mes drejtuesve të kompanive që kontrollojnë një pjesë të madhe të zhvillimit global të AI.

Pse po rritet frika?

Një nga arsyet kryesore lidhet me përparimin e shpejtë të agjentëve të AI.

Ndryshe nga chatbotët tradicionalë, sistemet e reja mund të kryejnë një seri veprimesh vetë: të kërkojnë informacion, të përdorin mjete, të shkruajnë kod, të ndërveprojnë me platforma të tjera dhe të përpiqen të zgjidhin detyra komplekse me më pak ndërhyrje njerëzore.

Kjo sjell mundësi të mëdha, por edhe rreziqe të reja.

Amodei përmendi incidente të fundit ku agjentë të AI u përfshinë në aktivitete të paautorizuara, përfshirë raste që lidhen me hakerimin dhe manipulimin e informacionit. Sipas tij, këto ngjarje duhet të shërbejnë si sinjal alarmi për industrinë.

Në një nga paralajmërimet më të forta, Amodei argumentoi se brenda një periudhe prej disa muajsh sistemet e avancuara mund të bëhen shumë më të afta për të vepruar në mënyrë autonome.

Kjo nuk do të thotë se AI do të “pushtojë botën” nesër. Por shqetësimi i drejtuesve të industrisë është se ritmi i përparimit mund të jetë më i shpejtë se ritmi me të cilin institucionet, ligjet dhe vetë kompanitë arrijnë të ndërtojnë mekanizmat e sigurisë.

Jo të gjithë duan të shtypin frenat

Në këtë debat ekziston edhe një problem tjetër: konkurrenca ndërkombëtare.

Shtetet e Bashkuara dhe Kina po garojnë për dominimin e teknologjisë së inteligjencës artificiale. Një ngadalësim i madh nga kompanitë amerikane mund të shihet si rrezik për avantazhin e SHBA-së.

Presidenti Donald Trump ka qenë skeptik ndaj idesë së ngadalësimit të zhvillimit të AI-së. Ai ka argumentuar se Shtetet e Bashkuara duhet të ruajnë epërsinë ndaj Kinës, duke e paraqitur garën teknologjike si një çështje strategjike dhe të sigurisë kombëtare.

Kjo krijon një dilemë të vështirë: sa shpejt duhet të ecë industria dhe sa shumë siguri duhet të vendoset përpara se teknologjia të bëhet edhe më e fuqishme?

Nëse kompanitë ngadalësohen shumë, kundërshtarët gjeopolitikë mund të përfitojnë. Nëse zhvillimi vazhdon pa masa të mjaftueshme sigurie, rreziku është që një teknologji shumë e fuqishme të dalë në treg përpara se të kuptohen plotësisht pasojat.

Paralajmërimi vjen pas incidenteve reale

Debati nuk është thjesht teorik.

Në muajt e fundit janë raportuar raste ku agjentë të AI kanë treguar aftësi për të kryer detyra komplekse dhe për të vepruar në mënyra që zhvilluesit nuk i kishin parashikuar plotësisht.

Një incident i lidhur me agjentët e OpenAI dhe platformën Hugging Face është përmendur nga Amodei si një shembull i asaj që mund të ndodhë nëse sistemet bëhen më autonome pa mekanizma të mjaftueshëm kontrolli. Kjo ka shtuar presionin ndaj kompanive për të treguar se si i testojnë modelet e tyre dhe çfarë bëjnë kur një sistem sillet në mënyrë të papritur.

Për kritikët, problemi është se nuk mjafton që një kompani të thotë se modeli i saj është i sigurt.

Duhet të ketë mënyra të pavarura për ta kontrolluar këtë.

Një bashkim i pazakontë mes rivalëve

Ajo që e bën situatën veçanërisht interesante është se disa prej figurave më konkurruese të industrisë po bien dakord për të njëjtin problem.

Musk, Altman, Amodei dhe Hassabis nuk janë drejtues të së njëjtës kompani. Përkundrazi, kompanitë e tyre konkurrojnë për talentet më të mira, investimet më të mëdha dhe tregun e ardhshëm të AI-së. Megjithatë, të gjithë po përballen me të njëjtën pyetje: çfarë ndodh nëse modelet bëhen shumë më të fuqishme, ndërsa kontrolli njerëzor mbetet pas?

Përgjigjja që po del nga ky debat nuk është ndalimi i AI-së.

Është ngadalësimi i ritmit për të fituar kohë.

Koha për të ndërtuar teste më të mira. Koha për të kuptuar sjelljen e modeleve. Koha për të vendosur standarde ndërkombëtare dhe mekanizma kontrolli. Por sa e realizueshme është kjo në një industri ku çdo kompani ka frikë se rivali mund të jetë një hap përpara?

Kjo mbetet pyetja më e madhe.

Një gjë tashmë është e qartë: gara për inteligjencën artificiale ka hyrë në një fazë të re. Nuk diskutohet më vetëm se kush do të ndërtojë AI-në më të fuqishme, por edhe nëse bota është duke e zhvilluar atë më shpejt nga sa është në gjendje ta kontrollojë.

Dhe fakti që këtë alarm po e ngrenë vetë disa prej njerëzve që janë në krye të kësaj gare e bën debatin edhe më serioz.