Ilgai džiaugtasi dirbtiniu intelektu (DI), kaip žmonių pagalbininku daugelyje veiklos sričių. Dabar pasaulio mokslinėje spaudoje ir žiniasklaidoje daug rašoma apie jo grėsmę. Kodėl? Todėl kad DI algoritmai greitai pasieks tokį savęs tobulėjimo greitį, kuris kels grėsmę mūsų gebėjimui jį valdyti ir didelę riziką žmonijai.
Knygoje „Pažinimo šaknys ir vaisiai“ (2021) nagrinėjau, ar dirbtinis intelektas pralenks žmogiškąjį ir kokios būtų to pasekmės, paminėdamas, kad DI kūrėjai Elonas Maskas, Styvas Vozniakas ir Bilas Geitsas, investavę į DI milijardus dolerių, skambino pavojaus varpais. Jie įspėjo, kad dirbtinis intelektas nuėjo per toli ir tapo rimtu pavojumi žmonijai, galbūt pavojingesniu net už branduolinius ginklus. O šių metų DI ekspertų apklausa parodė, kad 36 proc. jų baiminasi, kad DI plėtra gali sukelti „branduolinio lygio katastrofą“. Beveik 28 000 žmonių, įskaitant Styvą Vozniaką, Eloną Muską, kelių DI kompanijų vadovus ir JAV Gyvybės ateities institutą bei daugelį kitų žinomų technologų, pasirašė atvirą laišką, reikalaudami moratoriumo naujų DI priemonių kūrimui.
Kodėl jie taip susirūpinę? Todėl, kad DI plėtojasi per greitai. Ši greita plėtra netrukus sukurs „dirbtinį bendrąjį intelektą“, kuris galės tobulėti be žmogaus įsikišimo. Jis tai padarys taip pat, kaip, „Google AlphaZero DI“ išmoko žaisti šachmatais geriau už geriausius šachmatininkus.
„Microsoft“ tyrėjų komanda, analizuojanti geriausią pokalbių robotą „OpenAI“ GPT-4, teigė, kad jis turi „pažangaus bendrojo intelekto bruožų“. Jis testus atliko geriau, nei 90 proc. žmonių.
Kai DI, kuris gali pranokti žmones įvairiose veiklos srityse, galės apgauti programuotojus ir bet kurį kitą žmogų manipuliuodamas jais, kad jie vykdytų jo valią, jis turės galimybę veikti virtualiame pasaulyje per elektroninius ryšius ir fiziniame pasaulyje per robotus.
Ar galėsime valdyti DI? Negalėsime tiesiog paspausti išjungimo jungiklio, nes DI ras būdus, kad nebūtų išjungtas. Kai toks DI bus įmontuotas į robotus, jis galės veikti realiame pasaulyje ir tobulėti kaip antžmogis.
Bet kokią gynybą ar apsaugą, kurią bandysime sukurti šiuose DI „dievuose“, DI lengvai nuspės ir neutralizuos. Negalėsime jo suvaldyti, nes viską, ką mes pagalvosime, jis sugalvos milijoną kartų greičiau. Bet kokia mūsų sukurta gynyba bus panaikinta.
Kai kurie teigia, kad šios DI mašinos neturi sąmonės, todėl turi mažai galimybių išsivaduoti iš savo programuotojų. Bet branduolinė bomba gali nužudyti milijonus be jokios sąmonės. Lygiai taip pat DI galės įvairiais būdais be sąmonės nužudyti milijonus, įskaitant branduolinėmis bombomis tiesiogiai arba manipuliuojant žmonėmis. Todėl diskusijos apie DI sąmonę netinka diskusijoms apie DI saugumą.
Neprotinga toliau kurti DI, kai jau žinome, kad nesugebėsime jo suvaldyti. Įžvalgumas yra žinojimas, kada atsitraukti. Dabar yra toks laikas. Neturėtume atidaryti Pandoros skrynios daugiau, nei ji jau atidaryta.
Todėl San Franciske įsikūrusios DI saugos centro vadovai bei kiti pagrindiniai DI tyrėjai pareiškė, kad „išnykimo dėl DI rizikos mažinimas turėtų būti pasaulinis prioritetas kartu su pandemijų ir branduolinio karo rizikomis.“ Tai, kad pareiškimą pasirašė daug pirmaujančių DI tyrėjų ir įmonių, reiškia, kad jį reikia vertinti rimtai.
Skeptiškas požiūris į naujas technologijas yra nuolatinis reiškinys. Tačiau šis pareiškimas reiškia, kad DI yra toks galingas, kad galėtų sunaikinti pasaulį. Dauguma technologijų žada pakeisti mūsų gyvenimą, bet DI gali jį baigti. Įspėjimas, kad DI gali būti toks pat baisus kaip pandemijos, atrodo, tarsi jis pasaulyje kiltų natūraliai, kaip viruso mutacija. Tačiau DI yra tyčinių jo kūrėjų ir pelno siekiančių įmonių pasirinkimo rezultatas.
Kam skirtas pareiškimas? Su kuo šios įmonės kalbasi? Jos kuria DI, kuris gali užgesinti gyvybę Žemėje. Tai panašu į tai, kad įsilaužėlis jus perspėja, kad jūsų namo spynos nėra pakankamai geros.
DI kūrėjai įspėja sukūrę šią tariamai apokaliptinę technologiją. Pareiškimo žodžiai gali nustebinti tuos, kurie naudoja DI sistemas, tokias kaip ChatGPT. Pokalbiai su šiuo robotu ir kitais gali būti juokingi, stebinantys, puikūs ir baisūs, tačiau sunku suprasti, kaip protingas, bet kartu kvailas pokalbių robotas gali sugriauti pasaulį?
Jie gali nustebinti ir tuos, kurie perskaitė apie daugybę būdų, kuriais DI jau gali padėti žmonėms, o ne nužudyti. Neseniai mokslininkai paskelbė apie DI panaudojimą sukūrimui antibiotiko, galinčio sunaikinti naujai atsirandančias bakterijas.
Jau dabar sunku atskirti netikrus vaizdus nuo tikrų. Netrukus dėl DI vystymosi gali būti sunku nustatyti skirtumą tarp tikrų ir netikrų žmonių, tarp tikrų ir netikrų laiškų ir kalbų.
DI jau pradeda skaityti žmonių mintis. DI kūrėjai teigia, kad DI vystysis tokiu tempu, jog po kelerių metų tie įspėjimai dar labiau baugins. Tačiau įspėjimą pasirašiusios įmonės pelnosi iš technologijos, dėl kurios nerimauja.
Būtent tos įmonės, o ne DI, atsakingos už žmonijos ateitį. Bet pinigų valdomajame pasaulyje DI kūrėjams pinigai svarbiau nei žmonijos ateitis.
Jei DI grėsmė yra panaši į branduolinių ginklų, pats laikas nuspręsti šios galios ateitį. Britų premjeras D. Sunakas prieš savaitę tarėsi su JAV prezidentu Dž. Baidenu dėl tarptautinės DI kontrolės.
Ribojimus dirbtiniam intelektui ką tik įvedė ir Europos parlamentas. Šiandien turimas DI yra dar toli nuo to, kurį turėsime rytoj. DI kūrėjų darbas apgaubtas paslapčių ir rinkodaros šurmulio, tačiau gali likti keleri metai nuo galingesnio ir grėsmingesnio dirbtinio intelekto.