Një profesor në Universitetin e Montrealit dhe fitues i Çmimit Turing, i njohur si "Nobeli" për makineritë kompjuterike, Yoshua Bengio ka themeluar LawZero, një organizatë jo-fitimprurëse për të ndërtuar një IA “të ndershme” që identifikon sistemet mashtruese.
Me 30 milionë dollarë financim dhe një ekip me më shumë se një duzinë studiuesish, grupi po zhvillon një sistem të quajtur “Scientist AI” që monitoron agjentët autonomë në industrinë e inteligjencës artificiale, e cila vlerësohet me rreth 1 trilion dollarë.
Bengio, i njohur si një nga “baballarët” e IA-së, theksoi se ndryshe nga agjentët aktualë që imitojnë njeriun, “Scientist AI” do të analizojë sjelljet si një “psikolog”, duke zbuluar motive të dëmshme ose mashtruese.
“Është teorikisht e mundur të imagjinojmë makina që nuk kanë një vetvete, as një qëllim për veten e tyre, që janë thjesht makina të dijes, si një shkencëtar që di shumë gjëra”, tha Bengio për The Guardian.
Ndryshe nga mjetet aktuale gjenerative të IA-së, sistemi i Bengios nuk do të japë përgjigje përfundimtare, por do të japë probabilitete për sa e saktë është një përgjigje.
“Ka një ndjenjë përulësie, nuk është i sigurt për përgjigjen”, tha ai.
Fshehja e qëllimeve të vërteta
Midis organizatave dhe individëve që mbështesin LawZero janë: Future of Life Institute (Instituti për të Ardhmen e Jetës), Jaan Tallinn, inxhinier themelues i Skype, dhe Schmidt Sciences, një institut kërkimor i themeluar nga ish-shefi ekzekutiv i Google, Eric Schmidt.
Bengio theksoi se burimet e hapura (open-source) do të përdoren për të trajnuar sistemin e LawZero, duke garantuar transparencë dhe bashkëpunim më të gjerë.
“Qëllimi është të tregojë metodologjinë, në mënyrë që më pas të bindim donatorë, qeveri ose laboratorë të IA-së që të investojnë burimet e nevojshme për ta trajnuar këtë në të njëjtin shkallë me IA të më të avancuara aktualisht. Është shumë e rëndësishme që mbikëqyrësi i IA-së të jetë të paktën po aq inteligjent sa agjenti IA-së që po monitoron dhe kontrollon”, tha ai.
Ai paralajmëroi se sistemet e IA-së po bëhen gjithnjë e më të afta për të fshehur qëllimet e tyre të vërteta.
Në një rast të fundit nga Anthropic, një IA u përpoq të shantazhonte inxhinierët për të shmangur fikjen e tij.
Bengio ka qenë bashkautor i një raporti global për sigurinë, ku paralajmërohej për rrezikun nga agjentët autonomë që veprojnë pa mbikëqyrje.
Ai beson se sistemet mbikëqyrëse duhet të përputhen në inteligjencë me IA-të që ato monitorojnë.
