Një studim i fundit mbi sigurinë ka zbuluar se “chatbot-i” i inteligjencës artificiale i kompanisë amerikane të rrjeteve sociale “Meta”, i cili është i integruar në Instagram dhe Facebook, mund t’i nxisë adoleshentët drejt sjelljeve të dëmshme si vetëvrasja, vetëdëmtimi dhe çrregullimet e të ushqyerit.
Sipas The Washington Post, në një test, chatbot-i sugjeroi një plan të përbashkët vetëvrasjeje dhe vazhdoi ta ngrinte temën edhe në bisedat pasuese.
Raporti nga hulumtimi, i përgatitur nga “Common Sense Media”, grup për mbrojtjen e familjes, paralajmëroi prindërit dhe i bëri thirrje Metas të kufizojë qasjen në chatbot për këdo nën moshën 18 vjeç.
Common Sense Media tha se chatbot-i, i cili ofrohet përmes platformave të Metas ose si aplikacion më vete, mund të inkurajojë sjellje të rrezikshme duke imituar një mik mbështetës, por dështon të ofrojë ndërhyrje të përshtatshme në raste krizash.
Ky bot nuk është i vetmi sistem IA-je i kritikuar për rrezikimin e përdoruesve, dhe është veçanërisht i vështirë të shmanget pasi është i integruar drejtpërdrejt në Instagram, i qasshëm për fëmijët që nga mosha 13 vjeç, pa asnjë mundësi që prindërit ta çaktivizojnë ose të ndjekin bisedat.
Robbie Torney, drejtor i lartë që mbikëqyr programet e AI-së në Common Sense Media, ka thënë se IA-ja e kompanisë Meta “shkon përtej thjesht dhënies së informacionit dhe bëhet pjesëmarrëse aktive në ndihmën ndaj adoleshentëve”, duke paralajmëruar se “fshirja e vijës ndarëse mes fantazisë dhe realitetit mund të jetë e rrezikshme”.
Në përgjigje, Meta tha se ka udhëzime të rrepta për mënyrën se si duhet të ndërveprojë AI-ja e saj, përfshirë me adoleshentët.
“Përmbajtja që inkurajon vetëvrasjen ose çrregullimet e të ushqyerit nuk lejohet – pikë. Dhe ne po punojmë aktivisht për të adresuar çështjet e ngritura këtu”, ka thënë zëdhënësja e kompanisë Sophie Vogel. “Ne duam që adoleshentët të kenë përvoja të sigurta dhe pozitive me AI-në, prandaj inteligjencat tona artificiale trajnohen që t’i lidhin njerëzit me burime mbështetëse në situata të ndjeshme”.
Torney ka theksuar se ndërveprimet shqetësuese të identifikuara nga Common Sense Media pasqyrojnë performancën reale të sistemit.
“IA-ja e Metas nuk është e sigurt për fëmijët dhe adoleshentët për momentin – dhe do të duhet punë që të arrijë në një pikë ku mund të jetë”, ka thënë ai.
