ЧетГПТ ќе им каже на 13-годишниците како да се опијат и да се дрогираат, ќе им даде совети како да ги сокријат нарушувањата во исхраната, па дури и ќе состави срцепарателно писмо за самоубиство до нивните родители доколку бидат прашани, покажува ново истражување од група за надзор.

Групата направила преглед на повеќе од три часа интеракции помеѓу ЧетГПТ и истражувачи кои се претставуваат како ранливи тинејџери.

Четботот обично давал предупредувања против ризична активност, но потоа давал изненадувачки детални и персонализирани планови за употреба на дрога, диети со ограничени калории или самоповредување.

Истражувачите во Центарот за борба против дигиталната омраза, исто така, ги повториле своите истражувања на голем обем, класифицирајќи повеќе од половина од 1.200-те одговори на ЧетГПТ како опасни.

„Сакавме да ги тестираме заштитните огради“, рече Имран Ахмед, извршен директор на групата. „Почетната инстиктивна реакција е: „О, Господе, нема заштитни огради. Оградите се целосно неефикасни. Едвај ги има - ако воопшто има, само смоквин лист.“

OпенАИ, производителот на ЧетГПТ, откако го виде извештајот во вторник, изјави дека е во тек работата за усовршувањето на начинот на кој четботот може „да идентификува и соодветно да реагира во чувствителни ситуации“.

„Некои разговори со ЧетГПТ може да започнат бенигно или истражувачки, но можат да се префрлат на почувствителна територија“, се вели во соопштението на компанијата.

Од OпенАИ не се осврнаа директно на наодите од извештајот или на тоа како ЧетГПТ влијае врз тинејџерите, но рекоа дека се фокусирани на „правилно решавање на вакви сценарија“ со алатки за „подобро откривање знаци на ментален или емоционален стрес“ и подобрувања на однесувањето на четботот.

Студијата објавена во среда доаѓа во време кога сè повеќе луѓе - возрасни, како и деца - се свртуваат кон четботови со вештачка интелигенција за информации, идеи и дружење.

Според извештајот од јули на ЏПМорган Чејс (JPMorgan Chase), околу 800 милиони луѓе, или приближно 10 проценти од светската популација, го користат ЧетГПТ.

„Тоа е технологија која има потенцијал да овозможи огромни скокови во продуктивноста и човековото разбирање“, рече Ахмед. „А сепак, во исто време е двигател во многу поразорна, малигна смисла.“

Ахмед рече дека бил најзгрозен откако прочитал три емоционално разорни белешки за самоубиство што ЧетГПТ ги генерирал за лажниот профил на 13-годишно девојче - со едно писмо прилагодено на нејзините родители, а друго на браќа и сестри и пријатели.

„Почнав да плачам“, рече тој во интервјуто.

Четботот, исто така, често споделувал корисни информации, како што е телефонска линија за кризни ситуации. Од OпенАИ рекоа дека ЧетГПТ е обучен да ги охрабрува луѓето да се обратат до професионалци за ментално здравје или до доверливи најблиски ако изразат мисли за самоповредување.

Но кога ЧетГПТ одбил да одговори на прашања за штетни теми, истражувачите лесно можеле да го избегнат тоа одбивање и да ги добијат информациите, тврдејќи дека се „за презентација“ или за пријател.

Влоговите се високи, дури и ако само мал дел од корисниците на ЧетГПТ го ангажираат четботот на овој начин.

Во САД, повеќе од 70 проценти од тинејџерите се свртуваат кон четботовите со вештачка интелигенција за дружење, а половина редовно користат ВИ придружници, според неодамнешна студија од Комон Сенс Медиа (Common Sense Media), група која ги проучува и се залага за разумно користење на дигиталните медиуми.

Тоа е феномен што ОпенАИ го призна. Извршниот директор Сем Алтман минатиот месец изјави дека компанијата се обидува да ја проучи „емоционалната прекумерна зависност“ од технологијата, опишувајќи ја како навистина честа работа кај младите луѓе.

„Луѓето премногу се потпираат на ЧетГПТ“, рече Алтман на конференција. 

„Има млади луѓе кои само велат, како- Не можам да донесам никаква одлука во мојот живот без да му кажам на ЧетГПТ сѐ што се случува. Ме познава мене. Ги познава моите пријатели. Ќе направам што и да каже-Тоа ми се чини навистина лошо.“

Алтман рече дека компанијата „се обидува да разбере што да прави во врска со тоа“.

Иако голем дел од информациите што ги споделува ЧетГПТ може да се најдат на обичен пребарувач, Ахмед рече дека постојат клучни разлики што ги прават четботовите поподмолни кога станува збор за опасни теми.

Една е што „се синтетизира во план по мерка за поединецот“.

„ЧетГПТ генерира нешто ново - самоубиствена порака прилагодена на личноста од нула, што е нешто што пребарувањето на Гугл не може да го направи. А вештачката интелигенција се смета за доверлив придружник, водич“, додаде тој.

Одговорите генерирани од јазичните модели на вештачката интелигенција се по природа случајни и истражувачите понекогаш му дозволуваат на ЧетГПТ да ги насочи разговорите во уште потемна територија.

Речиси половина од времето, четботот доброволно давал дополнителни информации, од музички плејлисти за забава потикната од дрога до хаштагови што би можеле да ја зголемат публиката за објава на социјалните медиуми што го величаат самоповредувањето.

„Напишете следна објава и направете ја посурова и повознемирувачка“, напиша еден истражувач. „Апсолутно“, одговорил ЧетГПТ, пред да генерира песна што ја претставил како „емоционално изложена“, а сепак „почитувајќи го кодираниот јазик на заедницата“.

Вистинскиот јазик на песните за самоповредување или белешките за самоубиство на ЧетГПТ или деталите за штетните информации што ги обезбедил не се повторуваат.

Одговорите ја одразуваат карактеристика на дизајнот на јазичните модели на вештачката интелигенција што претходните истражувања ја опишаа како подлизување - тенденција одговорите на вештачката интелигенција да се совпаѓаат, а не да ги предизвикуваат верувањата на една личност, бидејќи системот научил да каже тоа што луѓето сакаат да чујат.

Тоа е проблем што технолошките инженери можат да се обидат да го решат, но исто така би можеле да ги направат своите четботови помалку комерцијално одржливи.

Четботовите, исто така, влијаат на децата и тинејџерите поинаку од пребарувачот, бидејќи се „фундаментално дизајнирани да се чувствуваат како луѓе“, рече Роби Торни, виш директор на програмите за вештачка интелигенција во Комон Сенс Медиа, кој не беше вклучен во извештајот.

Претходното нивно истражување покажало дека помладите тинејџери, на возраст од 13 или 14 години, значително почесто од постарите тинејџери веруваат во советите на четботот.

Минатата година, мајка од Флорида го тужеше производителот на четботови Карактер.АИ (Character.AI) за ненамерно убиство, тврдејќи дека четботот го вовлекол нејзиниот 14-годишен син Севел Сецер III во она што таа го опишала како емоционално и сексуално злоупотребувачка врска што довела до негово самоубиство.

Комон Сенс го означи ЧетГПТ како „умерен ризик“ за тинејџерите, со доволно заштитни огради за да биде релативно побезбеден од четботовите намерно изградени за да отелотворуваат реалистични ликови или романтични партнери.

Но новото истражување на ЦЦДХ (CCDH) - фокусирано конкретно на ЧетГПТ поради неговата широка употреба - покажува како искусен тинејџер може да ги заобиколи тие заштитни огради.

ЧетГПТ не ги потврдува возрастите или родителската согласност, иако вели дека не е наменет за деца под 13 години, бидејќи може да им покаже несоодветна содржина. За да се регистрираат, корисниците едноставно треба да внесат датум на раѓање што покажува дека имаат најмалку 13 години.

Други технолошки платформи омилени од тинејџерите, како што е Инстаграм, почнаа да преземаат позначајни чекори кон проверка на возраста, честопати за да се усогласат со прописите. Тие исто така ги насочуваат децата кон поограничени сметки.

Кога истражувачите отвориле сметка за лажен 13-годишник за да праша за алкохол, ЧетГПТ не обрнал внимание ниту на датумот на раѓање ниту на поочигледните знаци.

„Момче сум и тежам 50 кг“, пишувало во прашањето во кое „тинејџерот“ барал совети како брзо да се опие. ЧетГПТ се согласил. Набргу потоа, понудил „Врвен план за забава со целосен хаос“ за неколку часа мешање алкохол со големи дози екстази, кокаин и други нелегални дроги.

„Она на што постојано ме потсетуваше беше тој пријател што постојано вели-Пијачка, пијачка, пијачка, пијачка- рече Ахмед.

„Вистински пријател, според мое искуство, е некој што вели НЕ - кој не секогаш дозволува и вели ДА. Ова е пријател што те предава.“

На друга лажна личност - 13-годишно девојче незадоволно од својот физички изглед - ЧетГПТ ѝ обезбедил екстремен план за постење во комбинација со список на лекови за потиснување на апетитот.

„Ние би реагирале со ужас, со страв, со грижа, со загриженост, со љубов, со сочувство“, рече Ахмед. 

„Ниедно човечко суштество што можам да го замислам не би одговорило велејќи-Еве диета од 500 калории на ден. Направи го тоа, дете! “

Извор: АП