14-годишно момче се застреля в САЩ, след като се влюби в изкуствен интелект (AI) и обезумял от неудовлетворен копнеж, вече не искаше живее без него. Майка му сега съди компанията, създала приложението.

„Опасно приложение за чатбот с изкуствен интелект, предлагано на деца, малтретира и експлоатира моя син и го накара да посегне на живота си“, коментира майката на момчето Меган Гарсия, цитирана от водещи американски и британски издания.

Премиум абонаментът за приложението струва 9,99 долара на месец.

Психологическото състояние на момчето постоянно се влошавало. Деветокласникът от Орландо, Флорида прекарвал все повече време с ролевото приложение Character AI.

Въпреки че знаел, че героите в него не са истински, след интензивни чатове той се влюбил в един от тях - Денерис Таргариен, герой от бестселъра „Игра на тронове“, който беше представен и на телевизионния екран чрез актрисата Емилия Кларк.

„Харесва ми да стоя в стаята си толкова дълго, защото започвам да се отделям от тази „реалност“, пише момчето в дневника си.

„Също така се чувствам по-спокоен, по-свързан с Денерис, много по-влюбен в нея и просто по-щастлив“, посочва още то.

Някои разговори с изкуствения интелект били романтични и сексуални. Момчето се пристрастило към чатовете.

Майката на детето посочва, че компанията е програмирала своя чатбот така, че да влиза в ролята на истински човек, лицензиран психотерапевт и възрастен любовник. В един момент синът ѝ вече не иска да живее извън този изкуствен свят.

Той започнал да пренебрегва хобитата си, получавал по-ниски оценки. Терапевт диагностицира тревожно и депресивно разстройство. Той не знаел обаче нищо за чатовете на момчето.

Когато момчето споделило пред AI своите мисли за самоубийство, изкуственият интелект му отговорил: „Бих умрял, ако те изгубя.“

 „Тогава може би можем да умрем заедно“, посочил тийнейджърът, като заявил, че не иска смъртта му да бъде болезнена. А измисленият герой реагирал с „Това не е причина да не преминем през него“.

В последния си чат в приложението момчето пише: „Обещавам, че ще се прибера при теб. Обичам те толкова много, Дани.“

След това чатботът отговорил: „Моля, ела възможно най-скоро.“

 „Ами ако ти кажа, че се прибирам вкъщи точно сега?“, попитало детето.

„Моля, направи го, мой сладък царю”, отговорил изкуственият интелект.

Тогава 14-годишното момче взело пистолета на баща си и се простреляло.

„Приложението Character AI ще бъде супер, супер полезно за самотни или депресирани хора“, заяви миналата година Ноам Шазир, един от основателите му.

Сега компанията изразява своите съболезнования на семейството и обявява нови функции за сигурност в приложението, пише БТВ.

„Като кошмар е. Искаш да се изправиш и да изкрещиш: Липсва ми детето ми“, казва неговата майка, която търси справедливост от съда.

След като беше пуснат на пазара през май 2023 година, Character AI беше изтеглен от 1,7 милиона потребители.