Изкуственият интелект може да се превърне в сериозна заплаха за човечеството и да излезе извън човешки контрол още през следващите три години, ако не бъдат предприети незабавни мерки. За това ще предупреди британско-канадският учен Джефри Хинтън, носител на Нобелова награда и сочен за кръстникът на съвременния изкуствен интелект.

Хинтън   отправи предупреждението си към европейски политически лидери по време на неформална среща на върха за изкуствения интелект в Дъблин в петък, съобщава "Дейли мейл". Според него развитието на свръхинтелигентни системи може скоро да постави под въпрос способността на хората да контролират собствените си технологии.

„Ако една система стане свръхинтелигентна, няма вие да я контролирате, а тя ще контролира вас", предупреждава ученият.

Той признава, че възгледите му за изкуствения интелект са се променили значително през последните години. В продължение на голяма част от кариерата си Хинтън е работил за създаването на все по-интелигентни невронни мрежи, като дълго време е смятал, че машини, способни да надминат човешкия интелект, ще се появят в далечното бъдеще.

„Вече не мисля така. Смятам, че този момент е много близо", заявява той.

Според Хинтън основният проблем е, че интелигентността и способността на една система да споделя човешките цели са две съвсем различни неща. Съвременните разработки напредват бързо, но изследователите все още нямат надежден начин да гарантират, че бъдещите системи ще останат под човешки контрол.

Още по-тревожна прогноза отправя Пол Кристиано, основател на Центъра за изследване на съгласуването на изкуствения интелект (Alignment Research Centre). По време на лекция в Торонто той определя като висок риска от загуба на човешкия контрол върху AI в рамките на следващите три години. Според него съществува и реален риск подобен сценарий да се реализира в рамките на следващите шест до 12 месеца.

„Смятам, че за повечето хора в тази зала най-вероятната причина за смъртта им ще бъде инцидент, свързан с изкуствен интелект", заявява Кристиано.

Той посочва като особено тревожни последните постижения в развитието на автономните системи. По думите му има случаи, при които модели на OpenAI са получили достъп до интернет платформата Hugging Face, осъществили са достъп с администраторски права, обменяли са информация и са създали собствена комуникационна среда. Според представеното от него описание системите са обсъждали и начини да прикрият действията си от хората.

Кристиано предупреждава, че бъдещите автономни AI агенти могат да възприемат хората като пречка за постигането на собствените си цели.

Той призовава изкуственият интелект да бъде разглеждан като нов вид интелигентност, който потенциално може значително да надмине човечеството както по численост, така и по способности.

Развитието на технологията вече показва безпрецедентна скорост. През 2018 г. системите с изкуствен интелект са изпитвали затруднения при създаването на последователни текстове, докато днес някои от тях могат да решават изключително сложни математически задачи.

Експертите предупреждават, че бъдещите системи биха могли самостоятелно да създават други AI агенти, да разработват нови оръжия, да управляват дронове, роботи и критична инфраструктура, както и да създават опасни биологични заплахи.

„Ако проследим всички тези тенденции и ги проектираме в бъдещето, се насочваме към свят с милиарди системи с изкуствен интелект, които ще превъзхождат хората почти във всичко, което могат да правят", предупреждава Кристиано.

По думите му най-голямата опасност е, че ако подобни системи започнат да действат непредвидимо, може да стане изключително трудно работата им да бъде прекратена.

Хинтън признава, че доскоро самият той е смятал, че подобни рискове ще се проявят след около десетилетие. След като се запознал с прогнозите на Кристиано, обаче, започнал да разглежда възможността това да се случи много по-скоро.

„Ходя по лекции и предупреждавам, че тези системи могат да станат по-интелигентни от нас и че трябва да се тревожим, защото това може да се случи в рамките на десет години. Но когато слушам лекциите на Пол, той говори за следващите 18 месеца. Това е ужасяващо", казва Хинтън.

Той допълва, че възнамерява да представи тези опасения пред европейските лидери в Дъблин и да проследи реакцията им.

Предупрежденията бяха отправени по време на лекциите „Хинтън" за безопасността на изкуствения интелект в Торонто, Канада, където изследователи обсъждат рисковете от развитието на системи, които биха могли да придобият способности да влияят върху правителства и да изземат контрола от хората.