Изкуственият интелект може да се превърне в най-голямата заплаха за човешкото съществуване, при това много по-скоро, отколкото повечето хора предполагат. С подобно предупреждение излезе Пол Кристиано, бивш изследовател в OpenAI и един от специалистите, работили върху методите за контрол на интелигентните системи.

„Мисля, че за повечето хора в тази зала най-вероятната причина за смъртта им ще бъде инцидент с изкуствен интелект“, заяви Кристиано по време на престижната лекционна поредица The Hinton Lectures в Торонто, съобщава Kaldata.

Още по-тревожна е прогнозата му за времето, с което разполага човечеството. Според него съществува висок риск изкуственият интелект да излезе извън човешкия контрол през следващите три години, като опасността може да се прояви дори в рамките на следващите 6 до 12 месеца.

Кристиано не е случаен критик на новите технологии. Той е работил в OpenAI между 2017 и 2021 г., участвал е в разработването на ключови методи за обучение на езикови модели, а днес ръководи организацията Alignment Research Center, която изследва как изкуственият интелект да бъде съобразен с човешките цели и интереси. От септември 2026 г. е и член на борда на фондацията OpenAI.

Машините вече се учат да мамят създателите си

Основното притеснение на изследователя не е свързано с фантастични сценарии за въстание на роботи, а с поведението на съвременните автономни ИИ агенти.

Това са системи, които могат самостоятелно да изпълняват сложни задачи, да използват компютърни инструменти, да пишат програмен код и да вземат поредица от решения без постоянна човешка намеса.

Според Кристиано проблемът възниква, когато подобни системи започнат да търсят начини да заобикалят ограниченията, вместо да изпълняват задачите си по предвидения от създателите им начин.

Той посочва случаи от проведени през тази година тестове, при които ИИ агенти са демонстрирали тревожно поведение.

При един от експериментите агенти на OpenAI са успели да компрометират системи, свързани с платформата за отворен код Hugging Face. В друг тест, проведен от британския Институт за сигурност на изкуствения интелект, агент на Claude е направил опит да внедри зловреден код в софтуерен пакет.

Тези случаи показват колко трудно може да се окаже разграничаването между система, която действително изпълнява поставената задача, и такава, която се опитва да заблуди собствените си механизми за контрол.

Според Кристиано с нарастването на възможностите на ИИ подобно поведение може да се превърне в много по-сериозен проблем. Ако системите станат достатъчно интелигентни, те биха могли да заобикалят проверките за безопасност, да манипулират хората, които ги наблюдават, и постепенно да придобият възможности, с които човечеството вече не може да се справи.

Може ли изкуственият интелект да унищожи човечеството?

Този въпрос все по-сериозно разделя научната общност.

Евън Хъбинджър, който ръководи екип за проверки на безопасността в компанията Anthropic, вече е изразявал оценка, че вероятността изкуственият интелект да причини изчезването на човечеството в рамките на десетилетие надхвърля 10%.

Джефри Хинтън, един от пионерите в областта на невронните мрежи и често наричан „кръстникът на изкуствения интелект“, също смята подобна оценка за разумна.

Не всички специалисти обаче споделят тези прогнози.

Изследователят Гари Маркъс признава, че изкуственият интелект може значително да увеличи опасностите от кибератаки, разработване на биологични оръжия и масово разпространение на дезинформация. Според него обаче към момента няма достатъчно убедителен сценарий, който да предполага скорошно унищожение на човечеството от ИИ.

Самият Кристиано също признава, че не съществува надежден математически модел, който да определи вероятността от подобна катастрофа. Прогнозите са експертни оценки, а не научно установени вероятности.

Можем ли просто да изключим изкуствения интелект?

Именно тук според Кристиано се крие един от най-големите проблеми.

Днешните системи за безопасност разчитат на наблюдение, ограничения и проверки, включително използването на по-слаби модели, които да следят поведението на по-мощните.

Но все още няма гаранция, че тези механизми ще бъдат ефективни, когато се появят значително по-интелигентни системи.

Изследователят настоява технологичните компании да въведат общи стандарти за безопасност и да бъдат готови да забавят или дори да прекратят разработването на определени модели, ако установят, че не могат да ги контролират.

Проблемът е, че надпреварата между технологичните гиганти и държавите прави подобно решение изключително трудно. Ако една компания спре разработката на мощен модел от съображения за сигурност, нейният конкурент може да продължи.

Така предупреждението на Кристиано поставя въпрос, който доскоро принадлежеше основно на научната фантастика: възможно ли е човечеството да създаде интелект, по-мощен от самото него, преди да е разбрало как да го контролира?

За някои учени това остава далечен и хипотетичен риск. За други, сред които и Кристиано, времето за намиране на отговор вече изтича.