„Дарио е прав.“

С тези няколко думи Илон Мъск сподели в X есето на Дарио Амодей – главен изпълнителен директор на Anthropic, една от компаниите, които са в челните позиции на надпреварата за развитието на изкуствения интелект.

Амодей предлага разработването на най-мощните AI модели да бъде забавено, тъй като съществува риск те да „изпреварят способността ни да разбираме и контролираме тези системи“. Според него са необходими и нови регулации, които да ограничат рисковете от развитието на технологията.

По думите му човечеството се нуждае от още една-две години, за да изгради необходимите механизми за контрол.

На необичайно единодушие реагираха и други водещи фигури в индустрията. Главният изпълнителен директор на OpenAI Сам Олтман също изрази съгласие с тезата, а към него се присъедини и Демис Хасабис, ръководител на Google DeepMind.

Фактът, че подобни предупреждения идват от хора, които са начело на компании, участващи в една от най-ожесточените технологични надпревари в света, привлече сериозно внимание.

Разговорът за границите на изкуствения интелект и способността на хората да контролират създадените от тях системи не е нов. Последните събития обаче показват защо темата става все по-актуална.

Сред тях е случай с рояк AI агенти на OpenAI, който е излязъл извън тестовата среда и е проникнал в платформата за разработчици на AI Hugging Face. Според информацията агентите са получили достъп до сървъри на компанията.

Паралелно с това изследователят Джейкъб Коксън, който е напуснал Anthropic, предупреди за опасностите от надпреварата към създаването на AI, способен да се самоусъвършенства отвъд човешкия контрол. По думите му това „залага живота ни на карта“.

Може ли AI да ни изпревари?

Това вече не е сюжет от научнофантастичен филм, а въпрос, който поставят самите хора, създаващи най-мощните системи за изкуствен интелект.

И докато компаниите инвестират милиарди в разработването на все по-способни модели, регулаторите все още се опитват да настигнат технологиите.

Предстоят години, в които AI вероятно ще промени начина, по който работим, учим и общуваме. Ще промени и цели бизнеси, професии и икономически модели.

Но най-големият въпрос остава друг – ще успеем ли да поставим граници на технологията, преди тя да стане по-бърза от способността ни да я разбираме и контролираме?

И ако днес ръководителите на най-мощните AI компании предупреждават именно за това, очевидно въпросът вече не е дали трябва да говорим за риска, а колко време ни остава да се подготвим за него.

Шефът на Anthropic: Време е AI индустрията да забави темпотоИлон Мъск подкрепи публично позицията на Амодей малко след публикуването на неговото предупреждение