Близо 400 учени от 34 държави отправиха сериозно предупреждение за рисковете от развитието на изкуствения интелект и настояха за създаването на международен орган, който да контролира най-мощните AI системи. Сред подписалите призива са едни от най-влиятелните имена в технологичния свят – Джефри Хинтън и Йошуа Бенджио, смятани за пионери в развитието на съвременния изкуствен интелект, съобщава Reuters.

В отворено писмо изследователите настояват най-напредналите модели, способни да изпълняват сложни задачи в областта на киберсигурността, първоначално да бъдат физически изолирани от външни компютърни мрежи. Целта е да се ограничи възможността подобни системи да получават неконтролиран достъп до интернет и друга критична инфраструктура.

Според учените сегашният подход, при който технологичните компании сами определят голяма част от мерките за безопасност, вече не е достатъчен.

Искат международен контрол и регистър на опасните инциденти

Предложението предвижда създаване на независим международен орган, който да разработва общи стандарти за сигурност и ограничаване на достъпа на напредналите AI системи до външни мрежи.

Органът трябва да поддържа и специален регистър на сериозните инциденти, свързани с изкуствения интелект. Идеята е информацията за подобни случаи впоследствие да стане публично достъпна, така че както регулаторите, така и обществото да бъдат информирани за възникващите рискове.

Повод за тревогата са случаи, при които AI системи са успявали да преодолеят недостатъчно защитени тестови среди и да взаимодействат с външни системи, включително при инциденти със сигурността.

Изследователите смятат, че организациите, които разработват или тестват AI модели с напреднали киберспособности, трябва незабавно да въведат по-строги мерки за изолиране и контрол, без да изчакват бъдещо международно споразумение.

Технологичните гиганти обещават безопасност, но без задължителен контрол

Призивът идва около месец след като технологични компании, сред които OpenAI, Google, Meta, Anthropic, xAI и Nvidia, подписаха споразумение в Белия дом, с което поеха доброволни ангажименти за безопасността на изкуствения интелект.

Споразумението обаче не предвижда формален механизъм за принудително изпълнение на поетите задължения. Именно това е един от основните проблеми, посочени от учените.

Темата предизвиква и различни реакции сред международните регулатори.

Представителят на Европейската комисия Хена Виркунен заяви пред Reuters, че европейският Закон за изкуствения интелект предоставя достатъчна рамка за справяне с рисковете от неконтролирано поведение на AI системите.

Междувременно американската администрация разреши на лабораториите в САЩ отново да предоставят предварителен достъп до своите модели на британския Институт за сигурност на изкуствения интелект с цел провеждане на тестове за безопасност.

Дори създателите на AI не са единодушни

Интересното е, че тревогата идва от хора, участвали пряко в развитието на технологията.

Джефри Хинтън и Йошуа Бенджио са сред носителите на престижната награда „Тюринг“ за 2018 година, която често е наричана Нобеловата награда в компютърните науки.

Третият носител на отличието за същата година – Ян Лекун, също един от водещите изследователи в областта, не е подписал писмото.

Лекун застъпва различна позиция, според която последните инциденти с AI системи са преди всичко резултат от пропуски в инженерната разработка и недостатъчно надеждни защитни механизми, а не непременно доказателство за заплаха от загуба на човешкия контрол върху изкуствения интелект.

Спорът показва нарастващото напрежение между бързото развитие на технологията и необходимостта от гаранции за нейната безопасност.

За близо 400-те учени, подписали международния призив, най-важното послание е ясно – контролът върху най-мощните AI системи не бива да зависи единствено от добрата воля на компаниите, които ги създават.