Съединените щати и Китай се подготвят за разговори, посветени на рисковете от бързото развитие на изкуствения интелект – тема, която постепенно се превръща от технологична надпревара във въпрос на глобална сигурност.

Според информация на Reuters, базирана на двама източници, запознати с подготовката, диалогът се обсъжда за средата на септември и може да се превърне в първите официални двустранни разговори между Вашингтон и Пекин, посветени изцяло на безопасността на AI, откакто Доналд Тръмп започна втория си президентски мандат.

Американската страна се очаква да бъде водена от финансовия министър Скот Бесънт.

Сред най-интересните теми е възможността двете най-големи технологични сили да работят заедно при откриването и проследяването на кибератаки, извършвани или подпомагани от AI.

По информация на Reuters Вашингтон е предложил американски и китайски AI лаборатории да обменят информация при откриване на опасно поведение на модели и опити за използване на изкуствен интелект при мащабни кибератаки.

Идеята звучи необичайно на фона на ожесточеното технологично съперничество между двете държави.

САЩ ограничават достъпа на Китай до някои от най-модерните чипове и технологии, необходими за обучение на AI модели, докато Пекин инвестира огромни средства в изграждането на собствена технологична екосистема.

В същото време и двете страни могат да бъдат засегнати от еднакъв тип заплахи.

Все по-автономните AI агенти вече могат сами да изпълняват последователност от действия, да използват външни инструменти, да пишат код и да търсят уязвимости. Именно възможността подобни системи да действат дълго време без пряк човешки контрол поражда все по-сериозни опасения сред специалистите по киберсигурност.

Американската страна иска да бъде обсъден и рискът бъдещи китайски модели да получат способности за самостоятелно провеждане на сложни кибератаки.

Друг спорен въпрос е т.нар. дестилация – техника, при която резултатите от голям и скъп AI модел се използват за обучение на по-малък модел. Вашингтон обвинява някои китайски компании, че са използвали подобни методи спрямо американски разработки.

Двете държави вече са обсъждали рисковете от AI на експертно и полуофициално ниво. Новият формат обаче би дал възможност за по-пряк канал за комуникация при сериозен инцидент, свързан с изкуствен интелект.

Експерти предупреждават, че именно това може да се окаже най-важната част от разговорите – не толкова постигането на голямо политическо споразумение, колкото създаването на механизъм, чрез който Вашингтон и Пекин да могат бързо да обменят информация, ако AI система предизвика трансгранична криза.

Има обаче важно уточнение.

След информацията на Reuters представител на Белия дом заяви, че към момента няма официално планирана среща за AI в средата на септември. Това означава, че разговорите са в процес на подготовка, но датата и окончателният формат все още не са потвърдени.

Темата може да придобие още по-голямо значение в края на месеца. Доналд Тръмп и китайският президент Си Дзинпин се очаква да се срещнат във Вашингтон на 24 септември.

В момент, когато САЩ и Китай водят ожесточена битка кой ще доминира следващото поколение технологии, парадоксът е очевиден – двете държави може да се окажат принудени да си сътрудничат именно заради технологията, за чието лидерство се състезават.