Грешна информация, генерирана от изкуствен интелект, едва не довела до американска военна операция срещу китайски кораб и опасна ескалация между Вашингтон и Пекин. Инцидентът се разиграл през пролетта по време на войната с Иран, съобщава CNN, позовавайки се на четирима източници, запознати със случая.
В разузнавателен доклад се твърдяло, че китайският плавателен съд превозва компоненти за програма за ядрени оръжия. Информацията предизвикала незабавна реакция от американските военни, които започнали подготовка за прихващане на кораба.
Според двама от източниците въоръжени американски военнослужещи се готвели да се качат на борда, а военни самолети вече били изпратени във въздуха.
Операцията била спряна малко преди да започне, след като американски представители подложили доклада на по-задълбочена проверка. Тогава станало ясно, че той е изготвен от анализатор на американското Командване за специални операции с помощта на чатбот, който е идентифицирал неправилно товара.
Не е известно какво действително е превозвал китайският кораб. Един от запознатите със случая определя доклада като напълно неверен и предупреждава, че грешката почти е довела до война.
Анализаторът задал на чатбота въпрос, свързан с разузнавателна информация за товарния манифест на плавателния съд. Системата комбинирала публично достъпни сведения със секретни данни от радиоелектронното разузнаване, но стигнала до погрешен извод.
След това изкуственият интелект бил използван повторно, за да оформи резултатите като стандартен разузнавателен доклад. Документът бил разпространен по командната верига и достигнал до военните служители, отговорни за вземането на оперативни решения.
Не е ясно дали използваният чатбот е бил комерсиален продукт или специална система, разработена за американското правителство.
Въпреки рисковете САЩ ускоряват внедряването на изкуствен интелект в армията. Технологията се използва за обработване на големи масиви от разузнавателни данни, избор на цели, разполагане на военни ресурси и управление на логистиката.
През януари американският министър на отбраната Пийт Хегсет представи стратегия, която предвижда водещи модели на изкуствен интелект да станат достъпни за близо 3 млн. военни и цивилни служители.
Различните структури обаче работят с отделни системи, правила и стандарти за сигурност. Все още няма и единен механизъм за проверка на генерираната от изкуствен интелект информация.
Случаят с китайския кораб показва непосредствената опасност хората да вземат решения с потенциално фатални последици въз основа на машинно генерирани твърдения, които не са проверени достатъчно внимателно.
