Anthropic спря множество профили заради съмнения, че са използвали моделите за изкуствен интелект на компанията за разработването на биологични оръжия, съобщи Би Би Си. 

В доклад, публикуван в четвъртък, компанията за изкуствен интелект, известна с модела си „Claude", заяви, че счита злоупотребата с биологични оръжия за един от „най-сериозните рискове" за моделите за изкуствен интелект.

Новият доклад очертава пет реални казуса, в които потребители „са заобикаляли контролните механизми", блокиращи достъпа на потребители от определени региони, и „са предприемали други действия, за да прикрият целта на своите изследвания, с цел да заобиколят нашите предпазни мерки". Примерите включват възможни изследвания за „увеличаване на функционалността" и засягат както инфекциозни заболявания, като птичи грип, така и нови отрови и токсини.

След като е проучила дейността в рамките на 30 дни, Anthropic заяви, че е идентифицирала около 35 „отделни изследователски усилия" с потенциално тревожна дейност. Въпреки това компанията призна, че не може да бъде сигурна дали участниците „са имали намерение да причинят вреда" или са провеждали изследвания за легитимни научни цели. Anthropic посочи, че лицата в конкретните случаи са „действащи учени", но не посочи изследователските институции или държавите, в които са се състояли дейностите.

„Сложните атаки вече не изискват сложни нападатели", се казва в новия доклад. „Уменията в областта на киберсигурността на моделите за изкуствен интелект означават, че изкуственият интелект е премахнал разликата в работната ръка и инструментариума, която преди отделяше добре финансираните, спонсорирани от държавата операции от индивидуалните оператори". 

Един от конкретните примери, описани в доклада, се отнася до молба за съдействие при изготвянето на заявление за финансиране на изследвания за „увеличаване на функционалността" относно предаването и избягването на имунната система от вируса на чикунгуня.

В друг случай изследовател извън САЩ е използвал Claude за работа по птичия грип, фокусирана върху адаптацията на вирусите към бозайници и начина, по който това води до тежки заболявания.

Докладът подробно описва и случаи, свързани с изследвания върху ортопоксвирусите - група, която включва вариола, причиняваща едра шарка, и мпокс - както и върху отровни токсини.

Разработването на лекарства се счита за едно от най-обещаващите и даващи повод за оптимизъм приложения на изкуствения интелект; лидерите в бранша често посочват потенциала му за лечение на рак и други заболявания. Но същите характеристики, които правят ИИ мощно средство за откриване на нови материали и лекарства в полза на хората, биха могли да го направят полезен и за разработване на биологични оръжия в ръцете на злонамерени лица.

Anthropic заяви, че иска моделите ѝ да бъдат полезни за научни изследвания, но най-новите модели вече са способни на много по-сложна работа в сравнение с по-ранните версии - и потенциалът за злоупотреба нараства успоредно с потенциалните ползи. Компанията добави, че злонамерени лица биха могли да се опитат да използват полезните биологични приложения на изкуствения интелект, за да „поддържат нещо като „правдоподобно отричане" относно потенциално вредни изследвания.

„Тъй като нашите модели стават все по-способни, достигайки или надминавайки експертните резултати при сложни научни задачи, очакваме тяхното въздействие да се засилва, както в благоприятни, така и в потенциално вредни контексти", се посочва в доклада на Anthropic.

„С разширяването на приложението на моделите за изкуствен интелект доставчиците ще продължат да придобиват информация, свързана с потенциални заплахи, относно реалното им използване - информация, която дори правителствата и междуправителствените организации не разполагат."

Компанията заяви, че най-новите модели, включително Claude Fable 5, разполагат с „по-силни предпазни мерки, които ограничават достъпа до широк спектър от запитвания за биологични изследвания с двойно предназначение".

Anthropic посочи, че има доказателства, че въведените от нея предпазни мерки функционират, но че ще бъдат необходими още по-надеждни системи за безопасност, тъй като моделите за изкуствен интелект и възможните заплахи стават все по-сложни. Компанията отбеляза също така в доклада, че е предотвратила опити за използване на моделите ѝ за операции по наблюдение, измами и разработване на конвенционални оръжия като дронове и ракети.

Това разкритие следва нарастващия хор от предупреждения от служители в сектора на изкуствения интелект, които наскоро са напуснали компаниите си поради опасения за безопасността. Някои изразиха опасения, че технологията се развива прекалено бързо и един ден ще надмине способността на хората да я контролират - и призоваха правителствата да обмислят как да забавят развитието, ако нещата излязат извън контрол.

„Ако екстраполираме в бъдещето нивото на възможностите на тези ИИ... те биха могли да причинят изключително опустошение", заяви в сряда Джейкъб Коксън, бивш служител на Anthropic, пред Андерсън Купър от CNN.

В поредица от публикации в X тази седмица, посветени на оставката му, 27-годишният изследовател в областта на ИИ заяви, че „хората, които разработват ИИ, искрено вярват, че той би могъл да ни убие всички до края на десетилетието".

В изявление в сряда Коксън каза, че изкуственият интелект би могъл да хакне критична инфраструктура - или да създаде „биологични оръжия, способни да доведат до изчезване на човечеството".

„Има много начини, по които изкуственият интелект би могъл да се активира в света", каза той.

През юли близо 1 400 служители на компании за изкуствен интелект подписаха отворено писмо, в което призоваха правителството на САЩ да регулира технологията, за да ограничи големите технологични компании и да забави темпото на развитие на изкуствения интелект, с цел да се гарантира неговата безопасност. А тази седмица главният учен на OpenAI Якуб Пачоцки предупреди, че възможностите на изкуствения интелект напредват по-бързо от способността на изследователите да ги наблюдават и контролират надеждно.

Засега компаниите за изкуствен интелект до голяма степен се саморегулират. Администрацията на Тръмп работи за подкопаване на държавните регулации в областта на изкуствения интелект, а Конгресът досега не проявява желание да ограничи технологията.

„Вярваме, че светът ще спечели, ако индустрията възприеме законен и проверим начин за съвместна работа, за да регулира темпото, с което пускаме на пазара мощни модели", заяви Anthropic в изявление в сряда.