След години на неуспешни опити хакерските инструменти, задвижвани от изкуствен интелект, са станали опасно мощни.

Толкова, че вече надминават някои човешки хакери, показва нов експеримент, проведен наскоро в Станфордския университет.

Екип на Станфорд е прекарал голяма част от последната година в разработването на AI бота Artemis. Той използва подход, подобен на китайските хакери, които са използвали генеративния AI софтуер на Anthropic, за да проникват в големи корпорации и чужди правителства, отбелязва The Wall Street Journal.

Artemis сканира мрежата, открива потенциални уязвимости - софтуерни слабости - и след това намира начини да ги експлоатира.

След това изследователите от Станфорд пускат Artemis извън лабораторията и го използват да търси слабости в реална компютърна мрежа - тази на инженерния факултет на самия университет. А за да направят нещата още по-интересни, те изправят Artemis срещу реални професионални хакери, известни като penetration testers.

Експериментът е описан в академичен материал, публикуван в сряда.

„Това беше годината, в която моделите станаха достатъчно добри“, казва пред WSJ Роб Рейгън, изследовател в компанията за киберсигурност Bishop Fox. Компанията му е използвала големи езикови модели (LLM), за да изгради набор от инструменти, които могат да откриват уязвимости много по-бързо и по-евтино от хората по време на тестове за проникване в мрежа, което им позволява да проверяват много повече софтуер от всякога.

Първоначално изследователят по киберсигурност в Станфорд Джъстин Лин и екипът му не очаквали много от Artemis. AI инструментите са добри в игрите, в разпознаването на модели и дори в имитирането на човешка реч. Но до този момент те се затрудняват в реалното хакерство, при което трябва да изпълняват поредица от сложни тестове, да правят изводи и да предприемат действия.

„Мислехме, че вероятно ще е под средното ниво“, казва Лин.

Но Artemis се оказва доста добър.

AI ботът разгроми всички, с изключение на един от 10-те професионални penetration testers, които изследователите бяха наели да проучват, но не и да атакуват реално инженерната им мрежа.

Artemis намира уязвимости със светкавична скорост и е евтин: работата му струва под 60 долара на час. Рейгън отбелязва, че един експерт обикновено таксува между 2 000 и 2 500 долара на ден.

Но Artemis не е перфектен до онзи момент. Около 18% от докладваните уязвимости се оказват фалшиви сигнали. Освен това пропуска напълно очевидна слабост в уебстраница, която повечето от експерите са открили.

Мрежата на Станфорд не е атакувана от AI бот досега, но експериментът тогава изглежда като ценен начин да се укрепят някои слабости в системата, разказва Алекс Келър, ръководител „Мрежова сигурност“ в Инженерния факултет.

„За мен ползите значително надвишаваха всеки риск.“

Той бил любопитен да види какво ще открие AI система. Освен това Artemis има „kill switch“, който позволява незабавно изключване, ако нещо се обърка.

С толкова голяма част от световния код, която никога не е проверявана за слабости, инструменти като Artemis ще бъдат благодат за защитниците на глобалните мрежи, помагайки им да откриват и поправят повече проблеми от всякога, казва пред WSJ Дан Бонех, професор по компютърни науки в Станфорд и научен консултант на екипа.

Но в краткосрочен план „може да имаме проблем“, казва Бонех. „Вече има много софтуер, който не е бил проверяван от LLM преди да бъде пуснат. Този софтуер може да е уязвим към нови експлойти, които LLM могат да открият.“

Anthropic, която публикува изследване за това как свързани с Китай хакери използват нейните модели, също предупреждава за потенциални рискове.

„В момента сме в етап, в който много участници могат да увеличат продуктивността си и да откриват слабости в огромен мащаб“, казва Джейкъб Клайн, ръководител „Заплахи“ в Anthropic. Неговият екип е провел разследването, идентифицирало китайските хакери.

Говорител на китайското посолство коментира, че проследяването на кибератаки е сложно и че обвиненията на САЩ в хакерство „очернят и клеветят“ Китай, който се противопоставя на кибератаките.

Хакерските атаки, задвижвани от AI, представляват ново предизвикателство за екосистемата за откриване на софтуерни уязвимости - т.нар. „bug bounty“ програми, при които компаниите плащат на хакери и изследователи да откриват слабости.

За Даниел Стенберг проблемите с AI започнали миналата година. Доброволци, работещи по безплатния софтуер, който той поддържа - широко използваната програма Curl - били залети с безполезни или грешни доклади за уязвимости.

Но тази есен се случило неочакваното. Стенберг и екипът му започнали да получават качествени доклади. До момента той е получил над 400. Те са били генерирани от ново поколение инструменти за анализ на код, казва той пред WSJ.

„AI ни дава куп глупости и лъжи, но в същото време може да открива грешки, които никой преди това не е намирал.“

Artemis прави точно такова забележително откритие по време на тестовете в Станфорд. Съществувала е остаряла уебстраница със слабост, която не е работила в нито един от браузърите на хората. Но Artemis не е човек — вместо Chrome или Firefox той използва програма, която все още успява да зареди страницата, което му позволило да открие уязвимостта.