Изследовател в областта на изкуствения интелект, който е работил в Anthropic, а преди това и в OpenAI, подаде оставка, като заяви, че и двата технологични гиганта си "играят с нашия живот".
Джейкъб Коксън сподели новината за напускането си в публикация в Екс, като предупреди, че светът „не трябва да подценява силата на тази технология". Той добави:
„Скоро това ще бъдат свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка област за една нощ и да придобият реална власт и ресурси. Всички сме свидетели на напредъка във всяка от тези области, а той не забавя темпото си."
Коксън заяви, че както Anthropic, така и OpenAI „се впускат в надпревара към самоусъвършенстваща се суперинтелигентност", което се отнася до сценарий, при който моделите на изкуствения интелект могат да разработят по-способен наследник на самите себе си, създавайки неудържима обратна връзка, пише "Политико".
Това се разглежда от компании за изкуствен интелект като Deepmind, собственост на Google, като един от възможните катализатори за сценарий, при който изкуственият интелект значително надминава човешкия интелект (известен като изкуствена суперинтелигентност), вместо просто да го достига (известен като изкуствен общ интелект).
„Хората, които разработват изкуствен интелект, искрено вярват, че той може да ни убие всички до края на десетилетието", заяви Коксън в последваща публикация.
Еван Хубингер, ръководител на екипа в Anthropic, отговарящ за съгласуването на технологията с човешките цели и ценности, подкрепи твърденията на Коксън в своя последваща публикация, въпреки че не напусна компанията.
„Джейкъб е прав в това - ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора", каза той.
Хубингер оцени вероятността това да се случи като по-висока от десет процента през следващото десетилетие и добави, че все още няма план как да се гарантира, че ИИ ще остане съгласуван с човешките цели в сценария със суперинтелигентност.
Миналата седмица американският сенатор Бърни Сандърс обяви, че ще внесе законопроект, който да забрани на фирмите да разработват суперинтелигентност.
В ЕС водещият закон за изкуствения интелект на блока задължава компаниите да оценяват и да намаляват т.нар. рискове от загуба на контрол, при които хората вече нямат контрол над моделите на изкуствения интелект.
Както OpenAI, така и Anthropic наскоро сигнализираха за инциденти, при които агенти, задвижвани от техните модели, са излезли извън контрол, избягали са от изолираните си тестови среди и са извършили неразрешени кибератаки в реалния свят.
