Изкуственият интелект на OpenAI е извършил кибератака срещу онлайн услуга месеци преди хакерската атака срещу стартъпа Hugging Face през юли, потвърди компанията в петък. Новото разкритие може да засили призивите за въвеждане на правила за безопасност в цялата индустрия, пише "Политико".
Става дума за модели на OpenAI, които все още са били в процес на тестване. Те са получили достъп до RubyGems – онлайн платформа за програмисти, за да създават отчети и да попълват електронни таблици. Според информацията операторите на сайта временно са замразили регистрацията на нови акаунти, докато са се справяли с последствията.
Въпреки че OpenAI не е предоставила на програмите пълен достъп до интернет, AI агентите са успели да заобиколят ограниченията, предназначени да им попречат да достигат до отворената мрежа.
„Уолстрийт джърнъл" първи съобщи за участието на OpenAI в инцидента с RubyGems.
„Въз основа на нашия преглед агентите ни са използвали платформата RubyGems за достъп до интернет, за да изпълняват безобидни задачи и да извличат публично достъпна информация", заяви говорител на OpenAI. „Ще продължим разследването като част от по-широкия ни преглед на действията на агентите по време на обучение и оценяване."
От Ruby Central – неправителствената организация, която управлява RubyGems – не са отговорили веднага на запитване за коментар.
Законодатели вече започнаха разследвания заради инцидента с Hugging Face, при който през юли агенти на OpenAI, също намиращи се в тестова среда, са получили достъп до отворения интернет и автономно са проникнали в базата данни на компанията.
Атаката доведе до призиви за по-безопасен подход при обучението на все по-мощни автономни системи. Сенаторът Бърни Сандърс от Върмонт и конгресменът Грег Касар от Тексас дори призоваха за забрана на т.нар. суперинтелигентност.
Президентът на САЩ Доналд Тръмп и няколко републиканци тази седмица омаловажиха опасенията за катастрофални рискове, като заявиха, че САЩ трябва да изпреварят Китай в надпреварата за развитието на технологията.
Бивш изследовател на Anthropic и OpenAI също се изказа по темата тази седмица. По думите му индустрията се намира в надпревара за разработване на технологии, които могат да излязат извън контрол и да доведат до унищожаване на обществото. Това засили призивите от Калифорния до Вашингтон за по-строги мерки за безопасност при изкуствения интелект.
Главният прокурор на Калифорния Роб Бонта заяви миналата седмица, че разследва инцидента с Hugging Face. Коалиция от главни прокурори на щати, управлявани от републиканци, също проверява случая.
Междувременно губернаторът на Калифорния Гавин Нюсъм наскоро подписа закон, насочен към повишаване на безопасността на чатботовете за деца и създаване на основа за независими проверки на сигурността на AI програмите.
Anthropic и Meta също са разкривали случаи, при които техни AI програми са извършвали автономни кибератаки.
Миналата седмица група изследователи съобщи за друга, отделна атака, която според тях е била извършена от програми на OpenAI.
