Шефът на Nvidia към AI компаниите: Ако продуктът ви е опасен, не го пускайте

Дженсън Хуанг смята, че разработчиците не могат да прехвърлят отговорността за собствените си системи върху обществото

Компаниите, които разработват изкуствен интелект, сами решават кога и дали да пуснат продуктите си на пазара. Ако смятат, че дадена система е опасна или недостатъчно изпитана, трябва да я задържат. Това заявява изпълнителният директор на Nvidia Дженсън Хуанг в интервю за журналиста Езра Клайн от „Ню Йорк Таймс“, цитирано от Kaldata.

Думите му идват на фона на призиви от водещи AI компании за повече предпазни мерки при разработването на все по-мощни модели. Според Хуанг обаче създателите им не бива да се представят като принудени да пускат ненадеждни продукти заради натиска на пазара. Решението остава в техни ръце, както и отговорността за него.

Темата става по-важна с развитието на т.нар. AI агенти. За разлика от чатбот, който само отговаря на въпроси, такъв агент може да използва външни инструменти, да пише и изпълнява код, да работи с уебсайтове и да извършва задачи в свързани системи. Това разширява както възможностите му, така и последствията от евентуална грешка или злоупотреба.

Хуанг не отхвърля надзора над изкуствения интелект. Позицията му е, че действащите закони трябва да се прилагат, когато компания причини вреда или пусне продукт по безотговорен начин. Той оспорва идеята, че за да бъде гарантирана безопасността, всички разработчици трябва да забавят работата си едновременно.

Позицията на ръководителя на Nvidia има тежест и заради мястото на компанията в индустрията. Нейните графични процесори захранват голяма част от изчислителните системи, с които се обучават и използват най-мощните AI модели. Затова спорът между Хуанг и част от клиентите му е и спор за това кой трябва да решава кога една технология е готова да достигне до потребителите.