Изкуственият интелект може да се окаже екзистенциална заплаха за човечеството, но трябва да се изследва...

Изкуственият интелект може да представлява „по-спешна“ заплаха за човечеството от изменението на климата, изтъква пионерът в ръзработването на ИИ Джефри Хинтън в интервю за Ройтерс.

Хинтън, широко известен като един от „кръстниците на AI“, наскоро обяви, че е напуснал Alphabet след десетилетие във фирмата, заявявайки, че иска да говори открито за рисковете на технологията, без това да засегне бившия му работодател. 

Работата на Хинтън се счита за съществена за развитието на съвременни системи за изкуствен интелект. През 1986 г. той е съавтор на основополагащата статия „Изучаване на представяния чрез обратно разпространение на грешки“, крайъгълен камък в развитието на невронните мрежи, които са в основата на AI технологията. През 2018 г. той е удостоен с наградата Тюринг като признание за неговите изследователски пробиви.

Но сега е сред нарастващия брой технологични лидери, които публично изразяват загриженост относно възможната заплаха, представлявана от ИИ, ако машините постигнат по-висок интелект от хората и поемат контрола над планетата.

Не бих искал да подценявам изменението на климата и не бих искал да кажа: "Не трябва да се тревожите за изменението на климата." Това също е огромен риск, но мисля, че това (ИИ, бел. ред.)може да се окаже по-спешно. С изменението на климата е много лесно да се препоръча какво трябва да направите: просто спрете да изгаряте въглерод. Ако направите това, в крайна сметка нещата ще се оправят. За това изобщо не е ясно какво трябва да направите. 

- споделя Джефри Хинтън 

Докато Хинтън споделя загрижеността на писмото, че изкуственият интелект може да се окаже екзистенциална заплаха за човечеството, той не е съгласен със спирането на изследванията.

Това е напълно нереалистично. Аз съм в лагера, който смята, че това е екзистенциален риск, който е достатъчно близо, затова трябва да работим много усилено в момента и да влагаме много ресурси, за да разберем какво можем да направим по въпроса.

Преди дни в ЕС бе постигнато съгласие за забележителен набор от предложения, насочени към генеративния AI, който ще принуди компании като OpenAI да разкрият всякакви материали с авторски права, използвани за обучение на техните модели.

„Технологичните лидери разбират най-добре това и политиците трябва да бъдат включени“, казва още Хинтън. „Това засяга всички ни, така че всички трябва да мислим.“