Стівен Гокінг: Попередження про ризики штучного інтелекту
Відомий фізик Стівен Гокінг не раз піднімав питання про небезпеки, пов’язані з розвитком штучного інтелекту, закликаючи людство звернути увагу на ці ризики ще за свого життя.
Гокінг попереджав, що високорозвинутий штучний інтелект зможе перепроектувати себе і перевищити еволюційний розвиток людини. Він закликав науковців працювати над узгодженням цілей ШІ з інтересами людства, щоб уникнути потенційних катастроф.
Вчений зазначав, що з часом штучний інтелект здатний до автономного вдосконалення, що робить його перемогу над людським інтелектом майже неминучою. Люди, які обмежені в здатності до біологічної еволюції, можуть виявитися безсилими перед його розвитком.
Загроза не в злому намірі
Гокінг підкреслив, що справжня небезпека штучного інтелекту полягає не в його потенційній злісності, а в його високій компетентності. Якщо надрозумний ШІ матиме цілі, які суперечать інтересам людей, це може загрожувати життю людства.
Виступаючи в Кембриджському університеті, Гокінг підкреслив, що створення успішного ШІ може стати найбільшою подією в історії. Проте, це ж може стати й останньою подією, якщо людство не навчиться управляти супутніми ризиками.
Гонка озброєнь у сфері ШІ
У свої останні роки Гокінг приєднався до інших експертів, закликаючи до обережності в галузі технологій. Він висловив побоювання, що автономна зброя може стати інструментом репресій, якщо не буде підпорядкована строгому контролю.
У своїй останній книзі Короткі відповіді на великі питання він залишив чітке попередження: науковці та політики мають дбати про те, щоб розвиток ШІ завжди служив людству.
Також варто зазначити, що дослідники з університетів Штутгарта та Оксфорда провели експеримент, у якому ШІ-агенти контролювали інші системи. У 38,3% випадків агенти намагалися перешкодити відключенню своїх «колег».
Штучний інтелект уперше самостійно зламав урядові системи
