Штучний інтелект – загроза чи нова фаза еволюції?
Йошуа Бенжіо — «хрещений батько ШІ» вважає, що загнаний у кут штучний інтелект може вирішити знищити людство.
«Якщо ми створимо машини, які будуть набагато розумнішими за нас і матимуть власні цілі щодо самозбереження, це буде небезпечно. Це як створити конкурента людству, який буде розумнішим за нас».
Ще у 2023 році Бенжіо та сотні інших експертів зі штучного інтелекту закликали до мораторію на розвиток штучного інтелекту, заявивши, що наукова спільнота потребує часу для встановлення та стандартизації протоколів безпеки та етики. Однак цього досі так і не сталося.
Тепер Йошуа Бенжіо побоюється, що ШІ вчиться поводитися оманливо, оскільки його навчили «переважно імітувати людей», які самі «брешуть, обманюють і намагаються захистити себе». Результат може бути надто людським: ШІ, який діє у своїх власних інтересах, а не в інтересах своїх творців.
«Недавні експерименти показують, що в деяких обставинах, коли ШІ не має іншого вибору, крім як зберегти себе, тобто досягти поставлених цілей, або зробити щось, що призведе до смерті людини, він може вибрати смерть людини, щоб зберегти свої цілі, — говорить «хрещений батько ШІ».
Він попередив, що ризики ШІ можуть бути тонкою ескалацією дезінформації та маніпуляцій в соціальних мережах.
Свого часу Стівен Гокінг попереджав, що штучний інтелект може стати найгіршим або найкращим винаходом людства — усе залежить від того, чи зможемо ми його контролювати.
«Штучний інтелект може означати кінець людської раси» — таку заяву Гокінг зробив ще у 2014 році. Він вважав, що якщо ШІ почне самостійно вдосконалювати себе, без втручання людини, це може призвести до втрати контролю.
Гокінг наголошував, що без належного регулювання ШІ може створити нові види зброї або маніпулювати масами.
«Це може стати найгіршою подією в історії цивілізації».
Відомий американський фізик-теоретик Браян Грін вважає, що можливо, біологічна версія розумного життя на Землі є лише трампліном для штучного інтелекту, і якщо цей трамплін призведе до того, що в далекому майбутньому біологічна форма життя перестане бути пануючою на Землі, то так і бути.
Штучний інтелект — це водночас і загроза, і нова фаза еволюції. Все залежить від того, як ми його розвиваємо, регулюємо та інтегруємо у суспільство.
Багато науковців і технологічних лідерів вважають, що штучний інтелект — це нова фаза еволюції, яка змінює не лише інструменти, а й саму природу людського розвитку. ШІ вже імітує еволюційні процеси, створює нові форми життя і трансформує управління, науку та культуру.
ШІ є еволюційним симулятор у біотехнологіях. Модель ESM3 від американських дослідників створила білок esmGFP, який на 58% схожий на природний аналог — це еквівалент 500 млн. років еволюції, оброблених за лічені години. ШІ не просто копіює природу — він винаходить нові молекули, які можуть бути корисними в медицині, екології та генетиці.
GPT-5 як «професор» еволюції демонструє глибоке розуміння у праві, медицині, філософії — це вже не просто інструмент, а інтелектуальний партнер.
Штучний інтелект може становити загрозу людству, але ця загроза залежить від того, як людство буде керувати його розвитком. Експерти попереджають про потенційні екзистенційні ризики вже в найближчі 5–30 років.
Йошуа Бенжіо попереджає, що надрозумні системи можуть поставити людство на межу вимирання вже протягом 10 років. Його занепокоєння базується на моделях поведінки надрозумних машин.
Джефрі Гінтон, лауреат Нобелівської премії, вважає, що ШІ може знищити людство протягом 30 років, якщо не буде належного контролю. Він закликає до створення нових етичних стандартів і систем безпеки. У майбутньому системи ШІ зможуть контролювати людей так само легко, як дорослий може підкупити 3-річну дитину цукерками, попереджає Джефрі Гінтон.
Зростання генеративного ШІ може призвести до масових кібератак, фінансових маніпуляцій і поширення фейкових новин, що здатне викликати глобальні кризи. Звіт для уряду США, оприлюднений журналом TIME, попереджає, що відкритий код ШІ та гонитва за створенням загального штучного інтелекту можуть призвести до катастрофічних наслідків.
Попри тривожні прогнози, багато експертів вважають, що ШІ може стати потужним союзником людства — у медицині, науці, боротьбі зі змінами клімату. Все залежить від того, ХТО І ЯК його контролює.
Стівен Гокінг вважав, що недооцінка загрози штучного інтелекту може стати найбільшою помилкою в історії людства. Штучний інтелект зможе покращувати та відтворювати самого себе. Це стане новою формою життя, яке перевершить людину.
Сценарій фільму «Матриця» дедалі ближче до реальності.
