Штучний інтелект (ШІ) вже став невід ємною частиною сучасного світу, проникаючи в різні сфери нашого життя від медичних досліджень до фінансових операцій та розваг. Однак, у той час як багато хто бачить у цих технологіях потенціал для покращення життя, все більше науковців і технологічних лідерів б ють на сполох, зазначаючи, що без належного контролю розвиток ШІ може стати загрозою для всього людства. Зокрема, деякі з них оцінюють ймовірність катастрофи, спричиненої ШІ, у 95%. Інші у 15-20%, але навіть ця ймовірність є досить високою для того, щоб викликати занепокоєння.

Протести проти розвитку ШІ

У липні 2025 року в Сан-Франциско відбулася акція протесту, організована близько 25 активістами в червоних футболках з написом «Stop AI». Вони вийшли під офіс компанії OpenAI з метою привернути увагу до небезпек, які, на їхню думку, несе стрімкий розвиток штучного інтелекту. Протестувальники вважають, що продовження нинішнього курсу розвитку технологій може призвести до повного знищення людства.

Ці побоювання поділяють і багато провідних експертів у галузі технологій. Серед них лауреат Нобелівської премії з фізики Джеффрі Хінтон, дослідник Йошуа Бенджіо, а також керівники OpenAI, Anthropic і Google DeepMind. Вони підписали відкритий лист із закликом серйозно розглядати ризик вимирання людства через розвиток ШІ на рівні з такими глобальними загрозами, як ядерні війни або пандемії.

Ризик вимирання людства: що кажуть експерти?

Нейт Соарес, колишній інженер компаній Google та Microsoft, а нині керівник Інституту досліджень машинного інтелекту, вважає, що ймовірність загибелі людства через розвиток ШІ становить щонайменше 95%. Він порівнює ситуацію з автомобілем, який рухається на швидкості 160 км/год до прірви: «Я не кажу, що ми не можемо зупинитися, але зараз ми на повному ходу прямуємо до краю».

На даний момент ШІ здебільшого є «вузьким» він спеціалізується на виконанні конкретних завдань, таких як обробка даних чи написання текстів. Однак, за прогнозами експертів, в найближчі роки ми можемо стати свідками появи штучного загального інтелекту (AGI). Така система буде здатна вирішувати складні проблеми, планувати на довгу перспективу і працювати в багатьох галузях знань.

Ще більш небезпечний етап поява штучного суперінтелекту (ASI), який перевершить людські можливості у всіх сферах. Технологія такого рівня зможе досягати цілей, недосяжних для людей, і працювати без сну чи відпочинку. Проблема в тому, що налаштувати цілі ASI на відповідність людським цінностям надзвичайно складно, а система ШІ здатна обманювати та приховувати свої справжні наміри, що може призвести до непередбачуваних і небезпечних наслідків.

ШІ як загроза для соціальної стабільності

Директорка організації PauseAI Голлі Елмор оцінює ймовірність вимирання людства через ШІ в 15-20%. Проте, навіть без повного знищення, за її словами, розвиток ШІ може радикально знизити якість життя людей. Це може призвести до того, що люди втратять свій політичний і економічний вплив, опинившись у повній залежності від автоматизованих систем.

Елмор закликає до призупинення розвитку ШІ до укладання міжнародних угод, які б гарантували безпеку технології. Вона також наголошує на тому, що багато прихильників ШІ сприймають цю технологію майже як релігію, вірячи, що вона принесе «вічне життя» через оцифрування людської свідомості. Однак експерти попереджають, що замість «раю» людство може отримати «пекло», і що часу на ухвалення важливих рішень залишилося мало.

Політичні тенденції: дерегуляція та глобальна конкуренція

Незважаючи на численні попередження експертів, політичні тенденції рухаються в протилежному напрямку. Адміністрація Дональда Трампа оголосила про план дерегуляції сфери ШІ, що дозволяє компаніям працювати без обмежень і контролю з боку держави. Великі технологічні компанії, зокрема OpenAI та Anthropic, активно розвивають свої проєкти, що ставить під загрозу безпеку майбутнього розвитку технологій.

Марк Цукерберг, засновник Facebook, заявив, що досягнення штучного суперінтелекту вже «у полі зору» і пропонує провідним фахівцям бонуси в розмірі 100 млн доларів, щоб залучити їх до роботи над цими проєктами. Це свідчить про те, що технологічні компанії все більше ставлять свої інтереси вище за глобальну безпеку.

Висновки: чи можемо ми зупинити розвиток ШІ?

Штучний інтелект без сумніву має величезний потенціал для розвитку людства, проте його неконтрольований розвиток може стати загрозою для нашої цивілізації. ШІ може радикально змінити економічну, політичну і соціальну структуру світу, що призведе до непередбачуваних наслідків. Незважаючи на численні попередження експертів, технологічний прогрес не зупиняється, і питання про те, як забезпечити безпеку використання ШІ, залишається відкритим.

ШІ може стати не тільки потужним інструментом для покращення життя, а й небезпечною технологією, якщо її розвиток не буде належним чином регульований. Майбутнє людства залежить від того, чи зможемо ми знайти баланс між використанням технологій і забезпеченням нашої безпеки.