Пришестя роботів: техніка і загроза майбутнього безробіття

Темний бік

Тимчасом як синґуляристи, зазвичай, демонструють безоглядно оптимістичне ставлення до перспектив майбутнього вибуху інтелекту, інші фахівці висловлюються значно обережніше. Для багатьох з тих експертів, які серйозно замислювалися над потенційними наслідками появи надпотужного штучного інтелекту, видається безнадійно наївним те припущення, що повністю чужорідний і надлюдський інтелект беззаперечно буде прагнути всю свою енергію спрямовувати на благо людства. Тривога з цього приводу серед членів наукової спільноти є настільки сильною, що вони утворили цілу низку невеликих організацій, що спеціально займаються аналізом небезпек, пов’язаних із надпотужним штучним інтелектом, або проводять дослідження щодо можливості вмонтувати «доброзичливість» у майбутні системи штучного інтелекту.

У своїй книзі за назвою Our Final Invention: Artificial Intelligence and the End of the Human Era («Наше завершальне відкриття: штучний інтелект і кінець людської ери»), опублікованій 2013 року, Джеймс Баррат змальовує те, що він називає «варіантом невгамовної дитини» [14]. В якомусь потаємному місці — можливо, в державній лабораторії, фірмі з Волл-стріт або великій корпорації зі сфери інформаційної технології — група учених-комп’ютерників споглядає, як новостворений машинний інтелект спочатку наближається до здібностей людського мозку, а потім перевершує їх. Ці вчені заздалегідь забезпечили це дитинча штучного інтелекту великими масивами інформації разом із усіма книжками, написаними за всю історію людства, та всією інформацією, що тільки можна було видобути з інтернету. Однак тоді, коли система вже наближається до рівня людського інтелекту, дослідники від’єднують швидко прогресувальний штучний інтелект від зовнішнього світу. Фактично, вони ізолюють його в коробці. І питання полягає в тому, чи зможе він звідти вибратися. Бо ж штучному інтелекту цілком природно може забажатися втекти зі своєї клітки й розширити свої обрії. Для цього він може скористатися своїми надпотужними здібностями, щоб обдурити науковців або ж щось обіцяти й чимось погрожувати як усій цій групі, так і її окремим представникам. Ця машина буде не лише кмітливішою за людей, вона матиме змогу з неймовірною швидкістю генерувати й осмислювати ідеї та варіанти. Це буде схоже на гру в шахи з Ґаррі Каспаровим, до якої, одначе, додасться тягар несправедливих правил: ви матимете всього лишень п’ятнадцять секунд на те, щоб зробити хід, а машина — аж цілу годину. На думку тих науковців, які непокояться таким варіантом розвитку подій, небезпека того, що штучному інтелекту якось вдасться втекти зі своєї коробки, а потім дістися до інтернету і, можливо, скопіювати всього себе або свою частину на інші комп’ютери, є надзвичайно і неприпустимо високою. Якщо штучний інтелект спроможеться вирватися на волю, то він — і це цілком очевидно — зможе поставити під загрозу скільки завгодно життєво важливих систем, зокрема й фінансову систему, військові мережі управління, електромережу та інші галузі енергетичної інфраструктури.