Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Но вернемся к Марвину Минскому. В книге «Общество разума» он описал процесс сборки искусственного интеллекта из простых частей, которые он назвал агентами, которые сами по себе разума не имеют. Разум, по Минскому — это даже не получившаяся структура, а само взаимодействие между собой этих агентов. Будучи атеистом, он ничего не говорил о душе, а человеческий разум считал таким же агентом, как и остальные возникшие за сотни миллионов лет эволюции когнитивные системы. Разум — это не какая-то целостная единица или следствие базового принципа, считал Минский, разум —это общество агентов, когнитивных процессов, которые на выходе производят способности, которые, как мы считаем, делают нас разумными.
Разные агенты могут строиться на основе разных процессов с разными целями, разными путями представления знаний и разными методами получения результата.
Идея лучше всего описывается следующей цитатой из «Общества разума»: «Какой волшебный фокус делает нас разумными? Фокус в том, что нет никакого фокуса. Сила интеллекта проистекает из нашего разнообразия, а не из одного идеального принципа».
Мозг, считал Минский, можно сравнить не с одним компьютером, а с четырьмя сотнями —и каждый из них работает по-разному. Принципы работы каждой из колонок новой коры одни и те же, но каждая из колонок эволюционно строилась по-своему, поэтому обрабатывают информацию и выдают результат они тоже по-разному. Минский восхищался свойством человеческого мозга не сдаваться, если задача не решается привычным способом, а получив сообщение об ошибке или о невыполнении задачи в срок, перебрасывать работу на другой участок коры, на другую колонку. Он сравнивал этот процесс с высокоэффективным управлением гигантской корпорацией.
Минский писал, что мы подошли к той точке, когда существует много самых разных способов решать задачи, и машина должна использовать наиболее подходящий — а не только, скажем, нейросети. И мы, люди, имеем весьма слабое представление о том, как решать задачи, а вот машины смогут разобраться в этом и применить правильный метод.
Люди — это те же машины, в которых разум возникает из взаимодействия множества неразумных или частично разумных агентов, из которых состоит мозг. Поэтому когда-нибудь в будущем компьютеры станут разумнее людей. Минский предупреждал, что может возникнуть ситуация, когда искусственный интеллект, которому будет поручено решать какую-нибудь невинную математическую проблему, может прийти к выводу, что для выполнения задачи ему нужно будет построить суперкомпьютер, а для этого, в свою очередь, понадобятся ресурсы всей планеты.
Впрочем, ученый был оптимистом и считал, что перед тем, как запускать такой ИИ в работу, люди тщательно его проконтролируют. Такая точка зрения наверняка казалась наивной и 50 лет назад, ведь Халу из «Космической одиссеи» удалось усыпить бдительность своих «проверяющих».
В одном из телеинтервью Минского спросили, как он относится к идее внедрения в человеческий мозг трансплантов и за счет этого усиления его мощности и возможностей. «Я бы предпочел не вставлять чипы в мозг, — ответил ученый, —а наоборот, транспортировать сам мозг на другой носитель, туда, где меньше багов, и где легко в случае чего можно будет заменить материнскую плату».
Ученый вряд ли шутил, когда сравнил человеческое тело с изношенной материнской платой. Сам он, во всяком случае, стал членом Научного совета общества «Алькор», о котором пойдет речь в другой главе этой книги. Оно занимается глубоким замораживанием мозгов и, за дополнительную плату, целиком «материнских плат» своих членов. Сообщалось о том, что мозг Минского заморозили 27 января 2016 года. На контейнере, содержащем его разум, написано: «Пациент 144».
ТЕХНОСАМУРАИ АТАКУЮТ
ВЕЛИКАЯ ЯПОНСКАЯ МЕЧТА
В начале августа 1982 года самые многообещающие молодые компьютерщики Японии собрались на совещание. Оно происходило на двадцать первом этаже типового небоскреба в центре Токио, за типовой дверью с толстым окошком, напоминающим кусок льда, на которой висела типовая табличка со скромной надписью по-японски и по-английски: «Институт компьютерной технологии нового поколения» (Institute for New Generation Computer Technology (ICOT)).
Правда, из типового офиса, находившегося за типовой дверью, открывался потрясающий вид на Токио: блестел на солнышке залив, в промежутках между домами розовели и зеленели сады, а вдали синела в легкой дымке знаменитая гора Фудзи.