Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Подобный подход характерен, к сожалению, и для России, и стоило бы разобрать провал нескольких крупнейших российских проектов по развитию высоких технологий, которые основывались примерно на тех же принципах, что и японский проект ICOT. Здесь нет места для подобного разбора, но я надеюсь, это станет предметом чьего-нибудь глубокого исследования.
Если бы Сверхразум запускал подобный проект, вряд ли он бы построил структуру принятия решений таким образом.
«ЭКОЛОГИЧЕСКИЙ НАЛОГ» АДОЛЬФА ГИТЛЕРА
Интересный пример несбывшихся надежд на технологический прорыв можно найти в нацистской Германии. Здесь, как и в случае с японским проектом, волюнтаризм и централизация привели к принятию неверных решений, и делу не помогли даже передовые разработки немецких ученых.
Как это ни парадоксально, речь идет о «зеленых технологиях». Гитлер считал, что нефть, которой Германии катастрофически не хватало, можно заменить синтетическим топливом. Топливо требовалось рейху для подготовки к мировой войне, а иностранной валюты на ее закупку было в обрез, поэтому вариантов действий было два. Первый: создать синтетическое топливо. Второй: силой захватить крупные месторождения, расположенные в других странах.
Сначала немцы попробовали пойти по первому пути. Гитлер даже ввел что-то наподобие «зеленого налога» на потребление бензина, а концерну IG Farben было поручено синтезировать топливо из угля. IG Farben с его 200 тысячами служащих и активами более чем на 1,6 миллиардов рейсхмарок являлся одной из крупнейших частных компаний не только Германии, но и всего мира.
Руководство концерна, получавшего огромные доходы в ходе второй промышленной революции, принадлежало к либеральному лагерю германских промышленников. Концерн тесно работал с ведущими учеными и с правительством, в создание новых технологий были вложены суммы, сопоставимые с инвестициями в люфтваффе. Об этом пишет автор авторитетнейшей книги о нацистской экономике «Цена разрушения» Адам Туз. Программа строительства установки по превращению угля в нефть следовала четкой научной логике и выполнялась неукоснительно. Но подход руководителей концерна и страны опирался на волюнтаристский тезис о том, что нефтяные скважины вот-вот опустеют и цены на топливо взлетят до небес. Вам это ничего не напоминает?
Руководство IG Farben игнорировало факты, не укладывающиеся в его концепции, выдающие желаемое за действительное. Перспектива нехватки нефти, запасы которой в 1920-е годы действительно кончались, привели к открытию новых месторождений — в Венесуэле, Калифорнии, Оклахоме и в Пермском нефтегазоносном бассейне. То есть «коллективный разум» нефтяников работал в противоположном направлении —но этот момент не учитывался.
«Обратная связь» в структуре принятия решений в самом концерне IG Farben также отсутствовала. Руководству концерна хотелось оправдать вложения в постройку завода по производству синтетического топлива, и путем сложной интриги им удалось убедить фюрера поддержать проект. После этого возражений со стороны чиновников уже быть не могло.
В итоге заводы были построены, концерн на этом заработал — но цены на нефть упали, и вложения себя не оправдали. Нефти рейху все равно не хватило, и Гитлер решил ее просто захватить военной силой, но это уже совершенно другая история.
НЕЙРОСЕТИ И РЫНОК ДУШ
КОШКА В МАТРИЦЕ
После того как Минский в 1969 году опубликовал доказательство ограниченности перцептрона, и выяснилось, что однослойные нейросети не способны решать задачи с «исключающим или», интерес к машинному обучению ослабел. Барьером для ученых явились также явно неадекватные для работы со сложными алгоритмами нейросетей вычислительные мощности.
Не сумев добиться от ученых внятного прогресса в решении задач распознавания образов или предсказания погоды, чиновники и администраторы крупных компаний прекратили финансирование подобных проектов. Попутно выяснилось, что мозг куда сложнее, чем о нем думали, и многих эта сложность ошеломила настолько, что задача создания машины, умом не уступающей человеку, стала казаться недостижимой в принципе.