Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Провал произошел несмотря на всю пропагандистскую накачку проекта, который на какое-то время стал практически японской национальной идеей, показателем престижа страны, свидетельством ее гордости и надеждой на мировое лидерство.
Проект провалился по всем параметрам. Во-первых, не удалось с ходу создать искусственный интеллект в понимании системы, которая сама будет менять свои внутренние правила и параметры.
Переходя через определенную точку, система не умнела, а тупела. Она резко теряла надежность, распадалась на составные части, которые действовали сами по себе, как если бы у робота взбунтовались конечности, так что в итоге он не может ступить и шагу. Система становилась опасной и неадекватной, как рехнувшийся монстр из антиутопий.
Я уже упоминал о парадоксе Моравека, который гласит, что довольно легко научить компьютер играть в шашки и пройти тест на интеллект взрослого человека, и гораздо труднее научить его выполнять задачи, которые не задумываясь решает годовалый младенец: например, он без труда распознает маму и других людей или самостоятельно учится ходить.
В проекте ICOT систему строили в расчете на решение «взрослых» задач, основанных на вычислениях суперкомпьютера, а потом предполагалось, что суперкомпьютер сам начнет писать алгоритмы, считавшиеся «простыми». То есть сначала ребенка учили решать дифференциальные уравнения, а потом, вдоволь их нарешавшись, он должен был учиться ходить и говорить «ма-ма».
Биологические системы, о которых тогда знали гораздо меньше, чем сейчас, развиваются совершенно иначе. Если бы это знали тогда, возможно, последовательность действий по развитию «бэби-ИИ» была бы совсем иной. Но тогда, скорее всего, система столкнулась бы с другими проблемами, о которых мы только сейчас начинаем догадываться.
Главная из них — возможно, вообще принципиально не решаемая ни в тогдашней японской парадигме «развивающегося суперкомпьютера», ни в теперешней парадигме глубокого машинного обучения, — прямо вытекает из теорем неполноты Гёделя, и мы поговорим о ней в следующих главах. А пока вернемся к неудачному проекту ICOT, провал которого может нас многому научить.
Идея замена алгоритмов «железом», то есть программных средств аппаратными, тоже не выдержала проверки. Вера в «железо» была характерна для 1960-70-х годов, но уже с начала 1990-х этот подход стал казаться устарелым. В дальнейшем развитие вычислительных машин пошло по противоположному пути: стали совершенствовать программные средства при более простых, но стандартных аппаратных.
Не оправдалась и наивная вера в то, что интеллект системы зависит от добавления новых процессоров. Чисто вычислительная производительность, достигнув некоего предела, практически прекращала расти даже после добавления новых параллельных процессоров, не говоря уже о моменте, упомянутом выше: что система вовсе не умнела, а, скорей, глупела с ростом вычислительных мощностей.
Но самое главное, техношовинисты, вставшие у руля проекта, сильно переоценили тогдашнее состояние разработок искусственного интеллекта — ведь многие из задач, которые ставились тогда, не решены и сегодня, почти тридцать лет спустя, при том что возможности вычислительной техники и алгоритмизации процессов несоизмеримо выросли.
Понятно, что свою роль сыграл и волюнтаризм руководства, назначенного правительством, и то, что решения по проекту принимались высшими должностными лицами страны и топ-менеджерами крупных корпораций, которые были традиционно некомпетентны в науке и философии. А именно от них зависело последнее слово по ключевым вопросам, и они, как могли, играли свои роли, имитируя, что разбираются в процессах, которыми управляли.
Японская корпоративная и бюрократическая культура отнюдь не способствовала учету дельных возражений — то есть в проекте не хватало той самой «обратной связи», которая делает систему по-настоящему хорошо управляемой. Свою роль в фиаско ICOT сыграло и убеждение в том, что чем выше пост человека, тем он больше понимает практически во всем.
А ведь именно принцип обратной связи лежит в основе искусственного, да и естественного интеллекта, без этого происходит застой и распад научных школ и сообществ, того самого «коллективного разума», о котором я писал.
Если вы пытаетесь создать искусственный интеллект или ту самую «экономику знаний», базируясь на принципах древнеримской книги «Как управлять рабами», будьте готовы к сюрпризам.
Проблема заключалась в той самой централизации, которую так воспевали былинники постиндустриального общества типа Дэниэла Белла. Возможно, в этом заключалось главное противоречие: децентрализованную самообучающуюся и самосовершенствующуюся систему пытались построить централизованными, почти диктаторскими методами, до сих пор привычными, впрочем, для современных корпораций, как частных, так и государственных.