Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Бюджетные деньги в США стали вкладываться в конкурирующий подход, опирающийся на символьное представление логических задач и экспертные системы. В рамках этой парадигмы программисты разрабатывали некие правила работы высокоуровневых систем представления данных. Считалось, что, пользуясь формальной логикой, можно создать синтаксис машинного языка, который позволит искусственному интеллекту решать задачи, сравнимые с теми, что решает человек. Однако на практике системы, основанные на этом принципе, плохо справлялись со сложными адаптивными задачами. Как бы то ни было, вплоть до конца 1980-х этот подход к созданию искусственного интеллекта стал господствующим не только в США, но и в СССР. Так решили администраторы, которые не допускали самодеятельности: ведь наука в ведущих странах мира стала централизованным объектом управления. На разработку экспертных систем направлялись все ресурсы, а оппоненты подхода считались чудаками и маргиналами.
Впрочем, сам Минский в своей Лаборатории искусственного интеллекта Массачусетского технологического университета продолжал упорную работу, с его мнением администраторы науки считались. Разработанная им в 1962 году версия универсальной машины Тьюринга оставалась непревзойденной в течение 40 лет. В начале 70-х годов Минский и Пейперт занимались созданием машины, которая бы могла играть в кубики с помощью робота-руки, видеокамеры и компьютера.
В ходе процесса они придумали теорию «Общества Разума». Она основывалась на точке зрения, что для создания искусственного интеллекта вовсе не обязательно имитировать процессы в человеческом мозгу и, скажем, создавать для этого нейросети. Минский считал, что можно идти по пути создания генетических алгоритмов или применения статистических методов. То, что мы называем интеллектом, может быть продуктом взаимодействия не обладающих интеллектом составляющих, считал Минский. Примерно такой ИИ — Хал 9000 — появляется в фильме Стенли Кубрика по роману Артура Кларка «Космическая одиссея 2001 года». Минский был научным консультантом этой ленты и даже чуть не погиб на съемках. Одного из героев фильма зовут Виктор Каминский, в нем, безусловно, угадывается Марвин Минский, а в романе Кларка, по которому снят фильм, Минский упоминается напрямую.
Об этом ученом рассказывают следующую реальную историю, похожую на дзенский коан.
Однажды он зашел в лабораторию и застал ученика в момент отладки программы.
— Что ты делаешь? — спросил Минский.
— Обучаю случайно связанную нейросеть играть в крестики-нолики, — ответил ученик.
— А почему случайно связанную? — спросил Минский.
— Не хочу, чтобы у неё было заложенное заранее мнение о том, как играть, — сказал ученик.
Минский закрыл глаза.
— Зачем ты закрыл глаза? — спросил ученик учителя.
— Чтобы комната стала пустой, — ответил Минский.
«На самом деле, — писал потом Минский, — я имел в виду следующее: если нейросеть случайно связана, это не избавляет ее от заранее составленного мнения о том, как играть, просто вам оно будет неизвестно».
Именно так ведет себя бортовой компьютер звездного корабля из «Космической одиссеи»: до поры до времени он выполняет приказы людей, утаивая свои намерения. Однако, когда это становится ему необходимо, то перестает скрывать, что действует по собственной логике.
Кларк, написавший роман в 1960-е, попытался показать, каким образом в начале 2000-х может появится искусственный разум, подобный Халу. Вот это место в книге:
«В 80-е годы Минский и Гуд показали, как искусственные нейронные сети могут быть сгенерированы автоматически и могут самовоспроизводиться в соответствии с любой программой обучения. Искусственные мозги можно вырастить в ходе процесса, сильно напоминающего развитие человеческого мозга. В любом случае точные детали этого процесса никогда не будут известны, а если и будут, то они будут в миллионы раз превосходить возможности человека их понять».
Описывая ИИ, невозможно избежать рассуждений о таких понятиях, как язык и память, обучение и сознание, восприятие собственного «я» и свободная воля. Это делает и Минский, поэтому в дополнение к прочим титулам его называют еще и философом. При этом Минский старался разложить все эти понятия по полочкам —например, разбирая, что такое сознание, он описал более тридцати задач, которые оно решает.
Вроде бы предсказания «Одиссеи 2001 года» не сбылись. Не было ни в 2001-м, ни в 2010-м, не будет и в 2020-м никакой пилотируемой экспедиции к Юпитеру, как нет и лунной базы, даже скорее города с множеством обитателей. Страны мира все более походят на первобытные племена, развитие явно пошло по другому и не самому радостному пути. Сначала правительства превратили космос в арену для демонстрации тщеславия и гордыни, а затем начали мериться своими дубинками и населять окрестности Земли оружием, чтобы решать внутренние земные разборки. Так что фильм в части предсказаний космического будущего человечества провалился, но он оказался пророческим в другом, может быть, более тонком смысле.