Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Внутри системы аксиом, в которой выпускник Оксбриджа говорит только правду, а Сталин лично убил 30 миллионов человек, любые споры бесполезны. Как можно отрицать «факт», о котором писала вся желтая пресса, только на том основании, что об этом писала желтая пресса? Во-первых, сегодня трудно провести границу между прессой желтой и прессой других цветов. И если «Нью-Йорк Таймс» не пишет ничего на тему «Гитлер в Аргентине», это ни о чем не говорит. Изнутри конспирологической системы ни доказать, ни опровергнуть ее «факты» невозможно.
Точно так же любой истинный факт можно объявить конспирологией — и сделать это без каких-либо доказательств. На этом приеме часто строится манипуляция массовым сознанием. Можно сказать, что Джулиан Ассанж — агент ФСБ, и этот факт будет невозможно до конца ни доказать, ни опровергнуть. Ведь Ассанжа обвиняли в сексуальных домогательствах — почему бы ему не быть агентом? А еще он знаком с Исраэлем Шамиром, что точно выдает в нем агента российских, а может быть, кубинских или северокорейских спецслужб. Таким образом на Ассанджа брошена тень или хотя бы полутень, что, собственно, и нужно манипуляторам: теперь вы будете ставить под сомнения правдивость самых твердокаменных и документально подтвержденных расследований «Викиликс».
Итак, мы видим, как теоремы неполноты Гёделя активно используются, пусть и бессознательно, в конспирологии, пропаганде и манипуляции массовым сознанием. О важных выводах применительно к машинному обучению мы поговорим в соответствующей главе, но и в 1930-е годы, когда еще никакого машинного обучения не было, идеи Гёделя произвели эффект разорвавшейся бомбы.
Эти теоремы были сразу же применены ко всему человеческому познанию. Их толковали в том смысле, что некоторые истины никогда не будут познаны, а внутренняя непротиворечивость самой науки — любой науки — всегда будет оставаться под вопросом.
Что это означает в применении к интеллекту, показал наш современник, австрийский ученый Ханс Моравек. Замечаете, как много австрийцев причастно к теме интеллекта? На страницах этой книги их появится еще немало. Моравек — специалист по робототехнике, футуролог, профессор Университета Карнеги Меллона в Питтсбурге, штат Пенсильвания, считается одним из самых глубоких из ныне живущих мыслителей в области искусственного интеллекта. Еще в 1980-е годы Моравек сформулировал принципы того, как ИИ приобретает знания, и эти принципы, в общем-то, противоречили здравому смыслу. Поэтому принято говорить о «парадоксе Моравека». Парадокс гласит, если излагать его без научного жаргона, что познание высокого уровня требует меньше вычислений, чем бессознательное познание низкого уровня. Это чисто эмпирическое наблюдение противоречит вроде бы очевидной мысли о том, что чем больше у нас вычислительных возможностей, тем более «интеллигентные» системы мы сможем создать.
Давайте вникнем подробнее. Системы с искусственным интеллектом могут решать невероятно сложные статистические и логические задачи, от которых голова пойдет кругом у любого человека, как бы умен он ни был. Однако такие простые человеческие задачи, как достать рукой предмет, вызывают у роботов ступор или требуют очень громоздких и сложных вычислительных моделей. Вот как это описывает Моравек:
«Относительно легко научить компьютеры показывать способности взрослого человека, такие как проходить тесты на интеллект или играть в шашки. Но трудно или вообще невозможно научить их тому, что умеет годовалый ребенок в том, что касается восприятия или движений».
Неявное, но вполне очевидное следствие парадокса Моравека заключается в том, что наилучших результатов можно достичь сочетанием машинного и человеческого интеллекта. Назовем такое сочетание Объединенным интеллектом.
По невежеству или целенаправленно, но нас приучают рассматривать искусственный интеллект как нечто внешнее, но это путь в никуда. На деле уже сейчас, как я покажу в следующих главах, ИИ — часть нашего коллективного разума, своего рода расширение в нем. Борясь с искусственным интеллектом наподобие луддитов, мы будем бороться сами с собой.