Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
4.
Мы сразу обращаем внимание на детали, которые подтверждают наши взгляды. Избирательное восприятие имеет оборотную сторону: мы охотно прячем голову в песок, не замечая того, что идет вразрез со сложившейся в мозгу картиной мира. Так, в 1930-е годы немцы в упор не видели геноцида, который осуществлялся открыто, хотя и без лишнего шума. Они «верили» в то, что живут в цивилизованной стране, где все делается по закону. На самом деле это была не вполне искренняя вера, а принцип «сознательной приостановки неверия», на котором основан успех театра в человеческом сообществе. В театре вы не то чтобы верите в происходящее, но сознательно приостанавливаете свое неверие, что позволяет вам эмоционально сопереживать. Для достижения такого эффекта нужен талантливый актер, коим, без сомнения, являлся Адольф Гитлер. Что, впрочем, никак не отменяет вины миллионов соучастников его преступлений. Ведь театр театром, а кровь-то лилась настоящая, трудно этого было не заметить. Кстати, ведущие западные газеты также отфильтровывали и не публиковали сообщения очевидцев о массовых убийствах и концлагерях, зато много писали об эффективности и порядке нацистского режима, пресловутое «при Муссолини поезда перестали опаздывать». Они тоже — не то чтобы «верили» Гитлеру, а сознательно приостанавливали свое неверие. Сегодня «эффект страуса» находит применение в социальных сетях, где вокруг пользователей создаются «информационные пузыри»: люди живут в облаке новостей и комментариев, которые лишь подтверждают и усиливают их оценки, за которые они получают лайки от своих друзей и единомышленников. Самые абстрактные взгляды, например, на экономические проблемы воспринимаются через призму конкретной личности: наша точка зрения имеет человеческое лицо, а чуждые нам взгляды высказывают люди неприятной наружности (сочетание «эффекта страуса» с «эффектом человекоподобного образа»). Возможно, что для того, чтобы убедить в чем-то искусственный интеллект, человеку нужно будет прикидываться ему подобным.
5.
Мы склонны видеть соринку в чужом глазу и не замечать бревна в своем. Это называют наивным цинизмом или наивным реализмом. Наверное, это все-таки можно преодолеть машинным обучением.
ИСКАЖЕНИЯ ОТ УПРОЩЕНИЯ СМЫСЛОВ
6.
Хаос — враг разума, и даже совсем случайный набор фактов мы склонны складывать в историю. Это называется иллюзорная корреляция, которая часто включает в себя и антропоморфизм, то есть наше стремление приписать непонятному человеческие черты. Мозг все время присваивает деталям значения из семантического поля смыслов, без допущений он просто не мог бы работать, поэтому заполняет лакуны сообразно имеющимся уже представлениям. Мы смеемся над древними, которые населяли мир могущественными духами, но охотно сочиняем и свои мифы, вроде «глубинного народа», который «действует» и даже определяет судьбу страны. На этом эффекте основана вся конспирология и неуспех театра абсурда: даже в театре нам нужна гипотеза, которая бы объясняла происходящее. Опытный режиссер всегда заставит зрителя поверить в «волю к власти» или «кровавый режим», имеющий человеческое (как правило, уродливое) лицо.
7.
Мы даем характеристики, основываясь на групповых стереотипах, обобщениях и предыдущем опыте. Можно назвать это стадным инстинктом или групповым мышлением, но это могущественный фактор, определяющий, например, поведение игроков на бирже или солдат на войне. Еще Платон в своем «Государстве» представил человечество в виде узников, которые всю жизнь живут в пещере и наблюдают на ее стенах игру неких теней. Они принимают эти тени за реальность, потому что физически не могут увидеть, кто или что отбрасывает эти тени. Познавательные возможности человека ограничены самим его местом в мире, человек не может знать, что стоит за тенями, которые он видит, но чтобы жить, он должен систематизировать в категории свои неполные, порой неверные и часто противоречивые знания. Американский социолог и журналист Уолтер Липпман в своем авторитетном труде «Общественное мнение» назвал такие категории стереотипами. Через стереотипы человек приспосабливается к своему окружению, к среде обитания, без стереотипов он не смог бы выжить. Человек приобретает стереотипы от общества, личный опыт их подтверждает. Даже если какие-то факты противоречат стереотипам, человек не склонен от них отказываться: он будет думать, что исключение лишь подтверждает правило. Стереотипы объединяются в системы: это и повседневный уклад, верования, социальные институты и в целом «социальная реальность» какой ее видит человек. Каждый человек в отдельности может выхватить лишь фрагмент реальности, достаточный, чтобы «выжить и в потоке времени поймать несколько моментов озарений и счастья», пишет Липпман. Остается только гадать, какие стереотипы, верования и социальные институты будут у ИИ? Признает ли он свою ограниченность или, как типичный российский чиновник, будет считать себя всезнающим?