Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Когда мы говорим об «облаке» и «облачных вычислениях», многим представляется что-то эфемерное. Меж тем для обработки данных в таких «облаках» требуется самое настоящее «железо» серверов и инфраструктуры, в процессе изготовления которых в разных странах мира из недр извлекаются самые реальные редкоземельные элементы.
Экономика извлечения отнюдь не нова, и добыче ресурсов из глубин Земли всегда сопровождалась тяжелыми формами эксплуатации человека. Процессу всегда сопутствовали войны, мятежи, рабство, насилие...
Для извлечения ресурсов из недр прежде всего нужны работники. Работники — тоже своего рода инструменты, и в экономике «искусственного интеллекта» о них вполне можно говорить как об аристотелевских «одушевленных орудиях» или «говорящих машинах».
Роль людей сводится к тому, чтобы подправлять огрехи, вызванные несовершенством искусственного интеллекта.
Аристотель писал, что если бы ткацкие челноки сами ткали, а плектры сами играли, тогда господам не нужны были бы рабы. То есть до тех пор, пока без людей в процессе работы пирамиды ИИ нельзя обойтись, это «наиболее совершенное орудие труда» будет выполнять свою роль. При этом суть инструмента состоит в том, чтобы быть послушным, неважно, одушевленный этот инструмент или неодушевленный. Как только ИИ сможет выполнять работу по запросу хозяина или даже предвосхищая его запрос, «говорящая машина» станет не нужна. Что будет тогда с человеком, мы обсудим дальше, а пока обратимся к истории рабства.
Очевидно, что несмотря на всю шумиху о свободах и правах человека, оно никогда практически не прекращалось, и причиной этому был спрос на рабов, прежде всего со стороны крупных империалистических держав и корпораций.
Великобритания и другие европейские страны в течение нескольких веков получали огромные прибыли от работорговли. Принудительный труд использовался на каучуковых плантациях Малайи, а индейцы Боливии в нечеловеческих условиях добывали серебро и массово гибли на рудниках ради металла, который шел на изготовление монет, то есть обеспечивал финансовое обращение в Европе. И тогда, и сегодня есть связь между трудом, добычей ресурсов и добычей данных.
ПОТРЕБИТЕЛЬ КАК РЕСУРС
Под трендовыми названия «цифровая экономика» и «экономика внимания» скрывается модель эксплуатации, характерная для старой доброй экономики извлечения ресурсов. «Лукойл» и «Шелл» добывают, забираясь все глубже и дальше, нефть, выкачивают ее и продают. Для «Гугла», «Фейсбук», «Инстаграма», «Твиттера» и других компаний «экономики внимания» природным ресурсом служит человек, его время и контент, который он создает.
Пользователь владеет собственным контентом весьма условно, данные его профиля, содержимое постов, реакции на контент, эмоции, выражающиеся эмотиконами — все это открыто потребляется самой платформой, классифицируется, разбивается на части, упаковывается и продается, переупаковывается и перепродается. В обмен на то, что вы даете себя потреблять, вам предоставляется право бесплатно пользоваться некоторыми услугами.
Человек — это новая нефть, ценнейшая в экономике больших данных, но он еще не осознал своего превращения в товар. Есть попытки создания на блокчейне платформ по модели вклада, где пользователи являются владельцами созданного ими контента и получают за него вознаграждение. Впрочем, пока что у создателей таких платформ не получается масштабировать свою модель — возможно потому, что они не обладают столь значительными средствами, как ведущие соцсети.
В системах с использованием искусственного интеллекта это происходит еще более явственно.
Наша история началась с Даниэль, хозяйки дома, где установлена система Echo. Она оплачивает работу устройства как потребитель услуги и клиент компании. Но Amazon зарабатывает на ней и в скрытой форме, используя ее как человеческий ресурс.
Ее голосовые команды поступают в центр обработки данных Amazon, анализируются там и хранятся для пополнения базы человеческих голосов, эмоций и инструкций, которая потом используется для машинного обучения нейросетей. Хозяйка дома является неоплачиваемым тренером искусственного интеллекта и осуществляет за свой счет уход за устройством и его энергообеспечение.
Поставляя компании бесплатный контент, она к тому же служит объектом постоянного анализа и таргентинга. Она также бесплатно работает как оценщик качества ответов Алексы, их полезности и своевременности, тем самым помогая Amazon совершенствовать системы распознавания и обработки речи.