Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Так на наших глазах из экономики внимания рождается целый веер когнитивных экономик: экономика эмоций, экономика массовой слежки, экономика репутации и экономика прозрачности, возникающая на основе блокчейна и критопвалют через коммодификацию доверия.
Процесс оцифровывания и обсчитывания всего теперь запускает свои щупальца в миры человеческого познания, душевных и телесных движений. Обучающие наборы данных существуют для определения человеческих эмоций, происхождения и семейных уз, процессов старения, не говоря уже о физических действиях.
Мы поднимаем упавший на пол стакан, поднимаем его в тосте, плачем или смеемся — и наши действия считываются и поставляются на вход черного ящика нейросети. Каждая форма биоданных — биометрия, социометрия, психометрия, данные судебно-медицинских экспертиз — все это регистрируется и загружается в базы данных для машинного обучения ИИ. Наборы данных для ИИ-систем берутся из всех сторон жизни, но при этом они повторяют стереотипы и предубеждения, записывая их как социальные паттерны сегодняшнего дня и проецируя их на будущее.
«Огораживание» биоразнообразия и знаний — последнее из огораживаний, начавшихся с развитием капитализма. Сначала огораживались леса и земля, они переводились из общественного достояния в ресурс и приватизировались. Затем «огородили» и приватизировали через дамбы водные ресурсы и подземные воды. Это произошло, как только ученые и футурологи стали предсказывать скорую нехватку воды.
Теперь пришел черед биоразнообразия и знаний, которые «огораживаются» через копирайт, законы об охране интеллектуальной собственности. Уничтожение общины было необходимо для промышленной революции, чтобы промышленность получала в неограниченном количестве сырье для производства.
Система (например, источник), от которой зависело само выживание общины, не могла находиться в частной собственности и ее нельзя было эксплуатировать ради прибыли: ее ресурсы делились между всеми. Поэтому общину приватизировали, а чтобы запитать двигатель прогресса и накопления капитала, присвоили базу для выживания общины. Тот же процесс произошел с правами на интеллектуальную собственность, теперь то же самое происходит с машинным обучением.
В контексте искусственного интеллекта началась золотая лихорадка интенсивного «огораживания» разных областей человеческого знания, чувств и действий для того, чтобы захватить и приватизировать эти области.
Когда в 2015 году лаборатория DeepMind Technologies получила доступ к медицинским данным 1.6 миллиона пациентов лондонской больницы Royal Free, это была особая форма приватизации: извлечение ценности из знаний. Сам набор данных пациентов может быть и сейчас в общественном пользовании, но модель, созданная на основе метаданных, стала частная собственностью. Ее можно купить, продать, сдать в аренду, внести в капитал и так далее.
Лаборатория объявила, что данные ей были нужны для того, чтобы улучшить медицинское обслуживание, но независимо от реальных или скрытых мотивов в условиях современного капитализма это играет против общества, приводя к скрытой приватизации медицины.
В будущем человеческий труд в медицинских учреждениях будет дополнен или вовсе заменен частной корпоративной ИИ-системой медицинских услуг. Скорей всего, централизованной. Таким образом данные, принадлежащие отдельным людям и обществу, будут служить той же цели, что и все остальные ресурсы: создавать богатства для немногих.
Сегодня мы видим, как возникает новая форма экономики извлечения. Капитализм в его новой форме достигает не только самых дальних уголков биосферы, но и самых глубоких слоев человеческого существа, он моделирует, копирует и в конечном итоге приватизирует познание, эмоциональную сферу, психику и в конечном итоге само физическое тело.
Машинное обучение, на котором строится сегодня развитие систем с искусственным интеллектом, весьма несовершенно. В результате эти системы усиливают неверные представления и нагружены стереотипами, они не поддаются контролю и плохо модифицируются.
Они похожи на динозавров с их огромными телами и маленькими мозгами, им все время нужно жрать информацию, которую они берут всюду, куда могут дотянуться. В процессе ее получения они готовы вытоптать целые материки, а на выходе они со скрипом и ревом поворачивают свою маленькую голову, издавая какие-то хрипы, то есть предвзятые, неуклюжие суждения, зачастую ошибочные.
На основе представлений этих динозавров все больше строится новая реальность, прекрасный новый мир, и они играют все возрастающую роль в том, как распределяются не только знания, но и возможности, благосостояние и сам капитал.