Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
«Фейсбук» известен тем, что использует ваши фотографии для обучения своих нейросетей, и в общем довольно точно может установить в итоге, кто изображен на фото — не только размещенном в соцсети, но и вообще выложенном в интернет. Именно сверточные нейронные сети позволяют это делать с максимальной эффективностью (в последние годы к ним прибавились и капсульные сети).
Эта социальная сеть активно занимается профайлингом, то есть сбором, классификацией и анализом данных о пользователях, которым эти данные, получается, не принадлежат. Надо понимать, что «Фейсбуку» принадлежит также Whatsup, Instagram и другие соцсети, которые, разумеется, обмениваются данными и используют их для машинного обучения своего искусственного интеллекта. Пользователи бесплатно отдают этим соцсетям права и на свои данные, и на свой контент —точнее, отдают в обмен на почетное право быть членом сети, за право подвергаться цензуре, за право быть выпоротым или убранным из сети из-за слов, которые не понравились невидимым и неслышимым кураторам.
В этот электронный концлагерь люди идут добровольно, раздеваясь и складывая стыд вместе с личными вещами на входе. В больницах или образовательных учреждениях мы заполняем кучу документов с разрешениями на обработку наших персональных данных, но «Фейсбук» просто и открыто берет их у нас без всякого спроса. Якобы согласие «подразумевается» на входе в сеть (а на входе в другие места оно не «подразумевается»?
Эта публичная компания с капитализацией 500 миллиардов долларов слишком сильна для того, чтобы власть имущие осмеливались задавать ей вопросы. В апреле 2019 года суд в Москве оштрафовал «Фейсбук» аж на три тысячи рублей. Представитель компании на заседание не пришел, ничего не сообщалось и о выплате компанией столь беспощадного и разорительного штрафа.
Что останавливает «Фейсбук» от еще более широкого, чем сегодня, коммерческого использования невиданных в истории человечества возможностей по контролю над мыслью и сознанием? Пожалуй, лишь европейский закон о защите персональных данных GDPR. Хотя это и слабая защита — ведь «Фейсбук» научился обходить законы и, будучи самой мощной в мире структурой в области рекламы и манипуляции сознанием, знает, как преподнести себя публике с позитивной стороны.
Вы у нас под колпаком, мы контролируем ваши мысли и зарабатываем на вас миллиарды, господа, но делаем это для вашего же блага. Чтобы вам жилось лучше и веселей. Эта компания еще совсем недавно была стартапом, но в последние годы сконцентрировала в своих сетях — не руках же? — власть и могущество, которые не снились империям прошлого. Многие из власть имущих недостаточно образованы и не следят за ошеломляющим развитием технологий настолько, чтобы отдавать себе в этом отчет. Другие уже стали лоббистами компании или считают за лучшее не становиться ее врагами.
Ведь «Фейсбуку» есть что рассказать о каждом из них. В фильме The Circle с Томом Хэнксом и Эммой Уотсон некая соцсеть, очень похожая на дитя Цукерберга, собирает компромат на всех политиков — ведь все мы сегодня прозрачны для наших гаджетов, как бы ни старались что-то скрыть. Сеть совсем не стесняется раскручивать нужных из них и останавливать неудобных.
Еврокомиссия в 2018 году подала против «Фейсбука» многомиллиардный судебный иск как раз на основании GDPR, после масштабного взлома данных пользователей. Но перспективы этого иска неясны. Еще более серьезным казался «наезд» на «Фейсбук» в том же году американского конгресса, разгневанного вмешательством соцсети в политику. Об этом стало известно в ходе скандала вокруг компании Cambridge Analytica, которая, скорей всего, отрабатывала для «Фейсбука» технологии, позволяющие влиять на исход выборов в таких странах, как США и Великобритания. На стриминговом канале Netflix недавно вышел документальный фильм The Big Hack, который подробно рассказывает о деле Cambridge Analytica, о том, как корпорация с вполне рутинной менеджерской структурой — примерно так же организован «Макдональдс» или «КЕС» занимается прибыльным бизнесом: манипуляцией массовым сознанием.
Об этом более подробно в другой главе, а здесь отмечу, что дело Cambridge Analytica, похоже, спущено на тормозах. Не исключено, что в ход пошли приемы, о которых рассказывает фильм The Circle.
Но вернемся к сверточным сетям. Такое название эта популярная у разработчиков архитектура получила из-за операции свертки. Математически суть операции в следующем: каждый элемент изображения последовательно умножается на матрицу (ядро) свертки, результат суммируется и записывается в соответствующий пиксель изображения на сверточном слое. Таких слоев может быть много, а в итоге на выходе обученная сеть может с большой точностью классифицировать объекты. Математикам, читающим эти строки, наверняка все уже понятно, но остальным, вероятно, требуется разъяснить, что всё это значит.