Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Эволюция приучила нас действовать максимально быстро, иначе мы можем упустить свой шанс и промахнуться, лишив семью еды до следующей охоты. Поэтому мозг стремится как можно быстрее сделать выводы из полученной информации и, если она важна, побудить нас к немедленному действию.
После того, как мозг отработал по важной информации, он перемещает ее в память. Чтобы при необходимости извлечь ее оттуда, у человеческого разума есть свои короткие пути и приемы.
Мозг активно решает описанные выше проблемы, но эвристика процесса такова, что приходится чем-то жертвовать.
Сейчас вполне можно говорить о том, что разработчики ИИ руководствуются в первую очередь последними новинками в изучении работы человеческого мозга, поэтому этот путь, по факту, является магистральным. Но если искусственный интеллект идет по пути копирования человеческого, то ему не обойти проблем, связанных с разного рода искажениями обработки и хранения информации. Впрочем, даже в том случае, когда ИИ или сеть ИИ превзойдет возможности человеческого ума, развиваясь как грибница, или пчелиный рой, или вообще как что-то нам совершенно неизвестное и неописанное, то наверняка у этого мощного нечеловеческого мозга будут свои короткие пути познания, которые позволят быстро делать выводы и реагировать на изменения среды, отсекая информацию, которую этот мозг признает ненужной. А раз так, неизбежны те или иные упрощения, обобщения и искажения, и нет никаких причин думать, что искусственный разум не будет иметь своих «мертвых зон» и «белых пятен» восприятия.
Думать — дело непростое. Мы атакованы информацией со всех сторон, а реагировать на все нужно быстро. Что-то мы можем отложить на потом, что-то быстренько распихать по сусекам памяти, но в целом хоть кричи караул. На помощь нашему бедному мозгу приходят искажения, предубеждения и другие способы сэкономить время и энергию. Разберем главные из них один за другим, и посмотрим, как можно вписать искусственный интеллект в эту картинку.
25 КОГНИТИВНЫХ ПРЕДУБЕЖДЕНИЙ, БЕЗ КОТОРЫХ МЫ НЕ ПРОЖИВЕМ И ДНЯ
Здесь содержится далеко неполный список «когнитивных предубеждений», то есть искажений в картине мира, других людей и самих себя, которые определяют человеческое поведение. Список составлен на основе анализа Бастера Бенсона. Эти «глюки в матрице» хорошо известны социальным психологам, рекламщикам, политтехнологам и довольно агрессивно используются для манипуляции сознанием миллиардов людей. Они напрямую связаны с тем, как биологический разум на глубинном уровне познает мир. В будущем, несомненно, подобный список будет составлен и для искусственного интеллекта —или множества таких интеллектов.
ИСКАЖЕНИЯ ОТ ИЗБЫТКА ИНФОРМАЦИИ
1.
Мы замечаем прежде всего вещи, уже сохраненные в памяти, с которыми мы часто сталкивались. Это приводит к тому, что мы отбрасываем информацию, которая на самом деле очень важна. Представьте себе, что такой предвзятостью обладает ваш умный электронный помощник по дому. До того, как вы ушли в парикмахерскую, все было хорошо, но стоило вам сменить прическу, и он перестал вас узнавать. Что это — каприз, глюк, или нравились вы ему больше с той прической? Из экономии или из вредности понизит температуру в доме до уличной, а ваши мольбы и слушать не станет!
2.
Броские, странные, забавные и человекоподобные образы замечаются быстрее и удерживаются в памяти дольше, чем обычные, скучные и абстрактные образы. Этот эффект вовсю эксплуатируется средствами массовой информации, которые работают на броскую картинку, заставляющую работать воображение. Газеты и телевидение не зря обожают крупные планы окровавленных лиц во время разгона демонстраций, сцены самосожжения и тому подобные ужасы: это вызывает моментальную эмоциональную реакцию и облегчает некритичное восприятие идущей фоном информации о том, кто, по мнению СМИ, виновен в происходящем. Так создаются поводы для войн и «гуманитарных интервенций». Интересно, что за необычные образы человек будет показывать ИИ, чтобы привлечь его внимание? И как будет ИИ реагировать?
3.
Чтобы мы обратили внимание на картинку, нужно, чтобы там что-то поменялось. Человек —стихийный консерватор и нередко видит в переменах угрозу, хотя это зависит от возраста и предшествующего опыта. Но искусные маркетологи научились пользоваться этим эффектом для продвижения технологических нововведений: пользователей убеждают в том, что их жизнь не изменится, а станет лишь удобнее и проще. Здесь маркетологи стоят перед дилеммой: с одной стороны, нужно скрыть или задрапировать реальные изменения, с другой — сделать так, чтобы вы обратили внимание. Кстати, на какие уловки пойдут маркетологи, чтобы впарить товар искусственному интеллекту?