Демон внутри. Анатомия искусственного интеллекта
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше завтра
- ISBN: 978-5-6045084-5-9
- Жанр: Публицистика
Электронная книга - «Демон внутри. Анатомия искусственного интеллекта». Краткое содержание книги:
Величайшее творение человека, искусственный интеллект, было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, человечество оказалось в новом рабстве. Возможно, это рабство еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы объединить народы, превратился в средство атомизации общества, сделав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать от технологий, которые вышли прямо из сериала “Черное зеркало”? Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?
Впрочем, пока что методы низкоуровневой семантики применяются в обучении нейросетей редко, потому что отнимают слишком много времени, да и не все фразы так легко проиллюстрировать, как команду переставить куб. Проверенным подходом остается модель распределительной семантики, и в ближайшем будущем все достижения NLP, скорей всего, будут связаны с ним. Однако у этого подхода, в сущности, не эвристического, а чисто статистического, есть предел. Для достижения качественного скачка исследователям придется работать с куда более сложными моделями.
АНТРОПОЦЕНТРИЗМ
Мы очень любим бинарные вопросы, и один из них звучит так: «Сможет ли машина заменить писателя?» Сразу предполагается и ответ: «Нет, не сможет», ибо мало того, что мы считаем себя неповторимыми, мы уверены и в том, что Искусственный Интеллект как наше создание будет всегда нуждаться в нашей опеке, что без нашего программирования он не сможет функционировать, что мы всегда сможем управлять им, а в крайнем случае просто выдернем штепсель из розетки.
Наш врожденный антропоцентризм на уровне инстинкта вынуждает нас противопоставлять себя миру —как возникшему без нашего участия, так и созданному нами самими. Мы склонны отделять машину от человека — хотя она уже давно стала частью нашего коллективного разума, если угодно, коллективного человеко-машинного интеллекта.
Социологи и социобиологи обычно понимают под коллективным интеллектом некий консенсус разумов или консенсусный разум, возникающий при совместных действиях групп людей. Часто в том же духе говорят о животных, например о пчелах или муравьях. Они ставят цели, распределяют роли и делают свою работу настолько слаженно, что бизнес-коучи любят приводить их командную работу в пример. Но давно пора включить в «разумный» консенсус и то, что называют «искусственным интеллектом» —во всяком случае, пока машина нам подчиняется (когда перестанет, не будет и консенсуса).
Итак, коллективный интеллект — это консенсус, возникающий в ходе взаимодействия людей и «интеллектуальных машин». Мы отказываем последним в собственном разуме, но подчиняемся принятыми ими решениям. Без них уже сегодня не могут функционировать ни государство, ни бизнес. Коллективный разум — это, например, биржа, с ее тысячами трейдеров и брокеров, которые срослись с мониторами и дают задания ботам, работающим без устали день и ночь. Кто биржевики как не киборги, машинолюди, кентавры, подключенные к трейдинговым сетям?
Другой пример коллективного разума — это «Википедия», где при помощи машины кристаллизуется труд и знания тысяч постоянных авторов-людей. Появятся ли среди них в будущем боты — вопрос открытый, но и сейчас работа над статьями для «Википедии» не обходится без искусственного интеллекта, к помощи которого авторы, желая того или нет, прибегают в поиске и анализе информации.
ТРУДНОСТИ СЕПУЛЯЦИИ
Итак, когда мы говорим о «машине» или «Искусственном интеллекте», мы имеем в виду коллективный интеллект людей и машин. Впрочем, конечному пользователю все равно, что происходит внутри системы, во всех хитросплетениях которой разберется разве что сам искусственный интеллект. Для индустрий, в том числе книготорговой и издательской, Искин — это черный ящик, принимающий решения, которые до него принимали люди. Очень удобно переложить ответственность на черный ящик, решения которого не верифицируемы и не подлежат исправлению, даже если они нам не нравятся. На любые вопросы есть ответ: мы пользуемся Искином, потому что его решения, как нам сказали, эффективнее.
Если при управлении самолетом автопилот, получающий указания от Искина, выдает странные решения, то воздушное судно может быть не допущено к полетам — ведь на кону жизнь людей. При этом причины, по которым Искин скомандовал самолету резко пойти носом вниз, так и останутся неизвестными — ведь машина обрабатывает огромный массив информации, и решающим фактором может стать что угодно. Наука о психологии поведения ИИ еще не создана, так что вместо объяснения мы можем просто сказать «машина сошла с ума», и этого будет довольно.
Конечно, можно в принципе создать Искин, который будет способен к самопознанию — в отличие от человека, который закрыт сам от себя и не знает, как именно он приобретает свое знание. Ничто внутри Искина не укроется от него самого, но даже если так, сможет ли он дать нам это знание в форме, которая была бы понятна нам?