Человек взломанный
- Автор: Шнуренко Игорь Анатольевич
- Год: 2021
- Язык: русский
- Год: Наше Завтра
- ISBN: 978-5-6045084-3-5
- Жанр: Публицистика
Электронная книга - «Человек взломанный». Краткое содержание книги:
Без усилий Оппенгеймера и таких, как он, возможно, не было бы и Московского договора (Договор о запрещении испытаний ядерного оружия в атмосфере, космическом пространстве и под водой был подписан в столице СССР в канун очередной годовщины бомбардировки Хиросимы 5 августа 1963 года).
Есть свидетельства того, с каким содроганием отнесся к бомбардировке Хиросимы Альберт Эйнштейн, как реагировали на это другие крупные ученые того времени. На круглых столах по искусственному интеллекту, в статьях и выступлениях мне приходилось не раз слышать точку зрения, что, возможно, технологии ИИ, нано, био, когнитивные технологии несут определенные риски, но общество справится с ними, выработает какое-то решение — как это якобы было с атомным оружием. Человечество якобы нашло решение проблемы ядерного оружия, поэтому можно быть уверенным, что и в этот раз общественные механизмы не подведут.
Эти утверждения, конечно, глубоко манипулятивны. Как мы видим, человечество начало искать решение ядерной проблемы только после Хиросимы и Нагасаки, после пары сотен тысяч жертв. Только увидев жутчайшие наглядные результаты бомбардировок, которые были засекречены, но к которым ученые, работавшие в секретных лабораториях типа Лос-Аламос, получили доступ, они пришли в себя, и стали потихоньку избавляться от комплекса «хозяев Вселенной», которым все нипочем. Но ученые-технократы, чей пик деятельности приходится на 1930-1940-е годов, такие, как Оппенгеймер, Поль Дирак, Нильс Бор, были блестяще гуманистически образованы, и сейчас равных им по энциклопедичности знаний просто нет. Некоторым из них — например, Эйнштейну, удалось еще немного подышать воздухом старой гуманистической довоенной культуры. Сегодня, в двадцатые годы XXI века, мы не найдем в науке ни сравнимых по мощи имен, ни энциклопедичности, ни, что немаловажно, влияния на власть имущих.
Ибо решение послать на японские острова «Энолу Гэй» принадлежит отнюдь не ученому-технократу Оппенгеймеру, а политику Гарри Трумэну.
Уже тогда, кстати, технократы перебирали в голове возможные оправдания. Оппенгеймер в воспоминаниях говорит о том, что надеялся на то, что в реальной войне его бомбу применять не будут именно в силу её мощи. Точно так же сегодня приходится слышать, что новейшие технологии слишком серьезны, чтобы правительства стали ими пользоваться необдуманно.
Сегодняшние технократы, осознав свою мощь, вряд ли будут мучиться угрызениями совести, как Оппенгеймер. Высказывание из «Бхавадгиты» они будут понимать буквально, тем более что упомянутые НБИК-технологии позволяют «губителям людей» развернуться в полную силу. К тому же они считают людей за биомашины. Как технократы последних дней обращаются с такими машинами, видно уже по ковидному концлагерю.
Если почитать труды основателя кибернетики Норберта Винера и других ученых, стоявших у истоков развития систем искусственного интеллекта, станет понятно, что в последние 70 лет люди выбирали самые плохие и самые рискованные сценарии. Поэтому нужно отчетливо понимать, что дело идет к «моменту Хиросимы» для систем ИИ и нано-био-когнитивных технологий. Никаких выводов из истории с ядерным оружием человечество не сделало и надеется на авось. Только для этой надежды сегодня куда меньше оснований, чем в 1945-м. Сегодня куда меньше вероятность того, что жертвами станут два относительно небольших города, которые Трумэн разбомбил скорее для эксперимента, и чтобы показать русским, кто в доме хозяин.
Кстати, насколько адекватными стали сегодня политики в сравнении с теми, кто вершил судьбы мира в 1945-м? «В каком-то исконном, грубом смысле, который нельзя полностью устранить ни вульгарностью, ни юмором, физики познали грех, и это знание они уже не смогут потерять», надеялся Оппенгеймер. Он предполагал, что ученые могут усвоить какие-то уроки, и сделать какие-то выводы, но он явно переоценил их разум, совесть и сознание. Но упадок науки и морали ученых не идет в сравнение с измельчанием материала, из которого лепят сегодня политических гомункулусов.
В предыдущей части мы увидели, что ученые в сегодняшнем мире значат всё меньше. Политика в обществе, отрицающем ответственность, тоже не может существовать иначе как симулякр. Реальным влиянием пока еще пользуются финансисты, которые, собственно, создали и вскормили Цифрового Левиафана — но едва ли создателям и в этом случае удастся удержать под контролем свое создание.