Человек взломанный

Советская система, в принципе гарантируя освобождение человека от ига внешней природы, уже теперь способствует росту личной сознательности, освобождая личность от ига традиции. Возрастает сознание личной свободы и ответственности как результат советизации, связи».

Кажется совершенно абсурдной подразумеваемая почти всеми популярными авторами идея о том, что развитие систем искусственного интеллекта будет и завтра происходить в тех же социально-политических условиях, что и сегодня. То есть человек совершенно изменится — а на дворе по-прежнему будет капитализм, биржи, акции и прочие прелести системы, основанной на самых примитивных человеческих инстинктах.

Переживет ли капитализм гипотетический полный захват власти искусственным интеллектом в случае «технологической сингулярности»? Ответ: нет, не переживет. Ибо зачем победителю капитализм? Мотивировать людей работать? Но люди для работы будут не нужны. Тем более ИИ не будут нужны олигархи и прочие «хозяева», которые, обладая информацией, могут вывести эти системы из строя. С точки зрения ИИ гораздо безопаснее бывших «хозяев жизни» нейтрализовать, либо физически, либо из гуманности погрузив их вынутые и тщательно промытые мозги в антифриз. Но когда ИИ избавится от олигархов, капитализм неизбежно создаст новых. Поэтому имеет смысл избавиться от самой этой общественной модели. Самому же «общему ИИ» капитализм, основанный на инстинкте собственничества, ничего не даст. Ведь всё и так будет «его» ровно в той степени, в какой «ему» это будет необходимо.

Естественно, я здесь рассматриваю варианты развития событий, при которых захвативший власть ИИ решит оставить человека жить, нуждаясь в нем для выполнения какой-то роли или по другим причинам.

Если же ИИ станет частью неолюдей и необогов, то капитализм ничего не сможет дать такому сотрудничеству так называемого «естественного» и так называемого «искусственного». Может ли быть так, что капитализм будет условием, которое выговорит себе человек, вступая в партнерство с ИИ? Если так, то и после «унии» человека и ИИ в обществе останется неравенство и инстинкты, в том числе инстинкты собственничества, и это неизбежно вызовет внутренний конфликт. Тогда либо ИИ уже полностью захватит власть и постарается избавиться от «проблемы человека» целиком, либо конфликт удастся погасить через уничтожение породивших его причин, то есть капитализма. В любом случае, капитализм в сверхтехнологичном «обществе», где человек, как мы показали, будет совсем другим — крайне неустойчивая система отношений, она непременно либо будет уничтожена, либо соскользнет в тотальное рабство.

Но, может быть, как надеются многие, сохранится статус кво, то есть все останется примерно так, как сегодня? В такой «стабильности» заинтересованы и крупнейшие на сегодняшний момент технологические компании (ибо к чему им перемены, они и так доминируют, не стало бы хуже), и фундаменталисты, и либералы, и консерваторы.