Ключът [bg]

— Край на играта, както сам каза.

— Но това е също причината работата на Мара да е толкова важна. Тя се опитва да създаде приятелски настроен ОИИ, който може да ни защити от опасните ОИИ, които могат да се появят по-късно — корекция, които ще се появят по-късно. Освен корпорациите и държавно финансираните лаборатории има стотици тайни компании, които работят по проблема и са готови на всичко, за да бъдат първите, без да ги е грижа какво могат да отприщят на свобода.

— Колко близо сме до осъществяването на това?

— Много. — Джейсън махна с ръка към хартиения хаос около тях. — Неотдавна програмата DeepMind на „Гугъл“ сама откри основите на квантовата физика. Две ИИ програми за превод започнаха да разговарят помежду си на техен собствен неразбираем език и отказват да преведат разговора си. Навсякъде по света роботи надминават създателите си и използват вратички по какви ли не изобретателни начини. Други програми дори демонстрират наличието на човешка интуиция.

— Човешка интуиция ли?

— Преди няколко години се вдигна много шум, когато AlphaGo, ИИ играчът на DeepMind, победи световния шампион по древната китайска игра го. Според някои изчисления го е трилиони и трилиони пъти по-сложна от шаха. Никой не очакваше компютър да победи човек в тази игра, поне в рамките на това десетилетие.

— Впечатляващо.

— И това е нищо. На „Гугъл“ им е отнело месеци да подготвят AlphaGo за състезанието. След това компанията възприе нов подход, като остави новата версия AlphaGoZero да се обучава сама, като играе играта срещу себе си. Само след три дни тренировка тя станала толкова умела, че победила оригиналната програма в сто от сто игри. Как ли? Като разработила интуитивно стратегии, които не са били разработени от никой човек през хилядите години, откакто играем тази игра. Програмата буквално надминала човечеството.

Грей преглътна. Изведнъж усети някаква пустота в стомаха си.

Джейсън обаче не беше завършил.

— Така че когато става въпрос за създаването на първия ОИИ, в този момент ние се намираме на прага. — Погледна Грей. — Така че може би е най-добре да уточним параметрите на мисията, преди да сме кацнали. Трябва не само да не допуснем програмата на Мара да попадне в неподходящите ръце; тя ни е нужна за самото ни оцеляване като вид.

На таблета на Джейсън се появи малко текстово съобщение.

Двамата го погледнаха и прочетоха съдържанието му. Беше от Лиза Къмингс, кратко и прямо.