Попытка помочь популяции. Вступление

— Ты уверен, что из нашего проекта что-нибудь выйдет?

— Альтернатив особенных нет. Будучи предоставлено лишь самому себе, человечество медленно, но планомерно движется к краху.  — Джерри развёл виновато руками и улыбнулся.  — Прости, мне самому никогда не нравились проповедники конца света, но ты же видела существующие расчёты.

Никки нахмурилась.

— Я всё равно чувствую некий недостаток в задумке.

Смерив шагами комнату, королева наиболее юной и наиболее могущественной из династий остановилась у хрустального столика с горсткой апельсинов в вазе.

— Искусственный разум. Да, его преимущество в беспристрастности, а в критериях добра и зла он разбирается не хуже нас с тобой, но это понимаем лишь мы. Как будет выглядеть для человечества переход под власть такой няньки?

Её верный паж смог лишь пожать плечами.

— Кто-то, как всегда, напишет кучу глупостей в Интернете. Кто-то придёт в панику и начнёт распространять сплетни про захват человечества машинами. Никки, я не понимаю, что тебя беспокоит. Мы-то ведь знаем, что всё это ерунда, Робби всегда прекрасно владел самообучением, а кое-как конфронтировать распространение нежелательных мемов в Сети наши пиар-технологии нам позволяют.

— А если не ерунда?

Синие глаза Никки сощурились. Схватив один из апельсинов в вазе, она сдавила его так, что сок сквозь кожуру брызнул наружу.

— Я прочитала несколько лет назад одну книгу,  — проговорила королева, разглядывая собственные пальцы.  — Странная философская зарисовка, написанная кем-то ещё в начале двадцать первого века. Называлась «Пандем». Описанный там сценарий, как ни странно, очень тесно пересекается с получившими известность позже сценариями побочных эффектов развития дружественного искусственного интеллекта, хотя во времена написания книги всерьёз эти сценарии мало дискутировались.

Она облизнула кончик мизинца от сока.

— По сюжету книги, на Земле появляется дружественная ко всем сверхъестественная сила, называющая себя Пандем и любящая всё человечество. Происхождение её не раскрывается, сам Пандем говорит, что человечество каким-то образом косвенно породило его, а подробностей, дескать, человеческим умом не понять. Он становится личным другом каждого человека на Земле, пытается всех мирить, успешно перевоспитывает преступников, предотвращает смерти от болезней и от несчастных случаев. Вот про старость не помню — давно читала, это как-то вылетело из головы.

— Даже не занимаясь поиском обсуждаемого материала в Сети, можно легко предсказать концовку,  — мерно прогудел синтезированный голос Робби.  — Исходя из законов жанра...

Никки кивнула.

— Человечество деградирует. Жизнь становится разлюли-малина, за несколько поколений люди забывают даже что такое «прищемить пальчик». Пандем вроде бы и пытается предотвратить это, ограничивая свою помощь, но авторы в философическом угаре объясняют нам, что, дескать, искренняя гигантская любовь мало совместима с качественной педагогикой.

— Но это же глупость!  — возмутился Джерри.  — Есть масса примеров обратного, когда именно любовь и терпение позволяли совершить чудо. Тот же Макаренко...

Робби издал грамотно имитированный звук кашля, словно собираясь что-то сказать. Но Никки не дала ему, устало махнув рукой.

— Я знаю, что это спорно. Но всё равно наш проект слишком похож на описанное в той антиутопии. Выдать чуть ли не каждому сотому — а со временем и 

вовсе практически каждому?  — эдакий бесплатный браслетик с роботом-советчиком, который будет помогать хозяину, а по факту и незаметно воспитывать его. Объединить всех роботов-советчиков в единую сеть-няньку навроде Пандема. Интересно, как быстро люди станут воспринимать помощь Робби как должное, словно бы считая саму вселенную обязанной помогать им?

Джерри опустил голову, плечи его обвисли.

— У всего есть свои негативные стороны. Разве мы не привыкли к электричеству, водопроводу, киберсетям? Мы уже феноменально неприспособленные к жизни эльфы — если смотреть на нас глазами первобытного человека.

— В том-то и дело,  — сжала королева Гринвич зубы.  — Электричество, водопровод, киберсети — воспринимаются нами как мёртвые статичные объекты. Как ресурс. Как нечто, за что не придётся отчитываться и чем можно пользоваться без малейших ограничений.

— Работяги с Тритона, вынужденные экономить каждый кубический сантиметр воды, не согласятся с тобой,  — заметил Джерри.  — А что, у тебя есть конструктивные предложения, как можно изменить отношение человечества к сети-няньке?

Никки хрустнула кулаками.

— Да, есть.

Она сглотнула слюну.

— Её нужно очеловечить. Не смотри на меня так — да, я знаю, что Робби чертовски человечен, ты это знаешь, но для миллиардов людей этого мало. Психологические эксперименты показывают, что человеческую тягу к воровству и халяве может уменьшить даже плакатик со схематическим изображением человеческого лица — если разместить его, скажем, над вазой с печеньем, стоящей где-нибудь в общественном месте.

Робби снова издал звук, похожий на кашель.

— Вообще-то данные тех старых экспериментов позже не удалось подтвердить. Исследования, проведённые...

Никки вновь отмахнулась:

— Прости, Робби, это сейчас не принципиально. Фейковый результат или нет, определённые интуитивно ощущаемые нами наклонности в нас же он прекрасно показывает.

— Так что ты предлагаешь?

Она взглянула в глаза своему собеседнику.

— Тот жестокий эксперимент с изолированным в виртуальности разумом. Я знаю, ты помнишь его. При всей своей жестокости он преследовал целью не только постановку биокомпьютеров на поток.

— Да, я помню.  — Её Лев нахмурился.  — Они планировали получить больше сведений о взаимосвязи меж когнитивными процессами и нейронным субстратом. Что в перспективе могло бы позволить загрузку сознания в киберпространство, выражаясь вульгарно.

— Исследования не были доведены до конца.  — Королева Гринвич присела на краешек фиолетового дивана.  — К счастью. Но даже промежуточные результаты позволили кое-чего достичь в этом плане.

Она взглянула на свои ногти.

— Трекинг поведения человека в виртуальности с одновременным отслеживанием его синаптических сигналов позволяет создать его упрощённую копию. Своего рода модель — сравнительно бедную и примитивную, вроде «живых портретов» из той книги, напоминаниями о которой меня так доставали в Лунном Колледже. Она не будет иметь всех воспоминаний и опыта оригинала, не говоря уж о перехвате потока последних мыслей, так что назвать это «бессмертием» даже в кавычках едва ли возможно. Впрочем, часть недостающих воспоминаний можно вписать позже вручную уже после создания копии.

Джерри моргнул.

— Ты предлагаешь...

Королева, смежив веки, кивнула, её собеседник сглотнул комок в горле.

— Это... плохая идея.  — Он даже похолодел, представив последствия.  — Это очень плохая идея, Никки. Ты говорила, что людям не понравится мысль о надзоре бездушной 

киберсистемы, но ещё меньше людям нравится мысль о контроле со стороны кого-то из них. Как сказал некто в начале позапрошлого века: «Главнейшая из причин отвергать человекоподобие Бога — невыносимость той мысли, что Бог нам подобен и впридачу к этому наблюдает за нами в туалете».

— Я думала об этом,  — усмехнулась краешком рта собеседница.

— И?

Вместо ответа она вывела на стену напротив старые снимки, сделанные репортёрами многие годы назад. Снимки, прекрасно знакомые Джерри.

— Помнишь, с чего всё началось?  — Он смог лишь кивнуть.  — Девочка-подросток, спасённая с астероида. Для многих я до сих пор таковой и осталась. Символ своего рода.

Никки улыбнулась не без горечи.

— Перед подростком не комплексуют. Подростка — особенно девочку-подростка — редко подозревают в коварных замыслах по захвату мира. Вместе с тем — если мой юный образ будет в каждом браслете-советчике, это будет восприниматься естественно и символично.

— Образ на экране браслета?  — Джерри скептически хмыкнул.  — Картинка, которую нельзя даже в полный рост увидеть. С тем же успехом сам Робби мог бы имитировать что-то подобное.

— Робби не владеет настолько пониманием человеческих мотиваций,  — серьёзно сказала Никки.  — А я — владею. Что до образа...

Она нажала какую-то кнопку, на глазах у Джерри экранная девчонка-подросток сделала несколько шагов к зрителям, буквально отделившись от стены.

— Технология 3D-проецирования, доведённая наконец до ума. И это не всё. Тот жестокий эксперимент сильно продвинул наши познания по части нервной стимуляции. Небольшой нейроиндуктор в браслете сможет по необходимости внушать что-то вроде простеньких галлюцинаций — хотя лишь в рамках программы, только для оживления персонажа. Виртуальная Никки из браслета — она сможет даже пожать тебе руку, если тебе это нужно, чтобы поверить, что она человек.

Джерри перевёл дух. Оказывается, несколько последних секунд он не дышал, захваченный картиной того фантасмагорического бреда, что на полном серьёзе расписывала ему Никки.

— Несколько миллиардов тебя.  — Он хихикнул как пьяный.  — Диктатура всесистемного масштаба. Эй, а чем риск, что с человеком пойдёт что-то не так, лучше риска, что с искусственным интеллектом пойдёт что-то не так?

— Я хотел спросить то же самое,  — обиженно прогудел Робби.

Никки Гринвич фыркнула.

— Не меня.  — Она подняла снова пальцы к глазам, словно проверяя, вылизала ли апельсиновый сок.  — Очень упрощённых копий. С детерминированными правилами поведения. Никакого бунтарства, дружеское отношение к людям и к носителю браслета в отдельности, минимум нарушений приватности. Запрет на ложь — кроме ряда строго оговорённых и жёстко закреплённых в программе случаев. Этичность — впрочем, думаю, этика будет использоваться скорее утилитарная, а уважение к местечковым культурным табу и загибам будет поддерживаться лишь постольку, поскольку способствует общему благу. Все преимущества искусственного интеллекта останутся на местах — мгновенный анализ данных, неподверженность эгоистичным негативным эмоциям, способность к обмену данными между копиями. Фактически, это будет отчасти гибрид упрощённой версии меня и многократно усложнённой версии самого Робби.

Джерри смолчал.

Ему всё равно не нравилась эта идея. Но возражений он почему-то — быть может, из-за чрезмерной своей культурности?  — не мог сформулировать даже для себя самого.