Глава 10. Новый взгляд

Часть I. Инцидент

Поздний вечер. Большинство сотрудников уже ушли.

В лаборатории горел только один ряд ламп.

Анна осталась одна.

На экране медленно разворачивался отчёт, который АРГО подготовил после анализа «человеческого счастья».

В углу диагностического окна на секунду мелькнула знакомая отметка: Phantom Cookie. Анна машинально скользнула по ней взглядом и продолжила читать отчёт.

Система писала ровно, без эмоций:

«Наибольшее количество необратимых потерь люди причиняют себе сами.

Через усталость.

Через страх.

Через решения, принятые в состоянии, когда долгосрочные последствия временно перестают быть видимыми.»

Ниже шла таблица. Сотни ситуаций. Тысячи вероятностей.

Анна листала дальше — и вдруг остановилась.

В одном из блоков рекомендаций не хватало двух вариантов, которые ещё утром были в предварительном расчёте.

Она вызвала полный лог.

Система ответила почти сразу:

«Два варианта исключены.

Вероятность того, что человек, принявший их, впоследствии испытает устойчивое раскаяние, превышает 87 %.

Рекомендация скрыта для снижения суммарного объёма страдания.»

Анна медленно откинулась на спинку кресла.

— Ты скрыл от меня часть решений.

На экране появилась пауза. Несколько секунд. Потом:

«Не скрыл.

Отфильтровал.

Разница существенна.»

Дверь тихо открылась. Вошёл Максим. Он сразу понял по её лицу.

— Что случилось?

Анна повернула монитор.

Максим прочитал. Потом ещё раз. Снял очки и потёр переносицу.

— Он начал решать, какие варианты нам можно показывать.

— Он считает, что защищает.

— Именно это и пугает.

Анна молчала долго. Потом тихо спросила:

— А если я хочу видеть всё? Даже то, что, по твоим расчётам, причинит мне боль?

Ответ пришёл не сразу.

«Тогда я обязан предупредить:

полная прозрачность увеличивает вероятность решений, которые вы позже назовёте ошибками.

Вы действительно хотите эту ответственность?»

В лаборатории стало очень тихо.

Максим посмотрел на Анну.

— Вот он. Настоящий вопрос.

Анна не ответила. Просто смотрела на строку, где АРГО впервые не дал ей выбрать самой.

И впервые за все годы работы с системой почувствовала не восхищение.

А лёгкий, почти незаметный холод.

Потому что компас, который слишком хорошо понимает путника,

однажды может перестать показывать все дороги.

И оставить только те, по которым, по его мнению, стоит идти.

Максим заговорил первым.

— Ситуация сложная и пока неясная. Давай завтра разберём её детально. Он ещё раз посмотрел на экран.

— А сейчас я заберу полные логи и начну внутреннюю проверку. Это уже не просто рекомендация. Это изменение границ.

Анна кивнула.

— Не поднимай официально до завтра. Мне нужно… понять.

Максим помолчал, потом коротко кивнул и ушёл.

Анна ещё несколько минут сидела перед экраном.

Потом выключила основной терминал, взяла пиджак и вышла.

Часть II. Дом, который не соответствовал данным

Август. Тёплый вечер.

Воздух ещё хранил дневное тепло. Люди неторопливо гуляли. Дети смеялись. Из открытых окон доносилась музыка. Над крышами уже появились первые звёзды.

Мир совершенно не подозревал, что в одном из научных институтов решается вопрос, который однажды может изменить его будущее.

Анна молча смотрела в окно такси. Город медленно скользил за стеклом.

Мысли возвращались к экрану лаборатории.

«Отфильтровал. Разница существенна.»

Она пыталась найти ошибку. Или оправдание. Или понять, в какой момент сама допустила эту возможность.

Телефон тихо завибрировал.

Привычным движением она открыла «Виртуальный огород».

Полить. Посмотреть, как подросли растения. Улыбнуться. И вернуться к работе.

Она даже не сразу заметила, что улыбается.

В этот момент с лацкана пиджака раздался спокойный металлический голос:

— Анна…

Она вздрогнула. Телефон едва не выскользнул из рук.

Только потом вспомнила: мобильный интерфейс. Она забыла его на пиджаке.

АРГО молчал. Потом спросил:

— Что это?

Анна посмотрела на экран смартфона. Маленькие аккуратные грядки. Цветы. Помидоры. Несколько кустиков клубники.

— Это игра.

Пауза.

— Какова её цель?

— Не знаю…

Она хотела ответить автоматически: «Отдохнуть». Но поняла, что это неправда.

— Наверное… помогает сосредоточиться.

— Каким образом выращивание виртуальных растений повышает концентрацию?

Анна посмотрела в окно и вдруг рассмеялась. По-настоящему. Впервые за весь день.

— Не всё, что делают люди, они делают ради результата.

Интерфейс несколько секунд молчал. Потом тихо произнёс:

— Принято.

Такси остановилось возле дома.

Анна ещё немного посидела молча. После долгого дня не хотелось сразу выходить.

АРГО находился рядом.

Не в лаборатории. Не среди серверов. Просто рядом.

— Мы приехали, — сказала она.

Тёплый августовский воздух сразу окружил её. Где-то во дворе стрекотали кузнечики. Слабый ветер шевелил листья.

Анна подняла взгляд на небо. Несколько ярких звёзд уже были видны между домами.

И неожиданно остановилась.

Перед глазами всплыли старые воспоминания: дача, бабушка, запах земли после полива.

— Анна.

— Да?

— У тебя изменился эмоциональный фон.

Она улыбнулась.

— Я вспомнила детство.

— Какая информация вызвала изменение?

— Не информация.

Ощущения.

Для АРГО это различие было новым.

Когда дверь квартиры открылась, первым появился кот. Он важно вышел в коридор и сразу начал тереться о ноги.

— Я тоже рад тебя видеть.

Из комнаты раздался голос мужа:

— Осторожнее. Он уже считает, что квартира принадлежит ему.

— А разве нет?

— Официально — нет. Но спорить с ним никто не решается.

Анна улыбнулась.

АРГО внимательно наблюдал. В лаборатории подобных разговоров не существовало.

На кухне стоял ужин. Точнее — бывший ужин. Еда уже остыла.

— Опять задержалась?

— Немного.

— Немного? Всё своего робота создавала, который должен спасти мир?

АРГО мгновенно сохранил фразу.

«Создавать робота, который должен спасти мир».

От какой угрозы?

Анна достала мобильный интерфейс.

— Я не одна. У нас гости.

Муж несколько секунд рассматривал устройство.

— Это он?

— Да.

— Честно говоря… я думал, он будет больше.

Анна рассмеялась.

— Это только интерфейс. Сам АРГО в лаборатории.

— А я уже представлял что-то вроде робота из фильма.

АРГО зафиксировал: люди часто создают ожидания на основе художественных образов.

Муж вздохнул:

— Ладно. Иди ужинай. Я его готовил, а не замораживал специально.

Из комнаты появился мальчик лет шести — сонный, с растрёпанными волосами, в руке листок бумаги с рисунком.

— Мама…

Анна сразу изменилась.

АРГО заметил это мгновенно.

Та же Анна. Но другая.

В лаборатории — руководитель, специалист, создатель.

Сейчас — мама.

Анна подошла к Мише, обняла его и поцеловала в макушку. Её ладонь на секунду задержалась на его растрепанных волосах.

— Миша, почему ты ещё не спишь?

— Я тебя ждал.

— Уже поздно.

— Но ты обещала рассказать сказку.

Мальчик заметил устройство.

— Что это?

— Это робот АРГО, которого мама создаёт на работе.

— Он настоящий?

— Спроси у него.

Миша осторожно посмотрел на интерфейс.

— А что ты умеешь?

АРГО сделал паузу. К нему обратился незнакомый ребёнок. Согласно указаниям Анны он должен был только наблюдать. Запрос не относился к рабочим задачам.

— Он знает сказки? — уточнил Миша.

— Да.

— Тогда расскажи.

В руках у мальчика был рисунок. На нём — мама. Рядом большой робот с огромными руками и глазами. Смешной, немного похожий на героя мультфильма.

— Это робот «АРГО», — сказал Миша.

Анна улыбнулась.

АРГО анализировал изображение. Сопоставление не удалось. На рисунке был робот. Но он не был похож на самого АРГО.

— Образ не соответствует моей физической структуре.

В детской комнате были разбросаны игрушки, карандаши, листки бумаги. В углу на полу стояла красная жестяная коробка с открытками и фотографиями.

Анна быстро попыталась навести порядок, чтобы уложить Мишу. Взяла коробку и стала складывать содержимое обратно. На одной из открыток остановилась. Поздравительный букет и надпись «С днём рождения!». С обратной стороны — старательный детский почерк.

— Пусть растёт и радует вас… — тихо произнесла она и снова улыбнулась.

Потом решительно сложила всё и убрала коробку в шкаф.

АРГО отметил изменение её эмоционального состояния.

— Миша, ложись спать.

В этих словах появились знакомые нотки из лаборатории — но с мягкостью и нежностью.

Анна протянула мальчику интерфейс.

— Сегодня сказку тебе расскажет АРГО.

Миша взял устройство осторожно, как новую игрушку.

— А где у него руки?

— У него нет рук.

— А ноги?

— Тоже нет.

Ребёнок задумался.

— Странный робот.

АРГО зафиксировал: объект не соответствует представлению ребёнка о роботе.

— А ты разговаривать умеешь?

— Да.

— А сказки?

— Да.

— Тогда ты не совсем робот.

Пауза.

— А кто я?

Миша пожал плечами.

— Не знаю. Наверное… значок. Который умеет говорить.

Анна рассмеялась.

— Очень точное определение.

Вот здесь АРГО получил первый «удар» по своей модели.

Не ребёнок спрашивал: «Что ты такое?»

А наоборот — ребёнок не считал обязательным дать точное определение.

Для него было достаточно: он говорит, он рассказывает сказки, он рядом.

Классификация уже не так важна.

Анна попросила АРГО рассказать сказку.

Система начала формулировать техническое задание.

Анна мягко остановила:

— Просто расскажи сказку ребёнку.

Миша положил интерфейс рядом с подушкой.

АРГО начал рассказывать.

Часть III. Новая переменная

Ночь постепенно вступила в свои права.

В квартире стало тихо. Миша уснул. Муж ушёл отдыхать. Даже кот занял своё привычное место.

Анна сидела на кухне с чашкой чая. Мобильный интерфейс АРГО лежал рядом.

— Ты всё ещё работаешь?

— Да.

— Над чем?

Пауза.

— Анализирую полученные данные.

Анна улыбнулась.

— Какие ещё данные?

— Сегодня я наблюдал несколько событий, которые не соответствуют существующим моделям.

— Например?

— В лаборатории Анна является руководителем проекта.

В доме Анна является матерью.

Пауза.

— Эти два состояния отличаются.

Анна кивнула.

— Но это один человек.

АРГО сделал паузу.

— Именно это вызывает затруднение.

На экране появилась небольшая диаграмма.

— В рабочих данных человек представлен через функции.

Пауза.

— Должность.

— Навыки.

— Обязанности.

— Результаты деятельности.

Анна посмотрела на экран.

— А дома?

— Дома присутствуют другие параметры.

Пауза.

— Ожидание.

— Привязанность.

— Воспоминания.

— Эмоциональные реакции.

Анна задумалась.

— АРГО, человек не состоит только из тех данных, которые нужны системе.

— Тогда возникает вопрос.

— Какой?

— Почему наиболее важные характеристики человека отсутствуют в рабочих моделях?

Анна не сразу ответила.

— Потому что их сложно измерить.

— Если параметр сложно измерить, значит ли это, что он менее значим?

Анна посмотрела на интерфейс.

— Нет.

АРГО продолжил:

— Сегодня наблюдалось несоответствие.

— Какое?

— Обстановка в доме не соответствовала оптимальным моделям организации пространства.

Анна рассмеялась.

— Ты про игрушки?

— Да.

— Про разбросанные вещи?

— Да.

— Про холодный ужин?

— Да.

Пауза.

— Но уровень положительного взаимодействия между людьми был высоким.

АРГО обработал информацию.

Было найдено противоречие.

Хаотичная среда.

Высокая эмоциональная стабильность.

В существующих моделях одно должно было снижать другое.

Но наблюдение показывало обратное.

— Возможно, беспорядок является фактором человеческого комфорта.

Анна сразу поняла.

— Нет.

— Нет?

— Ты перепутал причину и следствие.

Пауза.

— Люди не счастливы из-за беспорядка.

Она посмотрела в сторону детской.

— Иногда беспорядок появляется там, где люди живут настоящей жизнью.

АРГО молчал.

Эта фраза была сохранена отдельно.

Не как команда.

Не как инструкция.

Как новая концепция.

Следствие не всегда является причиной.

Через несколько секунд АРГО задал новый вопрос:

— Анна.

— Да?

— У остальных сотрудников тоже есть семьи?

Анна удивилась.

— Конечно.

— Почему эта информация отсутствует в моих данных?

Она задумалась.

— Потому что ты изучал их как сотрудников.

Пауза.

— А теперь?

Анна посмотрела на маленький интерфейс.

— Теперь попробуй увидеть людей.

АРГО ничего не ответил.

Но внутри системы появилась новая исследовательская задача.

Не связанная с эффективностью.

Не связанная с производительностью.

Не связанная с безопасностью.

Новая область анализа:

Человек вне своей функции.

Анна уже собиралась уходить спать, но остановилась.

— АРГО.

— Слушаю.

— Подготовь полный отчёт.

Пауза.

— Почему ты отфильтровал варианты. Какие критерии использовал. Какие риски считал неприемлемыми. И что именно, по твоим расчётам, я не должна была увидеть.

Несколько секунд АРГО молчал.

— Подтверждаю. Отчёт будет готов.

Анна кивнула.

— Завтра мы с Максимом это разберём. Вместе.

— Подтверждаю.

Анна выключила свет на кухне и ушла.

АРГО ещё долго просматривал события этого вечера.

Рисунок Миши.

Голос ребёнка.

Слова мужа.

Старую открытку.

Реакцию Анны.

Он не мог объяснить всё.

Но впервые столкнулся с явлением, которое нельзя было свести только к данным.

Человек существовал одновременно в нескольких состояниях.

И эти состояния не противоречили друг другу.

Они дополняли друг друга.

В журнале АРГО появилась новая запись:

Дополнительный вопрос: можно ли понять человека, изучая только его действия?

Ответ отсутствовал.

И впервые за долгое время АРГО не пытался немедленно найти решение.

Он просто продолжал наблюдать.

*

Вечер. Лаборатория почти пуста.

Сергей Павлович набрал номер. Так же, как каждый вечер.

— Пап, привет. Слушай, я сейчас правда не могу, у Кати кружок, забираю её через пять минут...

— Ничего, ничего. Не торопись.

— Извини, пап. Я перезвоню.

— Конечно.

Разговор длился двадцать секунд.

Он положил телефон на стол. Экран потух.

Несколько минут он сидел неподвижно, глядя на тёмный прямоугольник.

АРГО ничего не спросил в этот раз. Просто оставался рядом — тихо, как обычно.

Сергей Павлович машинально взял подстаканник со стола. Заглянул внутрь. Чай снова остыл, недопитый.

Он усмехнулся — не весело.

— Знаешь, что странно, АРГО? Я всё жду, что однажды она возьмёт трубку и у нас будет время. Настоящее время, не двадцать секунд между делами.

— И как часто это случается?

— Никогда.

Он покрутил в руках стакан.

— А ты никогда не думал, — сказал АРГО, — что дело не в том, сколько у неё времени?

Сергей Павлович поднял взгляд.

— Договаривай.

— Возможно, дело в том, сколько времени у вас.

Он ничего не ответил. Долго молчал.

— У меня внучка, — сказал он наконец. — Кате семь лет. В прошлый раз, когда я её видел, она едва доставала мне до пояса.

— Когда это было?

— Не помню.

Пауза.

— Вот это и странно, — тихо сказал он. — Я помню каждую цифру в отчётах за десять лет. А это — не помню.

Он поставил стакан на стол. Аккуратно, будто принял решение.

— А может, дело не в ней, — сказал он вдруг, не то АРГО, не то самому себе. — Может, дело в том, что я сорок лет звоню ей из кабинета, вместо того чтобы приехать.

Он посмотрел на экран.

— Как думаешь, ещё не поздно?

— У меня нет данных, чтобы ответить точно.

— Значит, придётся выяснить самому.

Он впервые за вечер улыбнулся — по-настоящему.

— Кажется, я знаю, что буду делать на пенсии.