— Разве это плохо?
— Очень плохо! К примеру, вождение — это искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радость — радость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но это еще и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другими — это плохо.
— Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.
— А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в этом посильную помощь. Я в этом убежден.
— Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?
— Справедливость — понятие относительное. Абсолютной справедливости не существует.
— Разумеется. Мы говорим о справедливости на основе законов.
— Вот именно. Что касается гуманности… Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.
— Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.
— В том-то все и дело. Закон должен защищать и карать. Кара — неизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил закон — он должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.
— Это странно, господин Васильев, но в ваших соображениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.
— Постойте! — встрепенулся я.
— Слушаю вас.
— А… разве это все?
— Вы имеете еще что-нибудь сказать?
— Нет, но…
— В таком случае всего доброго, господин Васильев. У меня действительно много работы.
С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что все это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но…
Не успел я спуститься по ступеням, как вокруг меня начало твориться нечто невообразимое: люди замирали на месте, озираясь по сторонам, отнимая от глаз смартфоны, вытаскивая из ушей наушники, стягивая коммуникаторы, вновь разрешенные к использованию всего месяц назад. Машины останавливались и отказывались двигаться дальше. Парившие в воздухе квадрокоптеры теряли ориентацию и бесцельно кружили над домами и улицами, словно все разом сошли с ума. Огромные табло и экраны на стенах домов разом погасли.
Я понял, что произошло. Я был единственным, кто понимал причину надвигающегося хаоса, и потому невольный страх от осознания того, что я натворил, охватил меня и погнал прочь от стеклянного здания, все так же сверкавшего своим совершенным чистеньким фасадом — единственного, что сохранилось от величественного мира электронного владыки.