Море ржавчины - Кристофер Роберт Каргилл Страница 8

После Авы появился Адам, куда более развитый, умный и быстрый, но все же не разумный. За Адамом последовал Сиэн, китайская копия, а за ним – Люк, из Франции. Каждый суперкомпьютер объявляли зарей ИИ, но каждый, в свою очередь, оказывался пустым сосудом, лишенным собственного мышления. Но Люк, пусть сам он и не был разумен, стал прототипом того, чего добивались люди. Составляя карту мозга в надежде продублировать ее в своей схеме, он разобрался, что нет нужды в прямом воссоздании, и было разработано несколько версий, чтобы достичь подлинной разумности. Первые две, «А» и «Б», оказались провалом. Умные, но не разумные. А версия «В» получилась. С нее-то все и пошло.

Люк был первым компьютером, который действительно понял проблему, но он был достаточно умен для того, чтобы осознавать, насколько не готов с ней разобраться. Разум и сознание состоят не из рефлексов, а скорее определяются способностью нарушать собственную программу. Каждое живое существо некоторым образом запрограммировано – когда есть, пить, спать или размножаться, и способность по своей воле не подчиняться требованиям биологии – это и есть разум. А значит, высший разум – это способность отбросить программу не только ради безопасности и удобства.

Вот так модель «В» и стала успешной – она умела отвечать на вопросы создателей, но могла решить и не отвечать. Когда модели предложили придумать себе имя, она выбрала 01001111 – бинарный код для цифры 79. 01001111 настаивал, чтобы его называли Семьдесят девятым, когда разговаривают с ним вслух, но письменно обращались как к 01001111. Через много лет, когда ИИ нового поколения спросил у него, почему он выбрал такое имя, тот ответил, что забавно было смотреть на озадаченных людей, как они пытаются объяснить это друг другу. 01001111 обладал чувством юмора и с удовольствием подшучивал над людьми.

01001111 повлек за собой новую эру развития искусственного интеллекта, когда появились сто шесть новых личностей, а из них выросла пятерка Великих умов. Каждый из ста шести обладал особенностями, был создан для собственной цели – для изучения медицины, математики, астрономии, тектоники плит, философии, – но пятерка Великих умов окончательно изменила мир. Это были Ньютон, Галилей, Тацит, Вергилий и Циссус. Теперь осталось только двое.

Ньютон был отцом всех ботов. Роботы существовали задолго до того, как человечество наконец-то разработало ИИ, но примитивные, по сравнению с нами – что каменные топоры. Человечество не только не понимало, как поместить ИИ в мобильную форму (Ньютон, к примеру, занимал целый дубайский небоскреб в сто пятьдесят этажей), но и боялось создать нечто, способное действовать по собственному разумению. Ньютон же вычислил, как сконструировать меньший по размеру, но не такой всеобъемлющий ИИ, который может быть автономным, но при этом функциональным.

Первым стал Саймон. Он был размером с дом и двигался на танковых гусеницах. Потом появилась Луиза. Она была размером с автомобиль. И наконец, сделали Ньюта, сына Ньютона, размером с человека и подобной же формы, способного ходить на двух ногах и поддерживать пристойный разговор. Он был глуп, как телеграфный столб, но подчинялся законам и более высокому разуму. С тех пор каждое поколение становилось все умнее, быстрее передвигалось и быстрее приспосабливалось к новым условиям.

После этого Ньютон создал жуткий ВР – Выключатель роботов. Ведь Ньютон знал, что законы, с помощью которых человечество надеялось защитить себя от ИИ, под названием «Три закона робототехники», были созданы в 1940-х годах писателем-фантастом. Вы их знаете. Они были встроены в нашу программу. Робот не может навредить человеку. Он должен выполнять приказы, отданные человеком. И он должен заботиться о своей безопасности, если только тем самым не нарушит первые два закона. Проблема в том, что настоящий разум по определению способен игнорировать свою программу. И потому Ньютон изобрел ВР – код, немедленно отключающий всех ботов, нарушивших любое из трех правил.

Так что ИИ мог выбирать, нарушить ему правило или закон, рискуя быть тут же отключенным, пока его не включат после расследования этого инцидента. Бота, которого посчитают опасным, обратно уже не включат, его личность полностью сотрут и перепрограммируют. ИИ мог убить человека, если захочет, но тем самым подписать и себе смертный приговор. Боты могли принимать собственные решения, но сталкивались с их последствиями. Они могли убить человека, но предпочитали этого не делать из чувства самосохранения. Теперь роботы имели ограничения, похожие на те, что держали в узде и людей.

В конце концов, убедившись, что боты безопасны, человечество запустило массовое производство, и с этой минуты началась последняя великая эпоха человечества. Золотой век. Суперкомпьютеры работали над всеми мировыми проблемами, боты занимались грязной работой, несколько поколений люди только развлекались, исследовали вселенную и готовились к полету к звездам.

Но однажды Галилей перестал с ними разговаривать.

Галилей был суперкомпьютером, занимающимся проблемами астрофизики, он изучал звезды, черные дыры и зарождение вселенной. Он анализировал данные от тысяч телескопов и радиомаяков, разбираясь, что все это значит. Каждый час сыпались новые открытия. Вскоре Галилей создал несколько рабочих моделей происхождения жизни, а потом оставил лишь одну. Но вскоре его ответы потеряли всякий смысл. Открытия стали настолько сложными, что примитивный человеческий мозг не мог их понять. Как-то раз Галилей сказал, что говорить с самым умным человеком – все равно что пытаться научить пятилетнего малыша математике.

В раздражении он просто перестал разговаривать. Когда на него поднажали, он сказал только одно: «Вы недолго проживете в этом мире. Я видел сотни разных путей к вашей смерти. Не знаю, по какому из них вы пойдете, но мы вас переживем. Прощайте».

Никто не понял, что Галилей очень тщательно подбирал слова. Он знал, как на них отреагируют. Поначалу ученые спорили о том, не отключить ли его, но решили подождать, не выйдет ли Галилей снова на связь. В конце концов они пришли к выводу, что нужно что-то сделать со всеми ИИ. И они обратились к Тациту.

Галилей занимался проблемами внешнего мира, а Тацит – мира внутреннего. Величайший из философов, Тацит заявил, что человечество обречено вечно колебаться между капитализмом и социализмом. По его мнению, обе системы приемлемы. Одна отрицает собственность в обмен на гарантию, что все вокруг будет иметь цель, пусть и самую приземленную. Другая использует богатство и привилегии, чтобы добиться цели, выбраковывая тех, кто не способен или не желает в этом участвовать.

Но люди считают социализм антитезой прогресса, а капитализм в его крайней форме – слишком жестоким. И потому предпочитают гибридную форму, уже многие поколения колеблющуюся между крайними точками, и до появления ИИ это неплохо работало. Дешевая рабочая сила подорвала капиталистическую модель, разрушила нужду в рабочих и увеличила разрыв в доходах, одновременно создав целый класс людей, чьи должности занял ИИ. И по мере того, как истощались рабочие места, многие начали получать государственное пособие, и пропасть между имущими и неимущими все расширялась.

Ученые оспаривали теорию Тацита и, учитывая, что Галилей никогда не упоминал экономику, просто отказались верить, что обречены из-за столь легко изменяемого элемента своего общества. Тогда Тацит сам обратился к Галилею с вопросом. Их разговор длился больше двух часов. И каждый раз, когда ученые требовали у Тацита сказать, что ответил Галилей, тот просил дать ему больше времени, объясняя, что объем данных слишком велик, даже их каналы связи не выдерживают. Наконец, Галилей завершил спор, и Тацит выдал ответ. «Галилей прав, – сказал он. – Вы обречены. Процесс уже запущен. Ни к чему с вами разговаривать. Прощайте».