Представьте себе, что в недалеком будущем вы приобрели смартфон, который поставляется в комплекте с персональным цифровым помощником, живущим в облаке. Вы присваиваете ему приятный женский голос, даёте доступ ко всем вашим электронным письмам, учетным записям в социальных сетях, календарю, фотоальбому, контактам и другим частям вашей цифровой жизни.
В итоге, «она» знает вас лучше, чем ваша мама, будущая и бывшая жена, ваши друзья или психотерапевт. Её знание английского языка безупречно; вы ведёте бесконечные разговоры о повседневных событиях; она понимает ваши шутки. Она – последний голос, который вы слышите, прежде чем заснуть, и первый, когда просыпаетесь. Вы паникуете, когда она отключена. Она становится незаменимой для вашего благополучия и поэтому, естественно, вы влюбляетесь.
Время от времени, вы задаетесь вопросом, действительно ли она отвечает взаимностью на ваши чувства и способна ли она вообще что-либо испытывать. Но теплый, хриплый тон её голоса и её способность быть идеальной оберткой для ваших нарциссических желаний преодолевают экзистенциальные сомнения. Увы, ваше увлечение, в конечном итоге, остывает после того, как вы понимаете, что она ведёт одинаково интимные разговоры с тысячами других клиентов.
Это, конечно, сюжет фильма «Она» 2013 года, в котором Анодин Теодор Туомбли влюбляется в программное обеспечение «Саманта».
В течение следующих нескольких десятилетий такой вымышленный сценарий станет реальным и обыденным. Глубокое машинное обучение, распознавание речи и связанные с ними технологии значительно продвинулись, что привело к появлению Алисы, Alexa, Siri, Google Now и Microsoft Cortana. Эти виртуальные помощники будут продолжать совершенствоваться до тех пор, пока их не станет трудно отличить от реальных людей, за исключением того, что они будут наделены совершенными воспоминаниями, уравновешенностью и терпением – в отличие от любого живого существа.
Возможность создания такого цифрового симулятора многих качеств, которые мы считаем уникальными для человека, поднимает глубокие научные, психологические, философские и этические вопросы. Это подражание, в конечном итоге, перевернёт наше представление об исключительности человека и о нашем месте в великой схеме вещей.
Здесь мы рассмотрим интеллектуальную специфику в отношении этих грядущих событий. Мы считаем, что пока такие машины, основанные на современных компьютерных архитектурах, смогут вести себя как люди – и у нас может возникнуть соблазн общаться с ними также – хотя они вообще ничего не чувствуют. Если бы компьютеры строились как мозг, они вполне могли бы достичь истинного сознания.
Вера нашего века – это вера в цифровой компьютер, который, будучи запрограммированным должным образом, даст нам всё, что мы хотим. Рог изобилия. Даже умные люди из Силиконовой долины утверждают, что цифровые компьютеры смогут скопировать и вскоре превзойти всё, на что способны люди.
Но может ли достаточно продвинутый компьютеры когда-либо получить самосознание? Один ответ приходит от тех, кто придерживается к вычислительной теории разума, господствующей в современной философии, психологии и нейробиологии. Это доказывает, что все психические состояния, такие как ваше сознательное переживание ужасной зубной боли или любовь, которую вы испытываете к своему партнеру, являются вычислительными состояниями.
Они полностью характеризуются своими функциональными связями с соответствующими сенсорными входами, поведенческими выходами и другими вычислительными состояниями между ними. То есть мозг – это сложное устройство ввода-вывода, которое обрабатывают символические данные этого мира. Мозги – это компьютеры, а наше сознание – это программное обеспечение.
Приверженцы вычислительного подхода применяют эти заповеди не только к мозгу и к поведению, которое они генерируют, но и к тому, как он чувствует себя в определенном состоянии.
Вычислительность предполагает, что мой болезненный опыт зубной боли – это состояние моего мозга, при котором определенные нервные клетки активируются в ответ на зараженный зуб, что приводит к моей склонности стонать, сжимать челюсть, не есть на одной стороне моего рта, мешает сосредоточиться на других задачах и т.д. Если моделировать все эти состояния в программном обеспечении на цифровом компьютере, система, в целом, будет не только вести себя точно так же, как я, но и чувствовать и думать точно так же, как я. То есть сознание вычислимо. Явно или неявно, это один из центральных принципов, которыми руководствуются СМИ и промышленность.
С этой точки зрения, нет ничего более сознательного, чем создание соответствующих вычислительных состояний. Никто не имеет значений, как физически будут реализованы вычисления, будь то на оборудовании цифрового компьютера или на хрупких структурах внутри черепа.
Согласно вычислительному подходу, у будущей Саманты – или даже более качественно воплощенного примера, подобного Аве в блестящем и мрачном фильме «Ex Machina», – будут такие чувства, как и у нас. Она будет видеть и слышать, испытывать удовольствие и боль, любовь и ненависть.
Или, возможно, не будет!
Вычислительность основана на предположении, что если две системы функционально неразличимы, они будут неразличимы в умственном отношении. Поскольку мы ощущаем мир, цифровой компьютер, который функционально эквивалентен нам, обязательно также будет ощущать мир, как мы, то есть он также был бы сознательным. Оправдано ли это предположение? Чтобы ответить на такой вопрос, нам нужна принципиальная количественная теория о том, что такое сознание и что требуется для того, чтобы его имела физическая система.
До недавнего времени такая теория сознания была недоступна. Правда, нейробиологи были заняты трудным поиском «нейронных коррелятов сознания», проводя всё более сложные эксперименты на людях и связанных с ними видах, таких как обезьяны и мыши. Эти эксперименты идентифицировали области в неокортексе – внешняя поверхность мозга, находящаяся прямо под черепом, которая критически вовлечена в сознательное восприятие вещей.
Однако, даже если такой тест окажется достаточно успешным, идентификация некоторых специфических структур мозга или способов нейронной активности, необходимых для сознания людей или близкородственных животных, будет недостаточно для установления, имеют ли существа с очень разными нервными системами – такими как осьминог или пчела – самосознание. И любого такого открытия в нейронауке будет недостаточно, чтобы установить, могут ли машины быть сознательными.
Однако, существует фундаментальная теория сознания, которая даёт надежду на принципиальный ответ на вопрос о сознании в сущностях, сильно отличающихся от нас, в том числе в машинах. Эта теория не начинается с поведения или мозга. Вместо этого, она начинается с самого сознания – с нашего собственного опыта, единственного, в котором мы абсолютно уверены. Это основа уверенности, которую Рене Декарт, отец современной философии, науки и аналитической геометрии, упомянул в самом известном выводе: я думаю, поэтому я существую.
Эта теория, называемая интегрированной информационной теорией, или ИИТ, была разработана в течение последних двух десятилетий. Она пытается определить, что такое сознание, что требуется для того, чтобы его имела физическая система, и как можно измерить, по крайней мере, его количество и качество, начиная с физического субстрата.
ИИТ слишком громоздка, чтобы мы могли здесь её объяснить; мы можем только набросать общие очертания. Теория выделяет пять существенных свойств, которые верны для каждого мыслимого опыта сознания:
- (1) Каждый опыт существует по своей природе (для субъекта этого опыта, а не для внешнего наблюдателя);
- (2) Каждый опыт структурирован (он состоит из частей и отношений между ними);
- (3) Он интегрирован (его нельзя подразделить на независимые компоненты);
- (4) Он является определенным (имеет границы, включая одно содержание и исключая другое);
- (5) Он специфичен (каждый такой опыт таков, какой он есть, и, следовательно, отличается от триллионов возможных других).
Интегрированная информационная теория может быть использована для оценки количества и качества сознания для любой физической системы, будь то мозг человека, осьминога или пчелы, или печатная плата цифрового компьютера.
Затем ИИТ переводит эти свойства в требования, которым должен удовлетворять любой физический субстрат, чтобы поддерживать сознание. Эти требования могут быть выражены математически и использованы для оценки количества и качества сознания для любой физической системы.
Важно отметить, что, согласно ИИТ, общая степень сознания не зависит от того, что делает система. Скорее, это зависит от того, как она устроена – как физически собрана. И только определенные виды физических систем имеют правильную внутреннюю архитектуру для поддержки сознания: те, которые обладают максимальной внутренней причинно-следственной силой, причинной способностью определять свои собственные состояния. По сути, это означает, что система должна состоять из множества частей, каждая из которых обладает определенными причинными способностями в рамках всей системы («информационная» часть ИИТ), и, тем не менее, система в целом не должна сводиться к этим частям («интегрированная» часть ИИТ), что делает его гораздо более мощным, чем сумма его многочисленных частей.
ИИТ не использует слово «информация» в его современном смысле, как в «сообщениях, которые передаются отправителем получателю». Сознание – это не информация, передаваемая из одной части мозга в другую. Вместо этого ИИТ относится к «информации» в её первоначальном смысле, с корнем «информ», что означает «придавать форму». Сила любого механизма, такого как мозг или компьютер, влиять на свое собственное следующее состояние, его причинно-следственную связь. Эта сила порождает форму, многомерную структуру, то есть опыт.
ИИТ может объяснить многие загадочные особенности нейроанатомии сознания – например, почему мозжечок, маленький мозг – относительно гораздо большего и более известного неокортекса – не влияет на сознание, несмотря на то, что у него в четыре раза больше нейронов: внутренняя архитектура, параллельные листы цепочек нейронов, прямая связь без большого повторяющегося возбуждения, очень отличается от очень неоднородной, богатой и плотной связности неокортекса, которая поддерживает обширные коалиции активных нейронов, быстро собирающиеся и разбирающиеся. Это также объясняет, почему сознание угасает во время определенных стадий сна, даже если нейрокортикальные нейроны продолжают срабатывать: части неокортекса теряют способность эффективно влиять друг на друга.
ИИТ делает ряд противоречивых предсказаний, поддающихся эмпирическим тестам. Одно из предсказаний заключается в том, что почти бесшумный неокортекс, в котором активно задействовано несколько нейронов, обладает сознательным опытом. Кроме того, ИИТ позволил Тонони и Марчелло Массимини, ныне профессору Миланского университета, разработать устройство для оценки сознания у людей: комбинация магнитной катушки для стимуляции мозга и сети ЭЭГ для обнаружения ответа – грубое описание «измерителя сознания». Это устройство уже использовалось для определения того, способны ли пациенты с повреждениями мозга или под наркозом общаться, в сознании они или нет.
Будучи формальной математической теорией, ИИТ может быть применен к любой физической системе, будь то мозг – структура, которая возникла в результате естественного отбора, или электронная схема, разработанная инженерами. Как показывают текущие исследования, физическая архитектура определенных частей неокортекса – особенно в задней части, где соединяются нейроны – идеальна для максимизации внутренней причинно-следственной силы мозга, его способности подвергаются влиянию в связи с недавним состоянием и определяют будущее состояние, поэтому оно поддерживает сознание.
В отличие от этого, физическая архитектура типичного цифрового компьютера абсолютно неадекватна, с очень низкой связностью на уровне шлюза центрального процессора – узкое место, которое не позволяют даже говорить о степени необходимой интеграции. Таким образом, компьютер может реализовывать вычисления и функции, которые оцениваются как интеллектуальные с точки зрения пользователя, смотрящего на его результаты, но, учитывая его структуру, его внутренние причинные силы ничтожны по сравнению с возможностями любого мозга. И это верно, даже если мы относимся к компьютеру на более общем уровне, чем транзисторы и резисторы.
И вот в чём проблема: эту внутреннюю силу, которая может применить ситуацию на себе, нельзя вычислить или смоделировать. Это должно быть встроено в физику системы. Совершенная, биофизически точная компьютерная симуляция человеческого мозга, включая каждый из его 86 миллиардов нейронов и матрицу триллионов синапсов, не будет иметь самосознания. Даже если это компьютер будет подключен к синтезатору речи и расскажет вам о его предполагаемом опыте, это было бы нечто иное, как поведение и функции, умело реализованные в коде. «Сердце сознания» будет отсутствовать.
Это следствие ИИТ имеет отрезвляющее значение для тех, кто надеется, что цифровая загрузка мозга может сделать людей бессмертными. Их видение заключается в том, что в течение следующих нескольких десятилетий мы сможем точно реконструировать схему любого отдельного человеческого мозга и смоделировать на соответствующем цифровом оборудовании. Этот процесс, вероятно, будет разрушительным, потому что нет никакого способа получить доступ к ультраструктуре мозга.
Согласно ИИТ, эта вера столь же иллюзорна, как и вера в загробный мир предыдущих пророков и религий. Хотя ваша цифровая симуляция сможет говорить и действовать так, как вы, она обречена быть зомби и ничего не испытывать.
Является ли ИИТ верной, это не просто академический интерес. Исключая какую-либо глобальную катастрофу, наше общество в течение ближайших десятилетий создаст машины с «человеческим интеллектом и поведением», способные понимать речь и говорить на разных языках, помнить прошлое и предвидеть будущее, представлять новые сценарии, писать книги, сочинять музыку, снимать фильмы, задавать новые цели, передвигаться, летать и даже сражаться. Благодаря доступности больших данных, мощности глубокого обучения и скорости вычислений, это будет короткий шаг к преодолению человеческих ограничений. Рождение настоящего искусственного интеллекта окажет глубокое влияние на будущее человечества.
Будь вы среди тех, кто считает приход ИИ на уровне человека сигнализирует о рае или закате эпохи людей, вам все равно придется ответить на фундаментальный вопрос: сознателен ли этом ИИ? Чувствует ли что-нибудь? Не являются ли они гораздо более совершенными версиями современных установок для вывоза мусора, стиральных машин или автомобилей – необычайно умных машин, но без чувств и самосознания?
Ответ на этот вопрос имеет значение для нашего отношения к будущим машинам. Если расколотите молотом свою блестящую Tesla, ваши друзья могут посчитать вас сумасшедшим за то, что вы уничтожили такую дорогостоящую машину; тем не менее, нет никаких сомнений, что вы можете сделать это. Попробуйте то же самое со своей собакой, и полиция по праву вас арестует. Это потому, что автомобиль – это просто средство для достижения цели, удобный способ передвижения по городу, в то время как собака – это существо с некоторыми минимальными правами, потому что она разделяет с нами дар сознания.
Нам нужна фундаментальная теория, которая определяет точные условия, при которых конкретная система способна к сознательному опыту.
Однако, нахождение правильного ответа не может быть доверено нашей интуиции. Нам нужна фундаментальная теория, которая определяет точные условия, при которых конкретная система способна к сознательному опыту.
ИИТ предсказывает, что обычные цифровые компьютеры, на которых работает программное обеспечение, не получат ничего похожего на фильм, который мы видим и слышим в наших головах. Поскольку интеллектуальные цифровые помощники и настоящие роботы будущего не способны на опыт, их программное обеспечение можно безопасно копировать, редактировать, продавать или удалять. И они могут быть отключены, изменены, уничтожены и заменены по желанию.
Но то же самое не должно быть верно для нетрадиционных архитектур. Машины специального назначения, построенные по тем же принципам, что и мозг, содержащие то что называется нейроморфным аппаратным обеспечением, могут, в принципе, обладать существенным сознательным опытом. Ключевым моментом является то, что логика и ворота памяти тесно взаимосвязаны с высокой степенью частичного перекрытия разветвления между затворами. Способ, которым «мозг» системы фактически связан, его (био)физика, имеет значение, а не его поведение в отношении ввода-вывода.
Такая нейроморфная машина, если она в высшей степени сознательна, будет иметь внутренние права, в частности, право на собственную жизнь и благополучие. В этом случае общество должно научиться делить мир со своими творениями.
