Книги

Мозг и сознание

22
18
20
22
24
26
28
30
Встроить «чувства» в машины

Мы сможем многое узнать о сознании, если подумаем о том, что бы это значило для робота – осознавать самого себя, чувствовать и мыслить.

В 2016 году группа немецких исследователей заявили, что они создали роботизированную руку, которая могла чувствовать боль. И в самом деле, когда по роботу жестко ударяли, он реагировал сильнее, отодвигаясь быстрее, чем если бы к нему мягко прикоснулись. Но то же самое ли это, что и чувство боли? Большинство людей, вероятно, сказали бы «нет»: они бы сказали, что робот запрограммирован по-разному реагировать на разные стимулы, но в действительности он ничего не чувствует.

Будучи людьми, мы не просто ощущаем и реагируем, мы действительно чувствуем; испытывая богатые и яркие ощущения, бо́льшие, чем просто реакции на стимулы. Пока что наука не смогла выдвинуть убедительное объяснение, почему ощущения чувствуются так, как они чувствуются. Некоторые даже настаивают на том, что понимание природы ощущений выходит за пределы науки. Учитывая это, соблазнительно думать, что создание чего-то вроде ощущений у робота должно быть невозможным.

Самые влиятельные объяснения «квалиа», т. е. конкретных свойств чувственного опыта, предполагают, что появление разных чувств может вызывать некоторые малопонятные и сложные мозговые процессы. Но такой подход порождает больше вопросов, чем ответов. Представьте себе, будто мы обнаружили, что разница между переживаниями красного и зеленого обусловлена каким-либо мозговым процессом, скажем, различными частотами колебаний в зрительной коре. Тогда вы могли бы задаться вопросом, что такое есть в этих разных частотах, что заставляет вас чувствовать красное, а не зеленое? Загадка останется. Действительно, независимо от нейробиологического объяснения разницы между красным и зеленым, вы всегда можете задать аналогичный вопрос: что в этом конкретном мозговом механизме дает вам переживание красного, а не зеленого? Как представляется, причина затруднений – отсутствие общего языка, связывающего качество переживания, которое мы не можем даже описать словами, и возможные физические или неврологические механизмы.

Размышляя о «чувстве»

Тогда, возможно, настало время подумать о «чувстве» иначе. Сенсомоторная теория сознания (см. главу 2) описывает опыт «чувствования» не как таинственный побочный продукт работы мозга, но как способ взаимодействия с окружающим нас миром.

Например, представьте, как вы нажимаете на губку. Где рождается чувство, ощущение мягкости? Традиционный подход будет искать ощущение в мозге, но если вы надавите на ближайший мягкий объект прямо сейчас, то станет очевидно, что мягкость находится вовсе не в мозге: она находится в конкретных характеристиках действия нажатия на мягкий объект. Сенсомоторная теория предполагает, что все «чувства» представляют собой что-то подобное. Красный цвет, запах лука и звук колокольчика – все это разные способы взаимодействия с миром. Если это так, то чувство – это то, что робот определенно может испытать – этого, безусловно, проще добиться, чем неких ощущений, таинственным образом возникающих вследствие сложной работы мозга.

Сенсомоторная теория лишает «квалиа» загадочности. Она объясняет, что такое красное, что такое видеть и слышать, теми же словами, что мы используем для описания того, что мы делаем, взаимодействуя с миром. И, что принципиально важно, роботы также должны быть способны так взаимодействовать.

Итак, какие же факторы необходимы, чтобы создать переживания, подобные человеческим? Одна из важнейших особенностей наших ощущений заключается в том, что они обладают «сенсорным присутствием» (sensory presence): они кажутся происходящими извне и реально существуют физически по сравнению с другими процессами, происходящими в нашей нервной системе, такими как мышление, воображение или память.

Телесность

Одна из причин такого сенсорного присутствия наших ощущений – «телесность». Сенсорная информация, приходящая от одного из пяти органов чувств, очень зависит от движений нашего тела. Если вы смотрите на что-либо и двигаете глазами или телом, то информация, поступающая в вашу нервную систему, немедленно меняется. Сравните это с мышлением: когда вы думаете о чем-то и двигаетесь, никаких изменений не происходит. Мысли не обладают «телесностью», и потому они не переживаются как поступающие из внешнего мира.

В дополнение к нашему телу внешний мир также играет активную роль в нашем чувственном опыте: на поступающую в нервную систему информацию влияют не только движения нашего тела, но и изменения в окружающей нас среде. В сенсомоторной теории это называют «неподвластностью» внешнего мира (insubordinateness), поскольку в любой момент внешний мир может вмешаться и занять центральное место.

Это указывает на еще одно отличие ощущений от других видов активности мозга, таких как мышление и память. Внезапное изменение информации на сенсорных входах сразу же привлекает наше внимание. Причина ее «назойливости» в том, как эволюция подключила наши сенсорные системы: текущую когнитивную обработку может немедленно прервать внезапное событие в окружающей среде.

Итак, если бы мы встроили телесность, «непослушность» и «назойливость» в сенсорные системы робота, появилось ли бы у него сознание? Не обязательно. Чтобы сознательно испытывать чувство, субъект должен не только ощущать его, но и обращать внимание на то, что он ощущает. Например, вы можете управлять автомобилем во время разговора с пассажиром, останавливаться на красном свете и совершать все правильные повороты, но когда вы вернетесь домой, вы можете не вспомнить ни одной детали из этой поездки. Таким образом, осознание чего-то также требует от вас и внимания.

Аппаратное обеспечение – это то, что нам нужно, чтобы решить трудную проблему?

Большинство компьютеров и роботов, созданных до сих пор, работает на программном обеспечении. Пентти Хайконен, инженер-электрик и философ из Иллинойсского университета в Спрингфилде, утверждает, что именно поэтому они никогда не смогут переживать боль или цвета так же, как мы. Программное обеспечение – это язык, и поэтому для интерпретации ему требуется дополнительная информация. Если вы не говорите по-русски, слова «боль» или «красный», например, не несут для вас никакого смысла. Но если вы видите красный цвет, это имеет значение независимо от языка, на котором вы говорите.

Хайконен создал робота под названием XCR, или Экспериментальный Когнитивный Робот (eXperimental Cognitive Robot), который хранит входящую сенсорную информацию и управляет ей не с помощью программного обеспечения, а посредством физических объектов – в данном случае это провода, резисторы и диоды. Ощущения, такие как «красный» и «боль», являются для мозга непосредственным опытом, без какой-либо интерпретации по пути.

«XCR устроен таким образом, что, если его ударить с достаточной силой, полученный электрический сигнал разворачивает его в обратном направлении – это реакция избегания, соответствующая боли, – говорит Хайконен. – Робот также способен примитивно обучаться». Если в момент удара в поле зрения робота оказался синий объект, робот будет ассоциировать синий цвет с болью и отступит, произнося «Мне больно, синий плохой». Попробуйте снова подтолкнуть его к синему объекту, и он даст задний ход. “Синий, плохой”».

С развитием достижений в робототехнике обучение избеганию синих объектов не является чем-то сверхвыдающимся: с этим справляются и обычные роботы на базе программного обеспечения. Но тот факт, что XCR обходится без программного обеспечения, храня сенсорную информацию непосредственно в своем аппаратном обеспечении, делает его первым шагом на пути к осознанию, утверждает Хайконен.

Если он прав, и мы не можем создать чувствующую машину на основе программного обеспечения, тогда какой бы большой не была сеть, она никогда не сможет стать разумной. Но мозг в колбе, подключенный к симуляции суперкомпьютера, – классический мысленный эксперимент из философии – может.

Итак, если бы мы создали процессор, управляющий вниманием в роботе, могли бы мы теперь сказать, что он может чувствовать, как и мы? И снова чего-то не хватает. Здоровые люди обладают самостью, собственным «я»: у них есть «я», переживающее некое чувство. Если бы робот был способен обращать внимание на то, что необходимо обработать, при этом по-прежнему не зная о своем собственном существовании, он, несомненно, ничего бы не испытывал.

Создание чувства собственного «я» у робота может быть достижимее, чем вы думаете. Существует много уровней знания о себе. Амеба способна не есть саму себя, иными словами, на базовом уровне она может отличить себя от других вещей. На более высоком уровне белка прячет свои орехи так, чтобы другие белки не смогли их найти. Это показывает, что белка с точки зрения своих собственных целей отличает себя от других белок. И, наконец, люди – и, возможно, собаки, дельфины, приматы – имеют более высокий уровень знаний о себе, который можно назвать знанием о знании себя, что порождает более сложные явления, такие как эмпатия, убеждения, желания и мотивация. Создание всего этого в роботах ближе, чем может показаться (см. далее).