Несколько лет назад камнем преткновения для разработчиков искусственных нейронных сетей стала именно проблема различения обобщений и конкретных примеров. Они сумели разработать сети, обучавшиеся обобщениям («Существа с перьями летают») или содержавшие коллекции примеров («Птица Дора летать не умеет, тогда как птица Пол летает»). А объединить эти две позиции не удалось: сеть либо медленно меняла свои параметры в результате предъявления ей тысяч примеров, либо меняла всё, причем мгновенно — сразу же, как только ей предъявляли единичные примеры.
Как же получается, что единый мозг обучается разным вещам одновременно в обеих временн
Эта очевидная несовместимость целей дает важную подсказку33. Чтобы успешно решать обе задачи, мозг должен иметь разные системы, обеспечивающие разные скорости обучения: одна — чтобы выявлять в окружающей реальности общие закономерности (медленное обучение), другая — для эпизодической памяти (быстрое обучение). Согласно предположению, этими двумя системами служат гиппокамп и кора: гиппокамп скор на изменения (и потому быстро учится на примерах), тогда как кора должна потратить время, чтобы неспешно делать обобщения. Первый быстро меняется, удерживая конкретные подробности, а вторая меняется медленно и требует подкрепления множеством примеров. Такой трюк позволяет мозгу быстро обучаться на конкретных примерах («При нажатии этой кнопки запускается двигатель арендованной машины») и одновременно медленно извлекать статистические закономерности из приобретенного опыта («Большинство цветов распускаются весной»)34.
Когда активность проходит через мозг, его структура меняется. Для обширных массивов нейронных лесов в вашем черепе это колоссальная организационная проблема: нервная система должна трансформироваться, чтобы оптимально отражать реалии мира. Каждое отдельное изменение должно внести правильный вклад в нейронную сеть, чтобы она вместила новое знание, причем изменения должны быть позиционированы таким образом, чтобы в нужный момент повлиять на поведение. Нередкая ошибка упрощенчества при изучении памяти — полагать, будто в ее основе лежит единый механизм изменений. Классическая версия усиления и ослабления синапсов уже сослужила нам добрую службу: построенные на этих принципах искусственные нейронные сети способны решать прикладные задачи впечатляющей сложности. Но память не сводится к формированию цепочек синапсов в обширной схеме соединений: по мере притока новых данных простые синаптические модели быстро теряют способность представлять ранее поступившие данные. Деградация воспоминаний — а чем они старше, тем прочнее, — раскрывает нам секрет: существуют разные временн
Синаптическая модель удобна нейробиологам и разработчикам искусственных нейронных сетей, но Мать-природа почти наверняка руководствовалась другим подходом. Изменения в основе памяти широко распределены между колоссальными количествами нейронов, синапсов, молекул и генов. Аналогично пустыня хранит воспоминания о гуляющих по ее просторам ветрах: они запечатлены в крутизне барханов, в форме выветривания скальных образований, в характере действия эволюции, задавшего форму крылышкам обитающих в этой природной зоне насекомых и листьям выживающих в ее суровых условиях растений.
Для достижения прогресса в области изучения памяти мы должны максимально реалистично подходить к феномену, который пытаемся здесь разъяснить. Хотя современные искусственные нейронные сети легко решают невероятной сложности задачи (вспомним их фантастическую способность различать фотографии), они еще далеко не овладели базовыми особенностями человеческой памяти. Ее богатство и многогранность, как я предполагаю, обусловлены биологическим каскадом временн
Глава 11
ПРО ВОЛКА И МАРСОХОД
Недавно читал об одной калифорнийской школе, где свернули программы по искусству, музыке и физической культуре. Зачем же понадобилось так обрезать бюджет? Оказалось, что несколько лет назад было решено направить все средства на создание супер-пупер-компьютерного центра для учащихся. Школьная администрация закупила компьютеры, серверы, мониторы и разнообразные периферии на $330 млн. Затем образцово-показательный компьютерный класс-шедевр с большой помпой и всяческими церемониями предъявили восхищенной школьной общественности.
Прошло несколько лет, и сверхсовременное компьютерное «железо» начало устаревать. Появились более быстрые чипы, память перебазировалась с жестких дисков в облако, а новые программы оказались несовместимыми со старой прошивкой. Словом, не прошло и десяти лет, как администрации пришлось списать все это великолепие в утиль.
«Свет в окошке», предмет всеобщих восторгов, из-за которого школа лишилась уроков творчества и физкультуры, недолго радовал администрацию и учащихся и теперь громоздился на помойке горьким напоминанием о бесполезно потраченных средствах.
Эта история заставила меня призадуматься. В самом деле, зачем мы продолжаем строить машины жесткой конструкции, которые вскорости превращаются в утильсырье? Впаивая в нутро компьютера электронную схему, мы в тот же самый момент устанавливаем срок его годности.
Если бы мы прилежно учились у биологии ее сметке и прозорливости, то уже давно обратили бы себе на пользу принципы живых систем. Если волк попадает лапой в капкан, он отгрызает ее и продолжает жить трехногим. А вот марсоход Spirit, самоходный робот весом под 200 кг, 4 января 2004 года «приземлившийся» на поверхность Красной планеты, годами успешно колесил по ее просторам, но в конце 2009 года увяз в марсианской почве и не смог выбраться — помимо прочего потому, что у него отказало правое переднее колесо. Солнечные панели намертво застрявшего Spirit не смогли сориентироваться по солнцу. Марсоход лишился притока энергии и во время марсианской зимы понес невосполнимый урон. 22 марта 2010 года бедняга передал на Землю свою лебединую песню и испустил дух (рис. 11.1).
Рис. 11.1.
Spirit героически отбыл отведенный ему срок жизни. Конечно, было бы сумасшествием послать на Марс колонии астронавтов, которые продержались бы всего несколько лет, прежде чем превратиться в груду костей.
Это не критика выдающихся конструкторов НАСА. Проблема в том, что мы продолжаем строить роботов с жестко смонтированными электронными схемами. Если современный робот потеряет колесо, погнет ось или у него сгорит часть материнской платы, его песенка спета. Но посмотрите на животное царство: его обитатели получают повреждения и все равно продолжают жить. Они будут хромать, еле волочить ноги, но предпочтут скакать на оставшихся конечностях, в той или иной степени утратить силу, претерпеть какие угодно невзгоды, лишь бы упрямо двигаться к своим целям.
Волк отгрызет попавшую в капкан лапу, и мозг приспособится к необычному плану его тела, потому что возврат чувства безопасности соответствует его системе вознаграждения. Ему нужны кров, еда и поддержка стаи, и мозг быстро решает, как этого добиться.
Разница между самоходным роботом и волком упирается в выбор между информацией как таковой и информацией жизненно необходимой. В отличие от угодившего в капкан марсохода, волком движут насущные цели: избежать опасности и достичь безопасности. Его действия и намерения продиктованы угрозой нападения и требованиями желудка. Волк движется к собственным целям, и потому его мозг поглощает информацию не только об окружающей реальности, но и о том, на что способны его лапы, и преобразует эти способности в самые подходящие действия.
Волк готов хромать на трех лапах, потому что у животных не принято лечь и помереть от умеренного урона телу. Их примеру должны следовать наши машины.