Читалка - Об интеллекте

если они чувствуют некоторое количество совпадений на их удаленных дендритах. Новые модели нейронов должны допускать такое.

6.10. Как обучается кортекс

У всех нейронов во всех слоях кортекса есть синапсы, и большинство этих синапсов может изменяться при обучении. Будет корректно сказать, что обучение и память возникают во всех слоях, вот всех колонках и во всех областях кортекса.

Ранее в книге я упоминал правило Хебба, названное в честь канадского нейропсихолога Дональда О. Хебба. Его формулировка проста: Когда два нейрона возбуждаются одновременно, синапсы между ними усиливаются. (Коротко и точно это передается фразой «Fire together, wire together»). Мы знаем, что Хебб был в основном прав. Конечно, в природе не все так просто, и в действительности детали реального мозга более сложны. Наша нервная система использует множество вариаций правила Хебба; например, некоторые синапсы изменяют свою силу в ответ на небольшие изменения во времени прихода сигнала, некоторые синаптические изменения короткоживущие, некоторые долгоживущие. Но Хебб создал только основу для изучения памяти, не законченную теорию, и эта основа невероятно полезная.

Принципы обучения по Хеббу могут объяснить большую часть того кортикального поведения, которое я упомянул в этой главе. Вспомните, еще в 1970 году устройства автоассоциативной памяти, использовавшие классические алгоритмы обучения по Хеббу, могли запоминать пространственные паттерны и последовательности паттернов. Основная проблема была в том, что те устройства не могли нормально работать с вариациями образов. Согласно теории, предложенной в этой книге, кортекс обошел это ограничение путем использования иерархической стопки из модулей автоассоциативной памяти, и частично, за счет использования усложненной колончатой архитектуры. В этой главе было почти все о иерархии и о том, как она работает, потому что иерархия это то, в чем заключается сила кортекса. Так что вместо того, чтоб идти через детали того, как каждый нейрон запоминает

то или это, я хочу охватить более общие принципы обучения в иерархии.

Когда человек рождается, его кортекс практически ничего не знает. Он не знает ни про язык, ни про культуру, ни про дом, ни про город, ни про людей, вместе с которыми он вырастет, ничего. Вся эта информация, структура мира, должна быть выучена. Двумя базовыми компонентами обучения являются классификация паттернов и построение последовательностей. Эти две комплементарные компоненты памяти взаимодействуют друг с другом. Когда одна область запоминает последовательность, информация, которую она посылает в слой 4 в вышестоящую кортикальную область, изменяется. Таким образом, нейроны слоя 4 обучаются формировать новую классификацию, которая изменяет паттерны, проецируемые обратно в слой 1 нижестоящей области, на которую влияет последовательность.

Основа формирования последовательностей – это группирование паттернов, которые являются частью одного объекта. Один способ сделать это заключается в группировании паттернов, которые возникают рядом во времени. Если ребенок держит игрушку в его руке и медленно двигает ее, его мозг может вполне законно предположить, что изображение на сетчатке от момента к моменту относятся  к одному и тому же объекту, и, следовательно, изменяющееся множество паттернов может быть сгруппировано. Иногда вам нужны дополнительные сведения, чтоб принять решение, какие паттерны должны принадлежать к одной группе. Чтобы запомнить, что яблоки и бананы являются фруктами, а морковь и сельдерей не являются, требуется учитель, который поможет сгруппировать эти вещи. В любом случае ваш мозг медленно строит последовательности паттернов, которые должны быть вместе. Но когда область кортекса строит последовательности, информация, поступающая к вышестоящим областям, меняется. Информация изменяется от представления индивидуальных паттернов к представлению групп паттернов. Информация, поступающая в область, меняется с нот на мелодии, с букв на слова, с носов на лица и так далее. Поскольку

информация, идущая снизу вверх, становится более «объектно-ориентированной», вышестоящие области кортекса могут теперь запоминать последовательности этих высокоуровневых объектов. Там, где раньше область строила последовательность букв, теперь она строит последовательность слов. Неожиданным результатом такого процесса обучения является то, что в процессе повторяющегося обучения представление объектов продвигается вниз по кортикальной иерархии. В течение первых лет жизни ваши знания о мире формируются сначала в вышестоящих областях кортекса, но по мере обучения они реформируются все ниже и ниже по кортикальной иерархии. Мозг не двигает знания; он переобучается снова и снова. (Я не говорю, что все знания начинаются на верхушке кортекса. В действительности формирование знаний более сложно. Я считаю, что классификация паттернов в слое 4 начинается внизу и движется вверх. Но когда это происходит, мы начинаем формировать последовательности, которые движутся вниз. Я полагаю, что эта память о последовательности переформируется все ниже и ниже по кортексу.) По мере продвижения простых последовательностей вниз, верхние области получают возможность запоминать более сложные и утонченные паттерны.

Вы можете наблюдать создание и движение иерархической памяти вниз на примере обучения ребенка. Рассмотрим, как мы учимся читать. Первое, чему мы учимся – это узнавать отдельные печатные буквы. Это медленная и сложная задача, требующая сознательных усилий. Затем мы переходим к узнаванию простых слов. И снова это сложно и медленно поначалу даже для трехбуквенных слов. Ребенок может читать каждую букву в последовательности и произносить буквы одну за другой, но необходимо определенное количество практических занятий, прежде чем слова сами по себе будут распознаваться как слова. После обучения чтению простых слов мы приступаем к многосложным словам. Поначалу мы произносим каждый слог, соединяя их, как мы делали это с буквами, когда учили простые слова. Через годы практики