Категории

Читалка - Об интеллекте


. Таким образом, некоторые ученые могут возражать идее, что короткий паттерн в слое 1 мог бы точно вызывать возбуждение набора нейронов  в слоях 2, 3 и 5. Но именно это соответствует имеющейся у меня теории.

Разрешение это дилеммы в том, что нейроны ведут себя не так, как в классической модели. Фактически, в последние годы становилось все больше ученых, предполагающих, что синапсы на удаленных тонких дендритах могут играть активную и особую роль в возбуждении нейронов. В этих моделях удаленные синапсы ведут себя не так, как синапсы на толстых дендритах возле тела нейрона. Например, если два синапса располагаются очень близко на тонком дендрите, они могут выступать как «детектор совпадений». То есть, если бы оба синапса получали входной импульс в течение короткого промежутка времени, они могли бы вызывать значительный эффект на нейрон, даже если они далеко от тела нейрона. Они могли бы заставить тело нейрона сгенерировать спайк. Как ведут себя дендриты нейрона до сих пор является загадкой, так что я не могу сказать что-нибудь еще о них. Что важно, так это то, что модель кортекса «память-предсказание» требует, чтобы синапсы, далекие от тела нейрона были способны обнаруживать специфические паттерны.

Глядя в прошлое, мне кажется почти безрассудным говорить, что тысячи синапсов нейрона играют только модулирующую роль. Многочисленные обратные связи и огромное число синапсов существуют с вполне конкретной целью. Используя эту догадку, мы можем сказать, что типичный нейрон имеет способность запоминать сотни точных совпадений на волокнах обратных связей, если они формируют синапсы на тонких дендритах. Это значит, что каждая колонка в неокортексе очень пластична в том смысле, какие паттерны обратных связей могут ее активизировать. Это значит, что каждое конкретное свойство может быть точно ассоциировано с тысячами различных объектов и последовательностей. Моя модель требует, чтобы обратные связи были быстродействующими и точными. Нейроны должны возбуждаться,

если они чувствуют некоторое количество совпадений на их удаленных дендритах. Новые модели нейронов должны допускать такое.

6.10. Как обучается кортекс

У всех нейронов во всех слоях кортекса есть синапсы, и большинство этих синапсов может изменяться при обучении. Будет корректно сказать, что обучение и память возникают во всех слоях, вот всех колонках и во всех областях кортекса.

Ранее в книге я упоминал правило Хебба, названное в честь канадского нейропсихолога Дональда О. Хебба. Его формулировка проста: Когда два нейрона возбуждаются одновременно, синапсы между ними усиливаются. (Коротко и точно это передается фразой «Fire together, wire together»). Мы знаем, что Хебб был в основном прав. Конечно, в природе не все так просто, и в действительности детали реального мозга более сложны. Наша нервная система использует множество вариаций правила Хебба; например, некоторые синапсы изменяют свою силу в ответ на небольшие изменения во времени прихода сигнала, некоторые синаптические изменения короткоживущие, некоторые долгоживущие. Но Хебб создал только основу для изучения памяти, не законченную теорию, и эта основа невероятно полезная.

Принципы обучения по Хеббу могут объяснить большую часть того кортикального поведения, которое я упомянул в этой главе. Вспомните, еще в 1970 году устройства автоассоциативной памяти, использовавшие классические алгоритмы обучения по Хеббу, могли запоминать пространственные паттерны и последовательности паттернов. Основная проблема была в том, что те устройства не могли нормально работать с вариациями образов. Согласно теории, предложенной в этой книге, кортекс обошел это ограничение путем использования иерархической стопки из модулей автоассоциативной памяти, и частично, за счет использования усложненной колончатой архитектуры. В этой главе было почти все о иерархии и о том, как она работает, потому что иерархия это то, в чем заключается сила кортекса. Так что вместо того, чтоб идти через детали того, как каждый нейрон запоминает

то или это, я хочу охватить более общие принципы обучения в иерархии.

Когда человек рождается, его кортекс практически ничего не знает. Он не знает ни про язык, ни про культуру, ни про дом, ни про город, ни про людей, вместе с которыми он вырастет, ничего. Вся эта информация, структура мира, должна быть выучена. Двумя базовыми компонентами обучения являются классификация паттернов и построение последовательностей. Эти две комплементарные компоненты памяти взаимодействуют друг с другом. Когда одна область запоминает последовательность, информация, которую она посылает в слой 4 в вышестоящую кортикальную область, изменяется. Таким образом, нейроны слоя 4 обучаются формировать новую классификацию, которая изменяет паттерны, проецируемые обратно в слой 1 нижестоящей области, на которую влияет последовательность.

Основа формирования последовательностей – это группирование паттернов, которые являются частью одного объекта. Один способ сделать это заключается в группировании паттернов, которые возникают рядом во времени. Если ребенок держит игрушку в его руке и медленно двигает ее, его мозг может вполне законно предположить, что изображение на сетчатке от момента к моменту относятся  к одному и тому же объекту, и, следовательно, изменяющееся множество паттернов может быть сгруппировано. Иногда вам нужны дополнительные сведения, чтоб принять решение, какие паттерны должны принадлежать к одной группе. Чтобы запомнить, что яблоки и бананы являются фруктами, а морковь и сельдерей не являются, требуется учитель, который поможет сгруппировать эти вещи. В любом случае ваш мозг медленно строит последовательности паттернов, которые должны быть вместе. Но когда область кортекса строит последовательности, информация, поступающая к вышестоящим областям, меняется. Информация изменяется от представления индивидуальных паттернов к представлению групп паттернов. Информация, поступающая в область, меняется с нот на мелодии, с букв на слова, с носов на лица и так далее. Поскольку