Жуки и лягушки: каузальный редукционизм и каузальные структуры
http://neuronovosti.ru/bugs-and-frogs/Каузальный редукционизм — это один из подходов к пониманию функционирования сложных систем, в том числе биологических. Он основан на предположении, что для каузального объяснения работы системы в целом достаточно установить причины, вызывающие те или иные состояния отдельных ее элементов. Такой подход широко применим к объяснению работы мозга: чтобы понять, как работает мозг, нужно понять работу отдельных нейронов. В работе, вышедшей в 2021 году в Nature Neuroscience, ученые провели мысленный эксперимент на воображаемых лягушках, который показывает несостоятельность редукционистского подхода. Для объяснения причинно-следственных связей в функционировании сложных систем исследователи предлагают использовать каузальный структурный анализ. Попробуем разобраться, в чем заключается проблема каузального редукционизма, и постараемся проанализировать подход, который применили авторы статьи.
В рамках описываемого нами исследования можно выделить два подхода к пониманию причинно-следственных связей в функционировании мозга на системном уровне: каузальный редукционизм и эмерджентный подход. Главная интуиция каузального редукционизма заключается в следующем: если мы знаем для каждого элемента системы, что послужило причиной изменения его состояния, то этого достаточно, чтобы понять причину изменения системы в целом. Например, если причина №1 изменила состояние нейрона А (А -> А*), причина №2 изменила изменила состояние нейрона Б (Б -> Б*), то в случае одновременного изменения состояний нейронов А и Б (А -> А*, Б -> Б*) нет надобности искать причину №3 (достаточно знать №1 и №2). Таким образом, редукционисты утверждают, что если мы поймем ЧТО вызвало ЧТО на самом элементарном уровне организации системы, то мы поймем, как работает эта система. Френсис Крик писал: “Вы, ваши радости и печали, ваши воспоминания и амбиции, ваше чувство идентичности и свобода воли, на самом деле не более чем поведение огромного количества нервных клеток и связанных с ними молекул… Вы не более чем совокупность нейронов” (отметим, что в рамках концепции активной среды, которая развивается.
Приверженцы эмерджентного подхода (авторы статьи в том числе) считают редукционизм фундаментально ошибочной позицией, аргументируя это тем, что каузальный редукционизм полагается на имплицитное (неявное) определение причинности (каузальности) и смешивает его с понятием предсказания. Организм является большим, чем просто сумма его частей, поскольку сложные функции возникают (от англ. слова emerge) в системе только при определенной организации ее элементов. Если мы вернемся к примеру с нейронами А и Б, то противники редукционизма считают необходимым наличие причины №3 для одновременного изменения состояний нейронов А и Б (А -> А*, Б -> Б*). Таким образом они предлагают эксплицитное (явное) определение каузальности: появление эмерджентных, не сводимых к элементарным, свойств системы.
Подобные концептуальные рассуждения, близкие к философским, могут показаться запутанными и сложными неподготовленному читателю. Поэтому перейдем к интересному мысленному эксперименту, который провели авторы статьи. Целью этого эксперимента было на простом примере показать несостоятельность редукционистского подхода.
Рис. 1. Моделируемая среда и поведение лягушек и жуков.
Представим себе реальность (см. рис. 1), в которой обитают жуки и лягушки. Жуки бывают трех видов: левые жуки (преимущественно двигаются влево), правые жуки (преимущественно двигаются вправо) и супер жуки (преимущественно двигаются вперед). Левые и правые жуки маленькие; они служат пищей лягушкам. А супер жуки большие; для них уже лягушки являются пищей. Лягушки также бывают трех видов. Разберем их строение и поведение подробнее.
Рис. 2. Строение лягушек.
На рисунке 2 видно, что у всех лягушек нейроны (узлы сети) можно поделить на три группы: сенсорные (S), центральные (C) и моторные (М). Начнем с F3 лягушек. У этого вида есть 3 вида сенсоров: левый (SL), центральный (SC) и правый (SR); 3 вида центральных нейронов: левый (СL), центральный (СC) и правый (СR); и 2 вида моторных нейронов: левый (МL) и правый (МR). Предположим, что исследователи осуществляли запись активности центральных нейронов, когда к ним приходят сигналы от сенсоров (запись на входе), и когда они передают возбуждение на моторные нейроны (запись на выходе). Ученые провели исследование и установили следующие механизмы, лежащие в основе поведения лягушек F3 (табл.1):
Табл.1. Поведение и активность нейронов лягушки F3 при встрече с различными видами жуков.Зеленые ячейки — группа сенсоров, голубые ячейки — вид сенсора, 1 — активное состояние нейрона, 0 — неактивное состояние нейрона, Х — отсутствие нейрона в структуре нейронной сети лягушки.
Поведение данного вида лягушек можно успешно объяснить в рамках каузального редукционизма: для каждого вида поведения есть своя причина (информация на входе), которая влечет за собой активацию определенных центральных нейронов (обработка информации), которые в свою очередь активируют определенные моторные нейроны (информация на выходе). Так для активности каждого центрального нейрона мы можем определить причину и следствие, а значит в данном случае, согласно редукционистскому подходу, мы имеем целостное понимание причин и следствий поведения организма (лягушки F3).
Однако в нашем воображаемом мире обитают и другие лягушки, с которыми все не так просто. Рассмотрим теперь F2 лягушек: их строение аналогично строению лягушек вида F3, за исключением одной детали — у них нет нейрона СC. Пользуясь аналогичным подходом, ученым удалось сопоставить поведение и активность нейронов лягушек F2 (табл.2):
Табл.2. Поведение и активность нейронов лягушки F2 при встрече с различными видами жуков.Зеленые ячейки — группа сенсоров, голубые ячейки — вид сенсора, 1 — активное состояние нейрона, 0 — неактивное состояние нейрона, Х — отсутствие нейрона в структуре нейронной сети лягушки.
Что же происходит в данном случае? Варианты поведения и соответствующая им информация на входе и на выходе у лягушек F2 и F3 одинаковы. Но мы видим отличие в работе центральных нейронов. Для перепрыгивания супер жука больше не нужна активация нейрона СC. Совокупная работа нейронов СL и СR рождает новое следствие — перепрыгивание. А это значит, что мы не можем обойтись описанием работы каждого центрального нейрона в отдельности, чтобы предсказать поведение системы в целом. Здесь и рождается эмерджентность, без которой невозможно вывести следствие. Каузальный редукционизм для лягушки F2 перестает работать.
Однако здесь с авторами можно поспорить. Если предположить, что лягушка F3 действительно воспринимает супер жука как супер жука и при встрече с ним реализует поведение в форме перепрыгивания, то можно ли то же самое утверждать для лягушки F2? Что, если лягушки F2 не воспринимает супер жука в целом, а активация правого и левого сенсоров попросту каузально вызывает активацию левого и правого центральных нейронов, которые в свою очередь одновременно активируют обе лапки? Понятно, что лягушка не может разорваться и прыгнуть вправо и влево в один момент. Но вполне возможно, что поведенческий акт, который мы наблюдаем для F2 лягушек не обязательно обуславливается наличием эмерджентных свойств. Было бы интересно рассмотреть для лягушек F3 и F2 такую ситуацию: встречу с двумя маленькими жуками (правым и левым) одновременно. Как бы лягушки повели себя тогда? Тут уже можно уйти в философские рассуждения о сознании: лягушка F3 способна к осознанию встречи с супер жуком, а F2 — нет. Тогда как мы можем отрицать редукционизм? Каждый элемент системы в таком случае окажется важным, и будет давать системе нечто новое, хотя со стороны мы можем эти отличия и не наблюдать.
И наконец, рассмотрим последний вид лягушек — F1, который делится на два подвида: левые (л-F1) и правые (п-F1). Это очень странные половинчатые лягушки с двумя сенсорами (SL и SR), одним центральным нейроном (СL или СR) и одной (!) лапкой (МL или МR). Казалось бы, как эти чудо-лягушки вообще сумели выжить? Однако не переживайте, их просто в два раза больше, поэтому их немощность компенсируется численностью. Ученые не обошли стороной F1 лягушек и установили следующую связь между нейрональной активностью и поведением (табл. 3):
Табл.3. Поведение и активность нейронов лягушек л-F1 и п-F1 при встрече с различными видами жуков.Зеленые ячейки — группа сенсоров, голубые ячейки — вид сенсора, 1 — активное состояние нейрона, 0 — неактивное состояние нейрона, Х — отсутствие нейрона в структуре нейронной сети лягушки.
Все просто: если у лягушки активируется сенсор, для которого есть соответствующая нога, то лягушка прыгает в сторону, характерную для ее подвида. При встрече с супер жуком у нее нет шансов выжить. Однако представим, что левая и правая лягушки встанут рядом и в такой позиции встретятся с супер жуком. Посмотрим, что с ними произойдет (табл. 4):
Табл.4. Поведение и активность нейронов лягушек л-F1 и п-F1 при встрече с супер жуком. Зеленые ячейки — группа сенсоров, голубые ячейки — вид сенсора, 1 — активное состояние нейрона, 0 — неактивное состояние нейрона, Х — отсутствие нейрона в структуре нейронной сети лягушки.
Мы видим, что даже находясь бок-о-бок, лягушки выжить не смогли. Ученые этим экспериментом хотели показать преимущество наличия эмерджентных свойств лягушек F2 по сравнению с лягушками F1, и снова показать несостоятельность каузального редукционизма.
Однако и здесь с авторами можно поспорить. Как мы упоминали ранее, у лягушек F2 просто нет возможности разорваться. Но это еще не говорит о наличии у них особых эмерджентных свойств.
И в заключение рассмотрим подход, который группа исследователей для анализа сложных структур — анализ каузальных структур. Суть этого подхода состоит в полном и последовательном причинно-следственном анализе сложных систем с соблюдением ряда принципов: 1) принцип воплощения (realization), 2) принцип композиции (composition), 3) принцип информации (information), 4) принцип включения (integration), 5) принцип исключения (exclusion). Наиболее важными для анализа каузальных структур авторы считают 2-ой, 4-ый и 5-ый принципы. Подробное описание этих принципов можно найти в Теории Интегрированной информации.
Теория интегрированной информации (Integrated Information Theory, IIT) — одна из нейробиологических теорий сознания, предложенная в 2004 году Джулио Тонони, руководителем научной группы, опубликовавшей рассматриваемое нами исследование.
Таким образом, предложенный авторами мысленный эксперимент должен был показать несостоятельность каузального редукционизма. Однако подобные исследования лежат на стыке нейронауки и философии, поэтому абсолютно правильной точки зрения на подход к анализу сложных систем нет. Эмерджентный подход удобен для объяснения функционирования высокоуровневых структур, поскольку сложно, а порой и невозможно описать каждый элемент системы и его состояние в конкретный момент или промежуток времени (вспомним, что в нашем головном мозге нейронов почти столько же, сколько звезд в нашей с вами галактике Млечный Путь).
Возможно каузальный редукционизм не так плох, как его пытались представить авторы. И мы в процессе обсуждения статьи постарались отметить некоторые спорные моменты предложенного мысленного эксперимента. Если бы каузальный редукционизм был абсолютно неверным подходом, то мы уже на данном этапе развития технологий смогли бы создать искусственный интеллект, обладающий сознанием (если принять, что лягушки F2 ничем не хуже лягушек F3). Однако этого не происходит, а значит важны как эмерджентные свойства системы (наличие их неразумно отрицать), так и свойства отдельных ее элементов. Возможно истина лежит где-то посередине? Это интересный вопрос, требующий дальнейших исследований и реальных экспериментов. А для более глубокого понимания рассмотренной нами статьи можно ознакомится с оригинальным текстом работы (и не забудьте посмотреть раздел Supplementary, там много всего интересного).
На мой взгляд, все эти концепции возникновения эмерджентных свойств (как и концепции самоорганизации) являются удобной ширмой, скрывающей наше незнание (которое есть следствие нашей ограниченности).
В примере с лягухами F2 внутри лягухи происходит «сложение» действий двух причин. Однако в этих мысленных экспериментах вообще упускается важный этот момент: лягуха – это система, в которой действия разных причин могут «складываться» (то есть,
действия внутри системы могут влиять друг на друга неизвестным нам способом и по неизвестному нам закону).
Поведение системы в целом зависит сразу от действия обеих причин. Как «складывается» действие причин внутри системы? По каким правилам? И какое действие на систему должна оказывать такая «суммарная» причина?
Вместо того чтобы попытаться создать некую модель/теорию такого «сложения», люди вводят принцип возникновения эмерджентных свойств. Самое забавное, что таких вот эмерджентных свойств у системы может оказаться бесконечно много (особенно ежели учесть, что
свойство системы – это интерпретация наблюдателя, основанная на его знаниях и интеллекте).
А ведь даже в простейшем случае (например, при арифметическом сложении 3 + 5 = 8) ни из какого из слагаемых по отдельности нельзя вывести получившуюся сумму.
Мало того, если известны оба исходных числа, но неизвестно действие (что там – сложение, умножение, вычитание, деление, возведение в степень?), то и про итог ничего нельзя сказать. Но если известны действия (и правила, как выполнять эти действия) и известны оба числа, то итог легко можно найти.
И как только люди создают модель/теорию взаимодействия разных причин внутри системы, то понимание и предсказуемость сразу налаживается.
P.S. Всё же полагаю, что
нам не следует злоупотреблять концепциями возникновения эмерджентных свойств (как и концепциями самоорганизации), объясняя ими всё на свете. Их следует использовать только как временные «костыли/подпорки» при объяснении явлений, пока отсутствуют подходящие модели/теории данных явлений.