Как привнести «человеческое» в технологии и как технологии помогают понять и улучшить и масштабировать «человеческое»? В этом нам поможет суровый Марвин Мински, который своим беспощадным разумом анализирует чувства, эмоции, боль, влюбленность и сознание.

§5–4. Рефлексивное Мышление

Я собирался повторить псалом, который знаю. Прежде чем я начал, моё внимание было сосредоточено на цельной картине, но как только я начал говорить и отдаляться от начала разговора и данный момент начал растягиваться в памяти. Моё действие разделилось на память, которая содержала ту часть, которую я сказал, и ожидания, которые содержали то, что я собираюсь сказать далее. Тем не менее моё внимание всё время находилось со мной в настоящем, и через него я переносил будущее, которое тут же становилось прошлым.
– Августин в Исповеди XXVIII (Confessions XXVIII)

Когда Джоан впервые увидела приближающуюся машину – эта ситуация полностью захватила её внимание, но после этого, когда у неё появилось время подумать, она могла вспомнить, что недавно сделала и задуматься о недавних решениях и действиях, таким образом,

Джоан рефлексивно обдумывает своё поспешное решение.

Для того чтобы она могла это сделать, Джоан должна вспомнить некоторые аспекты её прошлых мыслей, используя трюк подобный перемещению во времени, и вспомнить о чем она тогда думала. Но как она может это сделать? С точки зрения здравого смысла в этом действии нет никаких проблем: стоит попросту вспомнить эти мысли, а затем «продумать» их вновь. Но когда мы спрашиваем, как конкретно это может работать, мы понимаем, что нам необходимо определённого рода механизм, наподобие обсуждаемого в §4–8, в котором ресурсы на каждом уровне записывают то, чем занимались нижележащие уровни в конкретное время.

В любом случае, нет ничего странного в обнаружении каких-либо событий, которые происходят в нашем мозге. Многие части мозга делают это постоянно, и только некоторые из них имеют внешние соединения которые, к примеру, принимают сигналы от глаз и кожи, или же которые передают сигналы вашим конечностям. Более того, было бы гораздо легче развивать те ресурсы, которые бы выявляли какие-либо события в новых частях мозга (например, к таковым относится уровень задумчивости), чем создавать новые ресурсы, которые бы записывали какие-либо события окружающего мира – потому что наша сенсорная система является более сложной (благодаря эволюции, которая протекала в течение сотен миллионов лет). Как могли бы мы спроектировать машину, которая могла бы рефлексивно оценивать свои действия? Может ли добавление дополнительного «когнитивного уровня» дать подобное необходимое улучшение? В самом деле это так – потому что система обсуждения ваших недавних мыслей может использовать такие же процессы, которые вы используете для обсуждения недавних событий окружающего мира. Например Джоан может вспомнить какой выбор она делала и просмотреть как она его сделала.

• Я решила, что опоздание будет гораздо хуже, чем риск быть сбитой машиной, потому что этот результат крайне маловероятен. Но этот выбор был неправильным, потому что моя ловкость была снижена из-за повреждённого колена, поэтому я должна была изменить свои приоритеты.*

Какие же активности мозга должна учитывать система рефлексирования? В эти активности должны входить предсказания, которые были ошибочны, планы, которые встретили препятствия, или неудачи в получении необходимых вам знаний. Как вы должны реагировать на это? Мы подробно обсудим этот вопрос в главе 7.

***Студент:** Почему мы бы хотели назвать такую машину «сознательной»? Она включает в себя большинство пунктов, которые вы перечислили в §4–1, а именно: кратковременную память, последовательную обработку, высокоуровневые описания. Этой машине всего-то не хватает моделей самой себя.*

Ем лучше некоторые части мозга могут размышлять о том, что происходит в остальной части мозга, тем больше будет степень «обдумывания» того, что происходит внутри него. Однако, пока у мозга не будет модели, которая позволяла бы представлять подобные события на больших масштабах, машина не будет иметь никаких представлений о себе как о самосознающей сущности. Тем не менее, было бы крайне непрактично для системы иметь подробный взгляд на саму себя как на что-то единое целое. В главе 9 мы обсудим и заключим, что если мы хотим создать нечто похожее на человеческий мозг – то мы должны будем сделать не какую-то одну «унифицированную» модель, а набор неполных моделей, каждая из которых знала бы только некоторые аспекты того, что делает вся система.

§5–5. Самоанализ

«Ещё одна из величайших способностей человека, которая фундаментально отличает его от других животных – это наличие самосознание или же рефлексивного знания себя как мыслителя… [в то время как животное] никогда не осознаёт себя как мыслителя, потому что они не могут различить в конкретном акте мышления элемент мысли и операцию, посредством которых они мыслят»
— Уильям Джеймс.

Рефлективная система, которую мы уже обсуждали ранее, может рассуждать о недавно произошедших событиях. Самоанализ делает немного больше: он рассматривает не только прошлые мысли, но и сущность, которая эти мысли имела. Например, когда Джоан размышляла о себе: «Если бы моё колено подвело бы меня – я была бы мертва», она теперь, по сути, оценивает себя: «Было безрассудно рисковать при такой травме, просто чтобы спасти немного времени!». Чтобы она могла сделать такие выводы, Джоан должна использовать некоторые собственные представления моделей самой себя.

Кэрол также должна иметь подобные модели когда она строила арку из блоков: «Я попробовала несколько путей построения арки, но все они были неудачными, потому что я пыталась это сделать в ограниченном пространстве. Было глупо совершать подобные ошибки. В следующий раз, я постараюсь планировать более детально.» В этом примере ребёнок представляет себя как объект с определёнными целями и возможностями, который использует конкретные знания.

Студент: Разве нет парадокса в идее, когда что-то описывает самого себя?

Система, конечно, потерпит неудачу, если она попытается описать себя в «реальном времени», но у неё это получится, если представление будет формироваться с помощью набора значений, каждое из которых отражает какую-то одну сущность этой системы.

Мистик: Некоторые из нас могут натренироваться воспринимать все детали сразу же. Так или иначе, крайне мало людей когда-либо могло это сделать.

Я очень сомневаюсь, что это возможно. Вместо этого, я подозреваю, что это чувство полной осведомлённости проистекает из способности человека не задавать вопросы о своём состоянии постоянно, что даёт некоторую иллюзию знания всех ответов на вопросы.

В любом случае, наше размышление о собственных мыслях должны основываться на записях или каких-то других следах, то есть на частичных описаниях предыдущих психических состояний. Например, как в §5–3, когда Кэрол говорила: «Возможно, я помню эти другие события, и попросту их повторила вновь.» Но как и когда эти записи были сделаны, где и как они сохранились и возникли в памяти, и какой процесс может организовать эти процессы? Как Кэрол может распознать, что совершила глупую ошибку, и как Джоан могла вспомнить, что она не знала стоит ли пересечь улицу или нет? Что означает, когда человек говорит, что сбит с толку, смущён или запутан?

Подумайте насколько умным нужно быть, чтобы знать о том, что вы сбиты с толку (или же знать, что вы не сбиты с толку). Это говорит о том, что вы переключаетесь с актуальной проблемы на более масштабное представление самого себя, своих мотивов и целей, с высоты которого вы можете распознать, что тратите время на незначительные вещи, или же потеряли нить того, что вы пытались делать, или даже что вы выбрали неверную цель, которую преследуете в данный момент времени. Это всё может привести вас к созданию лучшего плана, или же это может привести к широкомасштабному каскаду, например: «Даже мысль об этом заставлять меня страдать. Возможно настало время бросить это дело.»

Мне кажется, это ключ к вопросу о том, когда мы вовлекаем более высокие уровни мышления: мы это делаем, когда наши обычные системы не справляются с возложенными на них задачами и тогда на передний план выступает рефлексивное мышление. Например, нормальный человек обычно идет без всякой мысли о том, насколько сложна ходьба. Но когда колено Джоан перестанет функционировать, она станет изучать, как она двигается, что заставит её действовать более осторожно.

Тем не менее, как мы отметили в §4–1, самоанализ имеет свои лимиты и риски. Любая попытка оценки себя грозит изменить эту систему, если не полностью сломать её. Трудно описать вещь, которая продолжает менять свои формы перед глазами, и, конечно же, ещё сложнее описать что-либо, что меняет свою форму когда вы об этом что-то думаете. Поэтому вы почти наверняка запутаетесь, если начнёте думать о том, что думаете сейчас, и это, вероятно, именно та причина, почему мы так озадачены тем, что мы называем сознанием.

§5–6. Самосознательная Рефлексия

«Имеется глобальна тенденция человечества оценивать всех окружающих существ наподобие людей, и отражать на каждый объект те качества, с которыми человек знаком и которые глубоко осознаются. Мы находим человеческие лица на луне, армии в облаках, и благодаря природной склонности, если не корректировкой опытом и рефлексией, приписываем злобу или доброту всему, что причиняет нам боль или радует»
— Дэвид Юм

Это глава впервые обсуждалась в §1–4, описывая инстинктивные реакции; они включают в себя системы ответственные за кормление, дыхание, и другие функции, поддерживающие в живых наш мозг и тело. Они также включают в себя некоторые механизмы, которые изредка называются первородными эмоциями – а именно системы, которые отражают различные состояния физических нужд, таких как питание, защита и тому подобное. Уровень изученных реакций включает в себя расширения, которые изучаются после рождения. Уровни Осознания и Отражения предназначены для решения более сложных проблем. Саморефлексия возникает, когда эти проблемы требуют от нас задействовать созданные нами модели, или наш взгляд на возможное будущее.

Тем не менее, в дополнении к этому, кажется, что люди являются уникальны в том смысле, что имеют уровень самосознательной рефлексии, который позволяет нам думать о наших «высших» идеалах и целях. К примеру, когда Джоан задавала себе вопрос: «Что же мои друзья подумали бы обо мне?», она задаётся вопросом, соотносятся ли её цели с её конкретными действиями. Затем Джоан может прийти к заключению: «Мои друзья могли бы сказать, что я совершенно неосторожна, и не беспокоюсь ни о себе, ни о них.» Для того, чтобы она могла думать подобные мысли, Джоан должна была построить модели, которые бы описывали то, как её друзья могли бы среагировать, или же могла вспомнить прошлый негативный опыт, когда её друзья так реагировали, когда она попала в схожую ситуацию. В любом случае, она находит конфликт между тем как она действует, и ценностями тех к кому она привязана, что может привести к целому каскаду реакций, которые мы можем охарактеризовать как «самосознательные эмоции», которые обсуждались в §2–2. Итак, давайте добавим ещё один уровень, и рассмотрим получившуюся систему как «Модель Шести».

Психолог: Я не вижу четких отличий между различными уровнями этой модели. Например, когда вы размышляете над своими недавними мыслями, разве вы просто не обсуждаете свои обсуждения? И аналогично, разве не является саморефлексия видом обычной рефлексии? Кажется, что все уровни выше первого используют одинаковые системы мышления.

Я согласен, что эти границы являются нечёткими. Даже ваши самые простые обсуждения могут включать в себя своеобразные саморефлексивные мысли о том как распределить ваше время и ресурсы, например: «Если предпринятый способ не сработает, то я попробую другой способ», или же «Я уже потратил слишком много времени на это».

Философ: Но если эти уровни нечётко различимы, какой смысл различать их? В теории недолжно содержаться больше вещей, чем необходимо.

Эта политика нахождения простейшей теории, которая бы отвечала на конкретные вопросы, которые вы задаёте работала невероятно хорошо в физике. Однако, я полагаю, что этот подход затормозил развитие психологии. Ибо, когда вы знаете, что ваша теория неполна, вы должны оставить определённое место для расширения вашей неполной теории. Наиболее старые теории в психологии дали объяснение только тому, как определённые животные ведут себя в невероятно простых окружающих средах. Тем не менее, хотя эти теории и были позднее усовершенствованы для дачи хороших прогнозов, ни одна из старых теория бихевиоризма не могла объяснить, как мыслящие люди могут проводить рефлексию не имея никакого внешнего поведения.

Мы знаем, что мозг имеет сотни специализированных участков, и развитие каждого мозга начинает с небольшого скопления клеток, которые упорядочиваются по уровням. Однако, когда некоторые из этих клеток начинают мигрировать (напрявляясь тысячами различных генов), это приводит к созданию тысяч и тысяч связей между этими кластерами клеток, и ранее выраженные уровни становятся «размытыми».

Это означает, что мы не сможем чётко разделить все функции мозга на чёткие и отдельные уровни разума. Это было бы также бесполезно, как и четко очерчивать границу семи морей. Вместо этого, каждое из наших ведомств разделяет морское пространство исходя из различных противоречивых назначений, например геофизических, экологических и политических. Точно также, нам необходимо несколько моделей мозга, для объяснения некоторых феноменов разума. Например, нам может потребоваться более сложные теории о том, как работает самосознательная рефлексия, хотя бы из-за связи этого феномена с религиозными, правовыми и этическими вопросами.

Индивидуалист: Ваша диаграмма не показывает части, которая бы контролировала все остальные. Где находится Я, которые принимает все решения? Что определяет цели, которые я преследую? Как мы выбираем каких планов придерживаться, и как мы контролируем их исполнение?

Эти вопросы показывают настоящую дилемму: никакая сложная система наподобие вышеописанной не может функционировать без организованного контроля. В противном случае она бы не видела направлений – и невольно бы пропускала различные необходимые вещи. С другой стороны, нет никакого смысла создавать управление в одном месте, потому что сбой в нём поверг бы всю систему в хаос. Поэтому в слудющих главах этой книги будут обсуждены несколько способов, которые использует наш мозг для самостоятельного контроля. Мы рассмотри их детальнее в главе §9.

В то время касаемо вопроса о центральном управлении, следует отметить, что «Модель Шести» также можно было увидеть в модели «уме-сэндвиче» Зигмунда Фрейда, которая разделяла разум на 3 части.

Фрейдиское «Оно» состоит из инстинктивных побуждений, а «Суперэго» воплощает наши идеалы (многие из которых являются запретами). «Эго», в такм случае, является этими частями, которые находятся посередине – Сознательным и Отражающим уровнями. Принцип «Эго», по мнению Фрейда, состоит в разрешении конфликтов между «Оно» и «Суперэго». В таком случае, человек может видеть своё эго как набор различных контролируемых вещей, в то время как для психотерапевта «Эго» будет полем битвы.

Студент: Я хотел бы повторить вопрос, который задавал ранее. Можно ли использовать слово «сознание» касаемо этой машины? Мне кажется, что «Модель Шести» включает в себя все основные функции, которые вы обсуждали в главе §4–1, а именно, кратковременная память, последовательная обработка, высокоуровневые объяснения и набор моделей самого себя.

Меня бы не удивило, что такая машина, получившая необходимые знания, заявила бы, что является таким же сознательным существом как и мы. Такое может случится, если, как мы предположим в главе §9, её высшие уровни могли бы представить её «Я» как единую, самосознающую сущность. И, конечно, другие уровни могли бы не согласиться с этим высшим уровнем.

Эта глава началась с вопросов о том, как мы можем обдумывать вещи и идеи, с которыми никогда ранее не встречались. В оставшейся части этой главы будут рассказаны подробные сведения о том, как могло возникнуть наше воображение, исходя из различных уровней обработки окружающей информации.

За перевод спасибо Станиславу Суханицкому. Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru

Оглавление книги The Emotion Machine

Об авторе

Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]

Интересные факты:

• Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
• Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
• Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
• Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
• В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]

Про #philtech

#philtech (технологии + филантропия) — это открытые публично описанные технологии, выравнивающие уровень жизни максимально возможного количества людей за счёт создания прозрачных платформ для взаимодействия и доступа к данным и знаниям. И удовлетворяющие принципам филтеха:

1. Открытые и копируемые, а не конкурентно-проприетарные.
2. Построенные на принципах самоорганизации и горизонтального взаимодействия.
3. Устойчивые и перспективо-ориентированные, а не преследующие локальную выгоду.
4. Построенные на [открытых] данных, а не традициях и убеждениях
5. Ненасильственные и неманипуляционные.
6. Инклюзивные, и не работающие на одну группу людей за счёт других.

Акселератор социальных технологических стартапов PhilTech — программа интенсивного развития проектов ранних стадий, направленных на выравнивание доступа к информации, ресурсам и возможностям. Второй поток: март–июнь 2018.