Автор: Юрий Панчул / Yuri Panchul. Любая комбинация софтвера и цифрового хардвера – от микроконтроллера, двигающего дворники у автомобиля – до серверной фермы с много-много-ядерными процессорами, аппаратными ускорителями ML и ChatGPT – сводятся к конечному автомату с достаточно большим состоянием. Независимо от сложности и адаптивности программ.

Простым примером конечного автомата является механический арифмометр, производящий умножение столбиком. Он получает информацию от человека через рычажки, у него есть аналог тактового сигнала – поворот ручки, который меняет состояние конечного автомата. Также у арифмометра есть функция преобразования текущего состояния в следующее и вывод информации через цифры. Все атрибуты Finite State Machine – FSM.

Сводится ли к конечному автомату человеческий интеллект? К сожалению, у человеческого интеллекта есть атрибут, природа которого современной науке неизвестна и который никогда не наблюдался у конечных автоматов. Этот атрибут – ощущение собственного «я», self-awareness. Конечно вы можете сделать в программе переменную «я_чувствую_собственное_я» и присвоить ей true, а потом утверждать, что вы симулируете собственное «я», но это жульничество, а не технология.

Я вовсе не пытаюсь нагонять мистику или агитировать за бога. Self-awareness наверняка такой же физический феномен, как какая-нибудь термоядерная реакция. Но, скажем, древние греки не знали природы термоядерной реакции. Наверное, они вели диалоги типа «если ты не веришь, что Солнце – просто большой костер из дров, то, значит, ты веришь в сказки про Зевса и других богов?»

Элиу Веддер – Плеяды, 1885

Также вспомним, что древние греки считали, что человек думает сердцем, а мозг – только железа для охлаждения крови. А что – сердце же начинает сокращаться быстрее, когда мы волнуемся, не так ли?

Возможно, мы – те же самые древние греки по отношению к self-awareness. Кто знает – может быть self-awareness не только не конечный автомат, но еще и не особо привязана к нейронам. Типа там стоит какой-нибудь портал в пятьдесят второе измерение, где оно и происходит. И возможно, наука когда-нибудь разберется, что это такое. А может быть, и не разберется. Среднее время существования вида млекопитающего – всего миллион лет, у нас осталось всего несколько сот тысячелетий, чтобы разобраться с вопросом, и этих тысячелетий возможно и не хватит.

Может быть и так, что нашему виду Homo sapiens познать self-awareness просто не дано, как муравьям не дано построить ракету SpaceX и отправиться на ней на Марс.

Прежде чем обсудить, что же делать, ответим на еще один тезис: «А что если ощущение собственного "я» – просто иллюзия?"

Этот тезис выглядит как психзащита. Вспомним исторический курьез: с 1565 до 1815 год вдоль берега северной Калифорнии каждый год проплывал так называемый Манильский галеон, торговый корабль, следующий из Филиппин в Мексику. Он никогда не останавливался – купцы просто использовали быстрое прибрежное течение, чтобы пронестись вдоль берега на юг к Акапулько. При этом, берег северной Калифорнии был обитаем. На нем жили индейцы, которые не знали природы корабля, хотя он регулярно проплывал мимо на глазах у десятка поколений. Возможно, старейшины утешали молодежь, что объект на горизонте – это просто иллюзия, а молодежь пыталась уговорить себя, что это просто большой тюлень.

Также есть школа мысли, что один арифмометр конечно не обладает self-awareness, но если заставить арифмометрами все планеты солнечной системы и соединить их рычажками с дополнительными шестеренками и обратными связями для адаптируемости, а также присоединить генераторы псевдослучайных чисел – то ощущение собственного «я» в такой конструкции как-то само по себе самозародится, как личинки мух в протухшем мясе.

Является ли такое представление научной гипотезой или квазирелигиозной верой? Если вы считаете, что это научная гипотеза, то предлагаю вам обсудить ее фальсифицируемость по Попперу. Если же нет, обсудим следущий вопрос:

Что делать?

Решение я нашел в книжке советского писателя Владимира Сорокина «Тридцатая любовь Марины». Главная героиня книги проводила время с гуманитариями, диссидентами и фарцовщиками, отчего была постоянно несчастна. Но однажды с нею приключилось чудо. Марина встретила секретаря парткома завода Сергея Румянцева, который подарил ей простое женское счастье. После чего Марина устроилась на завод компрессоров расточницей и ее страдания тут же прекратились.

Я это все к чему: самый простой способ достичь счастья – это бросить споры об искусственном интеллекте и сингулярности, и заняться чем-нибудь практическим, с понятным результатом. Не обязательно стоять за станком. Можно проектировать микросхемы для телефонов и сетевых маршрутизаторов, ну или на худой конец микроконтроллеры для той же ракеты на Марс. Но чтобы это делать, нужно твердо овладеть навыками проектирования микроархитектуры на уровне регистровых передач. Об этом пойдет речь на семинаре LaLambdahttps://lalambda.school/ в Грузии, который состоится 15–23 июля. LaLambda – это такое мероприятие, которое начиналось с обсуждения формальных методов и автоматического доказательств теорем, но сейчас впитало в себя функциональное программирование, хаскели и лиспы, ML (куда же без него?), статический анализ программ, йогу, музыку и танцы, и вот теперь – железо.

Вот мое превью для семинара: