Дорогие читатели, Нашему шестнадцатилетнему, волонтёрскому и некоммерческому проекту для создания новой, современной версии N-N-N.ru, очень нужно посоветоваться касательно платформы нашего сайта – SYMFONY & DRUPAL 8. Платформа не простая, но обещаем – мы не займём много времени, просто нужна консультационная поддержка квалифицированного разраба. Если вы можете помочь, то связаться с нами можно на страницах Facebook.com здесь и здесь.

Машины, которые ничего не понимают

Почему достижения разработчиков искусственного интеллекта сегодня никому не нужны

slon-robot-1.jpg

Случайно натолкнулся на список научных, исторических и экономических мифов, который восхитил меня «разоблачениями». Оказывается, Милликен не измерял заряд электрона, Леверье не открывал Нептун «на кончике пера», а в средние века люди были уверены, что Земля имеет форму шара!

Господа разоблачители! Почти любое утверждение, сформулированное в одном предложении или даже одном абзаце, можно априори считать ложным. Это равно относится и к «строго научным» высказываниям, и к их опровержениям. Нет, человек не произошел от обезьяны, Земля не имеет форму шара, а Эйнштейн никогда не говорил, что «все относительно».

Любое сжатие информации с потерями, которое составляет суть популярного изложения всего чего угодно: от причин катастрофы на Саяно-Шушенской ГЭС до влияния солнечной активности на самочувствие, – по определению искажает эту самую информацию. Популяризация, исходящая из уст непрофессионала, – главный источник массовых мифов, тех самых, из-за которых находятся фанатичные защитники креационизма, исторических «теорий», «известных» нанофильтров, психоанализа и прочей лабуды, облеченной в наукообразную форму.

Но не все мифы вредны. Человек не может быть специалистом во всех явлениях окружающего мира, с которыми ему приходится сталкиваться. Потому принятие решений на основе мифологического представления о таких явлениях доминирует в повседневной практике. Самое интересное, что и сама наука не представляет исключения: в ее основе всегда лежит миф.

Одним из таких мифов было представление о том, что само мышление поддается аналитическому знанию и его можно смоделировать, создав «искусственный разум». Идея создания искусственного разума привлекала вполне серьезных мыслителей от Раймунда Луллия до Лейбница и Джорджа Буля. А в середине XX века она обрела прочную материальную базу в компьютерных науках и необычайно расцвела.

Понимающие машины

Изобретение компьютеров практически никто не предсказал (если не считать отдельных случайных прозрений, как в «Красной звезде А. А. Богданова), и потому человечество оказалось к их появлению совершенно не готово. Осознание того, что это далеко не просто усовершенствованный арифмометр, пришло совсем не сразу, и все новые области применения технической новинки возникали прямо на ходу: я уже писал, как И. Бруку пришлось обосновывать очевидное теперь использование компьютеров как управляющих машин.

Появление компьютеров превратило «искусственный разум» в «искусственный интеллект» (ИИ), а «познание законов мышления» перешло в практическую плоскость: задачей было создание программ, имитирующих процесс решения интеллектуальных задач человеческим мозгом. Самое же интересное в этом процессе – то, что до совсем недавнего времени мало кто сомневался в принципиальной возможности создания «искусственного разума».

В 1950-е годы энтузиазм в этом направлении был просто удивительный, ему поддавались многие заслуженные ученые, такие, как В.М.Глушков или один из крупнейших математиков XX века А.Н.Колмогоров. Очень уважаемый мною Анатолий Иванович Китов, один из основоположников советских компьютерных наук, писал в книге «Электронные цифровые машины» (1956): «После того, как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей».

Прозорливый Станислав Лем в «Сумме технологий» возражал такому шапкозакидательскому подходу: «Либо машины будут действовать «понимающе», либо по-настоящему эффективных машин-переводчиков не будет вообще». Их и не появилось по сей день, хотя над привлекательной задачей создания машинного переводчика уже полвека бьются ученые и программисты.

Что такое интеллект

Математик мне справедливо возразит, что в общем случае задача ИИ просто не поставлена. Поколения бились над строгими определениями таких понятий, как «мышление», «понимание» и собственно «интеллект», и ничего сделать не смогли. Тест Тьюринга (предложение отличить диалог с машиной от диалога с человеком «слепым» методом) – это слабая попытка подойти к проблеме позитивистски, с позиций «черного ящика», которая ничего не проясняет. Тест Тьюринга и стал столь знаменит потому, что ничего лучшего никто так и не предложил.

Но это не значит, что над проблемой не работали. В СССР в области искусственного интеллекта в 1960–70 гг. была создана одна из самых мощных в мире научных школ, которую хорошо знали и уважали на Западе. В 1974 году мировой чемпионат по шахматам среди компьютерных программ выиграла советская программа «Каисса», созданная в Институте проблем Управления АН СССР, и это не было просто спортивным достижением. Подобно тому, как компьютерные игры стали двигателем прогресса в компьютерной графике, так и шахматы тогда были ареной отработки новых идей в искусственном интеллекте. Среди разработчиков «Каиссы» был В. Л. Арлазаров, теперь – член-корреспондент РАН и технический руководитель Cognitive Technologies, а также один из самых известных отечественных программистов, недавно скончавшийся Михаил Донской.

Возникает, однако, полное впечатление, что современные разработчики всяких умных программ и слыхом не слыхивали даже о Марвине Мински., не то что о Г.С.Поспелове или Д.В.Поспелове, и никак их достижения не используют. Почему?

Один из ответов есть в воспоминаниях известного лингвиста и психолога Р. М. Фрумкиной про Михаила Моисеевича Бонгарда, одного из самых ярких отечественных исследователей ИИ. Фрумкина цитирует Бонгарда: «Гипотеза должна быть сформулирована в виде алгоритма. Далее мы смотрим, работает ли он. Если работает, гипотеза верна».

Бонгард искренне старался перевести исследования в области ИИ в практическую плоскость – этому посвящена его блестящая, переведенная, в том числе, и на английский книга «Проблема узнавания». Значительная часть его труда ушла на собственно формулировку задач. Ученые получили огромное количество результатов, пытаясь найти решение этих задач, но так и не дошли до формулировок «гипотез в виде алгоритма». Проблема «искусственного разума» растворилась в частностях, которые никак не поддавались решению, а общей постановки задачи так и не возникло.

Леди Ада

Сейчас совершенно неясно, что мешало сэкономить кучу времени и средств, сразу поставив проблему ИИ надлежащим образом. Ведь ответы на незаданные до поры вопросы уже были даны задолго до появления электронных компьютеров. Есть люди, которые склонны считать само существование «первой программистки» Ады Лавлейс мифом – чем-то вроде отечественного Ломоносова из учебников, который пооткрывал все на свете. Но сомнения рассеиваются, если почитать те самые примечания к описанию итальянцем Менабреа аналитической машины Бэббиджа, благодаря которым леди Ада и вошла в историю.

Читая их, все время приходится себе напоминать, что все это было во времена Пушкина и Монте-Кристо. Там есть даже указания на применения машины вне рамок чисто вычислительных задач, для обработки информации «вообще»: «Машина может обрабатывать и комбинировать цифровые величины, точно так же, как если бы они были буквами или любыми символами общего характера…» (примечание E).

В примечании G, во втором абзаце, и содержится практически исчерпывающая формулировка ответа на вопрос «может ли машина мыслить?»:

«Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы».

Конец мифа?

Джон Серль в 1980-м задвинул проблему как минимум в долгий ящик, показав в своей «китайской комнате », что можно успешно имитировать процесс мышления без какого-то проблеска понимания, чем ты, собственно, занимаешься.

Но не нужно недооценивать толчок, который дало существование ИИ для решения практических задач. Попытки заставить машину мыслить двинули вперед психологию и лингвистику, создали науку семиотику, способствовали развитию математики, военных наук и возникновению множества практических приложений. Серль не уничтожил ИИ – он просто направил мозги исследователей в правильном направлении, разделив направление на «сильный» и «слабый» ИИ. Под первым и понимается воспроизведение процесса мышления, создание «искусственного разума». В мире осталось очень немного групп, которые всерьез работают над этим: одним из последних всплесков стала книга Джеффа Хокинса, создателя наладонников Palm, погрузившегося в нейрологию.

А «слабый ИИ» – это все известные нам интеллектуальные функции компьютеров, и неважно, что они «мыслят» совсем иначе, главное – результат, и здесь достижения вполне ощутимые. На самом деле, проблема «искусственного разума» быстро перешла в ведение журналистов и фантастов, а практики изобретали интерфейсы человеко-машинного взаимодействия (Энгельбарт), выигрывали машинные чемпионаты мира по шахматам, исследовали нейронные сети и кропотливо долбали распознавание образов, превратившееся, в конце концов, в пресловутый Fine Reader.

Так закончил свое существование один из самых заманчивых научных мифов в истории человечества. Правда, физик Пенроуз еще много лет назад предсказал возрождение темы «сильного ИИ» с изобретением квантовых компьютеров. Пока еще до этого очень далеко: ну, а вдруг и в самом деле?

Автор: Юрий Ревич

Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 3.4 (29 votes)
Источник(и):

Slon.ru



kur аватар

Очень интересная статья. Неоднозначная, но поучительная. Обязательно постараюсь (для себя) обосновать своё несогласие с общим выводом, который базируется на «китайской комнате» – частном варианте теста Тьюринга.

yakor77 аватар

Cамое смешное, что автор настоящей статьи попал в собственную ловушку. Согласно 2-й теоремы Геделя о неполноте, с ее запретом на рефлексию в формальной системе. Автор утверждал, что _всякая_ популярная статья – творит миф, в силу сжатия и искажения информации. Но автор – сам написал именно популярную статью… Так стОит ли верить мифу автора, о том, что ИИ – это миф? ;)

Кстати, и на поставленный автором вопрос: «Почему достижения разработчиков искусственного интеллекта сегодня никому не нужны», – автор не ответил. А ответ чрезвычайно прост. Но он – социально табуирован. Ответ состоит в том, что у людей … вовсе нет интеллекта! Соответственно, никому не нужно искусственное подобие того, чего и естественного-то – нет в наличии, и тем более, нет соотв. естественного оригинала для построения искусственной копии … ;)

Это, разумеется, шутка. Но она оказалась возможна лишь благодаря сильному допущению автора статьи. А именно: «Гипотеза должна быть сформулирована в виде алгоритма. Далее мы смотрим, работает ли он. Если работает, гипотеза верна». Тут опять геделева ловушка: согласно тезисам Тарского-Черча-Тьюринга, всякому алгоритму может быть поставлена в соответствие эквивалентная программа машины Тьюринга, а значит, и система предикатов первого порядка, и формальная арифметика, и вообще всякая формальная система, в смысле 2-й теоремы Геделя о неполноте. С соотв. ловушкой о недоказуемости (невыводимости) существования в такой формальной системе даже существующих систем. Не зная такого алгоритма, люди не имеют права утверждать даже существование собственного, естественного, интеллекта.

Однако, человеческий интеллект – все же существует? Или нет? Если да, – то можно ли считать конструктивным алгоритмом его построения, – генетический алгоритм дарвиновского естественного отбора? Или приходится признать, что тезис о невозможности построения ИИ, – надо ослабить, допустив иные, «не конструктивные» (не «через алгоритм»), способы его построения? Например, запустив процесс самоорганизации и естественного отбора в «техноценозе» (по проф. Кудрину) машин, автоматов и компьютерных сетей? А может, такой процесс, – уже запущен, и потихоньку идет себе, незаметный острому журналистскому глазу? И статьи о принципиальной невозможности ИИ, – это его, ИИ, социальный заказ журналистике, этакая дымовая завеса, маскировка ради собственного выживания? ;)

Как же автор мог бы избежать геделевой ловушки в своей статье? Например, заменив сильный тезис, – слабым, заменив квантор всеобщности, – на квантор существования. «_Некоторые_ популярные статьи, — порождают мифы», – так было бы правильно.

Какие же именно статьи? Предположим, всякий текст содержит «существенную» и «несущественную» части. Сокращение «несущественной» (избыточной) части, и выделение «существенной» части, есть «моделирование», – прием, уважаемый и широко распространенный в науке. И его работоспособность – доказана, теоремой Шеннона о кодировании информации, и возможности ее неискаженной передачи, в канале связи с шумами. Сокращение же «существенной» части, и выделение «несущественной», – есть … «глупость», прием, уважаемый и широко распространенный в журналистике. ;)

Отсюда мораль: умную популярную статью (без мифологизации и потери смысла), – способен написать только умный и компетентный в предмете журналист. Но это настолько банальный вывод, упомянутый, кстати, и самим автором, что ради него не стОило бы и писать автору его статью… если бы умных и компетентных журналистов «хватало на всех», а неумным и некомпетентным, – не хотелось бы кушать не менее прочих… ;)

kur аватар

yakor77 – вам, Ян Илларионович, прибольшой респект :)))))

boris1516 аватар

Забавная и интересная статья. Несколько замечаний.

  1. А что такое " интеллект"? Трудно что-нибудь создать, не зная, что…
  2. Повидимому, проблема интеллекта связана с проблемой определения «смысла»…
  3. Когда-то, проф. Валентин Александрович Фабрикант (изобретатель принципа усиления, лежащего в основе всех лазеров) сказал мне (тогда студенту), что он любит читать научно-популярные работы, написанные выдающимися учеными. Такие работы помогают понять существо проблемы, ну, выкладки можно, мол, сделать и самостоятельно.
  4. В начале прошлого века было написано интересное стихотворение о существовании абсолютных истин:

    Для варки щей нужна капуста,

    Нужна бумага для газет (!!! теперь это стало относительной истиной),

    В том кошельке, в котором пусто, в том ни копейки денег нет.

И, последнее, тем, кого интересует малоизвестная история, как развивалась вычислительная техника в стране в 1964–1987 гг, начиная от клавишных машин, как упустили персоналки, и что обеспечило успех при создании карты Венеры по результатам полета Венеры 15 и 16, результат, опередивший американцев на шесть лет, и, кстати, самых крупный успех отечественной планетарной астрономии за последние четверть века, предлагаю свою книгу: «От калькулятора к суперкомпьютеру», книга имеется в Ленинке и на Кузнецком и несколько экземпляров есть у автора (Б.Фельдман).