Чего не могут ЭВМ
       

ВМЕСТО ПОСЛЕСЛОВИЯ


К оглавлению

ЧТО ЖЕ МОГУТ ВЫЧИСЛИТЕЛЬНЫЕ МАШИНЫ?

ВМЕСТО ПОСЛЕСЛОВИЯ*

Ничто кардинально новое не входит спокойно в науку и практику. Буря - вот что обычно сопровождает появление идей и решений, ломающих сложившиеся представления. Кибернетика - яркий тому пример.

В гуще споров

Этому комплексу методов и теорий, пронизанному идеями управления, информации и моделирования и спаянному лозунгом математической точности, для реализации которого привлекаются средства автоматики, на протяжении всей его еще очень короткой истории сопутствуют острые дискуссии. Их главное содержание - вопрос о соотношении возможностей машины (автоматического устройства, вычислительной сети, системы для переработки информации и т. п.) и человека, обладающего психикой, сознанием и самосознанием. Вопрос этот перерастает в проблему осуществимости кибернетического "воспроизведения" интеллекта - частичного или "полного", то есть в проблему возможности "искусственного кибернетического разума".

Проблема эта мало кого может оставить равнодушным, так как неотделима от вопроса о познании человеком самого себя, вопроса, как магнит притягивавшего пытливую мысль на протяжении веков. Именно этот последний вопрос прежде всего стоит за современными исследованиями природы живого. Именно он во многом дал - и продолжает давать - импульс экспериментальной и теоретической психологии. И он же придает волнующую актуальность изучению человеческой психики и поведения на новом для науки пути - на пути теоретико-кибернетического и вычислительно-информационного моделирования человеческих феноменов восприятия, мышления, решения задач, прогнозирования и творчества. Ибо впервые в истории сферы разума на нашей планете - ноосферы - открылась возможность передачи машинам ряда таких форм интеллектуальной деятельности, которые до недавнего времени считались исключительной прерогативой человека.

Вопрос о перспективах искусственных кибернетических систем - и прежде всего соответствующим образом запрограммированных универсальных цифровых вычислительных машин - в реализации форм поведения, которые в каком-либо смысле можно признать "разумными", вот уже 30 лет стоит на "повестке дня" философско-кибернетических обсуждений. Спорящие стороны с разных позиций пытаются внести ясность в проблему возможности либо невозможности наличия принципиальных разли-


* Автор выражает признательность коллегам, любезно предоставившим в его распоряжение некоторые свои материалы либо оказавшим помощь своими консультациями: М. В. Арапову, М. М. Ботвиннику, В. Л. Доблаеву, И. Б. Новику, Ю. В. Орфееву, Г. Н. Повэрову, Д. А. Поспелову, В. Л. Стефанюку, С. М. Шевенко и Ю. А. Шрейдеру. Он благодарит также О. Н. Кессиди, чье квалифицированное редакционное вмешательство содействовало существенному улучшению данной статьи.



298

чий между "машинно-вычислительным миром" и человеческим сознанием. Дискуссии проходят на разных уровнях научной квалификации и философской культуры их участников. Нередко они не столько проясняют, сколько затемняют суть дела. Но при всем том в них возможно усмотреть два противоположных подхода. Один из них можно назвать подходом с позиции "кибернетического оптимизма". Этой позиции подчас придерживаются некоторые специалисты по математическому обеспечению вычислительных систем, занятые программированием "интеллектуальных" (то есть не специфических математико-вычислительных) задач. Их противники - обычно представители "традиционных" областей знания, в особенности гуманитарного. "Кибернетические оптимисты" увлечены широкими горизонтами, открывающимися перед приложениями вычислительной техники. Их оппоненты, признавая значение и растущие перспективы внедрения автоматизации в область интеллектуального труда, подчеркивают, однако, что эти успехи не распространяются на человеческое творчество. Специфически человеческие процессы созидания новых научных и культурных ценностей, по их мнению, не могут быть переданы машине. Коль скоро это так, парируют этот довод "оптимисты", придется допустить, что человек наделен чем-то, не поддающимся объяснению, по крайней мере в той форме, которая принята в "точном" естествознании. В ответ следует возражение, что естественнонаучные критерии не совсем адекватны задачам изучения человеческой психики и социальных процессов...

Своеобразие интеллектуальной атмосферы, в которой происходит эта дискуссия, состоит в том, что защита человеческого суверенитета от "неумеренных претензий" кибернетиков создает, как ни парадоксально, благоприятную почву для провозглашения огромных (или даже неограниченных) возможностей "искусственного разума". Дело в том, что специалисты, работающие в различных областях кибернетики, строят свои рассуждения в соответствии со схемами, принятыми в "классической" науке; опираясь на реальный прогресс в области вычислительной математики и автоматики, владея навыками формализации, они, как правило, четко формулируют свои установки и результаты, чего нельзя сказать об их оппонентах, нередко апеллирующих к непосредственно данному личности внутреннему миру. Но характерно, что в пылу полемики как "гуманитарии-пессимисты", так и "кибернетики-оптимисты" обращаются к сфере психического, в частности к той ее части, которая находится за порогом сознаний. Первые, к примеру, утверждают, что психика - как в ее осознанной, так и подсознательной форме - отсутствует у вычислительных машин. Вторые, со своей стороны, настаивают на том, что в мозгу человека происходят скрытые "информационные процессы", подобные процессам вычисления, реализуемым на ЭЦВМ.

Но и среди кибернетиков нет единства. Их взгляды варьируют, в частности, в зависимости от того, в какой мере привлекаются психологические данные. Кроме того, на аргументации "оптимистов" нередко лежит печать философского непрофессионализма. На Западе импонирующая самолюбию человека мысль о великих возможностях созданной обществом науки, способной сконструировать мощный искусственный интеллект без кавычек, была подхвачена многими философами неопозитивистской ориентации. Противники этой "оптимистической" доктрины изображались занимающими "страусову позицию" (выражение А.Тьюринга) перед лицом грядущей опасности пришествия роботов либо просто обвинялись в некомпетентности. Преобладание таких крайних взглядов привело к тому, что в научной литературе США и Западной Европы было мало квалифицированных работ, авторы которых старались бы трезво осмыслить возможности и пределы нового научного направления. Монография X. Дрейфуса является в этом отношении исключением.

299



Х. Дрейфус как критик "искусственного интеллекта"



Философские аспекты моделирования на ЭЦВМ процессов познания и создания систем искусственного разума Хьюберт Дрейфус, являвшийся в период выхода данной книги профессором университета в Беркли (шт. Калифорния), разрабатывал с середины 60-х годов. Первоначальный краткий вариант данной книги составило исследование, выполненное им в период работы в качестве консультанта известной американской фирмы RAND. Первые критические выступления Дрейфуса не встретили понимания среди западных кибернетиков - по выражению А. Эттингера, написавшего предисловие к книге X. Дрейфуса (не вошедшее в данное издание), на него тогда "просто орали". Но когда книга Дрейфуса вышла в свет, она не могла не обратить на себя внимание. Ибо в лице ее автора специалисты по "искусственному интеллекту" нашли такого критика, который ведет дискуссию на их собственном языке и владеет необходимым фактическим материалом. В зарубежной литературе появился ряд статей, авторы которых полемизировали с Дрейфусом. Дискуссия вокруг его взглядов развернулась, впрочем, еще до захода в свет данной книги - в 1971 г. на конференции в Университете графства Кент (Англия), где оппонентом Х. Дрейфуса выступил Н. Сатерленд (см, труды конференции: Philosophy of Psychology, ed. S. С. Brown, London and Basingstoke Macmillan, 1974, p. 247 ff). После появления книги в спор вступили С. Ватанабе и И. Уилкс (S. Watanabe. Some thoughts on Dreyfus, "Critique of Artificial ReasorTr.-IEEE Trans, on System Man, and Cybernetics. January 1975P p. 141-145; .1. Wilks. Dreyfus's disproofs,- "British J. for the Philos, of Sci."F, vol. 27, No 2,1976, p. 177-185). Как справедливо отмечает А. Эттингер, вопросы, касающиеся возможностей и пределов "искусственного разума", "заслуживают серьезного открытого обсуждения. Они слишком связаны с естественными науками, чтобы предоставить их решение философам, и слишком философские по своему характеру, чтобы оставить их на усмотрение представителей естественных и точных наук" (A. G. Оеttinger Preface,-In: H. L. Drеyfus. What Computers can't do, 1972, p, XI),

В нашей стране уже имеется солидная философско-кибернетическая литература, в которой обсуждаются, в частности, и проблемы, поднятые в книге американского автора (примером может служить коллективная монография "Управление, информация, интеллект" под ред. А. И, Берга и др., М., "Мысль", 1976) . Тем не менее для советского читателя целесообразно ознакомление с данной книгой, так как аргументы Дрейфуса залуживают того, чтобы их учли и специалисты в области вычислительных систем и их математического обеспечения, и психологи, использующие кибернетическое моделирование как метод изучения психики и поведения человека, и философы, осмысляющие познавательно-практический вклад нового направления в науке и технике. В книге Дрейфуса представлено развернутое изложение определенной линии в методолого-кибернетических исследованиях на Западе, а именно, линии скептического отношения к перспективам созданий систем, "интеллект" которых существенно приближался бы к логико-творческим способностям человеческого разума. Материал книги может содействовать углублению понимания "кибернетической составляющей" научного прогресса, и скепсис автора, пропущенный через надежный методологический "фильтр", способен сыграть позитивную роль.



«Искусственный интеллект» как исследовательская сфера





Еще в 50-х годах в кибернетике выделились четыре родственных области. Это были: алгоритмизация "стратегических" игр типа шахмат; программирование невычислительных задач и логической дедукции в применении прежде всего к математическому материалу; разработки в области автоматического распознавания образов и исследования, направлен-

300

ные на создание машинных программ перевода с одного естественного языка на другой. Достаточно быстро обнаружилась глубокая общность задач этих областей. Выяснилось, что методы, разработанные в одной из них, могут быть применены в других, а также то, что их можно распространить и на иные сферы, например на проблематику машинного сочинения музыкальных композиций или автоматический диагноз заболеваний. Постепенно совокупность подобных исследований (достаточно единая по характеру своей проблематики) стала восприниматься как самостоятельное научное направление, и за ним все больше стало закрепляться название "искусственный интеллект".

С момента появления первых работ, которые можно отнести к направлению "искусственного интеллекта" (или просто к "искусственному интеллекту"), прошло три десятилетия. За это время выявились две главные цели, которые преследуют соответствующие исследования. Одна из них - моделирование на цифровой машине некоторых существенных черт интеллектуального (разумного) поведения. Другая - использование ЭВМ для решения сложных проблем, овладение которыми до сих пор было под силу только человеку. Различие этих двух целей относительно (многие кибернетические разработки подчинены обеим целям одновременно) и отражает лишь разные акценты. В одном случае акцент ставится на использовании в кибернетических целях эмпирического материала нейрофизиологии и психологии, в другом - на разработке эффективных методов решения "интеллектуальных" проблем независимо от того, в какой степени эти методы используются человеком (и используются ли вообще). Однако в обоих случаях соответствующие кибернетические исследования тесно связаны с психологией, поскольку поведенческий аспект интеллектуальной деятельности человека, учитываемый в большинстве работ по "искусственному интеллекту", близок или непосредственно заимствован из соответствующих психологических концепций. Работы многих специалистов США и Западной Европы в области "искусственного интеллекта" тесно связаны с теоретической установкой на объективное изучение поведения (известно, например, что Н. Винер придавал большое значение работам И.П. Павлова). В то же время исследования таких крупных американских психологов, как Дж. Миллер, К. Прибрам и У. Ниссер, выполненные за последние десятилетия, несут на себе явное влияние идей и методов "искусственного интеллекта". Советские психологи (А. А. Ератко, В. Н. Пушкин, О. К.Тихомиров и др.), так же как и специалисты других социалистических стран (Ф. Клике - ГДР, И. Лингарт - ЧССР), стоящие на диалектико-материалистических позициях, в своих исследованиях достаточно широко привлекают идеи и методы кибернетики.

Взаимодействие "искусственного интеллекта" и психологии способствует теоретическому и экспериментальному исследованию познавательной деятельности, стимулирует разработку новых психолого-кибернетических теоретических "моделей" интеллекта.



Крайности - вредны



Эта истина как нельзя более подходит для характеристики исходных установок книги Дрейфуса. Отпразной точкой рассуждений автора являются прогнозы, сделанные в середине 50-х годов некоторыми американскими учеными, относительно быстрого - в пределах до двадцати лет - прогресса в разработках "искусственного интеллекта". Подводя итоги исследований десяти лет (1957-1967 гг.), автор пытается ответить на вопрос, "действительно ли машины могут достичь хотя бы элементов творчества, играя в шахматы, разрешая простые проблемные ситуации, читая простые предложения и распознавая образы" (с 23) . Подразделив исследования, проводившиеся в его стране, на два этапа, которые обозначаются в книге как моделирование процесса познания" и "переработка семантической информации" ("искусственный интеллект" в собственном смысле), и подвергнув их критическому анализу, Дрейфус приходит к заключению, что получен-

301

ные результаты опровергают оптимистические настроения исследователей. По его мнению, развитие этих работ идет по одной и той же схеме: удачное начало при моделировании простых форм переработки информации и неудачи при попытках исследователей вложить в машину более сложные формы поведения. Создавшееся в данной области положение Дрейфус склонен характеризовать как "крушение радужных надежд", "застой", "тупик"- как ситуацию, окутанную неким "интеллектуальным смогом".

Такого рода оценки, рассматриваемые в применении к направлению в целом (а не к отдельным работам и программам, слабости которых верно подмечены Дрейфусом), искажают действительную перспективу развития. Сегодня мы можем сказать, что, вопреки заключениям автора, исследования в данной области не только не пошли на убыль, но неуклонно расширяются и набирают темп. Крайности, как известно, не способствуют уяснению подлинного положения вещей.





Следующее десятилетие

Дрейфус оперирует материалами работ 1957 - 1967 гг. (лишь фрагментарно привлекая отдельные результаты конца шестого десятилетия нашего века). Как же развивались работы по "искусственному интеллекту" в период 1968-1977 годов? Не говоря уже о прогрессе электронной вычислительной техники и ее применений в самых различных областях экономики и культуры - а прогресс этот был колоссальным,- в развитии поисковых работ мы должны констатировать углубление исследований, появление интересных идей и решений, новых подходов, разработку более мощных машинных программ. О некоторых из этих результатов мы упомянем в последующем изложении. Здесь же обрисуем, так сказать, внешнюю сторону исследований десятилетия 1968-1977 гг., имея в виду не только американскую науку (материалами которой оперирует Дрейфус), но и работы советских ученых (которые остались вне поля зрения автора).

Перечислим для начала некоторые труды этих лет, которые в своей совокупности отнюдь не подтверждают тезиса автора о "застое" исследований в области "искусственного интеллекта"» Мы заранее просим читателя запастись терпением, так как список будет довольно обширным, но, с нашей точки зрения, ознакомление с ним небесполезно для тех, кто решит проследить прогресс, наблюдающийся и в создании автоматов, моделирующих "опыт" человеческой переработки информации, и в разработке систем, решающих сложные задачи способом, отличным от методов решения их человеком.

Прежде всего укажем переведенные на русский язык зарубежные исследования: сборники работ "Кибернетические проблемы бионики", вып. I, M., "Мир", 1971, вып. II, М., "Мир", 1972; З.Бэнерджи. Теория решения задач. Подход к созданию искусственного интеллекта. М., "Мир",(оригинал опубликован в 1969 г.); Н. Нильсон. Искусственный интеллект. Методы поиска решений, М., "Мир", 1973 (оригинал вышел в 1973 г.); Дж. Слэйгл. Искусственный интеллект- Подход на основе эвристического программирования, М., "Мир", 1973 (оригинал 1971 г.); сборники статей "Интегральные роботы" [вып.1], М., "Мир", 1973, вып.2 , М., "Мир", 1975; Т. Виноград. Программа, понимающая естественные язык, М., "Мир", 1976 (оригинал 1972 г.) ; Р. Дуда, П. Xарт. Распознавание образов и анализ сцен. М., "Мир", 1976 (оригинал 1973 г,). Из бопьшого количества зарубежных работ, не представленных (пока) в русском переводе, отметим: R.C.Schank, К.М,Colby (eds.) Computer Models of Thought and Language. San Francisco, Freemen and Сотр., 1973; E. В. Hunt. Artificial Intelligence, New York - San Francisco - London, Acad. Press, 1975; G. Pask. Cybernetics of Human Learning and Performance. The Guide to a Theory and Research. London, Hutch in son, 1975; G. Pask. Conversation, Cognition and Methodology. Amsterdam, Elsevier, 1975; P.H.Winstоn (ed.). The Psychology of Computer Vision. New York. McCrow-

302

1975; В. Raphael, The Thinking Computer, San Francisco, Freemen and Corp 1976 P.H.Winslon. Artificial Intelligence. Reading (Mass.)-Meno park (Calif.), Addison-Wesley, 1977. Отечественная литература по "искусственному интеллекту" последних лет не менее обширна. См., например, следующие работы: Д. А. Поспелов, В.Н.Пушкин. Мышление и автоматы М "Советское радио", 1972; М. Б. Игнатьев, Ф, М. Кулаков, А. М. Покровский. Алгоритмы управления роботами-манипуляторами. Л., "Машиностроение", 1972; Н. М. Амосов, А. М. Касаткин и др. Автоматы и разумное поведение. Киев, "Наукова думка", 1973; Е. А. Александров, Основы теории эвристических решений. Подход к изучению естественного и построению искусственного интеллекта. M. "Советское радио", 1975; Н.Г. Загоруйко. Искусственный интеллект и эмпирическое предсказание. Новосибирск, 1975; Искусственный интеллект и психология. М., "Наука", 1976; Э. В. Попов, Г. Р. Фирдман. Алгоритмические основы интеллектуальных роботов и искусственного интеллекта. М., "Наука", 1976. Работы по "искусственному интеллекту" публикуются во многих научных изданиях, в том числе в международном журнале Artificial Intelligence (Амстердам) и в отечественном журнале "Кибернетика" (Киев); в Англии выходит продолжающееся издание Machine Intelligence (Эдинбург) .

Результаты исследований по кибернетическому моделированию процессов познания и системам, имитирующим определенные аспекты разумного поведения, обсуждаются на многочисленных научных совещаниях, в том числе международных. Наиболее авторитетные из них - Международные объединенные конференции по искусственному интеллекту (четвертая состоялась в СССР -IV МОКИИ, Тбилиси, сентябрь 1975 г., а пятая - в США, Кембридж, шт. Массачусетс, август 1977 г.), Сотрудничество советских, американских, английских специалистов и ученых других стран в области "искусственного интеллекта", активно начавшееся в период подго­товки и проведения IV МОКИИ, было продолжено на международной конференции по данной проблематике, которая проходила в г. Репино (под Ленинградом) в апреле 1977 г.

Труды IV МОКИИ дают четкое представление о круге вопросов, который в настоящее время охватывает понятие "искусственного интеллекта" как исследовательского направления. Он включает следующие темы: математические и теоретические аспекты "искусственного интеллекта"; методы представления задач и знаний в памяти вычислительной системы; методы поиска решений, эвристические методы; обучение машины, отладка программ "искусственного интеллекта", автоматическое программирование; машинное распознавание речи; общение с ЭВМ на естественном языке; технические средства и математическое обеспечение «искусственного интеллекта»; обработка визуальной информации; алгоритмы управления движением и роботы; психологические аспекты "искусственного интеллекта". Двенадцать выпусков трудов, изданных к началу этой конференции, составили свыше 2000 страниц! Таким образом, как мы видим, исследовательская работа в данном комплексном направлении кибернетики разворачивается все шире, вовлекая в круг своих проблем математиков и специалистов в области вычислительных систем, инженеров, лингвистов, психологов, логиков, философов.



Реальность трудностей



Итак, общая оценка перспектив "искусственного интеллекта", данная в книге, не прошла проверки временем. Значит ли это, что критика Дрейфусом работ американских авторов десятилетия 1957-1967 гг. (Г.Саймона, М.Минского и др.) совершенно беспочвенна? Отнюдь нет. Работы эти отражали реальные слабости подхода к решению интеллектуальных" задач, основанного на "силовом" приеме перебора вариантов и их выбраковке, базирующейся на достаточно слабых эвристических методах.



303

Известно, что для любых мало- мальски сложных задач сплошной перебор невозможен из-за громадности дерева альтернатив. Например, число возможных позиций в шахматной игре К. Шеннон оценил как 10120. Чтобы представить себе, сколь необозримым оказывается в этом случае перебор, укажем на то, что, по имеющимся оценкам, с тек пор как человек обрел дар речи, все люди на земле произнесли "только" 1016 слов! Чтобы сделать реальным машинное решение подобных задач, причем не только на современных машинах, но и на машинах, создание которых возможно в любом обозримом будущем, составителю программы необходимо руководствоваться определенными соображениями относительно тех характеристик, которые можно эффективно использовать для ограничении перебори с тем, чтобы затраты машинного времени и объем требуемой для решения информации соответствовали реальным вычислительным мощностям. Коротко говоря, необходимо разумное ограничение рассматриваемых машиной альтернатив, ибо их число растет по экспоненциальному закону, который оборачивается кошмаром для вычислительной процедуры. "Переборный" подход в кибернетике - естественное следствие развитие машинной математики, основанной на цифровой технике. Кодирование информации с помощью дискретных объектов типа цифр и букв, которым пользуются создатели систем "искусственного интеллекта", с необходимостью порождает "атомистический'' машинный мир дискретных данных и фиксированных признаков. Ориентация в этом мире - и решение в его терминах сложных задач (хотя бы отчасти напоминающих те, которые решает человек в своей интеллектуально-творческой деятельности в науке и практике) - представлялась возможной лишь на пути выработки методов выделения существенных ("релевантных") факторов (критериев, параметров, характеристик). Это обстоятельство стало ясно кибернетикам еще в 50-х - начале 60-х годов. Оно отмечается, например, в статье "Модели обучения и управляющие системы", написанной Ю. А. Шрейдером в качестве дополнения к переводной книге Р. Буша и Ф. Мостеллера "Стохастические модели обучаемости" (М., Физматгиз, 1962; оригинал книги вышел в 1955 г.; дополнение к русскому изданию было написано в 1960 г.).

Для реализации целесообразно организованного перебора необходимо, чтобы программа оперировала заранее заданным перечнем фактов (признаков, объектов, альтернатив и т. п.) либо содержала метод регулярного (в каком-либо смысле) порождения таких фактов и чтобы она могла отбирать существенные факты. Однако проведение этого подхода в жизнь натолкнулось в области "искусственного интеллекта" на серьезные трудности. Анализу сложившейся в результате этого ситуации в американской кибернетике 1957-1967 гг. и посвящена первая часть книги Дрейфуса. Ее материал показывает, что задача сведения "многовариантной" проблемы к "маловариантной"- существенное уменьшение "размерности" (числа подлежащих учету параметров) решаемой машиной проблемы, то есть превращение проблемы, как говорят, в "задачу с хорошей структурой",- связано с гораздо большими трудностями, чем это поначалу представлялось.

Эти трудности очень рельефно показаны в книге. Автор исходит из того очевидного факта, что личность справляется с проблемой экспоненциального роста, по-видимому, потому, что человеческие психические процессы качественно отличны от функционирования современных машин, даже снабженных программами "искусственного интеллекта". Решая задачи творческого характера и даже просто осуществляя человеческие способы поведения - начинав с восприятия объектов и кончая актами сознательного целеполагания,- личность не оперирует заданной ей "извне" системой жестко фиксированных признаков ситуации (задачи), в которой ей надлежит сформировать свое поведение (найти решение задачи). Человек строит систему соответствующих признаков ("фактов") в ходе осмысления задачи, а не просто синтезирует ситуацию (задачу) из готовых признаков.

304

Целое, как известно, состоит из частей, но части осмысляются в составе целого. "Переборное" осмысление неестественно для человека, по крайней мере коль скоро он рассуждает сознательно. Эвристические приемы, разумеется, используются человеком, так же как и разнообразные операции сравнения, абстракции, классификации и обобщения. В основе этих процессов, однако, в значительной мере лежит не до конца ясная в психологическом плане способность различения существенного и несущественного. Важную роль также играет феномен целостности восприятия - не только чувственно-сенсорного, но и мыслительно-абстрактного. Поэтому можно согласиться с Дрейфусом, когда он говорит, что без привлечения человеческой способности к "глобальному рассмотрению" объектов, восприятию целостных образов, "по-видимому, невозможно избежать ситуации экспоненциального роста и преодолеть ограниченные возможности эвристик в выборе вариантов, подлежащих рассмотрению" (с. 50)

Нет сомнения, что изучение эвристик - как в психологическом плане, так и в плане "эвристического программирования"- продвигает нас вперед и в понимании познавательного процесса у человека, и в разработке способов реализации на машине отдельных его проявлений либо результа­тов. Но до конца вскрыть соответствующие процессы "переработки информации" с помощью единственно лишь эвристического подхода вряд ли возможно. Никакие эвристики - четко формализованные, во всяком случае,- не могут, по-видимому, объяснить, как человек, переводя с одного естественного языка на другой, принимает решение остановиться на тех или иных вариантах результирующего текста. Тут существенную роль играет другое обстоятельство, настоятельно - и с полным основанием-подчеркиваемое Дрейфусом: способность человека учитывать нечеткие ситуации, не прибегая при этом к их точной формулировке. Идеи автора перекликаются здесь с соответствующими мыслями советского исследователя В. В. Налимова - автора книги "Вероятностная модель языка. О соотношении естественных и искусственных языков" (М., "Наука", 1974). Отечественный специалист в области математической статистики и планирования эксперимента, оперируя вероятностными представлениями, раскрывает феномен "мягкости"-гибкости значений слов и выражений - естественных языков и "диффузный" характер сложных систем. Элементы последних настолько тесно взаимодействуют друг с другом, что делают невозможным их "классическое" описание, основывающееся на фиксации параметров и изолированном изучении поведения отдельных переменных.

Дрейфус развивает сходную аргументацию, подчеркивая значение "глобальной формы" переработки информации, при которой информация рассматривается человеком "не в четкой форме, а остается, скорее, в периферийной сфере сознания и учитывается неявно" (с. 50); эта форма освоения реальности "действует постоянно, непрерывно организуя наше эмпирическое познание" (там же). Она тесно связана с использованием контекста для уменьшения неоднозначности - с учетом тех контекстуальных (ситуационных) черт, которые в книге названы неявными ориентирами. Конечно, соответствующие феномены человеческой психики далеки еще от уяснения, так же как явления интуиции ("инсайта"),- все то, что в своей совокупности играет ключевую роль в осмыслении фрагментов реальности, попадающих в сферу человеческого опыта. Именно эти процессы - а не более простые и доступные для изучения процедуры четкой понятийной классификации и логической дедукции -составляют главную трудность для машинного моделирования,

В самом деле, если для того, чтобы распознавать образы, узнавать объекты, усматривать "семейное сходство" (для которого не обязательно наличие общих признаков у объектов одной семьи), человек не "концептуализирует" свойства, проводя между ними жесткие границы, не "атомизирует" характеристики, по которым происходит распознавание, то каким

305



образом в машину, понимающую только четкие команды, вложить способность узнавания? Если перевод фразы иностранного языка зависит от серии нежестко фиксированных контекстов - быть может, от общего контекста нашей культуры,- то как возможен машинный перевод, который в его современном виде опирается на метод построения значений сложных языковых образований из значений более элементарных компонент?

На эти - и многие другие аналогичные - вопросы сегодня мы ответить не можем. Значит ли это, однако, что отмеченные выше функции интеллекта "преграждают путь" к дальнейшему прогрессу в области кибернетического моделирования процессов познания и создания систем "искусственного интеллекта", как думает Дрейфус? Как нам представляется, не значит. Можно добиваться успеха в формализации упомянутых феноменов, не предрешая при этом вопроса о том, с какой степенью полноты фактически окажется возможной такая формализация. Работы десятилетия 1968-1977 гг. свидетельствуют о реальности этого продвижения. О некоторых из них мы позволим себе сказать несколько слов.



Проблема узнавания и понимания

Еще в 50-60-е годы (а для некоторых задач и ранее) были выработаны методы сокращения перебора и получения оптимальных решений для задач с "хорошей организацией". Это были, в частности, методы минимизации переключательных электрических схем, основанные на средствах алгебры логики, линейное и динамическое программирование и др. В некоторых из них - таких, например, как "метод оврагов" И. М. Гельфанда и М. Л. Цетлина (см. их статью "О некоторых способах управления сложными системами" в журнале "Успехи математических наук", 1962, т. XVII вып. 1(103) ) -была заложена адаптационная тактика, позволявшая "разделять переменные" и выделять.существенные для данной задачи параметры. Однако проблематика машинного распознавания образов, если образы не стандартизованы, а также программирование задач, связанных с пониманием текстов и ситуаций (не подвергшихся предварительной формализации}, плохо поддавались изучению на этом пути.

Задачи автоматического узнавания привели к созданию систем, которые получили название персептронов. Дрейфус довольно пренебрежительно отзывается о работе Ф. Розенблата, положившей начало "персептронной" проблематике. И действительно, эпоха персептронов оказалась непродолжительной. В книге М. Минского и С. Пейперта "Персептроны", материалом которой пользуется автор, показано, в частности, что персептрон (определенного класса) не в состоянии решить даже такую задачу, как вопрос о связности или несвязности предъявленной ему фигуры. В этой связи Минский и Пейперт дают трезвую оценку соответствующих работ (которую, однако, Дрейфус не приводит) : "Наука о вычислениях и кибернетика начались - и эта, по-видимому, совершенно правомерно - с шумной романтической рекламы. Они изобиловали волнующими и заманчивыми новыми идеями, уже принесшими богатые плоды. Тяжкие требования строгости и осторожности могли бы показать, какие направления окажутся наилучшими. В самом деле, мы считаем, что маститые эксперты, наиболее активно выражающие недовольство по поводу "неуместных претензий" энтузиастов кибернетики, оказались в конечном счете неправыми. Но теперь наступило время зрелости, и мы должны противопоставить нашим рискованным начинаниям в равной мере впечатляющие образцы критического подхода" (М. Минский, С. Пейперт, Персептроны. М., "Мир", 1971, с. 10). И этот критический подход не заставил себя долго ждать. Он выразился 1 в разработке альтернативных направлений исследований в проблеме автоматического узнавания и связанной с ней формализации феномена понимания, играющего фундаментальную роль в разумном поведении. В нашей стране здесь выделяется подход М. М. Бонгарда, изложенный им в книге

306

"Проблема узнавания" (М., "Наука", 1967). Данный подход оказался вполне жизнеспособным, так как позволил установить естественную связь между проблемами узнавания и понимания. Об этом свидетельствует общая теоретическая установка авторов недавно вышедшего сборника работ "Моделирование обучения и поведения" (М., "Наука", 1975) -"понять, как думает человек, каковы механизмы мышления", учитывая при этом, что "это задача огромной сложности" (с. 3 упомянутого сборника),- и приведенные в нем результаты.

Критика Х.Дрейфусом работ в области моделирования рассудочной деятельности касается, в частности, американского кибернетика Д. Боброва. Его работы, однако, вскоре были превзойдены в исследованиях Т. Винограда. Результаты последних изложены в монографии, вышедшей в 1972 г. (см. русский перевод, выходные данные которого были указаны выше), и в публикации: Т. Winоgrad. Five Lectures on Artificial Intelligence. Stanford. 1974. Stanford Artificial Intelligence Laboratory. Memo AIM-246. За последние годы в кибернетических разработках, ведущихся в США, распространение получил метод представления знаний - то есть метод вложения в машину определенного способа "понимания" той "реальности", с которой она должна иметь дело, - основанный на предложенном М. Минским понятии ситуационной рамки ("фрейма").



Фреймы и сценарий

Согласно М. Минскому, фрейм (frame) есть воплощение "структуры данных" для выражения некоторой стереотипной ситуации; он представляет собой совокупность вопросов, которые можно задать о соответствующей воображаемой ситуации. Ответы определяют, какие ситуационные аспекты и с помощью каких средств подлежат рассмотрению (М. Мinsky. A Framework for Representing Knowledge, AJ, Memo. M.I.T. Artificial Intelligence Laboratory. Cambridge, Mass.r 1974). Например, фрейм "день" предполагает ответ на вопросы: какого года? какого месяца? какого числа соответствующего месяца? какого дня недели? и т. п.; в числе вопросов фрейма могут быть также вопросы о цели некоторой деятельности. Фреймы - это языковое средство представления в машине схемы некоторой ситуации или ситуационной структуры среды; такое представление осуществляется с помощью семантической сети, в которой фигурируют связанные между собой фреймы (frame system).



Идея ситуационных рамок - фреймов как способов организации "знаний" машины о некоторой {стандартизованной) внешней среде получила развитие в ряде работ американских кибернетиков. В одной из них - статье Р. Шенка и Р. Абельсона "Сценарии, планы и знания" (Труды IV Международной объединенной конференции по искусственному интеллекту, 6. Общение с ЭВМ на естественном языке. М., 1976) - понятие фрейма интерпретируется как общее название сведений о реальности, организованных в структуру, облегчающую обращение машины к этим сведениям; фреймы подразделяются на статические - сценарии (scripts) и динамические - планы (plans). Сценарий складывается из названия ситуации, указания причин ее возникновения и набора сцен; планы задают последовательности действий для достижения некоторой цели. Сценарии и планы служат отображению причинно-следственных связей между ситуациями среды.

Система организации информации, основанная на методе фреймов, предполагает с необходимостью стандартизацию "машинного мира", и тем не менее она в определенной мере обогащает наши представления о том, как на кибернетическом пути можно преодолевать трудность обращения к контексту, на которой главным образом строится аргументация Дрейфуса, Хотя данный метод предполагает чисто кибернетическое истолкование понимания"- как "интерпретации новой информации в уже организованом картине мира" (Р.Шенк, Р.Абельсон. Цит. соч., с.208; курсив-Б.Б.) , он все же вносит известную гибкость в "машинный мир":

307

предусмотренный методом переход от одного фрейма к другому на основе трансформационных правил можно рассматривать как некий упрощенный аналог человеческого "поведения в контексте".



Тезаурусы и ситуационное управление

Метод построения системы фреймов - как особых "ситуационных рамок", служащих для упрощенного описания ситуаций, с которыми может иметь дело машина,-родствен другому методу, идеи которого были развиты, в частности, в нашей стране. В его основе лежит идея о логико-семантических системах с вариативными составными частями - динамических тезаурусов, служащих для представления внешней среды, выражения семантической информации и формализации интеллектуальной коммуникации. Основные положения подобного тезаурусного порхода были сформулированы Ю. А. Шрейдером (см. например, его статью "О семантических аспектах теории информации" в кн.: Информация и кибернетика, М., "Советское радио", 1967); вопрос о логико-методологических возможностях данного метода освещен автором этих строк в книге "Кибернетика и методология науки" (М., "Наука", 1974, с. 353 и сл.). Другой метод, разрабатываемый в советской науке,-это подход, получивший название ситуационного управления.

Упомянутый подход вырос из задач построения систем управления такими сложными системами, для которых не имеется точного описания их структуры и поведения. В его разработке приняли участие как собственно кибернетики (Д. А. Поспелов, Ю. И. Клыков), так и психологи (В. Н. Пушкин) . Краткое представление о данном направлении можно получить из статьи Г.С.Поспелова и Д. А. Поспелова "Исследования по искусственному интеллекту в СССР" (в кн.: Кибернетику - на службу коммунизму, т. 9, М., "Энергия", 1978).

Суть метода ситуационного управления заключается в разработке способа логико-языкового структурирования проблемной среды- среды, в которой ставятся и решаются некоторые задачи с целью построения эффективных алгоритмов их машинного решения. При этом развивается некий "антропоморфный"- исходящий из лингво-психологической реальности- подход, позволяющий для данного круга задач строить обобщенные описания, основанные на учете структур понятий. Говоря конкретнее, при описании некоторых ситуаций (или обработке соответствующих текстов) производится выделение различных в функциональном отношении групп объектов - понятий-классов, имен, бинарных отношений, императивов и др. В структурировании проблемного мира машины наибольшую роль играют отношения между понятиями. Считается, что для каждого круга задач в принципе можно выделить конечное число основных отношений, через которые получают выражение остальные отношения, имеющие смысл в данном классе ситуаций. Проведенное таким образом структурирование проблемной среды позволяет строить алгоритмы решения задач, в которых роль операторов играют императивы, допускающие формулировку на естественном языке; обобщенные описания в языке ситуационного управления родственны фреймам, о которых говорилось выше (подробнее о ситуационном управлении см.: Д. А. Поспелов, В.Н. Пушкин. Мышление и автоматы, М., 1972; Ю. И. Клыков. Ситуационное управление большими системами. М., "Энергия", 1974; Д. А. Поспелов. Большие системы (ситуационное управление) . М., "Знание", 1975,



Расплывчатые множества



Понятия естественного языка и содержательного (неформализованного) мышления часто носят расплывчатый характер: имеют нечеткие, размытые границы, причем у разных людей для "одних и тех же" понятий характер "расплывания" может оказаться различным. Это обусловлено вариабельностью смыслов выражений, неоднозначностью значений, включением в содержание понятий субъективных оценок. В книге

308

Дрейфуса об этом говорится достаточно подробно. Автор рассматривает отмеченные феномены как принципиальное препятствие для работ по моделированию процессов познания и "искусственному интеллекту". Между тем исследования последних лет показали, что расплывчатость, гибкость и динамичность человеческих понятий и суждений в определенных пределах поддаются формализации. Соответствующие средства начиная с 20-х годов нашего века подготавливались в рамках многозначных и бесконечнозначных логик -логик, которые, помимо значений "истинно" и "ложно", допускают промежуточные истинностные значений. Однако лишь в середине 60-х годов обнаружилась связь этих логик с кибернетическим кругом идей.

В 1965 г. американский специалист в области автоматического регулирования и теории систем Л. А. Заде опубликовал первую работу по нечетким множествам, а затем развернул (вместе с рядом своих последователей) всестороннюю разработку теории расплывчатых понятий и алгоритмов. В силу важности данной теории для оценки вопросов, которые поднимаются в книге Дрейфуса, приведем имеющиеся на русском языке публикации создателя данной теории: Тени нечетких множеств {"Проблемы передачи информации", т. II, вып. 1, М., 19661 ; Расплывчатые алгоритмы (реферат) (Экспресс-информация "техническая кибернетика", 1968, №38); Основы нового подхода к анализу сложных систем и процессов принятия решений (в кн.: Математика сегодня. М., 1974); Понятие лингвистической переменной и его применение к принятию приближенных решений (М., "Мир", 1976) (см. также: Р. Беллман, Л. 3аде. Принятие решений в расплывчатых условиях.-В кн.: Вопросы анализа и процедуры принятия решений. Сб. переводов. М., "Мир", 1976).

Автор предлагаемой читателю книги очень кратко говорит о теории расплывчатых множеств, высказывая взгляд, что в своем понятии расплывчатости Заде "сваливает в одну кучу пять различных аспектов распознавания образов, а именно, аспекты, относящиеся к нечеткости границ, к зависимости от контекста, цели, субъективной оценки и к фамильному сходству" (с. 74) . X. Дрейфус утверждает, будто совершенно непонятно, "какой же аспект распознавания поддается формализации при помощи понятия расплывчатости (и поддается ли вообще хоть один)" (там же). Подобная оценка теории, в последние годы столь стремительно развивающейся, на наш взгляд, неправомерна (характерно, что Дрейфус в своей книге ссылается только на самую первую статью Заде по расплывчатым понятиям: L. A. Zadeh. Fuzzy sets.-Information and Control, vol. 8, 1965, No 3).

Вне всякого сомнения, новая теория означает шаг вперед в формализации феномена нечеткости понятий и образов. Она вводит многозначные (в общем случае бесконечнозначные) шкалы оценок принадлежности элементов данному множеству (объему нечеткого понятия); развертывает систему операций над такими множествами. Более того, использование нечетких понятий в составе предписаний к переработке информации приводит к распространению данного подхода на теорию алгоритмов. В связи с неоднозначностью нечетких алгоритмов в последние проникает такой специфически человеческий момент, как принятие решений. Решения, однако, также могут быть нечеткими, то есть основанными на расплывчатых критериях; отсюда необходимость разработки методов формализации такого рода расплывчатости. Нечетким оказывается и само понятие цели, которой должно отвечать искомое решение задачи. Формализуемыми в определенном смысле оказываются также субъективные оценки, начиная с исходного пункта теории - понятия нечеткой принадлежности предметов объему расплывчатого понятия: введенные Заде "функции членства в множестве" (принимающие значения из интервала [0, 1] действительных или рациональных чисел) могут для данного понятийного образования задаваться по-разному, что можно рассматривать как выражение индиви-

309

дуальных свойств носителей этих функций. Наконец, подход Л.Заде позволяет подойти к формализации семантики широкого класса выражений естественного языка (содержащего такие слова и обороты, как "очень", "более или менее", "вполне", и их повторные применения к расплывчатым понятиям: "очень старый", "очень-очень старый" и т. п.).

В настоящее время происходит стремительное развитие работ по теории расплывчатости. Представление о нем можно получить из статьи: Л.А. Гусев, И.М. Смирнова, Размытые множества (Обзор) ,-"Автоматика и телемеханика", 1973, № 5; и рецензии: М.А.Айзерман, И.М.Смирнова. Первые монографии по теории размытых множеств.-Там же, 1977, № 10. Размах исследований в новой области привел к появлению работ монографического характера (см. A. Kaufmann. Introduction a la theorie des sous-ensembles flous, t.I-III, 1975, Paris; англ. перев.: А. Ка-

ufmann. Introduction to the theory of Fuzzy Subsets, vol. 1, N.Y., 1975; C.V. Negоita, D.A. Ralesсu. Applications of Fuzzy Sets to Systems Analysis. Basel, 1975; N.Y., 1976). И это вполне закономерно. Логико-кибернетическая теория расплывчатости означает новый подход к старой проблеме абстракции и образования понятий - подход, более связанный с "человеческим фактором", нежели традиционно рассматривавшиеся в логике процессы обобщении, которые предполагают жесткую дихотомию "истинно - ложно". Создается впечатление, что каждой математической теории (и каждой теореме теории) можно поставить в соответствие ее расплывчатый вариант, причем многими (пожалуй даже бесконечно многими) способами. Во всяком случае, на сегодняшний день мы уже располагаем понятиями расплывчатых графов, расплывчатых автоматов, расплывчатых систем управления. Хотя в практических разработках систем "искусственного интеллекта" теория "расплывчатости" еще не успела проявить себя в полной мере, методологические соображения (некоторые из них высказаны в статье автора этих строк в кн.: Кибернетика и современное научное познание. М., "Наука", 1976, а также в статье М.А. Айзермана в журнале "Автоматика и телемеханика", 1976, № 7) свидетельствуют в пользу того, что ее применение принесет новые результаты в моделировании таких проявлений разумного поведения, которые не охватываются "нерасплывчатыми" подходами. Но, разумеется, в рамках одного лишь подхода Заде наивно ожидать преодоления всех тех трудностей "искусственного интеллекта", которые столь тщательно анализируются автором данной книги. "Зависимость от контекста" и "семейное сходство", к примеру, вероятно, с трудом поддадутся рассматриваемой теории.





Заложен ли в человеке "компьютер"? Четыре допущения

Как показывает произведенный нами краткий - и фрагментарный - очерк проведенных за последние десять лет модельно-кибернетических исследований интеллектуальных процессов, с негативизмом Дрейфуса согласиться нельзя. Однако и утверждать, что поставленные им проблемы решены, а конкретные критические аргументы утратили свою остроту, также неправомерно.

Прежде всего, в описанных выше работах по "искусственному интеллекту" нет ответа на кардинальный вопрос, сформулированный американским философом: верна ли гипотеза о том, что функционирование интеллекта и переработка им информации происходят путем дискретной пошаговой процедуры - процедуры, подобной той, которая закладывается в ЭВМ с помощью программ, содержащих разного рода эвристики? Иначе говоря, верно ли, что человеческое поведение может быть формализовано в "дискретностных" терминах? Положительный ответ на этот вопрос поднимает ряд проблем другого рода. Одна из них гласит: где же в живом организме "запрятано" подобное цифровое устройство? Другая, не менее важная, формулируется так: почему, как правило, мы не осознаем происходящего в нашем мозгу подобного цифрового процесса? Ведь известно, что ребенок, играющий со своими сверстниками, спортсмен, выступающий на соревнованиях, рабочий, изготовляющий какую-либо

310

деталь на станке, ученый, выступающий с научным сообщением, не отдают себе отчета (ни в ходе самой деятельности, ни после нее), что их мозг (или психика) в действительности производят или производили гигантские по объему вычисления. По какому принципу мыслит шахматист - независимо от его квалификации,- когда он при оценке позиции и выборе очередного хода, находясь перед лицом обширнейшего множества вариантов, отсекает все альтернативы, кроме одной - той, которая, по его мнению, является достаточно хорошей или единственно возможной? Производит ли он подсознательно сложнейший подсчет, лишь "в финале" выходящий на уровень сознания (причем не обязательно даже в логическую его часть)? А где гарантия, что подсознательный дискретный вычислительный процесс вообще имеет место?

Дрейфус признает, что не может дать категорический ответ на эти вопросы. По-видимому, ответа ныне не знает никто. Просто моделирование интеллекта и разработка систем "искусственного разума" идет по пути, определяемому используемой технологией,- по пути дискретного представления и переработки информации. Дрейфус считает, что перенос закономерностей, присущих подобным символьно-цифровым процессам, на поведение человека и его психику (процессы восприятия, воображения, мышления, прогнозирования и волеизъявления) не обоснован ни теоретически, ни эмпирически. Такой перенос просто равнозначен принятию четырех фундаментальных положений, которые в книге названы биологическим, психологическим, эпистемологическим и онтологическим допущениями.

Выделение этих допущений, несомненно, во многом верно схватывает методологическую ситуацию, сложившуюся в данном направлении кибернетики. Согласно биологическому допущению, на некотором уровне нейро-динамики (обычно таковым считают нейронный уровень) информационные процессы происходят на основе некоего биологического эквивалента переключательных схем. Психологическое допущение гласит, что мышление можно рассматривать как переработку информации, заданной в дискретном коде, причем переработка эта производится на основе некоторых формальных правил. Смысл эпистемологического допущение заключается в тезисе, что знание можно формализовать: все, что понято, может быть выражено в терминах логических отношений классической двузначной логики. И, наконец, согласно онтологическому допущению - все в мире, существенное для разумного поведения, можно представить в терминах множества четко определенных независимых друг от друга элементов. Цель рассуждений Дрейфуса состоит в том, чтобы показать, что биологическое допущение противоречит данным нейрофизиологии, психологическое и эпистемологическое (гносеологическое) допущения "полностью не доказаны и вполне могут оказаться несостоятельными" (с. 166), а принимать онтологическое допущение нет никаких оснований.



Является ли человек машиной Тьюринга?

Обсудим аргументацию Дрейфуса более основательно. Дрейфус резонно констатирует, что представление о мозге как об "устройстве", функционирующем подобно цифровой машине (это представление было выдвинуто на заре кибернетики), является "эмпирической гипотезой, время которой уже прошло" (с. 112). Действительно, если попытаться выразить принцип работы нервной системы и живого организма в целом в "машинных" терминах, то можно сказать, что перед нами аналого-цифровое ("гибридное") устройство. При этом не очень ясно, каково в сложнейших системах живого организма соотношение аналогового (например, гуморального) и цифрового (например, связанного с электрической импульсацией и наличием порогов "срабатывания" нейронов) начал.



В технике, однако, известны не только цифровые, но и аналоговые и аналого-цифровые вычислительные устройства. Если говорить о техноло-

311

гии, основанной на электрических процессах, то аналоговые машины появились раньше цифровых. Таким образом, сторонники "биологического допущения" могут внести соответствующую поправку в свой тезис о подобии живой системы вычислительному устройству. Дрейфус пытается отвести это возражение, ограничив свою аргументацию случаем дискретной переработки информации. Но это не усиливает, а ослабляет его позицию.

Оппонентов Дрейфуса не убедят также соображения автора относительно того, что организация мозга основана "на "сильном взаимодействии" его элементов", в то время как машина "лишена такого взаимодействия" (с. 112). Они могут сослаться на прогресс в разработке вычислительных машин и систем, в результате которого станет возможным воспроизведение подобного взаимодействия (или разработка достаточно добротного его аналога).

Отказ от признании живой системы "устройством" дискретной переработки информации означает, что такая система - и тем более человек - в физическом ("технологическом") плане не есть машина Тьюринга.

Но можно ли живые организмы и людей рассматривать наподобие машин Тьюринга в некоем более общем плане? Разберемся в этом вопросе. Машина Тьюринга -то есть идеализированная схема некоего абстрактного устройства, введенная ее автором в известной статье, опубликованной в 1936 г. (см. прим. 12), - является универсальным вычислителем, то есть прибором, способным в принципе (о смысле этой оговорки, играющей очень существенную роль, мы скажем ниже) производить любую вычислительную процедуру, в частности осуществлять и такой процесс вычислений, который производится на аналоговом устройстве. Для этого требуется только одно условие - чтобы вычислительный процесс был задан с помощью четких правил. Универсальные электронные цифровые машины наших дней - это своего рода машины Тьюринга в металле: в предположении возможности надлежащего увеличения их размеров, памяти, быстродействии и надежности они вычислительно универсальны.

Описанный вывод, основанный на достижениях математико-логической теории алгоритмов 30 -40-х годов нашего века, приводит к заключению, что "любой вид интеллектуальной деятельности, коль скоро он четко и однозначно описан на каком-либо естественном или искусственном языке, в принципе можно автоматизировать (промоделировать) с помощью некоторой машины. Этот результат следует из... постулата об универсальности "обычной" цифровой ЭВМ (которая, в предположении абстракции потенциальной осуществимости, оказывается просто реализацией машины Тьюринга или любого другого "уточнения" понятия алгоритма)" (А. И. Берг, Б. В. Бирюков, Философские вопросы кибернетики.- Энциклопедия кибернетики, т. 2, Киев, 1974, с. 504).

Смысл выделенных в вышеприведенном тексте слов состоит а отвлечении от ограниченности человеческой конструктивной и познавательной деятельности в пространстве, времени и материалах, в допущении, согласно которому если выполнено n шагов некоторого четкого построения (рассуждения, анализа и т. п.), то можно сделать и следующий (n+1)-й шаг. Эта абстракция- а ее важность в уяснении оснований теории алгоритмов в явной форме была отмечена одним из создателей данной теории, А. А. Марковым, - вводит в теоретическую кибернетику понятие, которое в философии называется абстрактной возможностью.

Какой смысл имеет привлечение данной абстракции к обсуждению интересующих нас проблем? Дело в том, что без обращения к этой абстракции невозможно говорить о моделируемости (выразимости, воспроизводимости, представимости и т. п.) любого регулярного (или регулиризуемого, могущего быть описанным в четкой форме) поведения человека на машине дискретной переработки данных типа машины Тьюринга, обладающей в каждый данный момент конечным, но всегда могущим в случае необходимости быть расширенным объемом памяти. Только с



312

позиции абстрактной возможности позволительно считать человека некой "машиной Тьюринга", или, точнее, "конечным автоматом".

В какой мере все сказанное касается обсуждаемого нами вопроса, спросит читатель. В незначительной. Ведь наши рассмотрения развертываются на иной, существенно более "низкой" - точнее говоря, содержательно более богатой - ступени абстракции. Вопрос касается фактической осуществимости на кибернетических устройствах - в наши дни или на какой-то грядущей ступени развития технологии и науки - моделей психических механизмов и процессов, поведения человека и т. п. Его можно сформулировать и иначе: возможно ли машинное получение результатов, которые, по общему признанию, являются творческими? В поисках ответа на эти вопросы не имеет смысла обращаться к абстракции потенциальной осуществимости. Техническая кибернетика и психология -сферы, в рамках которых развивается проблематика "искусственного интеллекта", - далеки от "логического рая" чистой математики.



Реальна ли "психологическая реальность"?



Мы должны, таким образом, обратиться к психологическому материалу, или - коль скоро мы в нашем анализе следуем за Дрейфусом - к "психологическому допущению". В какой мере кибернетические модели дискретных процессов переработки информации могут служить созданию картины функционирования человеческой психики?

На пути опровержения "психологического допущения" Дрейфус пытается доказать более сильное утверждение - что у психологических исследований вообще нет своего предмета. По его мнению, между уровнем физико-химических реакций мозга и "феноменологическим" уровнем осознаваемых человеком восприятий, воспоминаний, мыслей, актов целеполагания и т. п. вообще нет никакого "промежуточного уровня", который мог бы изучаться психологами, не говоря уже о моделировании соответствующих феноменов на цифровых устройствах. Подобное отвержение самой возможности существования теоретической психологии, а также точных методов изучения психики, представляется совершенно неприемлемым. Оно ведет к дуалистическому разрыву между нейродинамикой и субъективными явлениями, то есть тем, что в диалектико-материалистической литературе называется областью идеального. Оно снимает задачу изучения связей между физиологическим и психическим, в частности задачу выявления "нейрофизиологического кода" субъективных явлений- проблему, которая привлекает все большее внимание нейрофизиологов, психологов и философов (в этой связи можно указать, например, работы Н.П. Бехтеревой и идеи Д. И. Дубровского; см. об этом в кн.: Управление, информация, интеллект, с, 236 и сл.) . Это отвержение означает также, что "феноменологии" человеческого сознания отказывают в каких-либо реальных закономерностях. Советская психология, как известно, идет другим путем, признавая "психологическую реальность" как подлинный объект психологического исследования - объект, не "сводимый" к нейрофизиологической основе психики и не исчерпывающийся явлениями единственно сознательной жизни человеческого "я".

Пытаясь опровергнуть реальность "психологической действительности" (и называя критикуемую им позицию "менталистской"), автор книги ссылается на различие между "моделированием" (как воспроизведением лишь внешнего, "входо-выходного" проявления некоторого процесса) и "представлением" (как более глубоким моделированием, охватывающим как поведение, так и субстрат моделируемого процесса или системы). В категоричности этого различения проявляется недиалектический подход Дрейфуса к процессам познания, объяснения и моделирования. X. Дрейфус не учитывает того, что всякое моделирование (так же как объяснение и познание вообще) всегда есть приближение к объекту и может производиться с разной степенью глубины и полноты. В кибернетическом моделировании находит свое выражение диалектика отображения поведения,

313

структуры и субстрата моделируемой системы - при ведущей роли функционального моделирования, то есть моделирования поведения (см, об этом подробнее: Л. Б. Баженов, Б. В. Бирюков. Некоторые философские вопросы моделирования биологических объектов.-В кн.; Математическое моделирование жизненных процессов. М., "Наука", 1968). Из того, что моделирование - в том числе знаковое, допускающее представление модели в виде программы для ЭВМ,- всегда дает только приближение к изучаемой "психологической действительности", вовсе не следует его гносеологическая "ущербность".

Шаткость заключений Х.Дрейфуса в этом пункте очевидна в свете результатов современных модельно-кибернетических исследований. Крити­ческое отношение автора к психологическим работам, в которых изучаются инварианты, позволяющие восприятию, по словам Дж. Федора, радикально и постоянно отбрасывать информацию, непосредственно содержащуюся в физическом входном воздействии (см. с. 140), безосновательно. В рамках модельно-кибернетического и экспериментально-машинного исследования выделение инвариантов - один из плодотворных путей изучения внутренних, то есть скрытых от личности и не усматриваемых в нейрофизиологических данных, механизмов психической деятельности. Роль инвариантов как неявных "опорных точек" интеллектуально-творческой активности на примере машинного моделирования процесса сочинений музыкальных композиций была показана советским ученым Р. Х. Зариповым (см. его статью "Моделирование транспозиции инвариантных отношений и музыкальных вариаций на вычислительной машине".- "Kybernetika", Academia, Praha, vol. 9. No 5,1973, p. 400-421; см. также кн,: Управление, информация, интеллект, с. 334-346) .Из работ Зарипова следует, что перенос инвариантной структуры из одних условий в другие является одним из общих принципов мышления и проявляется в разных видах интеллектуальной деятельности. Объективный характер подобного подхода выражается, в частности, в том, что с его помощью возможно прояснение механизмов преобразования мелодий в творчестве композиторов, а также объяснение фактов вольного или невольного заимствования музыкальных тем, по своей "внутренней сути" являющегося переносом либо изменением инвариантов.



Контроверза "дискретное-непрерывное"

Впрочем, было бы неверно недооценивать анализ психологического допущения, производимый Дрейфусом. Доводы автора во многом попадают в цель, в особенности когда речь идет об ограниченности методов, использующих принцип дискретности информации. О связанных с этим проблемах - таких, как проблема "нейтральных данных", бесконечной редукции правил, глобального контекста и т. п., - мы поговорим ниже. Здесь же остановимся на затрагиваемом в книге вопросе о соотношении дискретного и непрерывного в кибернетическом моделировании.

Принцип дискретности данных, не подверженный ограничениям на уровне абстракции потенциальной осуществимости, по-видимому, действительно сужает диапазон возможностей "искусственного интеллекта", коль скоро речь идет о создании реально функционирующих моделей и систем. Ведь на этом пути может утратиться специфика решаемой задачи или моделируемого процесса. Мышление и восприятие, справедливо отмечает X. Дрейфус, включает целостные процессы, которые трудно понять в терминах последовательно или даже параллельно осуществляемых дискретных операций; "поскольку мозг по крайней мере отчасти работает, видимо, как аналоговое устройство, то весьма вероятно, что и наш разум порождает мысли и восприятия на базе "полей", "сил", "конфигураций" и т. п." (с. 116). Такое понимание интеллектуальной деятельности подпадает под более широкое (чем дискретная переработка информации) понимание "информационного процесса", означающее, "что наш разум на основе

314

одних осмысленных образований строит другие осмысленные образования" (с. 115).



Автор, впрочем, излишне категоричен в противопоставлении дискретного и непрерывного: он не учитывает диалектическую подвижность соответствующих категорий. В действительности и реальный мир, и отображающий его человеческий интеллект воплощают в себе обе эти противоположности (о диалектике понятий "прерывное - непрерывное" см. подробнее в кн.: Б.В.Бирюков. Кибернетика и методология науки. М,, "Наука", 1974, с. 89-101) . К тому же многие из критикуемых Дрейфусом специалистов - так же как и исследователи, включившиеся в работы по "искусственному интеллекту" за последние годы,- отдают отчет в ограниченности "дискретностного" подхода, и не их вина, что технология в настоящее время не может предоставить в их распоряжение более гибкие средства.



Феномен сложности

Авторский анализ эпистемологического допущения также требует корректив. Смысл допущения сводится к следующему: любое четкое - в терминах правил - описание поведения может быть формализовано. Как говорит X. Дрейфус, это допущение предполагает, «что - по крайней мере в принципе - поведение человека можно представить с помощью набора независимых утверждений, описывающих "входы" организма и соотнесенных с утверждениями, описывающими его "выходы"» (с. 148). Создается впечатление, что автор не согласен с этим тезисом, хотя, по сути, его невозможно оспорить: оговорка "в принципе" означает принятие уровня абстракции потенциальной осуществимости, а на этом уровне все, что может быть ясно и общепонятно объяснено, может быть и формализовано, скажем, представлено с помощью некоторой машины Тьюринга. И попытка Дрейфуса прибегнуть к reductio ad absudum, указав, что в этом случае самолеты и корабли также окажутся машинами Тьюринга, несостоятельна: на уровне дискретных рассмотрений и абстракции потенциальной осуществимости любые действующие технические устройства действительно можно рассматривать как идеализированные машины, перерабатывающие информацию в соответствии с определенными правилами.

Но есть сторона дела, которую автор схватывает верно. Человеческое поведение можно считать закономерным в том смысле, что оно определенным образом упорядочено. Однако предположение, будто законы поведения могут быть воплощены в программах для ЭВМ или каком-либо ином эквивалентном формализме, далеко не очевидно и, во всяком случае, нуждается в обосновании. В возможность такого автор не верит, выдвигая следующий серьезный аргумент: необходимые для программного представления поведения человека "громадные вычисления могут оказаться неосуществимыми в силу самих законов физики и теории информации, требующих таких вычислений" (с. 152).

Здесь мы подошли к важнейшей проблеме современной кибернетики - проблеме сложности. Выше мы уже упоминали о ней, когда указывали на трудности, связанные с движением по дереву экспоненциально растущего множества альтернатив, открывающихся при решении задачи "большой размерности". Рассмотрим теперь эту проблему подробнее. В настоящее время в различных разделах кибернетики и математики формируются элементы того, что со временем может вылиться в общую теорию сложности. Пока такой теории не существует, но в рамках математической логики уже изучается сложность алгоритмов и вычислений, в теории информации - сложность кодирования и декодирований и т. д.; Г. Н. Поваровым предложена интересная "индуктивная шкала" сложности материальных систем (см., например, кн.: Управление, информация, интеллект, ч. II, гл.4) .

Теоретическое изучение проблемы сложности особенно важно потому, что оно проливает свет на некоторые фундаментальные закономерности реального мира и познания - закономерности, носящие (как и вообще все

315

закономерности) характер своего рода запретов. По-видимому, именно сложностные ограничения обесценивают вычислимость "в принципе". В этой связи целесообразно отметить идеи Дж. фон Неймана. Еще в конце 40-х годов фон Нейман задумалса над соотношением сложности объектов и сложности их описаний; он выдвинул идею о существовании некоего "порога сложности", начиная с которого описание объекта становится сложнее самого объекта - идею, чреватую серьезными последствиями для сложившейся научной практики, при которой описания вводятся именно для того, чтобы упростить сложное, сделав его понятным для исследователя. Приведем аутентичный текст заключения фон Неймана: "Нет сомнения в том, что любую мыслимую фазу любой мыслимой формы поведения можно "полностью и однозначно" описать с помощью слов. Это описание может быть длинным, однако оно всегда возможно. Отрицать это означает примкнуть к разновидности логического мистицизма, от чего большинство из нас, несомненно, далеки. Имеется, однако, существенное ограничение, состоящее в том, что все сказанное применимо только к каждому элементу поведения, рассматриваемому в отдельности, но далеко не ясно, как все это применять ко всему комплексу поведения в целом..- Здесь нам придется иметь дело с такими разделами логики, в которых у нас практически нет предшествующего опыта- Степень сложности, с которой мы сталкиваемся в этом случае, далеко выходит за рамки всего того, что нам известно. Мы не имеем права считать, что логические обозначения и методы, применявшиеся ранее, могут быть использованы и в этой области. У нас нет полной уверенности в том, что в этой области реальный объект не может являться простейшим описанием самого себя, то есть что всякая попытка описать его с помощью обычного словесного или формально-логического метода не приведет к чему-то более сложному, запутанному и трудновыполнимому" (Дж. фон Нейман. Общая и логическая теория автоматов. В кн: А. Тьюринг. Может ли машина мыслить? М,, Физматгиз, 1960, с, 90-91). Исходя из этого, фон Нейман выдвинул гипотезу, согласно которой "сложностные" задачи со временем приведут к возникновению логики нового типа, которая будет менее комбинаторной и более аналитической ("непрерывностной") и сомкнётся с нейрофизиологией.

Современное развитие теории "расплывчатости", так же как и работы, развивающие идеи И. М. Гельфанда и М. Л. Цетлина о "континуальных моделях управляющих систем" (о которых см, М. Л. Цетлин. Исследования по теории автоматов и моделирование биологических систем. М., "Наука", 1969), в частности, моделирование возбудимых сред, по-видимому, подтверждает "логическую" часть прогноза фон Неймана, Что же касается предположения о существовании "порога сложности", то этот вопрос до сих пор остается открытым. Но научная мысль продолжает поиск. Алгоритмическое определение понятия количества информации, предложенное А. К Колмогоровым, в значительной степени является результатом его размышлений над проблемой сложности. Колмогоровым же было проведено различение четырех категорий чисел -малых, средних, больших и очень больших, сравнение которых привело его к заключению, что начиная с больших чисел "переборные" задачи становятся недоступными для решения: "Проблемы, которые не могут быть решены без большого перебора, останутся за пределами возможностей машины на сколь угодно высокой ступени развития техники и культуры" (А. Н. Колмогоров. Автоматы и жизнь. В кн.: Кибернетика ожидаемая и кибернетика неожиданная. М., "Наука",1968, с. 24).





Онтологическое допущение в свете нетранзитивности научного объяснения

Полное опровержение эпистемологического допущения, утверждает Дрейфус, требует обоснования того факта, что мир принципиально не может быть проанализирован в терминах окончательно установленных, четко определенных данных, то есть разложен на некие неизменные "факты"- элементы информации. Допуще-

316

ние о возможности такого представления мира - оно названо в книге онтологическим допущением,-как убедительно показывает Х.Дрейфус, является наиболее шатким. Критика в данном случае попадает в цель, хотя Дрейфус не всегда пользуется надлежащим оружием и поражает далеко не все уязвимые пункты "онтологического допущения".

Автор справедливо ставит под сомнение утверждение, будто "для того, чтобы стать разумным, человек тем или иным способом решил или должен был решить проблему большой базы данных. Вполне возможно,- говорит он- что сама эта проблема возникла как "артефакт", связанный с тем, что вычислительная машина вынуждена оперировать дискретными элементами”(с. 170). Человеческое знание невозможно разложить на какие-то окончательные простые категории.

Эта критика, на наш взгляд, заслуживает более углубленного рассмотрении. "Атомистическая" доктрина знания уязвима в двух отношениях. Первое состоит в том, что трудно допустить наличие каких-то окончательных "атомов знания". Об этой неопозитивистской концепции логического атомизма мы поговорим в следующем разделе. Согласно второму, даже если предположить, что "атомы знания" существуют, возникает вопрос, какова их роль в познавательном процессе- Выделение таких "атомов" имело бы смысл только при условии, что в процессе научного объяснения всегда, в случае необходимости, возможно сведение знаний об изучаемых явлениях к этим "атомам". Тогда, разумеется, это объяснение в принципе можно было бы вложить в подходящим образом запрограммированный цифровой вычислитель. Однако многовековая практика научного объяснения опровергает такую возможность. Редукция понятий как сведение сложного к простому может быть принята только с серьезными ограничениями. Научное объяснение в общем случае не обладает свойством транзитивности: если положения теории А объясняются в терминах теории B, оперирующей более "элементарными" (и более "точными") данными (фактами, элементами знания и т. п.), а положения теории В могут быть уяснены в терминах еще более "дробной" теории С, то из этого не следует с необходимостью, что положения теории А объяснимы с помощью теории С Если бы отношение "х объясняет у" было транзитивным - позволяющим неограниченно переносить свойство объяснимости с теории на теорию,- то мы были бы в состоянии понимать любые процессы в терминах, скажем, физики фундаментальных частиц. Но, как известно, для большого класса наук, даже многих разделов той же физики, этого сделать нельзя. Нетранзитивность процессов научного "сведения - выведения" подрывает "онтологическое допущение".



Логический атомизм и философское наследие

Обратимся теперь к концепции, предполагающей наличие неизменных "атомов знания", выполне- мых будто бы с помощью логического анализа и могущих служить основой для машинных моделей разума. Идея о существовании подобных "атомов" еще совсем недавно имела немало сторонников среди философов неопозитивистского направлении. Как верно отмечает Х.Дрейфус, наиболее полное выражение она получила в "Логико-философском трактате" Л.Витгенштейна, основная идея которого сводится к мысли о том, что мир определяется в терминах множества атомарных фактов, которые могут быть выражены логически независимыми предложениями.

Подобной концепции логического атомизма автор противопоставляет человеческое "чувство ситуации", позволяющее личности выбирать из потенциально бесконечного множества фактов "только те, которые релевантны - имеют непосредственное отношение к делу, а после того, как релевантные факты найдены, оценить их значимость"; ибо "не существует каких-либо фактов, релевантность и значимость которых инвариантны во всех ситуациях"" (с. 182) . Не "нейтральные" по отношению к человеческой деятельности факты и "атомарные предложения" определяют человеческое

317



поведение, а учет ситуаций и обращение к контексту, который и придает фактам их значимость (см. с. 179).

Здесь мы подходим к самой сути аргументации автора. Исходя из исторической ограниченности "атомизма" как философского принципа, составляющего, по его мнению, гносеологическую основу "искусственного интеллекта", Дрейфус направляет все свои усилия на то, чтобы доказать, что "атомистический" подход вообще не пригоден дли адекватного моделирования интеллектуальной деятельности, так как человек отображает объекты прежде всего как некие целостности, не расщепляя их на независимые друг от друга части; такое расщепление - анализ целого-производится не до восприятия объекта, а после этого восприятия, когда человек вторично фиксирует на нем свое внимание.

"Логический атомизм" Дрейфус рассматривает как органическое продолжение и логическое завершение рационалистической линии философской мысли, "философской традиции", как он ее называет,- традиции, восходящей еще к Платону. Взгляды, составляющие существо онтологического допущения "искусственного интеллекта", формировались, по его мнению, под влиянием концепций "эмпириков" (Д. Юм) и "идеалистов" (И.Кант); в системе взглядов Юма, пишет Дрейфус, информационным "битам" соответствуют атомарные впечатления, а в системе Канта - правила рассудочной деятельности. Эмпирики и идеалисты "подготовили почву для модельного представления мышления в виде процесса переработки информации - безличного процесса, в котором "процессор" не играет существенной роли" (с. 106).

Очевидно, что трактовка "философской традиции", предлагаемая Дрейфусом, страдает явными натяжками. Многогранные взгляды Канта отнюдь не укладываются в прокрустово ложе, определяемое концепцией автора. Что касается кантовской интерпретации "обычной", или "общей", логики (согласно которой в этой науке исследование понятий, суждений и умозаключений производится при полном отвлечении от мыслимого содержания), а также этической теории Канта (по которой нравственное поведение состоит в безусловном подчинении этическому долгу-"правилу" категорического императива), то они в той или иной степени подпадают под общую оценку Дрейфуса. Однако когда Кант раскрывает связь между чувственным созерцанием и рассудком (оперирующим понятиями и суждениями), он отмечает значение такого фактора, как "продуктивная сила" воображения; человек как субъект познавательного процесса - "процессор", если прибегнуть к кибернетической терминологии,- учитывается в кантовском учении о разуме как способности к умозаключению, приводящей к возникновению идей, что скорее противоречит идее Дрейфуса, нежели укрепляет ее. В истолковании взглядов Д. Юма в книге также наблюдается неоправданное смещение акцентов. Юм, например, придавал большое значение изучению психики человека и в значительной мере с психологических позиций подходил не только к этике и эстетике, но и к истории и экономике.

Если "философская традиция”, с которой полемизирует Дрейфус, есть традиция рационализма, то принять его позицию без существенных ограничений и уточнений просто невозможно. Пусть мир, в котором мы живем, нельзя безоговорочно провозгласить миром, в котором заранее гарантирована "ясность, определенность и управляемость", миром "структурированных данных, теории принятии решений и автоматизации". Однако наука и практика не могут не исходить из того, что мир доступен человеческому разуму. В этом смысле отвергать рациональное начало в мире и человеке значит становиться на позицию того самого "логического мистицизма", о котором говорит фон Нейман в приведенной нами цитате.

Строя свою аргументацию, Дрейфус широко пользуется материалами гeштальтпсихологии и психолого-гносеологическими концепциями Э. Гуссерля, позднего Л. Витгенштейна, М. Мерло-Понти и М. Хайдеггера.

318

По-видимому, именно феноменолого-экзистенциалистские и иррационалистические установки этих философов, разрывающих "феноменологический" мир человеческой личности и реальность (к которой относится, в частности, нейрофизиологическая основа психики), "повинны" в том, что автор иногда заходит так далеко, что фактически начинает отвергать формализацию как метод изучения познавательных процессов.



Логическая традиция



Какова же на самом деле та философская традиция, на основе которой наука пришла к кибернетике, к моделированию познавательных процессов, к направлению "искусственного интеллекта"?

Прежде всего это логическая традиция -традиция, исторически восходящая к Лейбницу. Справедливо обращая внимание на эту сторону дела, Дрейфус, к сожалению, не развивает достаточно подробно тему математико-логической подготовки кибернетики. В числе предшественников современных модельно-кибернетических исследований, помимо Лейбница и Буля (о которых говорится в книге), следует назвать также и выдающихся математических логиков конца прошлого века Э. Шредера и П. С. Порецкого (Шредер вполне определенно сформулировал идею "искусственного интеллекта"), и Г. Фреге, выдвинувшего программу логической формализации математики, и Д. Гильберта, положившего начало современным метаматематическим исследованиям, и К. Геделя, А. Тьюринга, Э. Поста, С. Клини, А, Тарского, А. Маркова, П. Новикова и др., заложивших основы теории алгоритмов и в серии знаменитых теорем раскрывших внутреннюю ограниченность формализации.

Читая высказывания Дрейфуса о логике, следует иметь в виду, что логические отношения для него исчерпываются только булевой алгеброй. Между тем за последние полвека арсенал логики необычайно обогатился: спектр логических построений простирается теперь от неклассических логических систем типа интуиционистской и конструктивной логик, многозначных, бесконечнозначных и модальных логических систем до вероятностно-индуктивных теорий, логических исчислений повелительных предложений, теории вопросно-ответных процедур и логики расплывчатых понятий, о которой речь шла выше. Логика как наука вплотную сомкнулась с математической лингвистикой и семиотикой, и на этой основе возникла общая теория языков, исчислений и алгоритмов. Получили развитие прикладные логические разработки. Если учесть перспективы применения всех этих логико-семиотических средств в кибернетическом моделировании и "искусственном интеллекте", то тезис автора об онтологическом допущении как некой обязательной методологической базе работ по автоматизации интеллектуально-творческих процессов не выглядит убедительно.



Третья возможность. Антиномия кибернетической формализации и ее решение

Пусть читатель не распространяет нашу критику ряда положений автора на книгу в целом. Из произведенного Дрейфусом анализа трудностей кибернетики можно извлечь обширный полезный и интересный материал. Теперь настало время подробнее рассмотреть - в позитивном плане - его основную аргументацию.

Автор подчеркивает, что своеобразие, важность - и вместе с тем проклятие - работ по разработке систем общения пользователей с машиной на естественном языке состоит в том, что "машине приходится использовать формальные методы для того, чтобы справляться с реальными жизненными ситуациями, как только они возникают" (с. 161), ситуациями, в которых "объекты имеют специфическое ситуативное значение" (с. 160). Современные машины, справедливо отмечает Х.Дрейфус, при нынешних методах программирования не могут "участвовать в ситуациях" наравне с людьми; на них можно моделировать лишь некоторые разновидности теоретического понимания, но то, что иногда называют

319

практическим интеллектом, не программируется. Машины "«экзистенциально тупы» в том смысле, что не в состоянии справляться с конкретными ситуациями" (с. 160). В качестве подтверждения приводится фактический материал, относящийся к использованию естественного языка. В процессе языковой коммуникации люди не связаны жестко лингвистическими правилами. Они могут их нарушать, видоизменять и тем не менее выражать именно то, что они хотят сказать, и при этом другие люди их понимают. Невозможность программирования этой способности Дрейфус объясняет трудностями формулирования правил допустимого нарушения правил. Ибо на этом пути мы неизбежно впадем в бесконечный процесс сведения одних правил к другим. Эту вполне реальную трудность, существенным образом тормозящую работы по машинному переводу, Дрейфус, вслед за Л. Витгенштейном (как автором "Философских исследований"), понимает как диалектический аргумент, опровергающий посредством сведения к абсурду возможность автоматизации сферы языкового общения. Диалектический момент усматривается при этом в антиномичности, которая может истолковываться как в терминах правил, так и контекстов.



В применении к проблеме контекстуального понимания антиномичность состоит в следующем. Ставя задачу конструирования разумного поведения, мы сталкиваемся с противоречием. Если для каждого контекста, в котором фигурирует некоторый набор фактов, должен быть более широкий контекст, позволяющий выделять среди них существенные (тезис), то должен существовать какой-то первичный, не сводимый ни к чему другому контекст, не требующий дальнейших объяснений, так как иначе возникнет бесконечная редукция контекстов (антитезис).

Для разрешения этой антиномии Дрейфус вслед за Кантом отказывается от предположения, что возможны только две альтернативы. Существует третья альтернатива, в которой и заключено решение дилеммы; она воплощена в человеке. Для человека "нет никакой иерархии контекстов - просто наличная ситуация воспринимается нами как продолжение или модификация предшествующей. Тем самым мы переносим из непосредственного прошлого совокупность предвидений, основанных на том, что было существенным и важным мгновение назад. Этот перенос создает определенную установку, определяющую то, на что нам следует обратить внимание" (с. 186).

Представленная Дрейфусом антиномия действительно диалектична. По своему типу она, вообще говоря, имеет глубокие исторические корни, в чем нетрудно убедиться из приведенной автором "временной версии" исходной антиномии: "либо должен существовать самый первый контекст - контекст, который машина не в силах распознать из-за отсутствия предыдущего контекста, в терминах которого происходит выделение существенных характеристик данного контекста; либо возникает редукция контекстов во времени, уходящая в сколь угодно отдаленное прошлое, и тогда машина окажется не в состоянии начать процесс распознавания" (с. 188) . Нетрудно заметить, что перед нами вариация на тему апорий Зенона, в частности апории "Дихотомия", с помощью которой, как полагают историки античной философии, Зенон старался доказать, что движение не может начаться.

В чем же состоит решение подобных антиномий? Причем решение не на логико-теоретическом уровне, а решение реальное, ибо подобные антино-мии - не пустые, ничего не отражающие абстракции: они присущи самой действительности. Решение это - в самом движении, самом развитии* В таком, например, движении человеческой деятельности, апелляция к которой понадобилась Дрейфусу для раскрытия антиномичности кибернетического моделирования. Это движение есть обучение, развитие знания, практика. В применении к кибернетике вопрос ставится примерно так: возможна ли организация аналогичных процессов для вычислительных

320

машин и их программ? В свое время этим вопросом занимались еще фон Нейман и Тьюринг. Нейман в связи с этим разработал теорию самовоспроизводящихся автоматов и в ее рамках обсуждал вопрос о возможности возрастания сложности автоматов в процессе их самовоспроизведения. Эту модель он рассматривал в качестве некоего весьма упрощенного аналога - но все же аналога! - органической эволюции, которая, как известно, "использует" и накопление опыта, и "решение проблем", и обучение, и развитие. И хотя Дрейфус лишь вскользь упоминает о Тьюринговой идее программирования "машины-ребенка", в ходе дальнейших рассуждений он все же признает, что если со временем удастся запрограммировать изначальные человеческие рефлексы и обеспечить машине возможность обучения, "то, быть может, окажется возможным решить проблему распознавания контекстов" (с. 187).



Личность - объект или субъект? Активность деятеля-человека

Критически интерпретируемым "допущениям искусственного интеллекта" в книге противопоставляется альтернативная концепция. Эта часть изложения Дрейфуса в значительной мере представляет самостоятельный интерес.

Главная идея Дрейфуса заключается в том, что специфика познавательной деятельности человека, его способов поведения - всего того, что является камнем преткновения для создателей современных ЭЦВМ и их математического обеспечения, - вытекает из того, что человек находится в собственном "человеческом мире" (мире, для обозначения которого можно было бы употребить термин "ноосфера", то есть сфера разума), не совпадающем с тем "физическим миром", информация о котором только и может обрабатываться на современных цифровых машинах. Согласно противоположной точке зрении, называемой в книге "машинной парадигмой", цифровая машина есть воплощение логического мышления, и ей "не хватает только некоторой совершенной программы, чтобы сравняться с человеком в его отличительном свойстве - рациональности, разумности" {с. 195). В основе данной парадигмы, по Дрейфусу, лежат следующие предпосылки: объяснение человеческого поведения может (и должно) быть дано в естественнонаучных терминах; ситуации, с которыми сталкиваются люди, можно трактовать подобно физическим состояниям; "мир человека" допустимо интерпретировать так же, как изучаемую естествознанием вселенную. Критикуя такой взгляд, Дрейфус подчеркивает, что он в конечном счете ведет к противопоставлению разумного и биологического начал в человеке и к "попыткам моделирования способности к рассуждению, исходя из нее самой" (с. 197). Подобное толкование человека как устройства или объекта, реагирующего на воздействия со стороны других объектов согласно определенным правилам, по мнению автора, есть понимание человека как "созерцателя", пассивно воспринимающего сведения, поступающие из окружающего мира и затем упорядочивающего их.



Это сильный аргумент Дрейфуса, и с ним нельзя не согласиться. Однако Дрейфус заблуждается, полагая, что "пионерами" критики человека как пассивного "устройства" выступили М. Хайдеггер и "поздний" Витгенштейн. Понимание человека как некоего "объекта" было органически чуждо уже диалектике Гегеля. Карл Маркс, формируя диалектико-материалистическую систему взглядов на природу, общество и личность, со всей решительностью подчеркивал активность субъекта. Но в отличие от современных феноменологов и экзистенциалистов, на которых ссылается Дрейфус, он выводил ее из социальной практики как основы человеческого бытия. В Марксовых "Тезисах о Фейербахе" предшествующий материализм подвергается критике именно за то, что "предмет, действительность, чувственность" берется им "только в форме объекта, или в форме созерцания, а не как человеческая чувственная деятельность, практика, не субъективно" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 1) . Аналогичные идеи высказывал и В. И. Ленин. В "Философских тетрадях" мы

321

читаем: "Сознание человека не только отражает объективный мир, но и творит его" (В. И. Ленин. Полн. собр. соч., т. 29, с. 194). Мотив творческой активности деятеля-человека в научной методологии прочно вплетен в ткань диалектико-материалистической теории отражения.



Биологическое психическое

Путь, который предлагает Дрефус в рамках развиваемого им "альтернативного подхода", состоит в поисках "совершенно иного" ответа на вопрос, "каким образом осуществляется разумное поведение", нежели решение в духе "машинной парадигмы". Смысл этого пути - в попытке найти "фундаментальные отличительные черты человеческой деятельности" (с. 197). Последние сводятся к трем факторам, которые, по мнению автора, не могут быть учтены в современных работах по "искусственному интеллекту". Это - роль биологического начала в человеке или, как говорит Дрейфус, роль "тела" в "организации и унификации" человеческого опыта; роль ситуаций, в которых непрерывно находится человек, как основы такого упорядочения поведения, которое не использует какие-либо жесткие правила; и, наконец, роль человеческих целей и потребностей как основы выделения человеком того, что для него значимо и должно быть учтено а его действиях.

Телесному фактору придается в книге особенно большое значение. Дрейфус говорит, что "наше отличие от машины, вне зависимости от сложности ее конструкции связано отнюдь не с обособленной, универсальной, нематериальной душой, а со сложно организованным материальным телом, находящимся в самодвижении" (с. 200). Именно тело человека является источником навыков, которые используются в различных ситуациях и формируют "феноменальный" мир человеческой психики. Благодаря своей "телесности" в человеческом поведении решается антиномия редукции контекстов и правил, являющаяся камнем преткновения для современных машин, то есть реализуется "третья возможность". "Телесность" обусловливает именно те функции, которые нельзя вложить в машинные программы - и создаваемые ныне, и только проектируемые. В числе этих функций - процессы, называемые в книге "периферийным сознанием", "допустимостью неоднозначности", "способностью различения существенного и несущественного" и "осмысленной классификацией данных". Дрейфус считает, что именно наличие тела объясняет способность человека к частично неопределенному, не поддающемуся четкому выражению предвосхищению (антиципации) событий. Это предвосхищение носит "глобальный" характер в том смысле, что, находясь в зависимости от учитываемых деталей наличной ситуации, оно в то же время определяет их значение; при этом предвосхищение, антиципация динамична - она может перемещаться от одной чувственной модальности или действующего органа к другой модальности или органу. Все это в своей совокупности образует общую способность человека к приобретению "телесных умений и навыков. Благодаря этой фундаментальной способности наделенный телом субъект может существовать в окружающем его мире, не пытаясь решить невыполнимую задачу формализации всего и вся" (с. 220). В "телесности" человека автор видит причину того, почему "информационные процессы" познания, в которых "значение целого обладает приоритетом по отношению к составляющим целое элементам" (с. 221), так отличаются от машинных методов.

Эти рассуждения Дрейфуса, если отвлечься от определенного налета "биологизма", заслуживают внимания. В связи с ними, однако, уместно сделать два замечания. Первое касается отечественных психологии и философии, а именно того, что в них в должной мере учитываются и биологический аспект поведения человека (начиная с биомеханики движений, в разработку которой большой вклад внес Н. А. Бернштейн), и феномен целостности восприятия, и определенное "приоритетное" значение этой целостности по отношению к последующей аналитической деятель-

322

ности сознания (см. работы С. Л. Рубинштейна), и человеческая предвосхищающая деятельность (в психологической школе Д. Н. Узнадзе основанная на понятии установки, а в нейропсихологической школе П. К. Анохина - на понятии акцептора действия). Как результат упомянутых психологических исследований напрашивается вывод, что восприятие и узнавание объектов, данных человеку в пространстве и времени, мало похоже на поиск по дереву четко различимых "нейтральных" характеристик.

Второе замечание заключается в том, что "телесная организация", значение которой для интеллектуально-познавательной и практической деятельности человека столь решительно подчеркивается в книге, в свою очередь может быть предметом автоматной имитации. В аргументации Дрейфуса недостаточно учитывается различие между цифровыми машинами, предназначенными исключительно для переработки информации, и роботами, в зачатке обладающими "телом". Мы имеем в виду так называемые интегральные роботы, в которые встраиваются датчики, получающие данные из внешней среды (эти датчики являются в определенном смысле аналогами органов чувств животных и человека), и которые снабжаются манипуляторами и устройствами, позволяющими роботу перемещаться в трехмерном пространстве (то есть реализовать некое подобие моторики живых организмов). Проектирование подобных роботов имеет целью сделать их способными к самостоятельной деятельности определенного (неизбежно ограниченного) рода в сложном и изменяющемся окружении. О далеко идущих планах в области роботостроения свидетельствуют разнообразные проекты издания роботов-исследователей для действий в космосе и океане.



Вернемся, однако, к анализу рассуждений Дрейфуса. В его книге высказаны интересные соображения относительно соотношения рационально-логических и интуитивно-наглядных, концептуально-сознательных и "глубинных" форм активности человеческой психики. Автор верно обращает внимание читателя на то, что кибернетическое моделирование наиболее успешно тогда, когда речь идет о передаче машине логических отношений и процедур. Однако эти "высшие", четко определенные логические формы интеллекта базируются на очень сложных и более общих "низших" формах (и даже, замечает автор, управляются этим последним) . В значительной мере это есть та часть психики, которая роднит человека с животным миром ("распознавание образов") - но не только, так как к наиболее сложным пластам психики Дрейфус относит и использование естественного языка с его гибкими значениями. Именно эта "низшая", "глубинная" часть механизма познания труднее всего поддается моделированию, а по мнению автора, даже не поддается вообще.

Не все специалисты в области кибернетического моделирования, так же как математики и логики, занимающиеся вопросами "искусственного интеллекта" или задумывающиеся над его проблемами, по-видимому, в должной мере учитывают сторону дела, на которой столь решительно настаивает Дрейфус Однако те математики и кибернетики, которые принимают во внимание психолого-гносеологические и социальные аспекты, видят ее достаточно ясно. Вот что, например, писая А, Н. Колмогоров в статье "Жизнь и мышление как особые формы существования материи": "В развитом сознании современного человека аппарат формального мышления не занимает центрального положения. Это скорее некоторое "вспомогательное вычислительное устройство", запускаемое в ход по мере надобности... кибернетический анализ работы развитого человеческого сознания в его взаимодействии с подсознательной сферой еше не начат" (сб. "О сущности жизни", ЬЛЛ, "Наука", 1964, с. 54), Эти слова, сказанные советским ученым еще в начале 60-х годов, справедливы и для современной ситуации в "искусственном интеллекте".

323

Впрочем, из сказанного выше не следует делать вывод о несущественности логического мышления в познавательном процессе. Дрейфус - и об этом мы еще будем говорить - чрезмерно противопоставляет мир, субъективно данный личности, объективному физическому миру, в котором действует человек, и это приводит к известной недооценке классической науки о природе, в сооружении здания которой формально-логическое "вспомогательное логическое устройство", которым располагает каждый человек, играет необходимую и важную роль. Если дискретный подход и требования точности не всегда дают эффект, то во многих случаях это как раз самые сильные средства.



Потребности и цели. Что значит "быть в человеческом мире"?

Одно из главных препятствий на пути кибернетического моделирования человеческого поведения автор усматривает в невозможности наделить ЭЦВМ человеческими мотивами и целями. Объясняя природу этой трудности, Дрейфус правильно указывает на то, что в основе человеческого целеполагания лежат потребности. Особый акцент при этом делается на потребностях биологического ("телесного") характера, включая двигательную активность организма. Будучи определена текущими нуждами человека, система его целей, мотивов его поведения, функционирования его организма динамична, изменчива; этим она коренным образом отличается от системы правил, управляющих работой машины: как бы ни были организованы эти правила (например, иерархически подразделены на правила переработки информации, метаправила -правила применения правил или изменения их и т. п.), на современном уровне развития ЭЦВМ и их математического обеспечения они предполагают предварительное формальное описание - пусть обобщенное и доступное изменению в ходе машинного обучения - класса ситуаций, с которыми машина может справляться. Эта "нечеловеческая жесткость" проистекает из того - и здесь Дрейфус совершенно прав, - что машину невозможно запрограммировать таким образом, чтобы у нее появились собственные цели того же типа, что и те, которые определяют поведение человека. Правда, современные программы "искусственного интеллекта" позволяют машине в ходе решения задач формировать "цели" и "подцели", зависящие от "истории" соответствующего информационного процесса и результатов общения машины с внешней средой. Однако нынешние машинные аналоги человеческого целеполагания все же чрезвычайно далеки от своего прототипа, и, создавая все более мощные системы "искусственного интеллекта", мы не знаем, по какому пути и в какой мере можно к нему приближаться.

Конкретные потребности человека - Дрейфус фактически неоправданно ограничивает их "телесной организацией"- прямо или косвенно формируют текущие задачи человеческой деятельности, благодаря которым происходит разграничение существенного и несущественного. От направленности реальных интересов, накопленных знаний и навыков действий зависит, что в данной ситуации будет оставлено без внимания, что сохранится в качестве "потенциально релевантного" на более "отдаленных" участках внутреннего мира человека, а что будет немедленно учтено в его поведении.

Человек не машина. Все, с чем он сталкивается в своей деятельности, будь то конкретные объекты или отвлеченные идеи, так или иначе связано с его устремлениями. "Вне конкретной заинтересованности, без наличия конкретного предмета исследования - всего того, что позволяет производить выбор и интерпретацию" (с. 186), невозможно осмысление реальности и деятельность в ней. Это умение ориентироваться в мире - "быть в нем своим", как образно говорится в книге, - присуще человеку не только как "машине" из мускулов и нервов, но и как существу, применяющему орудия труда и исследования. Ссылаясь на выводы М.Лоляного, автор отмечает, что, когда человек овладевает орудиями труда или языком, он

324

превращает соответствующие орудийные или языковые средства как бы в продолжение самого себя, "интериоризирует" их, вживается в них.



Итак, "человеческий мир" всегда структурирован в терминах намерений и направленности интересов, и это порождает, говорит Дрейфус, особого рода регулярность человеческого поведения - контекстуальную регулярность, смысл которой состоит в том, что человеческое поведение никогда не подчиняется полностью каким-либо правилам, но всегда упорядочено - в той мере, в какой это необходимо при данных условиях.

В книге убедительно показано, что "человеческий мир" не может быть разложен на "независимые элементы"; для человека, его психики, считает Дрейфус, не возникает и вопроса о "хранении и классификации огромных списков бессмысленных, изолированных данных" (с. 229), так как ситуации, в которых оказывается человек, всегда организованы в терминах человеческих потребностей и склонностей, благодаря чему факты приобретают соответствующее значение.

Как мы видим, позиция автора отражает реальную диалектику человеческой деятельности, - деятельности, для которой характерна гибкость, недоопределенность задач, сложное и во многом противоречивое взаимодействие потребностей и целей, выражающееся, в частности, в том, что нередко цель осознается лишь после ее достижения, так как вызвавшая ее потребность может не осознаваться или осознаваться весьма смутно. "При попытке найти окончательные бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти не разложимые далее кванты информации, вводимые в машину,- пишет автор,- ...мы фактически стараемся очистить факты нашего жизненного опыта именно от той прагматической организации, благодаря которой только и возможно их гибкое использование, приводящее к решению повседневных задач" (с. 231).

Способность человека, по выражению Дрейфуса, "быть своим в человеческом мире" - вещь вполне реальная. Реальная потому, что она может быть утрачена. Так, при поражении некоторых участков мозга человек теряет (полностью или частично) способность "глобального" восприятия, оставаясь при этом личностью. В таком случае для ориентации в мире он действует подобно машине: например, для того чтобы отличить треугольник от четырехугольника, подсчитывает число сторон этих фигур. Здоровый человек также может приблизиться к видению мира сквозь "машинные очки", если по каким-то причинам он рассматривает вещи вне их обычных связей. В семиотике искусства использование подобного литературного приема называется остранением.

"Мир" современной ЭЦВМ - даже эвристически запрограммированной - есть мир отдельных деталей, атомизированность которого стремятся преодолеть за счет эффективных методов поиска решений, организации памяти, фреймов, формализованных обобщенных описаний и т. п. Но в этом "мире" - включая "мир" машин обозримого будущего, - как правильно говорит Дрейфус, нет места "для хорошо знакомого нам мира орудий, организованного в терминах наших намерений" (с. 235) .



Практика. Человек как "совокупность всех общестеенных отношений"

Читатель, несомненно, заметил наблюдающийся в книге известный "перекос" в сторону преувеличения биолого-антропологических аспектов в истолковании человека и его интеллекта. К сожалению, общественная природа личности как носителя разума - важнейшая, "сущностная" черта человека, в то же время являющаяся наибольшим, насколько можно судить, препятствием на пути кибернетического моделирования интеллекта, остается в книге нераскрытой. Правда, в связи с вопросом о распознавании социальных связей автор отмечает значение социального общения, считая

325



мир человеческой жизни "более широкой ситуацией"; в которую погружена человеческая деятельность (см. с. 185), говорит о том, что человеческая способность "находиться в ситуации" зависит "не столько от гибкости нашей нервной системы, сколько от нашей способности к практической деятельности" (с. 200), и указывает, что "не существует жестко фиксированной природы человека" (с. 250). Однако понимание автором практики весьма далеко отстоит от диалектико-материалистической концепции практической деятельности и, как косвенно "признает автор, близко к концепции прагматизма.

Осмысляя проблему возможностей кибернетического моделирования познавательных процессов и создания систем "искусственного интеллекта", мы должны брать практику в ее полном объеме: и как основу формирования самого человека, и как главный импульс познавательного процесса, и как критерий истинности результатов отражения действительности в психике, сознании человека. Именно с этих позиций и следует рассматривать категории, которыми оперирует автор, и собранный им богатый и интересный фактический материал. Процесс удовлетворения потребности как источника активности личности неотделим от целенаправленной деятельности. Эта деятельность развертывается в истории, в исторической практике. Как писали К, Маркс и Ф. Энгельс, "сама удовлетворенная первая потребность, действие удовлетворения и уже приобретенное орудие удовлетворения ведут к новым потребностям, и это порождение новых потребностей является первым историческим актом" (К, Маркс и Ф.Энгельс. Соч., т, 3, с. 27}. В советской философии, психологии и социологии историческая обусловленность потребностей раскрыта достаточно полно. Не ограничиваясь той "телесной" сферой, к которой их "привязывает" Дрейфус, отечественные философы и психологи подчеркивают огромное значение социально обусловленных интеллектуальных потребностей и раскрывают связь высших форм человеческих потребностей как регуляторов поведения личности с процессами творчества (см.- например: А. Г. Спиркин. Сознание и самосознание. М., Политиздат, 1972) .

Понятие цели как феномена, с одной стороны, объективно обусловленного, а с другой - носящего субъективный (принадлежащий субъекту) характер, должно быть, таким образом, введено в контекст социальной практики. Маркс отмечал, что человек "не только изменяет форму того, что дано природой; в том, что дано природой, он осуществляет вместе с тем и свою сознательную цель, которая как закон определяет способ и характер его действий и которой он должен подчинять свою волю" (К.Маркс и Ф. Энгельс. Соч., т, 23, с. 189). Раскрывая взаимоотношение субъекта и объекта в процессе производства, Маркс писал, что если производство, с одной стороны, "является присвоением объектов субъектами, то, с другой - оно в такой же мере есть формирование объектов, подчинение объектов субъективной цели, превращение объектов в результаты и воплощения субъективной деятельности" (К. Маркс и Ф. Энгельс, Соч., т. 46, ч.1, с. 478).

Человеческие цели формируются в человеческом сознании, которое "с самого начала есть общественный продукт и остается им, пока вообще существуют люди" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 29). Характер целей, степень их гибкости или жесткости, их динамика складываются в человеческой практической деятельности. Диалектически противоречивый характер последней приводит к тому, что и цели человека сложны и многоплановы, зачастую противоречивы. В этом - одно из качественных различий между поведением человека и работой машины; последняя в определенном смысле даже более "целеустремлена", чем человек: ее работа направлена на получение результата, который при всех ухищрениях машинных адаптации и обучения носит несравненно более жесткий характер, чем активность наделенного сознанием человека, порождающая все новые цели.

326
Как писали К. Маркс и Ф. Энгельс, "сущность человека не есть абстракт, присущий отдельному индивиду- В своей действительности она есть совокупность всех общественных отношений" (там же, с. 3) . Запомним эти слова. Мы вернемся к ним, когда будем завершать наше обсуждение возможностей "искусственного интеллекта".





Феноменологическая метафизика или диалектико-материалистический монизм?

Одним из изъянов книги Дрейфуса является тенденция к истолкованию человеческого интеллекта как чего-то, так сказать, неумопостигаемого. Много рассуждая о "телесных функциях" человека, Дрейфус не ставит, однако, вопроса, как же именно эти функции формируют те способности человека, к которым ему приходится апеллировать для обоснования своего тезиса о принципиальной непрограммируемости человеческого поведения и психики. Понимая, что для предлагаемого им "расчета с традицией" недостаточно материала гештальтпсихологии (который широко представлен в книге), Дрейфус для обоснования своего подхода становится на позицию "феноменологического"- в понятиях субъективного мира человека- описания выделяемого им типа разумного поведения. Так, он соглашается с точкой зрения М. Мерло-Понти о том, что человеческие действия происходят исключительно "в сфере феноменального", не переходя в предметный мир (см. с. 217-218).

Концепция Дрейфуса - Мерло-Понти о роли человеческого тела в формировании интеллектуального поведения не лишена агностической окраски. Философски несостоятельными представляются категорические настояния автора на необходимости разграничения объективных фактов и человеческих ситуаций; на том, что "осмысленные объекты, включенные в контексты связей, в гуще которых мы живем, не образуют ту модель мира, которая хранится в нашей памяти или в нашем мозгу, а являются самим этим миром (с. 234); на том, что человек - "источник фактов" и что в процессе своей жизни в мире он создает "и самого себя, и сам мир фактов" (с, 264). Агностический мотив присутствует и в мысли автора о том, что "нет никаких оснований надеяться, что переработка информации на нейрофизиологическом уровне может быть описана в терминах цифрового формализма или какого бы то ни было формализма вообще" (с. 111); курсив мой. - SM ) .

Дрейфус солидаризуется с двусмысленными рассуждениями У. Ниссера о мире, "к которому мы не имеем прямого доступа"; противопоставляя этому миру - миру физических процессов-"мир машин и книг", с которым "мы... имеем дело в непосредственном опыте" (с. 237), и отвергая "промежуточный мир", изучаемый психологами, он призывает "оставить физический мир на усмотрение физиков и нейрофизиологов и вернуться (?) к описанию нашего человеческого мира, который мы непосредственно воспринимаем" (с. 240). Допуская, что "наш физический организм постоянно бомбардируется физической энергией, результатом чего и является наше восприятие мира через опыт" (с. 237), но отказывая науке в изучении того, как же возникает этот результат, автор впадает в своего рода феноменологическую метафизику.

Описанные установки Дрейфуса резко контрастируют с позицией диалектико-материалистического монизма, рассматривающего идеальное как порождение и отражение материального и считающего актуальной задачей науки - далеко еще не решенной - раскрытие физиологических основ психики и социальной обусловленности человеческого поведения и личностных феноменов. В рамках предлагаемого Дрейфусом подхода трудно понять, как вообще возможно объективное знание о чем-то - объективная истина, не зависящая ни от человека, ни от человечества. Феноменологическая метафизика Дрейфуса закрывает доступ к диалектике субъективного и объективного в человеческом познании!

327



Вопрос, на который сейчас мы не можем дать ответ

Обратимся теперь к главному вопросу, составляющему предмет книги,- к вопросу о том, возможен, а если возможен, то как и в какой мере, "искусственный разум". Один аспект выводов автора по данному вопросу несомненно позитивен, и его следует учитывать как кибернетикам, так и психологам; однако другой аспект, по нашему мнению, можно и нужно оспаривать.



По-видимому, следует согласиться с Дрейфусом, когда он утверждает, что как существующие ныне, так и только разрабатываемые машинные методы хранения и поиска информации никогда не достигнут такого уровня, что автомат окажется в состоянии "справиться с тем объемом данных, который возникает при попытке выразить в точной форме наше знание мира" (с. 253) ; ибо масса этих данных может оказаться необозримо большой, и "формализация нашей жизни" будет невозможной. Главную трудность Дрейфус при этом усматривает в неразрешимости задачи точного выражения человеческих потребностей. Ибо диалектика потребностей такова, что ни у индивида, ни у человечества в целом потребности "никогда не становятся полностью определенными, они сохраняют способность к уточнению, а природа человека получает возможность повторных изменений в ходе революций личностей и культур" (там же). Именно поэтому поведение человека - и не только его "тело", как считает Дрейфус, но прежде всего его социальную активность - нельзя воспроизвести на цифровой машине, даже если ее снабдить системой органов-манипуляторов. Сошлемся в этой связи на мнение А. Н. Колмогорова: "возможно, что автомат, способный писать стихи на уровне больших поэтов, нельзя построить проще, чем промоделировав все развитие культурной жизни того общества, в котором поэты реально развиваются" (А. Н. Колмогоров. Жизнь и мышление как особые формы существования материи. - В кн.: О сущности жизни, с. 57) . Хотя сам Колмогоров называет эти слова "шутливой формой" интерпретации основной проблемы кибернетического моделирования, в них заключен глубокий смысл: человека нельзя полностью "заменить" машиной потому, что он есть "совокупность всех общественных отношений".

Теперь о другом, гораздо менее убедительном аспекте воззрений автора, Дрейфус считает "в высшей степени маловероятным" появление в будущем значительных результатов в сферах моделирования процессов познания и "искусственного интеллекта" (см. с. 257). Работы в области "искусственного интеллекта", по его мнению, имеют практическую ценность лишь в "ограниченном круге вопросов"; что же касается моделирования познавательных процессов, то автор сомневается вообще в их необходимости (см. с.230), В стремлении "приблизиться к разумному поведению", по его мнению, предел возможностей кибернетики уже почти достигнут.

Предвидя неизбежные возражения, автор прибегает к целой системе ограничений поговорок. Он говорит лишь о "сегодняшних возможностях" электронной цифровой вычислительной техники (см. с. 263), не обсуждая перспектив, которые могут открыться благодаря изобретению приборов, основанных на иной технологии, нежели нынешняя, и использующих иные, более гибкие принципы функционирования. Он не касается вопроса о создании эволюционных машинных программ, имитирующих определенные стороны развития человека; он ничего не говорит о работах по машинному моделированию органической эволюции. И, наконец, он просто-напросто упрощает проблему, придавая ей форму дилеммы "или - или": фактически он сводит все к вопросу, можно ли заложить в машину "полностью сформировавшийся интеллект" (см. там же).

Когда Дрейфус требует от кибернетиков гарантий успеха исследований по формализации различных форм "разумного" поведении, ему, по-видимому, не приходит в голову такая простая мысль, что любому исследова-

328

телю уверенность в правильности избранного им пути просто необходима. Развитие работ в критикуемой автором области есть не что иное, как диалектическое движение вперед,- движение, в котором одна конкретная задача сменяется другой, разрабатываются новые и новые программы и т. п.; движение, которое на практике решает вопрос, чего можно, а чего нельзя достичь на избранном пути; движение, которое с необходимостью создает новые теоретические и технические средства.

Никто не оспаривает тот факт, что современные цифровые ЭВМ не могут претендовать на "разум" в любом, пусть даже очень ограниченном смысле этого слова. Вопрос стоит иначе. Решается конкретно-научная и философская проблема возможностей кибернетического моделирования различных проявлений разумного поведения, то есть вопрос о том, насколько далеко можно идти по пути автоматной имитации функций и структур живого и разумного. В настоящее время ответ на этот вопрос нам неизвестен. С определенностью можно сказать только одно: Дрейфус заблуждается, полагая, что сегодня кибернетика достигла предела своих возможностей. Скорее наоборот,- мы стоим только в начале ее развития. По-видимому, между современными эвристическими автоматами и собственно человеческой сферой, недоступной для машинного воспроизведения (а фактический материал книги говорит в пользу существования таковой), лежит обширная "нейтральная полоса". Проводя поиск на этой не освоенной наукой территории, нам приходится решать задачу выяснения соотношения алгоритмической, эвристической и сознательно-человеческой сфер поведения.



Сферы разумности и машинное моделирование

Книга Дрейфуса предоставляет нам для этого определенный материал. В заключение своего труда, размышляя о будущем "искусственного интеллекта", автор предлагает рубрикацию различных форм разумного поведения с точки зрения степени их формализуемости. Из четырех выделенных им типов поведения четвертый - неформальное поведение, зависящее от смысла и ситуации, позволяющее решать задачи с "открытой структурой" и понимать язык в контексте реального общения,- по его мнению, не программируем. Данная автором классификация -одна из возможных. Рубрикацию несколько иного рода читатель может найти, например, в книге "Управление, информация, интеллект". Здесь различаются формализованные, полуформализованные и неформализованные (неформализуемые) процессы, причем два последних рассматриваются в качестве поля деятельности, в котором ведущая роль отводится человеку, а область творческих процессов считается составляющей правильную часть этого поля и включает в себя как неформализованные или неформализуемые, так и полуформализованные процессы (см. с. 314 упомянутой книги). Классификацию форм поведения (решения задач) предприняли также Г. С. Поспелов и Д. А. Поспелов. Предметом их анализа являются вопросы, связанные с передачей машине задач, которые в том или ином смысле можно считать творческими. Основанием предлагаемой классификации являются свойства языка, на котором формулируются соответствующие задачи. Классу задач, для которого имеется "языковое согласование" описаний исходных и искомых (заключительных) ситуации (к нему относятся задачи вычислительной математики, не имеющие отношения к проблематике "искусственного интеллекта", а также обычные лабиринтные и эвристические задачи) противопоставляется класс задач, для которых такое согласование отсутствует. Задачи последнего класса требуют трансформации целей и отображения их условий, а также используемых при решении средств (правил) в специально разрабатываемые модельные структуры. Это и есть задачи "искусственного интеллекта" в собственном смысле. Разработка методов их решения предполагает создание соответствующих семантических систем (языков), в частности языков, позволяющих производить трансформацию

329



правил переработки информации и вводить расплывчатые условия (см.: Г. С. Поспелов, Д. А. Поспелов. Исследовании по искусственному интеллекту в СССР. - В кн.: Кибернетику - на службу коммунизма, т. 9, М., "Энергия", 1978). Формализация творческих задач возможна лишь в той мере, в какой для них удается построить соответствующую эффективную модельную структуру.

В качестве примера, свидетельствующего о наблюдающемся продвижении в моделировании интеллектуальных задач, сошлемся на новейшие результаты в области эвристической алгоритмизации шахматной игры. Автору этих строк сообщил о них экс-чемпион мира по шахматам М. М. Ботвинник, в течение ряда лет с коллективом сотрудников работающий над созданием шахматной программы, отражающей методы игры шахматистов высокого класса. В августе 1977 г. разработанная под руководством Ботвинника программа "Пионер", в основу которой положен выдвинутый экс-чемпионом мира метод горизонта (см.: М. М. Ботвинник. Алгоритм игры а шахматы. M, "Hayкa", 1968; его же: О кибернетической цели игры, М., "Советское радио", 1975), решила известный этюд шахматного композитора Г. Надареишвили. Расчет вариантов при решении этой трудной задачи машиной напоминал поведение человека-шахматиста: дерево перебора содержало всего лишь 200 ходов, причем глубина расчетов не была ограничена заранее. Как отметил М. М. Ботвинник, решение данного этюда на машине с быстродействием порядка 12 млн. операций в секунду потребовало бы примерно 8 мин. машинного времени. Далеко не каждый шахматист самой высокой квалификации уложился бы в это время (см.: М, М. Ботвинник. "Пионер" готовится к чемпионату, "Правда" от 24 ноября 1977 г).

В 1975 г. М. М. Ботвинник писал: "Если шахматная программа, выполненная на основе предлагаемого алгоритма, будет достаточно сильно играть в шахматы, например, как мастер, это будет важным шагом на пути создания искусственного интеллекта" ("О кибернетической цели игры", с. 67). В настоящее время экс-чемпион мира считает, что к 1980 г. машинная программа, играющая в силу шахматного мастера, будет создана.



Человеко-машинные системы. Возможен ли алгоритм "наращивания понимания"?

Итак, прогресс в области "искусственного интеллекта" вполне реален. Даже в случае, если соответствующие теоретические результаты оказываются скромными, исследования окупаются за счет развития методов формализованного представления знаний, языков программирования, эвристических алгоритмов решения сложных задач и т. п. Это придает работам в области "искусственного интеллекта" прикладную ориентацию. Они оказывают возрастающее влияние на развитие вычислительной техники и ее математического обеспечения. При этом, как отмечают специалисты, наблюдается любопытное явление. До тех пор пока некоторая задача не поддается автоматизации, она считается "творческой" и относящейся поэтому к направлению "искусственного интеллекта"; когда же для нее оказывается возможным написание реально работающей программы (как в игре в шашки), она переходит в разряд "нетворческих" и исключается из сферы моделирований процессов познания и "искусственного интеллекта".

Среди специалистов нет единого мнения относительно "удельной значимости" различных направлений модельно-психолого-кибернетических исследований. Имеется, однако, такая область "искусственного интеллекта", важное значение которой признается всеми, включая и автора данной книги. Это - разработка человеко-машинных систем. В настоящее время исследования в этой области развертываются в двух основных направлениях. Одним из них является разработка систем диалога между человеком и ЭВМ на естественном языке. Природа связанных с этим трудностей подробно проанализирована в книге Дрейфуса в рамках задачи моделирования на ЭВМ процессов человеческого понимания. Не вдаваясь в подроб-

330

ности, отметим, что если не полное решение этой задачи (последнее вряд ли возможно в силу тех особенностей человека как биологического и социального существа, о которых говорилось выше), то решение, достаточное для организации "разговора на определенную тему", мыслится современными исследователями на пути создания специального языка семантических представлений - промежуточного между естественным языком и языком машины (см. упоминавшуюся выше статью Г. С. Поспелова и Д. А. Поспелова). Одной из разработок, идущих в данном направлении, является создание отечественными специалистами "Диалоговой информационно-логической системы" (ДИЛОС); работа последней в режиме диалога обеспечивается соответствующими логико-информационными процедурами, основанными на особом формализованном языке выражения знаний, включающем иерархию семантических образований, соответствующих свойствам и отношениям объектов некоторой предметной области (см. В. М. Брябрин, Г. В. Сенин. Руководство к системе ДИЛОС - БЭСМ-6. М., изд. ВЦ АН СССР, 1977).

Другой исследовательской линией является разработка методов совместного человеко-машинного решения задач. Именно это направление автор данной книги расценивает как реальную перспективу кибернетических исследований. Дрейфус указывает на целесообразность "разделения труда" между человеком и ЭВМ: машина берет на себя "цифровые" аспекты человеческих "информационных процессов", человек же со своим умением отделять существенное от несущественного заставляет машину сосредоточиться на заслуживающей просчитывания области. Например, при решении сложных задач, "после того как найдена структура задачи и построен план поиска, машина могла бы взять на себя разработку деталей решения" (с. 277) .



Добавим, что в плане " искусственного интеллекта" наибольшую значимость имеют исследования, которые можно квалифицировать как преследующие цель разработки алгоритмов "наращивания понимания". Смысл подобных работ достаточно полно раскрыл В. М. Глушков о книге "Управление, информация, интеллект" (см. с. 301-313) . По его мнению, система человеко-машинного информационно-логического взаимодействия должна быть основана на таком языке общения человека с машиной, который позволяет не только расширять содержащийся в машинной памяти массив знаний, но и обогащать логику вычислительно-информационной системы, в частности укрупнять используемые машиной логические шаги (то есть изменять понятие логически очевидного перехода), позволяя "свертывать", делать более компактной машинную логику. Это может основательно обогатить результативность человеко-машинной системы как исследовательской структуры нового типа.



"Машинная парадигма" - регресс или прогресс?

Заключая свой анализ "искусственного интеллекта", автор книги справедливо отмечает большое принципиальное значение этого направления; он прав, говоря о том, что возрастание наших знаний о границах "разумного" в применении к вычислительной машине будет вместе с тем обогащением научных представлений о характере и объеме человеческого интеллекта. Но он впадает в неоправданную крайность, когда утверждает, что создание искусственных систем, проявляющих определенные черты разумного поведения, приведет к тому, что "в ближайшее время мы станем свидетелями триумфа весьма ограниченного представления о разуме" (с. 20). Как представляется пишущему эти строки, с течением времени главной пинией развития кибернетики все более будет становиться создание человеко-машинных систем управления и переработки информации, использование машин как "усилителей творческих возможностей человека. Такая "машинная парадигма" станет необходимым элементом социального развития.

331

Как ранее писал автор этих строк в совместной с А. И. Бергом работе, "машины не мыслят - и вряд ли будут мыслить - как человек, как разумное существо, живущее в обществе, имеющее интеллектуальные потребности и пользующееся естественным языком для обмена мыслями с другими разумными существами. Но несомненно, что человек, работающий в "содружестве" с электронной машиной, мыслит лучше и иначе, чем человек, вынужденный ограничиваться лишь примитивными орудиями механизации своего умственного труда" (А. И. Берг, Б. В. Бирюков. Кибернетика и прогресс науки и техники.- В кн.: Ленин и современное естествознание. М, "Мысль", 1969, с. 371).



Кибернетика и задача комплексного изучения человека

Рациональный аспект предпринятого Дрейфусом анализа состоит не в критике кибернетических исследований, а в том, что его книга побуждает к размышлениям над сложными проблемами, имеющими важное методологическое значение. И поучительный анализ "допущений" "искусственного интеллекта" во второй части (пусть не всегда убедительный), и интересный фактический материал третьей части в общем перевешивают те недиалектические крайности, в которые нередко впадает автор, следуя феноменолого-экзистенциалистским установкам. Общая направленность книги - против попыток поставить знак равенства между естественным разумом и его искусственными аналогами, против того, что можно назвать "кибернетическим редукционизмом", то есть тенденцией к сведению многогранности разума к единственно дедуктивно-классифицирующему уровню, сравнительно легко поддающемуся формализации,- философски вполне оправданна.

Книга заставляет задуматься над необычайной сложностью человека как природного и социального существа, над грандиозной сетью связей, которые констатируют его как "совокупность всех общественных отношений". Одной из главных трудностей кибернетического моделирования познавательных процессов, не отмеченной, кстати, в работе Дрейфуса, является недостаточная изученность человека во всем его многообразии. Успехи кибернетики в моделировании сложных систем живого, мыслящего и социального, несомненно, находятся в зависимости от всестороннего изучения человека в рамках биолого-медицинских, психолого-этнологических, философско-социологических и иных наук. В комплексном исследовании человека как социального существа, наделенного сознанием и самосознанием, кибернетике принадлежит только определенная (и заведомо не главная) часть - часть, которая не в состоянии исчерпать его "сущностные" свойства. Но это необходимая часть, без развития которой наши представления о человеке не могут быть достаточно полными. Книга Дрейфуса тем и полезна, что привлекает внимание исследователей именно к этой, информационно-кибернетической, "составляющей" комплекса работ, направленных на раскрытие самого сложного из известных нам феноменов мироздания - явления под названием Человек.

Б. В. Бирюков

Содержание раздела