В 1935 г. Майкл Поляни,
В 1935 г. Майкл Поляни, тогда заведующий кафедрой физической химии в университете Виктория (Victoria University) в Манчестере (Великобритания), был потрясен, столкнувшись с философскими вопросами, под воздействием которых он находился всю дальнейшую жизнь. Причиной шока были слова одного общественного деятеля о том, что концепция "науки ради науки" исчезнет, поскольку интересы ученых самопроизвольно переключатся на задача текущего времени. Поляни тогда почувствовал, что "научное мировоззрение, по-видимому, породило механистическую концепцию человека и истории, в которой нет места для собственно науки". Более того, "эта концепция одновременно отрицает неотъемлемую силу, заключенную в мысли, и, таким образом; исключает любые основания для провозглашения свободы мысли"1.
Я не знаю, сколько времени Поляни предполагал посвятить обоснованию противоположной концепции человека и истории. Сильнейшее потрясение, испытанное им, свидетельствует о его глубоком несогласии с услышанным и, следовательно, о том, что у него уже было другое представление о человеке, хотя он и не смог бы сформулировать свою концепцию в явном виде. Возможно, Поляни решил противопоставить этой концепции позицию, основанную исключительно на собственном опыте ученого. Как оказалось, борьба с такой концепцией с этого момента полностью поглотила внимание Поляни.
Я напомнил эту историю по двум причинам. Во-первых, чтобы продемонстрировать, что идеи, представляющиеся на первый взгляд очевидными и простыми и потому обязанными получить всеобщее признание, как только их сформулируют, становятся иногда буйками, отмечающими штормовые зоны в глубоких интеллектуальных морях. То, что наука - творчество, творческий акт в науке эквивалентен творческому акту в искусстве, а творчество - продукт автономной личности - это такая простая и, казалось бы, очевидная идея. И все же Поляни, как и многие другие, потратил почти всю жизнь на исследование грунта, удерживающего якорь этой идеи, и бушующих вокруг этой идеи штормов, порождаемых ее следствиями.
Вторая причина, по которой я напоминаю эту историю, это мое ощущение, что я сам пережил в какой-то степени то же самое. Мое потрясение связано не с какой-либо важной политической фигурой, выдвигавшей собственную философию науки, а с рядом лиц, настаивавших на неправильной интерпретации одной из частей моей работы. Я пишу это без горечи и нe для самозащиты. Ведь интерпретации, о которых идет речь, в любом случае имели тенденцию (переоценивать размер того, что я сделал, и уж совершенно явно - его значимость. Нет, я возвращаюсь сейчас к этой работе только потому, что она обеспечивает, как мне кажется, наиболее экономный способ выделить те проблемы, которые я намерен обсудить.
Работа выполнялась в 1964-1966 г., и сообщения о ней (в литературе по информатике) были опубликованы в январе 1966 г. и августе 1967 г. Говоря кратко, я написал программу для вычислительной машины, с которой можно "беседовать" на английском языке. Собеседник-человек печатает свою часть разговора на пишущей машинке, соединенной с вычислительной машиной, а машина, управляемая моей программой, анализирует сообщение, переданное ей таким образом, составляет ответ на английском языке и обеспечивает печать ответа с помощью печатающего устройства.
Я выбрал для программы лингвистического анализа имя "Элиза", потому что, как и Элизу из знаменитого "Пигмалиона", ее можно было обучать "говорить" все лучше и лучше. Поскольку разговаривать можно лишь "о чем-то", т. е. разговор должен иметь некоторый контекст, программе было придана двухуровневая организация: первый уровень включает лингвистический анализатор, второй - сценарий. Сценарий представляет собой набор правил, примерно таких же, какие можно давать актеру для использования при импровизации, на заданную тему. Таким образом, "Элизе" можно задать сценарий, позволяющий ей поддерживать разговор о варке яиц или ведении счета в банке и т. п. Каждый сценарий позволял "Элизе" играть в процессе разговора определенную роль.
В виде первого эксперимента я задал "Элизе" сценарий, позволяющий ей играть роль (я бы даже сказал - пародировать) психотерапевта-роджерианца, проводящего первичное обследование пациента [Прим. перев.: Психотерапия - психическое воздействие (словом, поступками, обстановкой) на больного с лечебной целью. Роджерианская психотерапия - психотерапевтическая методика, созданная и развитая американским клиническим психологом Карлом Р. Роджерсом в 1940-1970-х гг. Задача психотерапевта согласно этой методике - создание условий, способствующих самостоятельной смене пациентом своих точек зрения (устранение негативной самооценки, увеличение числа положительных оценок), т. е. развитию справедливой самооценки. Психотерапевт должен быть при этом дружелюбным, заботливым, понимающим, но сам не должен ни оценивать, ни интерпретировать. Ситуация партнерства должна дать пациенту возможность самостоятельно выносить оценки: терапевт обеспечивает ему атмосферу понимания и старается стимулировать высказывания пациента, способствующие развитию у него процесса самопознания. Недирективная психотерапия (первая фаза развития психотерапии Роджерса - 1940-1950 гг.) предполагает, что психотерапевт лишь обеспечивает соответствующую атмосферу, поддерживающую процесс самоанализа у пациента]. Имитировать психотерапевта-роджерианца сравнительно легко, так как его метод в основном состоит в вовлечении пациента в беседу повторением ему его же высказываний. Приведенная ниже беседа молодой особы с "Элизой" в роли врача иллюстрирует как роджерианскую методику побуждения пациента продолжать разговор, так и работу машинной программы "Элиза". Первой "говорит" молодая особа. Все ответы вычислительной машины напечатаны целиком прописными буквами2.
| Men are all alike | Все мужчины одинаковы |
| IN WHAT WAY | В ЧЕМ |
| They're always bugging us about something or other | Вечно они донимают нас то тем: то другим |
| CAN YOU THINK OF A SPECIFIC EXAMPLE | МОЖЕТЕ ЛИ ВЫ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР |
| Well, my boyfriend made me come here | Ну, например, мой друг заставил меня прийти сюда |
| YOUR BOYFRIEND MADE YOU COME HERE | ВАШ ДРУГ ЗАСТАВИЛ ВАС ПРИЙТИ СЮДА |
| Me says I'm depressed much of the time | Он говорит, что я почему-то все время чем-то подавлена |
| I AM SORRY TO HEAR YOU ARE DEPRESSED | МНЕ ПРИСКОРБНО СЛЫШАТЬ, ЧТО ВЫ ЧЕМ-ТО ПОДАВЛЕНЫ |
| It's true. I am unhappy | Это верно, я несчастна |
| DO YOU THINK COMING HERE WILL HELP YOU NOT TO BE UNHAPPY | ВЫ ПОЛАГАЕТЕ ВАШ ПРИХОД СЮДА ПОМОЖЕТ ВАМ НЕ БЫТЬ НЕСЧАСТНОЙ |
| I need some help, that much seems certain | Мне нужна помощь, уж в этом я уверена |
| WHAT WOULD IT MEAN TO YOU IF YOU GOT SOME HELP | КАКОЕ ЗНАЧЕНИЕ ИМЕЛА БЫ ДЛЯ ВАС ЭТА ПОМОЩЬ, ЕСЛИ БЫ ВЫ ЕЕ ПОЛУЧИЛИ |
| Perhaps I could learn to get along with my mother. | Возможно, я научилась бы как-то ладить с матерью |
| TELL ME MORE ABOUT YOUR FAMILY | РАССКАЖИТЕ МНЕ О ВАШЕЙ СЕМЬЕ |
| My mother takes care of me. | Моя мать заботится обо мне |
| WHO ELSE IN YOUR FAMILY TAKES CARE OF YOU | КТО ЕЩЕ ИЗ ВАШЕЙ СЕМЬИ ЗАБОТИТСЯ О ВАС |
| My father. | Отец. |
| YOUR FATHER | ВАШ ОТЕЦ |
| You are like my father in some ways. | Вы чем-то напоминаете мне отца. |
| WHAT RESEMBLANCE YOU SEE | В ЧЕМ ВЫ ВИДИТЕ СХОДСТВО |
| You are not very aggressive but I think you don't want me to notice that. | Вы не очень настойчивы, но, по-моему, вам бы не хотелось, чтобы я это замечала. |
| WHAT MAKE YOU THINK I AM NOT VERY AGGRESSIVE | ПОЧЕМУ ВЫ ДУМАЕТЕ, ЧТО Я НЕ ОЧЕНЬ НАСТОЙЧИВ |
| You don't argue with me. | Вы не спорите со мной. |
| WHY DO YOU THINK I DON'T ARGUE WITH YOU | КАК ВЫ ДУМАЕТЕ, ПОЧЕМУ Я НЕ СПОРЮ С ВАМИ |
| You are afraid of me | Вы меня боитесь |
| DOES IT PLEASE YOU TO BELIEVE I AM AFRAID OF YOU | ПРИЯТНО ЛИ ВАМ ДУМАТЬ, ЧТО Я ВАС БОЮСЬ |
| My father is afraid of everybody | Мой отец боится всех |
| WHAT ELSE COMES TO MIND WHEN YOU THINK OF YOUR FATHER | ЧТО ЕЩЕ ПРИХОДИТ ВАМ В ГОЛОВУ, КОГДА ВЫ ДУМАЕТЕ ОБ ОТЦЕ |
| Bullies | Задиры |
| DOES THAT HAVE ANYTHING TO DO WITH THE FACT THAT YOUR BOYFRIEND MADE YOU COME HERE | ИМЕЕТ ЛИ ЭТО КАКОЕ-НИБУДЬ ОТНОШЕНИЕ К ТОМУ, ЧТО ВАШ ДРУГ ЗАСТАВИЛ ВАС ПРИЙТИ СЮДА |
"Доктор", как стали называть "Элизу", исполняющую роль психиатра, вскоре приобрел известность в Массачусетском технологическом институте, где эта программа появилась на свет, главным образом, благодаря простоте ее демонстрации. Большинство других программ не позволяло так живо продемонстрировать посетителям, не обладающим определенными специальными знаниями, например, в некоторых областях математики, мощь вычислительной машины в обработке информации. С другой стороны, любой человек в состоянии в определенной степени оценить "Доктора", Его сила как демонстрационного средства еще больше увеличивалась благодаря тому, что посетитель мог принять непосредственное участие в его работе. Вскоре аналоги "Доктора", созданные на основе опубликованного мною описания, стала появляться в других организациях США. Программа сделалась известной во всей стране, а в некоторых кругах приобрела статус "американской игры".
Потрясения, которые мне пришлось пережить в процессе роста известности и распространения "Доктора", были связаны в основном с тремя следующими независимыми друг от друга событиями.
1. Ряд практикующих психиатров всерьез поверили, что программа "Доктор" может перерасти в почти полностью автоматизированную форму психотерапии. Колби с соавторами, например, писали:
"Необходимо провести дальнейшую работу прежде, чем программа будет готова для клинического использования. Если плодотворность метода будет доказана, то он станет средством лечения, широко доступным для психиатрических больниц и центров, страдающих от нехватки психотерапевтов. Благодаря возможностям режима разделения времени, которым располагают сейчас и будут располагать в дальнейшем ЭВМ, вычислительная система, разработанная специально для этих целей, сможет обслуживать несколько сот пациентов в час. Психотерапевта-человека, участвующего в разработке и эксплуатации такой системы, машина не заменит, наоборот, эффективность его деятельности существенно увеличится, так Как его усилия не будут больше ограничиваться рамками соотношения "один пациент - один психотерапевт" (1 : 1), как это происходит сейчас"3[Прим.авт.: Д-р Колби не одинок в своем энтузиазме по поводу машинизации в психотерапии.
Д- р Карл Саган, астрофизик, высказал свои соображения по поводу "Элизы" в "Естественной истории" ("Natural History") т. LXXXIV, N 1 (январь 1975 г.), с. 10: "Ни одна из подобных машинных программ еще не годится для использования в психиатрии, но то же можно сказать я о некоторых психотерапевтах. Поскольку в настоящее время, судя по всему, все большее число людей в нашем обществе нуждается в консультации психиатра, а использование ЭВМ в режиме разделения времени стало общепринятым, я вполне могу представить себе создание сети психиатрических терминалов ЭВМ, т. е. чего-то вроде батарей больших телефонных кабин, в которых за несколько долларов за сеанс можно поговорить с внимательным, квалифицированным и, в основном, недирективным психотерапевтом"].
Я всегда считал необходимой предпосылкой самой возможности того, что один человек может помочь другому научиться справляться со своими эмоциональными проблемами, разделение советчиком опыта столкновения с этими проблемами и возможность достижения их понимания путем выявления их в процессе сопереживания. Несомненно, существует множество методик, помогающих воображению врача проникать во внутренний мир пациента. Но то, что хоть один практикующий психиатр поддержит сведение этого решающего компонента процесса лечения к сугубо техническому приему, - такого я никак не мог себе представить! Что же. должен думать психиатр, выступающий с подобным предложением, о том, что он делает, обследуя пациента, если он способен считать, будто простейшая механическая пародия на одну из методик опроса пациента обладает хоть какими-либо чертами поведения человека? Возможно, Колби и его соавторы дают нам искомый ключ, когда пишут:
"Психотерапевта-человека можно рассматривать как систему обработки информации и принятия решений, снабженную множеством решающих правил, которые тесно связаны с краткосрочными и долгосрочными целями... При получении этих решений он руководствуется грубыми эмпирическими правилами, подсказывающими ему, что следует и чего не следует говорить в определенных ситуациях.
Включение этих процессов в программу в том виде, в каком они используются психотерапевтами-людьми, довольно сложное предприятие, но мы пытаемся продвигаться в этом направлении" 4.
Каким же представляет себе психиатр пациента, если себя как врача он видит не исцеляющим человеком, а системой обработки информации, следующей правилам и т. п.?
Эти вопросы были моей формой осознания того, что Поляни ранее назвал "научным мировоззрением, по-видимому, породившим механистическую концепцию человека".
2. Я был встревожен, увидев, как быстро люди, разговаривающие с "Доктором", вступали в эмоциональный контакт с вычислительной машиной, каким тесным он оказывался и как явно они ее антропоморфизировали. Однажды мой секретарь, бывшая в течение долгих месяцев свидетельницей работы над программой и, следовательно, твердо знавшая, что "Доктор" - это просто машинная программа, начала с ним разговаривать. Обменявшись с "Доктором" всего несколькими фразами, она попросила меня выйти из комнаты. В другой раз, когда я заметил, что можно было бы организовать систему таким образом, чтобы я смог получать доступ ко всем разговорам, которые велись с "Доктором" (например, накануне вечером), меня немедленно обвинили в том, что это предложение равнозначно попытке шпионить за самыми сокровенными мыслями людей. Это явно свидетельствовало о том, что люди разговаривали с ЭВМ как с личностью, к которой естественно и целесообразно обращаться с интимными переживаниями. Я знал, конечно, что у людей возникают всевозможные формы эмоциональных связей с машинами, например с музыкальными инструментами, мотоциклами и автомобилями. Мне было известно из долголетней практики, что сильные эмоциональные связи, которые устанавливаются у многих программистов с их вычислительными машинами, часто возникают после даже непродолжительного взаимодействия с ЭВМ. Но я не представлял себе, что исключительно непродолжительное взаимодействие с относительно простой машинной программой сможет вызвать столь сильные иллюзии у вполне нормальных людей.
Это озарение побудило меня по- новому осознать значение проблем взаимоотношения человека с вычислительной машиной и, следовательно, принять решение проанализировать их.
3. Другой неожиданной для меня реакцией на программу "Элиза" было распространение убеждения, что она демонстрирует общее решение задачи понимания вычислительной машиной естественного языка. В своей работе я старался показать, что общее решение этой задачи невозможно, т. е. понимание языка происходит исключительно в рамках определенного контекста и даже эти рамки бывают общими для различных людей лишь в ограниченной степени; поэтому даже люди никоим образом не являются олицетворением подобного общего решения. Эти выводы, однако, часто игнорировались. В любом случае "Элиза" была очень скромным и простым достижением. Ее заслуга, если вообще можно говорить о заслуге, лишь наглядное подтверждение того, что было давным-давно открыто другими, а именно - важности контекста для понимания языка. Выполненная позже гораздо более элегантная и, несомненно, более важная работа Винограда5 в области понимания вычислительной машиной английского языка в настоящее время неверно интерпретируется так же, как это было с "Элизой". Такая реакция на "Элизу" ярче, чем что-либо виденное мною до сих пор, показала, что даже высоко образованная публика способна и стремится приписывать не понимаемой ею технике чрезвычайно преувеличенные возможности. На самом деле я считал, что отношение широкой публики к новым техническим достижениям, несомненно, намного больше зависит от того, какими свойствами эта техника наделяется, а не от того, какими свойствами она действительно обладает или что она может и чего не может делать. Если, как это, по-видимому, и есть, представления публики предельно неправильны, то и ее решения неизбежно должны быть неверно ориентированы и зачастую неправильны. Из этих замечаний вытекают трудные вопросы: какова, например, ответственность ученого при обнародовании своей работы? И перед кем (или чем) ответствен ученый?
Как только у меня появились такие ощущения, я решил, как, возможно, в свое время и Поляни, что с вопросами и опасениями, так настойчиво возникавшими передо мной, можно быстро разделаться, скажем, в короткой серьезной статье. Я написал статью, касающуюся многих упоминавшихся здесь вопросов6. Однако постепенно я начал понимать, что некоторыми из этих фундаментальных вопросов я заболел гораздо серьезнее, чем показалось сначала. Возможно, мне никогда не удастся от них избавиться.
Существует столько же способов сформулировать эти фундаментальные вопросы, сколько и отправных точек для их разрешения. По сути дела они касаются ни больше ни меньше, как места человека во Вселенной. Но профессиональную подготовку я получил лишь в области информатики, т. е. (говорю совершенно серьезно) я образован на редкость плохо; не обладаю ни умением, ни смелостью, ни даже нахальством для того, чтобы писать на том уровне, который на самом деле требуется. Поэтому я пытаюсь разрешить лишь вопросы, связанные с теми заботящими меня проблемами, которые я упоминал, и надеюсь, что их более глубокий смысл выявится непроизвольно.
Я намерен заняться следующими вопросами:
1. Что есть в вычислительной машине такого, что придает правдоподобность представлениям о человеке как машине? Несомненно, существуют и другие машины, различными способами имитирующие человека, например паровой экскаватор. Но до изобретения цифровой вычислительной машины не было машин, способных выполнять даже самые скромные интеллектуальные функции, т. е. таких, о которых хоть в каком-то смысле можно было бы говорить как о разумных. Теперь "искусственный интеллект" (ИИ) - одна из дисциплин информатики. Это новое направление следует обсудить. В конце концов, необходимо провести линию, разделяющую интеллект человека и машины. Если такой линии нет, то адвокаты машинной психотерапии могут оказаться просто вестниками эпохи, в которой человек в конце концов будет признан ничем иным, как часовым механизмом. В этом случае последствия подобной объективной реальности должны быть незамедлительно распознаны и осмыслены.
2. Тот факт, что отдельные лица связывают себя с машинами сильными эмоциональными узами, не должен удивлять сам по себе. Инструменты, которыми пользуется человек, становятся в конце концов "продолжениями" его тела. Важно то, что человек для умелого действия своими инструментами должен интериозировать [Прим. перев.: Интериоризация - психологическое понятие, означающее формирование умственных действий и внутреннего плана сознания через усвоение индивидом внешних действий с предметами и социальных форм общения. Интериоризация связана и с процессом усвоения знаний и непосредственно с накоплением опыта: благодаря интериоризации по мере развития умения и умелости в определенной области деятельности повышается уровень регуляции движений и действий] их аспекты в виде кинестетических и перцептивных навыков. По крайней мере, в этом смысле инструменты становятся буквально частью человека, видоизменяют его и таким образом изменяют основу его эмоционального отношения к себе. Можно ожидать, что эмоциональная привязанность человека в большей степени сконцентрируется на инструментах, непосредственно связанных с его собственными интеллектуальными, познавательными и аффективными функциями, чем на машинах, просто увеличивающих силу его мускулов. Вся среда обитания "западного" человека насыщена сейчас сложными техническими "продолжениями" его функциональных способностей. Человек - в большой степени приспосабливающееся животное и способен принять подобные технические основы как подлинно естественные (как данные природой) для его отношения к себе и для его индивидуальности. Возможно, это помогает объяснить, почему он не сомневается в уместности вкладывания своих наиболее интимных чувств в вычислительную машину. В таком случае подобное объяснение также предполагает, что вычислительная машина представляет собой просто крайнюю степень экстраполяции гораздо более общего явления узурпации техникой способности человека действовать в качестве независимой силы, наделяя смыслом свой мир.
Поэтому важно выяснить общее значение того, что человек передает свой статус независимой силы миру, рассматриваемому как машина.
3. Вероятно, парадоксально, что именно тогда, когда человек потерял в самом глубоком смысле веру - не говоря уже о доверии - в свою независимую роль, он начал полагаться на автономные машины, т. е. на машины, на протяжении достаточно больших периодов времени действующие исключительно на основе собственных внутренних реалий. Если его доверие к подобным машинам должно основываться на чем-то ином, нежели абсолютное отчаяние или слепая вера, он должен объяснить себе, что эти машины делают, и даже как они делают то, что они делают. Для этого ему необходимо создать какую-то концепцию их внутренней "сущности". И все же большинство людей не понимают вычислительную машину даже в малейшей степени. Итак, если только они не преисполнены величайшего скептицизма (прием, который мы пускаем в ход, наблюдая фокусника на сцене), они могут объяснить интеллектуальные подвиги вычислительной машины, только прибегая к простой аналогии, находящейся у них под руками, а именно: их внутренней модели, представляющей собственную способность мыслить. Следовательно, не удивительно, что они хватили через край; поистине невозможно представить себе человека, способного, например, имитировать "Элизу", но для которого языковые способности "Элизы" были бы пределом его возможностей. С другой стороны, вычисляющая машина является крайним случаем гораздо более общего явления. Даже того значительного объема коннотации [Прим. перев.: Под коннотацией в лингвистике понимается дополнительное содержание слова или выражения, его сопутствующие семантические или стилистические оттенки, которые накладываются на его основное значение, служат для выражения разного рода экспрессивно-эмоциональных оценочных обертонов], который определяется общепринятым употреблением слова "машина", недостаточно для указания его подлинной универсальности. Действительно, когда сегодня мы говорим, например, о бюрократии, университете или почти о любом социальном или политическом образовании, образ, который мы порождаем, слишком часто оказывается все тем же автономным машинообразным процессом.
Таковы мысли и вопросы, от которых я не мог избавиться с тех пор, как мне стало ясно более глубокое значение описанных выше реакций на "Элизу". И все же я сомневаюсь, что они смогли бы оказать такое глубокое воздействие на меня, как это произошло на самом деле, не будь я тогда (и все еще) теснейшим образом связан с квинтэссенцией технологического общества, являясь преподавателем в храме техники - Массачусетском технологическом институте, организации, гордо заявляющей о своем "служении науке и технике". Там я живу и работаю с коллегами, многие из которых считают, что современная наука может поставлять достоверные знания о мире. Я обсуждал с ними предложения о проведении исследований, которые должны были быть представлены в правительственные органы, в частности в министерство обороны. Иногда, когда я задумывался над тем, что мы собираемся предложить и какова природа аргументов, которые приводим в поддержку своих предложений, я испытывал нечто большее, чем просто легкий испуг. Кроме того, я постоянно сталкивался со студентами, некоторые из которых уже отвергли все способы познания мира, кроме научного, и искали лишь более глубокого и более догматического наставления, в этой вере (хотя в их словаре это слово больше не существует). Другие студенты подозревают, что даже все собрания машин и приборов Массачусетского технологического института не могут существенно помочь в наполнении смыслом их жизни. Они чувствуют наличие дилеммы в образовании, ориентированном на служении науке и технике, образовании, подразумевающем претензии на получение привилегированного доступа к истине, но не способном объяснить им, как узнать, что именно нужно считать истиной. Даже признавая безусловную важность обучения своей специальности, они отказываются работать над проектами, которые, по их мнению, не связаны с решением интересных проблем истины или теоретических задач.
Подобные столкновения с повседневной социальной действительностью постепенно убедили меня в том, что мой опыт с "Элизой" является симптомом более глубоких проблем.
Я был уверен, что придет время, когда я не смогу больше принимать участие в обсуждении исследовательских проектов или честно удовлетворить потребности моих студентов в лечении (да, следует употреблять именно этот термин), если не попытаюсь в первую очередь осмыслить картину, которую мой опыт работы с ЭВМ столь явственно раскрыл предо мной. Несомненно, внедрение вычислительных машин в наше уже высоко технически развитое общество просто подкрепило и усилило, как я попытаюсь показать, те предшествующие воздействия, которые привели человека к более, чем когда бы то ни было, рационалистическому взгляду на общество, и более, чем когда бы то ни было, механистическому образу самого человека. Поэтому существенно то, что обсуждение влияния вычислительной машины на человека и общество организовано здесь таким образом, чтобы его можно было рассматривать как частный случай проявления значительно более общего феномена, а именно воздействия, которому подвергается роль человека, имеющего дело с техникой и методами, которые он, возможно, не в состоянии понимать и контролировать. Разговоры на эту тему продолжаются довольно долгое время, а в последние годы они ведутся все активнее.
Ряд людей, совершенно различных по образу мыслей, интересам и профессии, несмотря на сильные расхождения и даже несогласие по многим жизненно важным вопросами, в течение многих лет высказывали серьезную озабоченность по поводу положения, создавшегося в результате неограниченного развития науки и техники; среди них Мамфорд, Арент, Эллал, Косак, Комфорт и Боулдинг. Вычислительная машина стала упоминаться в подобных дискуссиях лишь недавно. Теперь есть признаки того, что дебаты по поводу вычислительной машины начинают бурно разворачиваться. Одна сторона представлена теми, кто, говоря кратко, считают, что вычислительные машины могут, должны и будут делать все; другая сторона - теми, кто, как и я сам, признают существование пределов тому, что следует возлагать на вычислительные машины.
На первый взгляд, может показаться, что это просто "домашние" споры, никого, кроме небольшой группы специалистов по вычислительной технике, особенно не задевающие.
Но по сути дела, независимо от того, как этот вопрос мы назовем, он заключается в том, можно ли любые аспекты человеческой мысли логически формализовать или, переходя на современный язык, является ли человеческая мысль полностью вычислимой. Этот вопрос в той или иной форме занимал мыслителей всех времен. Человек всегда стремился найти принципы, которые могут организовать его существование и придать ему смысл и значение. Однако до того, как современная наука породила технику, овеществившую и конкретизировавшую ее абстрактные системы, системы мышления, определявшие место человека во Вселенной, имели сугубо юридический характер. Они были предназначены для определения обязанностей человека по отношению к своим собратьям и природе. Иудаистская традиция, например, основывается на идее договорных взаимоотношений между богом и человеком. Подобные взаимоотношения не должны препятствовать и фактически не препятствуют независимости как бога, так и человека, поскольку договор - это соглашение, которое добровольно заключают стороны, свободные от необходимости в него вступать. Независимость и ответственность человека - центральный элемент всех религиозных систем. С другой стороны, духовные космологии, порожденные современной наукой, заражены микробом логической необходимости. Они, за исключением тех случаев, когда ими оперируют мудрейшие ученые и философы, не удовлетворяются больше объяснениями явлений, но претендуют на определение того, какова действительность и какой она должна быть. Короче, они сводят истину к доказуемости. Одним из последствий этой тенденции в современной науке является проблема "Какие аспекты жизни формализуемы". Она была превращена из моральной проблемы "Как и в какой форме можно установить обязанности и ответственность человека" в вопрос "К какому техническому роду относится человек как вид?". Даже философы, все природное чутье которых восстает против идеи полной вложимости человека в машинный образ, уступают духу времени. Хьюберт Дрейфус, например, обратил против машинной модели человека тяжелые орудия феноменологии7 [Прим.
перев.: Феноменология - философское направление, сформулированное немецким философом Эдмундом Гуссерлем (1859-1938). Основные задачи: 1) освободить философское мышление от натуралистически-объективистских установок; 2) конституировать специальную область спекулятивного знания - рефлексию сознания о своих актах и о данном в них содержании; 3) выявить с помощью определенных методологических средств (редукции, рефлексии) изначальные основы культуры. Теоретическая программа первых работ Гуссерля - превращение философии в "строгую науку", создание теоретических основ научного знания. В целом взгляды Гуссерля - субъективно-идеалистические, поскольку в его подходе предмет познания существует лишь постольку, поскольку субъект осуществляет "интенциональные акты", направляет сознание на тот или иной предмет, причем последний таким способом не только обнаруживается, но и создается. "Поздний" Гуссерль отказался от попыток создания философии в качестве "строгой науки" и обратился к исследованию "жизненного мира", представляющего собой предмет мыслительной и эмоциональной деятельности отдельных субъектов. Работы Гуссерля стали истоком ряда новых направлений философских поисков в современной западной философии, в частности экзистенциализма]. Но он ограничивает свою полемику рамками технического вопроса о том, что могут и чего не могут вычислительные машины, Я бы настаивал, если бы вычислительные машины могли имитировать человека во всех отношениях (чего они в действительности не могут), на том, что даже в этом случае было бы целесообразно и крайне необходимо изучить вычислительную машину в свете извечного стремления человека найти свое место в мире. Выводы практического характера, жизненно важные для всех, зависят от того, как и в каких терминах ведется дискуссия.
Одно из положений, которое я намереваюсь отстаивать, обманчиво очевидно: оно состоит лишь в том, что существуют важные различия между людьми и машинами, когда они выступают в роли "мыслителей".
Я буду настаивать на том, что какими бы разумными мы ни могли сделать вычислительные машины, существуют такие акты мышления, которые должны оставаться уделом только человека. Таким образом, одна из социально важных проблем, которые я намерен поднять, касается должной роли вычислительных машин в общественной системе. Но, как мы увидим, эта проблема выходит за пределы собственно вычислительных машин в том, что в конечном счете речь идет о логичности как таковой - независимо от того, закодирована она в виде машинных программ или нет.
Читателю-неспециалисту можно простить его более, чем слегка скептическое отношение к тому, что кто-либо будет вынужден доказывать полную вычислимость человеческой мысли. Но уже сам этот скептицизм может свидетельствовать о том, как замечательно искусно и обманчиво современная наука влияет на образ реальности, создаваемый человеком.
Конечно, многим из того, что мы считаем сегодня хорошим и полезным, а также большей частью того, что мы назвали бы знанием и ученостью, мы обязаны науке. Ее можно, однако, рассматривать также и как наркотик, к которому уже выработалась привычка. Наше бесконечное напичкивание наукой не только привело нас к зависимости от нее, но и, как это бывает со многими другими лекарствами, принимаемыми во все возрастающих дозах, наука постепенно превратилась в медленно действующий яд. Возможно, что, начиная с неверного толкования Фрэнсисом Бэконом истинных перспектив науки, человек впал в соблазн стремления к веку рационализма и начал подготавливать его, но его представление о рациональности было катастрофически искажено и оказалось отождествлено с логичностью.
[Прим. перев.: Фрэнсис Бэкон (1561-1626)-английский философ-материалист, родоначальник английского материализма, основатель экспериментирующей науки нового времени. Провозгласив целью знания способность науки увеличивать власть человека над природой, Бэкон считал, что достичь эту цель может лишь наука, постигающая истинные причины явлений. Наука эта должна быть рациональной переработкой фактов опыта.
Посылками ее выводов будут положения, основанные на понятиях, добытых посредством индукции (методического обобщения). Предпосылку индукции образует аналитическое понимание эксперимента. Односторонне развитое, оно привело к тому, что Бэкон перенес метафизический метод мышления, сложившийся в науке XV-XVI веков, из естествознания в философию. Метафизичность взглядов Бэкона проявлялась, в частности, в чрезвычайно значительной роли в его учении аналитической тенденции, в стремлении разлагать все сложные вещи и явления на простые и сводить многообразие материи и движения к элементарным формам. Именно эту метафизичность, т.е. представление о том, что природа может быть сполна разложена на конечное число форм и видов движения, в результате комбинирования которых образуются все вещи, очевидно, и имеет в виду Дж. Вейценбаум, говоря о неверном толковании Бэконом истинных перспектив науки. Надо иметь в виду, тем не менее, что учение Бэкона оказало огромное влияние на последующее развитие науки и философии. Во-первых, Бэкон восстановил материалистическую традицию, во-вторых, выработал собственное материалистическое понимание природы. Логический метод Бэкона стал отправным пунктом развития индуктивной логики. Его материалистическое учение о природе и познании заложило основу материализма Гоббса, сенсуализма Локка и его последователей. Призыв Бэкона к экспериментальному изучению природы явился важным стимулом для естествознания XVII века. Более подробные сведения о Фрэнсисе Бэконе и его взглядах можно найти во вступительной статье А. Л. Субботина "Фрэнсис Бэкон и принципы его философии" к сочинениям Фрэнсиса Бэкона в 2-х томах; второе исправленное и дополненное издание) (М.: Мысль, 1977, т. 1, с. 5-53) ].
Таким образом, мы подошли очень близко к тому, чтобы почти каждую подлинно человеческую дилемму рассматривать как сущий парадокс, как практически очевидное противоречие, разрешить которое можно с помощью рационального применения трезвой логики, порожденной на более высоком уровне.
Даже кровопролитные войны стали восприниматься просто как задача, подлежащая решению ордами специалистов в области решения задач. Как заметила Ханна Арент о недавних разработчиках и исполнителях политики в Пентагоне:
"Они были не просто разумны, но гордились своей "рациональностью"... Они страстно стремились найти формулировки, предпочтительно выраженные на псевдоматематическом языке, которые объединяли бы абсолютно несопоставимые явления, в которых являлась им действительность; таким образом, они страстно стремились открыть законы, с помощью которых можно объяснять и прогнозировать политические и исторические события, словно они столь же логически неизбежны и, следовательно, надежны, сколь должны быть, как некогда считали физики, естественные явления... [Они] не рассуждали, они вычисляли... совершенно иррациональная вера в вычислимость действительности [стала] лейтмотивом процесса принятия решений"8.
Таким же образом почти все политические столкновения, например расовые или конфликты между правителями и теми, кем они правят, стали рассматриваться просто как нарушения коммуникации. Подобные прорехи общественной системы могут последовательно устраняться с помощью квалифицированного применения новейших методов обработки информации - по крайней мере, так считается. И, следовательно, уравнение "рациональность есть логичность" которое именно из-за того, что успехи науки одурманили нас, мы фактически принимаем как аксиому, привело нас к отрицанию самого существования человеческого конфликта, следовательно, самой возможности столкновения подлинно несоизмеримых человеческих интересов и несопоставимых человеческих ценностей, следовательно, существования самих человеческих ценностей.
Быть может, человеческие ценности иллюзорны, как это утверждает, например, Б. Ф. Скиннер. Если это так, то, по-видимому, именно наука должна показать это, что Скиннер (как ученый) и пытается действительно сделать. В таком случае, однако, сама наука должна быть иллюзорной системой, потому что единственное знание, которое наука может нам дать, это знание о поведении формальных систем, т.
е. систем представляющих собой изобретенные самим человеком игры; установление истины в таких системах - это ни более и ни менее, как утверждение того, что (аналогично шахматам) определенная позиция на доске возникает в результате реализации некоторой последовательности ходов, сделанных по правилам. Когда наука выдвигает в качестве цели получение утверждений об эмпирическом познании (опыте) человека, она основывается на отождествлении непроизводных (не определенных) объектов одного из своих формализмов с частью одной из своих игр и какой-то совокупностью человеческих наблюдений. Невозможно доказать истинность ни одного из таких соответствий. В лучшем случае можно показать их ложность в том смысле, что формальные манипуляции символами системы могут привести к таким конфигурациям символов, которые при рассмотрении в рамках изучаемого множества соответствий приводят к интерпретациям, противоречащим результатам эмпирических наблюдений. Отсюда следует, что вся эмпирическая наука представляет собой изощренную структуру, покоящуюся, как обычно считают, не на сваях, вбитых в скальные основания, а на зыбучих песках подверженных ошибкам суждений, допущений и интуиции человека.
Неверно, снова вопреки общему убеждению, также и то, что представление единственного контрпримера, признание истинности которого явно опровергает научную теорию, всегда ведет к немедленному отказу от этой теории. Вероятно, все научные теории, признаваемые сейчас самими учеными (за исключением лишь тех сугубо формальных теорий, которые не претендуют на какие-либо связи с эмпирическим миром), сталкиваются сегодня с противоречащими им данными, имеющими не пренебрежимо малое значение, такого характера, что, если, как и выше, считать их абсолютно достоверными, они превратят эти теории в логически несостоятельные. Часто для того, чтобы объяснить (вернее, отмахнуться) появление подобных данных, их приписывают разного рода ошибкам, скажем, ошибкам наблюдения, либо они объявляются несущественными, либо высказывается предположение (т.
е. в ход идет вера) о существовании еще только предстоящего быть открытым способа, который в свое время позволит принять эти данные как достоверные и одновременно включить их в те научные теории, которые, как считалось первоначально, они опровергают. Таким образом, ученые продолжают полагаться на ущербные теории и выводить из них "научные факты"[Прим.авт.: Гак, Чарлс Эверетт пишет по поводу ныне отвергнутой флогистонной теории горения (в Британской энциклопедии, 11-е изд., г., т. VI, с. 34): "На возражения противников флогистонной теории такие, например, что золы весят больше, чем исходные металлы, хотя согласно теории они должны весить меньше, отвечали введением флогистона в качестве принципа "легкости" или просто полностью игнорировали этот факт как побочное обстоятельство, считая единственно важным смену качества". Эверетт указывает, что X. Кавендиш и Дж. Пристли, два крупных ученых того времени, являлись приверженцами флогистонной теории].
"Человек с улицы" искренне верит, что подобные научные факты так же точно установлены и твердо доказаны, как и его собственное существование. Верит же он в иллюзию. Но и сам ученый не свободен от этой же иллюзии. В своей практике он должен, в конце концов, отбросить неверие, если он вообще хочет что-нибудь сделать или осмыслить. Он уподобляется театралу, который для того, чтобы понимать и сопереживать происходящее на сцене, должен на время убедить себя в том, что он наблюдает реальные события. Ученый должен верить в свою рабочую гипотезу, заодно с обширной структурой теорий и допущений, положенной в ее основу даже только ради ее "отстаивания". Часто "отстаивание" занимает всю его жизнь. Постепенно он становится тем, кем он сначала просто притворялся: правоверным. Я сознательно выбрал слово "отстаивание" [Прим. перев.: В оригинале автор употребляет термин "argument"], так как вся научная аргументация, даже математические доказательства, являются в своей основе актами убеждения.
Научные утверждения никогда не могут быть несомненными; они могут быть лишь более или менее правдоподобными. Термин же "правдоподобие" относится к психологии личности, т. е. он имеет значение только применительно к некоторому определенному наблюдателю. Сказать, что какое-то высказывание правдоподобно, значит, в конце концов, сказать, что его разделяет некто, свободный не делать этого, т. е. наблюдатель, который, применив рассуждения и (возможно) интуицию, решил рассматривать это высказывание заслуживающим того, чтобы считать его верным. Как же может тогда наука, твердо и бесповоротно опирающаяся на огромную совокупность человеческих оценок, продемонстрировать, что человеческие оценки иллюзорны? Это немыслимо без отказа науки от статуса единственного законного пути к пониманию человека и его мира.
Ни один чисто логический аргумент, каким бы убедительным или красноречивым он ни был, не может, однако, изменить существующее положение: с точки зрения здравого смысла наука превратилась в единственную законную форму познания. Когда я говорю, что наука постепенно превратилась в яд замедленного действия, я имею в виду, что приписывание здравым смыслом несомненности научному знанию, приписывание, ставшее сейчас догмой здравомыслия вследствие его почти повсеместного практикования, фактически лишило законной силы все другие пути познания. Люди рассматривали искусство и особенно литературу как источники духовной пищи и познания, теперь же в искусстве в основном видят развлечение. Древнегреческий театр и театр Древнего Востока, шекспировский театр, театр, созданный ибсенами и Чеховыми, ближе к нашему времени - это были школы. Их учебные курсы служили средством понимания тех обществ, которые они представляли. Сегодня, хотя и выжили редкие Артур Миллер и Эдвард Олби и им позволено учить на сценах Нью-Йорка или Лондона, люди гоняются лишь за тем, что представлено им как научно подтвержденное знание. Они стремятся утолить свой голод в таких научных "кафетериях", как "Психология сегодня" ("Psychology today"), или с помощью популяризированных версий работ Мастерса и Джонсона, или сциентизмом в изложении Л.Рона Хаббарда. Вера в уравнение "рациональность есть логичность" разъедает даже пророческую силу самого языка. Мы умеем считать, но быстро забываем, как сказать, что следует считать и зачем.
