Против экспансионизма инструментального мышления
То, что человек благодаря развитию науки и техники приобрел необычайное могущество, стало такой вульгарной и банальной истиной, что, хотя она и распространена так, как никогда раньше, ее парадоксально все реже и реже повторяют в серьезных разговорах. Парадокс возникает из-за того, что банальность, перестающая быть избитым выражением, перестает восприниматься как банальность. В некоторых кругах банальность после того, как в течение некоторого времени о ней не упоминалось, воспринимается как ее прямая противоположность - как глубокая истина. В этом тоже есть иносказание: могущество, приобретенное человеком благодаря науке и технике, было обращено в бессилие.
Люди чувствуют это. Стаде Теркел в своем монументальном труде, посвященном изучению каждодневной работы в Америке, пишет:
"Многие испытывают с трудом скрываемое разочарование... "Я - машина", - говорит рабочий, обслуживающий машину для точечной сварки. "Я - зверь в клетке", - высказывается кассир банка и ему вторит служащий гостиницы. "Я - мул", - говорит рабочий-металлург. "То, чем я занимаюсь, может делать и обезьяна", - произносит секретарша. "Я превратился в сельскохозяйственное орудие", - говорит сезонный рабочий. "Я - вещь", считает манекенщица. "Синие воротнички" и "белые воротнички" выражают свое мнение одной фразой: "Я - робот""1[Прим. перев.: По принятой классификации "синие воротнички" - рабочие, "белые воротнички" служащие. В русском переводе книги Теркела (см. [1]) этот отрывок опущен]
Возможно, люди в своей массе считают, что хотя они бессильны, вообще могущество существует и им обладают их лидеры. Но мы уже убедились в том, что государственный секретарь США считает, что события просто "увлекают" нас за собой, а председатель объединенного комитета начальников штабов США признает себя рабом вычислительных машин. Наши лидеры тоже не обладают могуществом. Даже врач, в прошлом - сам символ культурного могущества, становится бессильным по мере того, как во все большей степени превращается в передаточный канал между своими больными и главными фармацевтическими компаниями.
Больные, в свою очередь, все в большей степени превращаются в совершенно пассивных объектов, которых лечат и над которыми производят различные операции. Их собственные внутренние целебные ресурсы, способности их организма к восстановлению гармонического состояния все больше игнорируются как несущественные для медицины, едва способной отличить больного человека от промышленного изделия.
Господствующее сейчас течение биологической обратной связи может оказаться предпоследним актом драмы разрыва человека с природой; человек перестает ощущать себя, свое тело непосредственно - непосредственные ощущения заменяются показаниями стрелок, мельканием лампочек и гудением приборов, которыми человек оснащается подобно тому, как автомобиль спидометром. Последний акт этой драмы - окончательное всеобщее истребление, которое заодно покончит и с жизнью вообще.
Таким образом, техническую неизбежность можно рассматривать как составную часть значительно более общего синдрома. Наука пообещала человеку могущество. Но, как это часто случается, когда люди соблазняются обещанным всемогуществом, рабство и бессилие - цена, которую требуют от них с самого начала до конца, и именно ее им действительно приходится платить. Могущество ничего не стоит, если оно не дает власти выбирать. Инструментальное мышление позволяет принимать решения, но существует большая разница между решением и выбором.
Люди, с которыми беседовал Стаде Теркел, принимают решения ежегодно в течение всего дня. Они, по их собственному свидетельству, уподобляются роботу Винограда. Его спрашивают: "Почему ты это сделал?" И он отвечает: "Потому что такая-то или такая-то ветвь моей программы приводит к получению этого результата". Вы спрашиваете: "Почему ты выбрал эту ветвь?" И он отвечает таким же образом. Последний его ответ: "Потому что вы мне так сказали".
Возможно, любое действие, совершаемое человеком, предполагает осуществление последовательности вычислений на элементах, которые системотехник назвал бы вершинами дерева решений.
Их опасения, как они пишут, "относятся к возможным тяжелым последствиям неконтролируемого применения этих методов" [Прим. перев.: ДНК - сокращенное название дезоксирибонуклеиновой кислоты, представляющей собой важную составную часть клеточного ядра. ДНК является материальной формой хранения наследственной информации. У бактерий ДНК локализуется в нуклеоидах (ядерных субстанциях 'бактериальной клетки) и в эписомах. Рекомбинация представляет собой процесс образования смешанного потомства в результате генетического обмена между двумя клетками, различающимися между собой одним или несколькими генетическими маркерами - признаками, используемыми при изучении генетических процессов. Биологический смысл генетической рекомбинации состоит в возникновении новых индивидуумов, наделенных свойствами родителей].
Их обращение - это, несомненно, шаг в правильном направлении, и их инициативу следует приветствовать. Тем не менее можно было бы задать вопрос, почему, они вообще считают себя обязанными приводить причины, побудившие их выступить с подобными рекомендациями. Разве основной долг человека, в том числе и ученого, - освобождение самой жизни от безумия отношения абсолютно ко всему как к объектам - не есть уже достаточная причина, причем такая, которую не нужно даже обсуждать? Почему это нужно объяснять? Оказывается, что самые благородные поступки людей, действующих из наилучших побуждений, отравлены разъедающей атмосферой "ценностей" нашего времени.
Простое объяснение этого явления, и, возможно, в нем есть доля истины, заключается в том, что "благие намерения" полностью вытеснили благородство. Существует и более тонкое объяснение. Наш век гордится тем, что он наконец добился свободы от цензуры, против которой боролись свободомыслящие люди всех времен. Сексуальные проблемы могут теперь обсуждатъся так свободно, как никогда раньше, женщины начинают занимать принадлежащее им по праву положение в обществе и идеи, о которых еще десять или около десяти лет назад можно было говорить только шепотом, распространяются теперь безо всяких ограничений.
Честь этих великих достижений приписывается новому духу рационализма, рационализму, который, как утверждается, позволил, наконец, сорвать с глаз человека пелену, образованную мистическим мышлением, религией и такими мощными иллюзиями, как свобода и чувство собственного достоинства.
Наука принесла нам великую победу над невежеством. Но при более внимательном рассмотрении эту победу можно считать также триумфом еще более глубокого невежества: то, что мы приобрели, оказалось новым конформизмом, позволяющим нам говорить все, что можно сказать на функциональных языках инструментального мышления, но запрещающим упоминать о том, что было названо Ионеско живой истиной. Так же, как экраны наших телевизоров демонстрируют необузданное насилие в "натуральном цвете" и не показывают сцен глубокой и подлинной любви (первое из-за отвратительного самого по себе извращения ценностей, называемых "реальными", второе - из-за объявления его непристойным), так мы можем обсуждать и само производство жизни и производимые над ней как над "объектом" манипуляции, но не в состоянии понимать бога, милосердие и мораль.
Возможно, биологи, призывающие своих коллег поступать правильно, руководствуются неверными обоснованиями, но основа их поступка - глубокое благоговение перед жизнью и подлинная человечность, хотя они все-таки не осмеливаются в этом признаться. В любом случае подобные аргументы не были бы "эффективными", а иначе говоря - инструментальными.
Если это так, то тот, кто подвергает цензуре их собственные высказывания, делает это, пользуясь старомодным выражением, подвергая риску свою душу.
Существует еще один способ оправдания отказа ученого продолжать определенную линию исследований - этот способ таков, что все мы можем извлечь из него уроки, полезные для нашей жизни. Способ основан на том принципе, что размер ответственности человека должен быть соразмерен с результатами его деятельности. В свое время этот принцип привел к рождению системы этики, суть которой поведение людей по отношению друг к другу.
Библейские десять заповедей говорят в основном о том, каковы обязанности человека по отношению к его семье и соседям. В библейские времена очень немногие могли бы сделать нечто, что затронуло бы людей за пределами их собственной сферы обитания. Наука и техника, созданные человеком, коренным образом изменили эту ситуацию. Деятельность современного человека может повлиять не только на всю планету - его естественную среду обитания, но и предопределить будущее человека как вида в целом. Следовательно, это означает, что ответственность человека, а особенно ученого и инженера, выходит за пределы сиюминутной ситуации и простирается непосредственно до будущих поколений. Эта ответственность особенно серьезна потому, что будущие поколения лишены возможности сегодня защищать свои права. Все мы сегодня являемся их опекунами3.
Публичный отказ биологов, как бы они его не обосновывали, это пример, которому всем ученым стоило бы последовать. Значит ли это, что ученые должны захлопнуть свои умы перед всякого рода "аморальными" гипотезами? Совсем нет. Научная гипотеза, по крайней мере с научной точки зрения, либо истинна, либо ложна. Это относится и к гипотезам Саймона о том, что человек "весьма прост" и полностью поддается машинной имитации, и к гипотезе Маккарти о существовании некоторого логического исчисления, с помощью которого можно формализовать все сущее. Было бы глупейшей логической ошибкой навешивать подобным гипотезам (или любым другим) ярлык моральности или аморальности, или, коли на то пошло, ответственности или безответственности.
Сама научная гипотеза может не иметь моральной или этической окраски. Но индивидуальное решение принять ее даже в качестве рабочей гипотезы, а тем более объявление своей приверженности ей широкой публике самым определенным образом включает ценностные оценки и, следовательно, неизбежно приобретает такую окраску. Как недавно писал экономист из Гарварда [Прим. перев.: Имеется в виду Гарвардский университет - один из старейших и наиболее почитаемых университетов США.
Расположен в Кембридже, штат Массачусетс] Марк Дж. Робертс:
"Допустим, мы должны выбрать одну из двух гипотез. Независимо от того, какую мы выбрали, всегда существует возможность считать, что другая - правильная. Очевидно, что относительное правдоподобие совершения ошибки при выборе той или иной гипотезы зависит (но также от этих факторов зависит и цена ошибок выбора альтернативных вариантов) от стоимости признания гипотезы "А" истинной, когда, на самом деле, истинна гипотеза "Б", или наоборот. Мы вполне могли бы предпочесть риск совершить более вероятную ошибку малой ценой, чем менее вероятную ошибку высокой ценой. И все же во всех случаях стоимости ошибки нельзя определить никак иначе, чем на основе наших ценностей."
"Рассмотрим крайний случай: точку зрения, согласно которой в умственной деятельности различных рас имеются различия. Допустим, общество должно было бы принять эту точку зрения, а она оказалась ложной. Я считают, что это было бы большим несчастьем. Допустим, с другой стороны, что общество приняло точку зрения, предполагающую отсутствие различий, но она оказалась бы ошибочной. От этой ситуации я ожидаю меньше вреда. Задавшись такими оценками стоимостей, я буду стремиться получать данные, делающие гипотезу о межрасовом различии очень маловероятной, в действительности, прежде, чем я ее отвергну.
Мой научный выбор базируется на моей системе ценностей, и это происходит не потому, что я некритичен или предпочел бы считать такие различия несуществующими, но потому, что сообразный выбор в условиях неопределенности можно делать, лишь ориентируясь на стоимость совершения альтернативных ошибок. И наоборот, "ученый, претендующий на независимость от системы ценностей", будет, вероятно, исходить из допущения о существовании подобных различий, как только какие-то данные будут свидетельствовать о хотя бы чуть более высокой ее вероятности, чем вероятность противоположного допущения."
"Эти проблемы не возникают в повседневной научной работе, поскольку традиционные статистические методы обычно относят их к проблемам выбора статистического критерия или конкретного метода оценивания какой-либо величины.
В результате этот выбор производится на общепринятой или традиционной основе, обычно без всякого обсуждения, обоснования или даже признания, что был произведен выбор системы ценностей"4.
Робертc предпочитает приводить ценностные характеристики, учитываемые ученым в процессе решения вопроса, приемлема или неприемлема потенциальная стоимость ошибки, демонстрируя, что научная гипотеза не "независима от системы ценностей". Ценностные оценки, как я попытаюсь показать, учитываются при осуществлении учеными выбора также и другими (с моей точки зрения, более важными) способами. В данный момент, однако, я хочу лишь подчеркнуть, что вполне уместно крикнуть "браво" биологам, о которых упоминалось выше, и крикнуть "позор" ученым, написавшим недавно, что "симбионт" "машина-животное", располагающий зрительной системой и мозгом животного, обеспечивающими расширение его механических функций", будет технически "осуществим" в течение ближайших пятнадцати лет"5.
Использование слов типа "этика" и "долг" в беседе на научную тему едва ли не всегда вызывает некоторую натянутость, несколько похожую на ту напряженность, которая возникает всякий раз, когда, разговаривая с немецкими университетскими профессорами преклонного возраста, вам случится упомянуть о карьере одного их их коллег, преуспевавшего в годы гитлеризма. В последнем случае охлаждение атмосферы беседы выдает страх перед тем, что может быть сказано что-то "неудачное" и в особенности упомянута неспособность коллеги в прошлом поступиться своим честолюбием из моральных соображений. Таким образом, это служит признанием того факта, что сомнительным оказалось не только поведение именно этого коллеги, но и всех профессоров и преподавателей высших учебных заведений Германии того времени.
В первом же случае натянутость возникает из-за аналогичных соображений, поскольку этика в своей основе не уделяет так много внимания чему-нибудь еще, как отказу.
Эта напряженность выдает страх перед тем, что будет сказано нечто о том, что наука, и, следовательно, ученые должны и не должны делать. И это есть признание того факта, что то, что могло бы быть сказано об этом, не относится исключительно к науке вообще или к некоторой абстрактной совокупности, именуемой учеными, но применимо к каждому из присутствующих.
Некоторые ученые (ни в коем случае не все) считают сферу науки универсальной и уверены в невозможности существования ничего такого, что в силу некоего "высшего" принципа не следовало бы изучать. Из этой предпосылки обычно делается вывод, что всякие разговоры об этических "долгах", относящиеся к науке, по своей природе имеют разрушительный характер и направлены против науки и даже против разума.
Какова бы ни была ценность этого довода в абстрактно-логическом отношении, он теряет смысл в конкретных ситуациях, поскольку предметом научного исследования могло бы стать бесконечное множество вопросов, но в распоряжении науки имеется лишь ограниченное количество ресурсов. Следовательно, человек должен выбирать, какими проблемами заниматься, а какие отложить. Нам неизвестно, например, имеется ли какая-нибудь корреляция между числом пор в коже человека и числом нейронов его мозга. Этот вопрос не вызывает интереса, поэтому нет споров о том, следует или нет науке его изучать. Китайцы использовали иглотерапию в течение многих веков, не привлекая интереса науки западных стран. Теперь западные ученые вдруг заинтересовались иглотерапией. Эти примеры показывают, что научный "прогресс" развивается не по какому-то пути, предопределенному самой природой, а является зеркалом интересов и забот человека.
Несомненно, тонко отточенный интеллект человека - один из наиболее дефицитных ресурсов современного общества. И очевидно, что некоторые проблемы, поддающиеся научному исследованию, важнее других. Человеческое общество неизбежно сталкивается с проблемой разумного распределения такого дефицитного ресурса, как научные таланты.
Существует необходимость ( от нее нельзя произвольно отделаться) решить, какие задачи важнее или интереснее, чем другие. Любое общество должно постоянно искать способы удовлетворить это требование. Вопрос в данном случае заключается в том, каким образом эти способы следует отыскивать в открытом обществе; должны ли они устанавливаться, скажем, вооруженными силами или путем открытого обсуждения гражданами и учеными? Если их нужно обсуждать, то почему из дискуссии должны исключаться этические вопросы? И, наконец, как можно прийти к чему-либо разумному, если предварительно все не согласятся с тем, что, вопреки утверждению Джона фон Неймана, технические возможности не являются неодолимым искушением для человека? "Можно" не означает "должно".
К несчастью, новый конформизм, позволяющий нам говорить обо всем, за исключением нескольких простых истин, записанных в наших сердцах и в священных книгах любой из множества религий, исповедуемых человеком, считает все доводы, основанные на этих истинах (независимо от того, сколь тщательно они продуманы или красноречиво сформулированы), смехотворными для ученых и инженеров. Это само по себе, возможно, наиболее трагический пример того, как неправильное использование идеи обращает ее в ее противоположность.
Ученые, продолжающие болтать о "знании ради знания", чтобы использовать этот лозунг в своих собственных интересах, лишают науку и технику всяческих контактов с реальным миром. Центральная проблема знания, после того как оно "получено", - это придание ему законной силы; но мы видим, что почти во всех сферах, особенно в обсуждавшихся нами разделах информатики, подтверждение достоверности научного знания свелось к демонстрации технических чудес. Объяснить это можно двояко: либо природа, с которой связана наука, состоит исключительно из сырья, которое необходимо переплавлять и обрабатывать как некий объект; либо знание, приобретаемое наукой для человека, не имеет совершенно никакого отношения к самому человеку.
Наука не может согласиться с истинностью последнего, поскольку в противном случае она утратила бы свое разрешение "заниматься практикой". Это лишение, естественно, будет иметь практические последствия (в том числе утрата финансирования и т. д.), которым ученые стали бы сопротивляться изо всех сил. Если же верно первое, то сам человек превратится в некий объект. Есть много свидетельств, что на самом деле именно это и произошло. Но в таком случае и знание утратило свою чистоту, которой ученые так гордились; то знание превратилось в предприятие не более и не менее важное и не более по существу значительное, чем, скажем, знание о том, как расположить автосборочный конвейер. Кто станет интересоваться тем, что все это "ради знания"?
Этот процесс трагичен потому, что лишает науку самой возможности руководствоваться подлинными человеческими стандартами, не ограничивая в то же время никоим образом возможности науки передавать в руки человека все более и более могущественные силы. Здесь мы также обнаруживаем корни столь широко обсуждаемой дегуманизации человека. Человек дегуманизируется всегда, когда рассматривается как нечто меньшее, чем целостная личность. Различные формы инженерной психологии и социальной инженерии, рассматриваемые в книге, относятся к человеку постольку, поскольку они разрушают всю человеческую специфику, особенно ту, которая придает реальное значение языку человека.
То обстоятельство, что аргументы, взывающие к высшим принципам, например к обязательствам человека перед его детьми или к самой природе, не признаются имеющими законную силу, порождает серьезную дилемму для любого человека, стремящегося склонить своих коллег к сотрудничеству в наложении определенных ограничений на их исследования. Если он тем не менее использует подобные доводы, надеясь побудить своих коллег к своего рода обращению, то он рискует вообще не произвести никакого эффекта и даже подвергнуться отлучению, попав в положение смехотворного дурака. Если он настаивает на самоограничении, исходя из необратимости последствий, к которым могут привести неограниченные исследования, то он включается в узаконивание злоупотреблений инструментального мышления (скажем, под личиной анализа затрат и результатов) и способствует тому, против чего он собирался вести борьбу.
Я не вижу оснований советовать своим студентам посвящать свои таланты этой цели.
Я предлагал своим студентам и коллегам задать по поводу этого проекта еще один вопрос. Допуская, что машина, распознающая речь, неизбежно должна быть исключительно дорогой и поэтому только правительство и несколько очень крупных корпораций смогут позволить себе пользоваться ею, для чего они будут ее использовать? Для чего бы она могла быть, в принципе, использована? У меня нет никаких сомнений в том, что у человека не существует таких насущных проблем, разрешение которых облегчило бы наличие такой машины. Но подобные слышащие машины сделали бы слежение за речевой связью намного легче, чем оно представляется сейчас. Может быть, единственной причиной чрезвычайной ограниченности слежки за телефонными разговорами, практикуемой правительствами многих стран, является то обстоятельство, что подобная слежка требует участия очень большого числа людей. Каждый разговор по подслушиваемому телефону должен быть когда-то потом прослушан каким-то человеком. Машина же, распознающая речь, может отсеивать все "неинтересные" разговоры и представлять своим хозяевам расшифровки только оставленных. Я абсолютно не верю в то, что такие возможности окажутся в нашем распоряжении в будущем, столь отчетливо видимым Ньюэллом и Саймоном. Но я все-таки спрашиваю, почему талантливые специалисты в области вычислительной техники должны оказывать поддержку подобному проекту? Как гражданин, я опрашиваю, почему мое правительство должно тратить приблизительно 2,5 млн. долларов ежегодно (как оно это делает сейчас) на этот проект?
Несомненно, подобные вопросы вставали перед мыслящими людьми на более ранних этапах развития науки и техники. Но до недавнего времени общество всегда могло справиться с нежелательными и опасными эффектами новых изобретений при помощи своего рода самооздоровления, устраняющего или минимизирующего влияние этих эффектов. Скученность в городах можно было уменьшить географическим расширением города.
Человек мог спастись от ужасных последствий промышленной революции в Англии, эмигрировав в Америку. А Америка могла спастись от многих последствий роста мощи оружия, укрываясь за своими двумя крепостными рвами-океанами. Но эти дни прошли. Ученый и инженер больше не могут избегать ответственности за результаты своей деятельности, уповая на безграничные возможности общества преобразовывать себя в соответствии с новыми реальностями и залечивать раны, нанесенные ему ими. Определенные пределы уже пройдены. Преобразования, которые, возможно, потребует новая техника, могут оказаться неосуществимыми, а невозможность их осуществить может означать тотальное уничтожение жизни. Никто не имеет права ставить человечество перед необходимостью подобного выбора. Я говорю здесь о том, что следует и чего не следует делать, что неприемлемо с моральной точки зрения, что опасно. Я, естественно, прекрасно сознаю то обстоятельство, что эти мои моральные оценки не имеют сами по себе моральной силы ни для кого, кроме меня самого. И, как я уже указывал, я совершенно не намерен учить других, какими задачами они должны заниматься, а какими не должны. Я лишь призываю всех оценивать последствия того, что они действительно делают, причем сейчас я имею в виду не только очевидные, прямые последствия, оказываемые их деятельностью на окружающий мир. Я говорю, скорее, о последствиях, сказывающихся на них самих, на том, как конструируют свои разумные объяснения, как подавляют истину, побуждающую их следовать иным курсом, и как шаг за шагом отказываются от собственной независимости. Тот факт, что так много людей столь часто спрашивают, что им делать, служит признаком того, что понятия "быть" и "делать" поменялись местами. Тем, кому известно, кто они и что собой представляют, нет нужды спрашивать, что им следует делать. Те же, кто вынужден опрашивать, не смогут покончить с вопросами до тех пор, пока не начнут вглядываться в себя. Задача же каждого показывать с помощью собственного примера, какие вопросы можно задавать себе, и демонстрировать, что человек может жить, пользуясь теми немногими ответами, которые у него имеются.
Но точно так же, как я не обладаю лицензией определять действия других, так и "конструкторы" того мира, в котором я вынужден жить, не имеют безусловного права навязывать мне свои представления. На ученых и инженерах в силу их возможностей лежит особенно большая ответственность - ответственность, от которой нельзя отделаться, прикрываясь лозунгами типа технической неизбежности. В мире, где человек все в большей мере имеет дело лишь с результатами собственной деятельности, причем только в виде произведенных им продуктов, производители и конструкторы этих продуктов - зданий, самолетов, пищи, бомб и так далее - должны располагать глубочайшей уверенностью в том, что их продукция - результат выбора, сделанного человеком.
Люди могут захотеть получить вместо того, что у них есть, действительно безопасные автомобили, хорошие телевизоры, прекрасные дома для всех или комфортабельную, безопасную и широко разветвленную систему общественного транспорта. Отсутствие всего этого в стране, располагающей достаточными возможностями, не является следствием технической неизбежности или того обстоятельства, что больше некому делать выбор - люди решили производить и захотели иметь именно то, что мы производим и имеем на самом деле.
Когда видишь особенно противную телевизионную рекламу, трудно себе представить, что взрослые люди когда-то и где-то усаживались вокруг стола и решали сделать именно эту рекламу и передавать ее сотни раз. Но именно так все и происходит. Все это результат деятельности не безымянных сил, а групп людей, пришедших к соглашению, что подобное загрязнение сознания людей отвечает их интересам.
Но, как это часто бывало с самого начала писаной истории, решения, имевшие самые зловещие последствия, часто принимались во имя ложно понятого блага. Например, летом 1966 г. в США ощущалось острое беспокойство по поводу интенсивных бомбардировок американцами Северного Вьетнама. (Разрушения американскими бомбардировщиками Южного Вьетнама были в меньшей степени предметом публичных дебатов, поскольку публика еще считала, что Америка "помогает" этой несчастной стране.) Около 40 американских ученых высокого научного ранга решили содействовать прекращению бомбардировок, организовав Летнюю исследовательскую группу при помощи Института оборонных исследований, пользующейся высоким престижем консультативной фирмы, которая работала для министерства обороны.
Они хотели продемонстрировать, что бомбардировки были фактически неэффективны7. Они показали это, применяя самые лучшие научные инструменты - исследование операций, системный анализ и пр. Но они чувствовали, что министр обороны не станет их слушать до тех пор, пока они не предложат какую-либо альтернативу бомбардировкам. Они предложили установить "электронный забор" в так называемой демилитаризованной зоне, разделявшей Северный и Южный Вьетнам. Предполагалось, что это препятствие должно прекратить проникновение с севера. Среди прочего в его состав входили маленькие мины, закапываемые в землю и сконструированные так, чтобы они взрывались под ногой носильщика, но не реагировали на грузовик, проезжающий по ним. Другие устройства были предназначены для прекращения движения грузовиков. Разнообразные электронные датчики, системы управления и тому подобное в конце концов стали частью так называемой линии Макнамары. Так было положено начало тому, что развилось впоследствии в концепцию электронной войны.
В намерения большинства этих людей не входило изобретение или рекомендации новой технологии, которая сделала бы войну еще более ужасной и, кстати, менее дорогой для высоко промышленно развитых стран за счет "слабо развитых". Они хотели прекратить бомбардировки. В этом отношении они были всецело на стороне групп, призывавших к миру, и вообще всех граждан, преисполненных самых благих намерений. И они действительно добились поставленной цели: бомбардировки Северного Вьетнама на время прекратились и "забор Макнамары" установлен. Но ведь эти чрезвычайно заметные и влиятельные люди могли бы вместо этого просто заявить, что они считают бомбардировки, а в сущности, всю вьетнамскую авантюру Америки ошибочными и они больше не будут "оказывать содействие".
Мне известно, что по крайней мере некоторые члены этой группы считали войну ошибочной; может быть, они все так считали. Но, как позже объяснили мне некоторые из них, они чувствовали, что, если бы выступили с подобным заявлением, их бы не стали слушать ни тогда, ни когда-либо еще.
И все же какой бы был эффект, если бы 40 ведущих американских ученых летом 1966 г. присоединились к группам, требовавшим мира, категорически отвергнув войну по моральным соображениям! Помимо того положительного влияния, которое такой шаг мог бы оказать на развитие событий в мире, какое негативное влияние оказал компромисс на них самих, на их коллег и студентов, для которых они служили примером!
Из этого эпизода можно извлечь несколько уроков. Первый заключается в том, что не техническая неизбежность и не какие-то безымянные силы изобрели электронную войну. Люди такие же, как те, которые делают телевизионную рекламу, собрались вокруг стола и выбрали этот путь. И все же исход обсуждений Летней исследовательской группой в 1966 г. был в определенном смысле предрешен. Диапазон получаемых вами ответов определяется диапазоном задаваемых вами вопросов. Как только было решено, что Летняя исследовательская группа будет заниматься только техническими вопросами, решение проблемы прекращения бомбардировок Северного Вьетнама свелось, в сущности, к вычислительной задаче. Когда было введено дополнительное условие о том, что группа должна любой ценой сохранить доверие заказчиков и не должна затрагивать статус участников "как членов своих организаций", все степени свободы, которыми члены группы могли бы обладать сначала, были практически утрачены.
Многие члены группы, как мне известно, выступали в защиту академической свободы как своей собственной, так и своих коллег, карьера которых находилась под угрозой по политическим причинам. Эти люди не считали, что рискуют своей академической или научной свободой, принимая участие в консультациях типа Летней исследовательской группы. Но отказ от тех степеней свободы, которыми они располагали бы, не будь всецело преданы своим заказчикам, независимо от того, принесли они эту жертву сознательно или нет, представлял собой значительно более жесткую форму цензуры, чем наложенная официальными представителями государства. Эта разновидность интеллектуального членовредительства, именно из-за того, что оно совершается в значительной мере неосознанно, является основным источником чувства бессилия, испытываемого таким множеством людей, занимающих, по крайней мере внешне, руководящие позиции.
Второй урок таков. Эти люди были способны дать тот совет, который дали, поскольку действовали на колоссальной психологической дистанции от тех, кто будет искалечен или убит с помощью систем оружия, в которые претворятся идеи, предложенные ими своим заказчикам. Следовательно, урок заключается в том, что ученые и инженеры должны, опираясь на свою волю и воображение, активно стремиться уменьшать психологические дистанции подобного рода и противостоять силам, пытающимся отделить их от последствий их деятельности. Они должны (этой простой вещи вполне достаточно) думать о том, что в действительности делают. Они должны научиться прислушиваться к своему внутреннему голосу и научиться говорить "нет!".
И, наконец, имеет значение само действие. Когда оно определяется исключительно инструментальным мышлением, поступки, совершаемые на его основе, лишаются их истинного значения и существуют в этическом вакууме. Я слышал недавно, как официальный представитель крупного университета публично защищал принятое им важное политическое решение, против которого по моральным соображениям выступали многие студенты, профессора и преподаватели университета. Он сказал: "Мы могли бы занять моральную позицию, но что хорошего это принесло бы?" Но благо морального поступка заключено в самом поступке. Именно поэтому поступок сам по себе может облагородить или развратить человека, совершающего его. Одержав в наше время победу, инструментальное мышление послужило причиной фактического исчезновения понимания этого обстоятельства и, таким образом, предопределило объявление вне закона самой идеи благородства.
Я, естественно, сознаю, что вряд ли кто-нибудь, читая эти строки, сочтет их адресованными себе, - так глубоко убеждение в нашей общей подчиненности действию безымянных сил, находящихся вне нашего контроля, проникло в современное общественное сознание. Сопровождается же это убеждение инфляцией идеи гражданского мужества.
Широко распространено, но глубоко ошибочно убеждение в том, что гражданское мужество подвергается испытаниям лишь во время событий, потрясающих весь мир.
Как раз наоборот, наиболее трудные испытания ожидают его в тех локальных ситуациях, когда необходимо преодолеть страхи, связанные с мелочными заботами о карьере, об отношениях с теми, кто кажется обладающим властью над ними, обо всем том, что может нарушить ваше спокойное мирское существование. Если эту книгу необходимо рассматривать, как защиту чего-то, пусть она будет призывом к этой простой форме гражданского мужества. И поскольку эта книга в основном посвящена вычислительным машинам, пусть этот призыв в первую очередь будет услышан преподавателями информатики.
Пусть они услышат, как я настаиваю на том, что вычислительная машина - новая мощная метафора, которая может помочь понять многие аспекты нашего мира, но она порабощает сознание, не располагающее иными метафорами и имеющее мало других возможностей, к которым оно могло бы апеллировать. Мир очень разнообразен, и нет такой единой, достаточно емкой схемы, чтобы охватить все: ее нет ни для науки, созданной человеком, ни для поэзии, ни для вычислительного мышления, ни для чистой интуиции. Как недостаточно любви к музыке для игры на скрипке - необходимо, кроме этого, освоить искусство владения инструментом и саму музыку, так недостаточно и одной любви к человечеству, чтобы помочь ему выжить. Таким образом, долг учителя учить своему делу почетен. Но он обязан делать больше: его обучение не должно ограничиваться пределами единственной метафоры, и ему следует учить больше примером собственного поведения, чем тем, что он пишет на доске. Он должен учить сознанию ограниченности своих инструментов так же, как и их могуществу.
Программированию обучиться довольно легко. Почти любой человек, обладающий достаточно упорядоченным умом, может стать довольно неплохим программистом после совсем незначительного обучения и практики. И поскольку программирование вознаграждается почти немедленно, так как вычислительная машина очень быстро и почти точно начинает выполнять указания программиста, оно очень соблазнительно, особенно для начинающих.
Более того, особенно сильно программирование привлекает людей недостаточно зрелых в том смысле, что они могут спокойно относиться к длительным промежуткам времени между затратой усилий и получением конкретного результата. Поэтому юные студенты легко впадают в заблуждение, считая, что они действительно овладели мастерством, обеспечивающим им необычайное могущество и имеющим колоссальное значение, хотя, на самом деле, они изучили лишь его зачатки и ничего существенного, вообще говоря. Быстрое восхождение студента от состояния абсолютной неосведомленности о вычислительных машинах к тому, что представляется ему вершинами программирования, а в действительности является лишь очень невысокой возвышенностью, может породить у него победную эйфорию и вызвать убеждение в том, что он обрел свое подлинное призвание. Преподаватель, конечно, тоже склонен, испытывать удовлетворение от явного энтузиазма студента и поощрять его, возможно, неосознанно и вопреки своим совершенно правильным убеждениям. Для студента такое положение, возможно, окажется западней. Он может так всецело предаться тому, что он по наивности считает информатикой, а на самом деле обыкновенной шлифовке своих программистских навыков, что это может полностью воспрепятствовать обучению его чему-нибудь существенному.
К сожалению, многие университеты предлагают студентам младших курсов программы по "информатике", что позволяет учащимся выбирать подобный путь и даже поощрять их в этом. Когда такие студенты завершают курс обучения, они оказываются в положении людей, научившихся прекрасно говорить на иностранном языке, но которые, попытавшись написать что-нибудь на этом языке, обнаруживают, что им самим сказать буквально нечего.
Отсюда вытекает вывод: хотя обучение ремеслу важно, оно не может заменить всего остального.
Задача университета не может сводиться к простому предложению студентам каталога "зданий", из которого они могут выбирать. Если бы функция университета была такова, то следовало бы предполагать, что приходящие в него студенты уже стали тем, кем должны стать.
Тогда студента можно было бы рассматривать как своего рода корзину универсама, которую предстоит наполнить товарами, перечисленными в университетском интеллектуальном каталоге, или как объект, очень похожий на вычислительную машину, память которой беспрестанно жаждет новых "данных". Однако задача университета иная. Несомненно, он должен относиться ко всем своим "гражданам" - студентам и профессорско-преподавательскому составу в равной степени, в первую очередь как к людям, ищущим (как иначе назвать это?) истину и, следовательно, ищущим себя. С каждым членом университетского сообщества постоянно должно что-то происходить: каждый должен покидать аудитории университета иным, чем тот, кто вошел туда утром этого дня. Чистое обучение ремеслу не может исчерпать высокие функции университета.
Именно потому, что весьма значительная часть курса информатики посвящена навыкам вычислений, преподавателю, вероятно, легко усвоить привычку заниматься чистым натаскиванием. Нo, если бы он делал именно это, он тем самым умалил бы и собственное значение и значение своей профессии. Он также отделил бы себя от остальной интеллектуальной и моральной жизни университета. Университет должен являть каждому из своих "граждан" и всему миру в целом образ того, чем могли бы стать любой мужчина или любая женщина. Он выполняет эту задачу, обеспечивая вечное обновление идей мужчин и женщин, которые своими достижениями внесли вклад в строительство дома, где мы все живем. И он делает это, в радости и в горе, при помощи примера, подаваемого каждым членом университетского сообщества каждому члену университетского сообщества.
Преподаватель информатики не в большей и не в меньшей степени, чем любой профессор или преподаватель, по существу, непрерывно призывает своих студентов стать теми, кем является он сам. Если он считает себя просто репетитором, обыкновенным проводником "методов" достижения целей, определенных другими, то он оказывает своим студентам две плохие услуги.
Во-первых, он призывает их быть личностями, не имеющими полной независимости. Он призывает их стать просто исполнителями приказов, отдаваемых другими, и, в конце концов, оказаться ничуть не лучше машин, которые могут когда-нибудь заменить их в этом качестве. Во-вторых, он лишает их даже малейшего представления об идеях, которые только и оправдывают место, занимаемое информатикой в университетской программе. Поступая так, преподаватель информатики не дает студентам возможности познакомиться с примерами, которые ученый-информатик мог бы представить им в качество творческой личности, а следовательно, лишает их лучшей возможности стать воистину хорошими учеными-информатиками самим8.
И, наконец, преподаватель информатики сам подвержен чрезвычайно сильному искушению надменно считать свое значение в каком-то смысле "более основательным", чем знание своих коллег-гуманитариев. Но эта прочность знания, доступного ему, не дает вовсе никаких преимуществ. Это знание просто менее неоднозначно и в результате подобно машинным языкам обладает меньшими возможностями воспроизводить действительность. Человеческой природе, в частности,
"Особенно близок неоднозначный, неподатливый, иногда недоступный [моральный] мир, не сводимый ни к какому соответствию с символами, с помощью которых можно было бы попытаться измерить его. Это мир, стоящий в стороне от всех попыток историков свести [его] к законам истории, мир, не поддающийся любым усилиям людей искусства понять его фундаментальные законы прекрасного. Практическая деятельность [человека] должна иметь дело с чем-то менее жестким, чем являет собой научное знание. ...это не отступление, а продвижение вперед"9.
Преподаватель информатики должен иметь мужество противостоять искушению высокомерия и в процессе обучения отстаивать снова, главным образом, с помощью своего собственного примера, достоверность и законность этой не столь жесткой разновидности знания. Почему же нужно говорить в этой связи о мужестве? По двум причинам.
Первая и наименее важная заключается в том, что, чем больше он будет преуспевать в подобной манере преподавания, тем больше риска подвергнуться цензуре коллег, которые, обладая меньшим, чем он, мужеством, приняли упрощенные представления о мире, являющиеся неотъемлемым элементом предоставления науке имперских прав. Вторая причина состоит в том, что если он будет учить этому с помощью личного примера, то ему следует иметь мужество, по словам Джерома Брунера, признавать результаты собственного субъективизма.
Выше я сравнил бессознательное с бурным морем, а границу, отделяющую сознательное и логическое мышление от бессознательного, с береговой линией в шторм. Эта аналогия полезна и здесь, так как мужество, необходимое для исследования опасного побережья, подобно мужеству, которым необходимо обладать для изучения собственного подсознания, чтобы впустить в свое сердце и в свой мозг вынесенное океаном подсознания на берег и чтобы без страха продолжать исследование. Ведь подсознание может принести не только проявление творческих сил, не только жемчужины, требующие лишь шлифовки перед включением в структуры, о которых можно затем говорить с гордостью, но и самые мрачные истины о вашей внутренней сущности. Все это тоже должно быть изучено, понято и каким-то образом включено в вашу жизнь.
Если преподаватель или кто бы то ни было должен служить людям примером целостной личности, то прежде всего ему следует стремиться быть целостной личностью. Не имея мужества противостоять внутреннему миру, как и внешнему, достичь подобной целостности невозможно. Одно инструментальное мышление не в состоянии дать этого. И именно в этом заключается решающее различие между человеком и машиной: человек, чтобы обрести целостность, должен непрестанно исследовать свои внутренние и внешние реальности. Его жизнь исполнена риска, но риска, на который он имеет мужество идти, потому что, будучи исследователем, он учится верить в свои возможности терпеть и преодолевать. Какие значения можно вкладывать в понятия риска, мужества, веры, стойкости и преодоления, говоря о машинах?
