Примечательной чертой современных дискуссий относительно теоретических оснований Искусственного Интеллекта (ИИ) является то, что в них всегда ссылаются на герменевтику, когда речь заходит о понимании и интерпретации компьютерами текстов. Это неудивительно, поскольку, по всеобщему мнению, герменевтическая традиция представляет собой основу для предписывания и критики руководства исследованием и развитием знания в естественных, социальных и когнитивных науках. Представители герменевтики неслучайно фигурировали заметным образом в дебатах относительно того, как может быть обретено ценное знание и есть ли необходимость в отдельной методологии социальных наук.
Поскольку ИИ представляет собой новую науку, занимающую промежуточное положение между естественными и социальными науками, ее сторонники почерпнули много полезного из этих дебатов. Выбор подходящей методологии для исследований во многих областях ИИ, таких как разбор естественного языка, принятие решений, системы мнений и действий, все еще не осуществлен. С одной стороны, существенный вклад в ИИ логики, математики, инженерии и естественных наук, типа физики, ставит построение функциональных моделей вне методологической конкуренции. С другой стороны, исследуемый предмет явно связан с задачами лингвистики и социальных наук, а отсюда методология этих областей может оказаться более подходящей для подобных исследований.
Используя некоторые герменевтические открытия, такие специалисты в области ИИ, как Х. Дрейфус [1], Т. Виноград [2] и Ф. Флорес [3] ставят под сомнение парадигму функционалистской когнитивистики [4], которой придерживаются большинство современных исследований ИИ, в частности в обработке естественных языков и рассуждениях, основывающихся на здравом смысле.
Для отрицания возможности формализации ментальных процессов и поэтому невозможности создания искусственного интеллекта, Дрейфус обращается к герменевтической философии Мартина Хайдеггера. Виноград и Флорес приходят к аналогичному заключению, опираясь на герменевтически обоснованный технический аргумент. При этом оказывается, что, будучи новым источником сомнений, герменевтика, тем не менее, может прояснить проблемы относительно природы значения и понимания, и поэтому помочь в реконструкции функционалистской парадигмы.
Этот герменевтический фон накладывает свой отпечаток на исследователей ИИ и их критиков, черпающих вдохновение из различных герменевтических традиций. Например, в своих исследованиях аффективной структуры текстов и их согласованности с систематическими правилами идентификации жанров повествования Алкер, Ленерт и Шнайдер [5] в сущности придерживаются классической герменевтической программы, смягченной феноменологической герменевтикой.
Другие исследователи [6] вдохновляются философской герменевтикой, предлагая стратегии для разработки компьютерных систем, понимающих естественный язык. Третий подход [7], ориентированный на философскую герменевтику, утверждает, что компьютерное понимание естественного языка является чрезвычайно трудным и вероятно недостижимым. Четвертая группа [8] разработала подход, руководствуясь частично идеями, заимствованными из феноменологической герменевтики, но учитывая также другие варианты.
Понятие герменевтического круга, по мнению разработчиков систем ИИ подобно понятию вычислительного бутстрапа - процесса, который использует компонент более низкого порядка (компонент бутстрапа) для построения компонента более высокого порядка, используемого в свою очередь для реконструкции и замещения компонента более низкого порядка. Бутстрапирование было введено в проектировании некоторых баз знаний [9] и ИИ-ориентированных теорий когнитивного развития [10], и его следует отличать от создания иерархических уровней в системах, которое не разрешает т. н. «странные циклы» замещения компонент бутстрапа. Сходство между герменевтическим кругом и бутстрапированием предполагает возможность важного вклада герменевтики в архитектуру ИИ для понимания естественного языка и рассуждений, основанных на здравом смысле.
Оказалось, что герменевтический подход позволяет учесть и эмоциональную составляющую структуры текста, без понимания которой ИИ навряд ли можно считать интеллектом вообще. Ленерт, Элкер и Шнайдер [11] представили модель «снизу-вверх» для извлечения эмоциональной структуры текста. Их «вычислительная герменевтика» основывается на более ранних моделях Ленерта по «единицам сюжета» [12].
Единицы сюжета обеспечивают хотя и теоретически необоснованный, но, тем не менее, интересный словарь для проектирования эмоциональных отношений и их комбинаций. В этом исследовании они используются для описания многих эмоциональных следствий поведения для участников событий и действий. Работая в рамках теории «концептуальной зависимости» [13], Ленерт отождествляет различные комбинации единиц сюжета для использования в суммирующих повествовательных текстах. Эти «молекулы историй» соотносят изменения в эмоциях участников при успехах и неудачах в решении проблем, в которые они вовлечены.
В своей работе Ленерт, Элкер и Шнайдер «вручную» свели пассажи из пересказа Тойнби событий, ведущих к распятию Иисуса на кресте, к большему количеству подобных молекул. Молекулы были соотнесены с действующими лицами и с учетом того, что некоторые молекулы являются условными предпосылками других. После введения этих «ручных» редукций, центральный подграф структуры сюжета был вычислительно извлечен, используя программу для нахождения наиболее стратегически важных и в высшей степени связанных молекул. Этот центральный подграф был помечен как «настоящая» история Иисуса.
После изучения этого эмоционального ядра Элкер, Ленерт и Шнайдер пришли к заключению, что история Иисуса представляет собой историю в хорошо известном жанре - героический роман самопреодоления. Их метод подобен методу классической герменевтики в раскрытии существенной структуры текста, основанному на систематических связях между частями и целым и в подчеркивании использования эксплицитных правил объективного истолкования.
Тем не менее, их решимость учитывать многочисленные истолкования и их структурную ориентацию также роднит их с феноменологической герменевтикой. Элкер, Ленерт и Шнайдер предполагают, что история Иисуса была эмоционально сильнодействующей, поскольку она обеспечивает пошаговый учет эмоционального изменения самопреодоления и тем самым может открыть своим читателям опыт этого процесса. В своей нынешней форме, однако, эта работа не применяет процесса бутстрапирования, несмотря на то, что тема самопреодоления предполагает механизм, способный к сознательно направленному непосредственному бутстрапирования.
Достижения философской герменевтики были использованы Виноградом [14] для описания нового подхода к пониманию естественного языка. Он стремится преодолеть ловушки ранних подходов, ставшие мишенью феноменологической критики, выдвинутой Дрейфусом [15]. Фокусируясь на теории значения, Виноград утверждает, что предыдущие разработки в этом направлении, включая его собственную систему SHRDLU [16], попали в ловушку «объективизма», заключающегося в том, что содержание теории или модели должно непосредственно соотносится с реальностью (корреспондентская теория истины).
Он добавляет, что дедуктивная природа формализмов, используемых разработчиками ИИ, вынуждает их принять объективистскую позицию, но что эти формализмы не в состоянии учесть неформальное, феноменологическое знание или опыт того, что понимание развертывается тогда, когда истолковываются высказывания. Герменевтики отождествляют эту проблему с историчностью понимания или ролью фона знания в опосредствовании понимания.
Вспомним также, что этот дедуктивные формализмы был предметом онтологической критики Гуссерля Хайдеггером. Их ошибочная или неудачная привязка к фундаментальной онтологии языка, типизируемой разговорной ситуацией, ведет к неспособности учета роли контекста при отождествлении говорящего и слушающего в подразумеваемых значениях высказываний [17].
Виноград подкрепляет хайдеггеровскую критику аргументами и примерами, взятыми из философии обыденного языка. Подобным же образом вспоминая Гадамера, он утверждает, что наделение высказывания смыслом требует знания, каков ожидается ответ на (эксплицитные или имплицитные) вопросы, предложенные в разговорном контексте. По-видимому, дедуктивная логика может учесть только малую часть человеческих рассуждений, и поэтому новые успехи в понимании естественного языка требуют использования «исчисления натурального вывода» [18].
Виноград предлагает Язык Представления Знаний (ЯПЗ) [19] в качестве исходного пункта для альтернативного подхода ЯПЗ-рассуждений, основанных на ограниченных вычислительных ресурсах. По его мнению, подобный язык соответствует хайдеггеровскому тезису конечности Dasein, а также отражает понятия Саймона «ограниченной рациональности» в теории принятия решений [20].
Согласно Винограду, эффективные стратегии рассуждения при ограниченном или переменном вычислительном ресурсе соответствуют «естественному рассуждению», которое (хотя формально и неполно) может лучше учесть использование естественного разговорного языка компьютером, чем это может сделать фрагмент, соответствующий полной дедуктивной логики [21]. В качестве ядра ЯПЗ также включает в себя понятие бутстрапирования, подобное содержащемуся в различных герменевтических традициях, частично в работах Хайдеггера и Гадамера.
Ложная реификация, или неуместная конкретизация, по мнению Винограда, свела на нет все усилия по разработке формализма для представления естественного языка. Ложная реификация появляется тогда, когда компетенция приписывается пониманию не потому, что понимание действительно использует специфическую способность в своем осуществлении, но в силу того, что наблюдатель способен классифицировать исполнение как пример частичной способности к пониманию.
Вместо того, чтобы исходить из понятий и структур предметного уровня, Виноград пытается избежать ложной реификации путем конструирования формальных репрезентаций, основанных на онтологических рассмотрениях, заимствованных из методологической герменевтики. Поскольку никакой существенный проект ИИ не пытался использовать ЯПЗ, идеи, которые рассчитывали охватить его проектировщики, остаются более теоретическими, нежели практическими.
Обсуждая герменевтику, Виноград не только предлагает новую исследовательскую программу для ИИ, но утверждает, что фундаментальные допущения и философские ориентации, лежащие в основании исследований повседневного естественного языка, должны быть эксплицитно анализированы и подтверждены. Отвергая «объективизм», Виноград оправдывает «субъективистскую» герменевтическую позицию, основанную на матурановской концепции [22] нервной системы как «детерминированной структуры», пластичной и замкнутой. Согласно этой модели действия вне системы (стимулы) возмущают структуру системы и эти возмущения, в свою очередь, приводят к «образцам деятельности, которые отличаются от тех, которые могли бы быть следствием различных возмущений».
Аналогичное понятие понимания Винограда предполагает замкнутую систему, в которой предпонимание возникает посредством актов истолкования. Как в хайдеггеровском герменевтическом круге, возможные горизонты понимания ограничиваются исторически детерминированной структурой предпонимания или множества запомненных схем [23]. Понимание открыто к окружающей среде, но только лишь в данном диапазоне.
В отличие от Хайдеггера, признающего важность окружающей среды, но не анализирующего ее, Винограда подталкивают к анализу окружающей среды несколько влияний. Среди них этнометодология Гарфинкеля [24], который подчеркивал социальный контекст, сёрлевский фокус на речи как социальном действии и утверждение Лакатоса, что даже в математике значение терминов случайны в окружающем контексте. Виноград обосновывает его теорию значения в терминах социального действия и таким образом занимает позицию, близкую к критической герменевтике, между релятивизмом и объективизмом.
Стимулированный отчасти Виноградом, Бэйтмен [25] исследует следствия хайдеггеровской экзистенциальной феноменологии и согласен с Дрейфусом, что эта философия отрицает возможность моделирования мышления и деятельности, используя специфическую формализацию, предложенный функционалистской парадигмой когнитивных наук.
Бэйтмен говорит, что все формализмы такого рода основываются на «онтологическом допущении» истолкователя, который следует правилам в деятельности по ментальному представлению ситуации. Хайдеггеровское понятие «бытия-в-мире», которое включает и ситуационность и понимание как онтологические способы действий, устраняет субъектно-объектную дихотомию в этом допущении. Поскольку каждый всегда пребывает в ситуации, а ее структура и значение детерминирована ее уместностью по отношению к его планам и целям, никакое контекстно-свободное представление не является возможным.
Бэйтмен, однако, не отклоняет возможность функционалистской парадигмы для когнитивистики. Вместо этого он основывает ее на поздней хайдеггеровской идее языка, которая, согласно Бэйтмену, стремится сделать интеллигибельным опыт «бытия-в-мире» как он есть для «всякого», то есть для обобщенного субъекта или члена языкового сообщества. В качестве коллективного артефакта язык рассматривается как частичный шифр истории языкового сообщества как для допустимой, так и для недопустимой комбинации (ассоциации) слов и фраз.
Результирующая соозначающая структура представляет собой некую разновидность коллективного фонового знания и налагает априорные ограничения на действия индивидуумов, которые рассматривают действия в терминах языка. В «систематической грамматике» Холлидея [26] имеется понятие «социальной семиотики», которая признает, что групповая культура может сужать возможные значения высказываний посредством ограничений на возможные способы действий в ситуациях.
Бэйтмен рассматривает эту ориентацию как совместимую с герменевтической точкой зрения и верит, что «систематическая грамматика» после соответствующего пересмотра может обеспечить адекватные теоретические рамки для понимания естественного языка. Все же, несмотря на эту открытость к социальным ограничениям, Бэйтмен не рассматривает герменевтиков, пришедших после Хайдеггера, особенно Гадамера и Хабермаса.
Парадоксальным образом герменевтические идеи используются в ИИ и для того, чтобы подставить под сомнение всю программу ИИ. Так, например, Виноград и Флорес [27] в своей работе основываются на философской герменевтике и работе Матураны [28] по биологии знания, чтобы отрицать как возможность конструирования мыслящего компьютера, так и компьютерного понимания естественного языка. Они утверждают, что поскольку Хайдеггер и Гадамер дают убедительную картину того, что некоторые базисные свойства человеческого существования являются фундаментальными вообще, то сам по себе поиск мыслящей машины является просто донкихотством.
Эти свойства включают «брошенность», «слепоту» и «упадок». «Брошенность» означает, что люди брошены в ситуацию повседневной жизни и редко имеют время поразмышлять над альтернативным образом действий. Они не могут быть беспристрастными, отстраненными наблюдателями мира, в котором они живут, но они должны принимать решения и использовать эвристики, которыми они обладают как частью их действующей истории.
Хотя эти эвристики делают доступными некоторые возможности действий, те же самые эвристики также делают людей «слепыми» к некоторым иным возможностям действий, которые могли бы преобладать, если бы их действительные истории были другие. Когда они сталкиваются с ситуациями, в которых прожитые ими истории не в состоянии обеспечить адекватное руководство к действиям и также делают их невосприимчивыми к этим действиям, способным помочь им в достижении их целей, люди испытывают разновидность «расстройства», которое может принять форму острой депрессии, анемии и даже иррационального действия.
Хотя экспертные системы могут успешно оперировать в хорошо знакомых, ограниченных областях, экспертные системы в сложных областях могут быть «заброшены» в ситуации, где они не в состоянии оценивать и контролировать все возможные действия, и они, как следствие, «сдают». Системы, предназначенные для сложных областей, должны поэтому основываться на эвристических правилах, но эти последние могут вызвать «слепоту» программы к более подходящим действиям. Виноград и Флорес считают, что программист экспертных систем вводит свои собственные «ограничения» или свои собственные предубеждения в программу.
Ввиду этих трудностей Виноград и Флорес рекомендуют переформулировку целей искусственного интеллекта. Вместо приложения усилий к достижению предположительно невозможной цели создания машин, способных к пониманию, программы должны быть разработаны как инструменты, служащие улучшению качества жизни. Это может быть сделано путем правильного понимания роли подобных программ в паутине речевых актов, конституирующих социальное существование. Следует стремиться минимизировать «ограниченность», которую они порождают, и наряду с этим предвидеть заранее диапазон их потенциальных «крушений».
Все же Винограду и Флоресу не удается продемонстрировать, что компьютерное понимание выходит за рамки возможного. Они лишь демонстрируют, что цель гораздо более трудна, чем большинство людей, включая многих специалистов по ИИ, могут себе представить.
Подводя итоги, можно констатировать, что герменевтическая традиция используется разработчиками систем ИИ двояким образом. Во-первых, негативно. В этом случае герменевтика используется как основание для аргументации против принципиальной возможности создания ИИ вообще. Утверждается, что герменевтика как раз и открыла и продемонстрировала в человеческом существовании такие качества, которые не только важны для жизненной ситуации человека, но и не воспроизводимы механически.
Так как эти сомнения порождены вполне определенной интеллектуальной традицией и так как они достаточно при этом обогащают наши интуитивные прозрения, то их нельзя с легкостью отбросить как разновидность «иррационального технологического пессимизма». Вдобавок они способны консолидировать часть разработчиков ИИ в борьбе с подобного рода сомнениями и способствовать уточнению стратегии и тактики их разработок.
Позитивное же использование герменевтики связано с тем обстоятельством, что герменевтика может предложить разработчикам ИИ определенные методы, способы и критерии, которые подразумевают понимание естественных языков и представление знаний социального мира. И здесь как раз возникает необходимость в более широком использовании методов и методик когнитивной герменевтики.
Наряду с этим уяснение философской перспективы разработок ИИ способно в свою очередь привести к точке зрения на ИИ как на некий «экспериментальный» философский полигон, способный поддержать или отвергнуть некоторые философские позиции и идеи в области онтологии, эпистемологии и когнитологии.
Примечания:
[1]. Dreyfus H. What Computers Can't Do: A Critique of Artificial Reason, Freeman, San Francisco, 1972.
[2]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209-241 (1980).
[3]. Winograd T. and Flores F. Understanding Computers and Cognition: A New Foundation for Design, Ablex, Norwood, NJ, 1986.
[4]. Дж. Серл характеризует эту парадигму следующим образом: «неправдоподобный и наиболее знаменитый … взгляд - это взгляд, будто компьютер мог бы иметь, в самом деле должен иметь, мысли, чувства и рассудок только благодаря выполнению соответствующей компьютерной программы с соответствующими входами и выходами. В другом месте я окрестил этот взгляд как "сильный искусственный интеллект" но его также называют "компьютерным функционализмом"» (Серл Дж. Открывая сознание заново. М., 2002. С. 29).
[5]. H. R. Alker Jr., W.G. Lehnert, and D.K. Schneider. Two Reinterpretations of Toynbee's Jesus: Explorations in Computational Hermeneutics // Artificial Intelligence and Text Understanding / G.Tonfoni, ed., Quaderni di Ricerca Linguistica 6, 49-94 (1985).
[6]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209-241 (1980).; J.A.Bateman, Cognitive Science Meets Existential Phenomenology: Collapse or Synthesis? // Working Paper № 139, Department of Artificial Intelligence, University of Edinburgh, Edinburgh, April, 1983; Bateman J.A. The Role of Language in The Maintenance of Intersubjectivity: A Computational Investigation // Social Action And Artificial Intelligence / G.N.Gilbert and C.Heath Grower, Brookfield, VT, 1985. P. 40-81.
[7]. Winograd T. and Flores F. Understanding Computers and Cognition: A New Foundation for Design, Ablex, Norwood, NJ, 1986.
[8]. Mallery J.C. and Duffy G. A Computational Model of Semantic Perception // AI Memo № 799, Artificial Intelligence Laboratory, MIT, Cambridge, May 1986.
[9]. Lenat D. B. AM: Discovery in Mathematics as Heuristic Search // Davis R. and Lenat D.B. Knowledge-Based Systems in Artificial Intelligence, McGraw-Hill, New York, 1982, 1 - 227; Lenat D.B. Eurisko: A Program That Learns New Heuristics and Domain Concepts: The Nature of Heuristics III: Program Design and Results // Artificial Intelligence 21, 61 - 98 (1983); Haase K. ARLO: The Implementation of a Language for Describing Representation Languages // Bachelor's Thesis, Department of Philosophy and Linguistics, MIT, 1984.
[10]. Drescher G.L. Genetic AI: Translating Piaget Into LISP // AI Memo № 890, Artificial Intelligence Laboratory, MIT, February 1986.; Minsky M. The Society of Mind. Simon and Schuster. N. Y., 1986.
[11]. W. C. Lehnert, H.R.Alker Jr. and D.K.Schneider. The Heroic Jesus: The Affective Plot Structure of Toynbee's Christus Patiens // Proceedings of The Sixth International Conference on Computers and the Humanities / S. K. Burton and D. D. Short, eds, Computer Science Press, Rockville, MD, 1983, 358 - 367; H.R.Alker Jr., W.G.Lehnert, and D.K.Schneider. Two Reinterpretations of Toynbee's Jesus: Explorations in Computational Hermeneutics // Artificial Intelligence and Text Understanding /G.Tonfoni, ed, Quaderni di Ricerca Linguistica 6, 49 - 94 (1985).
[12]. Lehnert W.C. Plot Units and Narrative Summarization // Cognitive Science 4, 293-331 (1981); Lehnert W.C. Plot Units: A Narrative Summarization Strategy // W.C.Lehnert and M.H.Ringle. Strategies for Natural Language Processing, Lawrence Erlbaum Associates, Hillsdale, NJ, 1982. P. 375-414.
[13]. R.C.Schank and R.Abelson. Scripts, Plans, Goals, and Understanding. Lawrence Erlbaum Associates, Hillsdale, NJ, 1977.
[14]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209-241 (1980).
[15]. Dreyfus H. What Computers Can't Do: A Critique of Artificial Reason, Freeman, San Francisco, 1972.
[16]. Winograd T. Understanding Natural Language. Academic Press, New York, 1972.
[17]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209 - 241 (1980). С. 215 - 219.
[18]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209 - 241 (1980). С. 219.
[19]. Bobrow D.G. and Winograd T. An Overview of KRL, A Knowledge Representation Language // Cognitive Science 1, 3 - 46 (1977).
[20]. Simon H.A. Rational Decision Making in Business Organizations // American Economic Review 69, 493 - 513 (1979).
[21]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209 - 241 (1980). С. 219.
[22]. Maturana H.R. Biology of Knowledge // The Neurophysiology of Language / R.W.Reiber, ed. Plenum Press, New York, 1977.
[23]. Winograd T. What Does It Mean to Understand Natural Language // Cognitive Science 4, 209-241 (1980). С. 223-224.
[24]. H.Garfinkel. What is Ethnomethodology? // F.R. Dallmayr and T.A. McCarthy, Understanding and Social Inquiry, University of Notre Dame Press, Notre Dame, 1977. С. 240 - 261.
[25]. Bateman J.A. Cognitive Science Meets Existential Phenomenology: Collapse or Synthesis? // Working Paper № 139, Department of Artificial Intelligence, University of Edinburgh, Edinburgh, April, 1983; J.A.Bateman. The Role of Language in The Maintenance of Intersubjectivity: A Computational Investigation // G.N.Gilbert and C.Heath, Social Action And Artificial Intelligence, Grower, Brookfield, VT, 1985, 40 - 81.
[26]. Halliday M.A.K. Language as Social Semiotic, Edward Arnold, London, 1978.
[27]. Т. Winograd and F. Flores. Understanding Computers and Cognition: A New Foundation for Design, Ablex, Norwood, NJ, 1986.
[28]. H. R. Maturana. Biology of Cognition // H.R.Maturana and F.Varela, Autopoeisis and Cognition: The Realization of the Living. Reidel, Dordrecht, 1980, 2 - 62.
