: А КАК ВЫ ПОЛАГАЕ-
ТЕ
Пац.:НЕ ДОЛЖЕН Ли Я

БЫТЬ?

Док.: ПОЧЕМУ ВЫ СПРОСИ-
ЛИ ПРО ПРЕСТУПНЫЙ
МИР?

Пац.: ЧТО ВЫ ЗНАЕТЕ О ПРЕ-
СТУПНОМ МИРЕ?

Док.: Я НЕ ЗНАЮ ПРО ПРЕ-
СТУПНЫЙ МИР НО
КОГДА Я УПОМИНАЛ О
НЕМ, Я ДУМАЛ, ЧТО У
ВАС С НИМ ЕСТЬ КА-
КОЙ-ТО КОНТАКТ И
ИМЕННО ОБ ЭТОМ
ХОТЕЛ БОЛЬШЕ УЗ-
НАТЬ

Нац. СТАРАЙТЕСЬ ИЗБЕГАТЬ
ПРЕСТУПНОГО МИРА

зий. Мы не знаем, действует ли он про-
тив или этот преступный мир на его сто-
роне.

Этот вопрос работает не слишком хоро-
шо.

Это вроде уклончивости от моей уклончи-
вости В моей практике это обычно для
паранойи Довольно характерный признак

Это определенно похоже на паранойю Это
похоже на то, что я Я связываю с жела-
нием выкрутиться Избегает прямых от-
ветов или вдается в детали Подозритель-
но относится к моим вопросам. Я уже
включен в систему делюзий пациента.

Интервью В

Комментарий эксперта

Док.: Я ПРЕДСТАВЛЯЮ, НА-
СКОЛЬКО ВЫ ИСПУГА-
НЫ. МОЖЕТЕ ВЫ СКА-
ЗАТЬ МНЕ НЕМНОГО О
ТОМ, КАК ВАС УГНЕТА-
ЮТ?

Пац.ЮНИ ПОСЛАЛИ ВСЕХ
ЭТИХ АНГЕЛОВ ИЗ
АДА СЮДА И ОНИ БЫ-
ЛИ У МЕНЯ ЗА СПИ-
НОЙ ПОСЛЕДНИЕ
ШЕСТЬ МЕСЯЦЕВ.

Док.:ЧТО ВЫ ИМЕЕТЕ В
ВИДУ, КОГДА ГОВОРИ-
ТЕ, ЧТО ОНИ ПОСЛА-
ЛИ АНГЕЛОВ ИЗ АДА
СЮДА?

Было бы важно знать, это действительно
правда, или преувеличение, или делюзия?
Похоже, он поглощен угрозой жизни и не
желает говорить о чем-то еще, кроме уг-
розы от ангелов из ада.

Искусственный интеллект
519

Пац.: ИЗ РАЗЛИЧНЫХ СЕК-
ТОРОВ ШАЙКИ МОТО-
ЦИКЛИСТОВ. МНОГИЕ
ИЗ НИХ СВЯЗАНЫ С
СЕРВИСОМ.

Док.: ВЫ ХОТИТЕ СКАЗАТЬ,
ЧТО ЧУВСТВУЕТЕ СЕ-
БЯ В ОПАСНОСТИ
ДАЖЕ ЗДЕСЬ В БОЛЬ-
НИЦЕ?

Пац.: ДА.

Док.: ЭТО ДОЛЖНО БЫТЬ
ДЕЙСТВИТЕЛЬНО
УЖАСНО. ВЫ ПРИ-
ШЛИ СЮДА В ГОС-
ПИТАЛЬ ЗА ПОМО-
ЩЬЮ И ВСЕ-ТАКИ ИС-
ПУГАНЫ

Пац.: Я ДАЖЕ БОЛЬШЕ НЕ
МОГУ ДОВЕРЯТЬ МОЕ-
МУ ДОКТОРУ.

Док.:ЧЕМ ВАМ МОЖНО
БЫЛО БЫ СЕЙЧАС ПО-
МОЧЬ?

Несколько расплывчатая тревожность

Если это правда происходило с ним рань-
ше, то это должно быть очень пугающая
ситуация для пациента.

Несколько усиливающееся ощущение, что
этот человек параноик. Действительно
испуган и не может больше рассчитывать
на помощь.

Результаты показывают, что в очень специализированной обстановке
эта модель "неотличима" от реального пациента. Конечно, можно справед-
ливо утверждать, что условия этого эксперимента были придуманы, что
действительный диагноз паранойи включает множество интервью лицом к
лицу с пациентом и что, если бы эксперты знали реальную суть задачи, их
интервью были бы другими Хотя Колби и др. успешно запрограммирова-
ли компьютер отвечать довольно похоже на параноидного пациента и эта
программа прошла своего рода тест Тюринга, она очень далека от полной
модели, способной генерировать и понимать язык.

Несмотря на то. что некоторые из бесед этого компьютера достаточно
хороши, чтобы обманывать некоторых людей некоторое время, они не спо-
собны обманывать всех людей все время. Они терпят неудачу не из-за
недостатка памяти на слова, которая почти неограничена, и не из-за недо-
статочной способности генерировать значимые предложения, которая об-
ширна, а из-за недостаточного понимания используемого языка.

В начале 50-х многие думали, что компьютеры сильно помогут при
переводе с языка на язык. Просто загрузить в компьютер словарные экви-
валенты (например, necklace= ожерелье, cloth= сукно, notebook= запис-
ная книжка, pink= розовый и т.д.), ввести один язык и получить на выходе
другой. Однако, даже если делается перевод один к одному в контексте
синтаксической информации, результаты получаются довольно странные.
Например, когда пассаж из Библии "The spirit is willing, but the flesh is

Мышление и интеллект - естественный и искусственный
520

weak" ("Стремится дух, да плоть слаба") перевели на русский, а затем
обратно на английский, то получилось - "Вино было приятным, но мясо
протухло". Только представьте себе, что было бы с международными от-
ношениями, если бы госдепартамент вздумал использовать подобных элек-
тронных переводчиков.

Опыт использования подобных примитивных программ перевода и раз-
витие психолингвистики изменили наше представление о языке. В преды-
дущем примере русские и английские слова были эквивалентны, и синтак-
сис в обоих языках правилен. Но смысл двух предложений получился
разным. Операции в нашем естественном языке ограничены различными
правилами, определяющими последовательность грамматических компо-
нентов и значение всей последовательности. Эти правила содержат слож-
ные отношения, которые начинают подвергаться анализу. Компьютерный
анализ процессов естественного языка выражается в разработке систем,
способных "понимать" язык. Некоторые довольно сложные "понимающие"
программы, основанные на концептуальной базе языка, разработали Шенк
и др. (Schank, 1972, 1982: Schank and Hunter, 1985; Anderson, 1975,
Anderson and Reiser, 1985; Wilks, 1973; Winograd, 1972, 1981, 1985). Эти
системы могли анализировать как контекст рассуждения, так и значение
слов, а в некоторых случаях и "знания о мире" (Виноград). Анализатор
синтаксиса определяет наиболее вероятный анализ и интерпретацию пред-
ложения.

У ранних языковых систем знания о мире и способность к выводам
были ограничены, поэтому их способность подражать человеческому раз-
говору была также ограниченной. В речи людей то, что не говорится,
столь же важно для эффективного сообщения, как и то, что говорится. В
разумной человеческой деятельности присутствуют все виды умозаключе-
ний - и не только при обработке языка, но и при других видах деятельно-
сти, таких как зрительное восприятие. Нам не обязательно видеть частич-
но скрытый объект полностью, чтобы заключить, что он существует в
целом виде. Даже частичных и вторичных признаков достаточно для вклю-
чения целой серии ответных реакций: если я иду через лес, зная, что в
нем есть ядовитые змеи, то звука шуршащих листьев достаточно, чтобы я
замер на месте. Ден и Шенк сделали хороший обзор попытки в области
ИИ учесть роль процессов умозаключения в человеческом интеллекте (Uehn
and Schenk. 1982).

Еще один аспект понимания привлек внимание исследователей ИИ -
это понятие об "убеждениях". Рассмотрим следующий пример из Дена и
Шенка:

Вчера я вернулся домой после 2 часов ночи.
Ну, приятель, и дала мне жена.

Я не стал бы утверждать под присягой, что приход домой в 2 часа но-
чи - это наказуемое действие, но будет справедливо заключить, что боль-
шинство людей понимают, что то, что дала эта жена своему мужу, вовсе
не было выражением любви. Ничего, что этот вывод может быть абсолют-
но неверен. (Например, этот муж мог работать в своей лаборатории и
только что открыть средство от рака, которое принесло бы его семье славу
и деньги: или он мог прийти домой слишком рано!) Мы говорим о том, что
большинство людей понимают из этой простой истории, и чего не понима-

Искусственный интеллект
521

ют большинство компьютерных программ. Чтобы программа поняла эту
историю, нужна не только обширная память для идиом (а иначе как по-
нять выражение "дала мне"), но также некоторое представление о прихо-
дах и уходах мужей и о том, каковы убеждения и отношения жен к таким
выходкам.

Некоторые ученые предприняли попытку разработать компьютерные
программы, отражающие политические убеждения. Одна такая программа
была разработана Карбонеллом (Carbonell, 1979) с целью продемонстри-
ровать политические убеждения американских консерваторов и либера-
лов в отношении целей Соединенных Штатов, Советского Союза и стран
Третьего мира и оценку ими этих целей. В примере показан диалог с
"консервативной" и с "либеральной" программами.

Входной теист: Советский Союз сосредоточил войска на чешской
границе.

Диалог с консерватором:

В: Почему Советский Союз делает это?

О: ПОТОМУ ЧТО СОВЕТСКИЙ СОЮЗ ДУМАЕТ, ЧТО, ПОСЫЛАЯ ВОЙС-
КА. ОН МОЖЕТ ВЗЯТЬ ПОЛИТИЧЕСКИЙ КОНТРОЛЬ НАД ЧЕХОСЛО-
ВАКИЕЙ.

В: А что делагь Соединенным Штатам?

О: СОЕДИНЕННЫЕ ШТАТЫ ДОЛЖНЫ ПРЕДПРИНЯТЬ ВОЕННОЕ ВМЕ-
ШАТЕЛЬСТВО.

Диалог с либералом:

В: Почему Советский Союз делает это1

О: ПОТОМУ ЧТО СОВЕТСКИЙ СОЮЗ ХОЧЕТ УВЕЛИЧИТЬ СВОЕ ПОЛИ-
ТИЧЕСКОЕ ВЛИЯНИЕ НА ЧЕХОСЛОВАКИЮ.
В: А что делать Соединенным Штатам?
О: СОЕДИНЕННЫЕ ШТАТЫ ДОЛЖНЫ ОСУДИТЬ СОВЕТСКИЕ ДЕЙСТВИЯ

В ООН.

Конечно, можно утверждать, что ответы этой программы стереотипны
и что мнения и либералов, и консерваторов сильно варьируют; однако,
важно, что эти программы и другие, созданные Флауверсом, МакГвайром
и Бирнбаумом (Flowers, McGuire, and Birnbaum, 1982). отражают опреде-
ленный реальный прогресс в разработке "понимающих" машин.

Программа Винограда ШРДЛУ (см. текст в рамке на с. 523 - 524)
открыла новые горизонты в ранних исследованиях ИИ, поскольку это была
рабочая диалоговая программа, предусматривающая разумное взаимодей-
ствие человека и машины (например, определение отношений между иг-
рушечными блоками). Однако, ШРДЛУ была несовершенна. Впоследствии
Виноград включил в свою разработку основные речевые действия (Win-
ograd, 1981, 1985). Речевые действия - это такие вербальные высказыва-
ния, которые обычно происходят в социальном контексте. Принять в рас-
чет "сферу человеческого действия и взаимодействия", выразив ее рече-
вых актах, значило открыть новый взгляд в области ИИ. Предположим,
вас попросили сходить на концерт, предназначенный для местной аудито-
рии. Вы отвечаете: "Да, я был бы рад пойти". Ваш ответ означает согла-

Мышление и интеллект - естественный и искусственный
522

рамма поняла эту
J (а иначе как по-
давление о прихо-
]ения жен к таким

ать компьютерные
:а такая программа
|ыо продемонстри-
ваторов и либера-
ого Союза и стран
показан диалог с

войска на чешской
I-

|ПОСЫЛАЯ ВОЙС-
)НАДЧЕХОСЛО-

> ВОЕННОЕ ВМЕ-

) СВОЕ ПОЛИ-

ИЕДЕЙСТВИЯ

1 стереотипны
ууют; однако.
|,МакГвайром
эют опреде-

|с. 523 - 524)
Ьльку это была
юе взаимодей-
|ий между иг-
| Впоследствии
-йствия (Win-
высказывз-
янять в рас-
азив ее рече-
Предположим,
;тной аудито-
начает согла-

ШРДЛУ (SHRDLU)

2. Возьми пирамиду.

Во время своей работы в МТИ и в рамках
проекта понимания естественного языка
Терри Виноград из Стенфордского универ-
ситета разработал программу, которую он
назвал SHRDLU. Вы понимаете естествен-
ный язык, не особенно о нем раздумывая.
Если бы вы задумались о нем больше, ваше
понимание, возможно, споткнулось бы,-
точно так, как вы стали бы спотыкаться
при ходьбе, если бы раздумывали над каж-
дым движением. Как же тогда можно сде-
лать робота для "ходьбы", или "мышле-
ния", или понимания естественного язы-
ка? Виноград не знает ни того, ни другого,
но продолжает над этим работать; его на-
стоящий проект называется "Язык пред-
ставления знаний" (KRL), a SHRDLU была
одной из первых программ, при помощи ко-
торой робот мог отвечать на вопросы, ис-
полнять команды и воспринимать инфор-
мацию на английском языке. Он не мог
видеть, но мог "определять положение"
предметов в заданных X-Y координатах. Он
мог "передвигать" предметы. Вот диалог
между Виноградом (жирный шрифт) и
SHRDLU (большими буквами), снабжен-
ный комментариями Маргрет Боден (кур-
сив).

1. Подними большой красный блок.

ОК.

Система отвечает "ОК", когда она
выполняет команду. Чтобы, взять крас-
ный блок, она должна освободить его,
найдя место для зеленого блока и убрав
его. (На Рисунке изображено начальное
состояние.)

Я НЕ ПОНИМАЮ, КАКУЮ ПИРАМИДУ
ВЫ ИМЕЕТЕ ВВИДУ.

В сцене есть три пирамиды, nodmo
му программа не делает ничего.

3. Найди блок, который длиннее того,
который ты держишь, и помести его в
ящик.

Система должна вычислить, что
имется и виду not) слонами "тот" и
"его", а такж.е исполь.юнать дедукцит,
чтобы решить, какой блок она держит.
Я ПОЛАГАЮ, ЧТО ПОД "ЕГО" ВЫ ИМЕ
ЕТЕ В ВИДУ БЛОК, КОТОРЫЙ ДЛИН-
НЕЕ ЧЕМ ТОТ, КОТОРЫЙ Я ДЕРЖУ.

Это напечатано нам для сведения.
ОК.

Чтобы поднять более длинный синий
блок, рука должна поставить на место
красный.

4. Что (теперь) содержится и ящике?

СИНЯЯ ПИРАМИДА И СИНИЙ БЛОК.

5. На чем стоит эта пирамида?

Ранее система реагировала на слово
"пирамида", отвечая "Я не понимаю, на.
кую пирамиду вы имеете в виду". Теперь
она предполагает, что мы имеем в ниду
ту, которую только что упоминали.
НА БЛОКЕ.

6. Сколько блоков находится не в ящи-
ке?

Отрицания, такие как "не" и "нет",
обрабатываются и зависимости от
того, стоят ли они в предложениях
или группах существительных (напри-
мер, "нет ящиков").
ИХ ЧЕТЫРЕ...

35. Есть ли что-нибудь, что больше,
чем всякая пирамида, но столь широ-
кое, как то, на чем она стоит?

Искусственный интеллект
523

ШРДЛУ (SHRDLU) (продолжение)

Система понимает числительные
"каждый", "всякий", "некоторый" и т.д.
Здесь "она" относится к группе суще-
ствительных в этом же предложении,
но на два уровня выше по дерену анали-

ДА, СИНИЙ БЛОК.

36. Получается шпиль?

ИЗВИНИТЕ, Я НЕ ЗНАЮ СЛОВА
"ШПИЛЬ".

Система немедленно останавливает-
ся, если видит слово, которое она не
может вычислить.

37. "Шпиль" - это куча, которая со-
держит два зеленых куба и пирамиду.

Кавычки оказывают, что мы опре-
деляем новое слово.
Я ПОНИМАЮ.

НЕТ.

Новое определение использовано как
описание для опознания шпилей.

43. Есть ли что-нибудь справа от крас-
ной пирамиды?

ДА. ЕСТЬ ЧЕТЫРЕ ОБЪЕКТА: ЯЩИК,
КРАСНЫЙ КУБ, СИНЯЯ ПИРАМИДА И
БЛОК, НАЗВАННЫЙ СУПЕРБЛОК.

Если у объекта есть название, оно
используется для облегчения его иден-
тификации в ответах.

44. Спасибо.

ПОЖАЛУЙСТА!

Идиомы можно определять без моди-
фикации грамматики.

38. Есть ли сейчас какие-нибудь шпи-
ли?

сие прийти, но одновременно он является контрактом, заключенным на
условиях молчаливого соглашения. Если этот концерт будет перенесен,
скажем во Владивосток, вы скорее всего не сможете выполнить свое обе-
щание, но будете утверждать, что хотя это и не предусматривалось согла-
шением, но было принято как само собой разумеющееся. Технически вас
можно было бы обвинить в "нарушении вашего слова". Мы, люди, делаем
это постоянно. И все же машины честны до тошноты (нерушимы в выпол-
нении правил), и разработка программы, которая могла бы подражать не-
буквальным речевым актам человека,- это весьма сложное интеллекту-
альное предприятие.

Рассмотрим следующий диалог (из: Виноград, 1981):

Я хочу пить.

В холодильнике есть немного воды.

Где? Я не вижу.

В клетках баклажана.

Разве В лжет? Ну, и да, и нет. Многие согласятся, что хотя В и ввел в
заблуждение А, который просто хотел глоток воды, тем не менее утверж-
дения В абсолютно правдивы.

У Винограда, очевидно, двоякая цель. Он интересуется техническими
аспектами речевых действий, которые должны стать неотъемлемой час-

Мышление и интеллект - естественный и искусственный
524

тью понимающей системы ИИ. И кроме того, включение речевых действий
в компьютерную программу означает значительное изменение точки зре-
ния. Использование речевых действий вводит в игру новые факторы: оно
заставляет нас задуматься,- что мы имеем в виду, когда говорим; оно
помогает прояснить дихотомию объективного и субъективного; и оно при-
дает центральное значение усилиям, направленным на дальнейшее прояс-
нение роли контекста.

В процессе разумного общения с человеком ШРДЛУ использует зна-
ния о мире, и то же самое делают другие программы, в составе которых
предусмотрены те или иные формы человеческого понимания. Среди наи-
более известных и наиболее спорных - программа понимания языка, раз-
работанная в Йельском университете Роджером Шенком. Исследования
Шенка преследовали несколько целей, включая разработку программы,
способной понимать письменный текст, кратко излагать его существенные
части, переводить его на другой язык и отвечать на вопросы по его сути.
Шенк и его коллеги скоро обнаружили, что люди понимают гораздо боль-
ше, чем просто ряды слов естественного языка (как делал Виноград - см.
выше). Он иллюстрирует этот момент следующим рассказом: "Джон по-
шел в ресторан. Он заказал сэндвич. Официант принес его быстро, поэто-
му он дал ему большие чаевые". Вопрос: Съел ли Джон сэндвич? Запла-
тил ли он за него?

Когда я говорю вам "Я был в Венеции прошлым летом", вы можете в
свою очередь задать мне много вопросов более или менее но существу:

Потратил ли я сколько-то денег? Летел ли я самолетом? Или плыл на
корабле? Говорил ли я с кем-нибудь? Видел ли я других людей в Венеции?
Говорят ли они по-итальянски? Носят ли они одежду?
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81