«Информационные Ресурсы России» №6, 2010



Семиотическое моделирование процессов понимания

Цель расчетов – не числа, а понимание.
(Р. Хемминг)

Введение

Понятие «понимание» очень многозначно. Достаточно подробный разбор всех аспектов этой проблемы содержится в статье В. Демьянкова, опубликованной в трудах одной из первых конференций «Понимание в коммуникации» [1]. Существуют также другие публикации, где описаны всевозможные значения этого слова, а также какие коннотаты, ассоциации и аллюзии оно имело у разных народов, начиная с древних греков и римлян. Это не значит, что в данной работе пренебрегают этими деталями. Скорее наоборот. Как будет показано ниже, только учет всех этих деталей зачастую ведет к правильному пониманию. Просто ставится задача выстроить сначала формальную модель, в рамках которой будет рассматриваться сформулированная в заголовке проблема. Поэтому сначала мы введем для всего этого многообразия ряд ограничений и определений. Будем считать, что рассматривается случай, как кибернетическая система (далее – КС) понимает знаковое сообщение. Существуют, конечно, другие разновидности понимания, но мы их здесь не рассматриваем. Под КС мы скорее понимаем некую формальную модель, которая может быть реализована программно на компьютере, в роботе, другом устройстве или мы можем наблюдать функционирование этой модели в человеке, не умаляя его гордое предназначение.

Формальная модель сразу помогает нам определить границы того, что понимать под пониманием. Понимание понимания - это еще не рефлексия, но нечто близкое к этому явлению – примерно как проблема «meaning of meaning». Действительно, рассмотрим и возьмем за основу классическую схему понимания знака Г.П. Мельникова [6]. Она сводится к цепочке: знак – ментальный образ знака – ментальный образ денотата – денотат. Собственно, эту модель понимания мы и будем иметь в виду в дальнейшем изложении. Можно сказать, что это и есть кибернетическая модель понимания как семиотического процесса в краткой форме. Рассматривая эту модель, мы можем сразу задуматься над тем, где границы процесса понимания. Действительно, можно ведь считать, что понимание уже произошло, если КС опознала знак – то есть перешла от знака к его ментальному образу. Подчеркнем - именно к ментальному образу ЭТОГО знака. Например, что мы слышим слово ship, а не sheep. Но можно и расширить границы нашей модели и считать, что понимание произошло, только если произошел правильный переход от ментального образа знака к ментальному образу денотата. То есть, если пользоваться предыдущим примером – возник ли у нас в сознании образ корабля, а не овцы. Собственно, если это произошло, то, наверно, можно считать, что понимание реализовалось. КС восприняла в графической, звуковой или иной форме знак ship и у нее возник или активизировался образ корабля. Наверно, так оно и есть. Но возникает вопрос – откуда мы знаем, что в КС произошел простейший акт понимания? Мы этого не знаем, за исключением того случая, когда КС есть мы сами. Акт понимания должен проявиться в той или иной форме или каким-то образом быть проверен. Проверено это может быть тем, что так или иначе будет выполнено действие, связанное с самим денотатом. Например, человек повернулся в сторону корабля.

Как можно видеть, даже простейшая формальная модель понимания может трактоваться по-разному. Поэтому желательно рассмотреть эту проблему по классической схеме – от простого к сложному. При этом мы будем считать, что процесс или модель понимания содержит весь путь от знака к денотату. При этом ясно видно, что ничто не мешает, если это необходимо, рассматривать понимание в редуцированном виде, как это было описано выше. Нужно только ясно понимать и декларировать какой моделью мы пользуемся.

Простейший случай – понимание команды

Рассмотрим простейший случай. Кибернетическая система должна выполнить команду, поданную ей в знаковой форме. Например, если робот движется и ему дана команда «стой» в звуковой форме, то он остановится. Здесь мы видим нашу полную модель понимания в действии – робот опознал знак (то есть активизировал его звуковой образ), перешел затем к образу денотата (программе действий, реализующих остановку движения). При этом мы поймем, что понимание произошло только тогда, когда робот остановился. То есть – произойдет переход от образа денотата к самому денотату (здесь - действию).
Здесь мы сразу видим все три этапа нашей модели процесса понимания. Ясно, что не всегда можно и реально увидеть, услышать, обонять или осязать (смотря какого типа денотат стоит за знаком и какие у нас возможности наблюдения) реализацию процесса понимания.

Следует также сразу заметить, что за каждым из этих этапов стоят очень разные и зачастую достаточно сложные когнитивные процессы. Уже сам процесс опознания знака исключительно сложен [4]. Поэтому естественно, что на практике уже сейчас стараются максимально упростить этот этап или процесс опознания знака и сделать его надежнее. Так, для того чтобы отдавать звуковые команды роботам, уже придуман язык ROILA, по утверждению авторов проекта - более удобный и надежный (распознаваемый, а следовательно понимаемый), для этого типа коммуникации по сравнению с естественным языком [5].

Более сложные примеры реализации процесса понимания


Если приведенная выше схема достаточно наглядно демонстрирует простейшие акты понимания, то из нее также становится ясно, что далеко не всегда происходит все так просто. Не всегда мы можем убедиться в том, что акт понимания реализован по действиям КС в материальном мире. Ученик понял, что написано в параграфе учебника. И в этом можно убедиться – но зачастую не сразу, не всегда и не каждый это сможет сделать. Тем не менее – пусть понимание произошло. Как это узнать? Как это описать и оценить? Ясно, что необходимы более сложные и совершенные формализмы описания такого сложного процесса понимания.
Прежде всего, нужно разделить сам процесс понимания и его результат. Описанные выше процессы понимания реализуются в КС теми или иными программными или ментальными процедурами. Назовем их обобщенно когнитивным процессором (K) – так как результатом понимания являются знания. Будем считать, что знания накапливаются в некоторой базе знаний S, структуру которой мы можем искусственно создавать в неживых КС или догадываться и ее свойствах в живых КС [3].

Тогда мы можем вернуться к задаче с учеником и попытаться понять – что значит, что ученик понял заданный отрывок учебника. Очевидно, что информация в учебнике (I) представляет собой некоторое знаковое произведение (текст), который преобразовывается по схеме, описанной при разборе простейшего примера. Стоит отметить, что до чтения этого отрывка у ученика были какие-то начальные знания (некоторые философы утверждают, что они были даже с рождения). Тогда процесс понимания можно выразить таким знаковым выражением:
K (S) + I => K (S1).

Мы считаем, что вся информация понята, если она превратилась в знания (S1) [3]. И здесь тоже возникает вопрос: а как мы узнаем, что это произошло? Иногда на сложные вопросы есть простые ответы. Чем занимаются учителя (хорошие учителя) сотни и тысячи лет, чтобы проверить знания? Прежде всего, проблема в том, что им нужно определить не столько то, прочитал ли вообще ученик учебник, а то, что он (чаще она), быть может, просто зазубрил нужный отрывок из учебника, не поняв его. Для этого уже тысячи лет учителя задают вопросы к тому, что содержится, но прямо не написано в учебнике. Например, если в учебнике написано, что Ваня учится в 5«Б» классе, а в другом месте написано, что Ваня и Маша учатся вместе, то вопрос будет такой: «Где учится Маша»? Пример нарочито и условно простой, но он яснее показывает суть проблемы. Зазубривший текст ученик не сможет отвечать на вопросы, требующие того, чтобы у него в голове включился когнитивный процессор и отработал этот Аристотелев силлогизм. И породил – пусть простое – но новое знание. Этот метод определения того, понята ли информация, используется постоянно всем цивилизованным человечеством, по крайней мере, при обучении [5].

Могут ли современные ИС понимать?


Более того, работать по описанной выше схеме не могут пока современные ИС, даже те, что называют себя (из маркетинговых соображений) Knowledge Management Systems. Все, что они могут, – это запомнить информацию, а затем выдать ее пользователю по более или менее сложному запросу в более или менее красивом и понятном виде. Значит, они пока ничего не понимают! Из известных нам КС работать по этой когнитивной схеме могут только некоторые классы экспертных систем. Также ведутся интенсивные и широкомасштабные работы над тем, чтобы эта схема заработала в сети Интернет. Этот проект называется Semantic Web. Авторы проекта хотят, чтобы Сеть помогала людям не только увидеть, что написано на сайте (а понимать, что там – как сам знаешь), но и произвести над этим содержанием простейшие когнитивные операции, помогающие людям понять, что же там написано.

Поэтому стоит более подробно разобрать приведенную выше формулу. Прежде всего, стоит отметить, что не всегда КС сможет понять всю информацию и превратить ее в знания, то есть понять. То есть, часть информации (I2) может остаться непонятой. Но более важными представляются проблемы, связанные с самими процессами понимания. Например (а скорее – во-первых), сам когнитивный процессор может совершенствоваться («умнеть») в процессах понимания. Тогда наша формула будет выглядеть так:
K (S) + I1 + I2 => K1 (S1).

Под I2 будем (условно и символически) понимать ту часть информации, что не была понята [3].

Сам когнитивный процессор может быть разным и по-разному обрабатывать поступающую информацию – по-разному ее понимать. Это явление было описано А.А. Ухтомским, использующим понятие доминанты [2]. На самом деле все обстоит еще сложнее. И проблемами, возникающими при реализации процессов понимания, занимаются многие гуманитарные науки. Так, невозможно понять отрывок из Евангелия про Христа, обращающегося к самаритянке, не зная, что древним иудеям запрещалось общаться с самаритянами, проходя по их земле по дороге из Иудеи в Галилею. Только зная это, мы поймем одну из ключевых идей христианства, что нет ни эллина, ни иудея, а все мы люди… При этом, в самом начале нужно еще адекватно воспринять сам древний текст, ушедшие значения древних слов – то есть правильно перейти от знака к его истинному ментальному образу, а затем только к образу денотата. Этими проблемами занимаются гуманитарные науки экзегетика и герменевтика, помогающие правильно двигаться по нашей когнитивной схеме, адекватно реализовывать процесс понимания.

Понимание в обществе и в коллективе

Описанные выше схемы или модели помогают правильно ориентироваться во многих проблемах современного информационного общества. Но хотелось бы остановиться на некоторых проблемах понимания, представляющихся сейчас достаточно актуальными.

Следует обратить внимание на две группы проблем, где оптимизация процессов понимания (то есть – достаточно ясное представление о том, как понимание происходит) играет или скоро будет играть ключевую роль.
Обратимся к современности. Сейчас происходит следующее:
Идет лавинное нарастание объемов информации, различного рода текстов.
1. Так же лавинно нарастает число и сложность новых технологий, а также основанных на этих технологиях устройств.

Успеть хотя бы прочитать это, не говоря о том, чтобы понять, скоро будет невозможно. Точно так же - освоить новые технологии и устройства, пользование которыми описывается традиционными инструкциями (то есть – понять, как ими пользоваться), тоже скоро будет очень затруднительно. Тем более что инструкции редко пишут мастера слова – читать их очень скучно. Просто неизбежно нужно будет разрабатывать новые технологии или методологии понимания. С.П. Капица назвал этот феномен грядущим фазовым переходом второго рода [7]. Забавно, что почти век назад это предвидели антиутописты, описывая людей, стучащих на пишущих машинках тексты, которые никто не читал.

Существует также еще одна группа проблем понимания, связанная с модной сейчас инновационной деятельностью. Бог был творец и нас хочет видеть творцами. Но творить в инноваторских коллективах не очень просто. Все чаще в них оказываются люди разных специальностей, говорящие по сути на разных языках. Понимание между ними часто просто невозможно и это зачастую просто парализует инновационную деятельность. Об этом в Кембридже (Англия) была недавно даже выпущена специальная Белая книга [10].

Авторы проблему формулируют так:
1. В инновационной деятельности участвуют специалисты в различных областях знаний. Становится все труднее координировать и эффективно интегрировать их деятельность. Специалисты зачастую не понимают друг друга.
2. Объемы необходимой для эффективной работы в проекте информации возрастает быстрее, чем человек и даже информационные системы способны их обрабатывать, то есть понимать.
3. Существующие методы обработки или понимания быстро возрастающих объемов информации дают во многих отношениях недостаточные, неадекватные или непонятные широкому кругу специалистов результаты. Это касается и описания полученных при работе над проектом результатов [10].

Что делать? Невозможно уйти от схемы понимания, приведенной выше. Тем не менее, необходимо искать новые методологии реализации процессов понимания. Тогда неизбежно приходится обращаться к самим текстам, то есть (не будем забывать) к знаковым произведениям, которые нужно понять, или описывающие феномены, которые необходимо понять, то есть освоить. А, может, можно строить сами тексты иначе? А, может, такие тексты есть?

Такие тексты есть. Есть огромный класс знаковых произведений, обладающих такими привлекательными для нас свойствами:
1. Они достаточно легко могут быть поняты. Зачастую (пусть и не во всем объеме) неподготовленным человеком.
2. Их легко и, главное, приятно воспринимать – а это ускоряет понимание.
3. Они могут кратко передавать очень сложные идеи и большие объемы информации – а это также ускоряет понимание.
4. Их приятно воспринимать снова и снова - а это улучшает понимание.

Этими свойствами обладают произведения искусства.

Когнитивные механизмы понимания произведений искусства

Многие думают, что кибернетика и искусство несовместимы. Но произведение искусства (симфония, картина, театральная пьеса или балет) – это, прежде всего (для нас прежде всего), знаковое произведение. Можем ли мы здесь применить нашу модель понимания?

Конечно. Другой модели нет. Значит, нужно изучить, как создаются и воспринимаются произведения искусства и попробовать перенести, внедрить это в другие области деятельности в качестве новых методологий понимания. Или посмотреть – может, это уже пытаются делать.

Прежде всего – нужно повторить – произведения искусства обладают как минимум четырьмя, упомянутыми выше, привлекательными в смысле оптимизации процессов понимания свойствами. Можно ли методологии искусства применить для создания и понимания других знаковых произведений, использующихся в других видах коммуникаций? Все это не представляется возможным исследовать и описать во всем многообразии в рамках данной работы. Остается только продемонстрировать это на отдельных примерах – как бы в режиме теоремы существования. То есть доказать то, что это возможно в будущем, тем, что это уже сознательно или бессознательно уже применяется в некоторых приложениях. Иногда это называют знаками будущего. Это позволит нам надеяться, что мы идем по верному пути.

Понимание в искусстве – теорема существования

Здесь еще раз стоит сослаться на оговорку, сделанную в самом начале этой работы, о соотношении описаний многообразия некоторого явления и стремления выстроить понятную, простую и эффективную ее формальную модель. Поэтому изложение теперь будет опираться на примеры, которые будут служить частью нашей методологии. Функция примеров будет служить формой воплощения и доказательства или аналогией математической идеи теоремы существования.

Действительно, доказав существование определенных взаимосвязей на достаточно строго описанных в соответствии с выбранной методологией примерах, можно делать выводы о существовании таких закономерностей, а также о дальнейшем расширении предметной области исследования и совершенствовании выбранной методологии.

Для оживления изложения возможно и даже уместно продемонстрировать хотя бы в общем виде взаимосвязь искусства и жизни и его функцию оптимизации познания действительности, отличную, но никак не отрицающую, а дополняющую общеизвестные и хорошо описанные функции (эстетическую и др.). И попробуем продемонстрировать это на примере, как демонстрацию существования такой связи и первую реализацию предлагаемой методологии. Далее исследование будет продолжено в такую, казалось бы, самую далекую от искусства область человеческой деятельности как информатика и освоение новых технологий.

Начнем не с логического доказательства, как принято в естественнонаучной парадигме, а с показательного примера, который послужит, как уже отмечалось ранее, образом теоремы существования, демонстрирующего функцию искусства не только как особой формы отражения жизни, но и как способа более быстрого и эффективного ее познания. Поставленной цели может хорошо послужить жанр афоризма. Он краток и представляет собой некоторое достаточно четко выраженное смысловое единство. Перейдем сразу к примеру – известному афоризму Оскара Уайльда о том, что ничто так не разрушает женщину как счастливая семейная жизнь, и ничто не делает ее столпом добродетели, как несчастливая семейная жизнь. Автор настоящей статьи явился рекурсивно и автором научного эксперимента, изложив этот афоризм дамам на своей работе. Результат был потрясающим и не заставил себя ждать – прощения за высказанную жемчужину искусства слова не было получено до самого завершения совместной работы. Теорема существования была доказана, но в дальнейшем пришлось обратиться к теоретическим изысканиям. То есть пришлось скорректировать не выводы, а методологию.

Следует подчеркнуть одну немаловажную мысль. Роль искусства как одного из способов познания действительности не есть нечто случайное, дополнительное или вспомогательное. Искусство есть способ выражения в знаковой форме некоторого смыслового содержания. Не бывает знака без денотата. И зачастую это содержание несводимо к другим содержаниям и не может быть выражено в других системах знаков – например, в словесной форме. Только через произведения искусства (зачастую несловесные), при условии правильной интерпретации их синтактики, мы можем усвоить их особую семантику - новые смысловые содержания, освоенные авторами этих произведений и переданные нам в знаковой форме. Более того – выраженная таким образом мысль зачастую не может быть воспринята никак иначе [3].

Понимание в коллективе – методология оптимизации

Эта методология достаточно хорошо описана в одноименной книге, которая доступна на русском и английском языках [11]. Суть метода состоит в том, что автор взял за образ-основу модель общения-понимания, когда партнеры сопровождают коммуникацию рисунками на бумаге и чуть ли не на ресторанной салфетке. Графические компоненты, сопровождающиеся нужными связями и подписями, образуют картинку, понятную собеседникам.

Автор книги, не называя этого, использует и успешно развивает древнюю риторическую технологию общих мест, которая изучается практически во всех англоязычных университетах, выпускником одного из которых он, видимо, является [11].

При помощи этой технологии автор достаточно эффективно решает описанные выше проблемы. Делается это следующим образом. Как всегда это бывает (и об этом говорит сам автор), все это давно знакомо. Но новизну каждого развернутого описания сочетания общих мест можно сравнить с калейдоскопом. В нем конечное число цветных стекол (знаков, общих мест), которые дают бесконечное количество прекрасных знаковых произведений, которые мы уже интерпретируем в соответствии с их смысловым содержанием. Автор для этого выбрал шесть общих мест. Он их назвал «шесть W» - кто-что, где, когда, сколько, как, почему. Раскрытие смыслового содержания этих общих мест для конкретной обстановки происходит коллективно в соответствии с поставленной задачей по правилам визуализации. При этом автор подчеркивает, что раскрывать смысловое содержание этих шести общих мест нужно строго следуя правилам [11].

Визуализируя, а затем, наблюдая получившееся знаковое произведение (ЗП), мы наблюдаем так называемый кумулятивный эффект. Информации мы получаем из этой картинки больше, чем ожидали, закладывали в нее, больше чем знали об этом явлении отдельные собеседники. Эта методология использует семиотические технологии искусства и помогает эффективно понимать людям друг друга в постоянных и временных коллективах. Она уже широко применяется в переговорах. Этой моделью понимания, несомненно, будут пользоваться и развивать в будущем. Это предмет новой науки – когнитивной семиотики.

Понимание больших объемов информации. Наш враг Powerpoint

Прошлым летом генералу Стэнли Маккристалу, командующему войсками США и НАТО в Афганистане, показали в Кабуле слайд в формате PowerPoint, призванный продемонстрировать всю сложность американской военной стратегии. Он был больше похож не на схему, а на тарелку спагетти. "Когда мы поймем этот слайд, мы выиграем войну", сухо заметил генерал Маккристал, и вся аудитория разразилась хохотом. С тех пор этот слайд кочует по просторам интернета как пример оружия, вышедшего из повиновения. PowerPoint подобно партизану прокрался в повседневную жизнь военачальников, доведя их до состояния, близкого к одержимости. То количество времени, которое тратится на работу в этой компьютерной программе Microsoft, помогающей создавать презентации с графиками, схемами, стрелками и точками, вызывает кучу шуток и насмешек в Пентагоне, Ираке и Афганистане.

Это перевод отрывка из газеты «Нью-Йорк Таймс» [12]. Отвлечемся на минуту от рационалистических канонов научного текста. Тем более что, как было сказано выше, их скоро не будет времени понимать. Истина парадоксальна. Это говорил не только Оскар Уайльд. Приводя этот отрывок, мы здесь хотим не только объяснить то, что написано в подзаголовке, но и попытаемся сделать это, привлекая описываемые методологии понимания искусства.

Что мы можем понять, читая этот текст? Во-первых – не все, что ругают американцы, плохо даже для них самих. Это художественный прием. Но это не главное:
1. Используя программу Powerpoint, американские военные создают серии картинок, представляющих единое знаковое произведение. Они разъясняют некоторую ситуацию, содержат информацию о будущих конкретных действиях, от которых зависит жизнь тысяч людей.
2. Это широко и почти обязательно используемая программа в такой достаточно многочисленной и авторитетной организации, как армия США, в которой (как в любой армии) повышенные требования к ясности и понятности содержания.
3. Каждый слайд есть картинка, сложная и почти художественная композиция, состоящая из текстовых, графических и других компонент.
4. По этим канонам такая презентация близка по технологии создания и понимания к схеме восприятия и создания произведений искусства. Со всеми их описанными выше преимуществами.
Разве это не то, что нам нужно?

Как мы видим, технологии искусства в создании (а, следовательно, и в понимании) казалось бы далеких по смыслу и назначению приложений живут и побеждают. Понятно, что это только еще знаки будущего. Остается только изучать то, что уже есть в мире искусства, развивать их и применять в других сферах деятельности.

Выводы

1. Значительная часть процессов понимания знаковых произведений может быть отражена в классической семиотической схеме: знак – образ знака – образ денотата – денотат.
2. Все более быстрые технологические изменения требуют и вызывают адекватную реакцию со стороны как отдельного человека, так и всего общества.
3. Резко возрастающие объемы информации требуют адекватной их интерпретации или понимания.
4. Скорость обоих этих процессов возрастает и это напоминает фазовый переход второго рода.
5. Инновационным коллективам, состоящим из разных специалистов, также приходится сталкиваться с проблемами непонимания в процессе создания инноваций.
6. Отдельным людям и обществу в целом будет все труднее справляться с этими вызовами и требованиями.
7. Рано или поздно настанет момент, когда уже невозможно будет справляться с этими проблемами старыми методами.
8. Новые методологии понимания новых реалий должны опираться на традицию, но развивать ее и эффективно применять в новых предметных областях.
9. Одной из таких методологий более эффективного освоения и создания новых технологий и понимания возрастающих объемов информации является искусство.
10. Построенные на базе искусства методологии понимания позволят решить поставленные задачи, создав и развив новые технологии понимания, освоения, использования и развития новых реалий.

Заключение

Развитие исследований о связи искусства и жизни в рамках различных методологий неизбежно приводит к выводу об общности процессов понимания, протекающих в сложных системах самой различной природы. Это позволяет глубже понимать эти процессы, адекватно их воспринимать, эффективно конструировать и использовать. Автор старался не отвлекаться на многочисленные и неизбежные детали, чтобы яснее довести до читателя главные мысли, которые хотелось бы, чтобы были поняты.

В этой работе было сделано следующее:
1. Была формализована семиотическая модель понимания.
2. Эта модель была опробована и продемонстрирована на достаточно простом случае – понимание команды роботом.
3. Далее, была описана модель связи между процессом понимания и пополнением знаний.
4. Актуальность проблемы построения методологий эффективного и быстрого понимания очень важна как минимум в двух общественно значимых явлениях – нарастании объемов информации и числа новых технологий, которые нужно понять и освоить. А также важно взаимопонимание в инновационных коллективах.
5. Для этого была предложена модель понимания, основанная на знаковых технологиях искусства.
6. Было показано, что эта модель, будучи примененной к двум, описанным выше, актуальным проблемам понимания является адекватной и эффективной.
7. Модели и методологии понимания, основанные на знаковых системах искусства, уже действуют и применяются. Они соответствуют семиотической модели понимания, разработанной в этой статье, и вполне могут и должны быть развиты в дальнейшем на базе этой модели.

Литература

1. Конференции «Понимание в коммуникации». – [Электронный ресурс]. – Режим доступа: http://efcomconf10.ucoz.ru/
2. Ухтомский А.А. Доминанта. - М.-Л.: Наука, 1966. – 272 с.
3. Рыков В.В. Обработка нечисловой информации. Управление знаниями. – М.: МФТИ, 2008.
4. Бехтель Э. Е., Бехтель А. Э. Контекстуальное опознание. – СПб.: Питер, 2005. – 336 с.
5. Михайлов А. Урок нечеловеческого языка. Роботы учатся говорить со своими хозяевами // РБК daily. – N. 124. – 16 июля 2010.
6. Мельников Г.П. Системная типология языков. - М.: Наука, 2003. – 532 с.
7. Капица С.П. Об ускорении исторического времени // Новая и новейшая история. – 2004. – N. 6.
8. Хаан Э. Бесстрашный консалтинг. Искушения, риски и ограничения профессии. – М.: Питер, 2008. – 272 с.
9. Осокин Ю. В. Введение в теорию системных исследований искусства. – М.: Алетейа, 2003. – 397 с.
10. Succeeding through service innovation. White Paper. – Cambridge, IBM, 2008 // www-mmd.eng.cam.ac.uk/ssme/.
11. Роэм Д. Визуальное мышление. Решение проблем и продажа идей при помощи картинок на салфетке. – М.: ЭКСМО, 2009. – 296 с.
12. Бьюмиллер Э. Мы нашли врага. Это Powerpoint // The New York Times. – April 27. – 2010 // http://www.inosmi.ru/usa/20100429/159634781.html.