Проблемы искусственного и естественного интеллекта - вчера, сегодня, завтра

На прошлой  конференции по нейроинформатике [8] высказывались мнения, что мозг может реализовать некоторый нетьюринговый способ решения задач, который, возможно, связан с квантовыми эффектами. Я думаю, что совсем не обязательно привлекать представления квантовой механики, синергетики или теории хаоса для того, чтобы предположить несводимость некоторых аспектов деятельности мозга к любым алгоритмическим интерпретациям его функций и механизмов.

Современная математика сама является частным продуктом  деятельности мозга и далеко не исчерпывает  его возможностей. Математическая логика и аппарат современной математики является гениальным изобретением и удивительной игрой человеческого ума, а приближенное совпадение реального и, в основном, физического мира, с его описанием, получаемым с помощью математики, - потрясающе, и по сути своей - необъяснимо. И совсем необязательно оно должно быть применимо ко всем многообразиям окружающей нас реальности, в частности, ко всем особенностям ее проявления в деятельности создавшего математику аппарата - в деятельности мозга. Можно привести ряд простых примеров деятельности мозга, выходящих за рамки математического объяснения ее феноменов.

Математика является, по существу, лишь одним из выражений  возможностей человека в познании мира и самого себя. Современная аксиоматическая  математика, являясь своего рода игрой человеческого ума, предопределена своими правилами и является машинным способом мышления. Возможно, что человеческий ум, а может быть и другие явления природы, могут выходить за рамки аксиоматической математики. В качестве примера таких феноменов человеческого ума, которые не вписываются в рамки аксиоматической математики, можно привести само построение новых систем аксиом. Говорят, что система аксиом может опираться на практические знания, опыт, априорные постулаты и т.д. Однако все эти слова ничего не объясняют. Мозг продуцирует новую систему аксиом, как некоторый принципиально новый продукт, которого ранее не существовало и может не существовать в доступной нам реальности.

Построение новых  аксиоматических систем, которые  не доказываются, а принимаются как произвольные и соответствуют в лучшем случае интуитивному пониманию или здравому смыслу, является актом творения нового и свидетельствует о возможностях нашего мозга, выходящих за рамки его деятельности, проявляющейся внутри, так сказать, чисто математической реальности.

В качестве примера  рассмотрим выражение, приведенное  в заголовке. Человеческая фантазия вполне допускает предположение, что  в некотором мире сама операция умножения  добавляет некоторую величину к  получаемому продукту:

2*3=6+1

Можно представить  себе даже целую математическую систему, построенную на данной аксиоме. Возможно, когда ребенок запоминает таблицу  умножения, нечто похожее происходит в его мозге – каждая произведенная  им операция умножения добавляет что-то к стереотипу ее выполнения. А когда мы на обменном пункте меняем валюту, работает противоположная операция – вычитание из продукта некоторой величины. Конечно, эти примеры – это только частная аналогия, приведенная лишь с иллюстративной целью.

Более существенные примеры генерации мозгом принципиально новых продуктов:

1. Интуитивное  решение проблем – когда новая  идея возникает по существу  из ничего. Когда говорят, что  интуиция основана на неосознанном  прошлом опыте или сумме накопленных  знаний или новой их организации,  то это все же в значительной степени словесный произвол и использование недооформленных определений. Если бы для интуиции достаточно было прошлого опыта и переоформления существующих знаний, ее можно было бы представить в виде математической конструкции и строгих правил вывода и она подчинялась бы алгоритмической логике (хотя бы вероятностной, размытой или другой, которую возможно математически строго описать). Но в том то и дело, что человек, озаренный интуицией, может выйти за рамки машинного детерминизма и за рамки любой предопределенной им же самим математической системы.

2. Феномен веры  также составляет один вариантов  нематематизируемой деятельности  человеческой психики. Любая математическая  система в том числе и правила  доказательства, и само понятие  очевидности покоится на каком-то варианте веры. Можно, конечно, на словесном уровне приводить соображения в пользу рационального объяснения феномена веры. Достаточно, однако, просмотреть примеры возникновения и проявления различных вариантов веры у различных людей (например, У. Джеймс. Многообразие религиозного опыта. М. 1993 (1901)), чтобы придти к выводу о нерациональном нематематизируемом характере феномена веры.

3. И, наконец,  еще одно свойство человеческого  ума, человеческого интеллекта  – свойство фантазии. Фантазия человека, по-видимому, безгранична как по содержанию так и по формам. Любые законы и правила фантазии могут быть нарушены как угодно.

Приведенные три  феномена – интуиция, вера, фантазия – не исчерпывают нематематизируемых в настоящее время свойств человеческого интеллекта. По-видимому, совершенно не обязательно прибегать при их трактовке к каким-либо физическим интерпретациям, например, квантовому характеру процессов или другим известным свойствам материи или информации. Хотя бы потому, что и квантовая механика, и другие физические явления описываются математически, хотя и приближенно, хотя и с определенными ограничениями. С этой точки зрения, пока не будет алгоритмически понят сам феномен продукции принципиально новых результатов мозгом, бесполезно пытаться моделировать этот феномен с помощью любых нейроподобных моделей, поскольку все такие модели в принципе могут быть воспроизведены с помощью математических или вычислительных алгоритмов.

Почему бы не предположить, что высшие творческие проявления человеческого интеллекта составляют новую для науки область, область, которая требует принципиально другого подхода к пониманию явлений по сравнению с привычным подходом (детерминистским, тьюринговым, математическим).

Новизна этого  подхода должна заключаться прежде всего в ясном понимании эмержентного характера свойств человеческого интеллекта. Эмержентного не только в обычном принятом, например, в синергетике смысле, который предполагает эмержентность, возникающую при описании более сложной системы в рамках представления ее в виде ее компонент.

Эмержентность интеллекта может быть понята в плане  творческого и в значительной степени непредсказуемого характера самих свойств интеллекта, обусловленных особыми механизмами мозга. И опять таки имеется в виду не непредсказуемость в смысле непредсказуемости, например, нелинейных систем, описываемых в теории хаоса, где предсказание сдвигается с одних свойств (конкретных траекторий) на другие (аттрактор).

Под творческой непредсказуемостью интеллекта в данном случае подразумевается выход описания его свойств за рамки существующей математической парадигмы, в которой предсказание будущих траекторий поведения системы (траекторий в широком понимании этого слова) основывается на строгих правилах игры, (в том числе вероятностных или случайных) на правилах, возникших как один из способов отражения реальности человеческим мозгом в виде современной математики.

Непредсказуемость интеллекта в этом смысле сродни непредсказуемости  самого реального мира. Надо согласиться, что приближенно описываемая современной наукой физическая материальная компонента окружающего нас мира составляет только одну и, возможно, далеко не самую главную его часть.

III. Заключение

Изложенные во второй части соображения не отрицают представленного в первой части рационального подхода к моделированию многих уже исследованных и интенсивно исследуемых функций мозга. Эти соображения еще раз подчеркивают необходимость соблюдать определенную скромность в нашей самооценке, когда мы бываем довольны тем, что можем решать частные задачи. По-видимому, несмотря на большие усилия и большое продвижение в решении глобальной задачи – проблемы мозга как интеллектуальной системы - пока даже в ее понимании – “все еще не вечер”. Но будем надеяться, что наступает рассвет.

Краткий список основных ссылок на литературу:

1. Редько В.Г. Проблемы интеллектуального управления – общесистемные, эволюционные и нейросетевые аспекты (приглашение к круглому столу).
2. Судаков К.В. Системные основы интеллекта (статья представленная для круглого стола). Информационный феномен жизнедеятельности М. 1999. Судаков К.В. Общая теория функциональных систем. М. Медицина. 1984. Новые принципы и положения в теории функциональных систем, разработанные К.В. Судаковым и его школой, - Материал, представленный на круглый стол. Другие работы, ссылки на которые приведены в цитированных изданиях.
3. Умрюхин Е.А. Механизмы мозга – информационная модель и оптимизация обучения. М. Горизонт. 1999. Умрюхин Е.А. (ссылки на другие упоминаемые в тексте работы автора содержатся в этой книге. Для ее приобретения можно, в частности, обратиться eaumin@mail.ru). Моделирование и объективная оценка системных механизмов психической деятельности. В кн. Александров Ю.И., Брушлинский А.В., Судаков К.В., Умрюхин Е.А. Системные аспекты психической деятельности. М. Эдиториал УРСС, 1999
4. Nissen M.J., Bullerner P. Attentional requirements of learning: evidence from performance measures. Cognitive psychol. V. 19. 1987. Schacter D.L. Implicit memory: history and current status. J. Exp. Psychol.: Learn. Mem. Cogn. 13:501-18, 1987. Schacter D.L. Understanding implicit memory: a cognitive neuroscience perspective Am. Psychol. 47, 559-569, 1992 Squire L.R. Declarative and nondeclarative memory: multiple brain systems supporting learning and memory. In: Memory systems. London. Bradford Book. 1994. Barretto G.A., Araujo A.F.. Unsupervised learning and recall of temporal sequences: an application to robotics. Int. J Neural Syst., V 9, N 3, P 235- 242, 1999. Cleeremans A. Mechanisms of implicit learning: connectionist models of sequential processing. MIT Press. 1993. Hikosaka O., Nakahara H., Rand M.K., Sakai K., Lu X., Nakamura K., Miyachi S., Doya K.. Parallel neural networks for learning sequential procedures. Trends Neurosci, V 22, N 10, P 464- 471, 1999. Koch I., Hoffmann J.. Patterns, chunks, and hierarchies in serial reaction-time tasks. Psychol. Res., V 63,N 1, P 22- 35, 2000. Heuer H., Schmidtke V., Kleinsorge T.. Implicit learning of sequences of tasks. J Exp. Psychol. Learn. Mem. Cogn.,V 27, N 4, P 967- 983, 2001.
5. W. Schultz, P. Dayan, P.R. Montague. A neural substrate of prediction and reward. Science, 125, p. 1593-1599. 1997. Ambrose-Ingerson J., Granger R., Lynch C. Simulation of Paleocortex perfoms hierarchical clustering. Nature, 247, 4948, p 1344–48, 1999.
6. Dehaene S., Changeux J.P. A hierarchical neuronal network for planning behavior. Proc. Nat. Acad Sciences USA, 94, 13293-13298, 1997. Dehaene S., Changeux J.P. Reward-dependent learning in neuronal network for planning and decision making. Prog. Brain Res. , 126, 217- 229, 2000. Grossberg S. The link between brain learning, attention and consciousness. Conscious Cogn. 8, 1, 1-44, 1999.
7. Умрюхин Е.А., Судаков К.В. Теория хаоса: организующая роль функциональных систем. Российский физиологический журнал им. И.М. Сеченова. Т. 83, №5-6, 190-216, 1997.
8. Нейроинформатика-99. Дискуссия о нейрокомпьютерах. М. МИФИ. 2000.