Нейронные сети и их перпективы

 
 

    Содержание 

1. Цель (цели) идеи;
2. Описание предлагаемого решения (продукта);
3. Анализ текущей ситуации по решаемой теме;
4. Предложенные методы и инструменты реализации

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Описание предлагаемого решения (продукта);

     Каким должно быть "идеальное" устройство обработки смысла? Какие характеристики оно должно иметь? Перечислим некоторые "очевидные" свойства, необходимые  такому устройству: возможность реализации в парадигме материального мира, очень высокая степень распараллелености вычислительных процессов; высокая надежность, способность оперировать нечеткой и неполной информацией, способность оперировать связями между различными понятиями. Кажется, что этим условиям полностью удовлетворяет вычислитель, построенный на основе нейронной сети.

       Приведем список понятий, которые должны обрабатываться нейронной сетью: объекты, отношения между объектами, нечеткие факторы уверенности и логические величины. Возможно, этот список окажется настолько неполным, что его изменение повлечет за собой полный пересмотр подходов к решению рассматриваемой проблемы, однако на данное время он выглядит более чем достаточным. Представление перечисленных понятий в нейронной сети не вызывает каких либо затруднений. Так отдельные элементарные объекты представляются в виде отдельных нейронов. Более сложные объекты, образованные от элементарных объектов, будут представлены либо совокупностью этих объектов, либо будут абстрагированы до нового элементарного объекта. Элементарные отношения между элементарными объектами представляются в виде связей между нейронами.

     Сложные отношения или классы отношений  между объектами фактически являются сложными понятиями-объектами и  могут обрабатываться как совокупности элементарных объектов, связанных между  собой элементарными связями. Факторы  уверенности представляются в виде градиентных величин, обрабатываемых и передаваемых нейронами.

     Итак, похоже, теперь можно более точно  сформулировать вопрос о том, что  такое смысл: "какое формализованное  представление информации наиболее естественно для представления  мгновенного смысла текста в нейронной сети?". Ответ кажется очевидным: Смыслом обработанной части текста является мгновенное состояние части нейронной сети, ответственной за извлечение информации из входного потока символов. Мгновенное состояние нейронной сети включает в себя мгновенный снимок множества нейронов, множества связей между нейронами и множества внутренних состояний нейронов. Таким образом, смыслом текста, обрабатываемого нейронной сетью является состояние этой нейронной сети.

     Для успешной реализации алгоритмов понимания  смысла предложений на естественном языке с помощью последовательных цифровых вычислительных машин необходим  формальный язык описания смысла предложений. Под формальным языком будем понимать некоторый набор методов, с помощью  которых можно автоматически  описывать и обрабатывать смысл  естественного языка. При определении  формального языка будем руководствоваться  в первую очередь критерием достаточности. То есть формальный язык должен позволить  описывать смысл текста и алгоритмы  обработки смысла, в форме, пригодной  для автоматической обработки на вычислительной технике. Формальный язык должен обрабатываться на вычислительной машине без значительной потери производительности на неэффективных операциях. Так  как объем информации, обрабатываемый как смысл предложения, настолько  огромен, что описать его с  помощью карандаша и бумаги не представляется возможным, то формальному  языку совершенно не нужно быть пригодным  к ручной обработке человеком. 
 
 
 
 
 
 

Анализ текущей ситуации по решаемой теме

     Нейронные сети могут быть записаны практически на любом языке программирования на любой машине.  Что помогает ему быстро развиваться и появлению таких языков так PLNLP язык Программирования для Обработки Естественного Языка, созданный Хайдерном. Этот язык используется для работы с большими грамматиками с обширным покрытием На данный момент это только развивающая область ИТ индустрий поэтому применение моего проекта поможет развить эту область в Казахстане.  
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Предложенные  методы и инструменты реализации

     Для обеспечения работы человека с вычислительной системой на естественном языке необходимо реализовать автоматическое понимание  смысла текста. Электронные вычислительные машины в состоянии обрабатывать только формализованные языки. Так  как естественный язык не формализован, то вычислительная система не в состоянии  его обрабатывать. Автоматическая обработка  смысла текста естественного языка  возможна только при наличии его  формализованного представления.

     Успех в формализации понимания смысла естественных языков достигнут на пути использования аналогии между математическими и естественными языками. Алгебрологический подход к пониманию смыслов текстов на естественном языке разработан в теории интеллекта. В этой теории выделяется объективная реальность, в которой находится субъект. На органы чувств субъекта поступают некоторые сигналы, которые несут информацию о фрагменте реальности, воспринимаемой субъектом. Эти сигналы представляют собой множество значений. Например, в случае, когда субъект наблюдает стол и лежащую на нем книгу, в качестве этих значений будут выступать "стол", "книга" и "лежит". Также в сигналы будут включены все параметры фрагмента реальности, воспринимаемой субъектом, такие как освещенность, сила гравитации, звуки…

     Внутреннее  представление фрагмента реальности представляет собой ситуацию. Ситуация выступает в роли имитационной модели фрагмента реальности, и является субъективной. Множеству всевозможных фрагментов реальности соответствует  множество внутренних представлений - ситуаций. Поэтому можно говорить о существовании некоторой функции  преобразующей фрагмент реальности в ситуацию. Преобразование фрагмента  реальности в ситуацию называется восприятием. Входные аргументы этой функции  имеют область определения в  виде множества фрагментов реальности и называются ситуационными переменными. В качестве значений этих переменных выступает информация, извлекаемая  из фрагмента реальности. Выходные значения функции восприятия имеют область определения в виде множества всевозможных ситуаций.

     Процесс понимания смысла текста на естественном языке также можно рассматривать  как вычисление некоторой функции  по преобразованию фрагмента реальности - текста во внутреннюю модель - ситуацию и далее в смысл текста. В  алгебраической логике выдвигается  гипотеза о том, что предложения  естественного языка представляют собой формулы некоторой алгебры. Математические тексты тоже пишутся  в виде отдельных предложений  и называются высказываниями. Если эта гипотеза подтвердится, то станет возможным обрабатывать естественный язык так же, как и математические выражения. В математике абсолютно  точно установлено, что такое  смысл высказывания. Смысл высказывания - это предикат выражаемый этим высказыванием. Аргументами этого предиката являются переменные, которые присутствуют в этом высказывании.

     По  аналогии с математикой предполагаем, что и в естественном языке  смыслом также является некоторый  предикат. В математическом высказывании есть свободные переменные и связанные  переменные. Значением математического  выражения является истина или ложь, например выражение P(X,Y,Z)=(X+Y=Z) ставит в  соответствии трем переменным X,Y,Z значение истина или ложь предиката P. В этом случае, для переменной Z областью определения, в которой предикат P имеет значение истина, будет множество значений X+Y.

     Рассмотрим  предложения естественного языка. Все предложения бывают либо истинными, либо ложными. Они получают свое значение только в зависимости от внешних  факторов. Например: значение предложения "идет дождь" зависит от состояния  погоды в данный момент. Ситуация - внешний  фактор, от которого зависит значение предиката. Если указать ситуацию, к  которой применено высказывание "идет дождь", то можно получить результат этого высказывания в  виде логического значения. Ситуация представляет собой набор переменных ситуации и их значений. Как уже было отмечено ранее, ситуация фактически является имитационной (виртуальной) моделью реального мира. То, что происходит в реальном мире - фрагмент реальности. Фрагмент реальности является источником ситуации. Реальность может быть объективной и субъективной. Для ситуации указывается фрагмент реальности, к которому эта ситуация относится. Человек разделяет фрагмент реальности на признаки и находит их значения. Из фрагмента реальности извлекается ситуация - набор ситуационных переменных, и набор значений ситуационных переменных - постоянные ситуации. Это еще не понимание, это узнавание или восприятие. На входе процесса восприятия - фрагмент реальности, а на выходе - постоянные ситуации для набора переменных ситуации. На данный момент является загадкой, как человек производит выбор переменных ситуации.

     Если  допустить, что текст на естественном языке – это математическая формула, записанная по правилам, которые нам  пока не известны, то смыслом предложения  на естественном языке является некоторый  предикат. Тогда в математике, к  которой принадлежит эта формула, должны присутствовать такие элементы, как переменные, операции над переменными, операции над операциями. Последовательность операций над переменными и операциями будет записана в виде формул. Пусть  областью определения этой математики является множество всех мыслей возникающих  у человека в течении всей его жизни. Как не велико это множество, оно всё же конечно. Мы должны будем выбрать набор аксиоматических понятий для такой математики. Если на основе выбранных аксиом мы сможем получить любую мысль из области определения, то можно говорить, что математика, описанная этим набором аксиом, является полной. Возникает кажущаяся трудность в отсутствии переменных в предложениях естественного языка. Например, в предложении «на столе лежит книга» такие переменные отсутствуют. На самом деле переменные присутствуют в неявном виде. Они подразумеваются нами при разговоре, но не употребляются для краткости. Если записать это предложение в другом виде то трудность исчезнет: «на столе X лежит книга Y».

     За  основу предлагаемой математики возьмём  логику предикат. Областью определения  предикатов будет множество всех мыслей возникающих у человека. Каждой мысли, которая может возникнуть у человека, будет соответствовать  предикат. Под предикатом мы будем  понимать функцию узнавания сущности, имеющую логическое значение истина или ложь. Под сущностью мы будем  понимать реально существующий либо существующий только в нашем воображении  предмет, идею, объект…

Будем обозначать предикат как

p(X1,X2,X3, … ,XN)

Где

X1 - XN –  ситуационные переменные;

p – имя предиката.

     В случае, когда ситуационные переменные соответствуют ситуации, узнаваемой предикатом, он принимает значение «Правда» иначе – «Ложь».

Ситуационные  переменные могут принимать как  значения из внешнего мира, так и  значения из внутреннего мира –  предикаты. В случае, когда значением  ситуационной переменной является предикат, то предикат, в который входит эта  переменная, является операцией над  предикатом, являющемся значением этой переменной: p(q(X))=p_q(X). Предикат p_q является значением действия предиката p на предикат q: p_q=p(q).

Например, в предикатной записи предложение  «на столе X лежит книга Y» будет  записано в виде :

     На  столе X лежит книга Y = На столе лежит  книга (X,Y) = лежит_на_столе_книга(X, Y) = На(X,Y) Щ Стол(X) Щ Книга(Y) Щ Лежит(Y).

Высказывание  «очень большая книга X» будет  записано как:

Очень большая книга X = очень_большая_книга(X).

Высказывание  «ножка стула» будет записано как:

Ножка(У) стула(Х)=ножка(Х) Щ стул(У) Щ Деталь(Х,У)

     Для построения описанных формул алгебры  логики применяется лингвистический  эксперимент. При проведении лингвистического эксперимента выбирается "подопытный", который будет играть роль "оракула". Экспериментатор предъявляет ситуацию оракулу и задает ему вопрос касающейся представленной ситуации. Оракул дает ответ на поставленный вопрос. Ту же ситуацию и тот же вопрос предъявляются  разрабатываемой системе. По совпадению ответов на предъявленный вопрос судят о правильности реализации разрабатываемой формальной системы. Таким образом предъявляя испытуемой системе различные ситуации мы можем  узнать соответствует ли предъявленная  ситуация описанию ситуации, находящемуся в памяти системы.

     Структура предложения выражается структурой формулы предиката. Смысл предложения  выражается функцией, реализуемой предикатом. Два текста разной структуры обычно имеют формулы предикатов разной структуры. Однако если эти предикаты  выражают тождественно равные функции, то и тексты выражают одинаковый смысл. Тождественность функций двух разных предикатов означает, что при любой  ситуации эти два предикаты имеют  равные значения. Предложения состоят  из слов. Слова тоже выражаются через  предикаты, узнающие эти слова. Слова  состоят из букв. Буквы обрабатываются предикатами узнавания букв. Поэтому  появляется возможность оперировать  данными с различных лингвистических  уровней, используя один математический аппарат. С помощью алгебры конечных предикатов произвольного порядка  были построены модели словообразования и словоизменения русского языка  и синтаксические модели построения предложений русского языка.

     Таким образом, восприятие - это функция, заключающаяся  в преобразовании фрагмента реальности в ситуационный предикат, понимание - это функция, заключающаяся в  преобразовании текста в смысловой  предикат, мышление - это функция, заключающаяся в вычислении значения смыслового предиката на основании его аргумента - ситуационного предиката. Входным аргументом функции мышления является субъективная модель внешнего мира - ситуация и смысловой предикат - смысл текста, результатом - значение смыслового предиката в данной ситуации. Синтаксис предложения - структура формулы предиката, а функция реализуемая предикатом - смысл этого предложения.