Развитие моделей семантических нейронных сетей

Статьи / Интересное / История ВТ и языков программирования /

Назад

В статье рассматриваются существующие модели нейронных сетей. Делается вывод о необходимости наличия в нейронной сети возможностей самоанализа и самомодификации. Для обеспечения этих возможностей вводится понятие указателя на нейрон. Указатели представляют собой виртуальные связи между нейронами.

Предлагаю создавать модели искусственных нейронных сетей на основе виртуальной машины, поддерживающей возможности паранормальных эффектов.

Введение

Разработка программных систем, существующих в виртуальной реальности, отличается от разработок, результатом которых должны стать изделия, существующие в физической реальности.

При разработке программного обеспечения стоимость полученного продукта определяется расходом следующих ресурсов: 1 – памятью, необходимой для выполнения разработанной программной системы; 2 — производительностью программной системы; 3 — затратами на разработку этой системы.

Как показывает существующая практика, при разработке программных систем особенно велики затраты на первых этапах решения "безнадёжных" задач. В этом случае не ясна даже возможность решения поставленной задачи "в принципе".

К "безнадёжным" можно отнести и проблему создания искусственного интеллекта. Проблема интеллекта существует с древних времён, а проблема искусственного интеллекта с середины ХХ века.

Можно смело говорить, что в обозримом будущем проблема интеллекта не перестанет быть проблемой. Поэтому не стоит отбрасывать даже незначительную возможность преодоления кризиса, возникшего в исследовании разумного поведения. Следует рассматривать все гипотезы, которые могут помочь сделать шаг на пути познания загадки разума и сознания.

В процессе создания системы искусственного интеллекта можно затратить время на разработку действующего прототипа, даже если такой прототип будет использовать неоптимальные технические решения.

После постройки действующего прототипа станет возможно провести оптимизацию и получить промышленное решение. В связи с этим в данной работе применяется метод, альтернативный принципу бритвы Оккама.

Метод не будет предполагать ограничение количества сущностей. Наоборот, такие сущности будут вводиться при любом удобном случае. Будет иметь значение только одно — возможно ли в итоге извлечь из легиона таких лишних сущностей нечто прагматическое.

Возникает вопрос об оправданности такого метода разработки. В отличие от физической реальности, в информационной реальности такой подход вполне оправдан. Действительно, будут ли лишние сущности ухудшать ситуацию?

Свобода мышления разработчика от психологических табу стоит того, чтоб отказаться от бритвы Оккама, хотя бы на первых этапах. Свобода от табу придаст комфорт разработчику, что может значительно снизить затраты, или пусть окольным путём, но благодаря применению неординарных идей, привести к работоспособному прототипу.

Мы рассматриваем вычислительную систему. Система искусственного интеллекта будет существовать в виртуальной реальности. И это не будет физическая реальность, в которой существует человек.

Реальность, в которой будет существовать искусственный интеллект, имеет право быть любой, как бесконечно сложнее физической реальности, так и бесконечно проще её.

Принципы построения (законы), действующие в виртуальной реальности, могут походить на законы естественной реальности в весьма малом объёме. Нам не обязательно делать искусственный интеллект по образу и подобию естественного интеллекта. Мы вправе создавать любую виртуальную реальность с любыми свойствами.

Мы можем неограниченно погружать одни уровни виртуальных реальностей в другие, пересекать либо нарушать разделяющие их границы [1]. Главное — обеспечить возможность моделирования полученного абстрактного решения на существующей в нашей физической реальности вычислительной технике.

Возникает вопрос об отношении к таким методам разработки. Допустим, что в виртуальной реальности уже построен действующий прототип системы искусственного интеллекта. Этот прототип основан на законах, действующих в виртуальном мире, и не основан на законах обычного физического мира.

Возникает вопрос: может ли устройство этой системы осветить устройство интеллекта естественного? Будет ли это интеллектом?

Устройство интеллекта искусственного может и не соответствовать устройству интеллекта естественного. Аналогия может раскрыть только общие принципы, которым подчиняются подобные системы.

Реальность естественного интеллекта может оказаться как гораздо сложнее и грандиознее, так и гораздо примитивнее искусственного интеллекта, разработанного на основе нестрогой методологии.

Следовательно, даже если на основе данной работы в некотором будущем будет создан действующий прототип, то его устройство никак нельзя считать претендующим на корректное соответствие устройству интеллекта естественного.

Искусственные нейронные сети

Часто, когда речь идёт об искусственных нейронных сетях, имеются в виду сети персептронного типа. В этом случае нейрон состоит из синапсов, умножающих входные сигналы на свой вес, сумматора и активационной функции.

Из множества таких нейронов создаётся некоторая топология, обычно нейроны группируются в многослойную структуру. Затем полученная сеть обучается одним из алгоритмов обучения, например, алгоритмом обратного распространения ошибки [2].

Структура сети полностью задаётся разработчиком. Количество нейронов или связей не изменяется. Конечно, это описание упрощённой картины искусственной нейронной сети персептронного типа, однако для дальнейшего хода рассуждений такого представления будет вполне достаточно.

Теперь рассмотрим идею нейронной сети более высокого уровня абстракции. Что есть нейронная сеть как идея? Нейрон есть узел, обрабатывающий поступающую к нему информацию и передающий результат остальным узлам. Особо важна одновременность работы всех нейронов.

Сложность обработки внутри нейрона, очевидно, не является существенным фактором в данном контексте. Нейрон может выполнять как элементарно простые, так и весьма сложные операции. Особой функциональной разницы для всей системы это не повлечёт.

При необходимости можно объединить группу элементарных операций в ансамбль нейронов и работать уже со сложными функциями таких абстрактных образований. В этом случае узлы со сложным поведением могут моделироваться группой элементарных нейронов.

При условии эквивалентности нейронной сети машине Тьюринга, такая сеть будет в состоянии вычислить любую вычислимую функцию. Следует заметить, что ничего не мешает разработчику воспользоваться продекларированной ранее свободой и создать нейроны с любым поведением, необходимым для решения поставленной задачи.

Нейронная сеть, очевидно, может реализовать любую функцию, какую только разработчики в состоянии измыслить и формально описать. Однако доказать возможность реализации любой функции — это только начало. Для практического применения разработанной системы необходимо реализовать не любую, а некоторую конкретную и полезную в данном контексте функциональность.

Чего не хватает описанной абстрактной нейронной сети, выполняющей любую вычислимую функцию? Возможности изменять эту функцию в динамике.

Если структура сети будет жёстко определена, как у классического персептрона, то, будучи один раз реализованной согласно проекту, такая сеть сможет адаптироваться к изменившимся условиям в весьма жёстких пределах, обусловленных её структурой.

Конечно, возможно применить методологию метапереходов [3] и работать с динамикой обрабатываемых импульсов, но это будет побег от проблемы, а не её решение.

Возможность самомодификации и самоанализа требует наличия динамики топологии. Необходимо, чтобы нейронная сеть смогла обрабатывать свои нейроны как данные. Тогда одна часть нейронной сети может изменять топологию её другой части.

Интересно, что ещё в 1957 году, Джон фон Нейман создал архитектуру нейронной сети, принципиально отличную от персептронной (ограничения, накладываемые кристаллической решеткой, мы рассматривать не будем, за деталями реализации оригинального "самовоспроизводящегося автомата" лучше обратится к работе [4]). Её свойствами, существенными для данной работы, являются следующие:

— Нейрон представляет некоторое достаточно простое устройство по переработке входных сигналов. В оригинале были использованы логические функции конъюнкции, дизъюнкции и инверсии.

— Нейрон может динамически изменять выполняемую функцию. Один и тот же нейрон в разное время может выполнять разные функции. В один момент времени — только одну из возможных функций.

— Нейрон может динамически менять соединения с другими нейронами.

— Одна часть нейронной сети может анализировать состояние другой части сети.

— Одна часть сети может изменять топологию другой части нейронной сети.

При математически полном наборе функций их сложность отразится только на вычислительной эффективности. Как показал фон Нейман в своей работе [4], такая нейронная сеть эквивалентна машине Тьюринга.

При этом необходим только одноуровневый метапереход [3], в результате которого такая нейронная сеть напрямую реализует конечный автомат, эквивалентный машине Тьюринга, и ленту с программой.

В сети фон Неймана главное — не функция, выполняемая нейроном. Главным является способность к саморефлексии и самомодификации.

Допустим, в сети уже сформирована некоторая структура. В описываемой сети один участок нейронной сети может проанализировать структуру другого участка. Затем принять некоторые решения на основе этого анализа и провести изменение связей или типов нейронов.

Одна часть нейронной сети может использовать другую часть нейронной сети в качестве банка памяти, динамически подсоединяясь к отдельным нейронам-ячейкам, считывая их состояние или изменяя это состояние.

Интересна аналогия, которую можно провести между молекулой ДНК и лентой в таком автомате. Более того, одна часть нейронной сети может выпустить "конструирующий рукав" и собрать из отдельных нейронов устройство, выполняющее некоторые функции.

При этом память, расположенная в "ленте" используется как ДНК, на основе которой конструируется некоторый участок нейронной сети.

Семантические нейронные сети

Рассмотрим семантические нейронные сети [5] и те следствия, которые возникают в процессе применения идей фон Неймана к этим сетям. Постулируем возможность [1] разработать такую виртуальную реальность, которая была бы наиболее интересна нам, как её пользователям.

В сети фон Неймана существуют ограничения на топологию связей — постулируем отсутствие таких ограничений. Обрабатываются только логические значения – постулируем обработку нечётких значений.

Все нейроны в сети фон Неймана синхронизируются тактами. Для возможности использования самосинхронной схемотехники постулируем наличие синхронизированных и не синхронизированных нейронов.

В отличие от сети фон Неймана, в семантической нейронной сети отсутствуют ограничения на топологию нейронов. Это приводит к невозможности относительной адресации нейронов, как это делал фон Нейман. В этом случае, необходимо ввести абсолютную адресацию.

Каждый нейрон должен иметь некоторый уникальный идентификатор, зная который можно получить к нему прямой доступ. Разумеется, нейроны, которые взаимодействуют друг с другом через аксоны-дендриты, должны иметь идентификаторы друг друга.

Относительную адресацию можно моделировать, введя специфичность нейронов, аналогично тому, как это реализовано в биологических нейронных сетях [6].

В первоначальном описании семантической нейронной сети [5] отсутствует описание способностей к саморефлексии и самомодификации. Конечно, можно сказать, что семантическая нейронная сеть унаследовала эти способности от её прототипа — сети фон Неймана.

Да, это так, идея саморефлексии унаследована. Но от простой идеи далеко до практической реализации. Итак, требуется обеспечить анализ и модификацию структуры одного фрагмента нейронной сети другим её фрагментом.

Допустим, что нечётких данных, передаваемых от нейрона к нейрону, будет для этого недостаточно. Постулируем наличие указателя на нейрон. Этот указатель будет просто уникальным номером — идентификатором нейрона в хранилище нейронов.

Пусть нейроны в состоянии обрабатывать не только нечёткие данные, но и указателями друг на друга. Очевидно, что совершенно реально реализовать это технически.

Теперь необходимо осмыслить, что есть такой указатель. Указатель на нейрон представляет собой виртуальную связь, которая не реализована в виде дендрита или аксона. Пусть в сконструированной виртуальной реальности, нейроны будут взаимодействовать друг с другом не только посредством передачи сигналов через аксоны-дендриты, но и с помощью паранормальных эффектов.

Итак, нейрон будет иметь сигнальные входы, сигнальные выходы и набор виртуальных связей с другими нейронами. Нейрон будет иметь возможность взаимодействовать с другими нейронами, владея их указателями, но не имея с ними сигнальных связей.

Так же очевидно отличие между указателями и сигнальными связями. Сигнальные связи являются двухсторонними структурными образованиями, связанными как с источником, так и с приёмником сигнала.

Указатель же односторонен. Владелец идентификатора некоторого нейрона в состоянии инициировать взаимодействие с этим нейроном. Определить наличие указателя на некоторый нейрон технически невозможно без проведения поиска такого указателя.

Связи, проявленные в виде аксонов и дендритов, можно рассматривать как долговременную память системы, инвариантную к контексту. Сигналы и указатели, обрабатываемые нейронами — как сверхоперативную информацию, зависящую от текущего контекста. Потеря сигналов или указателей (по аналогии с эпилептическим припадком) не должна повлиять на проявленную структуру и привести к изменениям в долговременной памяти или личности.

Наличие таких указателей приводит к возможностям косвенного взаимодействия. Аналогом из традиционных языков программирования является двойная или тройная разадресация. В этом случае некоторый нейрон-1, имеющий виртуальную связь с нейроном-2, в состоянии взаимодействовать с нейроном-3 при условии, что нейрон-2 владеет указателем на нейрон-3.

Это приводит к широким возможностям взаимодействия одного нейрона с другим нейроном без непосредственного контакта как через проявленные, так и через виртуальные связи.

Для обеспечения саморефлексии в сети можно ввести нейроны, выполняющие функции анализа и изменения структуры сети.

Введём нейроны-рецепторы, реагирующие на структурные элементы конструируемой нейронной сети. Такие нейроны-рецепторы могут переходить в возбуждённое состояние при выполнении некоторых определённых условий, описывающих наличие или отсутствие нейронов и связей между нейронами с определёнными характеристиками.

Так же введём нейроны-эффекторы, которые, будучи переведены в возбуждённое состояние, выполняют некоторую модификацию структуры нейронной сети.

Для обеспечения полноты системы необходимо обеспечить самоприменимость нейронов-рецепторов и нейронов-эффекторов. Нейрон-рецептор должен иметь возможность анализировать другие нейроны-рецепторы, в том числе и того же типа, что он сам.

Нейроны-эффекторы должны уметь модифицировать другие нейроны-эффекторы, а не только нейроны, выполняющие обработку сигналов. Это возможно благодаря наличию указателей на нейроны, постулированных ранее.

В качестве нейронов-рецепторов можно постулировать нейроны, определяющие наличие или отсутствие нейронов определённых типов, связанных с некоторым нейроном; или нейроны, определяющие наличие связи между заданными нейронами, или наличие или отсутствие связи определённого типа у некоторого нейрона.

В случае удовлетворения условия, нейрон-рецептор принимает возбуждённое состояние, в обратном случае – пассивное. В качестве нейронов-эффекторов можно постулировать нейроны, связывающие два нейрона некоторой связью, нейроны создающие другие нейроны, эффекторы, уничтожающие нейроны или связи. Если уровень возбуждения превысит некоторый порог, то нейрон-эффектор выполнит свою функцию.

В системе ELEX [7] был проведён эксперимент по синтезу структуры нейронной сети на основе внешнего задания средствами самой нейронной сети. В виртуальной машине, выполняющей семантическую нейронную сеть, была реализована поддержка следующих типов нейронов связанных с самоприменимостью:

Нейрон линковщик — связывает два нейрона сигнальной (реальной) связью, на которые указывают виртуальные указатели.

Нейрон копировщик — копирует виртуальную связь из одного нейрона в другой нейрон.

Нейрон репликатор — заставляет делиться нейрон, на который указывает его первая виртуальная связь; сохраняет виртуальную связь с новым нейроном во второй виртуальной связи.

Нейрон-поглотитель нейрона — уничтожает нейрон, на который указывает виртуальная связь

Нейрон-поглотитель связи — уничтожает сигнальную связь между двумя нейронами, на которые указывают виртуальные связи.

Нейрон-хранитель указателя — хранит указатель на некоторый нейрон, аналогичен обычной ячейке памяти компьютера.

Рассмотрим возможность восстановления семантической нейронной сети после повреждений. Очевидно, что структура нейронной сети определяет индивидуальность интеллекта. Смерть нейрона означает забывание соответствующей ему информации.

Восстановить информацию о наличии некоторого нейрона про розового слона без знания того, что система имеет знание об этом слоне — невозможно. Если мы постулируем, что наличие нейрона означает наличие знания о слоне, то отсутствие нейрона означает отсутствие этого знания. Уничтожение нейрона уничтожило знание.

Уничтожение нейрона означает необратимое забывание. Следовательно, регенерация нейронной ткани по заданному в ДНК образцу представляется невозможной. Чтобы восстановить повреждённый нейрон, необходимо заново обучится той же информации.

Семантика нейрона определяется не его внутренним состоянием или внутренней сложностью. Она определяется связями нейрона с его соседями. Только соседи определяют семантику отдельного нейрона.

Поэтому не важно, в какой конкретной точке пространства будет находиться ансамбль нейронов, описывающий понятие розового слона. Главное, чтобы имелись связи, позволяющие определять "слоновость" и "розовость".

Регенерация повреждённых рецепторов, эффекторов или других регулярных структур вполне возможна. При отсутствии повреждений в семантических структурах, связанных с повреждёнными регулярными структурами, сохраняется возможность заново восстановить связи регенерированных регулярных структур.

Даже если не удастся полностью восстановить точную копию регулярной структуры бывшей до регенерации, изоморфизм связей позволит выполнять вновь регенерированным нейронам ту же функциональную нагрузку.

Повреждения центральной нервной системы могут быть устранены во время повторного обучения. Если нейрон-розовый-слон будет уничтожен, то система забудет о таком слоне. Когда же в поле рецепторов попадёт некоторый розовый слон, то будет создан новый нейрон в любом другом месте нейронной сети, связанный с соседями так, чтобы отражать новое понятие.

Регенерация нейронной сети, будет идти не в области повреждения, а в области сохранившейся ткани. Повреждённую область, для исключения "эффекта эпилепсии", желательно дегенерировать и рассосать.

В дальнейшем, по мере обучения, здоровая ткань с увеличением количества вновь образованных нейронов, займёт место повреждённой. Очевидно, расширение будет происходить только по мере обучения новой информации.

Метамодели

Семантическая нейронная сеть является абстрактной моделью. В реальности она может выполняться под управлением некоторой виртуальной машины. Это значит, что законы реальности, в которой будут существовать нейроны, полностью определяются виртуальной реальностью.

Есть ли необходимость обеспечивать стабильность этих законов? Если мы введём в виртуальную машину возможность в некоторых обоснованных случаях нарушать обычные законы, существующие в виртуальной реальности, то это может оказаться весьма полезным свойством.

Разработчик как создатель новой виртуальной реальности технически в состоянии нарушить правила, установленные в этой реальности, или временно изменять эти правила.

Если мы наделим виртуальную машину возможностью анализировать выполняющуюся в данный момент нейронную сеть, то такая машина может изменять структуру нейронной сети или параметры передающихся по связям сигналов.

С точки зрения нейронной сети, такое временное нарушение законов будет выглядеть похожим на недетерминированную случайность или чудо.

Виртуальные чудеса значительно облегчают разработку системы. Вместо того, чтобы полностью реализовывать некоторый программный блок средствами нейронной сети (что возможно благодаря эквивалентности нейронной сети машине Тьюринга), можно реализовать тот же самый сервис средствами более низкого уровня и активировать его по мере необходимости. Это сэкономит время разработки и значительно повысит производительность системы.

А с точки зрения нейронной сети, работа, которая должна занимать значительные ресурсы, реализуется благодаря виртуальному чуду практически мгновенно.

Благодаря наличию виртуальных связей между нейронами возможно разделить модель сети на субмодели. Назовем такие субмодели телами.

Физическое тело будет состоять из тел нейронов и связей между нейронами, и существовать в пространственном континууме.

В отличие от реального физического мира, количество пространственных измерений в виртуальном мире может быть не равно 3. Информационное тело будет состоять из импульсов, передающихся между нейронами.

Астральное тело будет состоять из виртуальных связей между нейронами и из общих принципов организации нейронной сети, не отражённых в логике поведения отдельного нейрона. Модели физического, информационного и астрального тел будут выполняться во время работы виртуальной машины.

Пространство предоставляет базу для размещения тел нейронов и их связей. В семантической нейронной сети пространство имеет меньше, чем одно измерение, так как идентификаторы нейронов, адресующие нейроны в хранилище, не обладают отношением порядка.

Следовательно, нейроны нельзя выстроить по порядку с точки зрения их организации в пространстве хранилища нейронов. Каждый нейрон может иметь контакт с любым нейроном без ограничений на расстояние между ними или на топологию связей. Условно назовём такое пространство 0-мерным.

В рассматривавшейся нейронной сети фон Неймана пространство двумерное. В случае реализации сети на двумерном кристалле эффективная эмуляция 0-мерного пространства практически невозможна из-за наличия ограничений на топологию связей между нейронами.

В случае применения трёхмерного кремниевого кристалла, придётся большую часть компонент отдать не для обработки сигналов, а для обеспечения коммуникации между отдельными нейронами.

В кремниевом нейронном вычислителе будет тяжело реализовать динамическую коммутацию связей между нейронами во времени. Будет практически невозможно реализовать создание новых нейронов. В кремнии придётся заранее создавать неиспользуемые резервные нейроны и подключать их в сеть по мере необходимости.

Реализация нейронной сети на базе кремниевой технологии возможна на основе трёхмерного кристалла, в котором ячейки имеют свои адреса, аналогичные IP-адресам, а маршрутизаторы в состоянии устанавливать соединения между ячейками по командам, генерируемым самими ячейками.

Исходя из этого, более перспективным выглядит реализация модели нейронной сети на основе биологической ткани, которая обладает естественной способностью изменять свою структуру во времени.

Модель астрального тела, в первую очередь, должна обеспечить возможность формирования указателей на нейроны и возможность передачи этих указателей между вычислительными структурами. Тогда одни нейроны могут передавать в сигналах указатели на другие нейроны.

Так же на модель астрального тела можно выложить функции обучения нейронной сети, такие как обратное распространение ошибки [2], СУТ Амосова [8], синтез синхронизированного линейного дерева [9] и другие. Такое решение эффективно в случае отсутствия необходимости изменять организующий принцип в течение жизни нейронной сети.

Более эффективно сформировать универсальную в смысле Тьюринга модель астрального тела, и обеспечить его взаимодействие с физическим и информационным телами.

Модель астрального тела может выполнять множество функций, в том числе отвечать за реализацию виртуальных чудес. Модель астрального тела в состоянии проторять новые связи между нейронами, а также превращать клетки глеи в новые нейроны. Старые нейроны делить не рационально.

В семантической нейронной сети каждый нейрон соответствует некоторому понятию предметной области. Деление нейрона приведёт к делению понятия – а это операция, не эквивалентная обучению новому понятию.

Если в процессе обучения осуществлять бесконтрольное деление нейронов, то, вероятнее всего, в системе наступит информационный хаос. Гораздо эффективнее постулировать наличие чуда и морфировать пространство (клетку глии) в нейрон сразу в том месте, где он нужен.

При необходимости можно производить миграцию нейронов, однако в случае 0-мерного пространства, удобного для моделирования на ЭВМ, эффективность миграции нейронов сомнительна.

Выводы

Физическое тело (нейронная сеть) управляет эффекторами системы и предоставляет информацию астральному телу, необходимую для модификации структуры нейронной сети.

Астральное тело, пользуясь правилами обучения, которые хранятся в структуре нейронной сети (память), изменяет (обучает) эту нейронную сеть, в том числе и новым правилам обучения. Таким образом, любые правила обучения/синтеза топологии нейронной сети становятся частным случаем всех возможностей этой сети.

В результате разработанная нейронная сеть может быть эффективно реализована средствами существующей вычислительной техники.

Семантическая нейронная сеть эквивалентна машине Тьюринга благодаря постулированной свободе разработчика. Это означает, что на её основе можно реализовать систему, вычисляющую любую функцию вычислимую на машинах Тьюринга. Например, такая сеть, в качестве частного случая, может моделировать многослойный персептрон с обратным распространением ошибки.

Так нейроны персептрона можно сконструировать из отдельных нейронов такой сети, выполняющих по отдельности функции суммирования, умножения и функцию активации.

Алгоритм обучения персептрона можно реализовать в виде отдельного фрагмента такой сети, анализирующего и модифицирующего фрагмент, соответствующий, собственно, персептрону.

Список литературы:

1. Дударь З. В., Шуклин Д. Е. Реализация нейронов в семантических нейронных сетях // Радиоэлектроника и информатика. Х.: Изд-во ХТУРЭ, 2000. — №. 4. С. 89-96.

2. Уоссермен Ф. Нейрокомпьютерная техника, М.: Мир, 1992 — 260 с.

3. Турчин В. Ф. Феномен науки: Кибернетический подход к эволюции. Изд. 2-е – М.: ЭТС. — 2000. — 368 с.

4. Нейман Дж. фон Теория самовоспроизводящихся автоматов/ закончено и отредактировано А. Бёрксом. — М.: "Мир", 1971. — 384 с.

5. Дударь З. В., Шуклин Д. Е. Семантическая нейронная сеть как формальный язык описания и обработки смысла текстов на естественном языке // Радиоэлектроника и информатика. Х.: Изд-во ХТУРЭ, 2000. — №. 3. С. 72-76.

6. Гейз Р. Образование нервных связей. /Перевод с англ. Н. Ю. Алексеенко. М. Мир. 1972. – 300 с.

7. Шуклин Д. Е. Применение семантической нейронной сети в экспертной системе, преобразующей смысл текста на естественном языке // Радиоэлектроника и информатика. Х.: Изд-во ХТУРЭ, 2001. — №. 2. С. 61-65.

8. Амосов Н. М., Касаткин А. М., Касаткина Л. М., Талаев С. А. Автоматы и разумное поведение. Опыт моделирования. — Киев: "Наукова думка", 1973. – 261 с.

9. Шуклин Д. Е. Структура семантической нейронной сети извлекающей в реальном времени смысл из текста // Кибернетика и системный анализ. Киев. Изд-во Института кибернетики НАН Украины, 2001. — № 2. C. 43-48.

Дмитрий Шуклин — кандидат технических наук, научный сотрудник кафедры автоматизации проектирования вычислительной техники Харьковского национального университета радиоэлектроники. Связаться с автором статьи можно по адресу shuklin@hotmail.com.

Источник membrana.ru