Распознавание и обучение на основе моделей нейронный сетей | MetodPro.ru

Реклама на сайте

Распознавание и обучение на основе моделей нейронный сетей


Коннекционистские модели машинного обучения используются в области искусственного интеллекта с момента появление персептрона Розенблатта. Название данных моделей происходит от английского слова connection (соединение, связь). В общем случае такие модели представляют собой сети, в которых узлы соединены направленными связями с определенными весами. Каждый узел выполняет обработку сигналов, поступающих на его вход, и рассматривается как некоторый процессорный элемент (ПЭ). Так как алгоритм функционирования процессорных элементов подобен алгоритмам преобразования информации в нервных клетках человека и животных – нейронах, то коннекционистские модели так же называют искусственными нейронными сетями (ИНС). В этом случае узлы сети – искусственный нейронные элементы. За последнее время искусственный нейронные сети нашли широкое применение при решении самых разнообразных задач, к которым относят:

1)      Распознавание рукописных знаков и речи.

2)      Сжатие различных сигналов.

3)      Обработка и понимание изображений.

4)      Экспертные системы

5)      Оптимизация.

6)      Прогнозирование и другие задачи.

Обучение искусственных нейронных сетей сводится к модификации весов связей между нейронными элементами. Существуют три различных подхода к обучению искусственных нейронных сетей:

1)      Обучение с учителем.

2)      Обучение с подкреплением.

3)      Обучение без учителя (самоорганизующиеся нейронные сети).

 

Модели нейронных элементов

Известно, что мозг человека содержит примерно 1011 нейронов. Каждый нейрон представляет собой живую клетку, состоящую из дендритов, сомы и аксона.

Дендриты – ветвеобразные отростки, которые обеспечивают сбор сигналов от других нейронов или рецепторов.

Сома нейрона представляет тело клетки. В соме происходят сложные биохимические процессы, благодаря которым осуществляется нелинейные преобразования сигналов, поступающих через дендриты.

Аксон – отросток клетки, по которому ее выходной сигнал поступает на дендриты других нейронов. Аксон разветвляется на большое число волокон. Место соединение волокон с дендритами называется синапсом. Сигналы, распространяющиеся в биологической нейронной сети, представляют собой короткие электрические импульсы. Под воздействием электрических импульсов, поступающих через синапсы и дендриты, изменяется потенциал сомы нейрона. В момент достижения им некоторого порогового значения нейрон вырабатывает электрический импульс, который распространяется вдоль аксона. Потенциал сомы резко снижается, нейрон как бы разряжается. Через некоторое время нейрон может опять сформировать импульс. Если импульсы, поступающие на синапс, приводят к повышению потенциала сомы, то такой синапс называют возбуждающим. Если импульсы, поступающие на синапс, приводят к повышению потенциала сомы, то синапс называют тормозящим. Биологически нейрон вырабатывает последовательность электрических импульсов, частота следования которых характеризует активность нейрона. При построении ИНС, в рассмотренную модель нейрона вносят существенные упрощения. При этом, в зависимости от степени абстрагирования получают различные модели формальных (искусственных) нейроподобных элементов (НЭ) и соответственно ИНС. На практике широкое распространение получили искусственные нейронные сети с формально логическими моделями НЭ когда Маккалох и Питтс предложили соответствующую модель НЭ. Рассмотрим модель формального Нерона, предложенную ими.

 

(рисунок)

 

В этой модели входные сигналы X1, Х2, … , Хm умножаются на соответствующие веса синоптических связей Wi1, Wi2, … , Win и суммируются, формируя значение Ui. Выходной сигнал i-го НЭ определяется с помощью выражения yi(t+1) = g(sum(j=1..m)(Wij*Xj(t))-PHIi). G(.) – функция преобразования нейрона. PHIi – пороговое значение, а m – количество входов НЭ. Для модели НЭ Маккалоха-Питса функция преобразования g(Ui) представляет единичную ступенчатую функцию, которая называется так же функцией Хевисайда и обозначается как h(Ui). Таким образом, выходной сигнал НЭ Yi равен 1, если sum(j=1..m)(Wij*Xj(t)) >= PHIi. В ином случае выходной сигнал НЭ равен 0. Выходной сигнал НЭ может меняться только в дискретный моменты времени (t, t+1, t+2 и т.д.). Выражение Ui = NETi = sum(j=1..m)(Wij*Xj(t))-PHIi = sum(j=0..m)(Wij*Xj(t)) определяет способ объединения входных признаков Xj. Оно может быть представлено функцией NETi, называемой сетевой или базовой функцией НЭ. Формальные модели нейронов отличаются между собой видом сетевой функции NETi и видом функции преобразования g(.).

Сетевая функция NETi является линейной. Кроме линейной сетевой функции в искусственных нейронных сетях широко используется квадратическая функция (значение в квадрате) и радиальная (сферическая).

 

Структуры нейронных сетей.

Искусственная нейронная сеть состоит из большого числа взаимосвязанных нейроподобных элементов. Структура нейронной сети отображается направленным графом в котором вершины – НЭ, а дуги представляют связи между НЭ. Дуга, направленная от НЭ с номером j к НЭ с номером i характеризуется весом Wij. Выделяют следующие основные разновидности структур искусственной нейронной сети:

1)      Однослойные искусственные нейронные сети с прямыми связями.

2)      Многослойные искусственные нейронные сети с прямыми связями.

3)      Однослойные рекуррентные искусственные нейронные сети (ИНС с обратными связями).

4)      Многослойные рекуррентные ИНС.

 

(рисунок 2) – однослойная ИНС с прямыми связями.

 

(рисунок 3) – многослойная ИНС с прямыми связями.

 

(рисунок 4) – однослойная рекуррентная сеть.

 

(рисунок 5) – многослойная рекуррентная сеть.

 

 

-- был Интернет-экзамен—

 

11.05.2010

Правило Ойя.

Это правило обеспечивает ограничение длины вектора связей iго нейрона единичным значением. Метод главных компонент сокращает размерность пространства, в котором представляются данные. Это обеспечивает широкое использование ИНС, основанных на правиле Ойя, и в частности на его модификации – в правиле Сэнгера, в задачах классификации и сжатия изображения. Правило Сэнглера, применительно к однослойной ИНС, состоящей из m линейных НЭ записывается в виде:

Delta Wij = ETTA * Yi * (Xj – SUMM(k=1..i)(YkWkj))



Методические пособия

  • Системы автоматизированного проектирования
  • Социология молодёжи
  • Общая социология
  • Криптография
  • Проектирование трансляторов
  • Компьютерная графика
  • Моделирование систем
  • Информационная безопасность
  • Теория вычислительных процессов
  • Логические основы искусственного интелекта
  • Проектирование распределённых информационных систем