Xreferat.com » Рефераты по информатике и программированию » Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

height="47" align="BOTTOM" border="0" />для всех нейронов этого слоя одинакова и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, условие (2.1) эквивалентно условию:


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL. (2.4)


Таким образом, будет активирован только тот нейрон, вектор весов которого w наиболее близок к входному вектору х. А так как перед началом обучения неизвестно, какой именно нейрон будет активироваться при предъявлении сети конкретного входного вектора, сеть обучается без учителя, т. е. самообучается. Вводя потенциальную функцию — функцию расстояния Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL («соседства») между i-м и j-м нейронами с местоположениями Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL соответственно, монотонно убывающую с увеличением расстояния между этими нейронами, Кохонен предложил следующий алгоритм коррекции весов:


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.5)


где Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL- изменяющийся во времени коэффициент усиления (обычно выбирают Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL на первой итерации, постепенно уменьшая в процессе обучения до нуля); Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL- монотонно убывающая функция.

Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.6)


Где Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL - векторы, определяющие положение нейронов i и j в решетке. При принятой метрике Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL функция Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL с ростом времени Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL стремится к нулю. На практике вместо параметра времени Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL используют параметр расстояния Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, задающий величину области «соседства» и уменьшающийся с течением времени до нуля. Выбор функции Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL также влияет на величины весов всех нейронов в слое. Очевидно, что для нейрона-победителя Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL:


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL. (2.7)


На рисунке 2.2 показан пример изменения двумерных весов карты Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, образующей цепь. При появлении входного образа Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL наиболее сильно изменяется весовой вектор нейрона-победителя 5, менее сильно — веса расположенных рядом с ним нейронов 3, 4, 6, 7. А так как нейроны 1, 2, 8, 9 лежат вне области «соседства», их весовые коэффициенты не изменяются.


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок – 2.2 Изменение весов карты Кохонена


Таким образом, алгоритм обучения сети Кохонена может быть описан так:

1. Инициализация

Весовым коэффициентам всех нейронов присваиваются малые случайные значения и осуществляется их нормализация. Выбирается соответствующая потенциальная функция Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL и назначается начальное значение коэффициента усиления Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL.

2. Выбор обучающего сигнала

Из всего множества векторов обучающих входных сигналов в соответствии с функцией распределения Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL выбирается один вектор Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, который представляет «сенсорный сигнал», предъявляемый сети.

3. Анализ отклика (выбор нейрона)

По формуле (2.1) определяется активированный нейрон.

4. Процесс обучения

В соответствии с алгоритмом (2.5) изменяются весовые коэффициенты активированного и соседних с ним нейронов до тех пор, пока не будет получено требуемое значение критерия качества обучения или не будет предъявлено заданное число обучающих входных векторов. Окончательное значение весовых коэффициентов совпадает с нормализованными векторами входов.

Поскольку сеть Кохонена осуществляет проецирование N-мерного пространства образов на М-мерную сеть, анализ сходимости алгоритма обучения представляет собой довольно сложную задачу.

Если бы с каждым нейроном слоя ассоциировался один входной вектор, то вес любого нейрона слоя Кохонена мог бы быть обучен с помощью одного вычисления, так как вес нейрона-победителя корректировался бы с Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL (в соответствии с (2.5) для одномерного случая вес сразу бы попадал в центр отрезка [а, b]). Однако обычно обучающее множество включает множество сходных между собой входных векторов, и сеть Кохонена должна быть обучена активировать один и тот же нейрон для каждого из них. Это достигается усреднением входных векторов путем уменьшения величины, а не при предъявлении каждого последующего входного сигнала. Таким образом, веса, ассоциированные с нейроном, усреднятся и примут значение вблизи «центра» входных сигналов, для которых данный нейрон является «победителем».


2.3 Выбор функции «соседства»


На рисунке 2.3 показан слой нейронов с нейроном-победителем, отмеченным черным кружком. Поскольку веса всех затемненных нейронов изменяются по-разному, в зависимости от их удаленности от нейрона-победителя, наиболее простым является выбор в качестве Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL некоторой величины, равной единице при Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, меньшей единицы для затемненных нейронов, т. е. нейронов, лежащих в непосредственной близости от активированного нейрона, и нулю для остальных, отмеченных светлыми кружками.


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.3 – Слой нейронов Кохонена


На практике же в качестве Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL выбирают функции, использующие евклидову метрику:


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.8)


где Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL — координаты i-гo и j-го нейронов.

К числу наиболее широко используемых потенциальных функций относятся:

а) колоколообразная функция Гаусса


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.9)


где Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL- дисперсия отклонения;


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.4 – Колоколообразная функция Гаусса


б) функция «мексиканская шляпа»


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.10)


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.5 – Функция «мексиканская шляпа»


в) косинусоидная функция


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL (2.11)

Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.6 – Косинусоидная функция


г) конусообразная функция


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL (2.12)


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.7 – Конусообразная функция


д) цилиндрическая функция


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL (2.13)


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.8 – Цилиндрическая функция


2.4 Карта Кохонена


Как правило, сначала строят довольно грубую карту (модель разбиения), постепенно уточняя ее в процессе обучения. Для этого необходимо медленно изменять не только параметр Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, но и, например, параметр Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL в формуле (2.9). Одним из эффективных способов изменения этих параметров является следующий:


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.14)

Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, (2.15)


где Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL; Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL; Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL; Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL - параметры, определяющие крутизну функции Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL; Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL- задаваемое число итераций.

На рисунке 2.9 показан процесс построения карты Кохонена, представляющей собой двумерную решетку, образованную путем соединения соседних нейронов, находящихся в узлах решетки. Исходя из начальных условий и используя алгоритм обучения (2.5), сеть по мере увеличения числа обучающих входных образов развивается и приобретает вид решетки. Внизу каждого рисунка поставлено количество образов, на основании которых получена соответствующая сеть.


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.9 – Построение карты Кохонена

Уникальность метода самоорганизующихся карт состоит в преобразовании n-мерного пространства в двухмерное. Применение двухмерных сеток связано с тем, что существует проблема отображения пространственных структур большей размерности. Имея такое представление данных, можно визуально определить наличие или отсутствие взаимосвязи во входных данных.

Нейроны карты Кохонена располагают в виде двухмерной матрицы, раскрашивают эту матрицу в зависимости от анализируемых параметров нейронов.

На рисунке 2.10 приведен пример карты Кохонена.


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.10 – Пример карты Кохонена


На рисунке 2.11 приведена раскраска карты, а точнее, ее i-го признака, в трехмерном представлении. Как мы видим, темно-синие участки на карте соответствуют наименьшим значениям показателя, красные - самым высоким.


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.11 – Раскраска i-го признака в трехмерном пространстве

Теперь, возвращаясь к рисунку 2.10, мы можем сказать, какие объекты имеют наибольшие значения рассматриваемого показателя (группа объектов, обозначенная красным цветом), а какие - наименьшие значения (группа объектов, обозначенная синим цветом).

Таким образом, карты Кохонена можно отображать:

в двухмерном виде, тогда карта раскрашивается в соответствии с уровнем выхода нейрона;

в трехмерном виде.

В результате работы алгоритма получаем такие карты:

а) Карта входов нейронов.

Веса нейронов подстраиваются под значения входных переменных и отображают их внутреннюю структуру. Для каждого входа рисуется своя карта, раскрашенная в соответствии со значением конкретного веса нейрона. При анализе данных используют несколько карт входов. На одной из карт выделяют область определенного цвета - это означает, что соответствующие входные примеры имеют приблизительно одинаковое значение соответствующего входа. Цветовое распределение нейронов из этой области анализируется на других картах для определения схожих или отличительных характеристик.

б) Карта выходов нейронов.

На карту выходов нейронов проецируется взаимное расположение исследуемых входных данных. Нейроны с одинаковыми значениями выходов образуют кластеры - замкнутые области на карте, которые включают нейроны с одинаковыми значениями выходов.

в) Специальные карты.

Это карта кластеров, матрица расстояний, матрица плотности попадания и другие карты, которые характеризуют кластеры, полученные в результате обучения сети Кохонена.

Координаты каждой карты определяют положение одного нейрона. Так, координаты [15:30] определяют нейрон, который находится на пересечении 15-го столбца с 30-м рядом в матрице нейронов. Важно понимать, что между всеми рассмотренными картами существует взаимосвязь - все они являются разными раскрасками одних и тех же нейронов. Каждый пример из обучающей выборки имеет одно и то же расположение на всех картах.

Полученную карту можно использовать как средство визуализации при анализе данных. В результате обучения карта Кохонена классифицирует входные примеры на кластеры (группы схожих примеров) и визуально отображает многомерные входные данные на плоскости нейронов.

При реализации сети Кохонена возникают следующие проблемы:

1. Выбор коэффициента обучения Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Этот выбор влияет как на скорость обучения, так и на устойчивость получаемого решения. Очевидно, что процесс обучения ускоряется (скорость сходимости алгоритма обучения увеличивается) при выборе Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL близким к единице. Однако в этом случае предъявление сети различных входных векторов, относящихся к одному классу, приведет к изменениям соответствующего вектора весовых коэффициентов. Напротив, при Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL0 скорость обучения будет медленной, однако вектор весовых коэффициентов, достигнув центра класса, при подаче на вход сети различных сигналов, относящихся к одному классу, будет оставаться вблизи этого центра. Поэтому одним из путей ускорения процесса обучения при одновременном обеспечении получения устойчивого решения является выбор переменного Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL с Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL 1 на начальных этапах обучения и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL 0 - на заключительных. К сожалению, такой подход не применим в тех случаях, когда сеть должна непрерывно подстраиваться к предъявляемым ей новым входным сигналам.

2. Рандомизация весов

Рандомизация весов слоя Кохонена может породить серьезные проблемы при обучении, так как в результате этой операции весовые векторы распределяются равномерно по поверхности гиперсферы. Как правило, входные векторы распределены неравномерно и группируются на относительно малой части поверхности гиперсферы. Поэтому большинство весовых векторов окажутся настолько удаленными от любого входного вектора, что не будут активированы и станут бесполезными. Более того, оставшихся активированных нейронов может оказаться слишком мало, чтобы разбить близко расположенные входные векторы на кластеры.

3. Выбор начальных значений векторов весовых коэффициентов и нейронов.

Если начальные значения выбраны неудачно, т. е. расположенными далеко от предъявляемых входных векторов, то нейрон не окажется победителем ни при каких входных сигналах, а, следовательно, не обучится.

На рисунке 2.12 показан случай, когда начальное расположение весов Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL привело к тому, что после обучения сети все предъявляемые образы классифицируют нейроны с весами Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL, и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL. Веса же Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL и Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL не изменились и могут быть удалены из сети.


Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

а б

Рисунок 2.12 – Начальное (а) и конечное (б) положения векторов весов


4. Выбор параметра расстояния Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Если сначала параметр Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL выбран малым или очень быстро уменьшается, то далеко расположенные друг от друга нейроны не могут влиять друг на друга. Хотя две части в такой карте настраиваются правильно, общая карта будет иметь топологический дефект (рисунок 2.13).

5. Количество нейронов в слое

Число нейронов в слое Кохонена должно соответствовать числу классов входных сигналов. Это может быть недопустимо в тех задачах, когда число классов заранее известно.

Моделирование сети кластеризации данных в MATLAB NEURAL NETWORK TOOL

Рисунок 2.13 – Топологический дефект карты


6. Классы входных сигналов

Слой Кохонена может формировать только классы, представляющие собой выпуклые области входного пространства.


2.5 Задачи, решаемые при помощи карт Кохонена


Самоорганизующиеся карты могут использоваться для решения задач моделирования, прогнозирования, кластеризации, поиска закономерностей в больших массивах данных, выявления наборов независимых признаков и сжатии информации.

Наиболее распространенное применение сетей Кохонена - решение задачи классификации без учителя, т.е. кластеризации.

Напомним, что при такой постановке задачи нам дан набор объектов, каждому из которых сопоставлена строка таблицы (вектор значений признаков). Требуется разбить исходное множество на классы, т.е. для каждого объекта найти класс, к которому он принадлежит.

В результате получения новой информации о классах возможна коррекция существующих правил классификации объектов.

Самым распространенным применением карт Кохонена является:

разведочный анализ данных

обнаружение новых явлений

В первом случае сеть Кохонена способна распознавать кластеры в данных, а также устанавливать близость классов. Таким образом, пользователь может улучшить свое понимание структуры данных, чтобы затем

Если Вам нужна помощь с академической работой (курсовая, контрольная, диплом, реферат и т.д.), обратитесь к нашим специалистам. Более 90000 специалистов готовы Вам помочь.
Бесплатные корректировки и доработки. Бесплатная оценка стоимости работы.

Поможем написать работу на аналогичную тему

Получить выполненную работу или консультацию специалиста по вашему учебному проекту
Нужна помощь в написании работы?
Мы - биржа профессиональных авторов (преподавателей и доцентов вузов). Пишем статьи РИНЦ, ВАК, Scopus. Помогаем в публикации. Правки вносим бесплатно.

Похожие рефераты: