Банк рефератов содержит более 364 тысяч рефератов, курсовых и дипломных работ, шпаргалок и докладов по различным дисциплинам: истории, психологии, экономике, менеджменту, философии, праву, экологии. А также изложения, сочинения по литературе, отчеты по практике, топики по английскому.
Полнотекстовый поиск
Всего работ:
364150
Теги названий
Разделы
Авиация и космонавтика (304)
Административное право (123)
Арбитражный процесс (23)
Архитектура (113)
Астрология (4)
Астрономия (4814)
Банковское дело (5227)
Безопасность жизнедеятельности (2616)
Биографии (3423)
Биология (4214)
Биология и химия (1518)
Биржевое дело (68)
Ботаника и сельское хоз-во (2836)
Бухгалтерский учет и аудит (8269)
Валютные отношения (50)
Ветеринария (50)
Военная кафедра (762)
ГДЗ (2)
География (5275)
Геодезия (30)
Геология (1222)
Геополитика (43)
Государство и право (20403)
Гражданское право и процесс (465)
Делопроизводство (19)
Деньги и кредит (108)
ЕГЭ (173)
Естествознание (96)
Журналистика (899)
ЗНО (54)
Зоология (34)
Издательское дело и полиграфия (476)
Инвестиции (106)
Иностранный язык (62792)
Информатика (3562)
Информатика, программирование (6444)
Исторические личности (2165)
История (21320)
История техники (766)
Кибернетика (64)
Коммуникации и связь (3145)
Компьютерные науки (60)
Косметология (17)
Краеведение и этнография (588)
Краткое содержание произведений (1000)
Криминалистика (106)
Криминология (48)
Криптология (3)
Кулинария (1167)
Культура и искусство (8485)
Культурология (537)
Литература : зарубежная (2044)
Литература и русский язык (11657)
Логика (532)
Логистика (21)
Маркетинг (7985)
Математика (3721)
Медицина, здоровье (10549)
Медицинские науки (88)
Международное публичное право (58)
Международное частное право (36)
Международные отношения (2257)
Менеджмент (12491)
Металлургия (91)
Москвоведение (797)
Музыка (1338)
Муниципальное право (24)
Налоги, налогообложение (214)
Наука и техника (1141)
Начертательная геометрия (3)
Оккультизм и уфология (8)
Остальные рефераты (21697)
Педагогика (7850)
Политология (3801)
Право (682)
Право, юриспруденция (2881)
Предпринимательство (475)
Прикладные науки (1)
Промышленность, производство (7100)
Психология (8694)
психология, педагогика (4121)
Радиоэлектроника (443)
Реклама (952)
Религия и мифология (2967)
Риторика (23)
Сексология (748)
Социология (4876)
Статистика (95)
Страхование (107)
Строительные науки (7)
Строительство (2004)
Схемотехника (15)
Таможенная система (663)
Теория государства и права (240)
Теория организации (39)
Теплотехника (25)
Технология (624)
Товароведение (16)
Транспорт (2652)
Трудовое право (136)
Туризм (90)
Уголовное право и процесс (406)
Управление (95)
Управленческие науки (24)
Физика (3463)
Физкультура и спорт (4482)
Философия (7216)
Финансовые науки (4592)
Финансы (5386)
Фотография (3)
Химия (2244)
Хозяйственное право (23)
Цифровые устройства (29)
Экологическое право (35)
Экология (4517)
Экономика (20645)
Экономико-математическое моделирование (666)
Экономическая география (119)
Экономическая теория (2573)
Этика (889)
Юриспруденция (288)
Языковедение (148)
Языкознание, филология (1140)

Лабораторная работа: Кластеризация с помощью нейронных сетей

Название: Кластеризация с помощью нейронных сетей
Раздел: Рефераты по информатике, программированию
Тип: лабораторная работа Добавлен 15:44:49 08 октября 2010 Похожие работы
Просмотров: 306 Комментариев: 2 Оценило: 0 человек Средний балл: 0 Оценка: неизвестно     Скачать

Министерство образования и науки Российской Федерации Федеральное агентство по образованию

Амурский гуманитарно-педагогический государственный университет

Физико-математический факультет

Кафедра информатики

ЛАБОРАТОРНАЯ РАБОТА №3

по дисциплине «Искусственные нейронные сети» на тему «Кластеризация с помощью нейронных сетей»

2007


Содержание

Введение

1Теоретические сведения

2Методика выполнения лабораторной работы

3Контрольные вопросы

Заключение

Список использованных источников


Введение

Цель лабораторной работы: освоить основные принципы решения задачи кластеризации с использованием нейронных сетей со слоем Кохонена и самоорганизующихся карт.

Задание: Используя встроенные функции пакета нейронных сетей математической среды Matlab, построить нейронную сеть со слоем Кохонена, которая множество входных данных разделит на кластеры и выявит их центры. На обученную сеть подать новый входной вектор и определить, к какому кластеру он относится.

1 Теоретические сведения

Самоорганизующиеся карты. Самоорганизующиеся карты (SelfOrganizingMaps - SOM) это одна из разновидностей нейросетевых алгоритмов. Основным отличием данной технологии от рассмотренных нами ранее нейросетей, обучаемых по алгоритму обратного распространения, является то, что при обучении используется метод обучения без учителя, то есть результат обучения зависит только от структуры входных данных. Нейронные сети денного типа часто применяются для решения самых различных задач, от восстановления пропусков в данных до анализа данных и поиска закономерностей, например, в финансовой задаче.

Основы самоорганизующихся карт. Алгоритм функционирования самообучающихся карт представляет собой один из вариантов кластеризации многомерных векторов. Примером таких алгоритмов может служить алгоритм ближайших средних (с-means). Важным отличием алгоритма SOM является то, что в нем все нейроны (узлы, центры классов) упорядочены в некоторую структуру (обычно двумерную сетку). При этом в ходе обучения модифицируется не только нейрон-победитель, но и его соседи, но в меньшей степени. За счет этого SOM можно считать одним из методов проецирования многомерного пространства в пространство с более низкой размерностью При использовании этого алгоритма вектора, схожие в исходном пространстве, оказываются рядом и на полученной карте.

Структура самоорганизующихся карт. SOM подразумевает использование упорядоченной структуры нейронов. Обычно используются одно- и двумерные сетки. При этом каждый нейрон представляет собой и-мерный вектор-столбец w ~ [щ, и; 2,..., wn ] , где п определяется размерностью исходного пространства (размерностью входных векторов). Применение одно- и двумерных сеток связано с тем, что возникают проблемы при отображении пространственных структур большей размерности (при этом опять возникают проблемы с понижением размерности до двумерной, представимой на мониторе).

Обычно нейроны располагаются в узлах двумерной сетки с прямоугольными или шестиугольными ячейками. При этом, как было сказано выше, нейроны также взаимодействуют друг с другом. Величина этого взаимодействия определяется расстоянием между нейронами на карте.

Начальная инициализация карты. При реализации алгоритма SOM заранее задается конфигурация сетки (прямоугольная или шестиугольная), а также количество нейронов в сети. Некоторые источники рекомендуют использовать максимально возможное количество нейронов в карте. При этом начальный радиус обучения (neighborhood в англоязычной литературе) в значительной степени влияет на способность обобщения при помощи, полученной карты. В случае, когда количество узлов карты превышает количество примеров в обучающей выборке, то успех использования алгоритма в большой степени зависит от подходящего выбора начального радиуса обучения. Однако в случае, когда размер карты составляет десятки тысяч нейронов, время, требуемое на обучение карты, обычно бывает слишком велико для решения практических задач, таким образом, необходимо достигать допустимого компромисса при выборе количества узлов.

Перед началом обучения карты необходимо проинициализировать весовые коэффициенты нейронов. Удачно выбранный способ инициализации может существенно ускорить обучение и привести к получению более качественных результатов. Существуют три способа инициирования начальных весов:

1. инициализация случайными значениями, когда всем весам даются малые случайные величины;

2. инициализация примерами, когда в качестве начальных значений задаются значения случайно выбранных примеров из обучающей выборки;

3. линейная инициализация. В этом случае веса инициируются значениями векторов, линейно упорядоченных вдоль линейного подпространства, проходящего между двумя главными собственными векторами исходного набора данных. Собственные векторы могут быть найдены, например, при помощи процедуры Грама-Шмидта.

Обучение самоорганизующихся карт. Обучение состоит из последовательности коррекций векторов, представляющих собой нейроны. На каждом шаге обучения из исходного набора данных случайно выбирается один из векторов, а затем производится поиск наиболее похожего на него вектора коэффициентов нейронов. При этом выбирается нейрон-победитель, который наиболее похож на вектор входов. Под похожестью в данной задаче понимается расстояние между векторами, обычно вычисляемое в евклидовом пространстве. После того, как найден нейрон-победитель, производится корректировка весов нейро-сети. При этом вектор, описывающий нейрон-победитель, и векторы, описывающие его соседей в сетке, перемещаются в направлении входного вектора.

2 Методика выполнения лабораторной работы

Задача. Используя встроенные функции пакета нейронных сетей математической среды Matlab, построить нейронную сеть со слоем Кохонена, которая множество входных данных разделит на кластеры и выявит их центры. На обученную сеть подать новый входной вектор и определить, к какому кластеру он относится.

Для создания нейронной сети со слоем Кохонена воспользуемся встроенной в среду Matlab функцией newc :

1.

X=[0 1; 0 1];

clusters=5;

points=5; %3адание количества точек в кластере

std_dev=0.01;

p=nngenc(X,clusters,points,std_dev);%Моделирование входных данных

h=newc([0 1;0 1],5,.1); % создание слоя Кохонена

h.trainParam.epochs=50; %3адание количества циклов обучения

h=init(h);

h=train(h,p);

w=h.IW{1}; % вывод графиков исходных данных и выявленных центров кластеров

plot(p(1,:),p(2,:),'^r'),grid;

hold on;

plot(w(:,1),w(:,2),'ob');

xlabel('p(1)');

ylabel('p(2)');

A=0.6

B=0.5

p=[A;B];

plot(A,B,'^k')

y=sim(h,p) %Onpoc сети

A =0.6000

B =0.5000

y = (2,1) 1

Результат работы программы представлен на рис. 1. Кроме того, его можно увидеть в командном окне: У= (2,1) 1

Предъявленный вектор отнесен ко второму кластеру. Теперь данный алгоритм применим к реальной (хоть и элементарной) задаче кластеризации. На вход нейронной сети будем подавать данные весоростовых показателей людей и попробуем выявить три класса (кластера):

1) нормальный весоростовой показатель;

2) избыток веса;

3) недостаток веса.

2. %входные данные (первая строка матрицы - рост; вторая - вес)

p=[175 180 182 175 183 176 183 176 183 176 175 180 178 180 178 182 178 182 179 174 172 179;

70 75 100 99 42 48 76 72 40 45 92 96 70 69 95 90 79 82 80 50 96 91] %создаем НС Кохонена с 3 кластерами (нормальный весоростовой показатель, избыток веса и недостаток веса)

h=newc([0 200;0 100],3,.1)

h.trainParam.epochs=500; %3адание количества циклов обучения

h=train(h,p)

w=h.IW{1};

plot(p(1,:),p(2,:),'^r');

hold on;

plot(w(:,1),w(:,2),'ob');

xlabel('Rost');

ylabel('Ves');

% Задание нового входного вектора

%Опрос сети

A=181

B=65

p=[A;B];

plot(A,B,'+r')

y=sim(h,p)

A =181

B = 65

y = (2,1) 1

Результат работы программы представлен на рис. 2. Кроме того, его можно увидеть в командном окне: у= (2,1) 1

Предъявленный вектор отнесен ко второму кластеру.

Теперь рассмотрим использование самоорганизующей карты на примере двумерных векторов. Используя самоорганизующиеся карты, двумерные векторы разбить на кластеры и выявить их центры, затем подать на вход самоорганизующей карты новый вектор и определить кластер, к которому он относится.

3.

P=rands(2,100) %3адание случайных двухмерных входных векторов

figure(1)

hold on

plot(P(1,:),P(2,:),'+r') %визуальное изображение входных векторов

%Создание НС с 3*4 нейронами

%По умолчанию функция TFCN = 'hextop', то есть нейроны располагаются в узлах двумерной сетки с шестиугольными ячейками

net=newsom([0 1;0 1],[3 4]);

net.trainParam.epoch=1 %3адание числа циклов настройки

net=train(net,P) % настройкасети

A=0.5

B=0.3

p=[A;B]; % Задание нового входного вектора

plot(A,B,'^k') %прорисовка на рисунке входного вектора (черный треугольник)

figure(2)

plotsom(net.iw{1,1},net.layers{1}.distances)

a=sim(net,p) %опроссети

A = 0.5000

B = 0.3000

a = (5,1) 1

Результат работы программы представлен на рис. 3 - 4.

Результат работы программы можно увидеть и в командном окне: a = (5,1) 1

Предъявленный вектор отнесен к пятому кластеру.

3 Контрольные вопросы

1. Что понимается под кластеризацией? Задача кластеризации (категоризации, классификации "без учителя") - задача размещения входных векторов (образов) по категориям (кластерам) так, чтобы близкие векторы (схожие образы) оказались в одной категории. Отличие задачи кластеризации от похожей на нее задачи классификации заключается в том, что набор категорий изначально не задан и определяется в процессе обучения нейронной сети. Примером задачи кластеризации служит задача сжатия информации путем уменьшения разнообразия данных.

Кластеризация может быть использована для решения следующих задач:

· обработки изображения;

· классификации;

· тематического анализа коллекций документов;

· построения репрезентативной выборки.

Методы кластеризации при помощи нейронных сетей являются развитием классических методов кластеризации. Например, метод кластеризации векторов с помощью сети Кохонена содержит в своей основе метод К средних. В то же время нейронные сети являются гораздо более гибким инструментом в применении к данным, имеющим большой объем и избыточную размерность.

Закон обучения Кохонена

На рис. 1 приведена базовая структура слоя Кохонена. Слой состоит из N обрабатывающих элементов, каждый из которых получает п входных сигналов Х[,Х2,...,х„ из нижестоящего слоя, который является прямым передатчиком сигналов. Входу х, и связи ( ij ) припишем вес w / j .

Рис. 1. Нейронная сеть со слоем Кохонена

2. Опишите встроенные операторы Matlab для кластеризации.

Newc – создание конкурентного слоя.

Net=newc(PR,S,KLR,CLR) – функция создания слоя Кохонена.

Аргументы функции:

PR – R х 2 матрица минимальных и максимальных значений для R входных элементов,

S – число нейронов,

KLR – коэффициент обучения Кохонена (по умолчанию 0,01)

CLR – Коэффициент «справедливости»(по умолчанию 0,001)

Опишите сеть Кохонена.

3. Зачем используются самоорганизующиеся карты? Самоорганизующиеся карты (SelfOrganizingMaps - SOM) это одна из разновидностей нейросетевых алгоритмов.

Нейронные сети денного типа часто применяются для решения самых различных задач, от восстановления пропусков в данных до анализа данных и поиска закономерностей, например, в финансовой задаче.

4. Опишите отличие сети Кохонена от SOM . Основным отличием данной технологии от рассмотренных нами ранее нейросетей, обучаемых по алгоритму обратного распространения, является то, что при обучении используется метод обучения без учителя, то есть результат обучения зависит только от структуры входных данных.


Заключение

В ходе выполнения лабораторной работы я ознакомился с теоретическими сведениями, необходимыми для решения задачи кластеризации с помощью нейронной сети со слоем Кохонена. С использованием встроенных функций пакета нейронных сетей математической среды Matlab была решена задача кластеризации весоростовых показателей. Также было рассмотрено использование самоорганизующей карты на примере двумерных векторов.


Список использованных источников

1. О.С. Амосов

2. О С. Амосов «Интеллектуальные информационные системы. Нейронные сети и нечеткие системы»: Учеб. Пособие. - Комсомольск-на-Амуре: ГОУВПО «КнАГТУ», 2004. -104 с.

Оценить/Добавить комментарий
Имя
Оценка
Комментарии:
Где скачать еще рефератов? Здесь: letsdoit777.blogspot.com
Евгений07:23:55 19 марта 2016
Кто еще хочет зарабатывать от 9000 рублей в день "Чистых Денег"? Узнайте как: business1777.blogspot.com ! Cпециально для студентов!
19:37:31 28 ноября 2015

Работы, похожие на Лабораторная работа: Кластеризация с помощью нейронных сетей

Назад
Меню
Главная
Рефераты
Благодарности
Опрос
Станете ли вы заказывать работу за деньги, если не найдете ее в Интернете?

Да, в любом случае.
Да, но только в случае крайней необходимости.
Возможно, в зависимости от цены.
Нет, напишу его сам.
Нет, забью.



Результаты(150275)
Комментарии (1830)
Copyright © 2005-2016 BestReferat.ru bestreferat@mail.ru       реклама на сайте

Рейтинг@Mail.ru