История развития нейронных сетей. Строение биологической нейронной сети. Искусственный нейрон. Общие положения и виды обучения нейронных сетей. Архитектура. Сети прямого распространения сигнала. Рекуррентные сети. Области практического применения.
Аннотация к работе
Написать реферат (объемом 20 печатных страниц формата А4) на тему в соответствии с вариантом. Варианты заданий контрольной работы представлены в таблице 1. Вариант Номер последней цифры зачетной книжки Тема контрольной работыПервый шаг был сделан в 1943 г. с выходом статьи нейрофизиолога Уоррена Маккалоха и математика Уолтера Питтса про работу искусственных нейронов и представления модели нейронной сети на электрических схемах. - Дартмутский исследовательский институт искусственного интеллекта обеспечил подъем искусственного интеллекта, в частности, нейронных сетей. Стимулирование исследований искусственного интеллекта разделилось на два направления: промышленные применения систем искусственного интеллекта (экспертные системы) и моделирование мозга. - Бернард Видроу и Марсиан Хофф разработали модели ADALINE и MADALINE (Множественные Адаптивные Линейные Элементы (Multiple ADAPTIVE LINEAR Elements)). Ранние успехи, способствовали преувеличению потенциала нейронных сетей, в частности в свете ограниченной в те времена электроники.Искусственные нейронные сети были созданы по образу и подобию биологических нейронных сетей. Биологическая нейронная сеть - это структура нервной системы человека, состоящая из нейронов, соединенных между собой своеобразными отростками, способными передавать сигнал. Нейрон состоит из тела нейрона, дендритов, аксона и синапсов.История создания искусственных нейронов уходит своими корнями в 1943 год, когда шотландец МАККАЛЛОК и англичан Питтс создали теорию формальных нейронных сетей, а через пятнадцать лет Розенблатт изобрел искусственный нейрон (перцептрон), который впоследствии и лег в основу нейрокомпьютера. Иногда перцептроном называют любую нейронную сеть слоистой структуры, однако здесь и далее под перцептроном понимается только сеть, состоящая из нейронов с активационными функциями единичного скачка (бинарная сеть). Далее под нейроном будет подразумеваться искусственный нейрон, то есть ячейка нейронной сети. Он обладает группой синапсов - однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон - выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Возвращаясь к общим чертам, присущим всем нейронным сетям, стоит отметить принцип параллельной обработки сигналов, который достигается путем объединения большого числа нейронов в так называемые слои и соединения определенным образом нейронов различных слоев, а также, в некоторых конфигурациях, и нейронов одного слоя между собой, причем обработка взаимодействия всех нейронов ведется послойно.Процесс функционирования нейронной сети, то есть сущность действий, которые она способна выполнять, зависит от величин синаптических связей, поэтому, задавшись определенной структурой, отвечающей какой-либо задаче, разработчик сети должен найти оптимальные значения всех переменных весовых коэффициентов (некоторые синаптические связи могут быть постоянными). Этот этап называется обучением нейронной сети, и от того, насколько качественно он будет выполнен, зависит способность сети решать поставленные перед ней проблемы во время эксплуатации. На этапе обучения кроме параметра качества подбора весов важную роль играет время обучения.Показав ребенку изображение буквы "А", мы спрашиваем его: "Какая это буква?" Если ответ неверен, мы сообщаем ребенку тот ответ, который мы хотели бы от него получить: "Это буква А". Мы будем повторять процесс предъявления букв снова и снова до тех пор, когда все 33 буквы будут твердо запомнены. Имеется некоторая база данных, содержащая примеры (набор рукописных изображений букв). Одну и ту же букву (а также различные изображения одной и той же буквы) мы можем предъявлять нейронной сети много раз. В таком случае говорят, что "нейронная сеть выучила все примеры", "нейронная сеть обучена", или "нейронная сеть натренирована".Стохастические методы обучения выполняют псевдослучайные изменения величин весов, сохраняя те изменения, которые ведут к улучшениям. Выбрать вес случайным образом и подкорректировать его на небольшое случайное число. Общепринятый метод состоит в нахождении разности между фактическим и желаемым выходами для каждого элемента обучаемой пары, возведение разностей в квадрат и нахождение суммы этих квадратов. Целью обучения является минимизация этой разности, часто называемой целевой функцией. Выбрать вес случайным образом и подкорректировать его на небольшое случайное значение.Архитектурные отличия самих нейронов заключаются главным образом в использовании различных активационных (возбуждающих) функций. По архитектуре связей нейронные сети можно разделить на два класса: сети прямого распространения и рекуррентные сети. Классификация искусственных нейронных сетей по их архитектуре приведена на рисунке 5.1.1. Искусственная нейронная сеть может рассматриваться как направленный граф с взвешенными связями, в котором искусственные нейроны являются узлами. По а
План
СОДЕРЖАНИЕ нейронный сеть обучение сигнал
ЗАДАНИЕ
1. ИСТОРИЯ РАЗВИТИЯ НЕЙРОННЫХ СЕТЕЙ
2. СТРОЕНИЕ БИОЛОГИЧЕСКОЙ НЕЙРОННОЙ СЕТИ
3. ИСКУССТВЕННЫЙ НЕЙРОН
4. ОБУЧЕНИЕ НЕЙРОННОЙ СЕТИ
4.1 Общие положения и виды обучения нейронных сетей
4.2 Детерминистский алгоритм обучения нейронных сетей
4.3 Стохастические методы обучения нейронных сетей
5. АРХИТЕКТУРА НЕЙРОННЫХ СЕТЕЙ
5.1 Классификация нейронных сетей
5.2 Сети прямого распространения сигнала
5.3 Рекуррентные сети
6. ОБЛАСТИ ПРАКТИЧЕСКОГО ПРИМЕНЕНИЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ