Нейронные сети

Севастопольский  Государственный   Гуманитарный Университет I-III степеней

 

 

 

 

 

 

 

 

 

Индивидуальная  работа

По курсу физиология ЦНС  и ВНД

                                  На тему: « нейронные сети»

 

 

 

 

 

 

 

 

 

Выполнила: Студенка первого  курса,

группы  П1, Воробьёва Виктория

Проверила:  Чербаджи Антонина Алексеевна

Севастополь 2012 г

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Содержание

Введение

Актуальность исследования………………………………………..4-5

Нейронные сети……………………………………………………..6-8

Модель нейрона……………………………………………………..9-10

Классификация нейронных  сетей………………………………….11-12

Вывод

Список литературы

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Введение

Точная работа мозга  человека - все еще тайна. Тем не менее, некоторые аспекты этого  удивительного процессора известны. Базовым элементом мозга человека являются специфические клетки, известные  как нейроны, способные запоминать, думать и применять предыдущий опыт к каждому действию, что отличает их от остальных клеток тела.

Кора головного  мозга человека является плоской, образованной из нейронов поверхностью, толщиной от 2 до 3 мм площадью около 2200 см2, что вдвое превышает площадь поверхности стандартной клавиатуры. Кора главного мозга содержит около 1011 нейронов, что приблизительно равно числу звезд Млечного пути. Каждый нейрон связан с 103 - 104 другими нейронами. В целом мозг человека имеет приблизительно от 1014 до 1015 взаимосвязей.

Сила человеческого  ума зависит от числа базовых  компонент, многообразия соединений между  ними, а также от генетического  программирования и обучения.

Индивидуальный  нейрон является сложным, имеет свои составляющие, подсистемы и механизмы  управления и передает информацию через  большое количество электрохимических  связей. Насчитывают около сотни  разных классов нейронов. Вместе нейроны  и соединения между ними формируют  недвоичный, нестойкий и несинхронный процесс, отличающийся от процесса вычислений традиционных компьютеров. Искусственные  нейросети моделируют лишь главнейшие элементы сложного мозга, вдохновляющие ученых и разработчиков к новым путям решения проблемы.

 

 

 

 

 

 

 

 

 

 

 

Актуальность  нейронных сетей

Исследования по искусственным нейронным сетям  связаны с тем, что способ обработки  информации человеческим мозгом в корне  отличается от методов, применяемых  обычными цифровыми компьютерами. Мозг представляет собой чрезвычайно  сложный, нелинейный, параллельный компьютер. Учеными доказано, что мозг состоит  из огромного числа структурных  компонентов – нервных клеток, называемых также нейронами. Нейрон создает соединения с другими нейронами, количество которых может составлять от 10 до 100 000 в точках сопряжения. Сигналы, распространяемые по нейронной сети, управляют активностью мозга в течение короткого интервала, а также становятся причиной долговременных изменений состояния самих нейронов и их соединений.

Мозг человека обладает способностью организовывать работу нейронов, так, чтобы они могли выполнять  конкретные задачи (такие как распознавание  образов, обработку сигналов органов  чувств, моторные функции) во много  раз быстрее, чем могут позволить  самые быстродействующие современные  компьютеры. Примером такой задачи обработки информации может служить обычное зрение. В функции зрительной системы входит создание представления окружающего мира в таком виде, который обеспечивает возможность взаимодействия с этим миром. Более точно, мозг последовательно выполняет ряд задач распознавания (например, распознавание знакомого лица в незнакомом окружении). На это у него уходит около 100-200 миллисекунд, в то время как выполнение аналогичных задач даже меньшей сложности на компьютере может занять несколько дней.

Другим примером может служить локатор летучей мыши, представляющий собой систему активной эхо-локации. Кроме предоставления информации о расстоянии до нужного объекта этот локатор предоставляет информацию об относительной скорости объекта, о его размерах и размерах его отдельных элементов, а также об азимуте и высоте движения объекта. Для выделения этой информации из получаемого сигнала крохотный мозг летучей мыши проводит сложные нейронные вычисления. Эхо-локация летучей мыши по своим характеристикам качества и быстродействия превосходит самые сложные приборы, созданные инженерами.

Разработка искусственных  нейронных сетей началась в начале ХХ века, но только в 90-х годах, когда  вычислительные системы стали достаточно мощными, нейронные сети получили широкое  распространение. Создание нейронных  сетей было вызвано попытками  понять принципы работы человеческого  мозга и, без сомнения, это будет  влиять и на дальнейшее их развитие. Однако, в сравнении с человеческим мозгом нейронная сеть сегодня представляют собой весьма упрощенную модель, но несмотря на это весьма успешно используются при решении самых различных задач. Хотя решение на основе нейронных сетей может выглядеть и вести себя как обычное программное обеспечение, они различны в принципе, поскольку большинство реализаций на основе нейронных сетей «обучается», а «не программируется»: сеть учиться выполнять задачу, а не программируется непосредственно.

Сравнение производительности человеческого  мозга и компьютера

Мозг и цифровой компьютер выполняют совершенно разные задачи и имеют различные  свойства. В типичном мозгу человека имеется в 1000 раз больше нейронов, чем логических элементов в процессоре типичного компьютера высокого класса. В соответствии с законом Мура и с учетом того, что по некоторым расчетам, количество нейронов в мозгу должно удваиваться примерно через каждые 2-4 миллиона лет, может быть сделан прогноз, что количество логических элементов в процессоре станет равным количеству нейронов в мозгу примерно к 2020 году. Безусловно, эти прогнозы мало о чем говорят; кроме того, это различие в отношении количества элементов является незначительным по сравнению с различием в скорости переключения и степени распараллеливания. Микросхемы компьютера способны выполнить отдельную команду меньше чем за наносекунду, тогда как нейроны действуют в миллионы раз медленнее. Но мозг сторицей восполняет этот свой недостаток, поскольку все его нейроны действуют одновременно, тогда как большинство современных компьютеров имеет только один процессор (но с несколькими ядрами) или небольшое количество процессоров. Таким образом, даже несмотря на то, что компьютер обладает преимуществом более чем в миллион раз в физической скорости переключения, оказывается, что мозг по сравнению с ним выполняет все свои действия примерно в 100 000 раз быстрее.

 

 

 

 

 

 

 

 

 

 

 

Нейронные сети

Нейронные сети –  это одно из направлений исследований в области искусственного интеллекта, основанное на попытках воспроизвести  нервную систему человека. А именно: способность нервной системы  обучаться и исправлять ошибки, что  должно позволить смоделировать, хотя и достаточно грубо, работу человеческого  мозга.

Нейронная сеть

или нервная система  человека – это сложная сеть структур человека, обеспечивающая взаимосвязанное  поведение всех систем организма.

Биологический нейрон – это специальная клетка, которая  структурно состоит из ядра, тела клетки и отростков. Одной из ключевых задач  нейрона является передача электрохимического импульса по всей нейронной сети через  доступные связи с другими  нейронами. Притом, каждая связь характеризуется  некоторой величиной, называемой силой  синаптической связи. Эта величина определяет, что произойдет с электрохимическим импульсом при передаче его другому нейрону: либо он усилится, либо он ослабится, либо останется неизменным.

Биологическая нейронная  сеть обладает высокой степенью связности: на один нейрон может приходиться  несколько тысяч связей с другими  нейронами. Но, это приблизительное  значение и в каждом конкретном случае оно разное. Передача импульсов от одного нейрона к другому порождает  определенное возбуждение всей нейронной  сети. Величина этого возбуждения  определяет реакцию нейронной сети на какие-то входные сигналы. Например, встреча человека со старым знакомым может привести к сильному возбуждению  нейронной сети, если с этим знакомым связаны какие-то яркие и приятные жизненные воспоминания. В свою очередь  сильное возбуждение нейронной  сети может привести к учащению сердцебиения, более частому морганию глаз и  к другим реакциям. Встреча же с  незнакомым человеком для нейронной  сети пройдет практически незаметной, а значит и не вызовет каких-либо сильных реакций.

Можно привести следующую  сильно упрощенную модель биологической  нейронной сети:

Каждый нейрон состоит  из тела клетки, которое содержит ядро. От тела клетки ответвляется множество  коротких волокон, называемых дендритами. Длинные дендриты называются аксонами. Аксоны растягиваются на большие  расстояния, намного превышающее  то, что показано в масштабе этого  рисунка. Обычно аксоны имеют длину 1 см (что превышает в 100 раз диаметр  тела клетки), но могут достигать  и 1 метра.

В 60-80 годах XX века приоритетным направлением исследований в области  искусственного интеллекта былиэкспертные системы. Экспертные системы хорошо себя зарекомендовали, но только в узкоспециализированных областях. Для создания более универсальных интеллектуальных систем требовался другой подход. Наверное, это привело к тому, что исследователи искусственного интеллекта обратили внимание на биологические нейронные сети, которые лежат в основе человеческого мозга.

Нейронные сети

в искусственном  интеллекте – это упрощенные модели биологических нейронных сетей.

На этом сходство заканчивается. Структура человеческого  мозга гораздо более сложная, чем описанная выше, и поэтому  воспроизвести ее хотя бы более менее точно не представляется возможным.

У нейронных сетей  много важных свойств, но ключевое из них – это способность к  обучению. Обучение нейронной сети в первую очередь заключается  в изменении «силы» синаптических связей между нейронами. Следующий пример наглядно это демонстрирует. В классическом опыте Павлова, каждый раз непосредственно перед кормлением собаки звонил колокольчик. Собака достаточно быстро научилась ассоциировать звонок колокольчика с приемом пищи. Это явилось следствием того, что синаптические связи между участками головного мозга, ответственными за слух и слюнные железы, усилились. И в последующем возбуждение нейронной сети звуком колокольчика, стало приводить к более сильному слюноотделению у собаки.

На сегодняшний  день нейронные сети являются одним  из приоритетных направлений исследований в области искусственного интеллекта.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Модель  нейрона

Нейрон представляет собой единицу обработки информации в нейронной сети. На рисунке ниже приведена модель нейрона, лежащего в основе искусственных нейронных  сетей.

В этой модели нейрона  можно выделить три основных элемента:

• синапсы, каждый из которых характеризуется своим весом или силой. Осуществляют связь между нейронами, умножают входной сигнал   на весовой коэффициент синапса  , характеризующий силу синаптической связи;
• сумматор, аналог тела клетки нейрона. Выполняет сложение внешних входных сигналов или сигналов, поступающих по синаптическим связям от других нейронов. Определяет уровень возбуждения нейрона;
• функция активации, определяет окончательный выходной уровень нейрона, с которым сигнал возбуждения (торможения) поступает на синапсы следующих нейронов.

Модель нейрон имитирует  в первом приближении свойства биологического нейрона. На вход искусственного нейрона  поступает некоторое множество  сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий  вес, пропорциональный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона.

Хотя сетевые  парадигмы весьма разнообразны, в  основе почти всех их лежит эта  модель нейрона. Здесь множество  входных сигналов, обозначенных   поступает на искусственный нейрон. Эти входные сигналы, в совокупности обозначаемые вектором  , соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес   и поступает на суммирующий блок, обозначенный  . Каждый вес соответствует «силе» одной биологической синаптической связи. Множество весов в совокупности обозначается вектором  . Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход  . Далее   поступает на вход функции активации, определяя окончательный сигнал возбуждения или торможения нейрона на выходе. Этот сигнал поступает на синапсы следующих нейронов и т.д.

Рассмотренная простая  модель нейрона игнорирует многие свойства своего биологического двойника. Например, она не принимает во внимание задержки во времени, которые воздействуют на динамику системы. Входные сигналы  сразу же порождают выходной сигнал. И, что более важно, данная модель нейрона не учитывает воздействий  функции частотной модуляции  или синхронизирующей функции биологического нейрона, которые ряд исследователей считают решающими.

Несмотря на эти  ограничения, сети, построенные на основе этой модели нейрона, обнаруживают свойства, сильно напоминающие биологическую  систему. Только время и исследования смогут ответить на вопрос, являются ли подобные совпадения случайными или  следствием того, что именно в этой модели нейрона верно схвачены важнейшие черты биологического прототипа.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Классификация нейронных сетей

Можно провести следующую  классификацию нейронных сетей:

Характер  обучения

Классификация нейронных  сетей по характеру обучения делит  их на:

• нейронные сети, использующие обучение с учителем;
• нейронные сети, использующие обучение без учителя.

Рассмотрим это  подробнее.

Нейронные сети, использующие обучение с учителем. Обучение с  учителем предполагает, что для каждого  входного вектора существует целевой  вектор, представляющий собой требуемый  выход. Вместе они называются обучающей  парой. Обычно сеть обучается на некотором  числе таких обучающих пар. Предъявляется  выходной вектор, вычисляется выход  сети и сравнивается с соответствующим  целевым вектором. Далее веса изменяются в соответствии с алгоритмом, стремящимся  минимизировать ошибку. Векторы обучающего множества предъявляются последовательно, вычисляются ошибки и веса подстраиваются для каждого вектора до тех  пор, пока ошибка по всему обучающему массиву не достигнет приемлемого  уровня.