Лекции по CUDA 2010.8

34 Pages·0.947 MB·Russian

by  Боресков А.В., Харламов А.А.

Нейронные сети.
Многоагентные системы.
Гужва А.Г.
Нейрон
МОЗГ: 1010 нейронов, 6*1013 связей
Время реакции 10-3 с
Размеры 100 микрон
Модель нейрона
N входов
1 выход
N+1 вес (w ..w )
0 N
N

net  X w w
i i 0
i1
 
Y  F net
Модель нейрона.
Передаточная функция.
F(net) =1/(1+exp(-net))
1.2
1
0.8
0.6
0.4
0.2
0
-3 -2 -1 0 1 2 3
F(+)=1, F(-)=0, F’(x)=F(x)*(1-F(x))
Модель нейрона.
Передаточная функция.
F(net)=th(net)
1.5
1
0.5
0
-3 -2 -1 0 1 2 3
-0.5
-1
-1.5
F(+)=1, F(-)=-1, F’(x)=1-(F(x))2
Модель нейрона.
Передаточная функция.
F(net) : Линейная функция
1.5
1
0.5
0
-3 -2 -1 0 1 2 3
-0.5
-1
-1.5
F(+)=1, F(-)=-1, F’(x)=1 или 0
Блоки / слои нейронов
 Состоит из нейронов
 Нейроны объединяются в блоки / слои
 Входной сигнал одинаков
Y =F(w *X +w *X +w *X +w *1)
1 11 1 12 2 13 3 10
Y =F(w *X +w *X +w *X +w *1)
2 21 1 22 2 21 3 20
Y =F(w *X +w *X +w *X +w *1)
3 31 1 32 2 33 3 30
Y =F(w *X +w *X +w *X +w *1)
4 41 1 42 2 43 3 40
Y=F(W*X). Сколько компонент в W?
Многослойный персептрон
Скрытый слой
 Y=F(W *F(W *X))
o h
 W -
матрица весов
o
выходного слоя
W
 - матрица весов
h
скрытого слоя
W = (W ,W ) –

h o
«матрица» весов сети
Входной слой Выходной слой
Обучение персептрона
 Пары сигнал - желаемый отклик {(X,Y)}
 Подаем на вход сигнал X , получаем
k
ответ сети Z =Z (W,X )
k k k
 Требуем: ответ сети = желаемый отклик
 Подстраиваем W
Области использования
нейросетей
Классификация
Кластеризация
Регрессия и прогнозирование