MATLAB神经网络工具箱中的神经网络模型docxWord文档格式.docx
- 文档编号:6471557
- 上传时间:2023-05-06
- 格式:DOCX
- 页数:18
- 大小:361.04KB
MATLAB神经网络工具箱中的神经网络模型docxWord文档格式.docx
《MATLAB神经网络工具箱中的神经网络模型docxWord文档格式.docx》由会员分享,可在线阅读,更多相关《MATLAB神经网络工具箱中的神经网络模型docxWord文档格式.docx(18页珍藏版)》请在冰点文库上搜索。
e表示神经元的阈值,◎表示神经元的响应函数。
该模型的数学表达式为:
n
S=丫①兀-0
Z=1
与生物神经元的区别:
■
(1)生物神经元传递的信息是脉冲,而上述模型传递的信息是模拟电压。
■
(2)由于在上述模型中用一个等效的模拟电压来模拟生物神经元的脉冲密度,所以在模型中只有空间累加而没有时间累加(可以认为时间累加已隐含在等效的模拟电压之中)。
■(3)上述模型未考虑时延、不应期和疲劳等。
响应函数y=b(s)的基本作用:
■1>控制输入对输出的激活作用;
■2、对输入、输出进行函数转换;
■3、将可能无限域的输入变换成指定的有限范围内的输出。
根据响应函数的不同,人工神经元有以下几种类型:
阈值单元
■响应函数如图a所示,
线性单元■其响应函数如图b所示
常用响应函数为S型(Sigmoid)函数,如图c、d所示
(r(5)=tanh(/?
y)
■Hardlimx>
=0y=1;
x<
0y=0
■Hardlims:
x>
=0y=1;
x<
0y=-1
■Purelin:
y=x
■Satlin:
0y=0;
1y=1;
=0&
&
=1y=x;
■Logsig:
y=1
人工神经网络的构成
■单个神经元的功能是很有限的,人工神经网络只有用许多神经元按一定规则连接构成的神经网络才具有强大的功能。
■神经元的模型确定之后,一个神经网络的特性及能力主要取决于网络的拓扑结构及学习方法。
人工神经网络连接的基本形式:
1.前向网络
■网络的结构如图所示。
网络中的神经元是分层排列的,每个神经元只与前一层的神经元相连接。
最右一层为输出层,隐含层的层数可以是一层或多层。
前向网络在神经网络中应用很广泛,例如,感知器就属于这种类型。
2.反馈前向网络
■网络的本身是前向型的,与前一种不同的是从输出到输入有反馈回路。
内层互连前馈网络
■通过层内神经元之间的相互连接,可以实现同一层神经元之间横向抑制或兴奋的机制,从而限制层内能同时动作的神经数,或者把层内神经元分为若干组,让每组作为一个整体来动作。
一些自组织竞争型神经网络就属于这种类型C
互连网络
■互连网络有局部互连和全互连两种。
全互连网络中的每个神经元都与其他神经元相连。
局部互连是指互连只是局部的,有些神经元之间没有连接关系。
Hopfield网络和Boltzmann机属于互连网络的类型。
神经网络的学习方式
■有教师学习(监督学习)
神经网络1
(学习系统)J
•实际输出
误差信号
误差分析
■误差信号的不同定义:
⑴均方误差mse(meansquarederror)
mse=E[e]u
工(心~as
k=l
(2)平均绝对误差mae(meanabsoluteerror)
工匕1
mae=
(3)误差平方和sse(sumsquarederror)
sse=^(tk-aky
无教师学习(无监督学习)
无教师监督学习方式
MATLAB工具箱中的神经网络结构
1.人工神经元的一般模型
s—,0兀—&
中,令/?
=—0'
Pi~兀
R
则。
=/(工叱》+&
)
/=1
InputGeneralNeuron
■由此构成人工神经元的一般模型,如下图所示。
Where...
R二Numberofelementsininputvector
上式可写成矩阵向量形式:
a=f(Wp+b)
由S个神经元组成的单层网络
输入S个神经元的层
InputLayer1Layer2
ai=f1(IWup+bi)a2=P(LW2.iai+b?
多层网络的简化表示:
MATLAB神经网络工具箱中的神经网络模型
■标量:
小写字母,如a,b,c等;
■列向量:
小写黑体字母,如a,b,c等,意为一列数;
■矩阵向量:
大写黑体字母,如A,B5C等
权值矩阵向量W(t)
■标量元素Wjj(°
i为行,j为列,t为时间或迭代函数
■列向量"
丿⑴
■行向量叱⑴
阈值向量b(t)
■标量元素乞⑴,i为行,t为时间或迭代函数
网络层符号
■加权和:
n;
m为第m个网络层,严为第个神经元,n%加权和
■网络层输岀:
aZm为第m个网络层,护为第sm个神经元口为磕角
■输入层权值矩阵,网络层权值矩阵厶w乞其中,上标k,l表示第I个网络层到第k个网络层的连接权值矩阵向量
例:
表示输入向量的第R个输入元素到输入层的第F个神经元的连接权.
■/w?
表示
S.S
■b'
t表示…
第i个网络层的第“个神经元的阈值
P\
Pl
P3
■
Pr
S个神经元的层
{为第一层神经元的中间运算结果,即连接权向量与阈值向量的加权和,大小为S】xl,艮卩
n=/W1P+/?
1
屮为第一层神经元的输出向量,大小为Slxl
a1=f\lWxP+b^
■神经网络的层数为神经元网络层的数目加1,即隐层数目加1・
a2=f\LW2ay+b2)=f2[LW2f\lWlp+bl)+b2]
多层网络简化形式
Layer1
Input
\r
■pJ
■TTr
If
Layer2
IWn、
a>
IAV21
S'
xR
bi
J斑
fl
If
S5SL
1)2
f2
52x1
图中:
S1x1V152x1c2
Ly<
—
ai.=fl(IVVi.ip+bi)32=f2(LWxi-klv)
p=[Pi^P^..Pr\
bl=[b[^..b\]
1W11
•1,1叫1碱1
1」
叫2
•1,1
叫,1
•14
叫,2
叫,R
说明:
■输入层神经元的个数决定IW的行数,输入向
量元素的个数决定IW的列数,即S1行R列.
4■公式和图形中的变量符号在编程
代码中的表示方法
■细胞矩阵:
将多个矩阵向量作为细胞矩阵的”细胞”(Cell),细胞矩阵的各个元素值为对应细胞的大』、和薮檯类型
3
[2x2double]
<
[2x3double\
、r
[][2x2double][]
>
=<
c[2x3double\[3x2double\
丿V
■访问元素:
m{1}=n{151}=a=
m{2}=n{2,l}=b=
n{2」}⑷=5
变量符号在MATLAB中的表示
■⑴上标变量以细胞矩阵(Cellarray)即大括号表示p1={1}
■
(2)下标变量以圆括号表示,
P1二p(l),
p;
=p{l}
(2)p;
2=p{2}(2,2)
例:
Mi=MU}(2,3)
加如)=p{2,k—1}
(2)
神经网络工具箱常用函数列表
重要的感知器神经网络函数:
■初始化:
initp■训练:
trainp
■仿真:
simup
■学习规则:
learnp
initlinsolvelinsimulintrainwhadaptwhlearnwh
线性神经网络函数
■设计:
■仿真:
■离线训练:
■在线自适应训练:
BP网络函数:
■initff:
初始化不超过3层的前向网络;
■simuff:
仿真不超过3层的前向网络;
■trainbp,trainbpx,trainlm:
训练BP
□trainbp:
最慢;
□trainbpx:
次之;
□trainlm:
速度最快,但需要更多的存储空间。
■leambp:
学习规则
自组织网络■初始化:
initsm
simuc
■训练:
trainc:
利用竞争规则训练
trainsm:
利用Kohonen规则训练
反馈网络(Hopfield网络)
仿真:
设计:
solvehopsolvelinrandslearnbplearnhlearnplearnwhinitlininitpinitsmplotsmtrainbptrainptrainwhtrainsm
simuhopsolvehop设计Hopfield网络
设计线性网络产生对称随机数反向传播学习规则
Hebb学习规则
感知层学习规则
Widrow-Hoff学习规则线性层初始化
感知层初始化
自组织映射初始化绘制自组织映射图利用反向传播训练前向网络利用感知规则训练感知层利用Widrow—Hoff规则训练线性层利用Kohonen规则训练自组织映射
a=purelin(Wp+£
fi
TheweightmatrixWinthiscasehasonlyonerow.Thenetworkoutputisa=purelin(n)=purelin(Vip+b)=Wp+bor
a二W]]P]+W]2P2+
创建线性神经网络层
net=newlin([13;
13]⑴;
net.lW{151}=[12];
net.b{1}=0;
设有数据集由4个向量组成
p1=[1p2=[21]Jp3=[23]Jp4=[31]J
P=[1223;
2131]
A=sim(net5P)
A=
5485
■例2:
SeeP14intextbook
■例3:
SeeP39
■例4:
SeeP40
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- MATLAB 神经网络 工具箱 中的 模型 docx