内容简介
人工神经网络(简称神经网络), 是一种模拟人脑神经元之间相互作用的数学模型, 具有非常强大的表达能力和逼近能力. 经过漫长的研究和发展,神经网络的理论和应用逐步完善, 目前在计算机科学、人工智能等领域已经得到了广泛的应用. 神经网络的复杂性问题, 即研究神经网络的拓扑结构与逼近能力、逼近速率之间的关系. 其中, 对于在刻画逼近阶的定量估计方面的研究尤为重要. 对于一个神经网络, 刻画出它的本质逼近阶有助于我们进一步精准评估神经网络逼近能力, 为神经网络的设计、参数选择和应用提供重要指导.直接构造神经网络并估计其近似值具有深远的意义。这种构造方法允许显式表示网络的参数,因此可以省略训练段,而且近似误差的估计省略了测试过程,但仍可以保证神经网络的通用性和泛化范围。因此,避免了优化过程中的局部最小解。作为一种直接构造神经网络的方法,神经网络算子的构造近年来成为学习理论和逼近论交叉研究的热门领域,引起越来越多学者的兴趣。近年来,笔者利用一些特殊的方法构造出一些具有较好逼近性质的神经网络算子,并将逼近论中的K泛函,光滑模、Berens-Lorentz引理、极大函数等逼近论的重要工具应用于算子逼近性质的研究,刻画了这些直接构造的神经网络算子的本质逼近阶。本书是这些方法的一个系统总结。
目录介绍
目录
第1章 逼近论基础 1
1.1 赋范线性空间 1
1.2 正线性算子及逼近定理 2
1.3 连续模、光滑模、Ditzian-Totik型模和 K泛函 6
1.3.1 连续模 6
1.3.2 光滑模 7
1.3.3 Ditzian-Totik型模 11
1.3.4 K泛函及其与光滑模的等价性 13
1.4 Ramazanov的函数光滑延拓法 17
第2章 神经网络插值算子 21
2.1 由Sigmoidal型函数激活的精确插值神经网络 21
2.2 基于A(m)函数类的精确神经网络插值算子 29
2.2.1 A(m)函数类 29
2.2.2 由 A(m)函数激活的神经网络插值算子 32
2.2.3 对光滑函数及其导数同时插值的神经网络算子 37
2.3 基于分段三次多项式的精确神经网络插值算子 40
2.3.1 一种分段三次多项式基函数及其插值算子 40
2.3.2 插值算子对连续函数的逼近阶 42
2.3.3 两类修正算子及其改进估计 47
2.4 由整函数激活的神经网络插值算子 53
2.4.1 一类特殊的整函数 53
2.4.2 由整函数激活的精确神经网络插值算子 54
2.4.3 由整函数激活的四层神经网络插值算子 62
2.4.4 由整函数激活的 max-product算子 66
2.5 多元神经网络插值算子 68
2.5.1 逼近多元连续函数的神经网络插值算子 68
2.5.2 基于Lagrange多项式优化的神经网络插值算子 74
2.5.3 基于Lagrange多项式优化的多元神经网络插值算子 86
第3章 神经网络拟插值算子 93
3.1 由Sigmoidal型函数激活的单隐层神经网络逼近 93
3.2 基于渐近行为的由 Sigmoidal型函数激活的神经网络 96
3.2.1 逼近光滑函数的深度神经网络 99
3.2.2 逼近连续函数的深度神经网络 102
3.2.3 一些应用的例子 106
3.3 基于 Joukowski变换的神经网络算子 113
3.3.1 由 Joukowski变换生成的激活函数 H(x) 113
3.3.2 由 H(x)激活的神经网络算子及其逼近性质 114
3.4 基于宽度学习系统的神经网络算子 119
3.4.1 基于宽度学习系统 (BLS)的神经网络算子的构造 119
3.4.2 BLS算子对分数阶光滑函数的逼近 122
3.4.3 BLS算子对通常光滑函数的逼近 129
3.4.4 BLS算子逼近的逆定理 131
3.5 散乱数据上的一类 RBF神经网络算子逼近 135
3.6 一类神经网络算子的点态逼近 144
第4章 神经网络算子在 Lp空间和 Orlicz空间的逼近 155
4.1 Lp空间的 Kantorovich型神经网络算子逼近 155
4.1.1 逼近的正定理 156
4.1.2 逼近的逆定理 163
4.2 Orlicz空间的神经网络算子逼近 166
4.2.1 Orlicz空间的一些基本概念 166
4.2.2 Orlicz空间逼近的正定理 168
4.2.3 Orlicz空间逼近的逆定理 173
4.2.4 一些激活函数的例子 180
4.3 Lp空间的 Durrmeyer型神经网络算子逼近 183
4.3.1 逼近的正定理 183
4.3.2 逼近的逆定理 194
4.4 加权 Kantorovich型最大-乘积神经网络算子的构造及逼近 202
4.4.1 加权 Kantorovich型最大-乘积神经网络算子的构造 202
4.4.2 对连续函数的逼近 204
4.4.3 Lp空间的逼近 208
4.4.4 权函数 χ和激活函数?的例子 218
参考文献 223