chentianpingfd的个人博客分享 http://blog.sciencenet.cn/u/chentianpingfd

博文

ReLU 神经网络

已有 3035 次阅读 2021-12-24 21:19 |系统分类:科研笔记

  1. ReLU 神经网络是一种特殊的 Generalized Sigmoidal 函数的神经网络

  2. ReLU 神经网络的逼近就是折线样条函数 (spline) 的逼近.

  3. 二进制 deep learning ReLU 神经网络就是一个 piecewise linear functions wavelet.

  4. 列入部分上世纪80年代关于样条函数的文章



image.png

image.png

image.png

image.png

image.png



construction.pdf

iEEETNN1993.pdf

iEEETNN1995A.pdf

缺插值样条 中国科学 1981.pdf

广义样条 科学通报1982.pdf

样条的渐近展开 中国科学1983.pdf

LP 空间中的样条 中国科学1983.pdf

用样条函数描述函数构造性质 数学年刊1983.pdf

复样条 科学通报1987.pdf




https://blog.sciencenet.cn/blog-3377239-1318020.html

上一篇:QUAD-Condition 在同步和协同研究中的重要性和应用
下一篇:Homogeneous 系统和 Heterogeneous 系统 的同步
收藏 IP: 101.87.238.*| 热度|

1 彭真明

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-18 16:36

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部