【神经网络】综合篇——人工神经网络、卷积神经网络、循环神经网络、生成对抗网络_经典神经网络哪些-程序员宅基地

技术标签: 卷积神经网络  人工神经网络  深度学习  人工智能  神经网络  神经网络学习  

前言

本文综合整理常用的神经网络,包括生物神经网络、人工神经网络、卷积神经网络、循环神经网络、生成对抗网络;参考了许多高校的课程、论文、博客和视频等。文章的结构是先进行概念了解,然后结合图片、结构图、一步一步详细讲解;大家要不看看? ( •̀ ω •́ )y

一、人工神经网络

简介:人工神经网络 (Artificial Neural Network, ANN),由人工神经元构成的网络,模拟人类的大脑;它模拟生物过程以反映人脑某些特征的计算结构。

联系人工神经元模拟生物神经元人工神经网络模拟人类的大脑,模拟生物神经网络

特点:人工神经网络是一个并行、分布处理结构,具有学习能力、泛化能力。

功能:联想记忆功能、非线性映射功能、分类与识别功能、知识处理功能。

详细介绍一篇文章“简单”认识《人工神经网络》(更新版)

目录大纲

  • 1 前言
  • 2 人类大脑
  • 3 生物神经网络
  • 4 生物神经元
  • 5 人工神经元
  • 6 人工神经网络
    • 6.1 单层神经网络
    • 6.2 多层神经网络
    • 6.3 前向传播
    • 6.4 损失函数
    • 6.5 梯度下降方法
    • 6.6 反向传播算法
  • 7 特点
  • 8 功能
  • 9 小结
  • 参考

单层神经网络,如下所示图: ( •̀ ω •́ )y

二、卷积神经网络

简介

卷积神经网络(Convolutional Neural Network, CNN),通过卷积层池化层的叠加实现对输入数据的特征提取,最后连接全连接层实现分类。对于图像处理有出色表现,在计算机视觉中得到了广泛的应用。

联系

动物视觉系统对外界的感知是:

  1. 视觉皮层的每个神经元只响应某些特定区域的刺激(感受野)
  2. 从局部到全局(信息分层处理机制)

卷积神经网络

  1. 每个神经元只需对 局部图像 进行感知;
  2. 在更高层将局部的信息综合起来,得到全局信息;

结构:主要由 卷积层+池化层+全连接层 组成的。

应用:图像分类、目标检测、目标跟踪、语义分割、实例分割等。

详细介绍一篇文章“简单”认识《卷积神经网络》(更新版)

目录大纲

  • 1 前言
  • 2 基于什么提出卷积神经网络?
  • 3 卷积(Convolution)
  •     3.1 卷积操作
  •     3.2 多层卷积层
  • 4 池化(Pooling)
  • 5 全连接层
  • 6 特征维度变化
  • 7 CNN核心思想——参数共享
  • 8 优势
  • 9 经典的卷积神经网络
  • 10 卷积神经网络应用
  • 参考

基本卷积神经网络,如下所示图: ( •̀ ω •́ )y

三、循环神经网络

简介循环神经网络(Recurrent Neural Networks,RNN),是一种反馈网络,模拟“人脑记忆功能”,常用于语言识别、机器翻译、视频分析、生成图像描述等。

背景:人工神经网络、卷积神经网络是前馈网络;前馈神经网络是一个静态网络,信息的传递是单向的,网络的输出只依赖于当前的输入,不具备记忆能力。前馈神经网络处理的数据是一个一个输入的,前后数据没有关系的。实际生活中,很多数据都是有上下文相关性的,这些数据称为序列数据;处理的时候,不能只考虑当前的输入就进行判断,需要考虑前后之间关系。

这时需要使用“循环神经网络”,它能有效处理序列特性的数据,它能挖掘数据中的时序信息以及语义信息

结构:循环神经网络由循环体堆叠而成;

详细介绍:一篇文章“简单”认识《循环神经网络》(更新版)

应用:主要在自然语言处理方向应用;

  • 文档分类和时间序列分析(识别文章的主题)
  • 时间序列对比  (比较两个文档的相关程度)
  • 序列到序列的学习(中文翻译为英文)
  • 情感分析    (推文或电影评论的情感划分为正面或负面)
  • 世间序列预测  (根据最近的天气数据来预测未来天气)

目录大纲

  • 1 前言
  • 2 循环体
  • 3 循环神经网络
  • 4 LSTM网络
  • 5 循环神经网络应用
  • 参考

循环体及其按时间展开后的效果: ( •̀ ω •́ )y

四、生成对抗网络

简介生成对抗网络(GAN,generative adversarial network),是一种常用于学习类别特征的神经网络结构;主要有两部分组成,分别是生成网络、判别网络。

背景:在监督学习中,训练集需要大量的人工标注数据,并且需要人工判断生成结构好坏,这个过程是高成本且低效率的;GAN能自动完成这个过程,效率高成本低。

详细介绍:一篇文章“简单”认识《生成对抗网络》(GAN)

应用:GAN 的应用十分广泛,它的应用包括图像合成、图像编辑、风格迁移、图像超分辨率以及图像转换,数据增强等。

目录大纲

  • 1 前言
  • 2 生成对抗网络应用
  •    2.1 风格迁移
  •    2.2 图像生成
  •    2.3 音乐创作
  • 3 生成学习算法
  • 4 生成对抗网络
  •    4.1 GAN的简要实现流程
  •    4.2 GAN算法实现要点
  • 5 MNIST 案例
  • 6 GAN优点
  • 7 GAN缺点
  • 8 文献学习
  • 1. Generative Adversarial Networks
    2. Conditional GANs
    3. DCGAN
    4. Improved Techniques for Training GANs
    5. Pix2Pix
    6. CycleGAN
    7. Progressively Growing of GANs
    8. BigGAN
    9.NAS

生成对抗网络GAN原理图,如下图所示:( •̀ ω •́ )y

大家加油呀~~ ( •̀ ω •́ )✧

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/qq_41204464/article/details/115797030

智能推荐

JAVA复习笔记02-程序员宅基地

文章浏览阅读122次。16、interface中的成员变量默认为public static final类型,方法只能是public(默认为public)17、内部类访问外部类成员:Outer.this.num;18、一道有趣的题目  使用内部类实现该程序。(答案附在本文末尾)interface Inter { void show();}clas..._public

智慧交通与汽车智能化构建“交通强国”-程序员宅基地

文章浏览阅读1k次。智慧交通正在成为新基建的主力军,伴随着新能源汽车和汽车融入智能制造产业链的结构性深化,智慧交通产业构架成为中国经济发展进入新常态下融入碳中和、碳达峰的绿色发展和以新基建为代表的的中国智能制..._智能交通 智慧交通 芯片

阿里云服务器在docker上部署MySQL(图文详细教程)_阿里云服务器docker安装数据库-程序员宅基地

文章浏览阅读1.4k次。阿里云服务器在docker上部署MySQL(图文详细教程)设置容器、运行容情做数据挂载、端口映射、目录映射。_阿里云服务器docker安装数据库

Openjudge:向量点积计算_python 给定两个n维向量a=(a1,a2,...,an)和b=(b1,b2,...,bn),求-程序员宅基地

文章浏览阅读1.5k次。描述在线性代数、计算几何中,向量点积是一种十分重要的运算。给定两个n维向量a=(a1,a2,…,an)和b=(b1,b2,…,bn),求点积a·b=a1b1+a2b2+…+anbn。输入第一行是一个整数n。1 <= n <= 1000。第二行包含n个整数a1,a2,…,an。第三行包含n个整数b1,b2,…,bn。相邻整数之间用单个空格隔开。输出一个整数,即两个向量的点积结果。样例输入31 4 62 1 5样例输出36n = int(input())s = li_python 给定两个n维向量a=(a1,a2,...,an)和b=(b1,b2,...,bn),求点积a·b=a1b1+a2b

Openjudge:求三个数的和_python如果三个数全部是整数,则结果也是整数。如果三个数中有小数,则结果-程序员宅基地

文章浏览阅读3.8k次。描述输入三个整数或小数,输出它们的和如果结果是整数,就保留小数点后面一位的0(用python写则不用特别处理,程序自然会如此)输入​输入三个整数或小数输出和样例输入1 2.3 4.7样例输出8.0代码:s = input().split()a = float(s[0])b = float(s[1])c = float(s[2])print(a+b+c)..._python如果三个数全部是整数,则结果也是整数。如果三个数中有小数,则结果

最简单的视音频播放示例7:SDL2播放RGB/YUV_用c语言调用sdl2播放yuv-程序员宅基地

文章浏览阅读627次。//////////////转载:雷神博客http://blog.csdn.net/leixiaohua1020/article/details/40525591/////////////本文记录SDL播放视频的技术。在这里使用的版本是SDL2。实际上SDL本身并不提供视音频播放的功能,它只是封装了视音频播放的底层API。在Windows平台下,SDL封装了Direct3D_用c语言调用sdl2播放yuv

随便推点

android,ListView_zy-2021-10-21-0119-程序员宅基地

文章浏览阅读999次。Activity页public class MainActivity extends AppCompatActivity { private ListView mlv1; @Override protected void onCreate(Bundle savedInstanceState) { super.onCreate(savedInstanceState); setContentView(R.layout.activity_main);_zy-2021-10-21-0119

DOMJavascript总结_javascript curtd-程序员宅基地

文章浏览阅读1.6k次。1,动态设置事件: function F1(){ alert('In F1'); } function F2{ alert(In F2); }_javascript curtd

R语言ggplot2可视化:使用ggplot2可视化散点图、使用labs参数自定义X轴的轴标签文本(customize X axis labels)_r语言中的labs()的用法-程序员宅基地

文章浏览阅读685次。R语言ggplot2可视化:使用ggplot2可视化散点图、使用labs参数自定义X轴的轴标签文本(customize X axis labels)_r语言中的labs()的用法

What is the difference between L1 and L2 regularization?_the differences between l1 snd l2-程序员宅基地

文章浏览阅读4.1k次。今天讨论班一个师姐讲到L1 norm还有L2 norm 的regularization问题,还有晚上和一个同学也讨论到这个问题,具体什么时候用L1,什么时候用L2,论文上写道一般当成分中有几个成分是principal factor的时候我们会使用L1 norm penalty,但是为什么L1会有这个效果。一个网上的讨论:http://www.quora.com/Machine-Lear_the differences between l1 snd l2

Java抽象类/抽象方法定义及其特性详解_抽象方法怎么定义-程序员宅基地

文章浏览阅读8.7k次,点赞13次,收藏40次。类的继承结构中,越往上的类越具有通用性,也就越抽象。当它抽象到一定程度,就变成概念成框架,不能再产生实例化的对象了。例如“交通工具”,就无法用它来产生一个实例。对应这一现象,Java中提供了抽象类,它只能作为父类,不能实例化。定义抽象类的作用是将一类对象的共同特点抽象出来,成为代表该类共同特性的抽象概念,其后在描述某一具体对象时,只要添加与其他子类对象的不同之处,而不需要重复类的共同特性。这样就使得程序概念层次分明,开发更高效。与抽象类紧密相连的是抽象方法一它总是用在抽象类或接口中。_抽象方法怎么定义

从海外客户端Bidding看,移动开发者应如何应对竞价模式变化?_admob竞价和瀑布的区别和文档-程序员宅基地

文章浏览阅读2.0k次。从海外客户端Bidding看,移动开发者应如何应对竞价模式变化2021年,对于渴望通过广告进行变现的移动开发者来说,可能注定是风云变幻的一年,也将是移动互联网广告程序化购买这个行业程碑式的一年,对此很多国内出海开发者会有更早的感触。自2020年三四季度始,大洋彼岸的美国就掀起了一轮“移动流量的客户端竞价革命”。其实,对于流量竞价(Realtime Bidding)很多PC时代的开发者并不陌生,简而言之,流量竞价就是APP的每一次广告曝光的机会都可以分发至多个买方平台,比如DS、Adnetwork_admob竞价和瀑布的区别和文档

推荐文章

热门文章

相关标签