神经网络中常见激活函数的python表达
off999 2024-10-23 12:42 16 浏览 0 评论
在神经网络最后的输出层，通常会使用激活函数将最后一层神经元得到的数据再进行计算，最终得到一个输出的结果，这里称该函数为激活函数，比对输出表达式为，当最后一层输出元得到的数据大于0，则输出1，小于0则输出0，这种称为阶跃函数，常见的激活函数有阶跃函数，sigmoid，ReLU，tanh函数
阶跃函数
阶跃函数的意义为，当输入数据大于某个值时输出值A，小于等于某个值时为B，表现为在某个值时输出突然变化，数学表达为
该图表示，当输入小于等于0时，输出0，大于0时输出1，使用python的函数表达为
函数比较简单，但是通常情况下，我们输入的数一般不会只是简单的一个数，一般是一个向量，将上面的函数使用numpy模块进行一下改造。
上面脚本的输出为[1 1 0 0]
y=x>0 利用numpy的广播功能，将numpy数组依次和0进行对比，当大于0的时候返回True，否则返回False,再将True和False转换为int的0和1
>>> import numpy as np >>> x = np.array([1.0,2.0,0,-2.3]) >>> y = x>0 >>> y array([ True, True, False, False]) >>> y.astype(np.int) array([1, 1, 0, 0])
如果使用matplotlib对上面的函数进行图形化展示，如下
得到的图形如下
sigmoid函数
阶跃函数在行为上表现的过于激进，更多的情况下我们希望在神经网络中得到一种更为平滑的输出，由其在分类问题中，比如我们一共可能有5种输出结果，我们希望在最后的激活函数中得到这5种结果的概率，取概率最大的那种可能结果，这时我们就不希望用到上面这种过于激进的函数，我们可以使用sigmoid函数。
sigmoid函数的数学表达式为
sigmoid表达式
其中exp(?x)表示 的意思。e是纳皮尔常数2.7182...
python 的函数表达为
输出为[0.11920292 0.73105858 0.88079708]
sigmoid的函数图形为
sigmoid图形
将sigmoid函数与阶跃函数放在一起
sigmoid与阶跃图形对比
可以看出sigmoid函数比阶跃函数要平滑。
tanh函数
tanh的数学表达式为
表现为输入从-10到10之间，输出会从-1到1之间平滑变化，大于10的输出1，小于-10的输出-1，
python函数表达为
上面输出为
[-1. -1. -0.99999997 -0.96402758 0. 0.96402758 0.99505475 1. 1. ]
tanh的图形为
ReLU函数
ReLU函数在输入大于0 时，直接输出该值；在输入小于等于0 时，输出0，数学表达式为
sigmoid与阶跃图形对比
ReLU的python表达式为
输出为[0. 1. 2.]
ReLU的图形为
上面四个激活函数的图形放到一起为
参考资料 《深度学习入门：基于Python的理论与实现》
相关推荐
- python入门到脱坑经典案例—清空列表
-
在Python中，清空列表是一个基础但重要的操作。clear()方法是最直接的方式，但还有其他方法也可以实现相同效果。以下是详细说明：1.使用clear()方法（Python3.3+推荐）...
- python中元组，列表，字典，集合删除项目方式的归纳
-
九三，君子终日乾乾，夕惕若，厉无咎。在使用python过程中会经常遇到这四种集合数据类型，今天就对这四种集合数据类型中删除项目的操作做个总结性的归纳。列表（List）是一种有序和可更改的集合。允许重复...
- Linux 下海量文件删除方法效率对比，最慢的竟然是 rm
-
Linux下海量文件删除方法效率对比，本次参赛选手一共6位，分别是：rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...
- 数据结构与算法——链式存储(链表)的插入及删除，
-
持续分享嵌入式技术，操作系统，算法，c语言/python等，欢迎小友关注支持上篇文章我们讲述了链表的基本概念及一些查找遍历的方法，本篇我们主要将一下链表的插入删除操作，以及采用堆栈方式如何创建链表。链...
- Python自动化:openpyxl写入数据，插入删除行列等基础操作
-
importopenpyxlwb=openpyxl.load_workbook("example1.xlsx")sh=wb['Sheet1']写入数据#...
- 在Linux下软件的安装与卸载（linux里的程序的安装与卸载命令）
-
通过apt安装/协助软件apt是AdvancedPackagingTool，是Linux下的一款安装包管理工具可以在终端中方便的安装/卸载/更新软件包命令使用格式：安装软件：sudoapt...
- Python 批量卸载关联包 pip-autoremove
-
pip工具在安装扩展包的时候会自动安装依赖的关联包，但是卸载时只删除单个包，无法卸载关联的包。pip-autoremove就是为了解决卸载关联包的问题。安装方法通过下面的命令安装：pipinsta...
- 用Python在Word文档中插入和删除文本框
-
在当今自动化办公需求日益增长的背景下，通过编程手段动态管理Word文档中的文本框元素已成为提升工作效率的关键技术路径。文本框作为文档排版中灵活的内容容器，既能承载多模态信息（如文字、图像），又可实现独...
- Python 从列表中删除值的多种实用方法详解
-
#Python从列表中删除值的多种实用方法详解在Python编程中，列表（List）是一种常用的数据结构，具有动态可变的特性。当我们需要从列表中删除元素时，根据不同的场景（如按值删除、按索引删除、...
- Python 中的前缀删除操作全指南（python删除前导0）
-
1.字符串前缀删除1.1使用内置方法Python提供了几种内置方法来处理字符串前缀的删除：#1.使用removeprefix()方法(Python3.9+)text="...
- 每天学点Python知识:如何删除空白
-
在Python中，删除空白可以分为几种不同的情况，常见的是针对字符串或列表中空白字符的处理。一、删除字符串中的空白1.删除字符串两端的空白（空格、\t、\n等）使用.strip()方法：s...
- Linux系统自带Python2&yum的卸载及重装
-
写在前面事情的起因是我昨天在测试Linux安装Python3的shell脚本时，需要卸载Python3重新安装一遍。但是通过如下命令卸载python3时，少写了个3，不小心将系统自带的python2也...
- 如何使用Python将多个excel文件数据快速汇总?
-
在数据分析和处理的过程中，Excel文件是我们经常会遇到的数据格式之一。本文将通过一个具体的示例，展示如何使用Python和Pandas库来读取、合并和处理多个Excel文件的数据，并最终生成一个包含...
- 【第三弹】用Python实现Excel的vlookup功能
-
今天继续用pandas实现Excel的vlookup功能，假设我们的2个表长成这样：我们希望把Sheet2的部门匹在Sheet1的最后一列。话不多说，先上代码：importpandasaspd...
- python中pandas读取excel单列及连续多列数据
-
案例：想获取test.xls中C列、H列以后（当H列后列数未知时）的所有数据。importpandasaspdfile_name=r'D:\test.xls'#表格绝对...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python自定义函数 (53)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python串口编程 (60)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python字典增加键值对 (53)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python人脸识别 (54)
- python多态 (60)
- python命令行参数 (53)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)