python人工智能:完整的图片识别(非图片验证码),以及模型的使用
off999 2024-09-14 07:05 41 浏览 0 评论
作者:Python疯子
链接:https://www.jianshu.com/p/5b4e51869e64
这个可以说是一个绝对的福利中的福利。一整套的AI图片识别以及模型的使用。
一直都在说人工智能,图像识别,又有几个人会呢,网上文章成山,前一段时间因工作需要,我一个做后端开发的,要做图片识别。
于是开始了疯狂的地毯式搜索,先说网上介绍最多,最好,也是最坑的模型---AIimage,10行代码完成图像识别,通过代码是可以识现,但必须使用它们的模型,不能自己训练,于是开始找AIimage的训练模型,也找到了,也能训练,用训练好的模型,正式测试,哇,屎一样!
后来得到一位大哥真传,给了这套完整的训练+使用的完整代码,先说说这位大哥,那人真是一个好啊,我从git上获取代码,然后自己跑,各种bug+不会调试,我都不好意思问,这位大哥亲自帮忙调试,解决bug,远程调试,帮我弄到后半夜,太辛苦了,给大哥发个红包,没收,留下一句话:为了学习!!!
大哥永远是大哥
我之所以写这篇文章主要是方便像我一样的纯小白使用代码,因为源代码里没有完整的结构,也存在一些小小的问题,献上完整通过的代码。
我不会人工智能,下面内容来自大哥的原文章TensorFlow 复现ResNet系列模型
:
阅前须知:
为了使本文结构精简,理解简单,所以会尽量少涉及到有关数学公式,降低学习门槛,带领读者快速搭建ResNet-152经典模型并投入训练。
本文的最后会放出博主自己复现的ResNet模型,投入自己的数据集进行训练。
如读者在阅读时发现有错误的地方欢在评论的地方指出,共同进步
编译环境:Python3.5
TensorFlow-gpu 1.3.0
一、结构分析
关于ResNet的来源我就不进行赘述了,相信读者都对这个包揽各大图像识别赛事冠军的模型或多或少有一定的了解。
图片来源Google
说起卷积模型,LeNet、Inception、Vgg都是我们在学习图像识别领域神经网络的经典模型,以上图片模型就是经典的Vgg-19与34层传统卷积网络、ResNet-34的对比。
从计算量上来讲,Vgg-19的三层全连接神经网络的计算量明显大于传统卷积网络和resnet,传统卷积网络和resnet的参数数量相同
plain与resnet
从训练拟合度上讲,论文中分别给出了plain-18、plain-34和resnet-18、resnet-34的对比,我们不难发现plain随着层数的增加,精度并没有得到明显的提升,而resnet不仅随着层数的增加提高了训练精度,且相较同深度的plain而言精度更高
在以往的学习之中,我们知道深度网络随着层数的增加,很容易造成“退化”和“梯度消失”的问题,训练数据的过拟合。但在ResNet中,作者给出了一种解决方案:增加一个identity mapping(恒等映射,由于本文面向读者基础不同,就不加以详述,有能力的同学可以看一下ResNet作者的论文)
残差模块
上图是一个残差模块的结构示意,残差块想要有效果需要有两层或两层以上的layer,同时,输入x与输出F(x)的维度也须相同
residual block
在对于高于50层深度的resnet模型中,为了进一步减少计算量且保证模型精度,作者对残差模块进行了优化,将内部两层33layer换成11 → 33 → 11,。首先采用11卷积进行深度降维,减少残差模块在深度上的计算量,第二层33layer和之前的模块功能一样,提取图像特征,第三层1*1layer用于维度还原。
那么问题又来了,既然已经经过了3*3卷积,那输出维度怎么会一样呢?作者在论文中给出了三种解决方案:
1、维度不足部分全0填充
2、输入输出维度一致时使用恒等映射,不一致时使用线性投影
3、对于所有的block均使用线性投影。
在本文中,我们对模型主要采用全0填充。
好,以上就是简单的理论入门,接下来我们开始着手用TensorFlow对理论进行代码实现
二、实现规划(ResNet-50-101-152)
我们来选取最具有代表性的152层ResNet来进行搭建,论文的作者就是用152层模型来获得Imagenet大赛冠军的。
不同深度的ResNet结构
结构定义字典
在本文中,我们的模型搭建方式是以字典的形式进行循环堆砌
结构字典
ResNet_demo = { "layer_50":[{"depth": 256,"num_class": 3}, {"depth": 512,"num_class": 4}, {"depth": 1024,"num_class": 6}, {"depth": 2048,"num_class": 3}], "layer_101": [{"depth": 256, "num_class": 3}, {"depth": 512, "num_class": 4}, {"depth": 1024, "num_class": 23}, {"depth": 2048, "num_class": 3}], "layer_152": [{"depth": 256, "num_class": 3}, {"depth": 512, "num_class": 8}, {"depth": 1024, "num_class": 36}, {"depth": 2048, "num_class": 3}]
子类模块规划
在ResNet网络传递的过程中,我们来探讨一些即将遇到的问题:
1.降采样过程
2.通道填充
降采样示意
降采样过程用于不同类瓶颈模块之间传递的过程,例如上图中粉色卷积层和蓝色卷积层之间的数据交互,蓝色卷积层中的/2就是降采样处理
降采样模块代码实现
def sampling(input_tensor, #Tensor入口 ksize = 1, #采样块大小 stride = 2): #采样步长 data = input_tensor data = slim.max_pool2d(data,ksize,stride = stride) return data
通道填充用于输入数据x与结果数据F(x)生成残差和时造成的通道不匹配问题
通道填充模块代码实现
def depthFilling(input_tensor, #输入 Tensor depth): #输出深度 data = input_tensor #取出输入tensor的深度 input_depth = data.get_shape().as_list()[3] #tf.pad用与维度填充,不理解的同学可以去TensoFLow官网了解一下 data = tf.pad(data,[[0,0], [0,0], [0,0], [abs(depth - input_depth)//2, abs(depth - input_depth)//2]]) return data
好的,两个子类问题已经得到解决,下面来对残差模块进行规划实现
残差模块
因为搭建方向选择layer大于等于50层,所以我们采用论文中给出的第二种残差模块(11+33+1*1)
残差模块代码实现
def bottleneck(input_tensor,output_depth): #取出通道 redepth = input_tensor.get_shape().as_list()[3] # 当通道不相符时,进行全零填充并降采样 if output_depth != redepth: #全零填充 input_tensor = depthFilling(input_tensor,output_depth) #降采样 input_tensor= sampling(input_tensor) data = input_tensor #降通道处理 data = slim.conv2d(inputs = data, num_outputs = output_depth//4, kernel_size = 1,stride = 1) #提取特征 data = slim.conv2d(inputs = data, num_outputs = output_depth//4, kernel_size = 3,stride = 1) #通道还原 data = slim.conv2d(inputs = data, num_outputs = output_depth, kernel_size = 1,stride = 1, activation_fn=None, normalizer_fn=None) #生成残差 data = data + input_tensor data = tf.nn.relu(data) return data
有了残差模块,我们就可以对网络结构进行堆砌了
不过,为了精简我们的代码块,我选择把全连接层拿出来单独写成一个模块
FC代码实现
这一模块没有什么技术含量,和我们入门时的BP神经网络差不多
def cnn_to_fc(input_tensor, #Tensor入口 num_output, #输出接口数量 train = False, #是否使用dropout regularizer = None): #正则函数 data = input_tensor #得到输出信息的维度,用于全连接层的输入 data_shape = data.get_shape().as_list() nodes = data_shape[1] * data_shape[2] * data_shape[3] reshaped = tf.reshape(data, [data_shape[0], nodes]) #最后全连接层 with tf.variable_scope('layer-fc'): fc_weights = tf.get_variable("weight", [nodes,num_output], initializer=tf.truncated_normal_initializer(stddev=0.1)) if regularizer != None: tf.add_to_collection('losses', regularizer(fc_weights)) fc_biases = tf.get_variable("bias", [num_output], initializer=tf.constant_initializer(0.1)) fc = tf.nn.relu(tf.matmul(reshaped, fc_weights) + fc_biases) if train: fc = tf.nn.dropout(fc, 0.5) return fc
定义传递规则
inference
#堆叠ResNet模块 def inference(input_tensor, #数据入口 demos, #模型资料(list) num_output, #出口数量 is_train): data = input_tensor #第一层卷积7*7,stride = 2,深度为64 data = conv2d_same(data,64,7,2,is_train,None,normalizer_fn = False) data = slim.max_pool2d(data,3,2,scope="pool_1") with tf.variable_scope("resnet"): #堆叠总类瓶颈模块 demo_num = 0 for demo in demos: demo_num += 1 print("--------------------------------------------") #堆叠子类瓶颈模块 for i in range(demo["num_class"]): print(demo_num) if demo_num is not 4: if i == demo["num_class"] - 1: stride = 2 else: stride = 1 else: stride = 1 data = bottleneck(data,demo["depth"],stride,is_train) print("--------------------------------------------") data = tf.layers.batch_normalization(data,training=is_train) data = tf.nn.relu(data) #平均池化,也可用Avg_pool函数 data = tf.reduce_mean(data, [1, 2], keep_dims=True) print("output : ", data) #最后全连接层 data = slim.conv2d(data,num_output,1,activation_fn=None) data_shape = data.get_shape().as_list() nodes = data_shape[1] * data_shape[2] * data_shape[3] data = tf.reshape(data, [-1, nodes]) return data
inference调用方式
inference(input_tensor = 数据入口 demos = ResNet_demo["layer_101"], #获取模型词典 num_output = 出口数量, is_train = False) # BN是否被训练
参考文献:
https://arxiv.org/pdf/1512.03385.pdf
http://blog.csdn.net/xxy0118/article/details/78324256
http://blog.csdn.net/mao_feng/article/details/52734438
使用介绍
图片分类以及目录结构
Snip20181114_1.png
第一步、运行FlowIO.py
image.png
第二步、运行train.py 训练模型 我这里图片少,训练的次数也少,真实情况要大量训练
image.png
第三步、运行Evaluation.py,测试结果集,可跳过
选择正确的模型:
正确的模型.png
第四步、使用模型useModel.py,进行图片识别
image.png
结果是对的!!!
请忽略我的结果,因为我只有8张训练集,这个每类最少要80张训练集。
稍后我多下些训练集试试
相关推荐
- 大文件传不动?WinRAR/7-Zip 入门到高手,这 5 个技巧让你效率翻倍
-
“这200张照片怎么传给女儿?微信发不了,邮箱附件又超限……”62岁的张阿姨对着电脑犯愁时,儿子只用了3分钟就把照片压缩成一个文件,还教她:“以后用压缩软件,比打包行李还方便!”职场人更懂这...
- 电脑解压缩软件推荐——7-Zip:免费、高效、简洁的文件管理神器
-
在日常工作中,我们经常需要处理压缩文件。无论是下载软件包、接收文件,还是存储大量数据,压缩和解压缩文件都成为了我们日常操作的一部分。而说到压缩解压软件,7-Zip绝对是一个不可忽视的名字。今天,我就来...
- 设置了加密密码zip文件要如何打开?这几个方法可以试试~
-
Zip是一种常见的压缩格式文件,文件还可以设置密码保护。那设置了密码的Zip文件要如何打开呢?不清楚的小伙伴一起来看看吧。当我们知道密码想要打开带密码的Zip文件,我们需要用到适用于Zip格式的解压缩...
- 大文件想要传输成功,怎么把ZIP文件分卷压缩
-
不知道各位小伙伴有没有这样的烦恼,发送很大很大的压缩包会受到限制,为此,想要在压缩过程中将文件拆分为几个压缩包并且同时为所有压缩包设置加密应该如何设置?方法一:使用7-Zip免费且强大的文件管理工具7...
- 高效处理 RAR 分卷压缩包:合并解压操作全攻略
-
在文件传输和存储过程中,当遇到大文件时,我们常常会使用分卷压缩的方式将其拆分成多个较小的压缩包,方便存储和传输。RAR作为一种常见的压缩格式,分卷压缩包的使用频率也很高。但很多人在拿到RAR分卷...
- 2个方法教你如何删除ZIP压缩包密码
-
zip压缩包设置了加密密码,每次解压文件都需要输入密码才能够顺利解压出文件,当压缩包文件不再需要加密的时候,大家肯定想删除压缩包密码,或是忘记了压缩包密码,想要通过删除操作将压缩包密码删除,就能够顺利...
- 速转!漏洞预警丨压缩软件Winrar目录穿越漏洞
-
WinRAR是一款功能强大的压缩包管理器,它是档案工具RAR在Windows环境下的图形界面。该软件可用于备份数据,缩减电子邮件附件的大小,解压缩从Internet上下载的RAR、ZIP及其它类...
- 文件解压方法和工具分享_文件解压工具下载
-
压缩文件减少文件大小,降低文件失效的概率,总得来说好处很多。所以很多文件我们下载下来都是压缩软件,很多小伙伴不知道怎么解压,或者不知道什么工具更好,所以今天做了文件解压方法和工具的分享给大家。一、解压...
- [python]《Python编程快速上手:让繁琐工作自动化》学习笔记3
-
1.组织文件笔记(第9章)(代码下载)1.1文件与文件路径通过importshutil调用shutil模块操作目录,shutil模块能够在Python程序中实现文件复制、移动、改名和删除;同时...
- Python内置tarfile模块:读写 tar 归档文件详解
-
一、学习目标1.1学习目标掌握Python内置模块tarfile的核心功能,包括:理解tar归档文件的原理与常见压缩格式(gzip/bz2/lzma)掌握tar文件的读写操作(创建、解压、查看、过滤...
- 使用python展开tar包_python拓展
-
类Unix的系统,打包文件经常使用的就是tar包,结合zip工具,可以方便的打包并解压。在python的标准库里面有tarfile库,可以方便实现生成了展开tar包。使用这个库最大的好处,可能就在于不...
- 银狐钓鱼再升级:白文件脚本化实现GO语言后门持久驻留
-
近期,火绒威胁情报中心监测到一批相对更为活跃的“银狐”系列变种木马。火绒安全工程师第一时间获取样本并进行分析。分析发现,该样本通过阿里云存储桶下发恶意文件,采用AppDomainManager进行白利...
- ZIP文件怎么打开?2个简单方法教你轻松搞定!
-
在日常工作和生活中,我们经常会遇到各种压缩文件,其中最常见的格式之一就是ZIP。ZIP文件通过压缩数据来减少文件大小,方便我们进行存储和传输。然而,对于初学者来说,如何打开ZIP文件可能会成为一个小小...
- Ubuntu—解压多个zip压缩文件.zip .z01 .z02
-
方法将所有zip文件放在同一目录中:zip_file.z01,zip_file.z02,zip_file.z03,...,zip_file.zip。在Zip3.0版本及以上,使用下列命令:将所有zi...
- 如何使用7-Zip对文件进行加密压缩
-
7-Zip是一款开源的文件归档工具,支持多种压缩格式,并提供了对压缩文件进行加密的功能。使用7-Zip可以轻松创建和解压.7z、.zip等格式的压缩文件,并且可以通过设置密码来保护压缩包中的...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)