辞客堂数位杂谈版 2018-04-17
i春秋作家:hlpureboy
最近在写某网站的自动注册,在注册的过程中遇到一些问题,如js的执行、验证码的识别等等,今天给大家如何用python通过机器学习的方式实现验证码的识别,这次以i春秋验证码为例进行识别,尽可能的用简单的方式给大家讲解。
发现i春秋的验证码的url:https://user.ichunqiu.com/login/verify_image?d=1523697519026,如果你点击的话,发现验证码无法获取到,抓一下包,怎么抓包,可以用burpsuite或者浏览器按f12就成,在这里不再赘述。发现在headers中要有Referer,构造headers的。
headers={ "Cookie":"XXXXXXXXXXXXXX", "Referer":"https://user.ichunqiu.com/register/index", "Upgrade-Insecure-Requests":"1", "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36" }
简单写一下下载验证码的代码
url="https://user.ichunqiu.com/login/verify_image?d=1523697519026" for i in range(0,51): with open("./pic/{}.png".format(i),"wb") as f: print("{} pic downloading...".format(i)) f.write(requests.get(url,headers=headers).content)
在pic目录下获得50张验证码照片了
ok!既然获取到验证码了,肯定要对验证码进行一定程度的处理!
像上图这样的二维码,怎么做训练么?!最起码要给它去掉脸上的雀斑(点点),修复脸上的刀疤(条纹),怎么办呢?难道要寄出神器PS?不存在的,兄die! 我们要做的是批量处理,用ps一张张的人工处理,很明显不符合懒人的风格,怎么办?
下面肯定是祭出数字图像处理了,有些同学看到这里就发怵,没关系,这里没有什么技术难度的!相信我,也相信自己。我突然,发现我有给人灌鸡汤的天赋!下面正式开始讲解!
1.首先,观察原图像(t2.png)!即是不是发现它的色彩十分多呀!在数字图像领域中,我们一般研究灰度图像,那么?问题来了什么是灰度图像呢?简单地说,整幅图片都是灰色的!原图片经过灰度处理是这样的。
是不是都是灰色的呢?但是我们得到的灰度图,有些地方比较浅,有些地方颜色比较深,这是为什么呢?下面是重点内容,都给我听好啦!图像在计算机中是用<u>矩阵</u>进行存储的,可能,你不知道矩阵是什么东西。那少年我推荐你一本《工程数学 线性代数 》看完一遍保你收获颇丰!当然啦,实在不想看,可以去百度百科呀,矩阵定义,怎么样我贴心吧?!矩阵中每一个数代表着一个像素!数值的大小反映在图像中就是图像的深浅!值越大,颜色越深!这就说明了,灰度图中颜色深浅的问题,好吧!道理我都懂,怎么转化成灰度图呢?代码如下:
# encoding=utf-8fromPILimportImage,ImageFilterimportmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimportmatplotlib.cmascm# 导入相应的库img=Image.open(“t2.png”)# 载入t2.pngim=img.convert(“L”)# 这里重点!img图像转化为灰度图像im、plt.subplot(4,2,1)# 关于plt这个用法在网上有很多教程,我在这里就不一一赘述了plt.imshow(np.array(im),cmap=cm.gray)
2.现在我们得到灰度图像:
观察发现,验证码都是深颜色的,要不把浅颜色的“雀斑”去掉,怎么去掉呢?肯定在矩阵中找一个值(一般称之为阈值),小于这个值的数都变成零(白色),大于这个数的值都变成最大值(黑),咦!灰度图像变成了黑白图像!怎么找这个阈值呢?一般用矩阵的平均数或者中位数,纳尼?什么是中位数,找一个小学课本翻一番。好!那我们分别取平均数和中位数,做一下处理看一下效果!
平均数效果如下:
中位数效果如下:
那么肯定是用平均数做呀!代码如下!
# encoding=utf-8fromPILimportImage,ImageFilterimportmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimportmatplotlib.cmascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)# im转化为im_z矩阵print(im_z.mean())# im_z的平均值print(np.median(im_z))# im_z的中位数plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)# 用im_z的平均值197转化为黑白图像im_bplt.subplot(4,2,3)plt.imshow(im_b)# 显示im_bim_a=im.point(lambdai:i>220,mode=’1′)# 用im_z的平均值220转化为黑白图像im_aplt.subplot(4,2,4)plt.imshow(im_a)# 显示im_a
3.得到黑白图像了,可还是有“雀斑”怎么办,用上神奇的中值滤波啦!中值滤波定义,一般都是在灰度图上进行中值滤波,我也是突然想看一下,在黑白图像的处理结果怎么样(当然,这里的中值只能是零或一啦),结果还不错!
在这里要说的是,中值滤波这个概念,比较容易理解,我这个小菜鸡,概括的不怎么样!只能委屈大家看一下优秀的博客啦。处理代码如下
# encoding=utf-8fromPILimportImage,ImageFilterimportmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimportmatplotlib.cmascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)print(im_z.mean())print(np.median(im_z))plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)plt.subplot(4,2,3)plt.imshow(im_b)im_a=im.point(lambdai:i>220,mode=’1′)plt.subplot(4,2,4)plt.imshow(im_a)”’#################下面是核心代码###############”’im_f=im_b.filter(ImageFilter.MedianFilter(size=3))# 用 im_b图像进行中值滤波,掩模用的3×3的模板plt.subplot(4,2,5)plt.imshow(im_f)# 显示 im_fplt.show()
4.得到干净的验证码,这样就结束了么?no!no!no! 紧接接着,要把单个的字符分割出来!怎么分割来?下面我会给出代码,在代码中给出解释
# encoding=utf-8fromPILimportImage,ImageFilterimportmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimportmatplotlib.cmascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)print(im_z.mean())print(np.median(im_z))plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)plt.subplot(4,2,3)plt.imshow(im_b)im_a=im.point(lambdai:i>220,mode=’1′)plt.subplot(4,2,4)plt.imshow(im_a)im_f=im_b.filter(ImageFilter.MedianFilter(size=3))plt.subplot(4,2,5)plt.imshow(im_f)plt.show()”’##########下面是核心代码###############”’im=im_fprint(im.size)a = np.array(im)# im转化为a矩阵pd.DataFrame(a.sum(axis=0)).plot.line()# 画出每列的像素累计值plt.imshow(a,cmap=‘gray’)# 画出图像split_lines = [7,25,44,60,78]# 经过调整过的分割线的合理间距vlines = [plt.axvline(i, color='r')foriinsplit_lines]# 画出分割线plt.show()
得到图像如下
啧啧啧!我都有点佩服我自己呢!下面要把字符一个个的分割出来!同时要把上边和下边的黑线去掉!
怎么办呢?talk is cheap,show my code!
# encoding=utf-8fromPILimportImage,ImageFilterimportmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimportmatplotlib.cmascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)print(im_z.mean())print(np.median(im_z))plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)plt.subplot(4,2,3)plt.imshow(im_b)im_a=im.point(lambdai:i>220,mode=’1′)plt.subplot(4,2,4)plt.imshow(im_a)im_f=im_b.filter(ImageFilter.MedianFilter(size=3))plt.subplot(4,2,5)plt.imshow(im_f)plt.show()im=im_fprint(im.size)a = np.array(im)pd.DataFrame(a.sum(axis=0)).plot.line()# 画出每列的像素累计值plt.imshow(a,cmap=‘gray’)# 画出图像split_lines = [7,25,44,60,78]vlines = [plt.axvline(i, color='r')foriinsplit_lines]# 画出分割线plt.show()#im.crop()”’#################核心代码##########################”’y_min=5y_max=35#设置获取图像的高和宽ims=[]c=1forx_min,x_maxinzip(split_lines[:-1],split_lines[1:]): im.crop([x_min,y_min,x_max,y_max] ).save(str(c)+‘.png’) # crop()函数是截取指定图像! # save保存图像! c=c+1foriinrange(1,5): file_name=“{}.png”.format(i) plt.subplot(4,2,i) im=Image.open(file_name).convert(“1″) #im=img.filter(ImageFilter.MedianFilter(size=3)) plt.imshow(im) # 显示截取的图像!plt.show()
得到的图像结果如下!
5.还记得咱们在第一步中获取的50张图片么?没错!把他们都分割出来吧!整理一下代码!
# encoding=utf-8 from sklearn.neighbors import KNeighborsClassifier as KNN from sklearn.externals import joblib from PIL import Image,ImageFilter import numpy as np def imgprocess(name): # 图片分割成单个字符! path="./pic/{}.png".format(str(name)) img=Image.open(path).convert("L") th=np.array(img).mean() im_b = img.point(lambda i: i > th, mode='1') im_f= im_b.filter(ImageFilter.MedianFilter(size=3)) split_lines = [7, 25, 43, 61, 79] y_min = 5 y_max = 35 ims = [] c = 1 for x_min, x_max in zip(split_lines[:-1], split_lines[1:]): im_f.crop([x_min, y_min, x_max, y_max]).save('./pic2later/{}-{}.png'.format(str(name),str(c))) c = c + 1 for i in range(1,51): print("process {} pic".format(i)) imgprocess(i)
1.关于knn算法呢,我以前做过一些笔记,我po上去了
链接:https://pan.baidu.com/s/1g0_fRLf4iRwefeP5ZoGwJA密码: gizr
大家记得看一下!
2.相应的代码及注解
# encoding=utf-8 from sklearn.neighbors import KNeighborsClassifier as KNN from sklearn.externals import joblib from PIL import Image,ImageFilter import numpy as np def imgprocess(name): path="./pic/{}.png".format(str(name)) img=Image.open(path).convert("L") th=np.array(img).mean() im_b = img.point(lambda i: i > th, mode='1') im_f= im_b.filter(ImageFilter.MedianFilter(size=3)) split_lines = [7, 25, 43, 61, 79] y_min = 5 y_max = 35 ims = [] c = 1 for x_min, x_max in zip(split_lines[:-1], split_lines[1:]): im_f.crop([x_min, y_min, x_max, y_max]).save('./pic2later/{}-{}.png'.format(str(name),str(c))) c = c + 1 for i in range(1,51): print("process {} pic".format(i)) imgprocess(i) ''' ###########下面是核心代码##################### ''' def Y(): # 获取字符的值!这些验证码是我一个一个肉眼写出来的! with open("./pic/reslut.txt") as f: Y=list(f.read().replace("\n","")) return Y def getX(): # 获取X的值! path="./pic2later/{}-{}.png" X=[] for i in range(1,51): for c in range(1,5): img=Image.open(path.format(str(i),str(c))) ls = np.array(img).tolist() xx = [] for l in ls: for x in l: xx.append(x) X.append(xx) return X def train(): # 用knn模型进行训练 knn = KNN() knn.fit(getX(), Y()) joblib.dump(knn,"./model.pkl") # 保存结果! train()
写到这里了,干脆把预测代码也写一下吧!跟训练代码差不多!
# encoding=utf8 from sklearn.neighbors import KNeighborsClassifier as KNN from sklearn.externals import joblib from PIL import Image,ImageFilter import numpy as np MODEL_PATH="./model.pkl" def getX(file_name): X=[] img=Image.open(file_name).convert("L") th=np.array(img).mean() im_b = img.point(lambda i: i > th, mode='1') im_f = im_b.filter(ImageFilter.MedianFilter(size=3)) split_lines = [7, 25, 43, 61, 79] y_min = 5 y_max = 35 for x_min, x_max in zip(split_lines[:-1], split_lines[1:]): ls=np.array(im_f.crop([x_min, y_min, x_max, y_max])).tolist() xx=[] for l in ls: for x in l: xx.append(x) X.append(xx) return X def predict(file_path): # 预测 knn=joblib.load(MODEL_PATH) X=getX(file_path) Y=knn.predict(X) return "".join(Y) print(predict("./pic/1.png"))
链接:https://pan.baidu.com/s/1Ym7oc1Iryy8o63c6O9Jkfw
密码在这里!密码在这里!密码在这里!密码在这里!密码在这里!
https://bbs.ichunqiu.com/thread-38774-1-1.html?from=bkyl