说明
简述：本文将以4399小游戏《宠物连连看经典版2》作为测试案例，通过识别小图标，模拟鼠标点击，快速完成配对。对于有兴趣学习游戏脚本的同学有一定的帮助。
运行环境：Win10/Python3.5。
主要模块：win32gui（识别窗口、窗口置顶等操作）、PIL（屏幕截图）、numpy（创建矩阵）、operator（比较值）、pymouse（模拟鼠标点击）。
注意点：
如果安装pymouse不成功或者运行报错，可以考虑先通过whl 安装pyHook、然后再通过pip安装pyuserinput。
如果报错 [ImportError: No module named 'windows' ]，可以修改__init__.py相应的行 为 windows => pymouse.windows。
本文主要参考：
https://baijiahao.baidu.com/s?id=1618385402903335091&wfr=spider&for=pc
开发前景（随便唠叨一哈，可跳过）
游戏辅助脚本在当前环境也算是比较流行了，对于经常玩游戏人来说，适当的游戏辅助还是很有帮助的，让计算机做一些繁琐乏味的操作。当然还有更加高大上的其他操作，这里就不赘述了。对于游戏辅助脚本，能想到基本有以下两种：一是读取游戏在内存中的数据，理想的话可以做到更改游戏一些基本属性，原理和很多的外挂或破解游戏类似；二是模拟用户用户行为，模拟鼠标点击、键盘操作等。当然，由于本人从未涉及游戏辅助脚本这一领域，出于个人兴趣，学习研究一下，本文例子则是第二种，主要还是模拟用户行为，让程序代替用户操作。
开发流程
先看看程序运行图吧：
浏览器打开游戏窗口（单个一个窗口），游戏界面如下图所示，游戏主要界面截图需要两个坐标（左上角坐标和右下角坐标）来确定，原点一般是屏幕左上角，不确定坐标点值的同学，可以全屏截图，用编辑图片软件查看坐标值。获取窗口句柄，这里就是浏览器标题栏的标题了（右键-查看源代码-title，加上软件名）比如：“宠物连连看经典2,宠物连连看经典版2小游戏,4399小游戏 www.4399.com - Google Chrome“。获取窗口句柄就可以开始了。
总体开发思路：截取游戏主图 ---> 分割成小图 ---> 对比每个小图，对比图片相识度，编号存入矩阵 ---> 对矩阵进行可连计算 ---> 模拟点击。
获取窗口句柄，把窗口置顶
python可以使用win32gui模块调用Windows API实现对窗口的操作，使用FindWindow()方法可以获取窗口的句柄（handle），需要传入两个参数，第一个为父窗口句柄（这里填0即可），第二个参数是窗口的名称（标签title - Google Chrome）。获取句柄之后然后通过SetForegroundWindows() 设置窗口在前面，这里传入游戏窗口的举报即可，代码如下：
import win32gui
class GameAssist:
def __init__(self, wdname):
"""初始化"""
# 取得窗口句柄
self.hwnd = win32gui.FindWindow(0, wdname)
if not self.hwnd:
print("窗口找不到，请确认窗口句柄名称：【%s】" % wdname )
exit()
# 窗口显示最前面
win32gui.SetForegroundWindow(self.hwnd)
if __name__ == "__main__":
# wdname 为连连看窗口的名称，必须写完整
wdname = u'宠物连连看经典版2,宠物连连看经典版2小游戏,4399小游戏 www.4399.com - Google Chrome'
demo = GameAssist(wdname)
demo.start()
截取游戏界面，分割图标，图片比较
这里需要花费一些时间来校验程序，如果截取的图片不好，则会影响后续操作，所以比较主要的是确认游戏左上角和右下角这两个坐标值，以及每个小图标的宽高。如下图所示，先截取整个游戏界面图，然后分割小图标，接着对每个图标进行比较，然后以编号代替图标存入矩阵（这里的编号矩阵和游戏图不一致，原理一样）。
根据初始化设定的左上角和右下角两个坐标，使用ImageGrab.grab()方法进行截图，传入一个元组即可，然后对这个大图进行分割，切割成一个个小图标存入到images_list数组中。
def screenshot(self):
"""屏幕截图"""
# 1、用grab函数截图，参数为左上角和右下角左标
# image = ImageGrab.grab((417, 257, 885, 569))
image = ImageGrab.grab(self.scree_left_and_right_point)
# 2、分切小图
# exit()
image_list = {}
offset = self.im_width # 39
# 8行12列
for x in range(8):
image_list[x] = {}
for y in range(12):
# print("show",x, y)
# exit()
top = x * offset
left = y * offset
right = (y + 1) * offset
bottom = (x + 1) * offset
# 用crop函数切割成小图标，参数为图标的左上角和右下角左边
im = image.crop((left, top, right, bottom))
# 将切割好的图标存入对应的位置
image_list[x][y] = im
return image_list
通过上面代码切割的小图标，转成数字矩阵，如果图标已经存入image_type_list则返回这个索引，如果不存在，则在追加进去，然后当前长度就是这个新加入图标的编号，代码如下所示：
def image2num(self, image_list):
"""将图标矩阵转换成数字矩阵"""
# 1、创建全零矩阵和空的一维数组
arr = np.zeros((10, 14), dtype=np.int32) # 以数字代替图片
image_type_list = []
# 2、识别出不同的图片，将图片矩阵转换成数字矩阵
for i in range(len(image_list)):
for j in range(len(image_list[0])):
im = image_list[i][j]
# 验证当前图标是否已存入
index = self.getIndex(im, image_type_list)
# 不存在image_type_list
if index < 0:
image_type_list.append(im)
arr[i + 1][j + 1] = len(image_type_list)
else:
arr[i + 1][j + 1] = index + 1
print("图标数：", len(image_type_list))
self.im2num_arr = arr
return arr
上面的getIndex就是对比图片，判断图标是否出现过（是否已存在image_type_list中，没出现则追加进去），这里使用汉明距离判断两个图片的相识度，设置阀值10，当小于阀值则认为是同一个图片，具体代码如下：
# 检查数组中是否有图标,如果有则返回索引下表
def getIndex(self,im, im_list):
for i in range(len(im_list)):
if self.isMatch(im, im_list[i]):
return i
return -1
# 汉明距离判断两个图标是否一样
def isMatch(self, im1, im2):
# 缩小图标，转成灰度
image1 = im1.resize((20, 20), Image.ANTIALIAS).convert("L")
image2 = im2.resize((20, 20), Image.ANTIALIAS).convert("L")
# 将灰度图标转成01串,即系二进制数据
pixels1 = list(image1.getdata())
pixels2 = list(image2.getdata())
avg1 = sum(pixels1) / len(pixels1)
avg2 = sum(pixels2) / len(pixels2)
hash1 = "".join(map(lambda p: "1" if p > avg1 else "0", pixels1))
hash2 = "".join(map(lambda p: "1" if p > avg2 else "0", pixels2))
# 统计两个01串不同数字的个数
match = sum(map(operator.ne, hash1, hash2))
# 阀值设为10
return match < 10
程序核心-图标连接算法（路径寻找）
这里仅对算法代码进行简单分析，如果对程序不好理解，可以留言，后续可以图文分析。
通过上面的开发流程，基本获取如下这样的矩阵，只要比较两个编号相同的值进行可连路径寻找，如果找到即进行模拟点击操作。这里简单介绍下游戏规则：8行乘12列游戏图标区域，外围的0其实表示寻找路径的时候可以通过，例如坐标（1, 1）可以与（1,10）进行连接、（7, 1）和（7,2）进行连接。
arr = [
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0],
[ 0, 1, 2, 3, 4, 5, 4, 6, 7, 2, 1, 1, 8, 0],
[ 0, 9, 3, 3, 10, 4, 7, 11, 7, 2, 3, 1, 6, 0],
[ 0, 6, 7, 4, 11, 5, 8, 1, 6, 5, 4, 2, 8, 0],
[ 0, 6, 2, 9, 6, 8, 9, 7, 12, 11, 3, 11, 11, 0],
[ 0, 5, 9, 8, 9, 2, 6, 11, 11, 3, 9, 2, 12, 0],
[ 0, 12, 5, 12, 5, 10, 5, 6, 5, 7, 12, 4, 3, 0],
[ 0, 1, 8, 10, 12, 9, 10, 4, 3, 7, 2, 1, 10, 0],
[ 0, 1, 4, 10, 8, 12, 10, 10, 9, 12, 8, 7, 11, 0],
[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
]
算法的思路：路径的寻找首先是寻找一个坐标的横向竖向可以直接相连的坐标集合，比如坐标p1（1,1）这样的集合有[ （0,1）, （1,0） ]，另外一个坐标p2（1,10）的可连集合为[ （0,10） ]，然后再对p1和p2的可连坐标集合进行比较，如果集合中坐标也有可连，则表示p1和p2可连，很明显，（0,1）和（0,10）为同一行且可连，这样就表示p1和p2两点存在可连路径了，代码如下所示：
简单分析下代码实现过程：在isReachable()传入两个需要比较的坐标值，然后分别获取两个点横竖向（isRowConnect()、isColConnect()）可以连接的坐标集合，最后再对集合进行遍历比较是否存在可连的，如果存在则表示传入的两个坐标是可以连接的。
# 是否为同行或同列且可连
def isReachable(self, x1, y1, x2, y2):
# 1、先判断值是否相同
if self.im2num_arr[x1][y1] != self.im2num_arr[x2][y2]:
return False
# 1、分别获取两个坐标同行或同列可连的坐标数组
list1 = self.getDirectConnectList(x1, y1)
list2 = self.getDirectConnectList(x2, y2)
# print(x1, y1, list1)
# print(x2, y2, list2)
# exit()
# 2、比较坐标数组中是否可连
for x1, y1 in list1:
for x2, y2 in list2:
if self.isDirectConnect(x1, y1, x2, y2):
return True
return False
# 获取同行或同列可连的坐标数组
def getDirectConnectList(self, x, y):
plist = []
for px in range(0, 10):
for py in range(0, 14):
# 获取同行或同列且为0的坐标
if self.im2num_arr[px][py] == 0 and self.isDirectConnect(x, y, px, py):
plist.append([px, py])
return plist
# 是否为同行或同列且可连
def isDirectConnect(self, x1, y1, x2, y2):
# 1、位置完全相同
if x1 == x2 and y1 == y2:
return False
# 2、行列都不同的
if x1 != x2 and y1 != y2:
return False
# 3、同行
if x1 == x2 and self.isRowConnect(x1, y1, y2):
return True
# 4、同列
if y1 == y2 and self.isColConnect(y1, x1, x2):
return True
return False
# 判断同行是否可连
def isRowConnect(self, x, y1, y2):
minY = min(y1, y2)
maxY = max(y1, y2)
# 相邻直接可连
if maxY - minY == 1:
return True
# 判断两个坐标之间是否全为0
for y0 in range(minY + 1, maxY):
if self.im2num_arr[x][y0] != 0:
return False
return True
# 判断同列是否可连
def isColConnect(self, y, x1, x2):
minX = min(x1, x2)
maxX = max(x1, x2)
# 相邻直接可连
if maxX - minX == 1:
return True
# 判断两个坐标之间是否全为0
for x0 in range(minX + 1, maxX):
if self.im2num_arr[x0][y] != 0:
return False
return True
开发总结
学习这样一个游戏辅助脚本，对于个人培养编程兴趣也是有很多帮助的，在工作之余不失为一个好的消遣方式，以后会多向这些方向研究学习。本案例仅仅是截图、比较图片和模拟鼠标点击，我觉得还可以更加强大，而且还不局限于游戏这样一个领域，相信大家应该见过自动发QQ消息的软件吧，我觉得这完全可以做。还有很多模拟操作可以实现：鼠标滚轮，左右键、键盘输入等。
附件-源码
# -*- coding:utf-8 -*-
import win32gui
import time
from PIL import ImageGrab, Image
import numpy as np
import operator
from pymouse import PyMouse
class GameAssist:
def __init__(self, wdname):
"""初始化"""
# 取得窗口句柄
self.hwnd = win32gui.FindWindow(0, wdname)
if not self.hwnd:
print("窗口找不到，请确认窗口句柄名称：【%s】" % wdname )
exit()
# 窗口显示最前面
win32gui.SetForegroundWindow(self.hwnd)
# 小图标编号矩阵
self.im2num_arr = []
# 主截图的左上角坐标和右下角坐标
self.scree_left_and_right_point = (299, 251, 768, 564)
# 小图标宽高
self.im_width = 39
# PyMouse对象，鼠标点击
self.mouse = PyMouse()
def screenshot(self):
"""屏幕截图"""
# 1、用grab函数截图，参数为左上角和右下角左标
# image = ImageGrab.grab((417, 257, 885, 569))
image = ImageGrab.grab(self.scree_left_and_right_point)
# 2、分切小图
# exit()
image_list = {}
offset = self.im_width # 39
# 8行12列
for x in range(8):
image_list[x] = {}
for y in range(12):
# print("show",x, y)
# exit()
top = x * offset
left = y * offset
right = (y + 1) * offset
bottom = (x + 1) * offset
# 用crop函数切割成小图标，参数为图标的左上角和右下角左边
im = image.crop((left, top, right, bottom))
# 将切割好的图标存入对应的位置
image_list[x][y] = im
return image_list
def image2num(self, image_list):
"""将图标矩阵转换成数字矩阵"""
# 1、创建全零矩阵和空的一维数组
arr = np.zeros((10, 14), dtype=np.int32) # 以数字代替图片
image_type_list = []
# 2、识别出不同的图片，将图片矩阵转换成数字矩阵
for i in range(len(image_list)):
for j in range(len(image_list[0])):
im = image_list[i][j]
# 验证当前图标是否已存入
index = self.getIndex(im, image_type_list)
# 不存在image_type_list
if index < 0:
image_type_list.append(im)
arr[i + 1][j + 1] = len(image_type_list)
else:
arr[i + 1][j + 1] = index + 1
print("图标数：", len(image_type_list))
self.im2num_arr = arr
return arr
# 检查数组中是否有图标,如果有则返回索引下表
def getIndex(self,im, im_list):
for i in range(len(im_list)):
if self.isMatch(im, im_list[i]):
return i
return -1
# 汉明距离判断两个图标是否一样
def isMatch(self, im1, im2):
# 缩小图标，转成灰度
image1 = im1.resize((20, 20), Image.ANTIALIAS).convert("L")
image2 = im2.resize((20, 20), Image.ANTIALIAS).convert("L")
# 将灰度图标转成01串,即系二进制数据
pixels1 = list(image1.getdata())
pixels2 = list(image2.getdata())
avg1 = sum(pixels1) / len(pixels1)
avg2 = sum(pixels2) / len(pixels2)
hash1 = "".join(map(lambda p: "1" if p > avg1 else "0", pixels1))
hash2 = "".join(map(lambda p: "1" if p > avg2 else "0", pixels2))
# 统计两个01串不同数字的个数
match = sum(map(operator.ne, hash1, hash2))
# 阀值设为10
return match < 10
# 判断矩阵是否全为0
def isAllZero(self, arr):
for i in range(1, 9):
for j in range(1, 13):
if arr[i][j] != 0:
return False
return True
# 是否为同行或同列且可连
def isReachable(self, x1, y1, x2, y2):
# 1、先判断值是否相同
if self.im2num_arr[x1][y1] != self.im2num_arr[x2][y2]:
return False
# 1、分别获取两个坐标同行或同列可连的坐标数组
list1 = self.getDirectConnectList(x1, y1)
list2 = self.getDirectConnectList(x2, y2)
# print(x1, y1, list1)
# print(x2, y2, list2)
# exit()
# 2、比较坐标数组中是否可连
for x1, y1 in list1:
for x2, y2 in list2:
if self.isDirectConnect(x1, y1, x2, y2):
return True
return False
# 获取同行或同列可连的坐标数组
def getDirectConnectList(self, x, y):
plist = []
for px in range(0, 10):
for py in range(0, 14):
# 获取同行或同列且为0的坐标
if self.im2num_arr[px][py] == 0 and self.isDirectConnect(x, y, px, py):
plist.append([px, py])
return plist
# 是否为同行或同列且可连
def isDirectConnect(self, x1, y1, x2, y2):
# 1、位置完全相同
if x1 == x2 and y1 == y2:
return False
# 2、行列都不同的
if x1 != x2 and y1 != y2:
return False
# 3、同行
if x1 == x2 and self.isRowConnect(x1, y1, y2):
return True
# 4、同列
if y1 == y2 and self.isColConnect(y1, x1, x2):
return True
return False
# 判断同行是否可连
def isRowConnect(self, x, y1, y2):
minY = min(y1, y2)
maxY = max(y1, y2)
# 相邻直接可连
if maxY - minY == 1:
return True
# 判断两个坐标之间是否全为0
for y0 in range(minY + 1, maxY):
if self.im2num_arr[x][y0] != 0:
return False
return True
# 判断同列是否可连
def isColConnect(self, y, x1, x2):
minX = min(x1, x2)
maxX = max(x1, x2)
# 相邻直接可连
if maxX - minX == 1:
return True
# 判断两个坐标之间是否全为0
for x0 in range(minX + 1, maxX):
if self.im2num_arr[x0][y] != 0:
return False
return True
# 点击事件并设置数组为0
def clickAndSetZero(self, x1, y1, x2, y2):
# print("click", x1, y1, x2, y2)
# (299, 251, 768, 564)
# 原理：左上角图标中点 + 偏移量
p1_x = int(self.scree_left_and_right_point[0] + (y1 - 1)*self.im_width + (self.im_width / 2))
p1_y = int(self.scree_left_and_right_point[1] + (x1 - 1)*self.im_width + (self.im_width / 2))
p2_x = int(self.scree_left_and_right_point[0] + (y2 - 1)*self.im_width + (self.im_width / 2))
p2_y = int(self.scree_left_and_right_point[1] + (x2 - 1)*self.im_width + (self.im_width / 2))
time.sleep(0.2)
self.mouse.click(p1_x, p1_y)
time.sleep(0.2)
self.mouse.click(p2_x, p2_y)
# 设置矩阵值为0
self.im2num_arr[x1][y1] = 0
self.im2num_arr[x2][y2] = 0
print("消除：(%d, %d) (%d, %d)" % (x1, y1, x2, y2))
# exit()
# 程序入口、控制中心
def start(self):
# 1、先截取游戏区域大图，然后分切每个小图
image_list = self.screenshot()
# 2、识别小图标，收集编号
self.image2num(image_list)
print(self.im2num_arr)
# 3、遍历查找可以相连的坐标
while not self.isAllZero(self.im2num_arr):
for x1 in range(1, 9):
for y1 in range(1, 13):
if self.im2num_arr[x1][y1] == 0:
continue
for x2 in range(1, 9):
for y2 in range(1, 13):
# 跳过为0 或者同一个
if self.im2num_arr[x2][y2] == 0 or (x1 == x2 and y1 == y2):
continue
if self.isReachable(x1, y1, x2, y2):
self.clickAndSetZero(x1, y1, x2, y2)
if __name__ == "__main__":
# wdname 为连连看窗口的名称，必须写完整
wdname = u'宠物连连看经典版2,宠物连连看经典版2小游戏,4399小游戏 www.4399.com - Google Chrome'
demo = GameAssist(wdname)
demo.start()
GameAssist.py
原文：
https://www.cnblogs.com/reader/p/10111777.html
