《uiautomator2智能识文手游辅助外挂，高效打怪刷装备》

uiautomator2智能识文手游辅助外挂，高效打怪刷装备 一、背景

先交代下背景，就是疫情期间，随便玩了一款游戏，玩了后发现，游戏任务太繁重了，为了兼顾学习和游戏，所以就萌生了自己动手开发手游辅助外挂的想法，调研了几(🖕)个手机自动化测试平(📪)台最后选中(♓)了uiautomator2，然后有了这边文章 《uiautomator2介绍及环境搭建》 以及文章《uiautomator2一分钟实(👘)现辅助外挂》
如果仔细读(🔜)过第二篇文(💼)章的朋友就会发现，前面说的外挂就是 定时任务+ 模拟用户点击，如果碰上复杂点场景，就(🚴)完全无法适应了，比如下面几种

Boss有刷新又时间(🐉)间隔，然(🕜)后区分“野外”，”秘境“，”神谕“，每个刷新时间都不同，那么(⏸)这个辅助脚本怎么写呢，轮训点击肯定不现实，无法快人一步抢先(Ⓜ)刷到怪，怎么解决呢？ 当然是如(🔡)标题写的 那样，通过阅读这篇博文，大家会了解到这些知识

要实现按时去刷怪，那么(🥉)肯定需要上图红色框中那个刷新时间，这个文字又无法通过简单的通过控件去识别，那么就只能通过图片去实现了，我这里的思路是用网上开源的OCR文字识别库识别出时间，到这里又不得不赞叹python扩展能力真是强大，关键是拓展起来超级easy，不愧是“胶水语言”。好了，长话短说，文件OCR识别，我这里用的是tesseract，下面会介绍 tesseract 的安装简单(💡)使用。继续我们刚刚的分解，假设可以通过图片进行文字识别，那么要实现一个定(🅾)时抢怪任务，我(🌟)们需(🔋)要的工作如下：(🥥)
1、模拟点击到刷怪页面，并进行截图
2、截图到的图片做裁剪（主要是过(🔺)滤其他文字识别干扰）
3、对裁剪到的图片(🤞)做 灰度处理（比如彩色变黑白），然后(🛥)二值化、(🎐)降噪等一系列操作，主要是去除背景和一些其他的干扰。
4、识别到的数字转(⬇)化(👤)为秒，然后建立定时任务
5、定时启动抢怪任务(🎦)，截图每个步骤图片，拼接成一(🎒)张图，供人工查下结果。
6、截重复前面5个步骤实现自(🦍)动刷挂打装备
好了，下面我们一步步来实现这个效果。

如果要使用Tesseract库(🚗)，首先需要安装它到你(🏃)的机器上。
macOS用(👢)户，我们使(🎟)用Homebrew 去安装Tesseract：

$ brew install tesseract1

当然有时候Homebrew 可能更新导致卡住，最简单的办法是在 .bash_profile 文(💸)件中新增一行，暂时关闭更新

export HOMEBREW_NO_AUTO_UPDATE=true1

安装完成后 tesseract -v 查看是否安装完成

可以通过命(🗾)令测试一把
比如下面一(📺)张图片

我们通过命令 tesseract /Users/bifeng/222222.png stdout digits

可以看出一下子就把数字识别出来了，这里识别得是数字，如果是中文则(👸)需(🏇)要改为(🧔)
tesseract /Users/bifeng/3333.jpg stdout -l chi_sim
-l 后面得参数代表识别得语(🏀)言 chi_sim 代表是中文简体。
当(🌍)然中文(🦖)简体字体是需要额外去下载(🈚)字库得，
去往https://github.com/tesseract-ocr/tessdata下载中文数据集chi_sim.traineddata，把它放到这目录下：
/usr/local/Cellar/tesseract/对应(🏡)版本/tessdata/目录下即可
更(✡)多Tesseract的介绍可以访问GitHub 这里就不做过多发散了

其实(🤝)在很多场景中，都会有验证码环境，一般我(🏡)们(🍆)都是用 python + Tesseract来识别验证码，这里我(😩)们用来识别手游上倒计时也是“适得其用” 来，使用方式如下，首先安装扩展库
a、pip install pytesseract 用于python操作pytesseract
b、对要识别的图片做降噪，简单的说就(⏱)是对图片做简单处理，如裁剪指定区域，过滤其他文字的干扰，做灰度化、二值化等一些操作，提供文字识别的准确性，具体代码可以参见如下
#!/usr/bin/python

############################## #encoding=utf-8# bifeng 2020.03.23# python tesseract 文字识别工具类###############################import pytesseractfrom PIL import Imageclass TesseractUtils(object):    @staticmethod    def imgae_to_str(image):        # 处理(👊)成黑白图        image_gray = image.convert("L")        # image_gray.show()        # 进一步增强，使用二值化处理        image_two = image_gray.point(lambda x: 255 if x > 129 else 0)        #image_two.show()        # content = pytesseract.image_to_string(image)  # 解析图片(🗡)        content = pytesseract.image_to_string(image_two, lang='chi_sim')        print(content)        return content    @staticmethod    def crop_image_to_str(image, left, top, right, bottom):        '''识别图片部分区域位置'''        box = (left, top, right, bottom)        crop_img = image.crop(box)        # crop_img.show()        image_gray = crop_img.convert("L")        # image_gray.show()        # 进一步增强，使用二值化处理        image_two = image_gray.point(lambda x: 255 if x > 129 else 0)        #image_two.show()        content = pytesseract.image_to_string(image_two)        #识别中文        # content = pytesseract.image_to_string(crop_img, lang='chi_sim')        print(content)        return content12345678910111213141516171819202122232425262728293031323334353637

使用方法(🎗)，通过通过调用api，可(🐙)以识别指定区域图片如：

TesseractUtils.crop_image_to_str(crop_img, 767, 289, 915, 334)1

这里 767, 289, 915, 334 分别代表图片区域 left, top, right, bottom 坐标如下面一张图片

767, 289, 915, 334 刚好代表红色框框区域，运行后我们可以得到
00:12:30 这样一个时间 ，

转换我们把它转化为秒

    def timeStr2s(t):        '''xx:xx:xx转换为秒'''        if t is None:            return 10000        time = 10000        try:            h, m, s = t.strip().split(":")            time = int(h) * 3600 + int(m) * 60 + int(s)        except:            print("格(🙅)式不对 : " + t)        return time1234567891011

然后在建立定时任务

    fristJob = TesseractUtils.crop_image_to_str(ywImg, 767, 289, 915, 334)	currSec = time.time()+ StringUtils.timeStr2s(fristJob)    tiemstr = time.strftime("%H:%M:%S", time.localtime(currSec))    LogEx.d("excuteJobList in " + tiemstr)    schedule.every().day.at(tiemstr).do(excuteJobList)12345

这样一个定时刷(📋)挂任务就完成了，剩下的基本就是封装刷挂，执行刷改，这里我是这么封装的

#!/usr/bin/python# #encoding=utf-8# bifeng 2020.03.23# 单步执行(🌴)路径###########################class CaseInfo(object):    def __init__(self):        # 用例名称        self.name = ''        # 模拟执行列表        self.clicklist = []        # 单步执行休眠时间        self.sleepTime = 2        # 图片裁取区域        self.cropBox = []        # 执行列表单步重复项        self.innerRepeatIndex = 2        # 默认循环次数        self.innerRepeatCount = 20        # 用例延迟(🐬)多少秒(🔟)后执行        self.excuteDelayTime = 30123456789101112131415161718192021

name 代表(🏳)名字
clicklist 代表执行路径，比如一次野外任务，他有很多点，那么他的路径就是如下：

    case_table = {        'yewai0': [            # Boss坐标            (1028, 1321),            # 野外            (329, 1665),            # 第1个boss 885，406            (885, 406),            # 返回                (1009, 1831),        ]}1234567891011

self.innerRepeatCount = 20 代表，boss 挑战按钮 (885, 406), 这个我会循环执行很(🎯)多变，保证我第(🚘)一个(🚾)按下，从而完成刷改功能，封装好后，刷(🛑)挂的代码就很简单了

def excuteJobList():    LogEx.v("----------excuteJobList start---------------------")    # global runner    runner = LegendRunner(adbConnectIp)    caseItem = caseList.pop()    LogEx.v("case list size = " + str(len(caseList)))    clickList = caseItem.getClickList()    LogEx.v("excute job " + caseItem.toString())    for index in range(0, len(clickList)):        LogEx.d("click : " + str(clickList[index][0]) + " " + str(clickList[index][1]))        runner.click(clickList[index][0], clickList[index][1])        if index == caseItem.getInnerRepeatIndex():            caseItem.setRepeatCount(90)            for i in range(0, caseItem.getRepeatCount()):                LogEx.d("click : " + str(i) + " " + str(clickList[index][0]) + " " + str(clickList[index][1]))                runner.click(clickList[index][0], clickList[index][1], 0)                time.sleep(0.4)        elif index == len(clickList) - 1:            timestamp = time.strftime("%H:%M:%S", time.localtime(time.time()))            LogEx.d("--sleep 80 s---------: " + timestamp)            runner.d.screenshot(os.getcwd() + "/image/" + timestamp + ".png")            time.sleep(80)    currSec = time.time() + 3    tiemstr = time.strftime("%H:%M:%S", time.localtime(currSec))    schedule.every().day.at(tiemstr).do(scheduleNextJob)    LogEx.v("----------excuteJobList end---------------------")123456789101112131415161718192021222324252627

我只需要 for index in range(0, len(clickList)): 循环执行这个clicklist 就行了，然后在每个步骤下截图(⛅)一张，任务完(🤥)成后把所有的图片拼接成一张图（如何拼接见文章《Python工(⛱)具类之(🕜)PIL.Image库快速实现多图拼接》）
执(🐍)行完一个刷改任务，最后我们有建立下一(🗽)个刷改任务(📕)

def scheduleNextJob():    LogEx.v("----------scheduleNextJob start---------------------")    global runner    # runner = LegendRunner(adbConnectIp)    # 获取最近的boss定时(👰)任务    caseItem = runner.getRecentlyBossTask()    # 加入到任务列表    caseList.append(caseItem)    # 延时    currSec = time.time() + caseItem.getExcuteDelayTime() - 50    if currSec < time.time():        currSec = time.time() + 1    tiemstr = time.strftime("%H:%M:%S", time.localtime(currSec))    LogEx.d("excuteJobList in " + tiemstr)    schedule.every().day.at(tiemstr).do(excuteJobList)    LogEx.v("----------scheduleNextJob end---------------------")12345678910111213141516

扫码到最近boss任务-》定时(😈)执行-》 执行完继续(🔎)扫码下一个最近boss任务，这样一直循环下去，就完成了一个简单的自动定时刷怪任务。

看下最终效果

刷(🔸)怪过程中我(🚋)们做了每个步骤的截(⛷)图，我们看下一次刷怪的效(👼)果截图

这样我们的脚本就开发完成了，剩下(🈁)的只需要开启脚本，喝上一杯茶，等上一段时候回来收获刷怪(🚌)掉(🗣)落的神装(🏼)就可以了，是不是很(🔽)爽.

【为什么电脑腾讯手游助手闪退的相关新闻】

• 更新至06集

  喧哗独学

  丹羽哲士,冈本信彦,菲鲁兹·蓝,石川由依,武内骏辅,石川界人,青山吉能,中村悠一,杉田智和

• 更新至20240502期小屋特辑

  音你而来

  潘玮柏,薛凯琪,张碧晨,武艺,张紫宁,王琳凯,高卿尘

• 更新至第20240503期

  半熟恋人第三季

  杜素娟,金靖,唐艺昕,谢楠,张纯烨,罗拉,王能能,凌忆,陈巧葳,苏锐,许莉,江俊霖,马晋隆,王震,邵佳荣

• 更新至07集

  一周的日记

  王奕,周诗雨

• 更新至18集

  天行健

  秦俊杰,刘宇宁,黄梦莹,庞瀚辰,傅菁,陈天明,陈思澈,黄昊月

• HD

  前途海量

  包贝尔,明道,韩云云,巴多,尹子维

• 更新至08集

  老家伙

  张国立 , 王刚 , 张铁林 , 周涛 , 张昊唯 , 孙安可 , 王自健 , 刘佳 , 毛毅 , 刘恩尚 , 高晓菲 , 曲高位 , 张博 , 于慧 , 尤浩然 , 王宸心

• 更新至17集

  另一种蓝

  宋茜,周渝民,刘敏涛,刘畅,朱颜曼滋,黄品沅,师悦玲,谢兴阳,胡宝森,刘潮,晏云璟,侯岩松,曹璐,曹磊,卜冠今,贾景晖,陈米麒

• 更新至05集

  庆余年第二季

  张若昀,李沁,陈道明,吴刚,田雨,李小冉,俞飞鸿,袁泉,毛晓彤,郭麒麟,宋轶,辛芷蕾,宁理,刘端端,张昊唯,付辛博,高曙光,赵柯,于洋,李强,刘桦,佟梦实,郭子凡,金晨,王楚然,高露,王晓晨,隋俊波,归亚蕾,余皑磊,毕彦君,罗二羊,吴幸键,宣言,王庆祥,徐志胜,崔志刚,傅迦,姚安濂,秦焰,沈晓海,王同辉,冯兵,常铖,王建国,刘宇桥,冯恩鹤,赵振廷,董可飞,李俊贤,崔鹏,贾景晖,王天辰,代文雯,王成阳,张弛,左凌峰,刘同,张维伊,东靖川,杨彤,孙亦沐,于小鸣,魏炳桦,李珞桉

• 更新至02集

  9号秘事第九季

  史蒂夫·佩姆伯顿,里斯·谢尔史密斯,希欧布罕·芬内朗,马克·博纳尔,苏珊·沃卡曼,乔尔·弗莱,菲利帕·邓恩,查理·库珀,娜塔莉·多默尔,马修·凯利,埃迪·马森,凯瑟琳·凯丽,雯叶特·罗宾逊,阿德里安·斯卡伯勒,海莉·斯奎尔斯,多萝西·阿特金森

• 更新至04集

  布里奇顿第三季

  妮可拉·考夫兰,卢克·牛顿,卢克·汤普森,西蒙娜·阿什利,乔纳森·贝利,菲比·黛内芙,朱莉·安德鲁斯,克劳迪亚·杰西,汉娜·多德,鲁丝·吉梅尔,弗洛伦斯·亨特,威尔·蒂尔斯顿,Choy-Ling Man

• 全集

  夜色将明

  内详