《uiautomator2智能识文手游辅助外挂，高效打怪刷装备》

uiautomator2智(👷)能识文手游辅助外挂，高效打怪刷装备 一(🌱)、背景

先交代下背景，就是疫情期间，随便玩了一款游戏，玩了后发现，游戏(🆗)任务太繁重了，为了兼(🏁)顾学习和游戏，所以就萌生了自己动手开发手游辅助外挂的想法，调研了几个手机自动化测试平台最后选中了uiautomator2，然后有了这边文章 《uiautomator2介绍及环境搭建》 以及文章《uiautomator2一分钟实现辅助外挂》
如果仔(🔹)细读过第二篇文章的朋(👡)友就会发现，前(🚧)面说的外挂就是 定时任务+ 模拟用户点击，如(💣)果碰上复杂点场景，就(⌛)完全无法适应了，比如下面几种

Boss有刷新又时间间隔，然后区分“野外”，”秘境“，”神谕“，每个刷新时间都不同，那么这个辅助脚本怎么写呢，轮训点击肯定不现实，无法(🔥)快人一步抢先刷到怪，怎么解决呢？ 当然是如标题写的 那(♋)样，通过阅读这(🚓)篇博文(👉)，大家会了(♌)解到这些知识

要实现按时去刷怪，那么肯定需要上图红色框中那个刷新时间，这个文字又无法通过简(❔)单的通过控件去识别，那么就只能通过图片去实现了，我这里的思路是用网上开源的OCR文字识别库识别出时间，到这(🌵)里又不得不赞叹python扩展能力真是强大，关键是拓展起来超级easy，不愧是“胶水语言”。好了，长话短说，文件OCR识别，我这里用的(😾)是tesseract，下面会介绍 tesseract 的安装(📱)简单使用。继续我们刚刚的分解(🤬)，假设可以通过图片进行文字识别，那么要实现一个定时抢怪任务，我们需要的(💈)工作如下：
1、模(✒)拟点击到刷怪页面，并进行截图
2、截图到的图片做裁剪（主要是过滤其他文字识别干扰）(🌅)
3、对裁剪到(❕)的图片做 灰度处理（比如彩色变黑白），然(⤴)后二值化、降噪等一系列操作，主(🌥)要是去除背景和一些其他的干扰。
4、识别到的数字转化为秒，然后建立定时任务
5、定时启动抢怪任务，截图每个步骤图片，拼接成一张图，供人工查下结果。
6、截重复前面(🍞)5个步骤实现自动刷挂打装备
好了，下面我们一步步来实现这个效果。

如(🚔)果要使用Tesseract库，首先需要安装它到你的机器上。
macOS用户，我们使用Homebrew 去安装Tesseract：

$ brew install tesseract1

当然有时候Homebrew 可能更新(🧓)导致卡住，最(💟)简单的办法是在 .bash_profile 文件中新增(🥄)一行，暂时关闭更新

export HOMEBREW_NO_AUTO_UPDATE=true1

安装完成后 tesseract -v 查看是否安装完成(📛)

可以通过(🍟)命令测试一把
比如下面(🎅)一张图片

我们通过命令 tesseract /Users/bifeng/222222.png stdout digits

可以看出一下子就把数字识(🗜)别出来(🥕)了，这里识别得是数字，如果是中文(😃)则(⛄)需要改为
tesseract /Users/bifeng/3333.jpg stdout -l chi_sim
-l 后面得参数代表识别得语言 chi_sim 代表是中文简体。
当然中文简体字体是需要额外去下载字库得，
去往https://github.com/tesseract-ocr/tessdata下载中文数据集chi_sim.traineddata，把它放到这目录下(🚡)：
/usr/local/Cellar/tesseract/对应版本/tessdata/目录下即可
更多Tesseract的介绍可以访问GitHub 这里就不做过多发散了

其实在很多(😲)场景中，都会(🤴)有验证(🔔)码环境，一般我们都是用 python + Tesseract来识别验证码，这里我们用来识别手游上倒计时也是“适得其用” 来，使用方式如下，首先安装扩展库
a、pip install pytesseract 用于python操作pytesseract
b、对要识别的图片(💂)做降噪，简单的说就是对图片做简单处理，如(🔫)裁剪指(🔎)定区域，过滤其他文字的干扰，做(💸)灰度化、(🏦)二值化等一些操作，提供文字识别的准确性，具体(🤚)代码(🧘)可以参见如下
#!/usr/bin/python

############################## #encoding=utf-8# bifeng 2020.03.23# python tesseract 文字识别工具类###############################import pytesseractfrom PIL import Imageclass TesseractUtils(object):    @staticmethod    def imgae_to_str(image):        # 处理成黑白图        image_gray = image.convert("L")        # image_gray.show()        # 进一步增强，使用二值化处理        image_two = image_gray.point(lambda x: 255 if x > 129 else 0)        #image_two.show()        # content = pytesseract.image_to_string(image)  # 解析图片(🍆)        content = pytesseract.image_to_string(image_two, lang='chi_sim')        print(content)        return content    @staticmethod    def crop_image_to_str(image, left, top, right, bottom):        '''识别图片部分区域位置'''        box = (left, top, right, bottom)        crop_img = image.crop(box)        # crop_img.show()        image_gray = crop_img.convert("L")        # image_gray.show()        # 进一步增强，使用二值化处理        image_two = image_gray.point(lambda x: 255 if x > 129 else 0)        #image_two.show()        content = pytesseract.image_to_string(image_two)        #识别中文        # content = pytesseract.image_to_string(crop_img, lang='chi_sim')        print(content)        return content12345678910111213141516171819202122232425262728293031323334353637

使用方法，通过通过调用api，可以识别指定区域图片如：

TesseractUtils.crop_image_to_str(crop_img, 767, 289, 915, 334)1

这里 767, 289, 915, 334 分别代表图片区域 left, top, right, bottom 坐标如下面一张图片

767, 289, 915, 334 刚好代表红色框框区域，运行后我们(🔮)可(🖲)以得到
00:12:30 这样一个时间 ，

转换我们(👨)把它转化为秒

    def timeStr2s(t):        '''xx:xx:xx转换为秒'''        if t is None:            return 10000        time = 10000        try:            h, m, s = t.strip().split(":")            time = int(h) * 3600 + int(m) * 60 + int(s)        except:            print("格式不对 : " + t)        return time1234567891011

然后在建立(🙌)定时任务

    fristJob = TesseractUtils.crop_image_to_str(ywImg, 767, 289, 915, 334)	currSec = time.time()+ StringUtils.timeStr2s(fristJob)    tiemstr = time.strftime("%H:%M:%S", time.localtime(currSec))    LogEx.d("excuteJobList in " + tiemstr)    schedule.every().day.at(tiemstr).do(excuteJobList)12345

这样一个(🏷)定时刷挂任务(🏀)就完成了，剩下的基(⛷)本就是封装刷挂，执行刷改，这里我是这么封装的

#!/usr/bin/python# #encoding=utf-8# bifeng 2020.03.23# 单步执行路(🏪)径###########################class CaseInfo(object):    def __init__(self):        # 用例名称        self.name = ''        # 模拟执行(😡)列表(📮)        self.clicklist = []        # 单步执行(🌮)休眠时间        self.sleepTime = 2        # 图片(📈)裁取区域        self.cropBox = []        # 执行列表(🏙)单步重复项        self.innerRepeatIndex = 2        # 默认循环次(🧕)数        self.innerRepeatCount = 20        # 用例延(🥏)迟多少秒后执行        self.excuteDelayTime = 30123456789101112131415161718192021

name 代表名字
clicklist 代表执行路径，比如一次野外任务，他有很多点，那么他的路径就是如下：

    case_table = {        'yewai0': [            # Boss坐标            (1028, 1321),            # 野外            (329, 1665),            # 第1个boss 885，406            (885, 406),            # 返回(🕚)                (1009, 1831),        ]}1234567891011

self.innerRepeatCount = 20 代表，boss 挑战按钮 (885, 406), 这个我会循环执行很多变，保证我第一个按下，从而完成刷改功能，封(🐐)装好后，刷挂的代码就很简单了

def excuteJobList():    LogEx.v("----------excuteJobList start---------------------")    # global runner    runner = LegendRunner(adbConnectIp)    caseItem = caseList.pop()    LogEx.v("case list size = " + str(len(caseList)))    clickList = caseItem.getClickList()    LogEx.v("excute job " + caseItem.toString())    for index in range(0, len(clickList)):        LogEx.d("click : " + str(clickList[index][0]) + " " + str(clickList[index][1]))        runner.click(clickList[index][0], clickList[index][1])        if index == caseItem.getInnerRepeatIndex():            caseItem.setRepeatCount(90)            for i in range(0, caseItem.getRepeatCount()):                LogEx.d("click : " + str(i) + " " + str(clickList[index][0]) + " " + str(clickList[index][1]))                runner.click(clickList[index][0], clickList[index][1], 0)                time.sleep(0.4)        elif index == len(clickList) - 1:            timestamp = time.strftime("%H:%M:%S", time.localtime(time.time()))            LogEx.d("--sleep 80 s---------: " + timestamp)            runner.d.screenshot(os.getcwd() + "/image/" + timestamp + ".png")            time.sleep(80)    currSec = time.time() + 3    tiemstr = time.strftime("%H:%M:%S", time.localtime(currSec))    schedule.every().day.at(tiemstr).do(scheduleNextJob)    LogEx.v("----------excuteJobList end---------------------")123456789101112131415161718192021222324252627

我只(🌪)需要 for index in range(0, len(clickList)): 循环执行这个clicklist 就行了，然后在每个步骤下截图一张，任务完成后(🌑)把所有的图片拼接成一张图（如何(😧)拼(🏎)接见文章《Python工具类之PIL.Image库(🚄)快速(🐄)实现多图(🌈)拼接》）
执行完一个刷改任(🛹)务，最后我们有建立下一个刷改任务

def scheduleNextJob():    LogEx.v("----------scheduleNextJob start---------------------")    global runner    # runner = LegendRunner(adbConnectIp)    # 获取最近的(🥊)boss定时任务    caseItem = runner.getRecentlyBossTask()    # 加入到任务列表    caseList.append(caseItem)    # 延时    currSec = time.time() + caseItem.getExcuteDelayTime() - 50    if currSec < time.time():        currSec = time.time() + 1    tiemstr = time.strftime("%H:%M:%S", time.localtime(currSec))    LogEx.d("excuteJobList in " + tiemstr)    schedule.every().day.at(tiemstr).do(excuteJobList)    LogEx.v("----------scheduleNextJob end---------------------")12345678910111213141516

扫码到最近boss任(🏸)务-》定时执行-》 执行完继续扫码下一个最近boss任务，这样(♿)一直循环下去，就完成了一个简单的自动定时刷怪任务。

看下最终效果

刷怪过程中我们做了每个步骤的截图，我(🚋)们看下一次刷怪的效果截图

这样我们的脚本就开发完成了，剩下的只需要开启脚本，喝上一杯茶，等上一段时候回来收获刷怪掉落的神装就可以了，是不(🐰)是很爽(⏮).

【挂机收益的游戏的相关新闻】

• 更新至06集

  喧哗独学

  丹羽哲士,冈本信彦,菲鲁兹·蓝,石川由依,武内骏辅,石川界人,青山吉能,中村悠一,杉田智和

• 更新至20240502期小屋特辑

  音你而来

  潘玮柏,薛凯琪,张碧晨,武艺,张紫宁,王琳凯,高卿尘

• 更新至第20240503期

  半熟恋人第三季

  杜素娟,金靖,唐艺昕,谢楠,张纯烨,罗拉,王能能,凌忆,陈巧葳,苏锐,许莉,江俊霖,马晋隆,王震,邵佳荣

• 更新至07集

  一周的日记

  王奕,周诗雨

• 更新至18集

  天行健

  秦俊杰,刘宇宁,黄梦莹,庞瀚辰,傅菁,陈天明,陈思澈,黄昊月

• HD

  前途海量

  包贝尔,明道,韩云云,巴多,尹子维

• 更新至08集

  老家伙

  张国立 , 王刚 , 张铁林 , 周涛 , 张昊唯 , 孙安可 , 王自健 , 刘佳 , 毛毅 , 刘恩尚 , 高晓菲 , 曲高位 , 张博 , 于慧 , 尤浩然 , 王宸心

• 更新至17集

  另一种蓝

  宋茜,周渝民,刘敏涛,刘畅,朱颜曼滋,黄品沅,师悦玲,谢兴阳,胡宝森,刘潮,晏云璟,侯岩松,曹璐,曹磊,卜冠今,贾景晖,陈米麒

• 更新至05集

  庆余年第二季

  张若昀,李沁,陈道明,吴刚,田雨,李小冉,俞飞鸿,袁泉,毛晓彤,郭麒麟,宋轶,辛芷蕾,宁理,刘端端,张昊唯,付辛博,高曙光,赵柯,于洋,李强,刘桦,佟梦实,郭子凡,金晨,王楚然,高露,王晓晨,隋俊波,归亚蕾,余皑磊,毕彦君,罗二羊,吴幸键,宣言,王庆祥,徐志胜,崔志刚,傅迦,姚安濂,秦焰,沈晓海,王同辉,冯兵,常铖,王建国,刘宇桥,冯恩鹤,赵振廷,董可飞,李俊贤,崔鹏,贾景晖,王天辰,代文雯,王成阳,张弛,左凌峰,刘同,张维伊,东靖川,杨彤,孙亦沐,于小鸣,魏炳桦,李珞桉

• 更新至02集

  9号秘事第九季

  史蒂夫·佩姆伯顿,里斯·谢尔史密斯,希欧布罕·芬内朗,马克·博纳尔,苏珊·沃卡曼,乔尔·弗莱,菲利帕·邓恩,查理·库珀,娜塔莉·多默尔,马修·凯利,埃迪·马森,凯瑟琳·凯丽,雯叶特·罗宾逊,阿德里安·斯卡伯勒,海莉·斯奎尔斯,多萝西·阿特金森

• 更新至04集

  布里奇顿第三季

  妮可拉·考夫兰,卢克·牛顿,卢克·汤普森,西蒙娜·阿什利,乔纳森·贝利,菲比·黛内芙,朱莉·安德鲁斯,克劳迪亚·杰西,汉娜·多德,鲁丝·吉梅尔,弗洛伦斯·亨特,威尔·蒂尔斯顿,Choy-Ling Man

• 全集

  夜色将明

  内详