更多>>关于我们

西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。

您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。

数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。

更多>>官方微博

西安鲲之鹏
陕西 西安

加关注

  • 【经验分享】PC通过使用“远程ADB”(ADB over network)时连接设备时出现“unauthorized”,且设备不出现授权对话框问题的解决方法:
    (1)ADB客户端和服务端(安卓设备的adbd服务)之间的权鉴是通过公钥私钥对比进行的;
    (2)如果安卓设备保存有ADB客户端的公钥(Linux:  ~/.android/adbkey.pub, Windows: C:\Users\Administrator\.android\adbkey.pub),则直接通过验证。
    (3)如果安卓设备没有ADB客户端的公钥,则弹出"Allow USB debugging?对话框",如果选择同意,则授权通过并自动保存客户端公钥到指定位置(保存于/data/misc/adb/adb_keys文件内)。
    (4)"Allow USB debugging?对话框"只在通过USB连接设备的时候才会出现,“远程ADB”(ADB over network)模式不会出现,这样就无法像USB连接模式那样进行授权。
    (5)只要我们事先把ADB客户端的公钥文件adbkey.pub复制到设备的/data/misc/adb/adb_keys文件内,重启ADB客户端,重连设备,将会自动通过验证。

    上述步骤笔者在Bliss OS X86 系统下进行过多次实测。
    发布时间:2020-01-19 19:35:14
  • 【经验分享】Bliss OS X86系统如何开启自动开始“远程ADB”(ADB over network)?
    在开发者选项中可以手动开启“ADB over network”,但是重启后会自动关闭(This setting is reset on reboot)。
    解决方法:
    在/etc/init.sh中加入
    setprop service.adb.tcp.port 5555
    stop adbd
    start adbd

    重启后“ADB over network”将会自动启动!

    PS:原生的Android X86系统默认情况下开机“ADB over network”就是开启的,不需要像Bliss OS这样的额外设置。
    发布时间:2020-01-17 14:05:28
  • 【经验分享】Android X86模拟器如何修改屏幕分辨率大小?
    目的:设置屏幕分辨率为 1080x1920
    方法:
    (1) Alt + F1,切换到终端模式;
    (2) su,获取root权限;]
    (3)执行wm size 1080x1920,再按Alt + F7返回图形界面即可;

    如果想要在启动的时候自动设置,可以把上述命令添加到/etc/init.sh中,Bliss OS中亲测有效。
    发布时间:2020-01-15 12:59:26
  • 【经验分享】“KVM(QEMU) + Bliss OS X86 + MockLocation APP"打造支持虚拟定位的Android模拟器,用于APP数据采集小试牛刀: 采集某外卖平台数据。
    MockLocation APP是什么?  详见我这篇文章 >>> http://www.site-digger.com/html/articles/20200110/777.html ​​​​
    发布时间:2020-01-13 10:59:56
  • 【经验分享】推荐一款开源Android x86系统Bliss OS (x86),项目主页是https://blissroms-x86.github.io/

    经过实测我觉得Bliss有如下优点:
    (1) 比原生的Android x86(https://www.android-x86.org/)稳定,特别是应用兼容性较好,好多在原生Android x86下闪退的App,在Bliss下都能稳定运行。如图3和4所示,美团APP可以稳定运行,而在原生Android x86下会不停崩溃,无法正常工作。因此Bliss更适合作为安卓模拟器。
    (2) 支持平板模式和桌面UI两种模式,可以在设置里自由切换。这点比Phoenix OS要好,Phoenix OS貌似只有桌面模式,不适合作为安卓模拟器。
    (3) 无内置广告。吐槽一下Phoenix OS,刚开始没有广告,用一段时间就会提示让你购买会员,否则就会出现关不掉的广告。

    Bliss的缺点:
    (1) 启动比较慢,实测约50秒。
    (2) 不要升级内置的SuperSU,我试了多次,一升级重启后就卡在系统Logo界面,无法正常进入系统。
    发布时间:2020-01-12 10:50:54
  • 【经验分享】qemu-system-x86_64使用网桥出现
    failed to parse default acl file `/etc/qemu/bridge.conf`
    qemu-system-x86_64: -net bridge,br=br0: bridge helper failed
    问题(如附图1所示)的解决方法:

    原因是缺少/etc/qemu/bridge.conf文件。

    (1) mkdir /etc/qemu
    (2) echo 'allow br0' > /etc/qemu/bridge.conf
    发布时间:2020-01-12 10:05:12
  • 【开源分享】发布一款Android X86虚拟定位的App,支持命令行设置经纬度参数,无需UI操作,专为安卓App自动化模拟操作设计。

    用法举例:

    # 切换定位到"秦始皇陵"(34.384225, 109.254423)  
    adb shell am start -n cn.webscraping.qi.mocklocation/cn.webscraping.qi.mocklocation.MainActivity --es lat 34.384225 --es lng 109.254423  

    详细介绍见 >>> http://t.cn/AisHGPoY
    发布时间:2020-01-10 15:15:48
  • 【经验分享】Chrome + Remote Debugging模式(注意:不是Selenium + Chromedriver模式)登录淘宝出现“验证码爆错”(如附图所示)。原因Chrome V79版本在Remote Debugging模式时会爆出navigator.webdriver属性,从而被风控。换用V72或V73版本可以顺利登录!(前一条微博也说得是这个事儿) ​​​​
    发布时间:2020-01-02 15:20:22
  • 【经验分享】不经意见发现Chrome v73版本在Remote Debugging模式下(注意:不是Selenium + Chromedriver模式)不会暴露出navigator.webdriver!如附图1所示。

    作为对比,我又测试了其它的版本:
    (1)如图2所示,是Chrome V63版本,在Remote Debugging模式下会暴露出navigator.webdriver;
    (2)如图3所示,是Chrome V79版本,在Remote Debugging模式下也会暴露出navigator.webdriver;
    发布时间:2019-12-31 18:03:03
  • 【Mark收藏】MurmurHash3.js - A javascript implementation of MurmurHash3's hashing algorithms.    >>>  http://t.cn/z8Yont3

    Usage
    // Return a 32bit hash as a unsigned int:
    > murmurHash3.x86.hash32("I will not buy this record, it is scratched.")
      2832214938

    // Return a 128bit hash as a unsigned hex:
    > murmurHash3.x86.hash128("I will not buy this tobacconist's, it is scratched.")
      "9b5b7ba2ef3f7866889adeaf00f3f98e"
    > murmurHash3.x64.hash128("I will not buy this tobacconist's, it is scratched.")
      "d30654abbd8227e367d73523f0079673"

    // Specify a seed (defaults to 0):
    > murmurHash3.x86.hash32("My hovercraft is full of eels.", 25)
      2520298415

    // Rebind murmurHash3:
    > somethingCompletelyDifferent = murmurHash3.noConflict()
    > murmurHash3
      undefined
    > somethingCompletelyDifferent.version
      "2.1.2"
    发布时间:2019-12-31 11:11:58
当前位置: 首页 > 技术文章 >
用Python实现自动化操作Android手机
发布时间:2018-09-12

一、【必须】安装adb工具

adb全称Android Debug Bridge,是Android系统的调试工具。

下并安装ADB Installer v1.4.3,下载链接:http://pan.webscraping.cn:8000/index.php/s/7kDAJUOmKEa1h4N 安装完成后,启动一个新的cmd窗口,输入adb devices,若无错误提示则表明安装成功。

Ubuntu下安装adb可以参考这篇文章:http://bernaerts.dyndns.org/linux/74-ubuntu/354-ubuntu-xenial-android-adb-fastboot-qtadb)

二、【可选】安装UI Automator Viewer辅助工具

为了使用UI Automator Viewer这个辅助分析工具,我们需要先安装Android SDK,步骤如下:

1. 下载并安装Java 8

2. 下载并安装Google Android SDK

3. 启动Android SDK Manager,选择并安装Android SDK Platform-tools.

4. 双击uiautomatorviewer.bat,启动UI Automator Viewer,点击第二个图标获取设备截图及相关UI信息,如下图所示。

三、【主角】AndroidViewClient

AndroidViewClient是用纯Python编写的Android应用程序自动测试框架,它不依赖其它程序(例如 monkeyrunner, jython)。AndroidViewClient在底层是通过调用adb命令实现对Android设备的控制,因此在本文的一开始就先介绍了adb的安装。

开始下文之前,假设你已经安装配置好Python运行环境,否则请先安装Python 2.7(注意:AndroidViewClient不兼容Python3)。

1. 安装AndroidViewClient

项目主页:https://github.com/dtmilano/AndroidViewClient

推荐用easy_install安装:

easy_install --upgrade androidviewclient

安装详细说明见这里:https://github.com/dtmilano/AndroidViewClient/wiki#installation

PS:依赖库比较多,安装需要有点耐心。

2. 测试安装是否成功

下载https://github.com/dtmilano/AndroidViewClient/archive/master.zip包,解压并切换到examples目录下,执行python check-import.py,如果没有问题,会输出OK。

3. 写一个例子

实现这样一个功能:

点击屏幕微信图标启动微信,点击第一个联系人/群,发送一个报时消息。

代码如下:

# coding: utf-8
# 点击屏幕微信图标启动微信,点击第一个联系人/群,发送一个报时消息

import sys
import os
import re
import time
from com.dtmilano.android.viewclient import ViewClient

def test():
    # 连接手机
    device, serialno = ViewClient.connectToDeviceOrExit()
    vc = ViewClient(device, serialno)
    # 按HOME键
    device.press('KEYCODE_HOME')
    time.sleep(3)
    # 找到微信图标
    vc.dump()
    weixin_button = vc.findViewWithTextOrRaise(u'微信')
    # 点击微信图标
    weixin_button.touch()
    time.sleep(10)
    # 找到第一个联系人/群
    # 可以使用UI Automator Viewer查看到对应第一个联系人/群的resource-id为"com.tencent.mm:id/auj"
    vc.dump()
    group_button = vc.findViewByIdOrRaise("com.tencent.mm:id/auj")
    # 点击进群
    group_button.touch()
    time.sleep(5)
    # 找到输入框并输入当前时间
    vc.dump()
    vc.findViewByIdOrRaise("com.tencent.mm:id/aep").setText('Now:{}'.format(time.strftime('%Y-%m-%d %H:%M:%S')))
    time.sleep(3)
    # 点击发送按钮
    vc.dump()
    vc.findViewWithTextOrRaise(u'发送').touch()
      
if __name__ == '__main__':
    test()

4. 高级用法:Culebra的使用

Culebra可以帮助我们自动生成(录制)AndroidViewClient脚本。它提供了一个GUI,当我们通过GUI上操作手机,就会自动产生AndroidViewClient控制脚本模板,我们可以再在这个模板脚本基础上进行修改,实现更复杂的功能。Culebra的详细说明见其主页:https://github.com/dtmilano/AndroidViewClient/wiki/culebra

我们来做一个测试,录制一个”点击微信聊天文字输入框,然后输入一段文本test"操作的脚本: 首先启动Culebra(culebra文件位于AndroidViewClient包的tools目录下,我把后缀名改成.py了),命令如下:

python culebra.py -G --scale 0.5

如下所示为完成操作之后的Culebra的GUI截图:

下面为Culebra自动录制的脚本:

#! /usr/bin/env python
# -*- coding: utf-8 -*-
import reimport sys
import os

from com.dtmilano.android.viewclient import ViewClient

TAG = 'CULEBRA'

_s = 5
_v = '--verbose' in sys.argv


kwargs1 = {'ignoreversioncheck': False, 'verbose': False, 'ignoresecuredevice': False}
device, serialno = ViewClient.connectToDeviceOrExit(**kwargs1)
kwargs2 = {'forceviewserveruse': False, 'useuiautomatorhelper': False, 'ignoreuiautomatorkilled': True, 'autodump': False, 'debug': {}, 'startviewserver': True, 'compresseddump': True}
vc = ViewClient(device, serialno, **kwargs2)
#vc.dump(window='-1') # FIXME: seems not needed

vc.dump(window=-1)

no_id1 = vc.findViewByIdOrRaise("id/no_id/1")
no_id1 = vc.findViewWithContentDescriptionOrRaise(u'''当前所在页面,与家好月圆(19)的聊天''')
com_tencent_mm___id_ds5 = vc.findViewByIdOrRaise("com.tencent.mm:id/ds5")
com_tencent_mm___id_cgo = vc.findViewByIdOrRaise("com.tencent.mm:id/cgo")
com_tencent_mm___id_ts = vc.findViewByIdOrRaise("com.tencent.mm:id/ts")
com_tencent_mm___id_iz = vc.findViewByIdOrRaise("com.tencent.mm:id/iz")
com_tencent_mm___id_j0 = vc.findViewByIdOrRaise("com.tencent.mm:id/j0")
com_tencent_mm___id_j0 = vc.findViewWithContentDescriptionOrRaise(u'''返回''')
com_tencent_mm___id_j1 = vc.findViewByIdOrRaise("com.tencent.mm:id/j1")
com_tencent_mm___id_j1 = vc.findViewWithTextOrRaise(u'家好月圆(19)')
com_tencent_mm___id_iw = vc.findViewByIdOrRaise("com.tencent.mm:id/iw")
com_tencent_mm___id_iw = vc.findViewWithContentDescriptionOrRaise(u'''聊天信息''')
no_id9 = vc.findViewByIdOrRaise("id/no_id/9")
no_id10 = vc.findViewByIdOrRaise("id/no_id/10")
com_tencent_mm___id_lz = vc.findViewByIdOrRaise("com.tencent.mm:id/lz")
no_id12 = vc.findViewByIdOrRaise("id/no_id/12")
# ......
# 省略多行类似代码
# ......
com_tencent_mm___id_aen = vc.findViewWithContentDescriptionOrRaise(u'''切换到按住说话''')
com_tencent_mm___id_aeo = vc.findViewByIdOrRaise("com.tencent.mm:id/aeo")
com_tencent_mm___id_aep = vc.findViewByIdOrRaise("com.tencent.mm:id/aep")
com_tencent_mm___id_aer = vc.findViewByIdOrRaise("com.tencent.mm:id/aer")
com_tencent_mm___id_aer = vc.findViewWithContentDescriptionOrRaise(u'''表情''')
com_tencent_mm___id_aeu = vc.findViewByIdOrRaise("com.tencent.mm:id/aeu")
com_tencent_mm___id_aeu = vc.findViewWithContentDescriptionOrRaise(u'''更多功能按钮,已折叠''')

vc.findViewByIdOrRaise("com.tencent.mm:id/aep").setText(u"test")
vc.sleep(_s)
vc.dump(window=-1)

在相同窗口环境下执行该脚本就可以自动重复上述操作。

四、参考资料

特别说明:本文旨在技术交流,请勿将涉及的技术用于非法用途,否则一切后果自负。如果您觉得我们侵犯了您的合法权益,请联系我们予以处理。
☹ Disqus被Qiang了,之前所有的评论内容都看不到了。如果您有爬虫相关技术方面的问题,欢迎发到我们的问答平台:http://spider.site-digger.com/
QQ在线客服
欢迎咨询,点击这里给我发送消息。
欢迎咨询,点击这里给我发送消息。

加微信咨询