【经验分享】如何突破网站对selenium的屏蔽？
现在已经有部分网站能够识别并屏蔽selenium，鲲之鹏的技术人员通过本文向你介绍：
（1）网站是如何识别selenium的；
（2）如何突破网站对selenium的屏蔽；
满满的干货，点击查看详情 >>. http://www.site-digger.com/html/articles/20180821/653.html ​​​​

• 
• 
• 
• 
• 
• 

【备忘】mitmproxy v0.18.2 版本Windows & Linux版本下载链接：https://github.com/mitmproxy/mitmproxy/releases/tag/v0.18.2
PS: 解压二进制可执行文件即可使用，建议放到系统环境变量能找到的地方； ​​​​

• 
• 

【经验分享】mitmproxy如何指定上游代理？
使用-U参数，详情如下：
mitmdump.exe -U http://IP:PORT --upstream-auth USERNAME:PASSWORD
测试结果如下图所示。
注意：这里测试的是mitmproxy的0.18.2版本，新版本可能不太一样。 ​​​​

• 

【经验分享】Slenium + Chrome 忽略证书错误方法

def start_chrome(proxy):
    """启动Chrome
    """
    options = webdriver.ChromeOptions()
    # 禁止加载图片
    chrome_prefs = {}
    chrome_prefs["profile.default_content_settings"] = {"images": 2}
    chrome_prefs["profile.managed_default_content_settings"] = {"images": 2}
    options.experimental_options["prefs"] = chrome_prefs
    if proxy:
        # 设置代理
        options.add_extension(get_chrome_proxy_extension(proxy=proxy))
    # 设置UA
    options.add_argument("user-agent=Kunzhipeng v12.3")
    # 忽略证书警告
    options.add_argument("--ignore-certificate-errors")
    chrome = webdriver.Chrome(chrome_options=options)
    chrome.set_page_load_timeout(30)
    return chrome

参考：https://stackoverflow.com/questions/42133172/selenium-and-chrome-error-ignore-certificate-errors
PS: 为什么要忽略证书错误呢？ e.g. 用Fiddler的中间人代理访问HTTPS网站时会出现证书错误，无法正常浏览。

【经验分享】同一账号，在同一IP下，人工浏览器登陆很正常，但是用Selenium(+phantomjs or + chrome)登陆，却提示“安全验证”，怎么破？
想了一下，人工操作和Selenium操作的区别在于人速度慢，输入账号密码然后点击登陆之间会有延时（操作再快也需要两三秒时间），而Selenium可以瞬间完成这些操作。通过JS可以检测到这个信息（“表单操作时间”）并提交给服务器，服务器如果判断这个表单操作时间过短就判断为机器，然后用“安全验证”拦住你。
于是果断地给Selenium的表单操作加了几秒延时，问题顺利解决！

• 
• 

【经验分享】用MongoDB做后端实现的队列MongoQueue测试结果如下：
（1）插入10w任务耗时约40秒；
（2）读取10W任务并标记完成，耗时约90秒；

MongoQueue的源码 >>> ttps://github.com/pengqi/mongoqueue/blob/master/mongoqueue/mongoqueue.py
测试脚本源码 >>> https://bitbucket.org/snippets/qi/qedzrj

PS：
（1）MongoQueue默认没有给集合加索引，测试发现速度特别慢（感觉大概一秒能获取一个任务），加了索引以后速度飞速提升。
（2）上次测试diskcache.Deque（http://www.grantjenks.com/docs/diskcache/tutorial.html#deque）的结果忘了分享了，顺便对比一下：插入10w任务耗时约200秒，读取10W任务耗时基本一样。

• 
• 

【经验分享】正则表达式提取效率要比xpath高很多，点击查看对比测试结果  >>> http://www.site-digger.com/html/articles/20180716/652.html ​​​​

• 

【经验分享】Chrome webdriver修改UA方法:
options = webdriver.ChromeOptions()
# 设置UA为“Kunzhipeng v12.3”
options.add_argument("user-agent=Kunzhipeng v12.3")
chrome = webdriver.Chrome(chrome_options=options)
测试效果如附图所示。

参考文章 [Change user agent for selenium driver]: https://stackoverflow.com/questions/29916054/change-user-agent-for-selenium-driver

• 

Selenium disable Image loading in different browsers >>> http://t.cn/RdugmXm ​​​​

chromedriver 镜像 - ChromeDriver Mirror >>> http://t.cn/RdugQbX ​​​​