【经验分享】推荐一款大CSV文件查看器csviewer
官网地址：https://csviewer.com/ 据说最大支持5亿行的CSV文件。
我没试过那么大的，试了一个“安居客2021年的二手房小区数据”，约73万条（行），508MB（http://www.data-shop.net/2021/11/%e5%ae%89%e5%b1%85%e5%ae%a22021%e5%b9%b4%e6%9c%80%e6%96%b0%e5%85%a8%e5%9b%bd%e4%ba%8c%e6%89%8b%e6%88%bf%e5%b0%8f%e5%8c%ba%e6%95%b0%e6%8d%ae%ef%bc%8873%e4%b8%87%e6%9d%a1%ef%bc%89/），加载耗时18秒，界面如下图所示。 ​​​

• 

阅读全文 + 去微博评论 +

【经验分享】如何在Linux虚拟机里探测虚拟化（软件）的类型？
使用virt-what命令即可实现，ubuntu下可用直接apt-get去install。

我分别拿手边的下列机器做了测试：
1. 物理机，如图1，物理机没有输出任何信息。
2. 自己配置的Vmware、ESxi虚拟机，如图2和3所示，被识别为vmware。
3. 自己配置的Hyperv虚拟机，如图4所示，被识别为hyperv。
4. 自己配置的KVM(QEMU)虚拟机，如图5所示，被识别为kvm。
6. 分别在阿里云、腾讯云、亿速云也做了测试，如图6、7、8所示，均识别为kvm；

• 
• 
• 
• 
• 
• 
• 
• 

阅读全文 + 去微博评论 +

【经验分享】关于彻底关闭Nox模拟器虚拟机
背景: 命令行关闭Nox虚拟机可以使用"NoxConsole.exe quit <-name:nox_name | -index:nox_index>", 但是有时候会失败。
这里采用一种保险的思路，先调用"NoxConsole.exe quit"进行安全关闭，若干秒后检测虚拟机对应虚拟机的Nox.exe进程（考虑到多开的情况，根据"-clone:"参数判断是否属于当前虚拟机实例）和NoxVMHandle.exe进程（考虑到多开的情况，根据"--comment"参数判断是否属于当前虚拟机实例）是否还存在，如果存在就强制终止这两个进程，达到彻底关闭的目的。

完整实现如下图所示。

• 

阅读全文 + 去微博评论 +

【经验分享】如何计算阿里系Ajax请求中的sign签名?
有过阿里系采集经验的开发者都应该知道，某宝（天猫）H5版、1688、某宝司法拍卖H5版等阿里系网站，在Ajax请求中都会有一个sign签名参数（如下图1、2、3所示），要是值不正确将无法获取到有效的数据（例如返回“非法请求”提示）。如果我们无法构造出有效的sign，就只能通过“模拟浏览器操作”的方式来绕过签名验证，再结合"mitmproxy动态抓包脚本"来提取返回数据，这种方案效率太低，而且很不灵活。本文将介绍如何计算这个sign值以及给出对应的Python实现，这样就能实现通过直接HTTP交互抓取数据。点击链接查看详情>>> http://www.site-digger.com/html/articles/20211018/851.html

• 
• 
• 
• 
• 
 

阅读全文 + 去微博评论 +

【经验分享】mysqldump时的两点技巧
（1）如何避免锁表?
加上--single-transaction=TRUE参数即可。
来源：https://stackoverflow.com/questions/104612/run-mysqldump-without-locking-tables
（2）如何排除某张表?例如 避免导出尺寸太大的日志表。
使用--ignore-table=dbname.tablename指定即可，如果要排除多个，加上多个--ignore-table=dbname.tablename参数。
来源：https://www.cnblogs.com/rxbook/p/7735485.html

阅读全文 + 去微博评论 +

【经验分析】urllib2使用"User-Agent"设置UA会无效原因的分析

（1）如下代码，尝试使用"User-Agent"设置UA为"test"，会失败：
服务端接收到的UA信息为"Python-urllib/2.7"，而不是"test"。
urllib2.build_opener().open(urllib2.Request(url='http://192.168.1.200:1234', data=None, headers={'User-Agent': 'test'}))
（2）将headers修改为{'User-agent': 'test'}，成功。
如附图1所示。原因是什么呢？

可以在urllib2.py中找到答案：
（1）首先urllib2默认会在headers列表中添加一个“User-agent”，其值为"Python-urllib/%s" % __version__，如附图2所示。
（2）在do_open()中对headers进行了规范化处理（.title()）,代码如下。
headers = dict((name.title(), val) for name, val in headers.items())
如图3所示，我们在该句前后分别打印headers，处理之前为：
{'Host': '192.168.1.200:1234', 'User-Agent': 'test', 'Connection': 'close', 'User-agent': 'Python-urllib/2.7'}，里面有我们设置的'User-Agent': 'test'
处理之后就变成下面了：
{'Host': '192.168.1.200:1234', 'Connection': 'close', 'User-Agent': 'Python-urllib/2.7'}
原因是后面的'User-agent'经过.title()后也会变'User-Agent'，在字典中覆盖掉了我们自定义的值。

以后使用urllib2要设置UA时，一定要用“User-agent”，而不能用“User-Agent”！

• 
• 
• 

阅读全文 + 去微博评论 +

【经验分享】在分析别人代码的时候，通过打印调用栈可以帮助我们快速掌握调用函数的上下文调用逻辑。Python中如何打印调用栈呢？如下。
import traceback
traceback.print_stack()
参考>>> https://stackoverflow.com/questions/1156023/print-current-call-stack-from-a-method-in-python-code
例如，我们想知道httplib.py中_send_request()函数的调用上下文，在_send_request()中加入上述代码，当代码执行的时候就会在控制台打印出调用栈信息，如附图所示。

• 

阅读全文 + 去微博评论 +

【经验分享】如何给python函数增加一个timeout功能？
想要实现的效果：
在调用一个函数（不固定）的时候如果在指定的N秒内没有返回，就强制停止。

在github上找到了一些方案例如func_timeout，timeout_decorator。经过测试对比，func_timeout比较理想，项目主页：github.com/kata198/func_timeout，“Python module to support running any existing function with a given timeout.”。它提供了一个装饰器func_set_timeout，非常方便。

timeout_decorator原理：
它是利用子线程StoppableThread来执行目标函数，当指定时间到达，子线程还未结束，就强制结束子线程，然后抛出FunctionTimedOut异常，详见github.com/kata198/func_timeout/blob/master/func_timeout/dafunc.py。

阅读全文 + 去微博评论 +

【演示】得物APP商品"最近购买列表"采集演示
（1）根据商品的spuid从APP端采集。
（2）得物的“最近购买”列表展示了最近3个月的销售记录，可以借以分析商品的价格和销量波动情况。包括字段“昵称、日期、规格、价格”，采集好的示例数据见：http://db.site-digger.com/csv/646577755f6170705f70726f647563745f6c6173745f736f6c645f6c6973745f73616d706c65/ 点击查看西安鲲之鹏的微博视频 ​​​

阅读全文 + 去微博评论 +

【演示】某小红书APP笔记详情及评论数据采集最新(20210618)演示
近日某小红书的网页版不再展示笔记的“点赞数、评论数、收藏数和分享数”了，为了能拿到这些信息只能从APP端入手。本采集方案可以拿到笔记的所有属性值以及前10条评论数据。

（1）笔记详情包含的字段
'note_id'（笔记ID）, 'note_type'(笔记类型，是普通的还是视频), 'user_red_id'(用户ID), 'user_name'（用户名）, 'liked_count'（点赞数）, 'shared_count'（分享数）, 'collected_count'（收藏数）, 'comments_count'（评论数）, 'pubtime'（笔记发布时间）, 'hash_tags'（标签）, 'images_list'（原图列表）, 'video'（视频链接，如果是视频笔记）, 'desc'（笔记内容）
示例数据链接：点击查看"小红书笔记示例数据"

（2）笔记评论包含的字段
'comment_id'（评论）, 'note_id'（关联的笔记ID）, 'user_name'（用户名）, 'pubtime'（评论发布时间）, 'like_count'（评论点赞数）, 'score'（评分）, 'content'（评论内容）, 'sub_comment_count'（评论回复数）, 'sub_comments'（评论回复内容）
示例数据链接：点击查看小红书评论示例数据

阅读全文 + 去微博评论 +

【经验分享】某特来电APP采集方案
我们分析的是V5.11.0版本，加了360的壳，用了ssl证书固定。
（1）经过ssl unpinning之后，Fiddler成功抓到包，如图1-3所示，分别对应“充电站搜索返回的列表”，“充电站详情”和“充电站的终端列表”。可以看到请求头中有很多陌生的参数，例如AVER，它是怎么构造出来的？
（2）脱壳，反编译找到了实现过程代码，如图4所示。可以看出AVER是通过对时间戳参数ATS，经过"DES/CBC/PKCS7Padding"加密而成。其它参数在代码中也都能找到实现过程。其中"X-Token"的产生过程比较复杂，后面再分享产生过程。

• 
• 
• 
• 

阅读全文 + 去微博评论 +

【经验分享】com.google.gson.Gson的toJson()方法在插桩分析的时候太有用了，赞赞赞。
function toJson(javaObject) {
    return Java.use("com.google.gson.Gson").$new().toJson(javaObject);
};
通过toJson(javaObject)可以将Java对象（数据结构）转换成JSON格式，非常方便。想想之前都是通过字符串拼接各个字段（熟悉）值，太费劲儿了。

关于com.google.gson.Gson的toJson()的更多示例可以看这篇文章：https://www.cnblogs.com/reboost/p/9521603.html

• 

阅读全文 + 去微博评论 +

【经验分享】某美丽修行APP反采集策略分析
采用的反采集策略：
（1）加了360的壳。
（2）ssl证书固定。
（3）部分接口返回的数据有加密，例如附图1所示。
（4）商品搜索部分需要登录（不登录实际可以拿到前10条数据）。

解决方案：
（1）通过frida脚本绕过证书固定，成功拦截到交互过程，如附图1所示，为某个请求的应答。
（2）经过dump内存dex文件，jadx反编译，找到了“entityInfo”加密串的解密过程，如图2所示。顺藤摸瓜，找到AES解密的key和iv在so文件里，如图3所示。
（3）用ida pro静态分析so文件，成功找到了key和iv，如图4所示。
（4）用获取到的key和iv尝试解密“entityInfo”，成功，如图5所示。

"商品详情"对应JSON数据如附图6所示，"全成分表"对应JSON数据如附图7-9所示。

• 
• 
• 
• 
• 
• 
• 
• 
• 

阅读全文 + 去微博评论 +

【经验分享】一例网站反爬机制分析
某网站，网址：http://t.cn/Rm6yxny（microchip官网）。浏览器访问正常，用Python urllib2和curl命令获取超时，修改成浏览器相同UA也同样结果。

根据经验，网站是根据“是否使用了长连接”来识别爬虫的。现代浏览器默认都会使用长连接(Connection: keep-alive)来提高多个请求的效率，而urllib2默认不使用长连接，每次请求完毕都会关闭tcp连接，urllib2发出的HTTP请求Connection值都为close（urllib2源码里写死了，如附图所示）。

解决方法：使用支持长连接的HTTP库即可，例如requests库或者urllib3库。

另外，我在stackoverflow上看到了能让urllib2支持keep-alive的方法，连接在这里https://stackoverflow.com/questions/1037406/python-urllib2-with-keep-alive，没有测试过。

• 

阅读全文 + 去微博评论 +

【经验分享】如何在命令行下执行单个SQL语句？
例如 定期清理django_session表
示例： mysql -u root -p 123456 somedb -e "delete from django_session" ​​​​

阅读全文 + 去微博评论 +