更多>>关于我们
西安鲲之鹏网络信息技术有限公司从2010年开始专注于Web(网站)数据抓取领域。致力于为广大中国客户提供准确、快捷的数据采集相关服务。我们采用分布式系统架构,日采集网页数千万。我们拥有海量稳定高匿HTTP代理IP地址池,可以有效获取互联网任何公开可见信息。
您只需告诉我们您想抓取的网站是什么,您感兴趣的字段有哪些,你需要的数据是哪种格式,我们将为您做所有的工作,最后把数据(或程序)交付给你。
数据的格式可以是CSV、JSON、XML、ACCESS、SQLITE、MSSQL、MYSQL等等。
更多>>技术文章
-
西安鲲之鹏
发布时间:2017-08-10 16:03:33
-
西安鲲之鹏
发布时间:2017-08-05 10:50:19
【经验分享】某拨号服务器的Web API接口突然变得不稳定,重启Apache2后正常,但是过不来多久又会挂掉。查看error日志,发现如下信息:
"""
[mpm_event:error] [pid 54893:tid 140124506744704] AH00484: server reached MaxRequestWorkers setting, consider raising the MaxRequestWorkers setting
"""
谷歌查询相关资料得知需要调整/etc/apache2/mods-available/mpm_event.conf中的相关参数,将ServerLimit 从默认的16修改为30,将MaxRequestWorkers修改为750,然后重启Apache,问题得到解决。
这里有两个坑总结一下:
1)你不一定也使用的是mpm_event模块(还可能是mpm_worker或mpm_prefork),有两种方法判断。第一种方法是根据日志的提示信息如果是“mpm_prefork:error”那说明是mpm_prefork,这个时候就需要修改的是/etc/apache2/mods-available/mpm_prefork.conf文件;第二种方法是使用"apachectl -M"命令,会显示所有加载的模块,如附图所示我的服务器加载的是mpm_event_module。
2)MaxRequestWorkers的值的上限取决于ServerLimit * ThreadsPerChild的大小。
-
西安鲲之鹏
发布时间:2017-07-26 11:54:32
【经验分享】requests库使用socks5代理提示“Missing dependencies for SOCKS support”问题解决:
pip install pysocks
pip install requests[socks]
>>> http://t.cn/R9ZI4eH
-
西安鲲之鹏
发布时间:2017-07-21 12:30:38
【经验分享】又解决一个疑难杂症:py2exe打包某使用paste的程序时总是失败,提示“No module named paste”,确认paste库是安装成功的。经过层层追踪最终发现是py2exe中的imp.find_module('paste')报的错。
经过验证,imp.find_module('paste')果真报错:
Python 2.7.6 (default, Jun 22 2015, 17:58:13)
[GCC 4.8.2] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> import imp
>>> imp.find_module('paste')
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
ImportError: No module named paste
>>> import paste
这就奇了怪了,paste明明安装好了,而且工作正常,为何imp找不到它呢?!
白色不得其解只得求助于stackoverflow(http://t.cn/RKB74OH),果然还是有高人,问题得到成功解决"The main problem seems that paste module doesnt have an __init__.py file"(就是在paste库的目录下建立一个__init__.py的空文件),经测试有效。
大概半年前就遇到这个问题了,只能将paste换用cherrypy临时解决下,今天总算搞清楚问题了。
-
西安鲲之鹏
发布时间:2017-06-22 11:54:23
【经验分享】
【背景】某代理服务器有一条联通线路(主IP,固定),还有N条电信ADSL拨号线路(N大于100)。
【问题】现在遇到的问题是DNS解析的时候走的是主IP线路(联通),导致某些大站(例如,京东)解析回来的IP就是联通的(智能DNS的缘故),这样当从ADSL线路去访问这些网站时访问的是其联通的镜像站,从而导致速度不快(慢)。
【解决】找一台电信服务器,使用dnsmasq搭建一个中转DNS服务器,然后在代理服务器上使用该DNS,问题解决:现在所有使用智能DNS的域名解析出来IP都是电信的了。
附图1:未使用电信中转DNS服务器前测试京东截图,解析出来的IP是联通的。
附图2:使用了电信中转DNS服务器后测试京东截图,解析出来的IP是联通的。
-
西安鲲之鹏
发布时间:2017-05-17 11:00:47
安居客近来改版有点勤,价格这块4月份还是静态展示的,现在改成JS生成了。不过这不是什么问题。道是它的封IP(出验证)的策略越来越难绕过了,目前只有我们的动态IP代理可以有效解决 >>> http://t.cn/RXK6ZcF
数据采集与反采集这个较量永远不会停止...
-
西安鲲之鹏
发布时间:2017-04-27 17:07:54
-
西安鲲之鹏
发布时间:2017-04-27 09:51:47
Linux下两种方法查看网卡的逻辑名称(logical name):
【1】ls /sys/class/net 如附图1所示;
【2】sudo lshw -C network 如附图2所示;
有人会问为什么要查看这呢,多块网卡默认不都是eth0, eht1, eth2...吗?
这和系统有关系,例如Ubuntu16.04中,网卡名称默认就是ens33, ens34...之类的,而非eth0, eth1...。
附:如何修改Ubuntu16.04下网卡名ens为eth:
sudo i /etc/default/grub
修改:
GRUB_CMDLINE_LINUX=" "
为:
GRUB_CMDLINE_LINUX="net.ifnames=0 biosdevname=0"
再执行:
sudo grub-mkconfig -o /boot/grub/grub.cfg
然后重启一下就可以。
-
西安鲲之鹏
发布时间:2017-04-23 17:38:40
【vmrun小试牛刀】
(1)命令行启动vmware虚拟机,示例:
vmrun start "G:\VMS\XP2016\Windows XP Professional.vmx"
(2)命令行重启vmware虚拟机,示例:
vmrun reset "G:\VMS\XP2016\Windows XP Professional.vmx"
vmrun命令说明文档:http://t.cn/RX01Cd3
-
西安鲲之鹏
发布时间:2017-04-16 18:38:18
【问题概述】www.momondo.com.cn这个网站用了一个简单但有效的策略来检测客户端是否是真实的浏览器。虽然花了我不少时间,但还是赞一个。
【问题描述】你可以试一下直接curl Omomondo - 全球机票酒店搜索,会发现始终得不到网站的响应;可以再试下用Python的urllib2库,一样获取不到内容。但是在浏览器内访问却始终正常。是不是很奇怪?看来它可以有效判断出是否是真实的浏览器。
【解决方案】经过抓包对比,最终找出了它的方法。它主要检测了如下三点:
1)User-Agent不能为空,也不能使用众所周知的非浏览器UA,例如"curl/7.27.0"。要伪装成一个真实的浏览器UA。
2)不能为HTTP短连接,也就是必须要指定“Connection: keep-alive”(伪造这个头即可,不需要真正支持长连接)。
3)Accept-Encoding不能为空,可以随便指定一个客户端支持的编码。
最后这样测试,你会发现成功通过了网站的检测:
curl -v -H "User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.89 Safari/537.36" -H "Connection: keep-alive" -H "Accept-Encoding: nothing" Omomondo - 全球机票酒店搜索(如截图所示)