免费网络数据抓取软件

A. 抓包工具有哪些

你在编程的时候才需要做抓包操作，你没有必要专门下载一个工具，你只要使用chrome浏览器会自动的带一款工具，而且非常有用。

B. 四大网络抓包神器，总有一款适合你~

无论是开发还是测试，在工作中经常会遇到需要抓包的时候。本篇文章 主要介绍如何在各个平台下，高效的抓包。

目前的抓包软件总体可以分为两类：

一种是设置代理抓取http包，比如Charles、mitmproxy这些软件。

另一种是直接抓取经过网卡的所有协议包，其中最出名就是大名鼎鼎的wireshark以及linux自带的抓包软件tcpmp。

下面重点介绍一下这四个抓包工具的特点以及使用。

wireshark想必大多数程序员都不会陌生。wireshark在各个平台都可以安装使用，它 可以抓取经过指定网卡的所有协议。 wireshark虽然很强大，但是对初学者其实不是很友好。

这也正是由于它太强大，它可以抓取所有包，所以初学者在使用时面对茫茫数据流不知所措。初学者需要认真的去学习怎么过滤得到自己感兴趣的包，但是如果不熟悉wireshark的过滤语法，要过滤数据包将举步维艰。

过滤语法简单介绍

wireshark的过滤语法总结起来其实也很简单，就是 以协议开头，后面可以跟着协议的属性，然后加上一些判断符号， 比如contains、==、>、<等等。比如只想展示http的协议内容，则直接在过滤器输入框中输入http即可。

如下图：

比如我 只想看http协议的请求头中uri包含’/api’的协议，就可以这么写：

如果想通过目标ip或者来源ip来过滤包，就不可以以http协议为前缀了，因为这些是ip协议的相关属性。 通过目标ip来过滤可以这么写：

上面表示目标机器的ip是61.135.217.100并且协议是http的包。

wireshark支持很多种协议，我们可以通过右上角的expression来打开搜索支持的协议，还可以找出协议支持的属性，然后填入期待的值，软件会自动为我们构建过滤语句。

优点：

功能强大，可以抓取所有协议的包

抓到的包容易分析

缺点：

由于线上服务器没有GUI，只有命令行，因此无法在线上服务器使用

无法分析https数据包，由于wireshark是在链路层获取的数据包信息，所以获取到的https包是加密后的数据，因此无法分析包内容。当然，我们可以对https数据包进行解密， 但是操作具有一定的复杂度，可能要消耗很多时间。

tcpmp是linux上自带的一个抓包软件(mac也有)，功能强大，也可以抓取经过指定网卡的所有协议包。

由于是命令行工具，tcpmp抓取到的包不易于分析，一个常见的做法是将tcpmp抓到的包输出到某个文件，然后将文件拷贝下来用wireshark分析。

一些简单的过滤参数：

抓包内容输出到文件：

之后我们可以把test.cap直接用wireshark打开，就可以很直观的分析包了。

用tcpmp输出cap文件包：

tcpmp-r test.cap

Charles是一款http抓包工具，它是通过代理来实现的抓包。也就是我们在访问网页时需要配置代理，将代理指向Charles监听的端口，之后我们的http请求都会发向Charles的端口，之后Charles会帮我们转发并记录协议内容。

Charles的使用非常简单，配置好代理后，Charles就开始抓包了。

我们可以直接通过Charles的GUi查看包的内容：

上图中的unknown表示https加密后的数据，所以看到不协议的具体内容。我们可以通过安装Charles的证书，让Charles也可以查看https协议的具体内容。

优点 :

使用简单，只需配置一下代理地址就可以

要抓取https协议的配置也很简单，只要安装下charles的证书就可以了

mitmproxy是python写的一款http抓包工具，虽然只支持http抓包，但是它的特性非常强大，它不仅可以抓包，还可以对请求进行拦截、重现等操作。和Charles一样，它的原理也是基于代理，使用的时候需要设置代理指向它。

mitmproxy是命令行工具，但是也自带了mitmweb工具，可以让用户在网页上操作。另外，mitmproxy还支持用户自行编写插件，可以编写脚本对请求进行处理，然后把修改后的请求发出去。

1、安装 

首先需要在机器安装python3以及pip3.之后通过pip3安装

pip3 install mitmproxy

如果安装mitmproxy过程中报错MoleNotFoundError: No mole named '_ssl'，就需要安装一下OpenSSL，然后再重新编译安装一下python3。

安装好openSSL后再执行pip3 install mitmproxy

2、使用 

安装后，直接在命令行输入mitmproxy就会进入它的交互界面：

这时候mitmproxy已经开始监听8080端口(默认)，接着，我们可以去浏览器设置代理。浏览器设置代理的方式有很多,这里不多做介绍。

设置完代理后，访问浏览器的请求都会被发到mitmproxy上，mitmproxy根据规则对请求进行拦截(不配置拦截规则的话则都不拦截)，所有经过的请求都会被输出：

在交互界面上可以通过快捷键操作请求。输入问号’?’，可以查看快捷键的文档。

3、下面介绍一些常用的快捷键和功能

① 请求过滤  

在请求列表交互界面，按下f键后，可以输入一些过滤规则：

具体的过滤语法可以按下’?‘键后，再按下方向键右’—>’或者l键。

② 请求拦截 

按下i键后，可以对指定的请求进行拦截。按mitmproxy收到指定条件的请求时，不会立马把它转发出去，而是等待我们执行resume操作后，才会把请求转发出去——在这期间我们甚至可以对请求进行手动修改。

红色字体表示该请求被拦截，之后我们可以按入a键来恢复该请求，可以输入A键恢复所有被拦截的请求。

③ 查看/编辑请求 

把指示光标移动到某个请求上，按回车可以查看请求的内容。或者鼠标直接点击请求也可以。

之后通过左右方向键可以查看request、response、detail等信息。

如果要编辑请求，可以在这个界面输入e，然后会让我们选择编辑哪块内容：

之后就会进入vim编辑界面编辑相应的内容了（保存后会生效）。

④ 重发请求 

mitmproxy的光标指向某个请求时，按下r键可以重发这个请求(重发前可以对该请求进行编辑)。

按下’:’键后，可以输入命令，这样我们就可以通过过滤规则批量的重发请求

replay.client是mitmproxy内置的一个命令，我们也可以自行编写命令。命令的编写可以参考官网文档，这里不做介绍。

⑤ 插件开发 

我们可以编写插件，然后再启动的时候指定插件，mitmproxy处理请求的时候会执行一个插件的链，这样我们就可以对请求进行编辑然后再发送出去了。

借用官网的插件demo：

这个方法对每一个请求进行处理，然后打印序号。通过mitmproxy -s test.py来让插件生效。通过插件可以绑定各种连接事件。感兴趣的朋友可以自行去mitmproxy官网看文档，这里不多做介绍。

⑥ 保存抓到的请求数据 

通过w快捷键我们可以把这次抓到的请求包保存到文件上。

通过mitmproxy -r file可以读取以前抓取的请求信息进行分析。

优点：

命令行操作，可以在无GUI界面的服务器上使用

对于这几个抓包神器，我总结了下使用场景：

只抓http协议的话：

推荐使用mitmproxy。mitmproxy丰富的功能不仅可以满足我们的抓包需求，还可以提升我们的工作效率。比如测试可以抓包后一键重发请求来重现bug，开发调试的时候可以修改请求内容等等。

如果是在线上的没有GUI的服务器：

推荐使用tcpmp，虽然mitmproxy也可以支持命令行抓包，但是生产环境的服务器最好不要乱安装第三方插件。另外，大多数服务器都有装tcpmp。我们可以通过把请求的内容输出到文件，然后拷贝会自己的电脑用wireshark分析。

想要抓取http以外的协议的话：

直接上wireshark。功能强大。对于Charles，感觉用了mitmproxy之后，就基本用不上Charles了。Charles好像也可以编辑后再发送，但是感觉不是很好用，可能我用的不是很熟吧。

C. 跪求好心人分享Charles(抓包神器) V4.6.1 中文免费版软件免费百度云资源

charles中文破解版.rar 免费下载

链接:
https://pan..com/s/1GtnWF-pQQLoxYaxzBvc67w

是一个HTTP代理服务器,HTTP监视器,反转代理服务器，当浏览器连接Charles的代理访问互联网时，Charles可以监控浏览器发送和接收的所有数据。它允许一个开发者查看所有连接互联网的HTTP通信，这些包括request, response和HTTP headers （包含cookies与caching信息）。

D. 有没有一款类似网络爬虫的数据抓取工具，可以抓取windows应用程序的数据

ForeSpider数据采集系统是天津市前嗅网络科技有限公司自主知识产权的通用性互联网数据采集软件。软件几乎可以采集互联网上所有公开的数据，通过可视化的操作流程，从建表、过滤、采集到入库一步到位。支持正则表达式操作，更有强大的面向对象的脚本语言系统。
台式机单机采集能力可达4000-8000万，日采集能力超过500万。服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。
软件特点：
一．通用性：可以抓取互联网上几乎100 %的数据
1.支持用户登录。
2.支持Cookie技术。
3.支持验证码识别。
4.支持HTTPS安全协议。
5.支持OAuth认证。
6.支持POST请求。
7.支持搜索栏的关键词搜索采集。
8.支持JS动态生成页面采集。
9.支持IP代理采集。
10.支持图片采集。
11.支持本地目录采集。
12.内置面向对象的脚本语言系统，配置脚本可以采集几乎100%的互联网信息。

二．高质量数据：精准采集所需数据
1.独立知识产权JS引擎，精准采集。
2.内部集成数据库，数据直接采集入库。
3.内部创建数据表结构，抓取数据后直接存入数据库相应字段。
4.根据dom结构自动过滤无关信息。
5.通过模板配置链接抽取和数据抽取，目标网站的所有可见内容均可采集，智能过滤无关信息。
6.采集前数据可预览采集，随时调整模板配置，提升数据精度和质量。
7.字段的数据支持多种处理方式。
8.支持正则表达式，精准处理数据。
9.支持脚本配置，精确处理字段的数据。

三．高性能：千万级的采集速度
1.C++编写的爬虫，具备绝佳采集性能。
2.支持多线程采集。
3.台式机单机采集能力可达4000-8000万，日采集能力超过500万。
4.服务器单机集群环境的采集能力可达8亿-16亿，日采集能力超过4000万。
5.并行情况下可支撑百亿以上规模数据链接，堪与网络等搜索引擎系统媲美。
6.软件性能稳健，稳定性好。

四．简易高效：节约70%的配置时间
1.完全可视化的配置界面，操作流程顺畅简易。
2.基本不需要计算机基础，代码薄弱人员也可快速上手，降低操作门槛，节省企业爬虫工程师成本。
3.过滤采集入库一步到位，集成表结构配置、链接过滤、字段取值、采集预览、数据入库。
4.数据智能排重。
5.内置浏览器，字段取值直接在浏览器上可视化定位。

五． 数据管理：多次排重
1. 内置数据库，数据采集完毕直接存储入库。
2. 在软件内部创建数据表和数据字段，直接关联数据库。
3. 采集数据时配置数据模板，网页数据直接存入对应数据表的相应字段。
4. 正式采集之前预览采集结果，有问题及时修正配置。
5. 数据表可导出为csv格式，在Excel工作表中浏览。
6. 数据可智能排除，二次清洗过滤。

六． 智能：智能模拟用户和浏览器行为
1.智能模拟浏览器和用户行为，突破反爬虫限制。
2.自动抓取网页的各类参数和下载过程的各类参数。
3.支持动态IP代理加速，智能过滤无效IP代理，提升代理的利用效率和采集质量。
4.支持动态调整数据抓取策略，多种策略让您的数据无需重采，不再担心漏采，数据采集更智能。
5.自动定时采集。
6.设置采集任务条数，自动停止采集。
7.设置文件大小阈值，自动过滤超大文件。
8.自由设置浏览器是否加速，自动过滤页面的flash等无关内容。
9.智能定位字段取值区域。
10.可以根据字符串特征自动定位取值区域。
11.智能识别表格的多值，表格数据可以完美存入相应字段。

七． 优质服务
1.数据采集完全在本地进行，保证数据安全性。
2.提供大量免费的各个网站配置模板在线下载，用户可以自由导入导出。
3.免费升级后续不断开发的更多功能。
4.免费更换2次绑定的计算机。
5.为用户提供各类高端定制化服务，全方位来满足用户的数据需求。

E. 网络爬虫抓取数据 有什么好的应用

一般抓数据的话可以学习Python，但是这个需要代码的知识。
如果是没有代码知识的小白可以试试用成熟的采集器。
目前市面比较成熟的有八爪鱼，后羿等等，但是我个人习惯八爪鱼的界面，用起来也好上手，主要是他家的教程容易看懂。可以试试。

F. 有哪些抓包工具

第五名：TCPDump（网络类）

根据白帽子黑客抓包工具的使用率，将TCPmp排在第五的位置。

第一名：BurpSuite (web 报文)

BurpSuite是现在Web安全渗透的必备工具。

它是一个集成平台，平台中汇集了可以用来攻击web应用的工具，这些工具有很多接口，共享一个扩展性比较强的框架。

G. 常用的抓包工具都有哪些

常用的抓包工具有：fiddler抓包工具、Charles抓包工具、Firebug抓包工具、httpwatch抓包工具、Wireshark抓包工具、SmartSniff 抓包工具。

1、fiddler抓包工具，是客户端和服务端的http代理，客户端所有的请求都要先经过fiddler，到响应的服务端，然后端返回的所有数据也都要经过fiddler，fiddler也是最常用的抓包工具之一。

2、Charles抓包工具也是比较常用的，和fiddler差不多，请求接口和返回数据的显示方式不一样，Charles是树状结构比较清晰，fiddler是按照时间倒叙排的。

3、Firebug抓包工具是浏览器firefox浏览器自带插件，支持很多种浏览器，直接按f12,就可以打开，用起来比较方便。

4、httpwatch抓包工具是强大的网页数据分析工具，安装简单，不需要设置代理和证书，但只能看不能修改，，集成在Internet Explorer工具栏。

5、Wireshark抓包工具很强大，可以捕捉网络中的数据，并为用户提供关于网络和上层协议的各种信息。但是如果只是抓取http和https的话，还是用fiddler和Charles比较简洁一点。

6、SmartSniff抓包工具是一款方便小巧的 TCP/IP 数据包捕获软件，网络监视实用程序。

(7)免费网络数据抓取软件扩展阅读：

抓包工具在我们工作中主要用在：

A：抓取发送给服务器的请求，观察下它的请求时间还有发送内容等等；

B：去观察某个页面下载组件消耗时间太长，找出原因，要开发做性能调优；

C：或者我们去做断点或者是调试代码等等。

抓包工具所具备的几个功能：

1）它提供类似Sniffer的包分析功能，可以帮助我们详细拆分IP结构内容，带我们深入的了解TCP/IP协议；

2）它可以用来分析软件占用端口及通讯情况比重的工具；

3）它可以让我们从海量IP数据包中，找出我们需要的IP数据包，还能通过用户端的情况，帮助我们能截获各类敏感数据包。