pot爬虫工具是一款下载爬虫的工具,使用Electron制作封包,软件有点大,图标也没去改,软件直接用Compiler的抓取的。再麻烦点就使用selenium解决js的异步 加载问题。相对比较大型的需求才使用框架,主要是便于管理以及扩展等。
【软件功能】
其最初是为了页面抓取(更确切来说网络抓取)所设计的, 也可以应用在获取API所返回的数据或者通用的网络爬虫。
【软件说明】
一个为了爬取网站数据,提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘,信息处理或存储历史数据等一系列的程序中。
展开内容