SpiderFlow – 一个无需写代码的爬虫平台
网络爬虫,是互联网数据抓取的主要方式之一,许多人都会有类似的需求。然而,网络爬虫的编写,通常需要掌握一定的代码编写能力,乃至于比较复杂的项目组织构建能力,有一定的技术门槛。
SpiderFlow,通过可视化的方便,无需编写代码,仅需拖拽链接节点,就能构建一个爬虫应用,十分便捷。
SpiderFlow,是 ssssssss-team 在Gitee上开源的爬虫平台,仓库位于 https://gitee.com/ssssssss-team/spider-flow,目前版本为 v0.5.0。
SpiderFlow 以图形化方式定义爬虫流程,无需代码即可实现一个爬虫。无需编写代码,在线定制爬虫规则;插件丰富,拥有 redis、mongodb、oss、ocr、IP代理池、selenium等插件,高度灵活,扩展方便,规则定制灵活。
SpiderFlow功能丰富,
- 支持Xpath/JsonPath/css选择器/正则提取/混搭提取
- 支持JSON/XML/二进制格式
- 支持多数据源、SQL select/selectInt/selectOne/insert/update/delete
- 支持爬取JS动态渲染(或ajax)的页面
- 支持代理
- 支持自动保存至数据库/文件
- 常用字符串、日期、文件、加解密等函数
- 支持插件扩展(自定义执行器,自定义方法)
- 任务监控,任务日志
- 支持HTTP接口
- 支持Cookie自动管理
- 支持自定义函数
SpiderFlow安装简单,首先准备环境:
下载项目源码后,
- 设置Eclipse仓库,菜单Window->Preferences->Maven->User Settings->User Settings 后边的Browse,然后导入自己的Maven目录的conf目录下的settings.xml文件,然后点Apply,在点OK
- 导入到Eclipse,菜单file->Import,然后选择Maven->Existing Maven Projects,点击Next>按钮,选择工作目录,然后点击Finish按钮,即可导入成功
- 导入数据库,基础表:spider-flow/db/spiderflow.sql
- 打开并运行org.spiderflow.SpiderApplication.java
- 打开浏览器,输入(http://localhost:8088/)
此时就能看到可视化的管理后台了,可以进行爬虫列表的管理:
构建爬虫十分方便,通过可视化面板,使用拖拽组件的方式,就能很快地实现一个网络爬虫:
还支持在线Debug:
并提供了详尽的日志:
SpiderFlow使用不同的节点来组成爬虫逻辑,包括:
- 开始节点:爬虫的起点,所有流程图必须有该节点
- 爬取节点:用于请求HTTP/HTTPS页面或接口
- 定义变量:用于定义变量之后,可以与表达式配套使用,实现动态设置各项参数(如动态请求分页地址)
- 输出节点:主要用于调试,测试时会把输出打印到页面中,另外也可以用来自动保存到数据库或文件
- 循环节点:实现循环逻辑
- 等待结束:等待到该节点之前所有节点执行完毕时才会执行下一级节点
- 执行SQL:主要用于与数据库交互(查询/修改/插入/删除等等)
- 子流程:主要用于调用其他流程
- 执行函数:主要用于调用一些关联性不大,无需返回值的函数,如下载文件,保存文件等
- 连接线:用来流转至下一个节点
一个简单的爬虫流程如下:
运行顺序:A->B->(C->F),(D->E)->G->H
- 先执行A节点
- A节点执行完毕时,执行B节点
- B节点执行完毕时,同时执行C、D节点
- C节点执行完毕时,执行F节点
- D节点执行完毕时,执行E节点
- E、F节点都执行完毕时,执行G节点(G节点是等待结束节点,所以这里会等E、F都结束,否则无论E、F哪个节点执行完毕,都会执行G节点)
- G节点执行完毕时,执行H节点
- H节点执行完毕时,流程结束
由于C节点是循环节点,假设C节点循环次数是3次,则上方从C节点开始则变成C,C,C->F,F,F->G->H
SpiderFlow还提供了丰富的插件,包括:
- redis插件
- mongodb插件
- IP代理池插件
- OSS插件
- OCR插件
- Selenium插件
可以配合使用,实现更为复杂的功能。
SpiderFlow 以图形化方式定义爬虫流程,无需代码即可实现一个爬虫。无需编写代码,在线定制爬虫规则,利用自定义的逻辑图设计方法,很方便就能设计出网络爬虫,且插件丰富,高度灵活,扩展方便,规则定制灵活。
php宝塔搭建实战Yiso智云搜索引擎开源php源码
大家好啊,欢迎来到web测评。本期给大家带来一套php开发的Yiso智云搜索引擎开源php源码,上次是谁要的系统项目啊,帮你找到了,还说不会搭建,让我帮忙录制一期教程,趁着今天有空,简单的录制测试了一下,部署方式还是很容易的。感兴趣的朋友可以自行下载学习。
- PHP7.0 + nginx + BiuSQL + JS + CSS + HTML
- cnetos7以上 + 宝塔面板
- 下载源码,宝塔新建一个网站,php版本选择7.0。
- 删除网站目录下的基础文件,然后将本地下载好的代码压缩上传,访问域名即可部署完成。采用自主研发的 BiuSQL 数据库储存数据,不需要安装数据库,下载源码解压缩即可使用。
PS:不会安装宝塔的同学可以翻一下我之前的教程。
Yiso 是一个性能极佳的搜索引擎,开源无加密,亦可做收录网址平台使用!输入关键词即可获取相关的搜索结果内容。
Yiso采用自主研发的 BiuSQL 数据库储存数据,不需要安装数据库,下载源码解压缩即可使用。
可自行添加相关资料或数据内容。
数据存储位置依次打开文件。
获取方式查看视频教程
- 网站中的所有源码资源,均不是该源码资源的价格,本身开源源码是不用付费的。这是赞助录制搭建视频教程、收集整理资源、服务器维护的基础开销费用!
- 不想付费的朋友可以自行去GitHub或者Gitee搜索相关开源项目,了解其开源协议。再根据视频视频教程来搭建即可。
- 本站上传的源码,均为平台购买,作者提供,网友推荐,互联网平台整理而来。
- 上述源码的知识产权及相关权利归作者及制作公司所有。
- 上述源码仅供学习参考及技术交流之用,未经源码的知识产权权利人同意,用户不得进行商业使用。
- 上述源码如需商业使用,请自行联系源码知识产权权利人进行授权,否则,我们将积极配合作品知识产权权利人 一起维权。
- 上述源码如有侵犯您的知识产权,请您立刻联系我们,我们会在24小时内做删除下架处理。
本文作者及来源:Renderbus瑞云渲染农场https://www.renderbus.com
文章为作者独立观点不代本网立场,未经允许不得转载。