SpiderFlow – 一个无需写代码的爬虫平台

网络爬虫,是互联网数据抓取的主要方式之一,许多人都会有类似的需求。然而,网络爬虫的编写,通常需要掌握一定的代码编写能力,乃至于比较复杂的项目组织构建能力,有一定的技术门槛。

SpiderFlow,通过可视化的方便,无需编写代码,仅需拖拽链接节点,就能构建一个爬虫应用,十分便捷。

SpiderFlow,是 ssssssss-team 在Gitee上开源的爬虫平台,仓库位于 https://gitee.com/ssssssss-team/spider-flow,目前版本为 v0.5.0。

SpiderFlow 以图形化方式定义爬虫流程,无需代码即可实现一个爬虫。无需编写代码,在线定制爬虫规则;插件丰富,拥有 redis、mongodb、oss、ocr、IP代理池、selenium等插件,高度灵活,扩展方便,规则定制灵活。

SpiderFlow功能丰富,

  • 支持Xpath/JsonPath/css选择器/正则提取/混搭提取
  • 支持JSON/XML/二进制格式
  • 支持多数据源、SQL select/selectInt/selectOne/insert/update/delete
  • 支持爬取JS动态渲染(或ajax)的页面
  • 支持代理
  • 支持自动保存至数据库/文件
  • 常用字符串、日期、文件、加解密等函数
  • 支持插件扩展(自定义执行器,自定义方法)
  • 任务监控,任务日志
  • 支持HTTP接口
  • 支持Cookie自动管理
  • 支持自定义函数

SpiderFlow安装简单,首先准备环境:

下载项目源码后,

  1. 设置Eclipse仓库,菜单Window->Preferences->Maven->User Settings->User Settings 后边的Browse,然后导入自己的Maven目录的conf目录下的settings.xml文件,然后点Apply,在点OK
  2. 导入到Eclipse,菜单file->Import,然后选择Maven->Existing Maven Projects,点击Next>按钮,选择工作目录,然后点击Finish按钮,即可导入成功
  3. 导入数据库,基础表:spider-flow/db/spiderflow.sql
  4. 打开并运行org.spiderflow.SpiderApplication.java
  5. 打开浏览器,输入(http://localhost:8088/)

此时就能看到可视化的管理后台了,可以进行爬虫列表的管理:

构建爬虫十分方便,通过可视化面板,使用拖拽组件的方式,就能很快地实现一个网络爬虫:

还支持在线Debug:

并提供了详尽的日志:

SpiderFlow使用不同的节点来组成爬虫逻辑,包括:

  • 开始节点:爬虫的起点,所有流程图必须有该节点
  • 爬取节点:用于请求HTTP/HTTPS页面或接口
  • 定义变量:用于定义变量之后,可以与表达式配套使用,实现动态设置各项参数(如动态请求分页地址)
  • 输出节点:主要用于调试,测试时会把输出打印到页面中,另外也可以用来自动保存到数据库或文件
  • 循环节点:实现循环逻辑
  • 等待结束:等待到该节点之前所有节点执行完毕时才会执行下一级节点
  • 执行SQL:主要用于与数据库交互(查询/修改/插入/删除等等)
  • 子流程:主要用于调用其他流程
  • 执行函数:主要用于调用一些关联性不大,无需返回值的函数,如下载文件,保存文件等
  • 连接线:用来流转至下一个节点

一个简单的爬虫流程如下:

运行顺序:A->B->(C->F),(D->E)->G->H

  • 先执行A节点
  • A节点执行完毕时,执行B节点
  • B节点执行完毕时,同时执行C、D节点
  • C节点执行完毕时,执行F节点
  • D节点执行完毕时,执行E节点
  • E、F节点都执行完毕时,执行G节点(G节点是等待结束节点,所以这里会等E、F都结束,否则无论E、F哪个节点执行完毕,都会执行G节点)
  • G节点执行完毕时,执行H节点
  • H节点执行完毕时,流程结束

由于C节点是循环节点,假设C节点循环次数是3次,则上方从C节点开始则变成C,C,C->F,F,F->G->H

SpiderFlow还提供了丰富的插件,包括:

  • redis插件
  • mongodb插件
  • IP代理池插件
  • OSS插件
  • OCR插件
  • Selenium插件

可以配合使用,实现更为复杂的功能。

SpiderFlow 以图形化方式定义爬虫流程,无需代码即可实现一个爬虫。无需编写代码,在线定制爬虫规则,利用自定义的逻辑图设计方法,很方便就能设计出网络爬虫,且插件丰富,高度灵活,扩展方便,规则定制灵活。

php宝塔搭建实战Yiso智云搜索引擎开源php源码

大家好啊,欢迎来到web测评。本期给大家带来一套php开发的Yiso智云搜索引擎开源php源码,上次是谁要的系统项目啊,帮你找到了,还说不会搭建,让我帮忙录制一期教程,趁着今天有空,简单的录制测试了一下,部署方式还是很容易的。感兴趣的朋友可以自行下载学习。

  • PHP7.0 + nginx + BiuSQL + JS + CSS + HTML
  • cnetos7以上 + 宝塔面板
  1. 下载源码,宝塔新建一个网站,php版本选择7.0。
  2. 删除网站目录下的基础文件,然后将本地下载好的代码压缩上传,访问域名即可部署完成。采用自主研发的 BiuSQL 数据库储存数据,不需要安装数据库,下载源码解压缩即可使用。

PS:不会安装宝塔的同学可以翻一下我之前的教程。

Yiso 是一个性能极佳的搜索引擎,开源无加密,亦可做收录网址平台使用!输入关键词即可获取相关的搜索结果内容。

Yiso采用自主研发的 BiuSQL 数据库储存数据,不需要安装数据库,下载源码解压缩即可使用。

可自行添加相关资料或数据内容。

数据存储位置依次打开文件。

获取方式查看视频教程

  1. 网站中的所有源码资源,均不是该源码资源的价格,本身开源源码是不用付费的。这是赞助录制搭建视频教程、收集整理资源、服务器维护的基础开销费用!
  2. 不想付费的朋友可以自行去GitHub或者Gitee搜索相关开源项目,了解其开源协议。再根据视频视频教程来搭建即可。
  1. 本站上传的源码,均为平台购买,作者提供,网友推荐,互联网平台整理而来。
  2. 上述源码的知识产权及相关权利归作者及制作公司所有。
  3. 上述源码仅供学习参考及技术交流之用,未经源码的知识产权权利人同意,用户不得进行商业使用。
  4. 上述源码如需商业使用,请自行联系源码知识产权权利人进行授权,否则,我们将积极配合作品知识产权权利人 一起维权。
  5. 上述源码如有侵犯您的知识产权,请您立刻联系我们,我们会在24小时内做删除下架处理。

本文作者及来源:Renderbus瑞云渲染农场https://www.renderbus.com

点赞 0
收藏 0

文章为作者独立观点不代本网立场,未经允许不得转载。