一款非常牛逼的Java爬虫框架(高度灵活可配置)
介绍
平台以流程图的方式定义爬虫,是一个高度灵活可配置的爬虫平台
特性
-
支持Xpath/JsonPath/css选择器/正则提取/混搭提取
-
支持JSON/XML/二进制格式
-
支持多数据源、SQL select/selectInt/selectOne/insert/update/delete
-
支持爬取JS动态渲染(或ajax)的页面
-
支持代理
-
支持自动保存至数据库/文件
-
常用字符串、日期、文件、加解密等函数
-
支持插件扩展(自定义执行器,自定义方法)
-
任务监控,任务日志
-
支持HTTP接口
-
支持Cookie自动管理
-
支持自定义函数
插件
-
Selenium插件
-
Redis插件
-
OSS插件
-
Mongodb插件
-
IP代理池插件
-
OCR识别插件
-
电子邮箱插件
-
微信搜索公众号:架构师指南,回复:架构师 领取资料 。
项目部分截图
爬虫列表
爬虫测试
Debug
日志

免责声明
请勿将spider-flow应用到任何可能会违反法律规定和道德约束的工作中,请友善使用spider-flow,遵守蜘蛛协议,不要将spider-flow用于任何非法用途。
如您选择使用spider-flow即代表您遵守此协议,作者不承担任何由于您违反此协议带来任何的法律风险和损失,一切后果由您承担。
开源地址
https://gitee.com/ssssssss-team/spider-flow
官网:
https://www.spiderflow.org/
PS:如果觉得我的分享不错,欢迎大家随手点赞、在看。
关注公众号:Java后端编程,回复下面关键字
要Java学习完整路线,回复 路线
缺Java入门视频,回复: 视频
要Java面试经验,回复 面试
缺Java项目,回复: 项目
进Java粉丝群: 加群
PS:如果觉得我的分享不错,欢迎大家随手点赞、在看。
(完)
加我"微信" 获取一份 最新Java面试题资料

请备注:666,不然不通过~
最近好文

最近面试BAT,整理一份面试资料《Java面试BAT通关手册》,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。
获取方式:关注公众号并回复 java 领取,更多内容陆续奉上。
明天见(。・ω・。)ノ♡
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)