JAVA爬虫区块链快讯的方法是什么
这篇文章主要介绍"JAVA爬虫区块链快讯的方法是什么"，在日常操作中，相信很多人在JAVA爬虫区块链快讯的方法是什么问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答"JAVA爬虫区块链快讯的方法是什么"的疑惑有所帮助！接下来，请跟着小编一起来学习吧！
需求：
需要将目标的几个站点的快讯内容做定时爬取，并根据内容做重复过滤。
技术评审：
站点的内容抓取刚开始是想用python，但在内容重复过滤这块没想好实践路径就未直接采用python；
JAVA也看过其他一些开源框架比如："xxl-crawler""WebCollector",这两个框架其实在分布式上面略有些优势，但在文本过滤上并未有太好的解决文案；
a、任务调度：
任务调度用Quartz，成熟、灵活
b、文本重复过滤
考虑到数据多的时候重复数据匹配量比较大，如果用分词的内容做索引再循环过滤匹配文本项，效率太低；有没有一种方式可以快速建好文本特征，方便的使用关系数据库就可以做一个全局滤重。
答案是：有的，为每个快讯文本建一个指纹，重复的文本或者较大篇幅的文本重复
其原理简述一下：Simhash算法将给定文本，根据其中的关键字，将文本最终计算出一个32位二进制串，我将生成的二进制串分成四个8位串，这样方便快速计算匹配度，数量大的时候还可以在指纹上建索引提高效率。
上图为根据抓取的内容做的生成的指纹
关键实现：
上图为整个模块基本架构
爬虫任务线程：是用户Quartz做调度，每个目标站是单独的一个Job，具体的调度交给Quatz，爬虫的子JOB再抽取一个父类，做爬虫模板，这样单个爬虫代码量就很少了，附上一个目标站的实现类：
public class LianNewsJob extends NewsJob implements Job {protected static long MAX_ID=0;Logger logger = LoggerFactory.getLogger(WalianNewsJob.class);@Overridepublic void execute(JobExecutionContext jobExecutionContext) {TAG="WALIAN";try {saveNewsToQueue(getContent());}catch (Exception e){logger.error(TAG+"采集异常",e);}}/*** 抓取资讯* @return*/private List getContent(){LxbNewsSuorce newsItem;List newsList = new ArrayList<>();List jsonList = new ArrayList<>();try {String responseJsonStr = getHttpContent(Constants.WALIAN_URL);JSONObject responseJO = JSON.parseObject(responseJsonStr);if(StringUtils.equals(responseJO.getString("code"),"000000")) {JSONArray contentList = responseJO.getJSONObject("data").getJSONArray("list");for (int i = 0; i < contentList.size(); i++) {jsonList.add(contentList.getJSONObject(i));}sortContent(jsonList);for (JSONObject jObj : jsonList) {if (jObj.getLong("id") > MAX_ID) {newsItem = new LxbNewsSuorce();newsItem.setTitle(jObj.getString("title"));newsItem.setContent(StringUtils.replace(jObj.getString("content")));newsList.add(newsItem);MAX_ID = jObj.getLong("id");}}}} catch (Exception e) {logger.error(TAG+"抓取异常",e);}return newsList;}boolean isTitleExist(String title ){Query userQuery = DBManager.getSqlManager().query(LxbNewsSuorce.class);List newsList = userQuery.andEq("title",title).select();if(newsList.size() > 0){return true;}return false;} 到此，关于"JAVA爬虫区块链快讯的方法是什么"的学习就结束了，希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习，快去试试吧！若想继续学习更多相关知识，请继续关注网站，小编会继续努力为大家带来更多实用的文章！
