herman的文章

HTML5

web评论框支持emoji(表情符号)

1个月前 (04-14) 192浏览 0评论

Emoji 是可以插入文字的图形符号。它是一个日语词,e表示"絵",moji表示"文字"。连在一起,就是"絵文字"。Emoji 在上个世纪90年代,由日本电信商引入服务,最早用于在短消息...

JAVA

Webmagic(爬虫)抓取新浪博客案例

1个月前 (04-14) 148浏览 0评论

Webmagic框架更偏重实际的内容抓取。今天为大家分享Webmagic 爬虫框架抓取新浪博客的案例。 我们以作者的新浪博客http://blog.sina.com.cn/flashsword20作为例子。在这个例子里,我们要从最终的博客文...

JAVA

WebMagic 爬虫框架 注解用法

1个月前 (04-13) 149浏览 0评论

自从java注解出来之后,就无框架不注解。同样的 WebMagic 爬虫框架也支持注解的方式实现网页的抓取,今天为大家分享一下 WebMagic 爬虫的注解教程。 @TargetUrl和@HelpUrl HelpUrl/Ta...

JAVA

Webmagic处理POST、PUT、PATCH等请求

1个月前 (04-13) 132浏览 0评论

了解 RESTful 的都知道,POST不是幂等操作,所以理论上每次请求的结果都未必一样,所以原则上是没有办法做“去重”操作的。其次,除了GET请求,其他Method都没有办法自动发现,一般都是手工构建出来的,使用者更应该...

JAVA

Webmagic 爬虫监控和配置代理

1个月前 (04-13) 224浏览 0评论

现在的服务基本上都离不开监控。Webmagic 爬虫框架自带了监控功能,本文将带领大家使用 Webmagic 爬虫的监控功能。 Webmagic 爬虫的监控是0.5.0新增的功能。利用这个功能,可以查看爬虫的执行情况—...

JAVA

WebMagic Selectable抽取元素

1个月前 (04-13) 133浏览 0评论

昨天用的 WebMagic 最新版本,还存在一些问题。导致控制台报错,报错内容为找不到jsoup类文件。详情大家可以到https://github.com/code4craft/webmagic/issues/533查看。 今天我...

JAVA

WebMagic Xsoup 和 自定义Pipeline

1个月前 (04-12) 212浏览 0评论

WebMagic的抽取主要用到了Jsoup和官方自带的工具Xsoup。 Jsoup是一个简单的HTML解析器,同时它支持使用CSS选择器的方式查找元素。关于Jsoup的学习文章,大家可以到这里进行学习!https://github.com/...

JAVA

Webmagic 爬虫的配置、启动和终止

1个月前 (04-12) 212浏览 0评论

通过上一篇的小 demo,我们发现爬取网页内容都是通过实现 PageProcessor 来抓取的。在第一章也介绍到实 PageProcessor 是 Webmagic 4个重要组件之一。PageProcessor 的主要作用是:负责解析页面,抽取...

JAVA

WebMagic 入门

1个月前 (04-11) 252浏览 0评论

这是接着上一章 WebMagic 简介,我们来搭建第一个 WebMagic 爬虫项目。 WebMagic 主要包含两个jar包:webmagic-core-{version}.jar和webmagic-extension...

JAVA

WebMagic 简介

1个月前 (04-11) 274浏览 0评论

WebMagic 是一款简单灵活的爬虫框架。目前百度百科上还没有相关的词条,网上使用的人比较多。和 jsoup 相比它更小巧和简单。 本文主要介绍 WebMagic,后面会慢慢的深入,并结合一些实例来学习。如果时间充足我会录制一些...

HTML5

jQuery 实现蜂窝导航菜单

1个月前 (04-11) 226浏览 0评论

今天闲来无事就使用 jQuery 制作了一款导航产品,给大家分享一下。 jQuery蜂巢状布局导航标签代码是一款六边形蜂窝效果的CSS布局,适合做导航或者关键词展示使用。也可以做网站上的标签云。 效果图 实现原理 ...

NDIS

c++ 多态

1个月前 (04-10) 199浏览 0评论

网上关于C++的文章没有 java 的多,这和 java 大多数框架都开源的关系密切相关。今天为大家分享一篇C++ 面向对象 多态的文章! 什么是多态 学过java的人,我想这对他一定不陌生。 多态:字面意思就是多种形态。在面向...