如何使用dedecms织梦的采集功能 | 我是程序员

Dedecms采集功能的使用方法 — 不含分页的普通文章(一)

1.1进入采集节点管理界面

如(图1)所示,在后台管理界面的主菜单中单击“采集”,然后单击“采集节点管理”,即可进入采集节点管理界面,如(图2)所示。

图1-后台管理界面

图2-采集节点管理界面

1.2. 增加新节点

在采集节点管理界面中,单击左下角的“增加新节点”或者右上角的“添加新节点”(如图2),都可进入“选择内容模型”界面,如(图3)所示,

图3-选择内容模型界面

在“选择内容模型”界面的下拉列表框中,有“普通文章”和“图片集”可供选择。根据被采集页面的类型,选择相应的内容模型。本文这里选择“普通文章”,单击确定后,便可进入“新增采集节点:第一步设置基本信息及网址索引页规则”界面,如(图4)所示,

图4-新增采集节点:第一步设置基本信息及网址索引页规则

1.2.1 设置节点基本信息

图5-节点基本信息

如(图5)所示,

节点名称:给新建立的节点起一个名字,这里填上“采集测试(一)”;

目标页面编码:设定被采集目标页的编码格式,有GB2312、UTF8和BIG5三种。可通过在被采集目标页面上,单击右键后选择“查看源文件”来获取。

操作步骤:

(a)打开被采集的目标页:http://www.dedecms.com/knowledge/web-based/dreamweaver/;

(b)单击右键后选择“查看源文件”,找到“charset”, 如(图6)所示,

图6-查看源文件

其等号后面的代码就是所需的“编码格式”,这里是“gb2312”。

“区域匹配模式”:设定如何匹配所需采集的内容部分,可采用字符串或者正则表达式。系统默认的模式是字符串。如果比较了解正则表达式的朋友,可以在这里选择正则表达式的模式。

“内容导入顺序”:指定文章列表导入时候的顺序,可以选择“与目标站一致”或“与目标站相反”。

“防盗链模式”:针对被采集的目标站点有无刷新限制。一开始很难判断出来,需要测试后才能知道。如果有的话,这里需要设置一下“资源下载超时时间”。

“引用网址”:填入任何一个即将被采集的文章内容页面的网址。

具体操作步骤:

(a)在已打开的文章列表页中,单击第一篇文章的

标题“在Dreamweaver中为插入的Flash添加透明”,以打开文章内容页面,如(图7)所示,

图7-文章内容页面

(b)此时在浏览器的URL地址栏中显示的网址,即为需要填写在“引用网址”处的网址,如(图8)所示,

图8-浏览器的URL地址栏

到这里,“节点基本信息”就设置完成了。最后结果,如(图9)所示,

图9-设置后的节点基本信息

检查无误后,进入下一步设置。

1.2.2 设置列表网址获取规则

如(图10)所示,

图10-列表网址获取规则

这里是设置被采集的文章列表页的匹配规则。如果被采集的文章列表页有一定的规律,可选择“批量生成列表网址”;如果被采集的文章列表页完全没有规律可循,那么可选择“手工指定列表网址”;如果被采集的站点提供了RSS,则可以选择“从RSS中获取”。对于特殊情况,例如:部分列表页有规律,而其余的又没有规律,则可在“匹配网址”中填上有规律的部分,然后把没有规律的部分填写在“手动指定网址”。

具体操作步骤:

(a)首先,回到已打开的文章列表页,找到浏览器的URL地址栏中显示的网址(图8)和页面底部的换页部分。如(图11)所示,

图11-换页

(b)单击“2”,打开文章列表页的第二页,此时浏览器的URL地址栏中所显示的网址和页面底部的换页部分,如(图12)和(图13)所示,

图12-第二页的网址

图13-第二页的换页部分

(c)在已打开的文章列表页的第二页上面,单击(1),打开文章列表页的首页,这时页面底部的换页部分与图11相同,而浏览器的URL地址栏中所显示的网址与之前图8并不相同,如(图14)所示,

图14-第一页的网址

(d)由(b)和(c)推知,此处被采集的文章列表页的网址所遵循规律为:

http://www.dedecms.com/knowledge/web-based/dreamweaver/list_47_(*).html。稳妥起见,请自行测试更多列表页。确定规律后,在“匹配网址”中,填入文章列表页所遵循的规律。

(e)最后,指定需要采集的页码或者规律数字,并设定其递增规律。

到这里,“列表网址获取规则”部分就设置结束了。最后结果,如(图15)所示,

图15-设置后的列表网址获取规则

确定正确后,进入下一步设置。

1.2.3设置文章网址匹配规则

如(图16)所示,

图16-文章网址匹配规则

这里是设置被采集文章列表页的匹配规则。

具体操作步骤:

(a)对于“区域开始的HTML”,可通过在打开的文章列表首页上,单击右键后选择“查看源文件”。在源文件中,找到第一篇文章的标题“在Dreamweaver中为插入的Flash添加透明”,如(图17)所示,

图17-查看源文件中,第一篇文章的标题

通过观察,不难看出“

”为整个文章列表的开始部分。因此,在“区域开始的HTML”中,填入”

”。

(b)在源文件中,找到最后一篇文章标题“通过Dreamweaver设计网页时组织CSS的建议”,如(图18)所示,

图18-查看源文件中,最后一篇文章的标题

结合文章列表的开始部分并通过观察可知,第一个“

”为整个文章列表的结束部分。因此,在“区域结束的HTML”中,应填入”

”。

“如果链接中含有图片”:设置对链接中含有图片的处理方式,有不处理和采集为缩略图可选。可根据实际需要选择。

“对区域网址进行再次筛选”:可以使用正则表达式对区域网站进行再次筛选,这是针对一些需要被保留或者需要滤掉的内容,尤其是混编的列表页面,通过使用“必须包含”或者“不能包含”过滤掉所希望获取或者不希望获取的文章内容页面的网址。

具体操作步骤:

回到正在打开的文章列表首页的源文件,通过观察可知,每一个文章内容页面地址的扩展名均为.html。因此,可在“必须包含”中,填入“.html”。

到这里,“文章网址匹配规则“就设置结束了。最后结果, 如(图19)所示,

图19-设置后的文章网址匹配规则

通过1.2.1小节、1.2.2小节和1.2.3小节,新增采集节点的第一步就已经设置完成了。设置后的结果,如(图20)所示,

图20-设置后的新增采集节点:第一步设置基本信息及网址索引页规则

全部完成并检查无误后,单击“保存信息并进入下一步设置“。如果之前设置正确,单击后,将会进入“新增采集节点:测试基本信息及网址索引页规则设置的网址获取规则测试”页面并看到相应的文章列表地址。如(图21)所示,

图21-网址获取规则测试

确定正确无误后,单击“保存信息并进入下一步设置”。否则,请单击“返回上一步进行修改“。

到这里,第一节就结束了。下面进入第二节。。。

Related posts:

站群快速安装采集侠的方法

dedecms织梦5.7后台模块管理当中的模块列表显示空白的解决办法

DedeCms教程:LuManager服务器管理软件安装DEDECMS软件

DedeCms教程:Linux+Apache+PHP+MySQL服务器环境(CentOS篇)

Dedecms采集功能的使用方法 — 不含分页的普通文章(一)

1.1进入采集节点管理界面

如(图1)所示,在后台管理界面的主菜单中单击“采集”,然后单击“采集节点管理”,即可进入采集节点管理界面,如(图2)所示。

图1-后台管理界面

图2-采集节点管理界面

1.2. 增加新节点

在采集节点管理界面中,单击左下角的“增加新节点”或者右上角的“添加新节点”(如图2),都可进入“选择内容模型”界面,如(图3)所示,

图3-选择内容模型界面

在“选择内容模型”界面的下拉列表框中,有“普通文章”和“图片集”可供选择。根据被采集页面的类型,选择相应的内容模型。本文这里选择“普通文章”,单击确定后,便可进入“新增采集节点:第一步设置基本信息及网址索引页规则”界面,如(图4)所示,

图4-新增采集节点:第一步设置基本信息及网址索引页规则

1.2.1 设置节点基本信息

图5-节点基本信息

如(图5)所示,

节点名称:给新建立的节点起一个名字,这里填上“采集测试(一)”;

目标页面编码:设定被采集目标页的编码格式,有GB2312、UTF8和BIG5三种。可通过在被采集目标页面上,单击右键后选择“查看源文件”来获取。

操作步骤:

(a)打开被采集的目标页:http://www.dedecms.com/knowledge/web-based/dreamweaver/;

(b)单击右键后选择“查看源文件”,找到“charset”, 如(图6)所示,

图6-查看源文件

其等号后面的代码就是所需的“编码格式”,这里是“gb2312”。

“区域匹配模式”:设定如何匹配所需采集的内容部分,可采用字符串或者正则表达式。系统默认的模式是字符串。如果比较了解正则表达式的朋友,可以在这里选择正则表达式的模式。

“内容导入顺序”:指定文章列表导入时候的顺序,可以选择“与目标站一致”或“与目标站相反”。

“防盗链模式”:针对被采集的目标站点有无刷新限制。一开始很难判断出来,需要测试后才能知道。如果有的话,这里需要设置一下“资源下载超时时间”。

“引用网址”:填入任何一个即将被采集的文章内容页面的网址。

具体操作步骤:

(a)在已打开的文章列表页中,单击第一篇文章的

标题“在Dreamweaver中为插入的Flash添加透明”,以打开文章内容页面,如(图7)所示,

图7-文章内容页面

(b)此时在浏览器的URL地址栏中显示的网址,即为需要填写在“引用网址”处的网址,如(图8)所示,

图8-浏览器的URL地址栏

到这里,“节点基本信息”就设置完成了。最后结果,如(图9)所示,

图9-设置后的节点基本信息

检查无误后,进入下一步设置。

1.2.2 设置列表网址获取规则

如(图10)所示,

图10-列表网址获取规则

这里是设置被采集的文章列表页的匹配规则。如果被采集的文章列表页有一定的规律,可选择“批量生成列表网址”;如果被采集的文章列表页完全没有规律可循,那么可选择“手工指定列表网址”;如果被采集的站点提供了RSS,则可以选择“从RSS中获取”。对于特殊情况,例如:部分列表页有规律,而其余的又没有规律,则可在“匹配网址”中填上有规律的部分,然后把没有规律的部分填写在“手动指定网址”。

具体操作步骤:

(a)首先,回到已打开的文章列表页,找到浏览器的URL地址栏中显示的网址(图8)和页面底部的换页部分。如(图11)所示,

图11-换页

(b)单击“2”,打开文章列表页的第二页,此时浏览器的URL地址栏中所显示的网址和页面底部的换页部分,如(图12)和(图13)所示,

图12-第二页的网址

图13-第二页的换页部分

(c)在已打开的文章列表页的第二页上面,单击(1),打开文章列表页的首页,这时页面底部的换页部分与图11相同,而浏览器的URL地址栏中所显示的网址与之前图8并不相同,如(图14)所示,

图14-第一页的网址

(d)由(b)和(c)推知,此处被采集的文章列表页的网址所遵循规律为:

http://www.dedecms.com/knowledge/web-based/dreamweaver/list_47_(*).html。稳妥起见,请自行测试更多列表页。确定规律后,在“匹配网址”中,填入文章列表页所遵循的规律。

(e)最后,指定需要采集的页码或者规律数字,并设定其递增规律。

到这里,“列表网址获取规则”部分就设置结束了。最后结果,如(图15)所示,

图15-设置后的列表网址获取规则

确定正确后,进入下一步设置。

1.2.3设置文章网址匹配规则

如(图16)所示,

图16-文章网址匹配规则

这里是设置被采集文章列表页的匹配规则。

具体操作步骤:

(a)对于“区域开始的HTML”,可通过在打开的文章列表首页上,单击右键后选择“查看源文件”。在源文件中,找到第一篇文章的标题“在Dreamweaver中为插入的Flash添加透明”,如(图17)所示,

图17-查看源文件中,第一篇文章的标题

通过观察,不难看出“

”为整个文章列表的开始部分。因此,在“区域开始的HTML”中,填入”

”。

(b)在源文件中,找到最后一篇文章标题“通过Dreamweaver设计网页时组织CSS的建议”,如(图18)所示,

图18-查看源文件中,最后一篇文章的标题

结合文章列表的开始部分并通过观察可知,第一个“

”为整个文章列表的结束部分。因此,在“区域结束的HTML”中,应填入”

”。

“如果链接中含有图片”:设置对链接中含有图片的处理方式,有不处理和采集为缩略图可选。可根据实际需要选择。

“对区域网址进行再次筛选”:可以使用正则表达式对区域网站进行再次筛选,这是针对一些需要被保留或者需要滤掉的内容,尤其是混编的列表页面,通过使用“必须包含”或者“不能包含”过滤掉所希望获取或者不希望获取的文章内容页面的网址。

具体操作步骤:

回到正在打开的文章列表首页的源文件,通过观察可知,每一个文章内容页面地址的扩展名均为.html。因此,可在“必须包含”中,填入“.html”。

到这里,“文章网址匹配规则“就设置结束了。最后结果, 如(图19)所示,

图19-设置后的文章网址匹配规则

通过1.2.1小节、1.2.2小节和1.2.3小节,新增采集节点的第一步就已经设置完成了。设置后的结果,如(图20)所示,

图20-设置后的新增采集节点:第一步设置基本信息及网址索引页规则

全部完成并检查无误后,单击“保存信息并进入下一步设置“。如果之前设置正确,单击后,将会进入“新增采集节点:测试基本信息及网址索引页规则设置的网址获取规则测试”页面并看到相应的文章列表地址。如(图21)所示,

图21-网址获取规则测试

确定正确无误后,单击“保存信息并进入下一步设置”。否则,请单击“返回上一步进行修改“。

到这里,第一节就结束了。下面进入第二节。。。

Related posts:

站群快速安装采集侠的方法

dedecms织梦5.7后台模块管理当中的模块列表显示空白的解决办法

DedeCms教程:LuManager服务器管理软件安装DEDECMS软件

DedeCms教程:Linux+Apache+PHP+MySQL服务器环境(CentOS篇)


相关文章

  • 二次开发dedecms
  • [Pagelist 标记]表示分页页码列表 适用范围:列表模板 [Pagelist 标记]的具体代码如下: {dede:list col='1' row='3' titlelen='20' infolen='100' imgwidth='1 ...查看


  • 盘点2010年开源cms系统
  • 提起开源cms,大家第一想到的是php的cms,因为php开源的最早,也最为用户和站长们认可,随着各大cms系统的功能的不断完善和各式各样的开源cms的出现,.net和java的高端的cms系统也逐渐的走上了开源的路线,尤其是 .net的c ...查看


  • 网络营销求职方面的简历
  • 个 人 简 历 基本信息 姓 名:于湵 性 别:男 籍 贯:黑龙江 出生年月:1988.10 学 历:本科 专 业:电子信息 TEL: [1**********] E-Mail: [email protected] 求职意向 网络主管. ...查看


  • 高中政治教师招聘测试试卷
  • 高中政治教师招聘测试试卷[师范生收集整理] 来源:未知 作者:admin 发布时间: 2010-07-17 点击: 2900 复制地址给好友 核心提示: 教师招聘网大部分信息来源于网络, 如果遇到先收费的那可能是职业中介或者骗子, 请广大求 ...查看


  • 网站建设基础知识
  • 学习网站制作基础知识 一. 基础 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 网站制作流程 相信很多朋友第一次接触到网 ...查看


  • 基于帝国CMS网站的开发毕业论文
  • 基于帝国CMS 网站的开发 毕业论文 目 录 摘 要............................................................... I 前 言......................... ...查看


  • 玉米须的药用价值
  • 玉米须性味甘淡而平,入肝.肾.膀胱经,有利尿消肿.平肝利胆的药用功能,主治急.慢性肾炎.水肿.急性胆囊炎.胆道结石和高血压等.现代药理研究表明,玉米须含大量硝酸钾.维生素K.谷固醇.豆固醇和一种挥发性生物碱.有利尿.降压.降血糖.止血.利胆 ...查看


  • 学习SEO的前期准备和操作
  • 今天为新手们,或者刚刚加入SEO行列的朋友们写一篇文章.很多新手朋友们由于缺乏系统的指导,完全是靠一些电子书.网上的文章,还有道听途说,学到了一点点SEO知识,也拿着微薄的工资. 那么今天就让我们一起回到原点,回到对SEO还一无所知的时候. ...查看


  • 大学英语精读教学方法与手段
  • 一,<大学英语精读>教学方法与手段改革简介 多年来,在大学英语精读教学中先后采用了不少的教学方法,如:①翻译教学法:主要采用以词汇,语法为主的教学法.这种教学法的基本步骤是:a)领读生词.b)讲解语言点和语法结构.c)翻译课文. ...查看


热门内容