下载采集功能源代码(采集下载软件)
admin 发布:2022-12-19 20:41 125
今天给各位分享下载采集功能源代码的知识,其中也会对采集下载软件进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!
本文目录一览:
小说网站源码(带采集功能的,最好是asp的)
复活小说站(带采集功能) v4.6
* 源码大小: 2.01 MB
* 源码类别: 源代码 | 影视娱乐
* 源码语言: 简体中文
* 运行环境: Asp/Access/
功能介绍:
1.带采集功能,可自己了设计采集哪个站点,另内已存几个好的小说网采集。
2.整合了广告系统,可以直接修改广告,不用每次都改网站代码。
其他功能介绍:
一、会员功能模块
1、站内短信发布(正在制作)
2、书架收藏夹
3、发表评论
4、申请作家(与添书员整合)
5、申请添书员(与作家整合)
6、申请更新员
7、VIP会员申请(请在“在线客服”中留言给管理员提出申请)
二、作家功能模块
1、我的文章
2、发表新作
3、增加章节
4、作家专栏
5、VIP作品申请(正在制作)
三、添书员功能模块
和作家功能类似,不在介绍
四、静态图书生成模块
五、广告管理模
六、后台管理模块
网站的核心内容,功能如下:
1、系统参数配置
2、网站数据备份
3、在线执行SQL
4、作品管理
5、作品采集
后台:/admin/index.asp
帐号:admin 密码:admin
广告后台地址:ge/index.asp
帐号:admin 密码:admin
数据采集源代码从哪里获得?
数据爬虫代码如果自己去开发爬虫技术爬取时间跟人力起码需要在一年左右。现在有一些平台是专门提供这些接口服务,可以直接调用现成的数据获得数据。
以下是一些数据开放平台:
1.京东获取单个商品价格接口:
1.//ps:商品ID这么获取:
2.商品IDtype=1
2.淘宝商品搜索建议:
1.;;q=商品关键字callback=cb
2.//ps:callback是回调函数设定
3.全网商品比价接口:
1.慢慢买比价API免费接口
2.比一比价API免费接口
3.历史价格查询比价接口
4.快递接口:
1.//ps:快递公司编码:申通="shentong" EMS="ems" 顺丰="shunfeng" 圆通="yuantong" 中通="zhongtong" 韵达="yunda" 天天="tiantian"
2.汇通="huitongkuaidi" 全峰="quanfengkuaidi" 德邦="debangwuliu" 宅急送="zhaijisong"
3.快递公司代号postid=快递单号
5.百度百科接口:
1.;;format=jsonappid=379020bk_key=关键字bk_length=600
2.//查询出错示例如下:查看原始页面 {"error_code":"20000","error_msg":"search word not found"}音乐接口
6.虾米音乐接口
1.歌曲名称/diandian/1/page/歌曲当前页?_=当前毫秒callback=getXiamiData
7.QQ空间音乐接口
1.号码json=1g_tk=1916754934
高分!求高手 网站信息采集源代码或编程思路
思路:
RSS采集
相似算法
聚类
分类
(一)原理
小偷程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页。比如新闻小偷程序,很多都是调用了sina的新闻网页,并且对其中的html进行了一些替换,同时对广告也进行了过滤。用小偷程序的优点有:无须维护网站,因为小偷程序中的数据来自其他网站,它将随着该网站的更新而更新;可以节省服务器资源,一般小偷程序就几个文件,所有网页内容都是来自其他网站。缺点有:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么小偷程序也要进行相应修改;速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些。
(二)事例
以下是代码片段:
下面就XMLHTTP在ASP中的应用做个简单说明
〈%
’常用函数
’1、输入url目标网页地址,返回值getHTTPPage是目标网页的html代码
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate〈〉4 then
exit function
end if
getHTTPPage=bytesToBSTR(Http.responseBody,"GB2312")
set http=nothing
if err.number〈〉0 then err.Clear
end function
’2、转换乱玛,直接用xmlhttp调用有中文字符的网页得到的将是乱玛,可以通过adodb.stream组件进行转换
Function BytesToBstr(body,Cset)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = Cset
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
’下面试着调用的html内容
Dim Url,Html
Url=""
Html = getHTTPPage(Url)
Response.write Html
%〉ASP小偷入门教程.....附QQ天气小偷源代码
要做一名好的小偷有点难度:P,灵活运用XMLHTTP组件,你也可以做“小偷”
这里所说的“小偷”指的是在ASP中运用XML中的XMLHTTP组件提供的强大功能,把远程网站上的数据(图片,网页及其他文件)抓取到本地,经过各种处理后显示到页面上或者存储进数据库的一类程序。你可以通过这种小偷程序,完成过去一些似乎完全不可能实现的任务,比如说把某个站的页面偷梁换柱后变成自己的页面,或者把某个站的一些数据(文章,图片)保存到本地数据库中加以利用。“小偷”的优点有:无须维护网站,因为小偷程序中的数据来自其他网站,它将随着该网站的更新而更新;可以节省大量的服务器资源,一般小偷程序就几个文件,所有网页内容都是来自其他网站。缺点在于:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么小偷程序也要进行相应修改;速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些。怎么样,听起来很神奇吧?我们现在就开始来学习一些“小偷”程序的入门知识吧!
我们拿个简单点的东西来研究一下吧,QQ网站上的天气预报程序
程序演示地址:
源码下载:
代码如下:
以下是代码片段:
〈%
On Error Resume Next
Server.ScriptTimeOut=9999999
Function getHTTPPage(Path)
t = GetBody(Path)
getHTTPPage=BytesToBstr(t,"GB2312")
End function'首先,进行小偷程序的一些初始化设置,以上代码的作用分别是忽略掉所有非致命性错误,把小偷程序的运行超时时间设置得很长(这样不会出现运行超时的错误),转换原来默认的UTF-8编码转换成GB2312编码,否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码。
以下是代码片段:
Function GetBody(url)
on error resume next
Set Retrieval = CreateObject("Microsoft.XMLHTTP")
With Retrieval
.Open "Get", url, False, "", ""
.Send
GetBody = .ResponseBody
End With
Set Retrieval = Nothing
End Function
’然后调用XMLHTTP组件创建一个对象并进行初始化设置。
Function BytesToBstr(body,Cset)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = Cset
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
Function Newstring(wstr,strng)
Newstring=Instr(lcase(wstr),lcase(strng))
if Newstring〈=0 then Newstring=Len(wstr)
End Function
’处理抓取回来的数据需要调用adodb.stream组件并进行初始化设置。%〉
’以下即为页面显示部分
〈%
Dim wstr,str,url,start,over,city
’定义一些需要使用到的变量
city = Request.QueryString("id")
’程序传回的ID变量(即用户选择的城市)赋给id
url=""city""
’这里设置需要抓取的页面地址,当然你也可以直接指定某个地址而不使用变量
wstr=getHTTPPage(url) ' 以下是代码片段:
获取指定页面的全部数据
start=Newstring(wstr," ")
’这里设置需要处理的数据的头部,这个变量应视不同情况而设置,具体内容可以通过查看需要抓取的页面的源代码来确定。因为在这个程序里我们需要抓取整个页面,所以设置为页面全部抓取。注意,设置的内容必须是页面内容唯一的,不可以重复。
over=Newstring(wstr," ")
’和start相对应的就是需要处理的数据的尾部,同样的,设置的内容必须是页面中唯一的。
body=mid(wstr,start,over-start)
’设置显示页面的范围
’下面就是动用乾坤挪移大法的时候了,通过replace可以用一些字符替换掉数据中指定的字符。
body = replace(body,"skin1","天气预报")
body = replace(body,"","tianqi.asp?id")
’本程序中已经完成了替换的工作,如果有其他需要的话可以继续进行类似的替换操作。
response.write body
%〉替换完需要修改的内容后,就可以把修改的内容显示在页面上了。至此程序结束
程序使用方法及结果:把上述代码去掉说明部分后保存为tianqi.asp,上传到支持ASP和XML的空间下,在浏览器中运行即可。你可以在在这个程序的基础上进行进一步的界面美化或者程序优化。
以上只是一些关于XMLHTTP组件的初级应用,实际上它还能实现的功能还有很多,比如说保存远程图片到本地服务器上,配合adodb.stream组件可以把获取来的数据保存进数据库。小偷的作用和使用范围都很广。但是不可以拿来做违法的事哦!
也许还有人要问了,这种“小偷”程序难道只是ASP的专利吗?非也,PHP通过fopen函数一样可以实现同样的效果,由于PHP本身的各种特点,写出来的小偷程序和ASP相比,在体积和执行效率上都有着明显的优势,但限于篇幅,这里就不一一说明了。
关于下载采集功能源代码和采集下载软件的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。
版权说明:如非注明,本站文章均为 AH站长 原创,转载请注明出处和附带本文链接;
- 上一篇:信息录入的代码(编码与信息获取)
- 下一篇:营销网络地图代码(所在地营销代码)
相关推荐
- 05-17百度老年搜索,下载百度老年大字版
- 05-16百度推广下载,百度推广客户端手机版下载
- 05-16百度官网首页下载,百度官网首页下载app
- 05-16百度下载app下载安装到手机,百度下载app下载安装到手机ios
- 05-16百度手机助手官网下载,百度手机助手官网免费下载
- 05-16优化大师app下载,优化大师app下载免费
- 05-16谷歌google,谷歌google浏览器下载
- 05-14google应用商店,google应用商店官方下载
- 05-11百度下载安装,手机百度下载安装
- 05-10百度指数的基本功能,百度指数的功能有哪些
取消回复欢迎 你 发表评论:
- 标签列表
- 最近发表
- 友情链接