asp 采集程序常用函数分析

2023-07-08 10:41 26次浏览 问答

原理
采集程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页。比如新闻采集程序,很多都是调用了sina的新闻网页,并且对其中的html进行了一些替换,同时对广告也进行了过滤。用采集程序的优点有:无须维护网站,因为采集程序中的数据来自其他网站,它将随着该网站的更新而更新;可以节省服务器资源,一般采集程序就几个文件,所有网页内容都是来自其他网站。
缺点有:不稳定,如果目标网站出错,程序也会出错,而且,如果目标网站进行升级维护,那么采集程序也要进行相应修改;速度,因为是远程调用,速度和在本地服务器上读取数据比起来,肯定要慢一些。
一、事例
下面就XMLHTTP在ASP中的应用做个简单说明
代码如下:
<%
‘常用函数
‘1、输入url目标网页地址,返回值getHTTPPage是目标网页的html代码
function getHTTPPage(url)
dim Http
set Http=server。
createobject(“MSXML2。XMLHTTP”)
Http。open “GET”,url,false
Http。send()
if Http。readystate<>4 then
exit function
end if
getHTTPPage=bytesToBstr(Http。
responseBody,”GB2312″)
set http=nothing
if err。number<>0 then err。Clear
end function
‘2、转换乱玛,直接用xmlhttp调用有中文字符的网页得到的将是乱玛,可以通过adodb。
stream组件进行转换
Function BytesToBstr(body)
dim objstream
set objstream = Server。CreateObject(“adodb。
stream”)
objstream。Type = 1
objstream。Mode =3
objstream。Open
objstream。Write body
objstream。
Position = 0
objstream。Type = 2
objstream。Charset = “GB2312” ‘转换原来默认的UTF-8编码转换成GB2312编码,否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码
BytesToBstr = objstream。
ReadText
objstream。Close
set objstream = nothing
End Function
‘下面试着调用//www。gxlsystem。
com的html内容
Dim Url,Html
Url=”//www。gxlsystem。com”;
Html = getHTTPPage(Url)
Response。
write Html
%>
二、几个常用的函数
(一)InStr 函数
描述
返回某字符(string2)串在另一字符串(string1)中第一次出现的位置。

语法
InStr(string1, string2)
例如:
Dim SearchString, SearchChar
SearchString =”//www。
gxlsystem。com” ‘ 要在其中搜索的字符串。
SearchChar = “jb51” ‘ 搜索 “jb51″。
MyBK = Instr(SearchString, SearchChar) ‘ 返回 8
‘如果找不到则返回“0”,例如:
SearchChar = “BK”
MyBK = Instr(SearchString, SearchChar) ‘ 返回 0
(二)Mid 函数
描述
从字符串中返回指定数目的字符。

语法
Mid(string, start, over)
例如:
Dim MyBK
MyBK = Mid(“我们的BK(www。google)设计”, 7, 12) ‘截取字符串”我们的BK(www。
google)设计”第7个字符以后的12个字符
‘此时MyBK的值就变成了”www。google”
(三)Replace 函数
Dim SearchString, SearchChar
SearchString =”我们的BK设计是一个网站建设资源网站” ‘ 要在其中搜索的字符串。

SearchString =Replace(SearchString,”BK设计”,”Www。google”)
‘此时SearchString的值就变成了”我们的Www。google是一个网站建设资源网站”
三、截取指定区域的HTML代码
例如我只想获取以下HTML代码中”<td>”和”</td>”之间的的文字部分:
<html>
<title>(www。
google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td>google)谷歌搜索引擎是个资源多多的站点……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(网页的地址)
start=Instr(StrBK,”<td>这里要有人问了:原来的代码是<td>)
over=Instr(StrBK,”…</td></tr>”)’此处的作用是获取字符串结束地方的定位。
‘这里又要有人问了:( :程序调用HTML代码干吗前面多出来3个点点”…”啊?答:提示:上面一行也有一个</td></tr>如果这里用</td></tr>来定位的话,程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。

RsBK=mid(StrBK,start,over-start) ‘此处的作用是取出StrBK中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了;over-start是为了计算出开始位置和结束位置之间的距离,也就是字符数。

response。write(RsBK) ‘最后输出程序获取的内容
%>
不要高兴的太早,当你运行的时候,你会发现页面的html代码有错误,为什么呢?因为你获取的html代码是:
<td>google)谷歌搜索引擎是个资源多多的站点…
看到了吧?有残缺的HTML代码啊!怎么办呢?start=Instr(StrBK,”<td>
好的,程序将改成这样:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(网页的地址)
start=Instr(StrBK,”<td>over=Instr(StrBK,”…</td></tr>”) ‘这里你也可以减去七(-7)把3个点去掉
RsBK=mid(StrBK,start,over-start)
response。
write(RsBK)
%>
这样就OK了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~
四、删掉或修改获取的字符
将RsBK中的”BK(www。
google)”换成”BK”:
RsBK=replace(RsBK,”BK(www。google)”,”BK”)
或者直接把”(www。google)”删掉:
RsBK=replace(RsBK,”(www。
google)”,””)
好了,现在RsBK就变成了:”BK谷歌搜索引擎是个资源多多的站点……”了。
但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉。连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?
但可以使用正则表达式来代替此项工作。
这里不细谈了。
(一)如何将对方网站的翻页也处理成我们自己的呢?
答案是:利用replace函数和页面参数的传递。
例如对方页面里含有这样的翻页代码:”<a href=2。htm>下一页</a>”,我们可以先利用上面讲的内容,获取这个字符串,然后用replace函数:RsBK=replace(RsBK,”<a href=”,”<a href=page。
asp?Url=”)
然后再page。asp的程序里获取Url的参数值,最后用采集技术获取下一页你想要的内容就可以了。
(二)如何将获取的内容入库
由于篇幅有限,这里简单说一下。
其实很简单:
将偷来的内容作一下处理,防止在写入数据库的时候出现sql注入错误,例如:replace(String,”‘”,”””)
然后执行一个插入数据库操作的sql命令就ok了~
以上只是一些关于XMLHTTP组件的初级应用,实际上它还能实现的功能还有很多,比如说保存远程图片到本地服务器上,配合adodb。
stream组件可以把获取来的数据保存进数据库。采集的作用和使用范围都很广。

相关推荐