龙盟编程博客 | 无障碍搜索 | 云盘搜索神器
快速搜索
主页 > 软件开发 > JAVA开发 >

用Java从网上抓取指定URL源码的方案

时间:2009-12-23 15:42来源:未知 作者:admin 点击:
分享到:
引言: 在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据
引言:
  
  在做无线项目的时候,与通讯公司的数据通讯有一部分是通过XML交互的,所以必须要动态抓取通讯公司提供的固定的Internet上的数据,便研究了一下如何抓取固定url上的数据,现与大家分享一下。
  
  类名GetPageCode,有一个方法GetSource,通过属性传递参数,入参控制的是要取得URL的地址,代理服务器的设置及输出方式的控制,这里大家可以再扩展自己的需要,我这里只提供了两种方式,一种是直接写到本地的某个文件中,另外一种就是返回字符串的。类里已经作了比较具体的注释,我想大家很轻易就看明白了。
  
  调用方式:
  #region 测试获取远程网页
  GetPageCode gpc = new GetPageCode();
  gpc.Url="http://ppcode.com";
  gpc.ProxyState=1;//使用代理服务器,0为不使用,设置为1后下面的代理设置才起作用
  gpc.ProxyAddress="http://proxyName.com";//代理服务器地址
  gpc.ProxyPort="80";//代理服务器的端口
  gpc.ProxyAccount="proxy";//代理服务器账号
  gpc.ProxyPassWord="password";//代理服务器密码
  gpc.ProxyDomain="bqc";//代理服务器域
  gpc.OutFilePath=filePath;//设置输出文件路径的地方,假如不设置,则返回字符串
  gpc.GetSource();//处理
  string tempErr=gpc.NoteMessage;//假如出错,这里会提示
  string tempCode=gpc.OutString;//返回的字符串
  #endregion
  类代码:
  using System;
  using System.Collections;
  using System.ComponentModel;
  using System.Data;
  using System.Drawing;
  using System.IO;
  using System.Net;
  using System.Text;
  using System.Web;
  namespace Test.Com
  {
  /// &lt summary &gt
  /// 功能:取得Internet上的URL页的源码
  /// 创建:2004-03-22
  /// 作者:Rexsp MSN:yubo@x263.net
  /// &lt /summary &gt
  public class GetPageCode
  {
  #region 私有变量
  /// &lt summary &gt
  /// 网页URL地址
  /// &lt /summary &gt
  private string url=null;
  /// &lt summary &gt
  /// 是否使用代码服务器:0 不使用 1 使用代理服务器
  /// &lt /summary &gt
  private int proxyState=0;
  /// &lt summary &gt
  /// 代理服务器地址
  /// &lt /summary &gt
  private string proxyAddress=null;
  /// &lt summary &gt
  /// 代理服务器端口
  /// &lt /summary &gt
  private string proxyPort=null;
  /// &lt summary &gt
  /// 代理服务器用户名
  /// &lt /summary &gt
  private string proxyAccount=null;
  /// &lt summary &gt
  /// 代理服务器密码
  /// &lt /summary &gt
  private string proxyPassword=null;
  /// &lt summary &gt
  /// 代理服务器域
  /// &lt /summary &gt
  private string proxyDomain=null;
  /// &lt summary &gt
  /// 输出文件路径
  /// &lt /summary &gt
  private string outFilePath=null;
  /// &lt summary &gt
  /// 输出的字符串
  /// &lt /summary &gt
  private string outString=null;
  /// &lt summary &gt
  /// 提示信息
  /// &lt /summary &gt
  private string noteMessage;
  
  #endregion
  
  #region 公共属性
  /// &lt summary &gt
  /// 欲读取的URL地址
  /// &lt /summary &gt
  public string Url
  {
  get{return url;}
  set{url=value;}
  }
  /// &lt summary &gt
  /// 是否使用代理服务器标志
  /// &lt /summary &gt
  public int ProxyState
  {
  get{return proxyState;}
  set{proxyState=value;}
  }
  /// &lt summary &gt
  /// 代理服务器地址
  /// &lt /summary &gt
  public string ProxyAddress
  {
  get{return proxyAddress;}
  set{proxyAddress=value;}
  }
  /// &lt summary &gt
  
  
  /// 代理服务器端口
  /// &lt /summary &gt
  public string ProxyPort
  {
  get{return proxyPort;}
  set{proxyPort=value;}
  }
  /// &lt summary &gt
  /// 代理服务器账号
  /// &lt /summary &gt
  public string ProxyAccount
  {
  get{return proxyAccount;}
  set{proxyAccount=value;}
  }
  /// &lt summary &gt
  /// 代理服务器密码
  /// &lt /summary &gt
  public string ProxyPassword
  {
  get{return proxyPassword;}
  set{proxyPassword=value;}
  }
  /// &lt summary &gt
  /// 代理服务器域
  /// &lt /summary &gt
  public string ProxyDomain
  {
  get{return proxyDomain;}
  set{proxyDomain=value;}
  }
  /// &lt summary &gt
  /// 输出文件路径
  /// &lt /summary &gt
  public string OutFilePath
  {
  get{return outFilePath;}
  set{outFilePath=value;}
  }
  /// &lt summary &gt
  /// 返回的字符串
  /// &lt /summary &gt
  public string OutString
  {
  get{return outString;}
  
  }
  /// &lt summary &gt
  /// 返回提示信息
  /// &lt /summary &gt
  public string NoteMessage
  {
  get{return noteMessage;}
  
  }
  
  #endregion
  
  #region 构造函数
  public GetPageCode()
  {
  }
  #endregion
  
  #region 公共方法
  /// &lt summary &gt
  /// 读取指定URL地址,存到指定文件中
  /// &lt /summary &gt
  public void GetSource()
  {
  WebRequest request = WebRequest.Create(this.url);
  //使用代理服务器的处理
  if(this.proxyState==1)
  {
  //默认读取80端口的数据
  
  if(this.proxyPort==null)
  this.ProxyPort="80";
  WebProxy myProxy=new WebProxy();
  myProxy = (WebProxy)request.Proxy;
  myProxy.Address = new Uri(this.ProxyAddress+":"+this.ProxyPort);
  myProxy.Credentials = new NetworkCredential(this.proxyAccount, this.proxyPassword, this.ProxyDomain);
  request.Proxy = myProxy;
  }
  try
  
  {
  //请求服务
  WebResponse response = request.GetResponse();
  //返回信息
  Stream resStream = response.GetResponseStream();
  StreamReader sr = new StreamReader(resStream, System.Text.Encoding.Default);
  string tempCode= sr.ReadToEnd();
  resStream.Close();
  sr.Close();
  
  //假如输出文件路径为空,便将得到的内容赋给OutString属性
  if(this.outFilePath==null)
  {
  this.outString=tempCode;
  }
  else
  {
  
  FileInfo fi = new FileInfo(this.outFilePath);
  //假如存在文件则先干掉
  if(fi.Exists)
  fi.Delete();
  StreamWriter sw = new StreamWriter(this.outFilePath,true,Encoding.Default);
  sw.Write(tempCode);
  sw.Flush();
  sw.Close();
  }
  }
  catch
  {
  this.noteMessage="出错了,请检查网络是否连通;";
  }
  
  }
  #endregion
  
  }

  
精彩图集

赞助商链接