随笔-179  评论-666  文章-29  trackbacks-0
本文从实践的角度重点阐述Java语言中输入流类StreamTokenizer在编写HTML文件分析程序中的应用,并介绍了以字节为单位下载Web页面的例程。
  
  一、概述
  
  Web服务器的核心是对HTML文件中的各标记(Tag)作出正确的分析,一种编程语言的解释程序也是对源文件中的保留字进行分析再做解释的。实际应用中,我们也常常会遇到需要对某一特定类型文件进行关键字分析的情况,比如,需要将某个HTML文件下载并同时下载与之相关的.gif、.class等文件,此时就要求对HTML文件中的标记进行分离,找出所需的文件名及目录。在Java出现以前,类似工作需要对文件中的每个字符进行分析,从中找出所需部分,不仅编程量大,且易出错。笔者在近期的项目中利用Java的输入流类StreamTokenizer进行HTML文件的分析,效果较好。在此,我们要实现从已知的Web页面下载HTML文件,对其进行分析后,下载该页面中包含的HTML文件(如果在Frame中)、图像文件和Class(Java Applet)文件。
  
  二、StreamTokenizer类
  
  StreamTokenizer即令牌化输入流的作用是将一个输入流中变成令牌流。令牌流中的令牌实体有三类:单词(即多字符令牌)、单字符令牌和空白(包括Java和C/C++中的说明语句)。
  
  StreamTokenizer类的构造器为: StreamTokenizer(InputStream in)
  
  该类有一些公有实例变量:ttype、sval和nval ,分别表示令牌类型、当前字符串值和当前数字值。当我们需要取得令牌(即HTML中的标记)之间的字符时,应访问变量sval。而读向下一个令牌的方法是调用nextToken()。方法nextToken()的返回值是int型,共有四种可能的返回:
  
  StreamTokenizer.TT_NUMBER: 表示读到的令牌是数字,数字的值是double型,可以从实例变量nval中读取。
  
  StreamTokenizer.TT_WORD: 表示读到的令牌是非数字的单词(其他字符也在其中),单词可以从实例变量sval中读取。
  
  StreamTokenizer.TT_EOL: 表示读到的令牌是行结束符。
  
  如果已读到流的尽头,则nextToken()返回TT_EOF。
  
  开始调用nextToken()之前,要设置输入流的语法表,以便使分析器辨识不同的字符。WhitespaceChars(int low, int hi)方法定义没有意义的字符的范围。WordChars(int low, int hi)方法定义构造单词的字符范围。
  
  三、程序实现
  
  1、HtmlTokenizer类的实现
  
  对某个令牌流进行分析之前,首先应对该令牌流的语法表进行设置,在本例中,即是让程序分出哪个单词是HTML的标记。下面给出针对我们需要的HTML标记的令牌流类定义,它是StreamTokenizer的子类:

 1         import java.io.*
 2  import java.lang.String; 
 3  class HtmlTokenizer extends 
 4  StreamTokenizer 
 5  //定义各标记,这里的标记仅是本例中必须的, 
 6  可根据需要自行扩充 
 7   static int HTML_TEXT=-1
 8   static int HTML_UNKNOWN=-2
 9   static int HTML_EOF=-3
10   static int HTML_IMAGE=-4
11   static int HTML_FRAME=-5
12   static int HTML_BACKGROUND=-6
13   static int HTML_APPLET=-7
14   
15  boolean outsideTag=true//判断是否在标记之中 
16   
17   //构造器,定义该令牌流的语法表。 
18   public HtmlTokenizer(BufferedReader r) 
19  super(r); 
20  this.resetSyntax(); //重置语法表 
21  this.wordChars(0,255); //令牌范围为全部字符 
22  this.ordinaryChar(''); //HTML标记两边的分割符 
23  this.ordinaryChar('>'); 
24   }
 //end of constructor 
25   
26   public int nextHtml()
27  int token; //令牌 
28  try
29  switch(token=this.nextToken())
30  case StreamTokenizer.TT_EOF: 
31  //如果已读到流的尽头,则返回TT_EOF 
32  return HTML_EOF; 
33  case ''//进入标记字段 
34  outsideTag=false
35  return nextHtml(); 
36  case '>'//出标记字段 
37  outsideTag=true
38  return nextHtml(); 
39  case StreamTokenizer.TT_WORD: 
40  //若当前令牌为单词,判断是哪个标记 
41  if (allWhite(sval)) 
42   return nextHtml(); //过滤其中空格 
43  else if(sval.toUpperCase().indexOf("FRAME"
44  !=-1 && !outsideTag) //标记FRAME 
45   return HTML_FRAME; 
46  else if(sval.toUpperCase().indexOf("IMG"
47  !=-1 && !outsideTag) //标记IMG 
48   return HTML_IMAGE; 
49  else if(sval.toUpperCase().indexOf("BACKGROUND"
50  !=-1 && !outsideTag) //标记BACKGROUND 
51   return HTML_BACKGROUND; 
52  else if(sval.toUpperCase().indexOf("APPLET"
53  !=-1 && !outsideTag) //标记APPLET 
54   return HTML_APPLET; 
55  default
56  System.out.println ("Unknown tag: "+token); 
57  return HTML_UNKNOWN; 
58   }
 //end of case 
59  }
catch(IOException e)
60  System.out.println("Error:"+e.getMessage());}
 
61  return HTML_UNKNOWN; 
62   }
 //end of nextHtml 
63   
64  protected boolean allWhite(String s){//过滤所有空格 
65  //实现略 
66   }
// end of allWhite 
67   
68  }
 //end of class 
69


posted on 2007-01-18 16:58 Alpha 阅读(1506) 评论(3)  编辑  收藏 所属分类: Java J2EE JSP

评论:
# re: [转]利用Java编写HTML文件分析程序 2007-09-04 16:04 | yslin_1985
非常感谢你的转载,我正要用java分类下载网页的文件,你转载的这篇技术文章对我启发很大,只是,好像你没有转载完,是么?希望下次你转载的时候能注明转载的网址,给我们更多的方便。再次表示感谢。  回复  更多评论
  
# re: [转]利用Java编写HTML文件分析程序 2007-09-04 16:06 | yslin_1985
另外,哥们儿是Beyond的fans吧?me too.  回复  更多评论
  
# re: [转]利用Java编写HTML文件分析程序 2007-09-22 23:26 | Alpha

@yslin_1985
呵呵,黄家驹忠实FANS,一生不变~!


  回复  更多评论
  

只有注册用户登录后才能发表评论。


网站导航: