L迁客

技术博客
随笔 - 1, 文章 - 12, 评论 - 1, 引用 - 0
数据加载中……

为网站建立数据接口

为网站建立数据接口

文章覆盖知识点:HttpWatch抓包,HttpClient模拟POST请求,Jsoup解析HTML代码,动态更新ListView

     背景介绍:客户端(Client)或称为用户端,是指与服务器相对应,为客户提供本地服务的程序。而android系统上的90%客户端软件都有一个共性,就是为了改善网页在android系统上体验不佳而生,最具有影响力的软件有:新浪微博、人人网、淘宝等,这类软件最突出的特点就是,先有网站再有软件。

由于网络技术发展的多样性,手机浏览器往往无法跟随它的步伐,为改善用户体验,网站客户端软件印运而生。

开发Android网站客户端通常有两种方法:第一种,通过服务端的开放平台,调用提供的API接口来开发,比如说open sina;第二种,服务端没有提供任何接口,你也没有服务端任何数据库访问权限,就是一个纯纯粹粹的网站,要你做客户端。今天,我要和大家分享的正是第二种情况。
   

    这是一个简单的示意图,告诉我们,数据是由网页从数据库中取出,我们要为这个系统做客户端,我们就应该这样去改造它。

     

通过这样间接的方法来访问数据库,只要网页能看到的内容,我们的客户端都能获取到,而UI是由你自行制作,就可以使使用体验上一个台阶。

既然网页是我们的数据枢纽,我们就从网页分析着手。

该教程来自本人项目-掌上民大-真实经验,所以用项目中的掌上图书馆板块来示范。

该项目任务为中南民族大学图书馆图书查询功能制作客户端。

首先打开该网址http://www.lib.scuec.edu.cn/,我们会看到主界面
    

正中间就是查询入口,我们输入”android”进行查询
    

得到结果的网页,但我们能发现,这个页面是ILAS图书管理系统,所以真正的入口并不是上面红圈的地方。
所以我继续找,经过短暂的观察,发现入口在这里
    

我们点击进入

果然就是这货,我们点击书目查询

     

就是它了。真正的入口就在这里,这时我们打开Http Watch软件,点”Record”,在搜索框里输入”android”,点击查询,抓取以”android”为关键字搜索时浏览器的所有包。待结果界面载入完成后,HttpWatch上就会出现如下信息
     

我们先看Summary选项卡,我们可以初步了解,这是一个POST请求(Http请求中的一种,另一种是GET)POST到的网址是http://coin.lib.scuec.edu.cn/cgi-bin/IlaswebBib
   
这样我们的思路就清晰了,我们的客户端需要模拟浏览器,向上述地址POST一个包,那个地址肯定会返回一个Content给我们,不出意外的话,Content里面就是我们要的书目信息。那么,浏览器POST上去的内容是什么呢?我们点击这条POST请求,看详细信息,
    

由于是POST请求,我们先看POST DATA,里面是以键值对的形式存储的,这里显示了我们浏览器在我们搜索”android”时,POST的所有数据。那这些键值对又代表了什么呢,我们打开这个网页的源码来一探究竟。
    

从这段可以看出v_index是表示查找途径的它有TITLE,AUTHOR,SUBJECT,CLASSNO,ISBN,CALLNO六种值

FLD_DAT_BEGFLD_DAT_END分别是开始和结束年份

v_value表示用户在搜索框中输入的内容

  
v_paggnum
表示每页显示的书目条数,有10 15 20三种

   

v_seldatabases
是检索库  0 1 2三种值v_LogicSrch是检索方式   0 1两种值

    Submit是查询或重填,有 两种值至此,我们弄清楚了POST,Data里所有内容的含义和取值可能。但我们模拟POST请求为什么,其实就是为了得到搜索的书目信息,所以我们看一下返回的Content是不是我们要的东西

果然,就是我们搜到的书目信息,就以String的形式放在Content里面。最后我们查看一下Stream,截图,以防等下我们需要这里面的东西
    

好了,这个页面的工作原理我们已经弄清楚了:用户在网页中输入搜索内容后,点击查询,浏览器会POST一个Data到目标网址,该网址的返回信息就是搜到的书目。 
   
我们开始编写代码,模拟这个过程,先打开eclipse建立一个Java项目(注意是Java项目,因为Java项目可以完美移植到Android项目中且调试方便,并且模拟Http请求这一过程没有用到任何Android功能)。
导入HttpClient4个包commons-codeccommons-httpclientcommons-logginglog4j

?

//实例化HttpClient

HttpClient client = new HttpClient();

//Stream页面里面有Host地址 端口是80

client.getHostConfiguration().setHost("http://coin.lib.scuec.edu.cn", 80);

//用目标地址 实例一个POST方法

PostMethod post = new PostMethod("http://coin.lib.scuec.edu.cn/cgi-bin/IlaswebBib");

//将需要的键值对写出来

NameValuePair beg = new NameValuePair("FLD_DAT_BEG" , “”);

NameValuePair end = new NameValuePair("FLD_DAT_END" , “”);

NameValuePair submit = new NameValuePair("submit" , "查 询"));

NameValuePair vIndex = new NameValuePair("v_index" , “TITLE”);

NameValuePair vLogicSrch = new NameValuePair("v_LogicSrch" , "0");

NameValuePair vPagenum = new NameValuePair("v_pagenum" , "10");

NameValuePair vSeldatabase = new NameValuePair("v_seldatabase" , "0");

NameValuePair vValue = new NameValuePair("v_value" ,”android”);

 

//给POST方法加入上述键值对

post.setRequestBody(new NameValuePair[] {beg , end , submit , vIndex , vLogicSrch , vPagenum , vSeldatabase , vValue});

//执行POST方法

client.executeMethod(post);

//将POST返回的数据以流的形式读入,再把输入流流至一个buff缓冲字节数组

//StreamTool类是我自己写的一个工具类,其内容将在下文附出

byte[] buff = StreamTool.readInputStream(post.getResponseBodyAsStream());

//将返回的内容格式化为String存在html中

String html = new String(buff);

//任务完成了,释放连接

post.releaseConnection();

  

?

//StreamTool类如下

public class StreamTool {

        /**

         * 从输入流中获取数据

         * @param inputStream 输入流

         * @return 字节数组

         * @throws Exception

         */

  public static byte[] readInputStream(InputStream inputStream) throws Exception

        {

//实例化一个输出流

         ByteArrayOutputStream outputStream = new ByteArrayOutputStream();

//一个1024字节的缓冲字节数组

         byte[] buffer = new byte[1024];

         int len = 0;

//读流的基本知识

         while ((len=inputStream.read(buffer)) != -1) {

             outputStream.write(buffer, 0, len);

                }

//用完要关,大家都懂的

         inputStream.close();

         return outputStream.toByteArray();

        }

}

  现在,我们得到了POST方法返回的String,我们输出到控制台看看是什么

?

System.out.println(html);

  

没错,就是我们上文看到的HttpWatch 抓到的返回Content,也就是一段HTML代码,这说明,我们模拟浏览器POST请求成功了!
我们再试试别的搜索内容,来一个”Android开发”(即将v_value键值对的值改成”android开发”),这时运行后,我们却从控制台得到了这样的结果:


   
经过几次试验后,发现一个规律,只要搜索内容中包括中文,就搜不到。
所以可以判定是中文编码的问题,(在开发这类客户端时候,中文编码往往是个很具困难的问题。安卓巴士开发3群的某群友提到:服务器交流用的编码是”ISO-8859-1”,跟我起初用到的编码一致,但真实性仍需考证)所以我们修改上面的代码,将代表搜索内容的v_value对应的值编码为”ISO-8859-1”

就将上段代码中的

?

NameValuePair vValue = new NameValuePair("v_value" ,”android”);

  改为

?

NameValuePair vValue = new NameValuePair("v_value" , new String(“android开发”.getBytes(),"ISO-8859-1"));

  这时再运行,控制台成功输出以” android开发为关键字的Content

至此,我们POST请求才真正完成。 观察控制台的HTML后发现,我们需要的书目信息就在里面,只不过被一些HTML标签包裹住了,下一步我们就要解放这些信息,存储到容器里。
这里我们要用到Jsoup,一个Java开源HTML解析器(来自org.jsoup)
我们直接上代码,逐行解释(大家最好对应上面的HTML代码来理解)
首先我们建一个容器来装这些解析到的数据,由于我的项目是将这些数据以ListView呈现给用户,而ListView的数据是由Adapter提供,Adapter需要传一个特殊容器-包含HashMapArrayList(Android基础知识)

?

//所以有

List<Map<String,Object>> list = new ArrayList<Map<String,Object>>();

//开始使用Jsoup

//Jsoup支援一个Document类将刚才的html转化成Document

Document document = Jsoup.parse(html);

//一个Document又由elements组成 我们选择”tr”开头的标签,存入 trs元素群中

Elements trs = document.select("tr");

//得到整个HTML中包含tr的标签的个数

int totalTrs = trs.size();

//我们可以观察上面没有搜索结果的那个HTML。发现,如果totalTrs<=3就表示没结果。

//只要有书目结果totalTrs必定大于3,于是

if(totalTrs > 3)

for(int i = 0;i < totalTrs - 3;i++)

{

//观察HTML,从第i+2个tr开始,包含的才是我们要的书目信息

//我们从每个tr中选出td标签元素群

 Elements tds = trs.get(i + 2).select("td");

//得到每个tr中td的个数

 int totalTds = tds.size();

//一个临时的HashMap,里面是String-Object键值对

 Map<String,Object> map = new HashMap<String,Object>();

//j是一个标识数

  for(int j =0;j < totalTds ;j++)

   {

    switch (j) {

//0表示第一个,即书名

//put方法即向map加入一条键值对

//html()方法就得到标签括起来的内容

       case 0:

        map.put("book_title",tds.get(j).html().toString());

        break;

       case 1:

//1表示第二个,即作者

        map.put("book_author", tds.get(j).html().toString());

        break;

       case 2:

//2表示第三个,即出版信息

        map.put("book_press", tds.get(j).html().toString());

        break;

       case 3:

//3表示第四个,即页数

        map.put("book_page", tds.get(j).html().toString());

        break;

       case 4:

//4表示第五个,即价格

        map.put("book_price", tds.get(j).html().toString());

        break;

       case 5:

//5表示第六个,即索取号

        map.put("book_noFor", tds.get(j).html().toString());

        break;

       case 6:

//6表示第七个,即那段网址

//那段网址td中又包含一个a标签,a标签的href属性的值就是网址

//attr(“href”)可以返回href属性的值

        map.put("book_detail",tds.get(j).select("a").attr("href").toString());

        break;

       default:

        break;

           }

      }

     list.add(map);

}

  list就是我们需要的ArrayList
  
上面所有代码调通后,我们只需一些简单的复制粘贴,就可以放在我们的Android工程中,加上一段简单的代码就可以让ListView显示这个ArrayList(由于没有任何技术含量,以及该项目暂未上线,此段代码不予以展示,敬请谅解
   
接下来,我们一个页面最多只包含10个书目信息,而我们校图书馆,光以”Java”为关键字的书就超过1000本,怎么来显示完全呢,一次显示所有的书肯定不现实。首先数据量太大,手机无法承受;消耗流量过大,用户体验极差。所以,我们就需要ListView能够动态加载数据,即一开始显示十项,如果用户此时拉动ListView显示完十项之后,自动联网,再加载十项(如果还有十项的话),这样的用户体验会非常顺畅。
   
这个功能的核心是,我们的ListView需要实现OnScrollListener接口。
如果你的ListView所在的Activity继承的是ListActivity的话,只需在extends ListActivity后面加上implements OnScrollListener,这时你需要复写onScrollonScrollStateChanged。如果你的ListView是从XMLgetView 得到的,你只需为它setOnScrollListener,也会需要你复写onScrollonScrollStateChanged

不管你用哪种方法,我们只用修改onScroll方法

?

@Override

public void onScroll(AbsListView view, int firstVisibleItem,

          int visibleItemCount,int totalItemCount) {

                // TODO Auto-generated method stub

//关键的判断代码,这句话表示用户将ListView拉至最底部

      if(firstVisibleItem + visibleItemCount ==totalItemCount)

//你只需要把继续得到下面十项的代码写在这里,就可以实现上述功能了。

//同样再使用一次POST方法,不再赘述

//代码由于同样原因不予以展示,敬请谅解

 

  项目成品展示:

 
这些信息就是上面用网页以"android"为关键字搜索到的。

【至此,文章开头的几个知识点已经全部讲解完毕,时间仓促,事物繁忙,可能会影响文章质量,还请大家多多包涵。 如果有问题,可以直接回帖、发论坛信息或通过Email:anliupeinye@gmail.com联系我。】

posted on 2013-02-24 17:10 L迁客 阅读(1578) 评论(0)  编辑  收藏


只有注册用户登录后才能发表评论。


网站导航: