1 java对象，
2 页面
3 http请求
4 二进制内容：例如PDF文件

等


正文开始 。。。

 为了减少与数据库通信 来提高应用的性能,我们在Hibernate中使用了分布式缓存：OSCache。

       Oscache是得到了广泛使用的开源 Cache 实现（Hibernate中对它提供了支持），它基于更加可靠高效的设计，最重要的是，新版本的OSCache已经支持集群分布式。如果系统需要在部署在集群中，或者需要部署在多机负载均衡模式的环境中来获取更高性能，那么 OSCache将是不二之选。

      我们知道为了实现分布式环境下消息的通知,目前两种比较流行的做法是使用 ：

1 JavaGroups[http: // www.jgroups.org]
2 JMS

这两种方式都在底层实现了广播发布消息。 由于JGroups可以提供可靠的广播通信.所以我们准备采用JGroups。

一、环境说明

1 OSCache: oscache - 2.3 .jar
2 JGroups:  2.2 . 8 ,目前最高版本是  2.2 . 9.1
3 Hibernate:  3.05

二、下面给出 OScache 官方文档对 JavaGroups 使用的说明：     

三、我在应用中使用的 OSCache.properties：

关于作者

1 面临的问题
1.1 需要处理的特殊动态内容
在信息系统建设过程中我们通常会遇到这样的问题：

1. 基础数据的变更问题
信息系统中需要处理的基础数据的内容短时间内是不会发生变化的，但是在一个相对长一些的时间里，它却可能是动态增加或者减少的。

举个例子：电子商务中关于送货区域的定义，可能短时间内不会发生变化，但是随着电子商务企业业务的扩大，系统中需要处理的送货区域就可能增加。所以我们的系统中不得不在每次向客户展示送货区域信息的时候都和数据库（假设送货区域信息保存在数据库中，这也是通常采用的处理方法）进行交互。

2. 统计报表（不仅限于统计报表）的问题
一般来说，统计报表是一个周期性的工作，可能是半个月、一个月或者更长的时间才会需要更新一次，然而统计报表通常是图形显示或者是生成pdf、word、excel等格式的文件，这些图形内容、文件的生成通常需要消耗很多的系统资源，给系统运行造成很大的负担。

1.2 问题的共同点
通过比较分析，不难发现这两类问题有一些共同点：

1 、被处理的内容短时间不变，所以短时间内可以作为静态内容进行处理
2 、在一个不太长的时间内，被处理的内容可能或者必定产生变化，所以必须将他们作为动态内容进行处理
3 、在合理的时间区段内可以忽略被处理内容变化后带来的影响
4 、对这些内容的处理动作比较消耗系统性能，影响系统响应时间

1.3 解决方法
缓存技术可以帮助我们很好的解决这个问题：

1、缓存信息
当上述的基础数据或者统计报表第一次被访问时，被处理的内容被当作动态信息，基础数库从数据库中获得，统计报表也会被生成符合要求的图形、文件，然后这些信息都会被放入缓存信息中。

2、响应信息由缓存提供
当上述的基础数据或者统计报表继续被访问时，系统将会首先检查缓存信息中是否有对应的内容和我们设定的缓存规则，如果符合缓存信息存在而且符合缓存规则，给出的响应将来自于缓存信息，如果没有或者缓存信息已经不符合设定的要求，系统将重复上一步的动作。

很显然，上面的步骤2中，多数情况下，当用户请求到达时，被处理的内容将来自于缓存，所以大大的减少了与数据库的交互，或者不再需要为每个请求都生成一次报表图形或者文件，这部分工作的减少对于

1 降低系统性能消耗
2 提高系统稳定性
3 提高并发处理能力

是非常有益的。

2 OSCache简介
OSCache是OpenSymphony组织提供的一个J2EE架构中Web应用层的缓存技术实现组件，它的出现解决了我们面临的问题。 OSCache目前最新的稳定版本是2.3。

2.1 主要特征

1. 兼容多种支持JSP的web服务器

已经通过兼容测试的web服务器包括 ：

1 OrionServer ( 1.4 .0或者以上版本)
2 Macromedia JRun ( 3 .0或者以上版本)
3 BEA Weblogic ( 7 .x或者以上版本)
4 IBM Websphere ( 5 .0版本)
5 Silverstream ( 3.7 .4版本)
6 Caucho Resin ( 1.2 .3或者以上版本)
7 Tomcat ( 4 .0或者以上版本)
8 其他支持servlet2. 3 、jsp1.2的web服务器

2. 可选的缓存区

你可以使用内存、硬盘空间、同时使用内存和硬盘或者提供自己的其他资源（需要自己提供适配器）作为缓存区。

1 使用内存作为缓存区将可以提供更好的性能 
2 使用硬盘作为缓存区可以在服务器重起后迅速恢复缓存内容 
3 同时使用内存和硬盘作为缓存区则可以减少对内存的占用 

3. 灵活的缓存系统

OSCache支持对部分页面内容或者对页面级的响应内容进行缓存，编程者可以根据不同的需求、不同的环境选择不同的缓存级别。

4. 容错

在一般的web应用中，如果某个页面需要和数据库打交道，而当客户请求到达时，web应用和数据库之间无法进行交互，那么将返回给用户"系统出错"或者类似的提示信息，如果使用了OSCache的话，你可以使用缓存提供给用户，给自己赢得维护系统或者采取其他补救的时间。

5.其它特性

包括对集群的支持、缓存主动刷新等特性，大家可以参考OpenSymphony网站上的其他资源获取更多的信息。

3 OSCache组件的安装

OSCache是一个基于web应用的组件，他的安装工作主要是对web应用进行配置，大概的步骤如下：

1. 下载、解压缩OSCache

请到OSCache的主页http://www.opensymphony.com/oscache/download.html下载Oscache的最新版本，作者下载的是OSCache的最新稳定版本2.3。

4 开始使用OSCache中的缓存组件
OSCache中按照缓存范围的不同分为两种不同的方式：一种是缓存JSP页面中部分或者全部内容，一种是基于整个页面文件的缓存。

4.1 JSP部分内容缓存
4.1.1 Cache-OSCache提供的缓存标签
这是OSCache提供的标签库中最重要的一个标签，包括在标签中的内容将应用缓存机制进行处理，处理的方式将取决于编程者对cache标签属性的设置。

第一次请求到达时，标签中的内容被处理并且缓存起来，当下一个请求到达时，缓存系统会检查这部分内容的缓存是否已经失效，主要是以下几项：

1 1 . 缓存时间超过了cache标签设置的time或者duration属性规定的超时时间 
2 2 . cron属性规定的时间比缓存信息的开始时间更晚 
3 3 . 标签中缓存的内容在缓存后又被重新刷新过 
4 4 . 其他缓存超期设定

如果符合上面四项中的任何一项，被缓存的内容视为已经失效，这时被缓存的内容将被重新处理并且返回处理过后的信息，如果被缓存的内容没有失效，那么返回给用户的将是缓存中的信息。

cache标签的属性说明:

key - 标识缓存内容的关键词。在指定的作用范围内必须是唯一的。默认的key是被访问页面的URI和后面的请求字符串。

你可以在同一个页面中使用很多cache标签而不指定他的key属性，这种情况下系统使用该页面的URI和后面的请求字符串，另外再自动给这些key增加一个索引值来区分这些缓存内容。但是不推荐采用这样的方式。

scope - 缓存发生作用的范围，可以是application或者session

time - 缓存内容的时间段，单位是秒，默认是3600秒，也就是一个小时，如果设定一个负值，那么这部分被缓存的内容将永远不过期。

duration - 指定缓存内容失效的时间，是相对time的另一个选择，可以使用简单日期格式或者符合USO-8601的日期格式。如：duration='PT5M' duration='5s'等

refresh - false 或者true。
如果refresh属性设置为true，不管其他的属性是否符合条件，这部分被缓存的内容都将被更新，这给编程者一种选择，决定什么时候必须刷新。

mode - 如果编程者不希望被缓存的内容增加到给用户的响应中，可以设置mode属性为"silent"

其它可用的属性还包括：

1 silent
2 cron
3 groups
4 language
5 refreshpolicyclass
6 refreshpolicyparam

上面的这些属性可以单独使用，也可以根据需要组合使用，下面的例子将讲解这些常用属性的使用方式。

4.1.2 Cache标签实例分析:

1. 最简单的cache标签用法

使用默认的关键字来标识cache内容，超时时间是默认的3600秒

1 < cache:cache >
2      <%
3      // 自己的JSP代码内容
4      %>
5 </ cache:cache >  

2. 用自己指定的字符串标识缓存内容，并且设定作用范围为session。

1 < cache:cache key = " foobar "  scope = " session " >
2      <%
3      // 自己的JSP代码内容
4      %>
5 </ cache:cache >  

3.动态设定key值，使用自己指定的time属性设定缓存内容的超时时间，使用动态refresh值决定是否强制内容刷新。

因为OSCache使用key值来标识缓存内容，使用相同的key值将会被认为使用相同的的缓存内容，所以使用动态的key值可以自由的根据不同的角色、不同的要求决定使用不同的缓存内容。

1 < cache:cache key = " <%= product.getId() %> "  time = " 1800 "  refresh = " <%= needRefresh %> " >
2      <%
3      // 自己的JSP代码内容
4      %>
5 </ cache:cache >  

4. 设置time属性为负数使缓存内容永不过期

1 < cache:cache time = " -1 " >
2      <%
3      // 自己的JSP代码内容
4      %>
5 </ cache:cache >  

5. 使用duration属性设置超期时间

1 < cache:cache  duration = ' PT5M ' >
2      <%
3      // 自己的JSP代码内容
4      %>
5 </ cache:cache >  

6. 使用mode属性使被缓存的内容不加入给客户的响应中

1 < cache:cache  mode = ' silent ' >
2      <%
3      // 自己的JSP代码内容
4      %>
5 </ cache:cache >  

4.2 用CashFilter实现页面级缓存

在OSCache组件中提供了一个CacheFilter用于实现页面级的缓存，主要用于对web应用中的某些动态页面进行缓存，尤其是那些需要生成pdf格式文件/报表、图片文件等的页面，不仅减少了数据库的交互、减少数据库服务器的压力，而且对于减少web服务器的性能消耗有很显著的效果。

这种功能的实现是通过在web.xml中进行配置来决定缓存哪一个或者一组页面，而且还可以设置缓存的相关属性，这种基于配置文件的实现方式对于J2EE来说应该是一种标准的实现方式了。

[注] 只有客户访问时返回http头信息中代码为200（也就是访问已经成功）的页面信息才能够被缓存

修改web.xml，增加如下内容，

1 < filter >
2      < filter - name > CacheFilter </ filter - name >
3      < filter - class > com.opensymphony.oscache.web.filter.CacheFilter </ filter - class >
4 </ filter >

1. 缓存单个文件

确定对/testContent.jsp页面进行缓存。

1 < filter - mapping >
2      < filter - name > CacheFilter </ filter - name >
3      <!- 对 / testContent.jsp页面内容进行缓存 -->
4      < url - pattern >/ testContent.jsp </ url - pattern >
5 </ filter - mapping >

2. 缓存URL pattern

修改web.xml，增加如下内容，确定对*.jsp页面进行缓存。

1 < filter - mapping >
2      < filter - name > CacheFilter </ filter - name >
3      <!- 对所有jsp页面内容进行缓存 -->
4          < url - pattern >* .jsp </ url - pattern >
5 </ filter - mapping >

3. 自己设定缓存属性

在页面级缓存的情况下，可以通过设置CacheFilter的初始属性来决定缓存的一些特性：time属性设置缓存的时间段，默认为3600秒，可以根据自己的需要只有的设置，而scope属性设置，默认为application，可选项包括application、session

 1 < filter >
 2      < filter - name > CacheFilter </ filter - name >
 3      < filter - class > com.opensymphony.oscache.web.filter.CacheFilter </ filter - class >
 4
 5       < init - param >
 6          < param - name > time </ param - name >
 7          < param - value > 600 </ param - value >
 8      </ init - param >
 9
10      < init - param >
11          < param - name > scope </ param - name >
12          < param - value > session </ param - value >
13      </ init - param >

14 </ filter >
15
16
17 < filter - mapping >
18      < filter - name > CacheFilter </ filter - name >
19      <!- 对所有jsp页面内容进行缓存 -->
20      < url - pattern >* .jsp </ url - pattern >
21 </ filter - mapping >

5 性能测试结果

5.1 测试环境
         系统平台：windows 2000 高级服务器/ P3 800 /512M内存
         web服务器：websphere 5.0
         数据库服务器：mysql 4.0.18-nt

         性能测试用工具：apache Jmeter

5.2 测试计划
这次性能测试对比方为使用缓存和不使用缓存两种，他们的访问代码都是一样的：通过数据源从本地mysql数据库中获取person表的所有记录，然后显示在页面上。

测试中将模仿10个用户，每个用户发起5次请求，然后统计所有访问花费的时间。

5.3 测试结果
使用缓存后的测试结果 不使用缓存时的测试结果

所有请求花费的总时间(毫秒) 20569 22870

性能测试的详细结果请大家查看下载内容中的《不使用cache时的系统性能测试结果.txt》和《使用cache后系统性能测试结果.txt》

参考资料

OpenSymphony网站中关于OSCache的部分 http://www.opensymphony.com/oscache/

OSCache下载地址 http://www.opensymphony.com/oscache/download.html

在Web应用中，有些报表的生成可能需要数据库花很长时间才能计算出来；有的网站提供天气信息，它需要访问远程服务器进行SOAP调用才能得到温度信息。所有这一切都属于复杂信息的例子。在Web页面中加入过多的复杂信息可能导致Web服务器、数据库服务器负荷过重。JSP代码块缓冲为开发者带来了随意地增加各种复杂信息的自由。

JSP能够在标记库内封装和运行复杂的Java代码，它使得JSP页面文件更容易维护，使得非专业开发人员使用JSP页面文件更加方便。现在已经有许多标记库，它们或者是商业产品，或者是源代码开放产品。但这些产品中的大多数都只是用标记库的形式实现原本可以用一个简单的Java Scriptlet实现的功能，很少有产品以某种创造性的方式使用定制标记，提供在出现JSP定制标记库之前几乎不可能实现的用法。

OSCache标记库由OpenSymphony设计，它是一种开创性的JSP定制标记应用，提供了在现有JSP页面之内实现快速内存缓冲的功能。虽然已经有一些供应商在提供各种形式的缓存产品，但是，它们都属于面向特定供应商的产品。OSCache能够在任何JSP 1.1兼容的服务器上运行，它不仅能够为所有用户缓冲现有JSP代码块，而且能够以用户为单位进行缓冲。OSCache还包含一些提高可伸缩性的高级特性，比如：缓冲到磁盘，可编程的缓冲刷新，异常控制，等等。另外，正如OpenSymphony的其他产品，OSCache的代码也在一个开放源代码许可协议之下免费发行。

本文以一个假想的拍卖网站设计过程为例，介绍OSCache的工作过程。这个假想的Web网站将包含：

1 ：一个报告最近拍卖活动的管理页面；
2 ：一个功能完整、带有各种宣传信息的主页；
3 ：一个特殊的导航条,包含了用户所有尚未成交的拍卖活动信息。

二、管理页面

拍卖网站包含一个管理报表，数据库服务器需要数秒时间才能创建这样一个报表。报表生成时间长这一点很重要，因为我们可能让多个管理员监视系统运行情况，同时又想避免管理员每次访问时都重新生成这个报表。为了实现这一点，我们将把整个页面封装到一个应用级的缓冲标记之内，这个缓冲标记每隔1小时刷新。其他供应商提供的一些产品也具有类似的功能，只是OSCache比它们做得更好。

为简单计，我们将不过多地关注格式问题。在编写管理页面时，我们首先把标记库声明加入到页面：

接下来我们要用cache标记来包围整个页面。cache标记的默认缓冲时间是1小时。

现在管理页面已经被缓冲。如果管理员在页面生成后的一个小时之内再次访问同一页面，他看到的将是以前缓存的页面，不需要由数据库服务器再次生成这个报表。

三、主页

拍卖网站的主页显示网站活动情况，宣传那些即将结束的拍卖活动。我们希望显示出正在进行的拍卖活动数量，当前登录用户数量，在短期内就要结束的拍卖活动的清单，以及当前时间。这些信息有着不同的时间精确度要求。网站上的拍卖活动通常持续数天，因此我们可以把缓冲有效拍卖活动数量的时间定为6个小时。用户数量的变化显然要频繁一些，但这里我们将把这个数值每次缓冲15分钟。最后，我们希望页面中显示的当前时间总是精确的页面访问时间。

在主页中声明标记库之后，我们首先以不带缓冲的方式直接输出当前日期：

接下来，我们要显示一个清单，列出那些将在短期内结束的拍卖活动：

最后，我们希望显示出正在进行的拍卖活动的数量，这个数字需要缓冲6小时。由于cache标记需要的是缓冲数据的秒数，我们把6小时转换成21600秒：

可以看到，我们只用少量的代码就构造出了一个带有复杂缓冲系统的主页。这个缓冲系统对页面各个部分分别进行缓冲，而且各个部分的缓冲时间完全符合它们各自的信息变化频繁程度。由于有了缓冲，现在我们可以在主页中放入更多的内容；而在以前没有缓冲的情况下，主页中放入过多的内容会导致页面访问速度变慢，甚至可能给数据库服务器带来过重的负载。

四、导航条

假设在规划网站的时候，我们决定在左边导航条的下方显示购物车内容。我们将显示出用户所拍卖的每一种商品的出价次数和当前报价，以及所有那些当前用户出价最高的商品的清单。

我们利用会话级的缓冲能力在导航条中构造上述功能。把下面的代码放入模板或者包含文件，以便网站中的其他页面引用这个导航条：

在这里我们引入了两个重要的属性，即key和scope。在本文前面的代码中，由于cache标记能够自动为代码块创建唯一的key，所以我们不需要手工设置这个key属性。但在这里，我们想要从网站的其余部分引用这个被缓冲的代码块，因此我们显式定义了该cache标记的key属性。第二，scope属性用来告诉cache标记当前代码块必须以用户为单位缓冲，而不是为所有用户缓冲一次。

在使用会话级缓冲时应该非常小心，应该清楚：虽然我们可以让复杂的导航条减少5倍或10倍的服务器负载，但它将极大地增加每个会话所需要的内存空间 。在CPU能力方面增加可能的并发用户数量无疑很理想，但是，一旦在内存支持能力方面让并发用户数量降低到了CPU的限制之下，这个方案就不再理想。

正如本文前面所提到的，我们希望从网站的其余部分引用这个缓冲的代码块。这是因为，当一个用户增加了一个供拍卖的商品、或者出价竞购其他用户拍卖的商品时，我们希望刷新缓冲，使得导航条下一次被读取时具有最新的内容。虽然这些数据可能因为其他用户的活动而改变，但如果用户在网站上执行某个动作之后看到自己的清单仍未改变，他可能会感到非常困惑。

OSCache库提供的flush标记能够刷新缓冲内容。我们可以把下面的代码加入到处理用户动作且可能影响这一区域的页面之中：

当用户下次访问它时，navbar缓冲块将被刷新。

至此为止，我们这个示例网站的构造工作已经完成且可以开始运行。下面我们来看看OSCache的异常处理能力。即使缓冲的内容已经作废，比如在缓冲块内出现了Java异常，OSCache标记库仍旧允许我们用编程的方法显示这些内容。有了这种异常控制功能，我们可以拆除数据库服务器和Web服务器之间的连接，而网站仍能够继续运行。JSP 1.2规范引入了TryCatchFinally接口，这个接口允许标记本身检测和处理Java异常。因此，标记可以结合这种异常处理代码，使得JSP页面更简单、更富有条理。

OpenSymphony正在计划实现其他的缓冲机制以及一个可管理性更好的主系统，它将使我们能够对缓冲使用的RAM和磁盘空间进行管理。一旦有了这些功能，我们就能够进一步提高网站的响应速度和可靠性。

使用范例:

oscache.properties 文件配置向导

cache.memory
值为true 或 false ，默认为在内存中作缓存，
如设置为false，那cache只能缓存到数据库或硬盘中，那cache还有什么意义：）

cache.capacity
缓存元素个数

cache.persistence.class
持久化缓存类，如此类打开，则必须设置cache.path信息

cache.cluster 相关
为集群设置信息。
如
cache.cluster.multicast.ip为广播IP地址
cache.cluster.properties为集群属性


3.OSCache的基本用法

cache1.jsp 内容如下

<%@ page import="java.util.*" %>
<%@ taglib uri="oscache" prefix="cache" %>

<html>
<body>

没有缓存的日期: <%= new Date() %><p>
<!--自动刷新-->
<cache:cache time="30">
每30秒刷新缓存一次的日期: <%= new Date() %>
</cache:cache>
<!--手动刷新-->
<cache:cache key="testcache">
手动刷新缓存的日期: <%= new Date() %> <p>
</cache:cache>
<a href="/cache2.jsp">手动刷新</a>

</body>
</html>

cache2.jsp 执行手动刷新页面如下
<%@ taglib uri="oscache" prefix="cache" %>

<html>
<body>

缓存已刷新...<p>

<cache:flush key="testcache" scope="application"/>

<a href="/cache1.jsp">返回</a>

</body>
</html>


你也可以通过下面语句定义Cache的有效范围,如不定义scope,scope默认为Applcation
<cache:cache time="30" scope="session">
...
</cache:cache>

4. 缓存过滤器 CacheFilter

你可以在web.xml中定义缓存过滤器，定义特定资源的缓存。

 1 < filter >
 2      < filter - name > CacheFilter </ filter - name >
 3      < filter - class > com.opensymphony.oscache.web.filter.CacheFilter </ filter - class >
 4      < init - param >
 5          < param - name > time </ param - name >
 6          < param - value > 60 </ param - value >
 7      </ init - param >
 8      < init - param >
 9          < param - name > scope </ param - name >
10          < param - value > session </ param - value >
11      </ init - param >
12 </ filter >
13
14
15 < filter - mapping >
16      < filter - name > CacheFilter </ filter - name >
17      < url - pattern >* .jsp </ url - pattern >
18 </ filter - mapping >

上面定义将缓存所有.jsp页面，缓存刷新时间为60秒，缓存作用域为Session

注意，CacheFilter只捕获Http头为200的页面请求，即只对无错误请求作缓存，
而不对其他请求（如500,404,400）作缓存处理

【结束语】OSCache能够帮助我们构造出更丰富多彩、具有更高性能的网站。有了OSCache标记库的帮助，现在我们能够用它解决一些影响网站响应能力的问题，比如访问量高峰期、数据库服务器负荷过重等。

个人提示：如果你使用Struts或者其它mvc架构很难享受到oscache tag带来的性能提高，因为每一次请求还是要提交到action--dao-or othere thing去处理，因此，要使用缓存，就需要其它手段，如在spring的拦截器做方法级的缓存.....,如果你所有的的业务处理代码是写在jsp页面中，就可以使用cache tag来缓存前面产生的页面数据，避免做相同的业务操作.