BlogJava-细心!用心!耐心!-文章分类-多執行緒模式

Design Pattern: Thread-Specific Storage 模式

张金鹏 — Tue, 17 Apr 2007 02:59:00 GMT

無論如何，要編寫一個多執行緒安全（thread-safe）的程式總是困難的，為了使用的共用資源，您必須小心的對共用資源進行同步，同步帶來一定的效能延遲，而另一方面，在處理同步的時候，又要注意物件的鎖定與釋放，避免產生死結，種種因素都使得編寫多執行緒程式變得困難。

Thread-Specific Storage模式嘗試從另一個角度來解釋多執行緒共用資源的問題，其思考點很簡單，即然共用資源這麼困難，那麼就乾脆不要共用，何不為每個執行緒創造一個資源的複本，將每一個執行緒存取資料的行為加以隔離，其實現的方法，就是給予每一個執行緒一個特定空間來保管該執行緒所獨享的資源，也因此而稱之為 Thread- Specific Storage模式。

在Java中可以使用java.lang.ThreadLocal來實現這個模式，這個類別是從1.2之後開始提供，不過先來看看，如何自行實現一個簡單的ThreadLocal類別：

ThreadLocal.java

import java.util.*;

public class ThreadLocal {
    private Map storage = 
                Collections.synchronizedMap(new HashMap());

    public Object get() {
        Thread current = Thread.currentThread();
        Object o = storage.get(current);

        if(o == null && !storage.containsKey(current)) {
            o = initialValue();
            storage.put(current, o);
        }

        return o;
    }

    public void set(Object o) {
        storage.put(Thread.currentThread(), o);
    }

    public Object initialValue() {
        return null;
    }
}

可以看到程式中使用執行緒本身作為key值，並將所獲得的資源放在Map物件中，如果第一次使用get()，也配置一個空間給執行緒，而 initialValue()可以用來設定什麼樣的初值要先儲存在這個空間中，在這邊先簡單的設定為null。

現在假設有一個原先在單執行緒環境下的資源SomeResource，現在考慮要該其在多執行緒環境下使用，若不想考慮複雜的執行緒共用互斥問題，此時可以使用ThreadLocal類別來使用SomeResource，例如：

Resource.java

public class Resource {
    private static final ThreadLocal threadLocal = 
                                        new ThreadLocal();

    public static SomeResource getResource() {
        SomeResource resource =
                        (SomeResource) threadLocal.get();

        if(resource == null) {
            resource = new SomeResource();
            threadLocal.set(resource);
        }

        return resource;
    }
}

上面所實作的ThreadLocal類別只是一個簡單的示範，您可以使用java.lang.ThreadLocal來實現Thread- Specific Storage模式，以獲得更好的效能，在這邊簡單的示範一個Log程式，它可以記錄每個執行緒的活動，所使用的是 java.util.logging中的類別：

SimpleThreadLogger.java

import java.io.*;
import java.util.logging.*;                            
 
public class SimpleThreadLogger {
    private static final ThreadLocal threadLocal = 
                                         new ThreadLocal();

    public static void log(String msg) {
        getThreadLogger().log(Level.INFO, msg);
    }

    private static Logger getThreadLogger() {
        Logger logger = (Logger) threadLocal.get();

        if(logger == null) {
            try {
                logger = Logger.getLogger(
                           Thread.currentThread().getName());
                // Logger 預設是在主控台輸出
                // 我們加入一個檔案輸出的Handler
                // 它會輸出XML的記錄文件
                logger.addHandler(
                    new FileHandler(
                           Thread.currentThread().getName() 
                           + ".log"));
            }
            catch(IOException e) {}

            threadLocal.set(logger);
        }

        return logger;
    }
}

可以使用下面這個程式來測試：

LoggerTest.java

public class LoggerTest {
    public static void main(String[] args) {
        new TestThread("thread1").start();
        new TestThread("thread2").start();
        new TestThread("thread3").start();
    }
}

class TestThread extends Thread {
    public TestThread(String name) {
        super(name);
    }

    public void run() {
        for(int i = 0; i < 10; i++) {
            SimpleThreadLogger.log(getName() + 
                                     ": message " + i);
            try {
                Thread.sleep(1000);
            }
            catch(Exception e) {
                SimpleThreadLogger.log(e.toString());
            }
        }
    }
}

執行LoggerTest可以在主控台上看到輸出，並可以在同一目錄下找到三個log檔，分別記錄了三個執行緒的活動，透過 ThreadLocal，不用撰寫複雜的執行緒共用互斥邏輯。

Thread-Specific Storage模式的意義之一，就是「有時不共用是好的」，如果共用會產生危險，那就不要共用，當然，這種方式所犧牲掉的就是空間，您必須為每一個執行緒保留它們獨立的空間，這是一種以空間換取時間與安全性的方法。

张金鹏 2007-04-17 10:59 发表评论

Design Pattern: Read-Write-Lock 模式

张金鹏 — Tue, 17 Apr 2007 02:58:00 GMT

如果有一個資料檔有可能同時間會有許多客戶端對它進行讀取與寫入的動作，則必須注意資料的同步問題，像是兩個寫入者進行寫入時，後一個寫入者的資料會有可能將次一個寫入者的資料覆蓋掉；而有時您希望讀取者看到的是最新的資料，如果在讀取的時候，有寫入者想要對資料進行寫入，則最好等待讀取者讀取完畢，相反的如果在寫入時有客戶想要讀取資料，則最好等待，以確保讀出來的資料是最新的資料。

讀取寫入的同步問題向來是難解的問題之一，有幾個可行的作法，例如若有寫入的動作時，則讀取者以唯讀模式開啟；或是如果有開啟資料檔的動作時，無論是讀取或是寫入，後一個開啟檔案的客戶都一律以唯讀模式開啟；還有最乾脆的作法，就是將這個問題由客戶決定，在開啟檔案時若已有其他人開啟中，則提供選項讓客戶決定要不要以唯讀模式開啟，通常這個作法是提供給檔案的擁有者使用。

Read-Write-Lock 模式提供給被讀取或寫入的資料「一把鎖」，在讀取或寫入時都必須先取得這把鎖，讀取的客戶可以同時共同這把鎖，而寫入的客戶也可以共用這把鎖，但讀取不可與寫入共用一把鎖，如果嘗試取得鎖時發現鎖已經被另一方取得，則等待直到鎖被釋放並重新取得它。

下圖讀取者讀取資料時的Sequence Diagram示例：

現在假設讀取者已經取得鎖，而寫入者試圖進行寫入，它也試圖先取得鎖定，但發現鎖已經被讀取的一方擁有，於是先進入等待，直到讀取的一方解除鎖定為止：

一個簡單的Java程式例子如下所示：

public void readData() {
    lock.readLock();
    doRead();
    lock.readUnLock();
}

public void writeData() {
    lock.writeLock();
    doWrite();
    lock.writeUnLock();
}

而最主要的關鍵還是在於鎖的實現，在Java中可以用wait()、notify()來實現，實現的片段如下：

private boolean writerFirst = true; // 寫入優先

public synchronized void readLock() {
    try {
        while(writingWriters > 0 ||
                   (writerFirst && waitingWriters > 0)) {
            wait();
        }
    }
    catch(InterruptedException) {
    }

    readingReaders++;
}

public synchronized void readUnLock() {
    readingReaders--;
    writerFirst = true;
    notifyAll();
}

public synchronized void writeLock() {
    waitingWriters++
    try {
        while(readingReaders > 0 || writingWriters > 0) {
            wait();
        }
    }
    catch(InterruptedException) {
    }
    finally {
        waitingWriters--;
    }

    writingWriters++;
}

public synchronized void writeUnLock() {
    writingWriters--;
    writerFirst = false;
    notifyAll();
}

其中writerFirst是寫入優先的旗標，它確保只要有寫入的執行緒在等待時，在解除鎖定的時候，可以優先由寫入執行緒取得鎖定，以確保讀取者讀取到的資料可以是最新的，但缺點就是寫入的動作很頻繁時，讀取者必須等待的機會將增多，相反的若設定為讀取優先，則讀取時的回應性會增高，但資料更新的速率將會下降，實際使用時要偏好哪一方，必須視應用的場合而定。

张金鹏 2007-04-17 10:58 发表评论

Design Pattern: Two-phase Termination 模式

张金鹏 — Tue, 17 Apr 2007 02:58:00 GMT

Two-phase Termination直譯的話是「兩相終止」，不過就這個模式而言，該譯作「兩階段終止」比較適當，想像您有一個執行緒正在週期性的運作，在「運作階段」您送出了停止執行緒的請求，這時候執行緒不該慌張的馬上終止目前的工作，而是先完成這一次週期的工作，然後進入「善後階段」完成一些善後的工作，例如關閉檔案或網路串流，所謂的兩階段終止，即中止「運作階段」，並完成「善後階段」，完整的完成執行緒的工作。

以Java的Thread終止而言，不建議您直接使用stop()方法來終止執行緒，stop()方法會丟出ThreadDeath例外強迫執行緒終止，即使執行緒正在運作階段或執行至synchronized區，如果您要終止執行緒，建議自行實作，例如：

  public class SomeThread extends Thread {
    private boolean isTerminated = false;

    public void terminate() {
        isTerminated = true;
    }

    public void run() {
        while(!isTerminated) {
            // ... some statements
        }
    }
}

考慮到有時執行緒可能會執行至sleep()或wait()而進入Not Runnable狀態，使用上面的方法可能會延遲終止的請求，因而可以在要求終止時再呼叫interrupt()方法，這會丟出 InterruptedException，而使得執行緒從Not Runnable狀態中離開，因此可以改變一下程式：

public class SomeThread extends Thread {
    private boolean isTerminated = false;

    public void terminate() {
        isTerminated = true;
        interrupt();
    }

    public void run() {
        try {
            while(!isTerminated) {
                // ... some statements
            }
        }
        catch(InterruptedException e) {
        }
    }
}

在發出中止請求之後，如果執行緒是在Not Runnable狀態，會丟出InterruptedException，如果這個例外沒有先被捕捉，就會被run()中的catch InterruptedException捕捉，也就是說會直接離開while迴圈，因而如果您在發出終止請求後，要求先執行完這一個週期的工作，您要先捕捉這個例外，若不用完成這一個週期的工作，則不用捕捉這個例外，要如何作取決於您的程式。

如果執行緒要完成這一個週期的工作，在下一個週期開始之前檢查旗標，這時它的結果是false，所以離開while迴圈，這時候您可以進行一些善後工作，這個可以寫在finally區塊中，例如：

public class SomeThread extends Thread {
    private boolean isContinue = false;

    public void terminate() {
        isTerminated = true;
        interrupt();
    }

    private void doWorkBeforeShutdown() {
        // .... do some work before shutdown
    }

    public void run() {
        try {
            while(!_isTerminated) {
                // ... some statements
            }
        }
        catch(InterruptedException e) {
        }
        finally {
            doWorkBeforeShutdown();
        }
    }
}

上面這個程式大致上就是Two-phase Termination模式的架構，另外如果您的執行緒還服務著其它的物件，則在送出終止請求到完全終止之前，應該停止服務其它物件，您可以讓其它物件要求服務之前，先查詢執行緒是否已被要求終止，這可以藉由提供一個方法來達到：

public class SomeThread extends Thread {
    private boolean isTerminated = false;

    public void terminate() {
        isTerminated = true;
        interrupt();
    }

    public boolean isTerminated() {
        return _isTerminated;
    }

    private void doWorkBeforeShutdown() {
        // .... do some work before shutdown
    }

    public void run() {
        try {
            while(!_isTerminated) {
                // ... some statements
            }
        }
        catch(InterruptedException e) {
        }
        finally {
            doWorkBeforeShutdown();
        }
    }
}

张金鹏 2007-04-17 10:58 发表评论

Design Pattern: Future 模式

张金鹏 — Tue, 17 Apr 2007 02:57:00 GMT

Future模式可以簡單的看成是 Proxy 模式與 Thread-Per-Message 模式的結合，在Proxy模式中，用一個Proxy來代替真正的目標（Subject）生成，目標的生成可能是費時的，例如在開啟一個內嵌圖片的文件中，希望程式能儘快完成開啟文件的動作，並顯示一個可接受的畫面給使用者看，在還不需要看到圖片的頁面中先使用Proxy代替真正的圖片載入，只有在真正需要看到圖片時，才由Proxy物件載入真正的圖片。

考慮這樣一個情況，使用者可能快速翻頁瀏覽文件中，而圖片檔案很大，如此在瀏覽到有圖片的頁數時，就會導致圖片的載入，因而造成使用者瀏覽文件時會有停頓的現象，所以我們希望在文件開啟之後，仍有一個背景作業持續載入圖片，如此使用者在快速瀏覽頁面時，所造成的停頓可以獲得改善。

Future模式在請求發生時，會先產生一個Future物件給發出請求的客戶，它的作用就像是Proxy物件，而同時間，真正的目標物件之生成，由一個新的執行緒持續進行（即Thread-Per-Message），真正的目標物件生成之後，將之設定至Future之中，而當客戶端真正需要目標物件時，目標物件也已經準備好，可以讓客戶提取使用。

一個簡單的Java程式片段示範可能像是這樣：

....

public Future request() {
    final Future future = new Future();

    new Thread() {
        public void run() {
            // 下面這個動作可能是耗時的
            RealSubject subject = new RealSubject();
            future.setRealSubject(subject);
        }
    }.start();

    return future;
}

张金鹏 2007-04-17 10:57 发表评论

Design Pattern: Producer Consumer 模式

张金鹏 — Tue, 17 Apr 2007 02:56:00 GMT

Producer Consumer模式與 Guarded Suspension 模式是類似的，只不過Guarded Suspension模式並不限制緩衝區的長度，Producer Consumer模式假設所生產的產品放置在一個長度有限制的緩衝區（就像是一個產品桌，它可以擺放的空間是有限的），如果緩衝區滿了，則生產者必須停止繼續將產品放到緩衝區中，直到消費者取走了產品而有了空間，而如果緩衝區中沒有產品，當然消費者必須等待，直到有新的產品放到緩衝區中。

一個簡單的 UML 順序圖如下所示：

簡單來說，Producer Consumer模式就像是加上了雙重防護與等待的Guarded Suspension模式，而它的兩個防護與等待的條件洽好相反，一個用Java實現的簡單流程架構如下：

ProductTable.java

import java.util.LinkedList;

public class ProductTable {
    private LinkedList products = new LinkedList();

    public synchronized void addProduct(Product product) {
        while(products.size() >= 2) { // 容量限制為 2
            try {
                wait();
            }
            catch(InterruptedException e) {}
        }

        products.addLast(product);
        notifyAll();
    }
   
    public synchronized Product getProduct() {
        while(products.size() <= 0) {
            try {
                wait();
            }
            catch(InterruptedException e) {}
        }

        Product product = (Product) products.removeFirst();
        notifyAll();
     
        return product;
    }
}

以下舉一個最簡單的：生產者每次生產一個整數並放置在桌子上，而消費者消耗整數，桌子上一次只能放置一個整數，如果桌子上已有整數，則生產者等待消費者將整數消耗並通知生產者生產下一個整數，如果桌子上沒有整數，則消費者等待生產者生產整數並通知消費者可以消耗整數。

Producer.java

public class Producer extends Thread {
    private ProductTable productTable;
   
    public Producer(ProductTable productTable) {
        this.productTable = productTable;
    }
   
    public void run() {
        System.out.println("Produce integer......");
        for(int product = 1; product <= 10; product++) {
            try {
                // wait for a random time
                Thread.sleep((int) Math.random() * 3000);
            }
            catch(InterruptedException e) {
                e.printStackTrace();
            }
            productTable.setIntProduct(product);
        }      
    }
}

Consumer.java

public class Consumer extends Thread {
    private ProductTable productTable;
   
    public Consumer(ProductTable productTable) {
        this.productTable = productTable;
    }
   
    public void run() {
        for(int i = 1; i <= 10; i++) {
            try {
                // wait for a random time
                Thread.sleep((int) (Math.random() * 3000));
            }
            catch(InterruptedException e) {
                e.printStackTrace();
            }
            productTable.getProductInt();
        }
    }
}

生產者將產品放至桌上，而消費者將產品從桌上取走，所以桌子是個維護是否讓被放置或消耗產品的地方，由它來決定誰必須等待與通知：

ProductTable.java

public class ProductTable {
    private int productInt = -1; // -1 for no product

    public synchronized void setIntProduct(int product) {
        if(productInt != -1) {
            try {
                wait();
            }
            catch(InterruptedException e) {
                e.printStackTrace();
            }
        }

        productInt = product;
        System.out.println("set (" + product + ")");
        notify();
    }
   
    public synchronized int getProductInt() {
        if(productInt == -1) {
            try {
                wait();
            }
            catch(InterruptedException e) {
                e.printStackTrace();
            }
        }

        int p = productInt;
        System.out.println("Get (" + productInt + ")");
        productInt = -1;
              
        notify();
      
        return p;
    }
}

生產者會生產10個整數，而消費者會消耗10個整數，由於桌上只能放置一個整數，所以每生產一個就消耗一個。

张金鹏 2007-04-17 10:56 发表评论

Design Pattern: Worker Thread 模式

张金鹏 — Tue, 17 Apr 2007 02:56:00 GMT

Worker Thread模式在Request的管理上像是 Producer Consumer 模式，在Request的行為上像是 Command 模式。

Producer Consumer模式專注於Product的生產與消費，至於Product被消費時是作何處理，則不在它的討論範圍之中。

如果您的Product是一個Request，消費者取得Request之後，執行Request中指定的請求方法，也就是使用Command模式，並且您的Request緩衝區還管理了Consumer，就有Worker Thread模式的意思了。

在Sequence Diagram上，可以看出Worker Thread同時展現了Producer Consumer模式與Command模式：

利用Java實現的一個Channel類如下所示：

Channel.java

import java.util.LinkedList; 

public class Channel { 
    private LinkedList requests; 
    private WorkerThread[] workerThreads; 

    public Channel(int threadNumber) { 
        requests = new LinkedList(); 
        workerThreads = new WorkerThread[threadNumber]; 
        for(int i = 0; i < workerThreads.size(); i++) { 
            workerThreads[i] = new WorkerThread(); 
           workerThreads[i].start(); 
        } 
    } 

    public synchronized void putRequest(Request request) { 
        while(requests.size() >= 2) { // 容量限制為 2 
            try { 
                wait(); 
            } 
            catch(InterruptedException e) {} 
        } 

        requests.addLast(request); 
        notifyAll(); 
    } 
    
    public synchronized Request getProduct() { 
        while(requests.size() <= 0) { 
            try { 
                wait(); 
            } 
            catch(InterruptedException e) {} 
        } 

        Request request = (Request) requests.removeFirst(); 
        notifyAll(); 
      
        return request;
    } 
}

Request類與WorkerThread類之間採的Command模式：

Request.java

public class Request() { 
    // .... 

    public void execute() { 
        // do some work.... 
    } 
}

WorkerThread.java

public class WorkerThread extends Thread { 
    // ... 

    public void run() { 
        while(true) { 
            Request request = channel.getRequest(); 
            request.execute(); 
        } 
    } 
}

就行為上，WorkerThread就是有請求來了就作，如果沒有請求，則所有的WorkerThread就等待，直到有新的工作進來而通知它們，取得請求的WorkerThread要作的工作，就直接定義在execute()中。

张金鹏 2007-04-17 10:56 发表评论

Design Pattern: Thread-Per-Message 模式

张金鹏 — Tue, 17 Apr 2007 02:56:00 GMT

Thread-Per-Message模式是一個很簡單但很常應用的模式，尤其是在GUI程式中，我們舉個例子，當您設計一個文件編輯器時，您可能像這樣註冊一個開啟檔案的事件處理：

menuOpenFile.addActionListener(
    new ActionListener() {
        public void actionPerformed(ActionEvent e) {
            openFile();
        }
    }
);

openFile()方法中主要是開啟檔案、一行一行讀檔案文字並設定文字至文字區域中，這樣設計基本上沒有什麼問題，例如果您的文件內容很長，在讀檔必須花費一些時間時，您會發現在檔案讀取完畢前，您的視窗會有明顯的停頓現象。

menuOpenFile.addActionListener(
    new ActionListener() {
        public void actionPerformed(ActionEvent e) {
            new Thread(new Runnable(){
                public void run() {
                    openFile();
                }
            }).start();
        }
    }
);

在事件發生之後，您將檔案處理的動作交由一個執行緒去執行，而事件處理執行緒直接回到回應事件的狀態，如此即可解決視窗在載入檔案時的停頓。

簡單的說，Thread-Per-Message模式是在某個請求發生時，新增一個執行緒來執行該請求，而主執行緒繼續往下執行，除了上面的載入檔案例子之外，像是進行搜尋、字串轉換之類需要一些時間來執行的工作時，使用Thread-Per-Message模式都可以提高主執行緒（界面）的回應性。

张金鹏 2007-04-17 10:56 发表评论

Design Pattern: Guarded Suspension 模式

张金鹏 — Tue, 17 Apr 2007 02:54:00 GMT

考慮這麼一個伺服器，它可以處理來自多個客戶端的服務請求（Request），為了不丟失客戶的請求，它要維持一個緩衝區，客戶的請求會先儲存至緩衝區中，而伺服器會從緩衝區中取出請求並執行，如果緩衝區中沒有請求，則伺服器就等待，直到被通知有新的請求存入緩衝區中，伺服器再度進行請求的執行。

關於這個描述的一個簡單 UML 順序圖如下所示：

首先要考慮到，緩衝區會同時被兩個以上的執行緒進行存取，即伺服器的請求處理執行緒與客戶端執行緒，所以必須對緩衝區進行防護。

再來是當緩衝區中沒有請求時，伺服器必須等待直到被通知有新的請求。

Guarded Suspension模式關注的是執行的流程架構，以Java來實現這個架構的話如下所示：

RequestQueue.java

public class RequestQueue {
    private java.util.LinkedList queue;
    public RequestQueue() {
        queue = new java.util.LinkedList();
    }

    public synchronized Request getRequest() {
        while(queue.size() <= 0) {
            try {
                wait();
            }
            catch(InterruptedException e) {}
        }
        return (Request) queue.removeFirst();
    }

    public synchronized void putRequest(Request request) {
        queue.addLast(request);
        notifyAll();
    }
}

一個例子是多人聊天伺服器，請求可能只是一個客戶端送出的聊天訊息，聊天訊息會先存至緩衝區中，伺服器會不斷的從緩衝區中取出聊天訊息並發給客戶端，如果緩衝區中沒有新訊息，則伺服器就進入等待，直到有一個客戶端發出聊天訊息並存入緩衝區中，此時伺服器再度被通知，然後再度取出訊息並進行發送。

张金鹏 2007-04-17 10:54 发表评论