Java多線程進階(四四)—— J.U.C之executors框架:Fork/Join框架(2)實現

clipboard.png

本文首發於一世流雲的專欄: https://segmentfault.com/blog...

1、引言

前一章——Fork/Join框架(1) 原理,咱們從總體上對Fork/Join框架做了介紹。java

回顧一下,Fork/Join框架的核心實現類是ForkJoinPool線程池,其它核心組件包括:ForkJoinTask(任務)、ForkJoinWorkerThread(工做線程)、WorkQueue(任務隊列)。segmentfault

這一章,咱們將深刻F/J框架的實現細節,看看ForkJoinPool線程池究竟有何特殊之處,F/J框架的整個任務調度流程又是怎樣的。數組

2、任務調度流程

在開始以前,先來看下下面這張圖:app

圖片描述

上圖包含了F/J框架的整個任務調度流程,這裏先簡要介紹下,以便讀者在有個印象,後續的源碼分析將徹底按照這張圖進行。框架

F/J框架調度任務的流程一共能夠分爲四大部分。dom

任務提交

任務提交是整個調度流程的第一步,F/J框架所調度的任務來源有兩種:async

①外部提交任務ide

所謂外部提交任務,是指經過ForkJoinPoolexecute/submit/invoke方法提交的任務,或者非工做線程(ForkJoinWorkerThread)直接調用ForkJoinTaskfork/invoke方法提交的任務:函數

clipboard.png

外部提交的任務的特色就是調用線程是非工做線程。這個過程涉及如下方法:源碼分析

  • ForkJoinPool.submit
  • ForkJoinPool.invoke
  • ForkJoinPool.execute
  • ForkJoinTask.fork
  • ForkJoinTask.invoke
  • ForkJoinPool.externalPush
  • ForkJoinPool.externalSubmit

②工做線程fork任務

所謂工做線程fork任務,是指由ForkJoinPool所維護的工做線程(ForkJoinWorkerThread)從自身任務隊列中獲取任務(或從其它任務隊列竊取),而後執行任務。

工做線程fork任務的特色就是調用線程是工做線程。這個過程涉及如下方法:

  • ForkJoinTask.doExec
  • WorkQueue.push

建立工做線程

任務提交完成後,ForkJoinPool會根據狀況建立或喚醒工做線程,以便執行任務。

ForkJoinPool並不會爲每一個任務都建立工做線程,而是根據實際狀況(構造線程池時的參數)肯定是喚醒已有空閒工做線程,仍是新建工做線程。這個過程仍是涉及任務隊列的綁定、工做線程的註銷等過程:

  • ForkJoinPool.signalWork
  • ForkJoinPool.tryAddWorker
  • ForkJoinPool.createWorker
  • ForkJoinWorkerThread.registerWorker
  • ForkJoinPool.deregisterWorker

任務執行

任務入隊後,由工做線程開始執行,這個過程涉及任務竊取、工做線程等待等過程:

  • ForkJoinWorkerThread.run
  • ForkJoinPool.runWorker
  • ForkJoinPool.scan
  • ForkJoinPool.runTask
  • ForkJoinTask.doExec
  • ForkJoinPool.execLocalTasks
  • ForkJoinPool.awaitWork

任務結果獲取

任務結果通常經過ForkJoinTaskjoin方法得到,其主要流程以下圖:

clipboard.png

任務結果獲取的核心涉及兩點:

  • 互助竊取:ForkJoinPool.helpStealer
  • 算力補償:ForkJoinPool.tryCompensate

3、源碼分析

經過第二部分,大體瞭解了F/J框架調度任務的流程,咱們來看下源碼實現。

任務提交

①外部提交任務

咱們經過ForkJoinPoolsubmit(ForkJoinTask<T> task)方法來看下這個過程(其它提交任務的方法內部調用幾乎同樣,再也不贅述):

public <T> ForkJoinTask<T> submit(ForkJoinTask<T> task) {
    if (task == null)
        throw new NullPointerException();
    externalPush(task);
    return task;
}

ForkJoinPool.submit內部調用了externalPush方法:

final void externalPush(ForkJoinTask<?> task) {
    WorkQueue[] ws;
    WorkQueue q;
    int m;
    int r = ThreadLocalRandom.getProbe();
    int rs = runState;

    // m & r & SQMASK必爲偶數,因此經過externalPush方法提交的任務都添加到了偶數索引的任務隊列中(沒有綁定的工做線程)
    if ((ws = workQueues) != null && (m = (ws.length - 1)) >= 0 &&
        (q = ws[m & r & SQMASK]) != null && r != 0 && rs > 0 &&
        U.compareAndSwapInt(q, QLOCK, 0, 1)) {
        ForkJoinTask<?>[] a;
        int am, n, s;
        if ((a = q.array) != null &&
            (am = a.length - 1) > (n = (s = q.top) - q.base)) {
            int j = ((am & s) << ASHIFT) + ABASE;
            U.putOrderedObject(a, j, task);
            U.putOrderedInt(q, QTOP, s + 1);
            U.putIntVolatile(q, QLOCK, 0);
            if (n <= 1)                 // 隊列裏只有一個任務
                signalWork(ws, q);      // 建立或激活一個工做線程
            return;
        }
        U.compareAndSwapInt(q, QLOCK, 1, 0);
    }

    // 未命中任務隊列時(WorkQueue == null 或 WorkQueue[i] == null),會進入該方法
    externalSubmit(task);
}

當咱們首次建立了ForkJoinPool時,任務隊列數組並無初始化,只有當首次提交任務時,纔會初始化。

externalPush方法包含兩部分:

  1. 根據線程隨機變量、任務隊列數組信息,計算命中槽(即本次提交的任務應該添加到任務隊列數組中的哪一個隊列),若是命中且隊列中任務數<1,則建立或激活一個工做線程;
  2. 不然,調用externalSubmit初始化隊列,併入隊。
/**
 * 完整版本的externalPush.
 * 處理線程池提交任務時未命中隊列的狀況和異常狀況.
 */
private void externalSubmit(ForkJoinTask<?> task) {
    int r;                                    // 線程相關的隨機數
    if ((r = ThreadLocalRandom.getProbe()) == 0) {
        ThreadLocalRandom.localInit();
        r = ThreadLocalRandom.getProbe();
    }

    for (; ; ) {
        WorkQueue[] ws;
        WorkQueue q;
        int rs, m, k;
        boolean move = false;

        // CASE1: 線程池已關閉
        if ((rs = runState) < 0) {
            tryTerminate(false, false);     // help terminate
            throw new RejectedExecutionException();
        }
        // CASE2: 初始化線程池
        else if ((rs & STARTED) == 0 ||     // initialize
            ((ws = workQueues) == null || (m = ws.length - 1) < 0)) {
            int ns = 0;
            rs = lockRunState();
            try {
                if ((rs & STARTED) == 0) {
                    U.compareAndSwapObject(this, STEALCOUNTER, null,
                        new AtomicLong());

                    // 初始化工做隊列數組, 數組大小必須爲2的冪次
                    int p = config & SMASK;
                    int n = (p > 1) ? p - 1 : 1;
                    n |= n >>> 1;
                    n |= n >>> 2;
                    n |= n >>> 4;
                    n |= n >>> 8;
                    n |= n >>> 16;
                    n = (n + 1) << 1;
                    workQueues = new WorkQueue[n];
                    ns = STARTED;   // 線程池狀態轉化爲STARTED
                }
            } finally {
                unlockRunState(rs, (rs & ~RSLOCK) | ns);
            }
        }
        // CASE3: 入隊任務
        else if ((q = ws[k = r & m & SQMASK]) != null) {
            if (q.qlock == 0 && U.compareAndSwapInt(q, QLOCK, 0, 1)) {
                ForkJoinTask<?>[] a = q.array;
                int s = q.top;
                boolean submitted = false; // initial submission or resizing
                try {                      // locked version of push
                    if ((a != null && a.length > s + 1 - q.base) ||
                        (a = q.growArray()) != null) {
                        int j = (((a.length - 1) & s) << ASHIFT) + ABASE;
                        U.putOrderedObject(a, j, task);
                        U.putOrderedInt(q, QTOP, s + 1);
                        submitted = true;
                    }
                } finally {
                    U.compareAndSwapInt(q, QLOCK, 1, 0);
                }
                if (submitted) {
                    signalWork(ws, q);
                    return;
                }
            }
            move = true;                   // move on failure
        }
        // CASE4: 建立一個任務隊列
        else if (((rs = runState) & RSLOCK) == 0) {
            q = new WorkQueue(this, null);
            q.hint = r;
            q.config = k | SHARED_QUEUE;        // k爲任務隊列在隊列數組中的索引: k == r & m & SQMASK, 在CASE3的IF判斷中賦值
            q.scanState = INACTIVE;             // 任務隊列狀態爲INACTIVE
            rs = lockRunState();
            if (rs > 0 && (ws = workQueues) != null &&
                k < ws.length && ws[k] == null)
                ws[k] = q;                 // else terminated
            unlockRunState(rs, rs & ~RSLOCK);
        } else
            move = true;                   // move if busy
        if (move)
            r = ThreadLocalRandom.advanceProbe(r);
    }
}

externalSubmit方法的邏輯很清晰,一共分爲4種狀況:

  • CASE1:線程池已經關閉,則執行終止操做,並拒絕該任務的提交;
  • CASE2:線程池未初始化,則進行初始化,主要就是初始化任務隊列數組;
  • CASE3:命中了任務隊列,則將任務入隊,並嘗試建立/喚醒一個工做線程(Worker);
  • CASE4:未命中任務隊列,則在偶數索引處建立一個任務隊列

②工做線程fork任務

工做線程fork的任務其實就是子任務,ForkJoinTask.fork方法完成。

看下ForkJoinTask.fork方法,當調用線程爲工做線程時,直接添加到其自身隊列中:

public final ForkJoinTask<V> fork() {
    Thread t;
    if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread)   // 若是調用線程爲【工做線程】
        ((ForkJoinWorkerThread) t).workQueue.push(this);           // 直接添加到線程的自身隊列中
    else
        ForkJoinPool.common.externalPush(this);                    // 外部(其它線程)提交的任務
    return this;
}

WorkQueue.push方法,任務存入自身隊列的棧頂(top):

final void push(ForkJoinTask<?> task) {
    ForkJoinTask<?>[] a;
    ForkJoinPool p;
    int b = base, s = top, n;
    if ((a = array) != null) {    // ignore if queue removed
        int m = a.length - 1;     // fenced write for task visibility
        U.putOrderedObject(a, ((m & s) << ASHIFT) + ABASE, task);
        U.putOrderedInt(this, QTOP, s + 1);       // 任務存入棧頂(top+1)
        if ((n = s - b) <= 1) {
            if ((p = pool) != null)
                p.signalWork(p.workQueues, this);   // 喚醒或建立一個工做線程
        } else if (n >= m)
            growArray();            // 擴容
    }
}
若是當前 WorkQueue 爲新建的等待隊列( top - base <= 1),則調用 signalWork方法爲當前 WorkQueue 新建或喚醒一個工做線程;
若是 WorkQueue 中的任務數組容量太小,則調用 growArray方法對其進行兩倍擴容,

建立工做線程

從流程圖能夠看出,任務提交後,會調用signalWork方法建立或喚醒一個工做線程,該方法的核心其實就兩個分支:

  1. 工做線程數不足:建立一個工做線程;
  2. 工做線程數足夠:喚醒一個空閒(阻塞)的工做線程。
/**
 * 嘗試建立或喚醒一個工做線程.
 *
 * @param ws 任務隊列數組
 * @param q  當前操做的任務隊列WorkQueue
 */
final void signalWork(WorkQueue[] ws, WorkQueue q) {
    long c;
    int sp, i;
    WorkQueue v;
    Thread p;
    while ((c = ctl) < 0L) {                       // too few active
        // CASE1: 工做線程數不足
        if ((sp = (int) c) == 0) {
            if ((c & ADD_WORKER) != 0L)
                tryAddWorker(c);                    // 增長工做線程
            break;
        }

        // CASE2: 存在空閒工做線程,則喚醒
        if (ws == null)                            // unstarted/terminated
            break;
        if (ws.length <= (i = sp & SMASK))         // terminated
            break;
        if ((v = ws[i]) == null)                   // terminating
            break;
        int vs = (sp + SS_SEQ) & ~INACTIVE;        // next scanState
        int d = sp - v.scanState;                  // screen CAS
        long nc = (UC_MASK & (c + AC_UNIT)) | (SP_MASK & v.stackPred);
        if (d == 0 && U.compareAndSwapLong(this, CTL, c, nc)) {
            v.scanState = vs;                      // activate v
            if ((p = v.parker) != null)
                U.unpark(p);
            break;
        }
        if (q != null && q.base == q.top)          // no more work
            break;
    }
}

先來看建立工做線程的方法tryAddWorker,其實就是設置下字段值(活躍/總工做線程池數),而後調用createWorker真正建立一個工做線程:

private void tryAddWorker(long c) {
    boolean add = false;
    do {

        // 設置活躍工做線程數、總工做線程池數
        long nc = ((AC_MASK & (c + AC_UNIT)) |
            (TC_MASK & (c + TC_UNIT)));
        if (ctl == c) {
            int rs, stop;                 // check if terminating
            if ((stop = (rs = lockRunState()) & STOP) == 0)
                add = U.compareAndSwapLong(this, CTL, c, nc);
            unlockRunState(rs, rs & ~RSLOCK);
            if (stop != 0)
                break;

            // 建立工做線程
            if (add) {
                createWorker();
                break;
            }
        }
    } while (((c = ctl) & ADD_WORKER) != 0L && (int) c == 0);
}
 
private boolean createWorker() {
    ForkJoinWorkerThreadFactory fac = factory;
    Throwable ex = null;
    ForkJoinWorkerThread wt = null;
    try {
        
        // 使用線程池工廠建立線程
        if (fac != null && (wt = fac.newThread(this)) != null) {
            wt.start();     // 啓動線程
            return true;
        }
    } catch (Throwable rex) {
        ex = rex;
    }
    
    // 建立出現異常,則註銷該工做線程
    deregisterWorker(wt, ex);
    return false;
}

若是建立過程當中出現異常,則調用deregisterWorker註銷線程:

final void deregisterWorker(ForkJoinWorkerThread wt, Throwable ex) {
    WorkQueue w = null;
    // 1.移除workQueue
    if (wt != null && (w = wt.workQueue) != null) {     // 獲取ForkJoinWorkerThread的等待隊列
        WorkQueue[] ws;                           
        int idx = w.config & SMASK;                     // 計算workQueue索引
        int rs = lockRunState();                        // 獲取runState鎖和當前池運行狀態
        if ((ws = workQueues) != null && ws.length > idx && ws[idx] == w)
            ws[idx] = null;                             // 移除workQueue
        unlockRunState(rs, rs & ~RSLOCK);   // 解除runState鎖
    }
    // 2.減小CTL數
    long c;                                       // decrement counts
    do {
    } while (!U.compareAndSwapLong
        (this, CTL, c = ctl, ((AC_MASK & (c - AC_UNIT)) |
            (TC_MASK & (c - TC_UNIT)) |
            (SP_MASK & c))));
    // 3.處理被移除workQueue內部相關參數
    if (w != null) {
        w.qlock = -1;                             // ensure set
        w.transferStealCount(this);
        w.cancelAll();                            // cancel remaining tasks
    }
    // 4.若是線程未終止,替換被移除的workQueue並喚醒內部線程
    for (; ; ) {                                    // possibly replace
        WorkQueue[] ws;
        int m, sp;
        // 嘗試終止線程池
        if (tryTerminate(false, false) || w == null || w.array == null ||
            (runState & STOP) != 0 || (ws = workQueues) == null ||
            (m = ws.length - 1) < 0)              // already terminating
            break;
        // 喚醒被替換的線程,依賴於下一步
        if ((sp = (int) (c = ctl)) != 0) {         // wake up replacement
            if (tryRelease(c, ws[sp & m], AC_UNIT))
                break;
        }
        // 建立工做線程替換
        else if (ex != null && (c & ADD_WORKER) != 0L) {
            tryAddWorker(c);                      // create replacement
            break;
        } else                                      // don't need replacement
            break;
    }
    // 5.處理異常
    if (ex == null)                               // help clean on way out
        ForkJoinTask.helpExpungeStaleExceptions();
    else                                          // rethrow
        ForkJoinTask.rethrow(ex);
}
deregisterWorker方法用於工做線程運行完畢以後終止線程或處理工做線程異常,主要就是清除已關閉的工做線程或回滾建立線程以前的操做,並把傳入的異常拋給 ForkJoinTask 來處理。

工做線程在構造的過程當中,會保存線程池信息和與本身綁定的任務隊列信息。它經過ForkJoinPool.registerWorker方法將本身註冊到線程池中:

protected ForkJoinWorkerThread(ForkJoinPool pool) {
    // Use a placeholder until a useful name can be set in registerWorker
    super("aForkJoinWorkerThread");
    this.pool = pool;
    this.workQueue = pool.registerWorker(this);

}
final WorkQueue registerWorker(ForkJoinWorkerThread wt) {
    UncaughtExceptionHandler handler;
    wt.setDaemon(true);                           // configure thread
    if ((handler = ueh) != null)
        wt.setUncaughtExceptionHandler(handler);

    // 建立一個工做隊列, 並於該工做線程綁定
    WorkQueue w = new WorkQueue(this, wt);
    int i = 0;                                    // 記錄隊列在任務隊列數組中的索引, 始終爲奇數
    int mode = config & MODE_MASK;
    int rs = lockRunState();
    try {
        WorkQueue[] ws;
        int n;
        if ((ws = workQueues) != null && (n = ws.length) > 0) {
            int s = indexSeed += SEED_INCREMENT;  // unlikely to collide
            int m = n - 1;
            i = ((s << 1) | 1) & m;               // 經計算後, i爲奇數
            if (ws[i] != null) {                  // 槽衝突, 即WorkQueue[i]位置已經有了任務隊列

                // 從新計算索引i
                int probes = 0;                   // step by approx half n
                int step = (n <= 4) ? 2 : ((n >>> 1) & EVENMASK) + 2;
                while (ws[i = (i + step) & m] != null) {
                    if (++probes >= n) {
                        workQueues = ws = Arrays.copyOf(ws, n <<= 1);
                        m = n - 1;
                        probes = 0;
                    }
                }
            }

            // 設置隊列狀態爲SCANNING
            w.hint = s;                           // use as random seed
            w.config = i | mode;
            w.scanState = i;                      // publication fence
            ws[i] = w;
        }
    } finally {
        unlockRunState(rs, rs & ~RSLOCK);
    }
    wt.setName(workerNamePrefix.concat(Integer.toString(i >>> 1)));
    return w;
}

前文講過,工做線程(Worker)自身的任務隊列,其數組下標始終是奇數,registerWorker方法的主要做用就是在任務隊列數組WorkQueue[]找到一個空的奇數位,而後在該位置建立WorkQueue

至此,線程池的任務提交工做和工做線程建立工做就所有完成了,接下來開始工做線程的執行。


任務執行

ForkJoinWorkerThread啓動後,會執行它的run方法,該方法內部調用了ForkJoinPool.runWorker方法來執行任務:

public void run() {
    if (workQueue.array == null) {  // only run once
        Throwable exception = null;
        try {
            onStart();              // 鉤子方法
            pool.runWorker(workQueue);
        } catch (Throwable ex) {
            exception = ex;
        } finally {
            try {
                onTermination(exception);
            } catch (Throwable ex) {
                if (exception == null)
                    exception = ex;
            } finally {
                pool.deregisterWorker(this, exception);
            }
        }
    }
}

runWorker方法的核心流程以下:

  • scan:嘗試獲取一個任務;
  • runTask:執行取得的任務;
  • awaitWork:沒有任務則阻塞。
final void runWorker(WorkQueue w) {
    w.growArray();                   // 初始化任務隊列
    int seed = w.hint;               // initially holds randomization hint
    int r = (seed == 0) ? 1 : seed;  // avoid 0 for xorShift
    for (ForkJoinTask<?> t; ; ) {

        // CASE1: 嘗試獲取一個任務
        if ((t = scan(w, r)) != null)
            w.runTask(t);                       // 獲取成功, 執行任務
        // CASE2: 獲取失敗, 阻塞等待任務入隊
        else if (!awaitWork(w, r))              // 等待失敗, 跳出該方法後, 工做線程會被註銷
            break;
        r ^= r << 13;
        r ^= r >>> 17;
        r ^= r << 5; // xorshift
    }
}
注意:若是 awaitWork返回false,等不到任務,則跳出 runWorker的循環,回到run中執行finally,最後調用 deregisterWorker註銷工做線程。

任務竊取——scan

private ForkJoinTask<?> scan(WorkQueue w, int r) {
    WorkQueue[] ws;
    int m;
    if ((ws = workQueues) != null && (m = ws.length - 1) > 0 && w != null) {
        int ss = w.scanState;                     // initially non-negative
        for (int origin = r & m, k = origin, oldSum = 0, checkSum = 0; ; ) {
            WorkQueue q;
            ForkJoinTask<?>[] a;
            ForkJoinTask<?> t;
            int b, n;
            long c;

            // 根據隨機數r定位一個任務隊列
            if ((q = ws[k]) != null) {      // 獲取workQueue
                if ((n = (b = q.base) - q.top) < 0 &&
                    (a = q.array) != null) {      // non-empty
                    long i = (((a.length - 1) & b) << ASHIFT) + ABASE;
                    if ((t = ((ForkJoinTask<?>)
                        U.getObjectVolatile(a, i))) != null &&  // 取base位置任務
                        q.base == b) {

                        // 成功獲取到任務
                        if (ss >= 0) {
                            if (U.compareAndSwapObject(a, i, t, null)) {
                                q.base = b + 1;         // 更新base位
                                if (n < -1)
                                    signalWork(ws, q);  // 建立或喚醒工做線程來運行任務
                                return t;
                            }
                        } else if (oldSum == 0 &&   // try to activate
                            w.scanState < 0)
                            tryRelease(c = ctl, ws[m & (int) c], AC_UNIT);  // 喚醒棧頂工做線程
                    }

                    // base位置任務爲空或base位置偏移,隨機移位從新掃描
                    if (ss < 0)                   // refresh
                        ss = w.scanState;
                    r ^= r << 1;
                    r ^= r >>> 3;
                    r ^= r << 10;
                    origin = k = r & m;           // move and rescan
                    oldSum = checkSum = 0;
                    continue;
                }
                checkSum += b;
            }
            if ((k = (k + 1) & m) == origin) {    // continue until stable
                // 運行到這裏說明已經掃描了所有的 workQueues,但並未掃描到任務
                if ((ss >= 0 || (ss == (ss = w.scanState))) &&
                    oldSum == (oldSum = checkSum)) {
                    if (ss < 0 || w.qlock < 0)    // already inactive
                        break;

                    // 對當前WorkQueue進行滅活操做
                    int ns = ss | INACTIVE;       // try to inactivate
                    long nc = ((SP_MASK & ns) |
                        (UC_MASK & ((c = ctl) - AC_UNIT)));
                    w.stackPred = (int) c;         // hold prev stack top
                    U.putInt(w, QSCANSTATE, ns);
                    if (U.compareAndSwapLong(this, CTL, c, nc))
                        ss = ns;
                    else
                        w.scanState = ss;         // back out
                }
                checkSum = 0;
            }
        }
    }
    return null;
}

掃描並嘗試偷取一個任務。隨機選擇一個WorkQueue,獲取base位的 ForkJoinTask,成功取到後更新base位並返回任務;若是取到的 WorkQueue 中任務數大於1,則調用signalWork建立或喚醒其餘工做線程。


阻塞等待——awaitWork

若是scan方法未掃描到任務,會調用awaitWork等待獲取任務:

private boolean awaitWork(WorkQueue w, int r) {
    if (w == null || w.qlock < 0)                  // w is terminating
        return false;
    for (int pred = w.stackPred, spins = SPINS, ss; ; ) {
        if ((ss = w.scanState) >= 0)               // 正在掃描,跳出循環
            break;
        else if (spins > 0) {
            r ^= r << 6;
            r ^= r >>> 21;
            r ^= r << 7;
            if (r >= 0 && --spins == 0) {           // randomize spins
                WorkQueue v;
                WorkQueue[] ws;
                int s, j;
                AtomicLong sc;
                if (pred != 0 && (ws = workQueues) != null &&
                    (j = pred & SMASK) < ws.length &&
                    (v = ws[j]) != null &&          // see if pred parking
                    (v.parker == null || v.scanState >= 0))
                    spins = SPINS;                  // continue spinning
            }
        } else if (w.qlock < 0)                     // 當前workQueue已經終止,返回false recheck after spins
            return false;
        else if (!Thread.interrupted()) {           // 判斷線程是否被中斷,並清除中斷狀態
            long c, prevctl, parkTime, deadline;
            int ac = (int) ((c = ctl) >> AC_SHIFT) + (config & SMASK);      // 活躍線程數
            if ((ac <= 0 && tryTerminate(false, false)) ||      // 無active線程,嘗試終止
                (runState & STOP) != 0)             // pool terminating
                return false;
            if (ac <= 0 && ss == (int) c) {         // is last waiter
                // 計算活躍線程數(高32位)並更新爲下一個棧頂的scanState(低32位)
                prevctl = (UC_MASK & (c + AC_UNIT)) | (SP_MASK & pred);
                int t = (short) (c >>> TC_SHIFT);   // shrink excess spares
                if (t > 2 && U.compareAndSwapLong(this, CTL, c, prevctl))//總線程過量
                    return false;                   // else use timed wait
                // 計算空閒超時時間
                parkTime = IDLE_TIMEOUT * ((t >= 0) ? 1 : 1 - t);
                deadline = System.nanoTime() + parkTime - TIMEOUT_SLOP;
            } else
                prevctl = parkTime = deadline = 0L;
            Thread wt = Thread.currentThread();
            U.putObject(wt, PARKBLOCKER, this);     // emulate LockSupport
            w.parker = wt;                              // 設置parker,準備阻塞
            if (w.scanState < 0 && ctl == c)            // recheck before park
                U.park(false, parkTime);             // 阻塞指定的時間

            U.putOrderedObject(w, QPARKER, null);
            U.putObject(wt, PARKBLOCKER, null);
            if (w.scanState >= 0)                       // 正在掃描,說明等到任務,跳出循環
                break;
            if (parkTime != 0L && ctl == c &&
                deadline - System.nanoTime() <= 0L &&
                U.compareAndSwapLong(this, CTL, c, prevctl))    // 未等到任務,更新ctl,返回false
                return false;                                      // shrink pool
        }
    }
    return true;
}

任務執行——runTask

竊取到任務後,調用WorkQueue.runTask方法執行任務:

final void runTask(ForkJoinTask<?> task) {
    if (task != null) {
        scanState &= ~SCANNING;             // mark as busy
        (currentSteal = task).doExec();     // 更新currentSteal並執行任務
        U.putOrderedObject(this, QCURRENTSTEAL, null); // release for GC
        execLocalTasks();                   // 依次執行本地任務
        ForkJoinWorkerThread thread = owner;
        if (++nsteals < 0)                  // collect on overflow
            transferStealCount(pool);       // 增長偷取任務數
        scanState |= SCANNING;
        if (thread != null)
            thread.afterTopLevelExec();     // 執行鉤子函數
    }
}

1.首先調用FutureTask.deExec()執行任務,其內部會調用FutureTask.exec()方法,該方法爲抽象方法,由子類實現。

子類實現該方法時,通常會進行fork,致使生成子任務,並最終添加到調用線程自身地任務隊列中:

final int doExec() {
    int s;
    boolean completed;
    if ((s = status) >= 0) {
        try {
            completed = exec();     // exec爲抽象方法, 由子類實現
        } catch (Throwable rex) {
            return setExceptionalCompletion(rex);
        }
        if (completed)
            s = setCompletion(NORMAL);
    }
    return s;
}

2.除了執行竊取到的任務,工做線程還會執行本身隊列中的任務,即WorkQueue.execLocalTasks方法:

final void execLocalTasks() {
    int b = base, m, s;
    ForkJoinTask<?>[] a = array;
    if (b - (s = top - 1) <= 0 && a != null &&
        (m = a.length - 1) >= 0) {
        if ((config & FIFO_QUEUE) == 0) {   // LIFO, 從top -> base 遍歷執行任務
            for (ForkJoinTask<?> t; ; ) {
                if ((t = (ForkJoinTask<?>) U.getAndSetObject
                    (a, ((m & s) << ASHIFT) + ABASE, null)) == null)
                    break;
                U.putOrderedInt(this, QTOP, s);
                t.doExec();
                if (base - (s = top - 1) > 0)
                    break;
            }
        } else  // FIFO,  從base -> top 遍歷執行任務
            pollAndExecAll();
    }

}
構建線程池時的 asyncMode參數,決定了工做線程執行自身隊列中的任務的方式。若是 asyncMode == true,則以 FIFO的方式執行任務;不然,以 LIFO的方式執行任務。

任務結果獲取

ForkJoinTask.join()能夠用來獲取任務的執行結果。join方法的執行邏輯以下:

clipboard.png

public final V join() {
    int s;
    if ((s = doJoin() & DONE_MASK) != NORMAL)
        reportException(s);
    return getRawResult();
}

能夠看到,內部先調用doJoin方法:

private int doJoin() {
    int s;
    Thread t;
    ForkJoinWorkerThread wt;
    ForkJoinPool.WorkQueue w;
    return (s = status) < 0 ? s :
        ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) ?
            (w = (wt = (ForkJoinWorkerThread) t).workQueue).tryUnpush(this) && (s = doExec()) < 0 ? s :
                wt.pool.awaitJoin(w, this, 0L) :
            externalAwaitDone();
}

 
doJoin方法會判斷調用線程是不是工做線程:

1.若是是非工做線程調用的join,則最終調用externalAwaitDone()阻塞等待任務的完成。

2.若是是工做線程調用的join,則存在如下狀況:

  • 若是須要join的任務已經完成,直接返回運行結果;
  • 若是須要join的任務剛恰好是當前線程所擁有的隊列的top位置,則當即執行它。
  • 若是該任務不在top位置,則調用awaitJoin方法等待

關鍵看下ForkJoinPool.awaitJoin等待過程當中發生了什麼:

final int awaitJoin(WorkQueue w, ForkJoinTask<?> task, long deadline) {
    int s = 0;
    if (task != null && w != null) {
        ForkJoinTask<?> prevJoin = w.currentJoin;   // 獲取給定Worker的join任務
        U.putOrderedObject(w, QCURRENTJOIN, task);  // 把currentJoin替換爲給定任務
        
        // 判斷是否爲CountedCompleter類型的任務
        CountedCompleter<?> cc = (task instanceof CountedCompleter) ?
            (CountedCompleter<?>) task : null;
        for (; ; ) {
            if ((s = task.status) < 0)              // 已經完成|取消|異常 跳出循環
                break;

            if (cc != null)                         // CountedCompleter任務由helpComplete來完成join
                helpComplete(w, cc, 0);
            else if (w.base == w.top || w.tryRemoveAndExec(task))  //嘗試執行
                helpStealer(w, task);               // 隊列爲空或執行失敗,任務可能被偷,幫助偷取者執行該任務

            if ((s = task.status) < 0)              // 已經完成|取消|異常,跳出循環
                break;
            
            // 計算任務等待時間
            long ms, ns;
            if (deadline == 0L)
                ms = 0L;
            else if ((ns = deadline - System.nanoTime()) <= 0L)
                break;
            else if ((ms = TimeUnit.NANOSECONDS.toMillis(ns)) <= 0L)
                ms = 1L;

            if (tryCompensate(w)) {                         // 執行補償操做
                task.internalWait(ms);                      // 補償執行成功,任務等待指定時間
                U.getAndAddLong(this, CTL, AC_UNIT);     // 更新活躍線程數
            }
        }
        U.putOrderedObject(w, QCURRENTJOIN, prevJoin);      // 循環結束,替換爲原來的join任務
    }
    return s;
}

ForkJoinPool.awaitJoin方法中有三個重要方法:

  • tryRemoveAndExec
  • helpStealer
  • tryCompensate

這裏說下這三個方法的主要做用,不貼代碼了:

tryRemoveAndExec:

當工做線程正在等待join的任務時,它會從top位開始自旋向下查找該任務:

  • 若是找到則移除並執行它;
  • 若是找不到,說明說明任務可能被偷,則調用helpStealer方法反過來幫助偷取者執行它本身的任務。

helpStealer:

  • 先定位的偷取者的任務隊列;
  • 從偷取者的base索引開始,每次偷取一個任務執行。

tryCompensate:

tryCompensate主要用來補償工做線程由於阻塞而致使的算力損失,當工做線程自身的隊列不爲空,且還有其它空閒工做線程時,若是本身阻塞了,則在此以前會喚醒一個工做線程。

4、總結

本章和上一章——Fork/Join框架(1) 原理,從思想、使用、實現等方面較完整地分析了Fork/Join框架,Fork/Join框架的使用須要根據實際狀況劃分子任務的大小。

理解F/J框架須要先從總體上了解框架調度任務的流程(參考本章開頭的調度圖),能夠本身經過示例模擬一個任務的調度過程,而後根據實際運用過程當中遇到的問題,再去調試及在相應的源碼中查看實現原理。

相關文章
相關標籤/搜索