Question

在并发编程中，有时候需要使用线程安全的队列。如果要实现一个线程安全的队列有两种方式：一种是使用阻塞算法，另一种是使用非阻塞算法。使用阻塞算法的队列可以用一个锁（入队和出队用同一把锁）或两个锁（入队和出队用不同的锁）等方式来实现。非阻塞的实现方式则可以使用循环CAS的方式来实现。本节让我们一起来研究一下Doug Lea是如何使用非阻塞的方式来实现线程安全队列ConcurrentLinkedQueue的，相信从大师身上我们能学到不少并发编程的技巧。

ConcurrentLinkedQueue是一个基于链接节点的无界线程安全队列，它采用先进先出的规则对节点进行排序，当我们添加一个元素的时候，它会添加到队列的尾部；当我们获取一个元素时，它会返回队列头部的元素。它采用了“wait-free”算法（即CAS算法）来实现，该算法在Michael&Scott算法上进行了一些修改。

6.2.1　ConcurrentLinkedQueue的结构

通过ConcurrentLinkedQueue的类图来分析一下它的结构，如图6-3所示。

图6-3　ConcurrentLinkedQueue的类图

ConcurrentLinkedQueue由head节点和tail节点组成，每个节点（Node）由节点元素（item）和指向下一个节点（next）的引用组成，节点与节点之间就是通过这个next关联起来，从而组成一张链表结构的队列。默认情况下head节点存储的元素为空，tail节点等于head节点。

private transient volatile Node<E> tail = head;

6.2.2　入队列

本节将介绍入队列的相关知识。

1.入队列的过程

入队列就是将入队节点添加到队列的尾部。为了方便理解入队时队列的变化，以及head节点和tail节点的变化，这里以一个示例来展开介绍。假设我们想在一个队列中依次插入4个节点，为了帮助大家理解，每添加一个节点就做了一个队列的快照图，如图6-4所示。

图6-4所示的过程如下。

添加元素1。队列更新head节点的next节点为元素1节点。又因为tail节点默认情况下等于head节点，所以它们的next节点都指向元素1节点。

添加元素2。队列首先设置元素1节点的next节点为元素2节点，然后更新tail节点指向元素2节点。

图6-4　队列添加元素的快照图

添加元素3，设置tail节点的next节点为元素3节点。

添加元素4，设置元素3的next节点为元素4节点，然后将tail节点指向元素4节点。

通过调试入队过程并观察head节点和tail节点的变化，发现入队主要做两件事情：第一是将入队节点设置成当前队列尾节点的下一个节点；第二是更新tail节点，如果tail节点的next节点不为空，则将入队节点设置成tail节点，如果tail节点的next节点为空，则将入队节点设置成tail的next节点，所以tail节点不总是尾节点（理解这一点对于我们研究源码会非常有帮助）。

通过对上面的分析，我们从单线程入队的角度理解了入队过程，但是多个线程同时进行入队的情况就变得更加复杂了，因为可能会出现其他线程插队的情况。如果有一个线程正在入队，那么它必须先获取尾节点，然后设置尾节点的下一个节点为入队节点，但这时可能有另外一个线程插队了，那么队列的尾节点就会发生变化，这时当前线程要暂停入队操作，然后重新获取尾节点。让我们再通过源码来详细分析一下它是如何使用CAS算法来入队的。

public boolean offer(E e) {
  if (e == null) throw new NullPointerException();
  // 入队前，创建一个入队节点
  Node<E> n = new Node<E>(e);
  retry:
  // 死循环，入队不成功反复入队。
  for (;;) {
      // 创建一个指向tail节点的引用
      Node<E> t = tail;
      // p用来表示队列的尾节点，默认情况下等于tail节点。
      Node<E> p = t;
      for (int hops = 0; ; hops++) {
      // 获得p节点的下一个节点。
    Node<E> next = succ(p);
    // next节点不为空，说明p不是尾节点，需要更新p后在将它指向next节点
    if (next != null) {
        // 循环了两次及其以上，并且当前节点还是不等于尾节点
        if (hops > HOPS && t != tail)
      continue retry; 
        p = next;
    }
    // 如果p是尾节点，则设置p节点的next节点为入队节点。
    else if (p.casNext(null, n)) {
        /*如果tail节点有大于等于1个next节点，则将入队节点设置成tail节点，
          更新失败了也没关系，因为失败了表示有其他线程成功更新了tail节点*/
if (hops >= HOPS)
      casTail(t, n); // 更新tail节点，允许失败
        return true;
    }
    // p有next节点,表示p的next节点是尾节点，则重新设置p节点
    else {
        p = succ(p);
    }
      }
  }
    }

从源代码角度来看，整个入队过程主要做两件事情：第一是定位出尾节点；第二是使用CAS算法将入队节点设置成尾节点的next节点，如不成功则重试。

2.定位尾节点

tail节点并不总是尾节点，所以每次入队都必须先通过tail节点来找到尾节点。尾节点可能是tail节点，也可能是tail节点的next节点。代码中循环体中的第一个if就是判断tail是否有next节点，有则表示next节点可能是尾节点。获取tail节点的next节点需要注意的是p节点等于p的next节点的情况，只有一种可能就是p节点和p的next节点都等于空，表示这个队列刚初始化，正准备添加节点，所以需要返回head节点。获取p节点的next节点代码如下。

final Node<E> succ(Node<E> p) {
  Node<E> next = p.getNext();
  return (p == next)  head : next;
    }

3.设置入队节点为尾节点

p.casNext（null，n）方法用于将入队节点设置为当前队列尾节点的next节点，如果p是null，表示p是当前队列的尾节点，如果不为null，表示有其他线程更新了尾节点，则需要重新获取当前队列的尾节点。

4.HOPS的设计意图

上面分析过对于先进先出的队列入队所要做的事情是将入队节点设置成尾节点，doug lea写的代码和逻辑还是稍微有点复杂。那么，我用以下方式来实现是否可行？

public boolean offer(E e) {
  if (e == null)
      throw new NullPointerException();
    Node<E> n = new Node<E>(e);
    for (;;) {
      Node<E> t = tail;
      if (t.casNext(null, n) && casTail(t, n)) {
        return true;
      }
    }
    }

让tail节点永远作为队列的尾节点，这样实现代码量非常少，而且逻辑清晰和易懂。但是，这么做有个缺点，每次都需要使用循环CAS更新tail节点。如果能减少CAS更新tail节点的次数，就能提高入队的效率，所以doug lea使用hops变量来控制并减少tail节点的更新频率，并不是每次节点入队后都将tail节点更新成尾节点，而是当tail节点和尾节点的距离大于等于常量HOPS的值（默认等于1）时才更新tail节点，tail和尾节点的距离越长，使用CAS更新tail节点的次数就会越少，但是距离越长带来的负面效果就是每次入队时定位尾节点的时间就越长，因为循环体需要多循环一次来定位出尾节点，但是这样仍然能提高入队的效率，因为从本质上来看它通过增加对volatile变量的读操作来减少对volatile变量的写操作，而对volatile变量的写操作开销要远远大于读操作，所以入队效率会有所提升。

private static final int HOPS = 1;

注意　入队方法永远返回true，所以不要通过返回值判断入队是否成功。

6.2.3　出队列

出队列的就是从队列里返回一个节点元素，并清空该节点对元素的引用。让我们通过每个节点出队的快照来观察一下head节点的变化，如图6-5所示。

从图中可知，并不是每次出队时都更新head节点，当head节点里有元素时，直接弹出head节点里的元素，而不会更新head节点。只有当head节点里没有元素时，出队操作才会更新head节点。这种做法也是通过hops变量来减少使用CAS更新head节点的消耗，从而提高出队效率。让我们再通过源码来深入分析下出队过程。

图6-5　队列出节点快照图

public E poll() {
    Node<E> h = head;
  // p表示头节点，需要出队的节点
    Node<E> p = h;
    for (int hops = 0;; hops++) {
      // 获取p节点的元素
      E item = p.getItem();
      // 如果p节点的元素不为空，使用CAS设置p节点引用的元素为null,
      // 如果成功则返回p节点的元素。
      if (item != null && p.casItem(item, null)) {
        if (hops >= HOPS) {
          // 将p节点下一个节点设置成head节点
          Node<E> q = p.getNext();
          updateHead(h, (q != null)  q : p);
        }
        return item;
      }
      // 如果头节点的元素为空或头节点发生了变化，这说明头节点已经被另外
      // 一个线程修改了。那么获取p节点的下一个节点
      Node<E> next = succ(p);
      // 如果p的下一个节点也为空，说明这个队列已经空了
      if (next == null) {
      // 更新头节点。
        updateHead(h, p);
        break;
      }
      // 如果下一个元素不为空，则将头节点的下一个节点设置成头节点
      p = next;
    }
    return null;
  }

首先获取头节点的元素，然后判断头节点元素是否为空，如果为空，表示另外一个线程已经进行了一次出队操作将该节点的元素取走，如果不为空，则使用CAS的方式将头节点的引用设置成null，如果CAS成功，则直接返回头节点的元素，如果不成功，表示另外一个线程已经进行了一次出队操作更新了head节点，导致元素发生了变化，需要重新获取头节点。