具有良好性能的多重映射

Question

在我的代码中，我有一个被大量使用的地图，在几秒钟内使用了数千次。最初我有一个 TreeMap，但是当测试 9,000 个条目时，我发现我的旧处理器融化了。这需要扩大规模。所以我转向了 HashMap，性能非常出色。

现在我正在改变我的设计并正在寻找 MultiMap。然而，我担心对 get() 端的性能影响，因为它必须迭代所述大映射以挑选出匹配的键，并且当多次调用甚至同步时，它似乎会慢一点。

是否有一个好的 MultiMap 能够以出色的性能处理如此大的值？在此应用程序中，性能至关重要，因为可能有许多大型独立映射处理非常大的工作负载，从而使“小”性能损失成为很大的问题。

如果它可以被提取出来单独工作而没有任何依赖，那就加分了。

Answer 1

我有一个要求，我必须有一个 Map> ，其中 Map 上的插入是并发的，并且在相应的 Set 上也是并发的，但是一旦从 Map 中消耗了一个 Key ，它必须被删除，想想如果作为一个每两秒运行一次的作业，它会消耗来自特定键的整个Set，但插入是完全并发的，以便在作业时大多数值被缓冲开始，这是我的实现：

注意：我使用 Guava 的辅助类 Maps 来创建并发 Map，此外，该解决方案模拟 实践清单 5.19 中的 Java 并发 ：

import com.google.common.collect.MapMaker;

import java.util.concurrent.ConcurrentMap;

/**
 * Created by IntelliJ IDEA.
 * User: gmedina
 * Date: 18-Sep-2012
 * Time: 09:17:50
 */
public class LockMap<K extends Comparable>
{
  private final ConcurrentMap<K, Object> locks;

  public LockMap()
  {
    this(16, 64);
  }

  public LockMap(final int concurrencyLevel)
  {
    this(concurrencyLevel, 64);
  }

  public LockMap(final int concurrencyLevel, final int initialCapacity)
  {
    locks=new MapMaker().concurrencyLevel(concurrencyLevel).initialCapacity(initialCapacity).weakValues().makeMap();
  }

  public Object getLock(final K key)
  {
    final Object object=new Object();
    Object lock=locks.putIfAbsent(key, object);
    return lock == null ? object : lock;
  }

}


import com.google.common.collect.MapMaker;
import com.google.common.collect.Sets;

import java.util.Collection;
import java.util.Set;
import java.util.concurrent.ConcurrentMap;

/**
 * A general purpose Multimap implementation for delayed processing and concurrent insertion/deletes.
 *
 * @param <K> A comparable Key
 * @param <V> A comparable Value
 */
public class ConcurrentMultiMap<K extends Comparable, V extends Comparable>
{
  private final int initialCapacity;
  private final LockMap<K> locks;
  private final ConcurrentMap<K, Set<V>> cache;

  public ConcurrentMultiMap()
  {
    this(16, 64);
  }

  public ConcurrentMultiMap(final int concurrencyLevel)
  {
    this(concurrencyLevel, 64);
  }

  public ConcurrentMultiMap(final int concurrencyLevel, final int initialCapacity)
  {
    this.initialCapacity=initialCapacity;
    cache=new MapMaker().concurrencyLevel(concurrencyLevel).initialCapacity(initialCapacity).makeMap();
    locks=new LockMap<K>(concurrencyLevel, initialCapacity);
  }

  public void put(final K key, final V value)
  {
    synchronized(locks.getLock(key)){
      Set<V> set=cache.get(key);
      if(set == null){
        set=Sets.newHashSetWithExpectedSize(initialCapacity);
        cache.put(key, set);
      }
      set.add(value);
    }
  }

  public void putAll(final K key, final Collection<V> values)
  {
    synchronized(locks.getLock(key)){
      Set<V> set=cache.get(key);
      if(set == null){
        set=Sets.newHashSetWithExpectedSize(initialCapacity);
        cache.put(key, set);
      }
      set.addAll(values);
    }
  }

  public Set<V> remove(final K key)
  {
    synchronized(locks.getLock(key)){
      return cache.remove(key);
    }
  }

  public Set<K> getKeySet()
  {
    return cache.keySet();
  }

  public int size()
  {
    return cache.size();
  }

}

Answer 2

选择很大程度上取决于您想做什么。数据结构有很多种，有些在特定领域比其他更好，反之亦然。

我可以向您推荐潜在的候选人。如果完全读取，ImmutableMultiMap 可能是一个不错的选择。

如果您需要并发读/写，那么我会实现我自己的多重映射，也许使用ConcurrentHashMap和ConcurrentSkipListSet（您需要小心，因为同步多重映射和使用非这种方式创建的多重映射之间的语义） -阻塞数据结构不同）。如果您使用 ConcurrentSkipListSet，则可以使用二分搜索，它比仅仅迭代更快。

如果您有很多行，您也可以从使用 ConcurrentHashMap 和同步列表开始。这可以显着减少争用，这可能足以解决您的性能问题，而且很简单。

Answer 3

我一直在尽可能使用 Google Guava 作为 Apache Commons 的替代品...这是一个使用 Multimap 实现 HashMultiMap 的示例，请注意，映射的值是值的集合而不是单个引用。方法“contains()”用于获取 get(key) 的结果。

private Multimap<Phase, ResultingState> phaseResults = HashMultimap.create();

/**
 * @param withState is the state to be verified.
 * @param onPhase is the phase to be verified.
 * @return Whether the given result was reported in the given phase.
 */
public boolean wasReported(ResultingState withState, Phase onPhase) {
    return phaseResults.containsKey(onPhase) && phaseResults.get(onPhase).contains(withState);
}

/**
 * @param resultingState is the resulting state.
 * @return Whether the given resulting state has ever been reported.
 */
public boolean anyReported(ResultingState resultingState) {
    return phaseResults.values().contains(resultingState);
}

Answer 4

当您提到您“迭代所述大地图以挑选出匹配的键”时，这让我想知道您是否正在使用最好的数据结构。有没有办法可以避免这种迭代？

请注意，Guava 包含多个具有不同性能特征的多重映射实现。正如 Zwei 提到的，ImmutableMultimap 比可变多重映射具有更好的性能。如果您的代码检查多重映射是否包含特定值，则 SetMultimaps 会更快；否则 ArrayListMultimap 的性能会更好。

Answer 5

在我的一个问题中向我推荐的是 Apache Commons MultiMap：
http://commons.apache。 org/collections/api-3.2.1/org/apache/commons/collections/MultiHashMap.html

它是免费软件，因此您至少可以获取源代码来查看它，并且根据您的许可证情况，您可以可以修改它或独立使用它。

它在内部使用 ArrayList，但我想你可以将其更改为使用 HashSet 或其他东西。我会查看 createCollection(Collection coll) 方法。

更新：实际上，Guava 的 HashMultiMap 似乎已经是我所说的：
https://github。 com/google/guava/blob/master/guava/src/com/google/common/collect/Multimap.java

我查看了源代码，似乎每个值的集合实际上都由 HashSet 支持。