Hadoop 似乎在对给定reduce 调用的值进行迭代期间修改了我的关键对象

Question

Hadoop 版本：0.20.2（在 Amazon EMR 上）

问题：我有一个在映射阶段编写的自定义密钥，我在下面添加了该密钥。在reduce 调用期间，我对给定键的值进行一些简单的聚合。我面临的问题是，在减少调用中的值迭代期间，我的密钥发生了更改，并且我得到了该新密钥的值。

我的密钥类型：

 class MyKey implements WritableComparable<MyKey>, Serializable {
    private MyEnum type; //MyEnum is a simple enumeration.
    private TreeMap<String, String> subKeys;

    MyKey() {} //for hadoop
    public MyKey(MyEnum t, Map<String, String> sK) { type = t; subKeys = new TreeMap(sk); }

    public void readFields(DataInput in) throws IOException {
      Text typeT = new Text();
      typeT.readFields(in);
      this.type = MyEnum.valueOf(typeT.toString());

      subKeys.clear();
      int i = WritableUtils.readVInt(in);
      while ( 0 != i-- ) {
        Text keyText = new Text();
        keyText.readFields(in);

        Text valueText = new Text();
        valueText.readFields(in);

        subKeys.put(keyText.toString(), valueText.toString());
    }
  }

  public void write(DataOutput out) throws IOException {
    new Text(type.name()).write(out);

    WritableUtils.writeVInt(out, subKeys.size());
    for (Entry<String, String> each: subKeys.entrySet()) {
        new Text(each.getKey()).write(out);
        new Text(each.getValue()).write(out);
    }
  }

  public int compareTo(MyKey o) {
    if (o == null) {
        return 1;
    }

    int typeComparison = this.type.compareTo(o.type); 
    if (typeComparison == 0) {
        if (this.subKeys.equals(o.subKeys)) {
            return 0;
        }
        int x = this.subKeys.hashCode() - o.subKeys.hashCode();
        return (x != 0 ? x : -1);
    }
    return typeComparison;
  }
}

这个密钥的实现有什么问题吗？以下是我在减少调用中遇到键混合的代码：

reduce(MyKey k, Iterable<MyValue> values, Context context) {
   Iterator<MyValue> iterator = values.iterator();
   int sum = 0;
   while(iterator.hasNext()) {
        MyValue value = iterator.next();
        //when i come here in the 2nd iteration, if i print k, it is different from what it was in iteration 1.
        sum += value.getResult();
   }
   //write sum to context
}

对此的任何帮助将不胜感激。

Answer 1

这是预期的行为（至少对于新 API）。

当调用值 Iterable 的底层迭代器的 next 方法时，将从排序的映射器/组合器输出中读取下一个键/值对，并检查该键是否仍然是同一组的一部分与上一个键一样。

因为 hadoop 重复使用传递给reduce方法的对象（仅调用同一对象的readFields方法），所以Key参数'k'的底层内容将随着values Iterable的每次迭代而改变。