检测具有相同子项的实体

Question

我有两个实体，Class 和 Student，以多对多关系链接。

不幸的是，当从外部应用程序导入数据时，会重复创建一些类。 “重复”班级名称不同，但科目相同，学生也相同。

例如：

{ Id = 341，标题 = '10rs/PE1a'，SubjectId = 60，学生 = { Jack, Bill, Sarah } }

{ Id = 429，标题 = '10rs/PE1b'，SubjectId = 60，学生 = { Jack, Bill, Sarah } }

没有匹配这些重复类的名称的通用规则，因此识别两个类重复的唯一方法是它们具有相同的名称主题 ID 和学生。

我想使用 LINQ 来检测所有重复项（并最终合并它们）。到目前为止我已经尝试过：

var sb = new StringBuilder();
using (var ctx = new Ctx()) {
  ctx.CommandTimeout = 10000; // Because the next line takes so long!
  var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id);
  foreach (var c in allClasses) {
    var duplicates = allClasses.Where(o => o.SubjectId == c.SubjectId && o.Id != c.Id && o.Students.Equals(c.Students));
    foreach (var d in duplicates)
      sb.Append(d.LongName).Append(" is a duplicate of ").Append(c.LongName).Append("<br />");
  }
}
lblResult.Text = sb.ToString();

这不好，因为我收到错误：

NotSupportedException：无法创建“TeachEDM.Student”类型的常量值。此上下文仅支持原始类型（“例如 Int32、String 和 Guid”）。

显然它不喜欢我尝试在 LINQ 中匹配 o.SubjectId == c.SubjectId 。

而且，这似乎是一种可怕的方法，而且速度非常慢。调用数据库需要5分钟以上。

我真的很感激一些建议。

Answer 1

SubjectId 的比较不是问题，因为 c.SubjectId 是原始类型的值（我猜是 int）。该异常抱怨 Equals(c.Students)。 c.Students 是一个常量（相对于查询duplicates），但不是原始类型。

我还会尝试在内存中而不是在数据库中进行比较。无论如何，当您启动第一个 foreach 循环时，您都会将整个数据加载到内存中：它执行查询 allClasses。然后在循环内部将 IQueryable allClasses 扩展为 IQueryable duplicates ，然后在内部 foreach 循环中执行它。这是外循环的每个元素一个数据库查询！这可以解释代码性能不佳的原因。

所以我会尝试在内存中执行第一个foreach的内容。为了比较 Students 列表，有必要逐个元素进行比较，而不是对 Students 集合的引用，因为它们肯定是不同的。

var sb = new StringBuilder();
using (var ctx = new Ctx())
{
    ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
    var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id)
        .ToList(); // executes query, allClasses is now a List, not an IQueryable

    // everything from here runs in memory
    foreach (var c in allClasses)
    {
        var duplicates = allClasses.Where(
           o => o.SubjectId == c.SubjectId &&
           o.Id != c.Id &&
           o.Students.OrderBy(s => s.Name).Select(s => s.Name)
            .SequenceEqual(c.Students.OrderBy(s => s.Name).Select(s => s.Name)));

        // duplicates is an IEnumerable, not an IQueryable
        foreach (var d in duplicates)
            sb.Append(d.LongName)
              .Append(" is a duplicate of ")
              .Append(c.LongName)
              .Append("<br />");
    }
}
lblResult.Text = sb.ToString();

按名称对序列进行排序是必要的，因为我相信 SequenceEqual 会比较序列的长度，然后比较元素 0 与元素 0，然后比较元素 1 与元素 1，依此类推。

---

编辑对于您的评论，第一个查询仍然很慢。

如果您有 1300 个班级，每个班级有 30 名学生，则急切加载 (Include) 的性能可能会因数据库和客户端之间传输的数据倍增而受到影响。此处对此进行了解释：我可以在 EntityFramework 中的 ObjectSet 上使用多少个 Include 来保持性能？ .查询很复杂，因为它需要班级和学生之间的 JOIN，并且对象物化也很复杂，因为 EF 必须在创建对象时过滤掉重复的数据。

另一种方法是在第一个查询中仅加载没有学生的课程，然后在循环内显式地逐个加载学生。它看起来像这样：

var sb = new StringBuilder();
using (var ctx = new Ctx())
{
    ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
    var allClasses = ctx.Classes.OrderBy(o => o.Id).ToList(); // <- No Include!
    foreach (var c in allClasses)
    {
        // "Explicite loading": This is a new roundtrip to the DB
        ctx.LoadProperty(c, "Students");
    }

    foreach (var c in allClasses)
    {
        // ... same code as above
    }
}
lblResult.Text = sb.ToString();

在此示例中，您将有 1 + 1300 个数据库查询，而不是只有一个，但不会出现急切加载时发生的数据乘法，并且查询更简单（没有 JOIN 班级和学生之间）。

显式加载解释如下：

• http://msdn.microsoft.com/en- us/library/bb896272.aspx
• 对于 POCO（也适用于 EntityObject 派生实体）：http://msdn.microsoft.com/en-us/library/dd456855.aspx< /a>
• 对于 EntityObject 派生实体，您还可以使用 EntityCollection 的 Load 方法：http://msdn.microsoft.com/en-us/library/bb896370.aspx< /a>

如果您使用延迟加载，则不需要使用 LoadProperty 来加载第一个 foreach，因为 Students 集合将在您第一次访问时加载。它应该会导致同样的 1300 个额外查询，例如显式加载。