如何加入（合并）数据帧（内部，外部，左，右）

Question

给定两个数据帧：

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

我该如何执行数据库样式，即>？也就是说，我如何得到：

• noreferrer“> ninen> innin> ninen join of df1和df2：
仅返回左表在右表中具有匹配键的行。
• an ofter Join > df2 ：
  从两个表中返回所有行，从右表中具有匹配键的左侧连接记录。
• a 左outer（或简单左JOIN）（或简单左JOIN） 和df2
  从左表返回所有行，以及从右表中匹配键的任何行。
• a df1 df1 和 和 df2
  从右表返回所有行，并从左表中返回带有匹配键的任何行。

---

额外的信用：

我如何执行SQL样式选择语句？

Answer 1

通过使用 merge 函数及其可选参数：

内连接： merge(df1, df2) 适用于这些示例是因为 R 自动通过公共变量名称连接框架，但您很可能希望指定 merge(df1, df2, by = "CustomerId") 以确保您仅匹配您想要的领域。如果匹配变量在不同的数据框中具有不同的名称，您还可以使用 by.x 和 by.y 参数。

外连接： merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

左外： merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

右外部： merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

交叉联接： merge(x = df1, y = df2, by = NULL)

就像内部联接一样，您可能希望显式地将“CustomerId”传递给 R作为匹配变量。 我认为最好明确地声明要合并的标识符；如果输入 data.frames 意外更改，则更安全，并且以后更易于阅读。

您可以通过给 by 一个向量来合并多列，例如 by = c("CustomerId", "OrderId")。

如果要合并的列名称不同，您可以指定，例如 by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"，其中 CustomerId_in_df1 是第一个数据框中的列名称，CustomerId_in_df2 是第二个数据框中的列名称。 （如果您需要合并多列，这些也可以是向量。）

Answer 2

您也可以使用Hadley Wickham的Awesome dplyr 包装。

library(dplyr)

#make sure that CustomerId cols are both the same type
#they aren’t in the provided data (one is integer and one is double)
df1$CustomerId <- as.double(df1$CustomerId)

突变连接：使用DF2

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

过滤连接中的匹配点在DF1中添加列：DF1中的行过滤器，请勿修改列

#keep only observations in df1 that match in df2.
semi_join(df1, df2)

#drop all observations in df1 that match in df2.
anti_join(df1, df2)

Answer 3

我建议您查看 Gabor Grothendieck 的 sqldf 包，它可以让您用SQL来表达这些操作。

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

我发现 SQL 语法比其 R 语法更简单、更自然（但这可能只是反映了我对 RDBMS 的偏见）。

有关联接的更多信息，请参阅 Gabor 的 sqldf GitHub。

Answer 4

有一种用于内部联接的 data.table 方法，该方法非常节省时间和内存（对于某些较大的 data.frame 来说是必需的）：

library(data.table)
  
dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

merge 也适用于数据。表（因为它是通用的并调用merge.data.table）

merge(dt1, dt2)

data.table记录在stackoverflow上：
如何执行 data.table 合并操作< br>
将外键上的 SQL 连接转换为 R 数据。表语法
合并较大数据帧的有效替代方案 R
如何进行基本左移R 中与 data.table 的外连接？

还有一个选项是 plyr 包。 [2022 年注意事项：plyr 现已退役，并已被 dplyr 取代。 此答案中描述了 dplyr 中的联接操作。]

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

type 的选项： 内部、左、右、全。

来自?join：与merge不同，[join]无论使用什么连接类型都会保留x的顺序。

Answer 5

有一些很好的例子可以完成此操作R 维基。我将在这里窃取一些：

合并方法

由于您的键名称相同，因此执行内部联接的简短方法是 merge()：

merge(df1, df2)

完整的内部联接（两个表中的所有记录）可以是使用“all”关键字创建：

merge(df1, df2, all=TRUE)

df1 和 df2 的左外连接：

merge(df1, df2, all.x=TRUE)

df1 和 df2 的右外连接：

merge(df1, df2, all.y=TRUE)

您可以翻转它们、拍打它们并摩擦它们以获得您要求的其他两个外连接关于:)

下标方法

使用下标方法在左侧使用 df1 的左外连接将是：

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

外连接的其他组合可以通过混合左外连接下标示例来创建。 （是的，我知道这相当于说“我把它留给读者作为练习......”）

Answer 6

更新用于连接数据集的 data.table 方法。请参阅以下每种连接类型的示例。有两种方法，一种来自 [.data.table ，将第二个 data.table 作为第一个参数传递给子集，另一种方法是使用 merge 函数，该函数分派到快速数据.表方法。

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

以下基准测试基于 R、sqldf、dplyr 和 data.table。
基准测试未加密/未索引的数据集。
基准测试是在 50M-1 行数据集上执行的，连接列上有 50M-2 个公共值，因此可以测试每个场景（内部、左、右、完整），并且连接执行起来仍然不简单。它是强调连接算法的连接类型。计时截至 sqldf:0.4.11、dplyr:0.7.8、data.table:1.12.0。

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

请注意，您还可以使用 data.table 执行其他类型的联接：
- 连接更新 - 如果您想将另一个表中的值查找到主表
- 加入时聚合 - 如果您想聚合您正在加入的键，则不必实现所有连接结果
- 重叠连接 - 如果您想按范围合并
- 滚动连接 - 如果您希望合并能够通过向前或向后滚动来匹配前一行/后一行中的值
- 非等值连接 - 如果您的连接条件为非等值

重现代码：

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul

Answer 7

2014年的新事物：

尤其是如果您对一般数据操作感兴趣（包括分类，过滤，子集，摘要等），则绝对应该看一下dplyr，它带有一个多样性功能的所有旨在专门针对数据框架和某些其他数据库类型的工作。 甚至提供了相当复杂的SQL接口，甚至可以将SQL代码直接转换为R的函数

R。

• 它 = null，copy = false，...）：从
  x y中有匹配值，以及x和y
• left_join的所有列（x，y，by = null，copy = false，...）：返回x的所有行，以及所有行x和y semi_join的列
• （x，y，by = null，copy = false，...）：从x中返回所有行，其中有匹配值
  是的，仅保留x的列。
• anti_join（x，y，by = null，copy = false，...）：从x返回所有行
  在y中没有匹配值的情况下，仅保留x的列

，全部在这里非常详细。

选择列可以通过选择（DF，“列”）完成。如果这对您来说还不够SQL，则有sql（）函数，您可以在其中输入SQL Code AS-IS，并且它将执行您指定的操作，就像您在一直以来（有关更多信息，请参阅 dplyr/databases小插图）。例如，如果正确应用，则sql（“从Hflights中选择 *”）将从“ Hflights” dplyr Table（a“ tbl”）中选择所有列。

Answer 8

dplyr 自 0.4 起实现了所有这些连接，包括 outer_join，但值得注意的是，对于 0.4 之前的前几个版本，它过去不提供 outer_join，并且结果，之后有很多非常糟糕的 hacky 解决方法用户代码在相当长的一段时间内流传（你仍然可以在那个时期的 SO、Kaggle 答案、github 中找到这样的代码。因此，这个答案仍然有用）

与加入相关的发布亮点：

v0.5 (6/2016)

• 处理 POSIXct 类型、时区、重复项、不同因素级别。更好的错误和警告。
• 新的后缀参数用于控制重复变量名称接收的后缀 (#1296)

v0.4.0 (1/2015)

• 实现右连接和外连接 (#96)
• 变异连接，将新变量从另一个表中的匹配行添加到一个表中。过滤连接，根据一个表中的观察值是否与另一表中的观察值匹配来过滤观察值。

v0.3< /strong> (10/2014)

• 现在可以通过每个表中的不同变量进行 left_join： df1 %>% left_join(df2, c("var1" = "var2"))

v0.2 ( 5/2014)

• *_join() 不再重新排序列名称 (#324)

v0.1.3 (4/2014)

• inner_join、left_join、semi_join、anti_join
• outer_join 尚未实现，备用方法是使用 base::merge() （或 plyr::join()）
• 尚未实现 实现 right_join 和 outer_join
• Hadley 在这里提到了其他优点
• 目前有一个小功能合并，但 dplyr 没有能够拥有单独的 by.x,by.y 列 例如Python pandas 可以。

根据 hadley 在该问题中的评论，解决方法是：

• right_join(x,y) 在行方面与 left_join(y,x) 相同，只是列的顺序不同。使用 select(new_column_order) 轻松解决
• outer_join 基本上是 union(left_join(x, y), right_join(x, y)) - 即保留两个数据框中的所有行。

Answer 9

对于左将0 ..*：0..1基数或右连接的情况可以直接从木匠（0..1表）将单方面列将其放置在joinee（0 ..*表）上，从而将避免创建全新的数据表。这就需要将joinee的密钥列匹配到木匠中，并索引+订购木匠的行以进行分配。

如果键是单列，那么我们可以使用一个调用 match（） 进行匹配。我将在此答案中介绍这种情况。

这是一个基于OP的示例，除了我在df2中添加了一个额外的行，并具有7个ID，以测试Joiner中未匹配键的情况。这是有效的df1左JOIN df2：

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

在上面的我硬编码一个假设，即关键列是两个输入表的第一列。我认为，通常，这不是一个不合理的假设，因为，如果您有一个数据。使用键列的框架，如果未设置为Data.frame的第一列，那将很奇怪。一开始。您总是可以重新排序列以使其这样做。该假设的一个有利结果是，尽管我认为它只是用另一个假设替换一个假设，但密钥列的名称不必被硬编码。简洁是整数索引和速度的另一个优点。在下面的基准测试中，我将更改实施方式，以使用字符串名称索引来匹配竞争实现。

我认为，如果您有几张桌子要在一张大桌子上加入，这是一个特别合适的解决方案。反复重建每个合并的整个桌子将是不必要和效率低下的。

另一方面，如果出于任何原因需要大约在此操作中保持不变，则无法使用该解决方案，因为它会直接修改折磨。尽管在这种情况下，您可以简单地制作副本并在副本上执行就地分配。

---

附带说明，我简要研究了多列键的可能匹配解决方案。不幸的是，我发现的唯一匹配解决方案是：

• 效率低下的串联。例如匹配（互动（DF1 $ a，df1 $ b），交互（DF2 $ a，df2 $ b））或与paste（）的相同想法。
• tartesian连词效率低下，例如外部（df1 $ a，df2 $ a，`==`）＆amp;外部（df1 $ b，df2 $ b，`==`）。
• 基本r merge（）和基于等效的包装合并功能，该功能总是分配新表以返回合并结果，因此不适合基于原位分配的解决方案。

例如，请参见不同数据帧上的列，结果获得其他列，匹配两个带有另外两个列的列， /a>，以及这个问题的骗子，我最初提出了现场解决方案，在r 中将两个数据帧与不同数量的行相结合。

---

基准测试

我决定进行自己的基准测试，以查看本地分配方法与此问题中提供的其他解决方案的比较。

测试代码：

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

---

这是我前面证明的OP的基准：

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

---

在这里，我在随机输入数据上基准测试，尝试不同的量表和两个输入表之间的密钥重叠模式的不同模式。该基准仍仅限于单列整数键的情况。同样，为了确保就地解决方案适用于同一表的左右连接，所有随机测试数据均使用0..1：0..1 cardinality。这是通过对第一个数据的密钥列进行采样来实现的。在生成第二个data.frame的密钥列时，框架。

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

我编写了一些代码来创建上述结果的日志图。我为每个重叠百分比生成了一个单独的图。这有点混乱，但是我喜欢拥有所有解决方案类型，并在同一地块中表示加入类型。

我使用样条插值显示了每个解决方案/连接类型组合的平滑曲线，并用单个PCH符号绘制。联接类型由PCH符号捕获，使用一个点，用于左右的内部，左右角括号，以及一颗钻石。解决方案类型由传说中所示的颜色捕获。

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

---

这是第二个大型基准，在钥匙的数量和类型方面更为重型列以及基数。对于此基准测试，我使用三个关键列：一个字符，一个整数和一个逻辑，没有对基数的限制（即，0 ..*：0 ..*：*）。 （通常不建议通过浮点比较并发症定义具有双重或复杂值的密钥列，并且基本上没有人使用原始类型，更不用说键列了，因此我还没有将这些类型包括在键中为了信息的缘故，我最初尝试通过包含Posixct键列使用四个密钥列，但是Posixct类型与sqldf.indexed解决方案效果不佳由于浮点比较异常，因此我将其删除。）

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

所得图，使用上面给出的相同的绘图代码：

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

href =“ https://i.sstatic.net/ytero.png” rel =“ noreferrer”>

https://i.sstatic.net/buxz2.png“ alt =” r-merge-benchmark-systroded-key-key-optional-optional-many-to-many-1“>

Answer 10

在连接两个数据框，每个数据框约有 100 万行，一个有 2 列，另一个有约 20 列时，我惊讶地发现 merge(..., all.x = TRUE, all.y = TRUE)< /code> 比 dplyr::full_join() 更快。这是 dplyr v0.4 的情况，

合并需要约 17 秒，full_join 需要约 65 秒。

不过，有些食物，因为我通常默认使用 dplyr 来执行操作任务。

Answer 11

1. 使用merge函数我们可以选择左表或右表的变量，就像我们熟悉SQL中的select语句一样（例如：Select a.* ...或Select b.* from . ....)

2. 我们必须添加额外的代码，这些代码将从新加入的表中提取子集。

   • SQL :- 从 df1 a 内连接 df2 b 中选择 a.* a.CustomerId=b.CustomerId

   • R :- merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

     < /里>

同样的方式

• SQL :- select b.* from df1 a 内联 df2 b on a.CustomerId=b.CustomerId

• R :- merge(df1, df2, by.x = "CustomerId", by.y =
"CustomerId")[,names(df2)]

Answer 12

更新加入。另外一个重要的SQL风格加入是“ “更新”>更新join “其中一列中的列中的列使用另一个表更新（或创建）表。

修改OP的示例表...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

假设我们想将客户的状态从CUST添加到购买表，sales，忽略年度列。使用基本R，我们可以识别匹配行，然后将复制值复制到：

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

可以看到，Match从客户表中选择第一个匹配行。

---

更新与多列连接。当我们仅加入单列并对第一场比赛感到满意时，上面的方法效果很好。假设我们希望在客户表中的测量年份与销售年相匹配。

正如 @bgoldst的答案所提到的那样，与互动匹配可能是这种情况的选项。更直接地，一个人可以使用数据。表：

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

---

滚动更新加入。 另外，我们可能要采用最新的状态，以下是：在以下情况下，在以下情况下，在以下情况下：

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

---

三个示例都专注于创建/添加新列。请参阅相关的R FAQ 以获取更新/修改现有列的示例。

Answer 13

对于所有列的内部联接，您还可以使用 data.table 包中的 fintersect 或 dplyr< 中的 intersect /em>-package 作为 merge 的替代方案，无需指定 by-列。这将给出两个数据帧之间相等的行：

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3

dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3

data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

---

示例数据：

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)

Answer 14

collapse 2.0 提供了另一个连接框架 join。 它明显比任何其他选项更快。

library(collapse)

join(
  df1, 
  df2, 
  how = c("left", "right", "inner", "full", "semi", "anti")
)