2つのdata.framesを比較して、data.frame 2に存在しないdata.frame 1の行を見つけます。


161

次の2つのdata.framesがあります。

a1 <- data.frame(a = 1:5, b=letters[1:5])
a2 <- data.frame(a = 1:3, b=letters[1:3])

行a1にa2にはない行を見つけたいのですが。

このタイプの操作のための組み込み関数はありますか?

(ps:私はそれに対する解決策を書きました、誰かがすでにより巧妙に細工されたコードを既に作成しているかどうか私は単に興味があります)

これが私の解決策です:

a1 <- data.frame(a = 1:5, b=letters[1:5])
a2 <- data.frame(a = 1:3, b=letters[1:3])

rows.in.a1.that.are.not.in.a2  <- function(a1,a2)
{
    a1.vec <- apply(a1, 1, paste, collapse = "")
    a2.vec <- apply(a2, 1, paste, collapse = "")
    a1.without.a2.rows <- a1[!a1.vec %in% a2.vec,]
    return(a1.without.a2.rows)
}
rows.in.a1.that.are.not.in.a2(a1,a2)

回答:


88

これはあなたの質問に直接答えるものではありませんが、共通する要素を提供します。これは、Paul Murrellのパッケージで実行できますcompare

library(compare)
a1 <- data.frame(a = 1:5, b = letters[1:5])
a2 <- data.frame(a = 1:3, b = letters[1:3])
comparison <- compare(a1,a2,allowAll=TRUE)
comparison$tM
#  a b
#1 1 a
#2 2 b
#3 3 c

この関数compareは、どのような種類の比較を許可するか(たとえば、各ベクトルの要素の順序の変更、変数の順序と名前の変更、変数の短縮、文字列の大文字と小文字の変更)に関して多くの柔軟性を提供します。これから、どちらか一方に欠けていたものがわかるはずです。たとえば(これはあまりエレガントではありません):

difference <-
   data.frame(lapply(1:ncol(a1),function(i)setdiff(a1[,i],comparison$tM[,i])))
colnames(difference) <- colnames(a1)
difference
#  a b
#1 4 d
#2 5 e

3
この機能は混乱します。うまくいくと思いましたが、一方のセットにもう一方のセットと完全に一致する行が含まれている場合にのみ、上記のように機能するようです。この場合を考えてみましょう:a2 <- data.frame(a = c(1:3, 1), b = c(letters[1:3], "c"))a1同じままにします。比較してみましょう。オプションを読んでも、一般的な要素だけをリストする適切な方法は何なのか、私にはわかりません。
ヘンディ2013

148

SQLDF 素晴らしい解決策を提供します

a1 <- data.frame(a = 1:5, b=letters[1:5])
a2 <- data.frame(a = 1:3, b=letters[1:3])

require(sqldf)

a1NotIna2 <- sqldf('SELECT * FROM a1 EXCEPT SELECT * FROM a2')

そして、両方のデータフレームにある行:

a1Ina2 <- sqldf('SELECT * FROM a1 INTERSECT SELECT * FROM a2')

の新しいバージョンにdplyrは、anti_joinまさにこれらの種類の比較のための関数があります。

require(dplyr) 
anti_join(a1,a2)

そしてその中のsemi_join行をフィルタリングするためにa1a2

semi_join(a1,a2)

18
てくれてありがとうanti_joinsemi_join
drastega

sqldfと同様に、anti_joinがnull DFを返す理由はありますか?しかし、関数同一(a1、a2)とall.equal()はそれと矛盾しますか?
2017年

私のようにanti_joinとsemi_joinが機能しない場合があることをここに追加したいと思います。データフレームで「エラー:列は1dアトミックベクトルまたはリストである必要があります」が表示されました。たぶん、これらの関数が機能するようにデータを処理できます。Sqldfはすぐに動作しました!
Akshay Gaur 2017年

@AkshayGaurは、データ形式またはデータクリーニングの問題である必要があります。sqldfは単なるsqlです。データに対してsqlを実行できるように、すべてがnromal DBのように前処理されます。
stucash

75

ではdplyr

setdiff(a1,a2)

基本的に、 setdiff(bigFrame, smallFrame)に、最初のテーブルの追加レコードを取得します。

SQLverseでは、これは

ベンベン図を除く左

すべての結合オプションと設定された主題の適切な説明については、これは私がこれまでにまとめた中で見た中で最高の要約の1つです。http//www.vertabelo.com/blog/technical-articles/sql-joins

しかし、この質問に戻りsetdiff()ます-OPのデータを使用したときのコードの結果は次のとおりです。

> a1
  a b
1 1 a
2 2 b
3 3 c
4 4 d
5 5 e

> a2
  a b
1 1 a
2 2 b
3 3 c

> setdiff(a1,a2)
  a b
1 4 d
2 5 e

またはanti_join(a1,a2)、同じ結果が得られます。
詳細:https : //www.rstudio.com/wp-content/uploads/2015/02/data-wrangling-cheatsheet.pdf


2
OP a1はにないアイテムを要求するので、a2次のようなものを使用しませんsemi_join(a1, a2, by = c('a','b'))か?「リッカード」の答えには、それsemi_joinが示唆されていたようです。
steveb 2016

承知しました!別の素晴らしい選択肢もあります。特に、結合キーのみがあり、列名が異なるデータフレームがある場合。
leerssej 2017

setdiffはlubridate :: setdiffからであり、library(dplyr)からではありません
mtelesha

@mtelesha -うーん、のためのドキュメントとソースコードdplyrそれがそこにいるショー:(dplyr.tidyverse.org/reference/setops.htmlgithub.com/tidyverse/dplyr/blob/master/R/sets。 )。さらに、dplyrライブラリが読み込まれるとsetdiff()、2つのベクトルで動作する基本関数のマスキングも報告されます:stat.ethz.ch/R-manual/R-devel/library/base/html/sets.html。多分あなたはdplyrの後に潤滑ライブラリをロードしていて、それがtabcompleteリストのソースとしてそれを示唆していますか?
leerssej 2018

1
lubridateとdplyrの間に競合があります。github.com
tidyverse /

39

この特定の目的には確かに効率的ではありませんが、これらの状況でよく行うのは、各data.frameにインジケーター変数を挿入してからマージすることです。

a1$included_a1 <- TRUE
a2$included_a2 <- TRUE
res <- merge(a1, a2, all=TRUE)

included_a1の欠損値は、a1で欠損している行を示します。a2についても同様です。

ソリューションの1つの問題は、列の順序が一致する必要があることです。もう1つの問題は、実際には異なるのに行が同じものとしてコーディングされている状況を想像するのは簡単なことです。マージを使用する利点は、優れたソリューションに必要なすべてのエラーチェックを無料で利用できることです。


したがって、欠損値を探す際に、別の欠損値を作成します...欠損値をどのようにして見つけますincluded_a1か?:-/
ルイマドックス2014

1
is.na()とサブセット、またはdplyr :: filterを使用
Eduardo Leoni

新しいライブラリをインストールせずに方法を教えてくれてありがとう!
ロドリゴ

27

同じ問題が発生したため、パッケージ(https://github.com/alexsanjoseph/compareDF)を作成しました。

  > df1 <- data.frame(a = 1:5, b=letters[1:5], row = 1:5)
  > df2 <- data.frame(a = 1:3, b=letters[1:3], row = 1:3)
  > df_compare = compare_df(df1, df2, "row")

  > df_compare$comparison_df
    row chng_type a b
  1   4         + 4 d
  2   5         + 5 e

より複雑な例:

library(compareDF)
df1 = data.frame(id1 = c("Mazda RX4", "Mazda RX4 Wag", "Datsun 710",
                         "Hornet 4 Drive", "Duster 360", "Merc 240D"),
                 id2 = c("Maz", "Maz", "Dat", "Hor", "Dus", "Mer"),
                 hp = c(110, 110, 181, 110, 245, 62),
                 cyl = c(6, 6, 4, 6, 8, 4),
                 qsec = c(16.46, 17.02, 33.00, 19.44, 15.84, 20.00))

df2 = data.frame(id1 = c("Mazda RX4", "Mazda RX4 Wag", "Datsun 710",
                         "Hornet 4 Drive", " Hornet Sportabout", "Valiant"),
                 id2 = c("Maz", "Maz", "Dat", "Hor", "Dus", "Val"),
                 hp = c(110, 110, 93, 110, 175, 105),
                 cyl = c(6, 6, 4, 6, 8, 6),
                 qsec = c(16.46, 17.02, 18.61, 19.44, 17.02, 20.22))

> df_compare$comparison_df
    grp chng_type                id1 id2  hp cyl  qsec
  1   1         -  Hornet Sportabout Dus 175   8 17.02
  2   2         +         Datsun 710 Dat 181   4 33.00
  3   2         -         Datsun 710 Dat  93   4 18.61
  4   3         +         Duster 360 Dus 245   8 15.84
  5   7         +          Merc 240D Mer  62   4 20.00
  6   8         -            Valiant Val 105   6 20.22

パッケージには、迅速なチェックのためのhtml_outputコマンドも含まれています

df_compare $ html_output ここに画像の説明を入力してください


あなたのcompareDFはまさに私が必要とするものであり、小さなセットで良い仕事をしました。2)HTMLの書き込みに時間がかかることもわかります。同じ出力をTEXTファイルに送信できますか?
ディープ

1)5,000万行は大量のデータです。メモリに保持するだけです;)大規模なデータセットではうまくいかないことを私は知っているので、何らかのチャンキングを行う必要があるかもしれません。2)引数-limit_html = 0を指定して、HTMLへの出力を回避できます。同じ出力がcompare_output $ comparison_dfにもあり、ネイティブR関数を使用してCSV / TEXTファイルに書き込むことができます。
Alex Joseph

@Alex Josephの返信ありがとうございます。試してみて、どのようになるかをお知らせします。
ディープ

こんにちは@Alexヨセフは、入力用のおかげで、テキスト形式は、仕事をしましたが、問題を発見し、下でそれを提起:stackoverflow.com/questions/54880218/...
ディープ

異なる数の列を処理することはできません。エラーが発生しましたThe two data frames have different columns!
PeyM87

14

あなたはdaffパッケージを使用することができますパッケージを使用してdaff.jsライブラリをラップしV8ます):

library(daff)

diff_data(data_ref = a2,
          data = a1)

次の差分オブジェクトを生成します。

Daff Comparison: ‘a2’ vs. ‘a1’ 
  First 6 and last 6 patch lines:
   @@   a   b
1 ... ... ...
2       3   c
3 +++   4   d
4 +++   5   e
5 ... ... ...
6 ... ... ...
7       3   c
8 +++   4   d
9 +++   5   e

差分形式については、表のCoopy蛍光ペンの差分形式で説明されており、一目瞭然です。+++最初の列にあるの行@@は、に新しく、にa1存在しない行a2です。

差分オブジェクトを使用してpatch_data()、を使用してドキュメント化の目的で差分を保存しwrite_diff()たり、次を使用して差分を視覚化render_diff()したりできます。

render_diff(
    diff_data(data_ref = a2,
              data = a1)
)

きちんとしたHTML出力を生成します。

ここに画像の説明を入力してください


10

diffobjパッケージの使用:

library(diffobj)

diffPrint(a1, a2)
diffObj(a1, a2)

ここに画像の説明を入力してください

ここに画像の説明を入力してください


10

私は mergeこの機能を取得するために関数。より大きなデータフレームでは、完全なマージソリューションよりも少ないメモリを使用します。そして、キー列の名前で遊ぶことができます。

別の解決策は、ライブラリを使用することですprob

#  Derived from src/library/base/R/merge.R
#  Part of the R package, http://www.R-project.org
#
#  This program is free software; you can redistribute it and/or modify
#  it under the terms of the GNU General Public License as published by
#  the Free Software Foundation; either version 2 of the License, or
#  (at your option) any later version.
#
#  This program is distributed in the hope that it will be useful,
#  but WITHOUT ANY WARRANTY; without even the implied warranty of
#  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
#  GNU General Public License for more details.
#
#  A copy of the GNU General Public License is available at
#  http://www.r-project.org/Licenses/

XinY <-
    function(x, y, by = intersect(names(x), names(y)), by.x = by, by.y = by,
             notin = FALSE, incomparables = NULL,
             ...)
{
    fix.by <- function(by, df)
    {
        ## fix up 'by' to be a valid set of cols by number: 0 is row.names
        if(is.null(by)) by <- numeric(0L)
        by <- as.vector(by)
        nc <- ncol(df)
        if(is.character(by))
            by <- match(by, c("row.names", names(df))) - 1L
        else if(is.numeric(by)) {
            if(any(by < 0L) || any(by > nc))
                stop("'by' must match numbers of columns")
        } else if(is.logical(by)) {
            if(length(by) != nc) stop("'by' must match number of columns")
            by <- seq_along(by)[by]
        } else stop("'by' must specify column(s) as numbers, names or logical")
        if(any(is.na(by))) stop("'by' must specify valid column(s)")
        unique(by)
    }

    nx <- nrow(x <- as.data.frame(x)); ny <- nrow(y <- as.data.frame(y))
    by.x <- fix.by(by.x, x)
    by.y <- fix.by(by.y, y)
    if((l.b <- length(by.x)) != length(by.y))
        stop("'by.x' and 'by.y' specify different numbers of columns")
    if(l.b == 0L) {
        ## was: stop("no columns to match on")
        ## returns x
        x
    }
    else {
        if(any(by.x == 0L)) {
            x <- cbind(Row.names = I(row.names(x)), x)
            by.x <- by.x + 1L
        }
        if(any(by.y == 0L)) {
            y <- cbind(Row.names = I(row.names(y)), y)
            by.y <- by.y + 1L
        }
        ## create keys from 'by' columns:
        if(l.b == 1L) {                  # (be faster)
            bx <- x[, by.x]; if(is.factor(bx)) bx <- as.character(bx)
            by <- y[, by.y]; if(is.factor(by)) by <- as.character(by)
        } else {
            ## Do these together for consistency in as.character.
            ## Use same set of names.
            bx <- x[, by.x, drop=FALSE]; by <- y[, by.y, drop=FALSE]
            names(bx) <- names(by) <- paste("V", seq_len(ncol(bx)), sep="")
            bz <- do.call("paste", c(rbind(bx, by), sep = "\r"))
            bx <- bz[seq_len(nx)]
            by <- bz[nx + seq_len(ny)]
        }
        comm <- match(bx, by, 0L)
        if (notin) {
            res <- x[comm == 0,]
        } else {
            res <- x[comm > 0,]
        }
    }
    ## avoid a copy
    ## row.names(res) <- NULL
    attr(res, "row.names") <- .set_row_names(nrow(res))
    res
}


XnotinY <-
    function(x, y, by = intersect(names(x), names(y)), by.x = by, by.y = by,
             notin = TRUE, incomparables = NULL,
             ...)
{
    XinY(x,y,by,by.x,by.y,notin,incomparables)
}

7

サンプルデータには重複はありませんが、ソリューションでは自動的に処理されます。つまり、重複している場合、回答の一部が関数の結果と一致しない可能性があります。
これがあなたと同じ方法で重複する私の解決策です。また、スケールも素晴らしいです!

a1 <- data.frame(a = 1:5, b=letters[1:5])
a2 <- data.frame(a = 1:3, b=letters[1:3])
rows.in.a1.that.are.not.in.a2  <- function(a1,a2)
{
    a1.vec <- apply(a1, 1, paste, collapse = "")
    a2.vec <- apply(a2, 1, paste, collapse = "")
    a1.without.a2.rows <- a1[!a1.vec %in% a2.vec,]
    return(a1.without.a2.rows)
}

library(data.table)
setDT(a1)
setDT(a2)

# no duplicates - as in example code
r <- fsetdiff(a1, a2)
all.equal(r, rows.in.a1.that.are.not.in.a2(a1,a2))
#[1] TRUE

# handling duplicates - make some duplicates
a1 <- rbind(a1, a1, a1)
a2 <- rbind(a2, a2, a2)
r <- fsetdiff(a1, a2, all = TRUE)
all.equal(r, rows.in.a1.that.are.not.in.a2(a1,a2))
#[1] TRUE

data.table 1.9.8以降が必要です


2

多分それは単純すぎるかもしれませんが、私はこのソリューションを使用しました、そして私がデータセットを比較するために使用できる主キーを持っているとき、それは非常に有用であるとわかります。お役に立てれば幸いです。

a1 <- data.frame(a = 1:5, b = letters[1:5])
a2 <- data.frame(a = 1:3, b = letters[1:3])
different.names <- (!a1$a %in% a2$a)
not.in.a2 <- a1[different.names,]

これはOPがすでに試したものとどう違うのですか?Talとまったく同じコードを使用して、行全体ではなく単一の列を比較しました(これは要件でした)
David Arenburg

1

plyrのmatch_dfに基づくさらに別のソリューション。ここにplyrのmatch_dfがあります:

match_df <- function (x, y, on = NULL) 
{
    if (is.null(on)) {
        on <- intersect(names(x), names(y))
        message("Matching on: ", paste(on, collapse = ", "))
    }
    keys <- join.keys(x, y, on)
    x[keys$x %in% keys$y, , drop = FALSE]
}

それを変更して否定することができます:

library(plyr)
negate_match_df <- function (x, y, on = NULL) 
{
    if (is.null(on)) {
        on <- intersect(names(x), names(y))
        message("Matching on: ", paste(on, collapse = ", "))
    }
    keys <- join.keys(x, y, on)
    x[!(keys$x %in% keys$y), , drop = FALSE]
}

次に:

diff <- negate_match_df(a1,a2)

1

使用subset

missing<-subset(a1, !(a %in% a2$a))

この答えは、OPのシナリオで機能します。変数 "a"は2つのdata.frames( "a1"と "a2")の間で一致しますが、変数 "b"は一致しない、より一般的なケースはどうですか?
ブライアンF

1

次のコードでは、data.tableとの両方を使用fastmatchして速度を向上させています。

library("data.table")
library("fastmatch")

a1 <- setDT(data.frame(a = 1:5, b=letters[1:5]))
a2 <- setDT(data.frame(a = 1:3, b=letters[1:3]))

compare_rows <- a1$a %fin% a2$a
# the %fin% function comes from the `fastmatch` package

added_rows <- a1[which(compare_rows == FALSE)]

added_rows

#    a b
# 1: 4 d
# 2: 5 e
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.