NAを最新の非NA値で置き換える


141

data.frame(またはdata.table)で、NAを以前の最も近い非NA値で「転送」します。(の代わりにdata.frame)ベクトルを使用する簡単な例は次のとおりです。

> y <- c(NA, 2, 2, NA, NA, 3, NA, 4, NA, NA)

私はそのようなものfill.NAs()を構築することを可能にする関数を望みますyy

> yy
[1] NA NA NA  2  2  2  2  3  3  3  4  4

この操作を多くの(合計〜1 Tb)小さなサイズdata.frame(〜30-50 Mb)で繰り返す必要があります。ここで、行はNAであり、そのエントリはすべてです。問題に取り組む良い方法は何ですか?

私が作った醜い解決策はこの関数を使っています:

last <- function (x){
    x[length(x)]
}    

fill.NAs <- function(isNA){
if (isNA[1] == 1) {
    isNA[1:max({which(isNA==0)[1]-1},1)] <- 0 # first is NAs 
                                              # can't be forward filled
}
isNA.neg <- isNA.pos <- isNA.diff <- diff(isNA)
isNA.pos[isNA.diff < 0] <- 0
isNA.neg[isNA.diff > 0] <- 0
which.isNA.neg <- which(as.logical(isNA.neg))
if (length(which.isNA.neg)==0) return(NULL) # generates warnings later, but works
which.isNA.pos <- which(as.logical(isNA.pos))
which.isNA <- which(as.logical(isNA))
if (length(which.isNA.neg)==length(which.isNA.pos)){
    replacement <- rep(which.isNA.pos[2:length(which.isNA.neg)], 
                                which.isNA.neg[2:max(length(which.isNA.neg)-1,2)] - 
                                which.isNA.pos[1:max(length(which.isNA.neg)-1,1)])      
    replacement <- c(replacement, rep(last(which.isNA.pos), last(which.isNA) - last(which.isNA.pos)))
} else {
    replacement <- rep(which.isNA.pos[1:length(which.isNA.neg)], which.isNA.neg - which.isNA.pos[1:length(which.isNA.neg)])     
    replacement <- c(replacement, rep(last(which.isNA.pos), last(which.isNA) - last(which.isNA.pos)))
}
replacement
}

関数fill.NAsは次のように使用されます。

y <- c(NA, 2, 2, NA, NA, 3, NA, 4, NA, NA)
isNA <- as.numeric(is.na(y))
replacement <- fill.NAs(isNA)
if (length(replacement)){
which.isNA <- which(as.logical(isNA))
to.replace <- which.isNA[which(isNA==0)[1]:length(which.isNA)]
y[to.replace] <- y[replacement]
} 

出力

> y
[1] NA  2  2  2  2  3  3  3  4  4  4

動作しているようです... しかし、男、それは醜いです!助言がありますか?


1
これ以降の他の質問から、あなたは今で見つけroll=TRUEたと思いますdata.table
Matt Dowle、2011年

3
新しい方法が次のように導入されfillていますR
Saksham 2015

14
また、をご覧くださいtidyr::fill()
zx8754 2016年

回答:


160

NA値を置き換えるために、zooパッケージのna.locf()関数を使用して、最後の観察を進めたいと思うでしょう。

ヘルプページからの使用例の始まりは次のとおりです。

library(zoo)

az <- zoo(1:6)

bz <- zoo(c(2,NA,1,4,5,2))

na.locf(bz)
1 2 3 4 5 6 
2 2 1 4 5 2 

na.locf(bz, fromLast = TRUE)
1 2 3 4 5 6 
2 1 1 4 5 2 

cz <- zoo(c(NA,9,3,2,3,2))

na.locf(cz)
2 3 4 5 6 
9 3 2 3 2 

2
またna.locf、動物園では、動物園オブジェクトだけでなく通常のベクトルでも機能することに注意してください。そのna.rm引数は、一部のアプリケーションで役立ちます。
G.グロタンディーク

5
na.locf(cz, na.rm=FALSE)リードし続けるために使用しNAます。
BallpointBen 2018年

@BallpointBenのコメントは重要であり、回答に含める必要があります。ありがとう!
ベン・

62

古い質問を掘り下げてごめんなさい。電車の中でこの仕事をする機能を調べられなかったので、自分で書きました。

それがほんの少し速いことを知って私は誇りに思いました。
ただし、柔軟性は低くなります。

しかしave、それは私が必要とするものでうまく機能します。

repeat.before = function(x) {   # repeats the last non NA value. Keeps leading NA
    ind = which(!is.na(x))      # get positions of nonmissing values
    if(is.na(x[1]))             # if it begins with a missing, add the 
          ind = c(1,ind)        # first position to the indices
    rep(x[ind], times = diff(   # repeat the values at these indices
       c(ind, length(x) + 1) )) # diffing the indices + length yields how often 
}                               # they need to be repeated

x = c(NA,NA,'a',NA,NA,NA,NA,NA,NA,NA,NA,'b','c','d',NA,NA,NA,NA,NA,'e')  
xx = rep(x, 1000000)  
system.time({ yzoo = na.locf(xx,na.rm=F)})  
## user  system elapsed   
## 2.754   0.667   3.406   
system.time({ yrep = repeat.before(xx)})  
## user  system elapsed   
## 0.597   0.199   0.793   

編集する

これが私の最も賛成の答えになったとき、私は動物園のmaxgap議論をしばしば必要とするので、自分の関数を使用しないことをしばしば思い出させられました。デバッグできないdplyr +日付を使用する場合、zooはエッジケースでいくつかの奇妙な問題を抱えているため、古い機能を改善するために今日ここに戻ってきました。

私は改善された機能と他のすべてのエントリをここでベンチマークしました。機能の基本セットについては、tidyr::fill最速でありながら、エッジケースに失敗しません。@BrandonBertelsenによるRcppエントリはより高速ですが、入力のタイプに関して柔軟性がありません(彼はの誤解により、エッジケースを誤ってテストしましたall.equal)。

あなたが必要な場合maxgap、以下の私の関数はzooよりも高速です(そして日付に関する奇妙な問題はありません)。

は私のテストドキュメントを上げました。

新機能

repeat_last = function(x, forward = TRUE, maxgap = Inf, na.rm = FALSE) {
    if (!forward) x = rev(x)           # reverse x twice if carrying backward
    ind = which(!is.na(x))             # get positions of nonmissing values
    if (is.na(x[1]) && !na.rm)         # if it begins with NA
        ind = c(1,ind)                 # add first pos
    rep_times = diff(                  # diffing the indices + length yields how often
        c(ind, length(x) + 1) )          # they need to be repeated
    if (maxgap < Inf) {
        exceed = rep_times - 1 > maxgap  # exceeding maxgap
        if (any(exceed)) {               # any exceed?
            ind = sort(c(ind[exceed] + 1, ind))      # add NA in gaps
            rep_times = diff(c(ind, length(x) + 1) ) # diff again
        }
    }
    x = rep(x[ind], times = rep_times) # repeat the values at these indices
    if (!forward) x = rev(x)           # second reversion
    x
}

また、関数をフォーマパッケージに入れました(Githubのみ)。


2
+1、しかしこれをdf複数の列を持つに適用したい場合は、列ごとにループする必要があると思いますか?
Zhubarb 2014年

3
@Ruben報告ありがとうございます。現在、バグはR-Forgeで修正されています。またna.locf0、スコープとパフォーマンスがrepeat_last関数に似ている主力関数を調整してエクスポートしました。手掛かりは、ではdiffなく、使用するcumsumことifelseでした。主なna.locf.default機能はまだそれがいくつかのより多くのチェックとハンドル複数の列などないのでやや遅い
アヒムZeileisを

23

data.table解決策:

dt <- data.table(y = c(NA, 2, 2, NA, NA, 3, NA, 4, NA, NA))
dt[, y_forward_fill := y[1], .(cumsum(!is.na(y)))]
dt
     y y_forward_fill
 1: NA             NA
 2:  2              2
 3:  2              2
 4: NA              2
 5: NA              2
 6:  3              3
 7: NA              3
 8:  4              4
 9: NA              4
10: NA              4

このアプローチは、ゼロを前方に埋める場合にも機能します。

dt <- data.table(y = c(0, 2, -2, 0, 0, 3, 0, -4, 0, 0))
dt[, y_forward_fill := y[1], .(cumsum(y != 0))]
dt
     y y_forward_fill
 1:  0              0
 2:  2              2
 3: -2             -2
 4:  0             -2
 5:  0             -2
 6:  3              3
 7:  0              3
 8: -4             -4
 9:  0             -4
10:  0             -4

この方法は、大規模なデータや、グループごとにフォワードフィルを実行する場合に非常に役立ちますdata.table。ロジックのby前の節にグループを追加するだけcumsumです。

dt <- data.table(group = sample(c('a', 'b'), 20, replace = TRUE), y = sample(c(1:4, rep(NA, 4)), 20 , replace = TRUE))
dt <- dt[order(group)]
dt[, y_forward_fill := y[1], .(group, cumsum(!is.na(y)))]
dt
    group  y y_forward_fill
 1:     a NA             NA
 2:     a NA             NA
 3:     a NA             NA
 4:     a  2              2
 5:     a NA              2
 6:     a  1              1
 7:     a NA              1
 8:     a  3              3
 9:     a NA              3
10:     a NA              3
11:     a  4              4
12:     a NA              4
13:     a  1              1
14:     a  4              4
15:     a NA              4
16:     a  3              3
17:     b  4              4
18:     b NA              4
19:     b NA              4
20:     b  2              2

1
グループでこれを行う機能は素晴らしいです!
JCWong

22

大きなデータ量を処理する場合、より効率的にするために、data.tableパッケージを使用できます。

require(data.table)
replaceNaWithLatest <- function(
  dfIn,
  nameColNa = names(dfIn)[1]
){
  dtTest <- data.table(dfIn)
  setnames(dtTest, nameColNa, "colNa")
  dtTest[, segment := cumsum(!is.na(colNa))]
  dtTest[, colNa := colNa[1], by = "segment"]
  dtTest[, segment := NULL]
  setnames(dtTest, "colNa", nameColNa)
  return(dtTest)
}

2
:それは直接、複数のNA列にそれを適用することができるようにlapplyを追加することができますreplaceNaWithLatest <- function( dfIn, nameColsNa = names(dfIn)[1] ){ dtTest <- data.table(dfIn) invisible(lapply(nameColsNa, function(nameColNa){ setnames(dtTest, nameColNa, "colNa") dtTest[, segment := cumsum(!is.na(colNa))] dtTest[, colNa := colNa[1], by = "segment"] dtTest[, segment := NULL] setnames(dtTest, "colNa", nameColNa) })) return(dtTest) }
xclotet

最初はこのソリューションに興奮していましたが、実際にはまったく同じことを行っていません。問題は、あるデータセットを別のデータセットで埋めることについてです。この答えは単なる帰属です。
Hack-R

19

私の帽子を投げる:

library(Rcpp)
cppFunction('IntegerVector na_locf(IntegerVector x) {
  int n = x.size();

  for(int i = 0; i<n; i++) {
    if((i > 0) && (x[i] == NA_INTEGER) & (x[i-1] != NA_INTEGER)) {
      x[i] = x[i-1];
    }
  }
  return x;
}')

基本的なサンプルとベンチマークを設定します。

x <- sample(c(1,2,3,4,NA))

bench_em <- function(x,count = 10) {
  x <- sample(x,count,replace = TRUE)
  print(microbenchmark(
    na_locf(x),
    replace_na_with_last(x),
    na.lomf(x),
    na.locf(x),
    repeat.before(x)
  ), order = "mean", digits = 1)
}

そして、いくつかのベンチマークを実行します。

bench_em(x,1e6)

Unit: microseconds
                    expr   min    lq  mean median    uq   max neval
              na_locf(x)   697   798   821    814   821 1e+03   100
              na.lomf(x)  3511  4137  5002   4214  4330 1e+04   100
 replace_na_with_last(x)  4482  5224  6473   5342  5801 2e+04   100
        repeat.before(x)  4793  5044  6622   5097  5520 1e+04   100
              na.locf(x) 12017 12658 17076  13545 19193 2e+05   100

念のため:

all.equal(
     na_locf(x),
     replace_na_with_last(x),
     na.lomf(x),
     na.locf(x),
     repeat.before(x)
)
[1] TRUE

更新

数値ベクトルの場合、関数は少し異なります。

NumericVector na_locf_numeric(NumericVector x) {
  int n = x.size();
  LogicalVector ina = is_na(x);

  for(int i = 1; i<n; i++) {
    if((ina[i] == TRUE) & (ina[i-1] != TRUE)) {
      x[i] = x[i-1];
    }
  }
  return x;
}

15

これは私のために働きました:

  replace_na_with_last<-function(x,a=!is.na(x)){
     x[which(a)[c(1,1:sum(a))][cumsum(a)+1]]
  }


> replace_na_with_last(c(1,NA,NA,NA,3,4,5,NA,5,5,5,NA,NA,NA))

[1] 1 1 1 1 3 4 5 5 5 5 5 5 5 5

> replace_na_with_last(c(NA,"aa",NA,"ccc",NA))

[1] "aa"  "aa"  "aa"  "ccc" "ccc"

速度も妥当です:

> system.time(replace_na_with_last(sample(c(1,2,3,NA),1e6,replace=TRUE)))


 user  system elapsed 

 0.072   0.000   0.071 

2
この関数は、先頭のNAがある場合に期待どおりに動作しません。replace_na_with_last(c(NA,1:4,NA))(つまり、次の値が入力されています)。これはのデフォルトの動作でもありますimputeTS::na.locf(x, na.remaining = "rev")
Ruben

このケースのデフォルトを追加する方が良い、少し異なるアプローチ: replace_na_with_last<-function(x,p=is.na,d=0)c(d,x)[cummax(seq_along(x)*(!p(x)))+1]
Nick Nassuphis

@NickNassuphisの答えは短く、甘く、パッケージに依存せず、dplyrパイプでうまく機能します!
キム

14

この機能を試してください。ZOOパッケージは必要ありません。

# last observation moved forward
# replaces all NA values with last non-NA values
na.lomf <- function(x) {

    na.lomf.0 <- function(x) {
        non.na.idx <- which(!is.na(x))
        if (is.na(x[1L])) {
            non.na.idx <- c(1L, non.na.idx)
        }
        rep.int(x[non.na.idx], diff(c(non.na.idx, length(x) + 1L)))
    }

    dim.len <- length(dim(x))

    if (dim.len == 0L) {
        na.lomf.0(x)
    } else {
        apply(x, dim.len, na.lomf.0)
    }
}

例:

> # vector
> na.lomf(c(1, NA,2, NA, NA))
[1] 1 1 2 2 2
> 
> # matrix
> na.lomf(matrix(c(1, NA, NA, 2, NA, NA), ncol = 2))
     [,1] [,2]
[1,]    1    2
[2,]    1    2
[3,]    1    2

これを改善するには、これを追加できますif (!anyNA(x)) return(x)
Artem Klevtsov、2018年

13

リーディングを持つことNAは少ししわですが、リーディングタームが欠落していないときにLOCFを実行する非常に読みやすい(およびベクトル化された)方法を見つけます。

na.omit(y)[cumsum(!is.na(y))]

少し読みにくい修正が一般的に機能します:

c(NA, na.omit(y))[cumsum(!is.na(y))+1]

望ましい出力を与えます:

c(NA, 2, 2, 2, 2, 3, 3, 4, 4, 4)


3
これはかなりエレガントです。それがすべてのケースで機能するかどうかはわかりませんが、私にとっては確実に機能しました!
ABT 2018

12

あなたは使用することができるdata.table機能nafillから入手し、data.table >= 1.12.3

library(data.table)
nafill(y, type = "locf")
# [1] NA  2  2  2  2  3  3  4  4  4

ベクトルがの列の場合はdata.table、次のように参照して更新することもできますsetnafill

d <- data.table(x = 1:10, y)
setnafill(d, type = "locf", cols = "y")
d
#      x  y
#  1:  1 NA
#  2:  2  2
#  3:  3  2
#  4:  4  2
#  5:  5  2
#  6:  6  3
#  7:  7  3
#  8:  8  4
#  9:  9  4
# 10: 10  4

NA複数の列にある場合...

d <- data.table(x = c(1, NA, 2), y = c(2, 3, NA), z = c(4, NA, 5))
#     x  y  z
# 1:  1  2  4
# 2: NA  3 NA
# 3:  2 NA  5

...一度に参照によりそれらを埋めることができます:

setnafill(d, type = "locf")
d
#    x y z
# 1: 1 2 4
# 2: 1 3 4
# 3: 2 3 5

ご了承ください:

現在サポートされているのは、doubleおよびintegerデータ型のみdata.table 1.12.6です。

機能はまもなく拡張されるでしょう。未解決の問題nafill、setnafill(キャラクター、ファクター、その他のタイプ)を参照してください一時的な回避策もあります。


5

tidyverseパッケージはそれを行う簡単な方法を提案します:

y = c(NA, 2, 2, NA, NA, 3, NA, 4, NA, NA)

# first, transform it into a data.frame

y = as.data.frame(y)
   y
1  NA
2   2
3   2
4  NA
5  NA
6   3
7  NA
8   4
9  NA
10 NA

fill(y, y, .direction = 'down')
    y
1  NA
2   2
3   2
4   2
5   2
6   3
7   3
8   4
9   4
10  4

3

na.locfNALast Observation Carried Forward)機能を提供する一連のパッケージがあります。

  • xts - xts::na.locf
  • zoo - zoo::na.locf
  • imputeTS - imputeTS::na.locf
  • spacetime - spacetime::na.locf

また、この関数の名前が異なる他のパッケージ。


2

Brandon BertelsenのRcpp貢献のフォローアップ。私にとって、NumericVectorバージョンは機能しませんでした。最初のNAを置き換えただけです。これは、inaベクトルが関数の最初に一度だけ評価されるためです。

代わりに、IntegerVector関数とまったく同じアプローチを取ることができます。以下は私のために働きました:

library(Rcpp)
cppFunction('NumericVector na_locf_numeric(NumericVector x) {
  R_xlen_t n = x.size();
  for(R_xlen_t i = 0; i<n; i++) {
    if(i > 0 && !R_finite(x[i]) && R_finite(x[i-1])) {
      x[i] = x[i-1];
    }
  }
  return x;
}')

CharacterVectorバージョンが必要な場合は、同じ基本的なアプローチも機能します。

cppFunction('CharacterVector na_locf_character(CharacterVector x) {
  R_xlen_t n = x.size();
  for(R_xlen_t i = 0; i<n; i++) {
    if(i > 0 && x[i] == NA_STRING && x[i-1] != NA_STRING) {
      x[i] = x[i-1];
    }
  }
  return x;
}')

int n = x.size()およびfor(int i = 0; i <n; i ++)はdoubleに置き換える必要があります。Rでは、ベクトルはc ++ intサイズよりも大きくなる可能性があります。
stats0007 2017年

この関数は "R_xlen_t"を返すようです。Rが長いベクトルサポートでコンパイルされている場合、これはptrdiff_tとして定義されます。そうでない場合は、intです。訂正ありがとうございます!
エヴァンCortens

1

@AdamOのソリューションの修正を以下に示します。これはna.omit関数をバイパスするため、より高速に実行されます。これによりNA、ベクトルの値が上書きされますy(先頭NAのs を除く)。

   z  <- !is.na(y)                  # indicates the positions of y whose values we do not want to overwrite
   z  <- z | !cumsum(z)             # for leading NA's in y, z will be TRUE, otherwise it will be FALSE where y has a NA and TRUE where y does not have a NA
   y  <- y[z][cumsum(z)]

0

私は以下を試しました:

nullIdx <- as.array(which(is.na(masterData$RequiredColumn)))
masterData$RequiredColumn[nullIdx] = masterData$RequiredColumn[nullIdx-1]

nullIdxは、masterData $ RequiredColumnがNull / NA値を持つ場合にidx番号を取得します。次の行で、対応するIdx-1値、つまり各NULL / NAの前の最後の適切な値に置き換えます


複数の連続する欠損値がある場合、これは機能しません-に1 NA NA変わり1 1 NAます。また、as.array()不要だと思います。
グレゴールトーマス

0

これは私にとってはうまくいきましたが、他の提案よりも効率的かどうかはわかりません。

rollForward <- function(x){
  curr <- 0
  for (i in 1:length(x)){
    if (is.na(x[i])){
      x[i] <- curr
    }
    else{
      curr <- x[i]
    }
  }
  return(x)
}

0
fill.NAs <- function(x) {is_na<-is.na(x); x[Reduce(function(i,j) if (is_na[j]) i else j, seq_len(length(x)), accumulate=T)]}

fill.NAs(c(NA, 2, 2, NA, NA, 3, NA, 4, NA, NA))

[1] NA  2  2  2  2  3  3  4  4  4

Reduceは、同様のタスクに役立つ可能性がある優れた関数型プログラミングの概念です。残念ながら、Rではrepeat.before、上記の回答よりも70倍遅くなっています。


0

私は個人的にこの機能を使っています。どれほど速いか遅いかわかりません。しかし、それはライブラリを使用する必要なくその仕事をします。

replace_na_with_previous<-function (vector) {
        if (is.na(vector[1])) 
            vector[1] <- na.omit(vector)[1]
        for (i in 1:length(vector)) {
            if ((i - 1) > 0) {
                if (is.na(vector[i])) 
                    vector[i] <- vector[i - 1]
            }
        }
        return(vector)
    }

この関数をデータフレームに適用する場合、データフレームがdfと呼ばれる場合は、単純に

df[]<-lapply(df,replace_na_with_previous)
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.