read.csv警告 '引用文字列内のEOF'はファイルの完全な読み取りを妨げます


125

私が持っているCSVファイル(24.1メガバイト)私は完全に私のRセッションに読み込むことができないということを。スプレッドシートプログラムでファイルを開くと、112,544行が表示されます。私がそれをRに読み込んだときread.csv、56,952行とこの警告しか得られません:

cit <- read.csv("citations.CSV", row.names = NULL, 
                comment.char = "", header = TRUE, 
                stringsAsFactors = FALSE,  
                colClasses= "character", encoding= "utf-8")

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

私はファイル全体をRに読み込むことができますreadLines

rl <- readLines(file("citations.CSV", encoding = "utf-8"))
length(rl)
[1] 112545

しかし、これを(を介してread.csv)テーブルとしてRに戻すことはできません。

write.table(rl, "rl.txt", quote = FALSE, row.names = FALSE)
rl_in <- read.csv("rl.txt", skip = 1, row.names = NULL)

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

このEOFメッセージ(警告ではなくエラーのようです)を解決または回避して、ファイル全体をRセッションに取り込むにはどうすればよいですか?

CSVファイルを読み取る他の方法でも同様の問題があります。

require(sqldf)
cit_sql <- read.csv.sql("citations.CSV", sql = "select * from file")
require(data.table)
cit_dt <- fread("citations.CSV")
require(ff)
cit_ff <- read.csv.ffdf(file="citations.CSV")

これが私のsessionInfo()です

R version 3.0.1 (2013-05-16)
Platform: x86_64-w64-mingw32/x64 (64-bit)

locale:
[1] LC_COLLATE=English_United States.1252  LC_CTYPE=English_United States.1252   
[3] LC_MONETARY=English_United States.1252 LC_NUMERIC=C                          
[5] LC_TIME=English_United States.1252    

attached base packages:
[1] tools     tcltk     stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
 [1] ff_2.2-11             bit_1.1-10            data.table_1.8.8      sqldf_0.4-6.4        
 [5] RSQLite.extfuns_0.0.1 RSQLite_0.11.4        chron_2.3-43          gsubfn_0.6-5         
 [9] proto_0.3-10          DBI_0.2-7   

回答:


197

引用を無効にする必要があります。

cit <- read.csv("citations.CSV", quote = "", 
                 row.names = NULL, 
                 stringsAsFactors = FALSE)

str(cit)
## 'data.frame':    112543 obs. of  13 variables:
##  $ row.names    : chr  "10.2307/675394" "10.2307/30007362" "10.2307/4254931" "10.2307/20537934" ...
##  $ id           : chr  "10.2307/675394\t" "10.2307/30007362\t" "10.2307/4254931\t" "10.2307/20537934\t" ...
##  $ doi          : chr  "Archaeological Inference and Inductive Confirmation\t" "Sound and Sense in Cath Almaine\t" "Oak Galls Preserved by the Eruption of Mount Vesuvius in A.D. 79_ and Their Probable Use\t" "The Arts Four Thousand Years Ago\t" ...
##  $ title        : chr  "Bruce D. Smith\t" "Tomás Ó Cathasaigh\t" "Hiram G. Larew\t" "\t" ...
##  $ author       : chr  "American Anthropologist\t" "Ériu\t" "Economic Botany\t" "The Illustrated Magazine of Art\t" ...
##  $ journaltitle : chr  "79\t" "54\t" "41\t" "1\t" ...
##  $ volume       : chr  "3\t" "\t" "1\t" "3\t" ...
##  $ issue        : chr  "1977-09-01T00:00:00Z\t" "2004-01-01T00:00:00Z\t" "1987-01-01T00:00:00Z\t" "1853-01-01T00:00:00Z\t" ...
##  $ pubdate      : chr  "pp. 598-617\t" "pp. 41-47\t" "pp. 33-40\t" "pp. 171-172\t" ...
##  $ pagerange    : chr  "American Anthropological Association\tWiley\t" "Royal Irish Academy\t" "New York Botanical Garden Press\tSpringer\t" "\t" ...
##  $ publisher    : chr  "fla\t" "fla\t" "fla\t" "fla\t" ...
##  $ type         : logi  NA NA NA NA NA NA ...
##  $ reviewed.work: logi  NA NA NA NA NA NA ...

こういう線のせいだと思います(「ソーン」「マイナス」をチェック)

 readLines("citations.CSV")[82]
[1] "10.2307/3642839,10.2307/3642839\t,\"Thorn\" and \"Minus\" in Hieroglyphic Luvian Orthography\t,H. Craig Melchert\t,Anatolian Studies\t,38\t,\t,1988-01-01T00:00:00Z\t,pp. 29-42\t,British Institute at Ankara\t,fla\t,\t,"

ありがとう、それは簡単な修正です。freadでは、この状況で働くことについてどう思いますか?それよりずっと速いので、私はそれを好みread.csvます。しかしfread取るようには見えないquote...引数を
ベン

1
@Ben私はそれを成功させることなくうまく動かそうとしました、そしてあなたが指摘したfreadように一般的に埋め込まれた引用でうまくいかないが、私はすぐに回避策があると確信しています。stackoverflow.com/questions/16094025/...
dickoa

1
私が使用write.csv()したとき、私は7,000行を持っていて、403で戻ってきましたread.csv()。quote = ""を追加すると、最大410行になりました。read.table()良くない。他に何が試せるのかしら…
Hack-R

2
Hack-Rと同じ問題で、quote = ""を追加すると、行数が30,000増加しましたが、まだ200,000以上ありません。
SJDS

1
なぜそれを追加する必要があるのか​​について、1行書いてください。(私はRを学習しようとしているPythonプログラマーです)。それ以外の場合、答えは完全です(+1)
Bhargav Rao

10

私は新しいRユーザーであり、他の人を助けるためにこれを投稿すると思いました。いくつかのスペイン語の文字を含むテキストファイル(コンマで区切られた)からデータを読み取ろうとしていましたが、それを理解するのに永遠にかかりました。UTF-8エンコードを使用し、ヘッダー引数をTRUEに設定する必要があり、9月の引数を "、"に設定する必要があることはわかっていましたが、それでもハングアップしました。この投稿読んだ後、fill argをTRUEに設定してみましたが、同じ「引用された文字列内のEOF」を取得したので、上記と同じ方法で修正できました。私の成功したread.tableは次のようになります:

target <- read.table("target2.txt", fill=TRUE, header=TRUE, quote="", sep=",", encoding="UTF-8")

結果はスペイン語の文字と元々あった薄暗いので、私はそれを成功と呼んでいます!皆さんありがとう!


6

上記で指摘したように、Rのヘルプセクションでは、次のコードを追加するだけで、引用符を完全に無効にできます。

    quote = "" 

read.csv()に私のために働いた。

エラー「引用符付き文字列内のEOF」は、次の場合に発生しました。

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F)
    Warning message:
    In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
      EOF within quoted string
    > dim(iproscan.53A.neg)
    [1] 69383    16

読み込まれたファイルには6,619行がありませんでした。しかし、引用を無効にすることによって

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F,**quote=""**)    
    > 
    > dim(iproscan.53A.neg)
    [1] 76002    16

エラーなしで動作し、すべての行が正常に読み込まれました。


4
以前の回答を繰り返し、コードブロック内に不要なフランキングダブルアスタリスクを追加することで、その有用性を損なわれています。
IRTFM 2017

3

私もこの問題に遭遇し、以下を使用して同様のEOFエラーを回避できました。

read.table("....csv", sep=",", ...)

separatorパラメータはより一般的な内で定義されていることに注意してくださいread.table()


2
こんにちは、これは私にとっては機能しません... read.table( "。csv"でエラーが発生しました:列名よりも多くの列-スキップ(スキップ= 6)が正しく機能しないようです...
Maycca 2015年

3

実際には、read.csv()テキストコンテンツを含むファイルを読み取るためにを使用することはお勧めできません。セットquote=""は一時的な解決策であり、個別の引用符でのみ機能するため、引用符を無効にします。一部の特殊文字など、警告が発生する理由は他にもあります。

恒久的な解決策(を使用read.csv())、それらの特殊文字が何であるかを調べ、正規表現を使用してそれらを排除することは、アイデアです。

パッケージのインストールを考えて、ファイルの読み取りに{data.table}使用fread()したことがありますか。これははるかに高速で、このEOF警告で気になりません。ロードするファイルはdata.tableオブジェクトとして保存されますが、data.frameオブジェクトとしては保存されません。クラスdata.tableには多くの優れた機能がありますが、とにかく、as.data.frame()必要に応じて変換できます。


2

私は同様の問題を抱えていました:EOF-警告とread.csv()でデータの一部のみがロードされていました。quotes = ""を試してみましたが、EOF警告のみが削除されました。

しかし、ロードされなかった最初の行を見ると、特殊文字、矢印→(16進値0x1A)がセルの1つにあることがわかりました。矢印を削除した後、データを正常にロードしました。


1
同じ問題、手動の介入なしでこれを解決する別の方法はありますか?
Mohit

2

私も同様の問題を抱えていました。しかし、私の場合、問題の原因は、一部のテキスト値内にアポストロフィ(つまり、単一引用符)が存在することでした。これは、フランス語のテキストを含むデータを操作するときに特に頻繁に発生します(例:«L'autre jour»)。

したがって、解決策は、単に引用引数のデフォルト設定を調整して« '»記号を除外することでした。 quote = "\" "(つまり、二重引用符のみ)を使用すると、すべてが正常に機能しました。

皆さんのお役に立てば幸いです。乾杯。


0

readrのパッケージには、この問題を修正します。

install.packages('readr')
library(readr)
readr::read_csv('yourfile.csv')
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.