Java:カンマ区切りの文字列を分割しますが、引用符内のコンマは無視します


249

私は漠然とこのような文字列を持っています:

foo,bar,c;qual="baz,blurb",d;junk="quux,syzygy"

コンマで分割したいのですが、引用符内のコンマは無視する必要があります。これどうやってするの?正規表現アプローチが失敗したようです。見積もりが表示されたときに手動でスキャンして別のモードに入ることができると思いますが、既存のライブラリを使用すると便利です。(編集:私はすでにJDKの一部であるか、すでにApache Commonsのような一般的に使用されているライブラリの一部であるライブラリを意味していると思います)

上記の文字列は次のように分割されます。

foo
bar
c;qual="baz,blurb"
d;junk="quux,syzygy"

注:これはCSVファイルではなく、全体的な構造が大きいファイルに含まれる単一の文字列です

回答:


435

試してください:

public class Main { 
    public static void main(String[] args) {
        String line = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
        String[] tokens = line.split(",(?=(?:[^\"]*\"[^\"]*\")*[^\"]*$)", -1);
        for(String t : tokens) {
            System.out.println("> "+t);
        }
    }
}

出力:

> foo
> bar
> c;qual="baz,blurb"
> d;junk="quux,syzygy"

言い換えると、コンマがゼロまたはその前の引用符の数が偶数の場合にのみ、コンマで分割します

または、目にやさしい:

public class Main { 
    public static void main(String[] args) {
        String line = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";

        String otherThanQuote = " [^\"] ";
        String quotedString = String.format(" \" %s* \" ", otherThanQuote);
        String regex = String.format("(?x) "+ // enable comments, ignore white spaces
                ",                         "+ // match a comma
                "(?=                       "+ // start positive look ahead
                "  (?:                     "+ //   start non-capturing group 1
                "    %s*                   "+ //     match 'otherThanQuote' zero or more times
                "    %s                    "+ //     match 'quotedString'
                "  )*                      "+ //   end group 1 and repeat it zero or more times
                "  %s*                     "+ //   match 'otherThanQuote'
                "  $                       "+ // match the end of the string
                ")                         ", // stop positive look ahead
                otherThanQuote, quotedString, otherThanQuote);

        String[] tokens = line.split(regex, -1);
        for(String t : tokens) {
            System.out.println("> "+t);
        }
    }
}

最初の例と同じになります。

編集

コメントで@MikeFHayが述べたように:

私はグアバのスプリッターを使用することを好みます。それはより良いデフォルトがあるString#split()ためです。

Splitter.on(Pattern.compile(",(?=(?:[^\"]*\"[^\"]*\")*[^\"]*$)"))

RFC 4180によると:セクション2.6:「改行(CRLF)、二重引用符、およびコンマを含むフィールドは、二重引用符で囲む必要があります。」セクション2.7:「フィールドを囲むために二重引用符を使用する場合、フィールド内に表示される二重引用符は、その前に別の二重引用符をString line = "equals: =,\"quote: \"\"\",\"comma: ,\""付けることでエスケープする必要があります」したがって、文字。
ポールハンベリー、

@Bart:引用符が埋め込まれていてもソリューションは機能するというのが私のポイントです
Paul Hanbury、

6
@Alex、ええ、コンマ一致しますが、空の一致は結果に含まれません。-1分割メソッドparam:に追加しますline.split(regex, -1)。参照:docs.oracle.com/javase/6/docs/api/java/lang/...
バートKiers

2
よく働く!私はGuavaのスプリッターを使用することを好みます。これは、より良いデフォルトがあるためです(String#splitによって空の一致がトリミングされることについての上記の説明を参照)Splitter.on(Pattern.compile(",(?=([^\"]*\"[^\"]*\")*[^\"]*$)"))
MikeFHay 2016年

2
警告!!!!この正規表現は遅いです!!! O(N ^ 2)の振る舞いで、各コンマの先読みは文字列の終わりまでずっと調べます。この正規表現を使用すると、大きなSparkジョブで4倍のスローダウンが発生しました(45分-> 3時間など)。より高速な代替手段はfindAllIn("(?s)(?:\".*?\"|[^\",]*)*")、空でない各フィールドに続く最初の(常に空の)フィールドをスキップする後処理ステップと組み合わせたようなものです。
アーバンバガボンド2016年

46

私は一般的に正規表現が好きですが、このような状態依存のトークン化では、特に保守性に関して、単純なパーサー(この場合は、その単語が音を出すよりもはるかに単純)がおそらくよりクリーンなソリューションであると思います、例:

String input = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
List<String> result = new ArrayList<String>();
int start = 0;
boolean inQuotes = false;
for (int current = 0; current < input.length(); current++) {
    if (input.charAt(current) == '\"') inQuotes = !inQuotes; // toggle state
    boolean atLastChar = (current == input.length() - 1);
    if(atLastChar) result.add(input.substring(start));
    else if (input.charAt(current) == ',' && !inQuotes) {
        result.add(input.substring(start, current));
        start = current + 1;
    }
}

引用符内のコンマを保持する必要がない場合は、引用符内のコンマを別のものに置き換え、コンマで分割することにより、このアプローチを単純化できます(開始インデックスの処理なし、最後の文字の特殊なケースなし)。

String input = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
StringBuilder builder = new StringBuilder(input);
boolean inQuotes = false;
for (int currentIndex = 0; currentIndex < builder.length(); currentIndex++) {
    char currentChar = builder.charAt(currentIndex);
    if (currentChar == '\"') inQuotes = !inQuotes; // toggle state
    if (currentChar == ',' && inQuotes) {
        builder.setCharAt(currentIndex, ';'); // or '♡', and replace later
    }
}
List<String> result = Arrays.asList(builder.toString().split(","));

文字列が解析された後、解析されたトークンから引用符を削除する必要があります。
Sudhir N 2016

グーグル経由で見つけた、素晴らしいアルゴリズム仲間、シンプルで簡単に適応、同意。ステートフルなものはパーサーを介して行う必要があります。正規表現は混乱しています。
ルドルフシュミット

2
コンマが最後の文字である場合、それは最後のアイテムの文字列値になります。
ガブリエルゲイツ

21

3
OPがCSVファイルを解析していたことを認識する良い呼び出し。このタスクには外部ライブラリが非常に適しています。
Stefan Kendall、

1
ただし、文字列はCSV文字列です。その文字列でCSV APIを直接使用できるはずです。
Michael Brewer-Davis、

はい、しかし、このタスクは非常に単純で、大きなアプリケーションのはるかに小さな部分であり、別の外部ライブラリを取り込む気がしません。
Jason S

7
必ずしもではない...私のスキルはしばしば十分ですが、彼らは研ぎ澄まされることから利益を得ます。
Jason S

9

私はバートからの正規表現の答えを勧めません、私はこの特定のケースでより良い解析ソリューションを見つけます(ファビアンが提案したように)。私は正規表現ソリューションと独自の解析実装を試しましたが、次のことがわかりました:

  1. 解析は、後方参照付きの正規表現による分割よりもはるかに高速です-短い文字列の場合は〜20倍、長い文字列の場合は〜40倍高速です。
  2. 正規表現は、最後のコンマの後に空の文字列を見つけることができません。それは元々の問題ではありませんでしたが、それは私の要求でした。

以下の私の解決策とテスト。

String tested = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\",";
long start = System.nanoTime();
String[] tokens = tested.split(",(?=([^\"]*\"[^\"]*\")*[^\"]*$)");
long timeWithSplitting = System.nanoTime() - start;

start = System.nanoTime(); 
List<String> tokensList = new ArrayList<String>();
boolean inQuotes = false;
StringBuilder b = new StringBuilder();
for (char c : tested.toCharArray()) {
    switch (c) {
    case ',':
        if (inQuotes) {
            b.append(c);
        } else {
            tokensList.add(b.toString());
            b = new StringBuilder();
        }
        break;
    case '\"':
        inQuotes = !inQuotes;
    default:
        b.append(c);
    break;
    }
}
tokensList.add(b.toString());
long timeWithParsing = System.nanoTime() - start;

System.out.println(Arrays.toString(tokens));
System.out.println(tokensList.toString());
System.out.printf("Time with splitting:\t%10d\n",timeWithSplitting);
System.out.printf("Time with parsing:\t%10d\n",timeWithParsing);

もちろん、このスニペットの醜さに違和感がある場合は、スイッチをelse-ifsに自由に変更できます。セパレーターで切り替えた後、改行がないことに注意してください。速度を上げるために設計上、StringBufferの代わりにStringBuilderが選択されましたが、スレッドの安全性は関係ありません。


2
時間分割と解析に関する興味深い点。ただし、ステートメント2は不正確です。あなたが追加した場合-1バートの答えに分割する方法には、(最後のコンマの後に空の文字列を含む)空の文字列をキャッチします:line.split(regex, -1)
ピーター・

+1は、私が解決策を探していた問題のより良い解決策であるためです。複雑なHTTP POST本文パラメーター文字列の解析
varontron

2

のような回避策を試してください(?!\"),(?!\")。これは、で,囲まれていないものと一致する必要があり"ます。


"foo"、bar、 "baz"のようなリストの場合は、それがうまく機能しないことを確信しています
アンジェロジェノベーゼ

1
を意味すると思います(?<!"),(?!")が、それでも機能しません。文字列one,two,"three,four"を指定すると、はのコンマに正しく一致しますがone,two、のコンマにも一致し、のコンマに一致し"three,four"ませんtwo,"three
アランムーア

それは私にとって完璧に機能するように縫い合わせています、私見これはより短くてより簡単に理解できるため、これはより良い答えだと思います
Ordiel

2

あなたは、正規表現がほとんど機能しないその厄介な境界領域にいます(Bartによって指摘されているように、引用符をエスケープすると人生が難しくなります)、それでも本格的なパーサーはやり過ぎのようです。

すぐにもっと複雑さが必要になる可能性がある場合は、パーサーライブラリを探します。例えばこれは


2

私はせっかちで答えを待たないことを選択しました...参考までに、このようなことをするのはそれほど難しくありません(これは私のアプリケーションで機能しますが、引用符で囲まれているので、エスケープされた引用符について心配する必要はありません)いくつかの制約されたフォームに制限されています):

final static private Pattern splitSearchPattern = Pattern.compile("[\",]"); 
private List<String> splitByCommasNotInQuotes(String s) {
    if (s == null)
        return Collections.emptyList();

    List<String> list = new ArrayList<String>();
    Matcher m = splitSearchPattern.matcher(s);
    int pos = 0;
    boolean quoteMode = false;
    while (m.find())
    {
        String sep = m.group();
        if ("\"".equals(sep))
        {
            quoteMode = !quoteMode;
        }
        else if (!quoteMode && ",".equals(sep))
        {
            int toPos = m.start(); 
            list.add(s.substring(pos, toPos));
            pos = m.end();
        }
    }
    if (pos < s.length())
        list.add(s.substring(pos));
    return list;
}

(読者のための演習:バックスラッシュも探すことにより、エスケープされた引用符の処理に拡張してください。)


1

最も単純なアプローチは、デリミタ、つまりカンマと実際に意図されているもの(文字列を引用する可能性のあるデータ)を一致させる複雑な追加ロジックと一致せず、誤ったデリミタを除外するだけでなく、目的のデータと最初に一致させることです。

パターンは、引用符付きの文字列("[^"]*"または".*?")または次のコンマ([^,]+)までのすべての2つの選択肢で構成されます。空のセルをサポートするには、引用符で囲まれていない項目を空にし、次のコンマがある場合はそれを消費し、\\Gアンカーを使用する必要があります。

Pattern p = Pattern.compile("\\G\"(.*?)\",?|([^,]*),?");

パターンには、引用文字列のコンテンツまたはプレーンコンテンツのいずれかを取得する2つのキャプチャグループも含まれています。

次に、Java 9では、次のように配列を取得できます。

String[] a = p.matcher(input).results()
    .map(m -> m.group(m.start(1)<0? 2: 1))
    .toArray(String[]::new);

古いJavaバージョンには次のようなループが必要です

for(Matcher m = p.matcher(input); m.find(); ) {
    String token = m.group(m.start(1)<0? 2: 1);
    System.out.println("found: "+token);
}

アイテムをList配列または配列に追加することは、読者への物品税として残されます。

Java 8の場合results()この回答の実装を使用して、Java 9ソリューションのように実行できます。

質問のように、埋め込み文字列を含む混合コンテンツの場合は、単純に使用できます

Pattern p = Pattern.compile("\\G((\"(.*?)\"|[^,])*),?");

ただし、文字列は引用された形式で保持されます。


0

先読みやその他の狂った正規表現を使用するのではなく、最初に引用符を抜いてください。つまり、すべての見積もりグループについて、そのグループを__IDENTIFIER_1他のインジケーターに置き換え、そのグループをstring、stringのマップにマップします。

コンマで分割した後、マップされたすべての識別子を元の文字列値に置き換えます。


そして、狂った正規表現なしで引用グループを見つける方法?
Kai Huppmann、2009年

各文字について、文字が引用符の場合、次の引用符を見つけてグループ化に置き換えます。次の引用がない場合は、完了です。
Stefan Kendall、

0

String.split()を使用したワンライナーはどうですか?

String s = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
String[] split = s.split( "(?<!\".{0,255}[^\"]),|,(?![^\"].*\")" );

-1

私はこのようなことをします:

boolean foundQuote = false;

if(charAtIndex(currentStringIndex) == '"')
{
   foundQuote = true;
}

if(foundQuote == true)
{
   //do nothing
}

else 

{
  string[] split = currentString.split(',');  
}
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.