MongoDB:複数のコレクションのデータを1つに結合する方法


229

(MongoDBで)複数のコレクションのデータを1つのコレクションに結合するにはどうすればよいですか?

map-reduceを使用できますか?

私は初心者なので、いくつかの例をいただければ幸いです。


18
ドキュメントを別のコレクションから1つのコレクションにコピーするだけですか、それともあなたの計画はどうですか?「結合」を指定できますか?mongo shellでコピーしたい場合db.collection1.find().forEach(function(doc){db.collection2.save(doc)});は、a で十分です。mongoシェルを使用しない場合は、使用するドライバ(java、phpなど)を指定してください。
プロキシム2011

そのため、他のコレクションよりもコレクション(ユーザーなど)があるので、アドレス帳コレクション、書籍コレクションのリストなどと言っています。sayuser_idキーに基づいて、これらのコレクションを1つの単一のコレクションに結合するには ?
user697697 2011

回答:


147

これをリアルタイムで行うことはできませんが、MongoDB 1.8以降のmap / reduceの「reduce」出力オプションを使用して、map-reduceを複数回実行してデータをマージすることができます(http://www.mongodb.org/を参照) display / DOCS / MapReduce#MapReduce-Outputoptions)。_idとして使用できるキーを両方のコレクションに含める必要があります。

たとえば、usersコレクションとcommentsコメントごとにユーザーの人口統計情報が含まれる新しいコレクションが必要だとします。

さんが言ってみましょうusersコレクションは、次のフィールドがあります。

  • _id
  • ファーストネーム
  • 苗字
  • 性別
  • 年齢

そして、commentsコレクションには次のフィールドがあります。

  • _id
  • ユーザーID
  • コメント
  • 作成した

あなたはこのマップ/リデュースを行うでしょう:

var mapUsers, mapComments, reduce;
db.users_comments.remove();

// setup sample data - wouldn't actually use this in production
db.users.remove();
db.comments.remove();
db.users.save({firstName:"Rich",lastName:"S",gender:"M",country:"CA",age:"18"});
db.users.save({firstName:"Rob",lastName:"M",gender:"M",country:"US",age:"25"});
db.users.save({firstName:"Sarah",lastName:"T",gender:"F",country:"US",age:"13"});
var users = db.users.find();
db.comments.save({userId: users[0]._id, "comment": "Hey, what's up?", created: new ISODate()});
db.comments.save({userId: users[1]._id, "comment": "Not much", created: new ISODate()});
db.comments.save({userId: users[0]._id, "comment": "Cool", created: new ISODate()});
// end sample data setup

mapUsers = function() {
    var values = {
        country: this.country,
        gender: this.gender,
        age: this.age
    };
    emit(this._id, values);
};
mapComments = function() {
    var values = {
        commentId: this._id,
        comment: this.comment,
        created: this.created
    };
    emit(this.userId, values);
};
reduce = function(k, values) {
    var result = {}, commentFields = {
        "commentId": '', 
        "comment": '',
        "created": ''
    };
    values.forEach(function(value) {
        var field;
        if ("comment" in value) {
            if (!("comments" in result)) {
                result.comments = [];
            }
            result.comments.push(value);
        } else if ("comments" in value) {
            if (!("comments" in result)) {
                result.comments = [];
            }
            result.comments.push.apply(result.comments, value.comments);
        }
        for (field in value) {
            if (value.hasOwnProperty(field) && !(field in commentFields)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};
db.users.mapReduce(mapUsers, reduce, {"out": {"reduce": "users_comments"}});
db.comments.mapReduce(mapComments, reduce, {"out": {"reduce": "users_comments"}});
db.users_comments.find().pretty(); // see the resulting collection

この時点でusers_comments、結合されたデータを含むという新しいコレクションが作成され、それを使用できるようになります。これらの削減されたコレクションはすべて_id、マップ関数で放出していたキーであり、すべての値は、内部のサブオブジェクトですvalueキーです-値はこれらの削減されたドキュメントのトップレベルにありません。

これはやや単純な例です。削減されたコレクションを構築し続けたいだけ、より多くのコレクションでこれを繰り返すことができます。また、プロセスでデータの要約と集計を行うこともできます。既存のフィールドを集約して保持するロジックがより複雑になるため、複数のreduce関数を定義する可能性があります。

また、ユーザーごとに1つのドキュメントがあり、そのユーザーのすべてのコメントが配列になっていることにも注意してください。1対多ではなく1対1の関係にあるデータをマージする場合、データはフラットになり、次のように単純にreduce関数を使用できます。

reduce = function(k, values) {
    var result = {};
    values.forEach(function(value) {
        var field;
        for (field in value) {
            if (value.hasOwnProperty(field)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};

users_commentsコレクションをフラット化してコメントごとに1つのドキュメントにする場合は、さらに次のコマンドを実行します。

var map, reduce;
map = function() {
    var debug = function(value) {
        var field;
        for (field in value) {
            print(field + ": " + value[field]);
        }
    };
    debug(this);
    var that = this;
    if ("comments" in this.value) {
        this.value.comments.forEach(function(value) {
            emit(value.commentId, {
                userId: that._id,
                country: that.value.country,
                age: that.value.age,
                comment: value.comment,
                created: value.created,
            });
        });
    }
};
reduce = function(k, values) {
    var result = {};
    values.forEach(function(value) {
        var field;
        for (field in value) {
            if (value.hasOwnProperty(field)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};
db.users_comments.mapReduce(map, reduce, {"out": "comments_with_demographics"});

この手法は絶対にその場で実行すべきではありません。マージされたデータを定期的に更新するcronジョブなどに適しています。おそらくensureIndex、新しいコレクションで実行して、そのコレクションに対して実行するクエリが迅速に実行されるようにする必要があります(データがまだvalueキー内にあることに注意してください。comments_with_demographicsコメントcreated時間でインデックスを作成すると、db.comments_with_demographics.ensureIndex({"value.created": 1});


1
私はおそらくそれをプロダクションソフトウェアで実行することはないでしょうが、それでも邪悪なクールなテクニックです。
Dave Griffith

3
ありがとう、デイブ。この手法を使用して、問題のない過去3か月間、運用中の高トラフィックサイトのエクスポートテーブルとレポートテーブルを生成しました。テクニックの同様の使用法を説明する別の記事を次に示します。tebros.com
2011/07

1
@rmarscherに感謝します。あなたの追加の詳細は本当に私がすべてをよりよく理解するのに役立ちました。
benstr 2014年

5
この回答を、集約パイプラインと新しい$ lookupオペレーションを使用した例で更新する必要があります。適切な記事をまとめられるまで、ここで言及します。docs.mongodb.org/manual/reference/operator/aggregation/lookup
rmarscher

1
これをすばやく理解したい人のための参考までにusers_comments、コードの最初のブロックgist.github.com/nolanamy/83d7fb6a9bf92482a1c4311ad9c78835
Nolan Amy

127

MongoDB 3.2では、複数のコレクションのデータを$ lookup集計ステージを介して1つに結合できるようになりました。実用的な例として、本に関するデータが2つの異なるコレクションに分割されているとします。

と呼ばれるbooks次のデータを持つ最初のコレクション:

{
    "isbn": "978-3-16-148410-0",
    "title": "Some cool book",
    "author": "John Doe"
}
{
    "isbn": "978-3-16-148999-9",
    "title": "Another awesome book",
    "author": "Jane Roe"
}

と呼ばれる2番目のコレクションにはbooks_selling_data、次のデータがあります。

{
    "_id": ObjectId("56e31bcf76cdf52e541d9d26"),
    "isbn": "978-3-16-148410-0",
    "copies_sold": 12500
}
{
    "_id": ObjectId("56e31ce076cdf52e541d9d28"),
    "isbn": "978-3-16-148999-9",
    "copies_sold": 720050
}
{
    "_id": ObjectId("56e31ce076cdf52e541d9d29"),
    "isbn": "978-3-16-148999-9",
    "copies_sold": 1000
}

両方のコレクションをマージするには、次のように$ lookupを使用するだけです。

db.books.aggregate([{
    $lookup: {
            from: "books_selling_data",
            localField: "isbn",
            foreignField: "isbn",
            as: "copies_sold"
        }
}])

この集計後、booksコレクションは次のようになります。

{
    "isbn": "978-3-16-148410-0",
    "title": "Some cool book",
    "author": "John Doe",
    "copies_sold": [
        {
            "_id": ObjectId("56e31bcf76cdf52e541d9d26"),
            "isbn": "978-3-16-148410-0",
            "copies_sold": 12500
        }
    ]
}
{
    "isbn": "978-3-16-148999-9",
    "title": "Another awesome book",
    "author": "Jane Roe",
    "copies_sold": [
        {
            "_id": ObjectId("56e31ce076cdf52e541d9d28"),
            "isbn": "978-3-16-148999-9",
            "copies_sold": 720050
        },
        {
            "_id": ObjectId("56e31ce076cdf52e541d9d28"),
            "isbn": "978-3-16-148999-9",
            "copies_sold": 1000
        }
    ]
}

いくつかの点に注意することが重要です。

  1. この場合books_selling_data、「from」コレクションはシャーディングできません。
  2. 上記の例のように、「as」フィールドは配列になります。
  3. $ lookupステージの "localField"オプションと "foreignField"オプションは、それぞれのコレクションに存在しない場合、一致のためにnullとして扱われます($ lookupのドキュメントには、その完全な例があります)。

したがって、結論として、両方のコレクションを統合する場合、この場合は、販売されたコピーの合計を含むフラットのコピー_販売フィールドを使用する場合は、おそらく中間のコレクションを使用して、もう少し作業する必要があります。出て$最後のコレクションに。


こんにちは、親切に、このようなデータを管理するための最適化された方法を教えていただけますか:User、file.files、およびfile.chunksは3つのコレクションです。{"name": "batMan"、 "email ':" bt@gmail.com "、" files ":[{file1}、{file2}、{file3}、.... so]}
mfaisalhyder

上記のソリューションの公式ドキュメントの例は、次の場所に
Jakub Czaplicki

4
まあ、実際には私の答えにはすでに公式ドキュメントへの3つのリンクがありました。とにかくあなたの貢献に感謝します。@JakubCzaplicki
ブルーノクレブス

2
私は完全に脳機能不全を起こしている可能性がありますが(おそらく)、$lookup"localField"と "foreignField"の両方が "isbn"に等しい必要はありませんか?「_id」や「isbn」ではありませんか?
Dev01

13

mongodbへの一括挿入がない場合は、のすべてのオブジェクトをループし、small_collectionそれらを1つずつに挿入しますbig_collection

db.small_collection.find().forEach(function(obj){ 
   db.big_collection.insert(obj)
});

db.colleciton.insert([{}、{}、{}])Insertは配列を受け入れます。
16年

2
これは小さなコレクションでは問題なく動作しますが、インデックスを移行することを忘れないでください:)
Sebastien Lorber

12

$ lookupの非常に基本的な例。

db.getCollection('users').aggregate([
    {
        $lookup: {
            from: "userinfo",
            localField: "userId",
            foreignField: "userId",
            as: "userInfoData"
        }
    },
    {
        $lookup: {
            from: "userrole",
            localField: "userId",
            foreignField: "userId",
            as: "userRoleData"
        }
    },
    { $unwind: { path: "$userInfoData", preserveNullAndEmptyArrays: true }},
    { $unwind: { path: "$userRoleData", preserveNullAndEmptyArrays: true }}
])

こちらが使われています

 { $unwind: { path: "$userInfoData", preserveNullAndEmptyArrays: true }}, 
 { $unwind: { path: "$userRoleData", preserveNullAndEmptyArrays: true }}

の代わりに

{ $unwind:"$userRoleData"} 
{ $unwind:"$userRoleData"}

ので{$アンワインド:「$ userRoleData」}一致するレコードが検索$で見つからない場合、これは空または0の結果を返します。


11

MongoDBでユニオンを「SQL UNION」の方法で実行するには、単一のクエリで、ルックアップと一緒に集計を使用します。以下は、MongoDB 4.0で動作するテスト済みの例です。

// Create employees data for testing the union.
db.getCollection('employees').insert({ name: "John", type: "employee", department: "sales" });
db.getCollection('employees').insert({ name: "Martha", type: "employee", department: "accounting" });
db.getCollection('employees').insert({ name: "Amy", type: "employee", department: "warehouse" });
db.getCollection('employees').insert({ name: "Mike", type: "employee", department: "warehouse"  });

// Create freelancers data for testing the union.
db.getCollection('freelancers').insert({ name: "Stephany", type: "freelancer", department: "accounting" });
db.getCollection('freelancers').insert({ name: "Martin", type: "freelancer", department: "sales" });
db.getCollection('freelancers').insert({ name: "Doug", type: "freelancer", department: "warehouse"  });
db.getCollection('freelancers').insert({ name: "Brenda", type: "freelancer", department: "sales"  });

// Here we do a union of the employees and freelancers using a single aggregation query.
db.getCollection('freelancers').aggregate( // 1. Use any collection containing at least one document.
  [
    { $limit: 1 }, // 2. Keep only one document of the collection.
    { $project: { _id: '$$REMOVE' } }, // 3. Remove everything from the document.

    // 4. Lookup collections to union together.
    { $lookup: { from: 'employees', pipeline: [{ $match: { department: 'sales' } }], as: 'employees' } },
    { $lookup: { from: 'freelancers', pipeline: [{ $match: { department: 'sales' } }], as: 'freelancers' } },

    // 5. Union the collections together with a projection.
    { $project: { union: { $concatArrays: ["$employees", "$freelancers"] } } },

    // 6. Unwind and replace root so you end up with a result set.
    { $unwind: '$union' },
    { $replaceRoot: { newRoot: '$union' } }
  ]);

これがどのように機能するかの説明です:

  1. インスタンスaggregateのうちいずれかのそれに少なくとも1つの文書を持っているデータベースのコレクションを。データベースのコレクションが空にならないことを保証できない場合は、データベースに、ユニオンクエリを実行するために特別に存在する単一の空のドキュメントを含むある種の「ダミー」コレクションを作成することで、この問題を回避できます。

  2. パイプラインの最初のステージをにします{ $limit: 1 }。これにより、最初のドキュメントを除く、コレクションのすべてのドキュメントが削除されます。

  3. $projectステージを使用して、残りのドキュメントのすべてのフィールドを削除します。

    { $project: { _id: '$$REMOVE' } }
  4. これで、集約に単一の空のドキュメントが含まれています。結合したい各コレクションのルックアップを追加します。このpipelineフィールドを使用して特定のフィルタリングを実行したり、nullのままにlocalFieldforeignFieldてコレクション全体を照合したりできます。

    { $lookup: { from: 'collectionToUnion1', pipeline: [...], as: 'Collection1' } },
    { $lookup: { from: 'collectionToUnion2', pipeline: [...], as: 'Collection2' } },
    { $lookup: { from: 'collectionToUnion3', pipeline: [...], as: 'Collection3' } }
  5. これで、次のような3つの配列を含む単一のドキュメントを含む集合体ができました。

    {
        Collection1: [...],
        Collection2: [...],
        Collection3: [...]
    }

    その後、$projectステージと$concatArrays集計演算子を使用して、これらを1つの配列にマージできます。

    {
      "$project" :
      {
        "Union" : { $concatArrays: ["$Collection1", "$Collection2", "$Collection3"] }
      }
    }
  6. これで、コレクションの集合体を含む配列が配置された単一のドキュメントを含む集約ができました。あとは、$unwind$replaceRootステージを追加して、配列を個別のドキュメントに分割する必要があります。

    { $unwind: "$Union" },
    { $replaceRoot: { newRoot: "$Union" } }
  7. ボイラ。これで、結合したいコレクションを含む結果セットができました。次に、さらにステージを追加してさらにフィルタリングし、ソートして、skip()およびlimit()を適用できます。あなたが欲しいものはほとんど何でも。


クエリが失敗し、「$ projectionには少なくとも1つの出力フィールドが必要です」というメッセージが表示されます。
abhishek_ganta

@abhishekこれが表示される場合は、単一の投影ステージで単一のドキュメントからすべてのフィールドを取り除こうとしたためです。MongoDBはこれを許可しません。これを回避するには、2つの連続した投影を行う必要があります。最初の投影では_id以外のすべてを取り除き、2番目の投影では残りの_idを取り除きます。
sboisse

@abhishek $ projectステージを '$$ REMOVE'変数を使用する単一のステージに置き換えることで、クエリをさらに簡略化しました。また、クエリテスターに​​直接コピーして貼り付けるだけで機能することを確認できる具体例も追加しました。
sboisse

@sboisse、このソリューションは小さなコレクションで機能しますが、大きなコレクション(100,000以上のドキュメント)でこれを実行したい場合は、「collectionToUnion1のドキュメントの合計サイズが最大ドキュメントサイズを超えています」という問題が発生します。ドキュメントでは、大きな中間ドキュメントの作成を回避するために、$ lookupの直後に$ unwindを置くことを推奨しています。その方法を使用してこのソリューションを変更することに成功していません。この問題に遭遇し、その方法を使用する必要がありましたか?私が参照しているドキュメントへのリンク:[link](docs.mongodb.com/manual/core/aggregation-pipeline-optimization/…
lucky7samson

@ lucky7samson残念ながら、私が処理しなければならないデータの量はそれほど大きくありませんでした。だから私はあなたが言及している問題に立ち向かう必要はなかった。私の場合、レコードを残りのレコードとマージする前に、コレクションにフィルタリングを適用してルックアップすることができたので、結合するデータの量は非常に少なかった。
sboisse

9

集約で複数のコレクションに複数の$ lookupを使用する

クエリ:

db.getCollection('servicelocations').aggregate([
  {
    $match: {
      serviceLocationId: {
        $in: ["36728"]
      }
    }
  },
  {
    $lookup: {
      from: "orders",
      localField: "serviceLocationId",
      foreignField: "serviceLocationId",
      as: "orders"
    }
  },
  {
    $lookup: {
      from: "timewindowtypes",
      localField: "timeWindow.timeWindowTypeId",
      foreignField: "timeWindowTypeId",
      as: "timeWindow"
    }
  },
  {
    $lookup: {
      from: "servicetimetypes",
      localField: "serviceTimeTypeId",
      foreignField: "serviceTimeTypeId",
      as: "serviceTime"
    }
  },
  {
    $unwind: "$orders"
  },
  {
    $unwind: "$serviceTime"
  },
  {
    $limit: 14
  }
])

結果:

{
    "_id" : ObjectId("59c3ac4bb7799c90ebb3279b"),
    "serviceLocationId" : "36728",
    "regionId" : 1.0,
    "zoneId" : "DXBZONE1",
    "description" : "AL HALLAB REST EMIRATES MALL",
    "locationPriority" : 1.0,
    "accountTypeId" : 1.0,
    "locationType" : "SERVICELOCATION",
    "location" : {
        "makani" : "",
        "lat" : 25.119035,
        "lng" : 55.198694
    },
    "deliveryDays" : "MTWRFSU",
    "timeWindow" : [ 
        {
            "_id" : ObjectId("59c3b0a3b7799c90ebb32cde"),
            "timeWindowTypeId" : "1",
            "Description" : "MORNING",
            "timeWindow" : {
                "openTime" : "06:00",
                "closeTime" : "08:00"
            },
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b0a3b7799c90ebb32cdf"),
            "timeWindowTypeId" : "1",
            "Description" : "MORNING",
            "timeWindow" : {
                "openTime" : "09:00",
                "closeTime" : "10:00"
            },
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b0a3b7799c90ebb32ce0"),
            "timeWindowTypeId" : "1",
            "Description" : "MORNING",
            "timeWindow" : {
                "openTime" : "10:30",
                "closeTime" : "11:30"
            },
            "accountId" : 1.0
        }
    ],
    "address1" : "",
    "address2" : "",
    "phone" : "",
    "city" : "",
    "county" : "",
    "state" : "",
    "country" : "",
    "zipcode" : "",
    "imageUrl" : "",
    "contact" : {
        "name" : "",
        "email" : ""
    },
    "status" : "ACTIVE",
    "createdBy" : "",
    "updatedBy" : "",
    "updateDate" : "",
    "accountId" : 1.0,
    "serviceTimeTypeId" : "1",
    "orders" : [ 
        {
            "_id" : ObjectId("59c3b291f251c77f15790f92"),
            "orderId" : "AQ18O1704264",
            "serviceLocationId" : "36728",
            "orderNo" : "AQ18O1704264",
            "orderDate" : "18-Sep-17",
            "description" : "AQ18O1704264",
            "serviceType" : "Delivery",
            "orderSource" : "Import",
            "takenBy" : "KARIM",
            "plannedDeliveryDate" : ISODate("2017-08-26T00:00:00.000Z"),
            "plannedDeliveryTime" : "",
            "actualDeliveryDate" : "",
            "actualDeliveryTime" : "",
            "deliveredBy" : "",
            "size1" : 296.0,
            "size2" : 3573.355,
            "size3" : 240.811,
            "jobPriority" : 1.0,
            "cancelReason" : "",
            "cancelDate" : "",
            "cancelBy" : "",
            "reasonCode" : "",
            "reasonText" : "",
            "status" : "",
            "lineItems" : [ 
                {
                    "ItemId" : "BNWB020",
                    "size1" : 15.0,
                    "size2" : 78.6,
                    "size3" : 6.0
                }, 
                {
                    "ItemId" : "BNWB021",
                    "size1" : 20.0,
                    "size2" : 252.0,
                    "size3" : 11.538
                }, 
                {
                    "ItemId" : "BNWB023",
                    "size1" : 15.0,
                    "size2" : 285.0,
                    "size3" : 16.071
                }, 
                {
                    "ItemId" : "CPMW112",
                    "size1" : 3.0,
                    "size2" : 25.38,
                    "size3" : 1.731
                }, 
                {
                    "ItemId" : "MMGW001",
                    "size1" : 25.0,
                    "size2" : 464.375,
                    "size3" : 46.875
                }, 
                {
                    "ItemId" : "MMNB218",
                    "size1" : 50.0,
                    "size2" : 920.0,
                    "size3" : 60.0
                }, 
                {
                    "ItemId" : "MMNB219",
                    "size1" : 50.0,
                    "size2" : 630.0,
                    "size3" : 40.0
                }, 
                {
                    "ItemId" : "MMNB220",
                    "size1" : 50.0,
                    "size2" : 416.0,
                    "size3" : 28.846
                }, 
                {
                    "ItemId" : "MMNB270",
                    "size1" : 50.0,
                    "size2" : 262.0,
                    "size3" : 20.0
                }, 
                {
                    "ItemId" : "MMNB302",
                    "size1" : 15.0,
                    "size2" : 195.0,
                    "size3" : 6.0
                }, 
                {
                    "ItemId" : "MMNB373",
                    "size1" : 3.0,
                    "size2" : 45.0,
                    "size3" : 3.75
                }
            ],
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b291f251c77f15790f9d"),
            "orderId" : "AQ137O1701240",
            "serviceLocationId" : "36728",
            "orderNo" : "AQ137O1701240",
            "orderDate" : "18-Sep-17",
            "description" : "AQ137O1701240",
            "serviceType" : "Delivery",
            "orderSource" : "Import",
            "takenBy" : "KARIM",
            "plannedDeliveryDate" : ISODate("2017-08-26T00:00:00.000Z"),
            "plannedDeliveryTime" : "",
            "actualDeliveryDate" : "",
            "actualDeliveryTime" : "",
            "deliveredBy" : "",
            "size1" : 28.0,
            "size2" : 520.11,
            "size3" : 52.5,
            "jobPriority" : 1.0,
            "cancelReason" : "",
            "cancelDate" : "",
            "cancelBy" : "",
            "reasonCode" : "",
            "reasonText" : "",
            "status" : "",
            "lineItems" : [ 
                {
                    "ItemId" : "MMGW001",
                    "size1" : 25.0,
                    "size2" : 464.38,
                    "size3" : 46.875
                }, 
                {
                    "ItemId" : "MMGW001-F1",
                    "size1" : 3.0,
                    "size2" : 55.73,
                    "size3" : 5.625
                }
            ],
            "accountId" : 1.0
        }, 
        {
            "_id" : ObjectId("59c3b291f251c77f15790fd8"),
            "orderId" : "AQ110O1705036",
            "serviceLocationId" : "36728",
            "orderNo" : "AQ110O1705036",
            "orderDate" : "18-Sep-17",
            "description" : "AQ110O1705036",
            "serviceType" : "Delivery",
            "orderSource" : "Import",
            "takenBy" : "KARIM",
            "plannedDeliveryDate" : ISODate("2017-08-26T00:00:00.000Z"),
            "plannedDeliveryTime" : "",
            "actualDeliveryDate" : "",
            "actualDeliveryTime" : "",
            "deliveredBy" : "",
            "size1" : 60.0,
            "size2" : 1046.0,
            "size3" : 68.0,
            "jobPriority" : 1.0,
            "cancelReason" : "",
            "cancelDate" : "",
            "cancelBy" : "",
            "reasonCode" : "",
            "reasonText" : "",
            "status" : "",
            "lineItems" : [ 
                {
                    "ItemId" : "MMNB218",
                    "size1" : 50.0,
                    "size2" : 920.0,
                    "size3" : 60.0
                }, 
                {
                    "ItemId" : "MMNB219",
                    "size1" : 10.0,
                    "size2" : 126.0,
                    "size3" : 8.0
                }
            ],
            "accountId" : 1.0
        }
    ],
    "serviceTime" : {
        "_id" : ObjectId("59c3b07cb7799c90ebb32cdc"),
        "serviceTimeTypeId" : "1",
        "serviceTimeType" : "nohelper",
        "description" : "",
        "fixedTime" : 30.0,
        "variableTime" : 0.0,
        "accountId" : 1.0
    }
}

1

Mongorestoreには、データベースに既に存在するものの上に追加するという機能があるため、この動作を使用して2つのコレクションを組み合わせることができます。

  1. mongodumpコレクション1
  2. collection2.rename(collection1)
  3. mongorestore

まだ試していませんが、map / reduceアプローチよりも高速に実行される可能性があります。


1

から始めてMongo 4.4、新しい$unionWith集約ステージを$groupの新しい$accumulator演算子と結合することにより、集約パイプライン内でこの結合を実現できます。

// > db.users.find()
//   [{ user: 1, name: "x" }, { user: 2, name: "y" }]
// > db.books.find()
//   [{ user: 1, book: "a" }, { user: 1, book: "b" }, { user: 2, book: "c" }]
// > db.movies.find()
//   [{ user: 1, movie: "g" }, { user: 2, movie: "h" }, { user: 2, movie: "i" }]
db.users.aggregate([
  { $unionWith: "books"  },
  { $unionWith: "movies" },
  { $group: {
    _id: "$user",
    user: {
      $accumulator: {
        accumulateArgs: ["$name", "$book", "$movie"],
        init: function() { return { books: [], movies: [] } },
        accumulate: function(user, name, book, movie) {
          if (name) user.name = name;
          if (book) user.books.push(book);
          if (movie) user.movies.push(movie);
          return user;
        },
        merge: function(userV1, userV2) {
          if (userV2.name) userV1.name = userV2.name;
          userV1.books.concat(userV2.books);
          userV1.movies.concat(userV2.movies);
          return userV1;
        },
        lang: "js"
      }
    }
  }}
])
// { _id: 1, user: { books: ["a", "b"], movies: ["g"], name: "x" } }
// { _id: 2, user: { books: ["c"], movies: ["h", "i"], name: "y" } }
  • $unionWithすでに集約パイプラインにあるドキュメント内の指定されたコレクションのレコードを結合します。したがって、2つのユニオンステージの後、すべてのユーザー、書籍、映画のレコードがパイプライン内にあります。

  • 次に、演算子を使用してアイテムを$group記録し$user、アイテムを$accumulator蓄積します。ドキュメントがグループ化されると、ドキュメントをカスタムで蓄積できます。

    • 蓄積したいフィールドはで定義されaccumulateArgsます。
    • init 要素をグループ化するときに蓄積される状態を定義します。
    • このaccumulate関数を使用すると、蓄積された状態を構築するために、レコードがグループ化されたカスタムアクションを実行できます。たとえば、グループ化bookされるアイテムにフィールドが定義されている場合books、状態の一部を更新します。
    • merge2つの内部状態をマージするために使用されます。これは、シャーディングされたクラスターで実行されている集計、または操作がメモリ制限を超えた場合にのみ使用されます。

4.2.6バージョン
Nixit Patel

0

はい、できます。私が今日作成したこのユーティリティ関数を使用します。

function shangMergeCol() {
  tcol= db.getCollection(arguments[0]);
  for (var i=1; i<arguments.length; i++){
    scol= db.getCollection(arguments[i]);
    scol.find().forEach(
        function (d) {
            tcol.insert(d);
        }
    )
  }
}

この関数には、任意の数のコレクションを渡すことができます。最初のコレクションがターゲットコレクションになります。残りのすべてのコレクションは、ターゲットのコレクションに転送されるソースです。


-1

コードスニペット。礼儀-これを含むスタックオーバーフローに関する複数の投稿。

 db.cust.drop();
 db.zip.drop();
 db.cust.insert({cust_id:1, zip_id: 101});
 db.cust.insert({cust_id:2, zip_id: 101});
 db.cust.insert({cust_id:3, zip_id: 101});
 db.cust.insert({cust_id:4, zip_id: 102});
 db.cust.insert({cust_id:5, zip_id: 102});

 db.zip.insert({zip_id:101, zip_cd:'AAA'});
 db.zip.insert({zip_id:102, zip_cd:'BBB'});
 db.zip.insert({zip_id:103, zip_cd:'CCC'});

mapCust = function() {
    var values = {
        cust_id: this.cust_id
    };
    emit(this.zip_id, values);
};

mapZip = function() {
    var values = {
    zip_cd: this.zip_cd
    };
    emit(this.zip_id, values);
};

reduceCustZip =  function(k, values) {
    var result = {};
    values.forEach(function(value) {
    var field;
        if ("cust_id" in value) {
            if (!("cust_ids" in result)) {
                result.cust_ids = [];
            }
            result.cust_ids.push(value);
        } else {
    for (field in value) {
        if (value.hasOwnProperty(field) ) {
                result[field] = value[field];
        }
         };  
       }
      });
       return result;
};


db.cust_zip.drop();
db.cust.mapReduce(mapCust, reduceCustZip, {"out": {"reduce": "cust_zip"}});
db.zip.mapReduce(mapZip, reduceCustZip, {"out": {"reduce": "cust_zip"}});
db.cust_zip.find();


mapCZ = function() {
    var that = this;
    if ("cust_ids" in this.value) {
        this.value.cust_ids.forEach(function(value) {
            emit(value.cust_id, {
                zip_id: that._id,
                zip_cd: that.value.zip_cd
            });
        });
    }
};

reduceCZ = function(k, values) {
    var result = {};
    values.forEach(function(value) {
        var field;
        for (field in value) {
            if (value.hasOwnProperty(field)) {
                result[field] = value[field];
            }
        }
    });
    return result;
};
db.cust_zip_joined.drop();
db.cust_zip.mapReduce(mapCZ, reduceCZ, {"out": "cust_zip_joined"}); 
db.cust_zip_joined.find().pretty();


var flattenMRCollection=function(dbName,collectionName) {
    var collection=db.getSiblingDB(dbName)[collectionName];

    var i=0;
    var bulk=collection.initializeUnorderedBulkOp();
    collection.find({ value: { $exists: true } }).addOption(16).forEach(function(result) {
        print((++i));
        //collection.update({_id: result._id},result.value);

        bulk.find({_id: result._id}).replaceOne(result.value);

        if(i%1000==0)
        {
            print("Executing bulk...");
            bulk.execute();
            bulk=collection.initializeUnorderedBulkOp();
        }
    });
    bulk.execute();
};


flattenMRCollection("mydb","cust_zip_joined");
db.cust_zip_joined.find().pretty();

-2

これはアプリケーション層で行う必要があります。ORMを使用している場合は、アノテーション(または類似のもの)を使用して、他のコレクションに存在する参照をプルすることができます。私はMorphiaでのみ作業しており、@Reference注釈は照会時に参照エンティティをフェッチするため、コードで自分で行うことを回避できます。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.