Быстрый или массовый Upsert в pymongo

Современные выпуски pymongo (выше 3.x) заключают массовые операции в согласованный интерфейс, который понижает версию там, где версия сервера не поддерживает массовые операции. Теперь это согласовано с официально поддерживаемыми драйверами MongoDB.

Поэтому предпочтительным методом кодирования является использование bulk_write() вместо этого, где вы используете UpdateOne другое другое соответствующее действие операции вместо этого. И теперь, конечно, предпочтительнее использовать списки на естественном языке, а не конкретный конструктор

Прямой перевод старой документации:

from pymongo import UpdateOne

operations = [
    UpdateOne({ "field1": 1},{ "$push": { "vals": 1 } },upsert=True),
    UpdateOne({ "field1": 1},{ "$push": { "vals": 2 } },upsert=True),
    UpdateOne({ "field1": 1},{ "$push": { "vals": 3 } },upsert=True)
]

result = collection.bulk_write(operations)

Или классический цикл трансформации документа:

import random
from pymongo import UpdateOne

random.seed()

operations = []

for doc in collection.find():
    # Set a random number on every document update
    operations.append(
        UpdateOne({ "_id": doc["_id"] },{ "$set": { "random": random.randint(0,10) } })
    )

    # Send once every 1000 in batch
    if ( len(operations) == 1000 ):
        collection.bulk_write(operations,ordered=False)
        operations = []

if ( len(operations) > 0 ):
    collection.bulk_write(operations,ordered=False)

Возвращаемый результат имеет вид BulkWriteResult, который будет содержать счетчики совпадающих и обновленных документов, а также возвращаемые значения _id для любых происходящих "upserts".

Существует некоторое неправильное представление о размере массива массовых операций. Фактический запрос, отправленный на сервер, не может превышать ограничение BSON в 16 МБ, поскольку это ограничение также применяется к «запросу», отправляемому на сервер, который также использует формат BSON.

Однако это не влияет на размер массива запросов, который вы можете создать, поскольку фактические операции в любом случае будут отправляться и обрабатываться только партиями по 1000. Единственное реальное ограничение состоит в том, что сами по себе эти 1000 рабочих инструкций фактически не создают документ BSON размером более 16 МБ. Что действительно является довольно высоким заказом.

Общая концепция массовых методов — «меньше трафика» в результате одновременной отправки многих вещей и обработки только одного ответа сервера. Сокращение накладных расходов, связанных с каждым отдельным запросом на обновление, экономит много времени.

MongoDB 2.6+ поддерживает массовые операции. Это включает в себя массовые вставки, обновления, обновления и т. д. Смысл этого в том, чтобы уменьшить/устранить задержки из-за задержки в оба конца при выполнении операций «запись за записью» («документ за документом», чтобы быть правильным).

Так, как это работает? Пример на Python, потому что это то, над чем я работаю.

>>> import pymongo
>>> pymongo.version
'2.7rc0'

Чтобы использовать эту функцию, мы создаем «массовый» объект, добавляем к нему документы, затем вызываем для него выполнение, и он сразу отправляет все обновления. Предостережения: BSONsize собранных операций (сумма bsonsize) не может превышать предельный размер документа в 16 МБ. Конечно, количество операций при этом может существенно различаться, Ваш пробег может варьироваться.

Пример в Pymongo массовой операции upsert:

import pymongo
conn = pymongo.MongoClient('myserver', 8839)
db = conn['mydbname']
coll = db.myCollection
bulkop = coll.initialize_ordered_bulk_op()
retval = bulkop.find({'field1':1}).upsert().update({'$push':{'vals':1}})
retval = bulkop.find({'field1':1}).upsert().update({'$push':{'vals':2}})
retval = bulkop.find({'field1':1}).upsert().update({'$push':{'vals':3}})
retval = bulkop.execute()

Это основной метод. Дополнительная информация доступна по адресу:

http://api.mongodb.org/python/2.7rc1/examples/bulk.html

Изменить: - начиная с версии 3.5 драйвера Python, initialize_ordered_bulk_op устарел. Вместо этого используйте bulk_write(). [ http://api.mongodb.com/python/current/api/pymongo/collection.html#pymongo.collection.Collection.bulk_write ]

если у вас много данных и вы хотите использовать "_id" для оценки существования данных,

можешь попробовать...

import pymongo
from pymongo import UpdateOne
client = pymongo.MongoClient('localhost', 27017)
db=client['sampleDB']

collectionInfo = db.sample

#sample data
datas=[
    {"_id":123456,"name":"aaa","N":1,"comment":"first sample","lat":22,"lng":33},
    {"_id":234567,"name":"aaa","N":1,"comment":"second sample","lat":22,"lng":33},
    {"_id":345678,"name":"aaa","N":1,"comment":"xxx sample","lat":22,"lng":33},
    {"_id":456789,"name":"aaa","N":1,"comment":"yyy sample","lat":22,"lng":33},
    {"_id":123456,"name":"aaaaaaaaaaaaaaaaaa","N":1,"comment":"zzz sample","lat":22,"lng":33},
    {"_id":11111111,"name":"aaa","N":1,"comment":"zzz sample","lat":22,"lng":33}
]

#you should split judge item and other data 
ids=[data.pop("_id") for data in datas]

operations=[UpdateOne({"_id":idn},{'$set':data},upsert=True) for idn ,data in zip(ids,datas)]

collectionInfo.bulk_write(operations)

Мой английский очень плохой, если вы не понимаете, что я говорю, извините

Ответ остается прежним: нет поддержки массовых upserts.

Вы можете обновить все документы, соответствующие спецификации вашего запроса, используя multi=True.

Здесь есть ошибка о выполнении пакета команд так, как вы хотите.

Самое быстрое массовое обновление с Python 3.5+, мотором и асинхронностью:

import asyncio
import datetime
import logging
import random
import time

import motor.motor_asyncio
import pymongo.errors


async def execute_bulk(bulk):
    try:
        await bulk.execute()
    except pymongo.errors.BulkWriteError as err:
        logging.error(err.details)


async def main():
    cnt = 0
    bulk = db.initialize_unordered_bulk_op()
    tasks = []
    async for document in db.find({}, {}, no_cursor_timeout=True):
        cnt += 1
        bulk.find({'_id': document['_id']}).update({'$set': {"random": random.randint(0,10)}})
        if not cnt % 1000:
            task = asyncio.ensure_future(execute_bulk(bulk))
            tasks.append(task)
            bulk = db.initialize_unordered_bulk_op()
    if cnt % 1000:
        task = asyncio.ensure_future(bulk.execute(bulk))
        tasks.append(task)
    logging.info('%s processed', cnt)
    await asyncio.gather(*tasks)


logging.basicConfig(level='INFO')    
db = motor.motor_asyncio.AsyncIOMotorClient()['database']['collection']
start_time = time.time()
loop = asyncio.get_event_loop()
try:
    loop.run_until_complete(main())
finally:
    execution_time = time.time() - start_time
    logging.info('Execution time: %s', datetime.timedelta(seconds=execution_time))