mongo实现分页模糊查询

Wesley13
• 阅读 681

使用mongo做分页查询

我使用的是pymongo,pymongo的函数库非常接近mongo的原生命令行。

在使用普通的find查找的时候,可以使用pymongo的limit与skip函数

形如:

cursor = db.compo_message.find(
    {
        "上传人":updateuser,
        "$and":[
            {"上传时间":{"$regex":updatetime}},
            {"公司":{"$regex":company}},
            {"元件类型":{"$regex":component_type}},
            {"元件号":{"$regex":compo_number}}
        ]
    }
).limit(pagesize).skip(skip)

allcount = cursor.count()

注意要将 limit函数 放在 skip函数之前,这样能够避免在数据量很大的时候引发的skip性能问题。

但有时不只要find查找,还要进行数据的聚合(类似于mysql里的连表查询),此时返回的是commandcursor对象,没有limit与skip函数可用了,这个时候就必须使用mongo的修改器:

形如:

countagg = db.compo_message.aggregate([
    {
        "$lookup":
            {
                "from": "extracted_result",
                "localField": "_id",
                "foreignField": "_id",
                "as": "result"
            }
    },
    {
        "$match":
            {
                "上传人":updateuser,
                "$and":[
                    {"上传时间":{"$regex":updatetime}},
                    {"公司":{"$regex":company}},
                    {"元件类型":{"$regex":component_type}},
                    {"元件号":{"$regex":compo_number}}
                ]
            }

    },
    {
        "$group":
            {
                "_id" : None,
                "count":{"$sum":1}
            }
    }
])

countlist = list(countagg)

if countlist:
    allcount = countlist[0].get('count')
else:
    allcount = 0

cursor = db.compo_message.aggregate([
    {
        "$lookup":
            {
                "from": "extracted_result",
                "localField": "_id",
                "foreignField": "_id",
                "as": "result"
            }
    },
    {
        "$match":
            {
                "上传人":updateuser,
                "$and":[
                    {"上传时间":{"$regex":updatetime}},
                    {"公司":{"$regex":company}},
                    {"元件类型":{"$regex":component_type}},
                    {"元件号":{"$regex":compo_number}}
                ]
            }

    },
    { "$skip": skip },
    { "$limit": pagesize }
])

在使用修改器的时候,mongo内部对limit和skip进行了优化。

相对于find查找而言,聚合的操作效率就要低很多了,表间连接查询非常频繁的话,这块可能会成为瓶颈。

点赞
收藏
评论区
推荐文章
blmius blmius
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Karen110 Karen110
2年前
一篇文章带你了解JavaScript日期
日期对象允许您使用日期(年、月、日、小时、分钟、秒和毫秒)。一、JavaScript的日期格式一个JavaScript日期可以写为一个字符串:ThuFeb02201909:59:51GMT0800(中国标准时间)或者是一个数字:1486000791164写数字的日期,指定的毫秒数自1970年1月1日00:00:00到现在。1\.显示日期使用
Jacquelyn38 Jacquelyn38
2年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Easter79 Easter79
2年前
Twitter的分布式自增ID算法snowflake (Java版)
概述分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求,最初Twitter把存储系统从MySQL迁移
Stella981 Stella981
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Stella981 Stella981
2年前
Mongodb入门(1)
CURD操作:"""安装pymongo这个库pip3installpymongo在你安装并开启mongo之后,就可以使用pymongo来连接使用mongodb了"""importpymongoimportrandom
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
为什么mysql不推荐使用雪花ID作为主键
作者:毛辰飞背景在mysql中设计表的时候,mysql官方推荐不要使用uuid或者不连续不重复的雪花id(long形且唯一),而是推荐连续自增的主键id,官方的推荐是auto_increment,那么为什么不建议采用uuid,使用uuid究
Python进阶者 Python进阶者
3个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这