Pandas案例精进 | 续集:自动分割汇总表写入到子表

Aidan075 等级 447 0 0

Pandas案例精进 | 续集:自动分割汇总表写入到子表

大家好!

欢迎来到「Pandas案例精进」专栏,点击橙字查看全部

前文回顾:Pandas案例精进 | 自动分割汇总表写入到子表中

本文是承接上一篇的实战案例,没看过的小伙伴建议先点击👆上方链接查看前文

Pandas案例需求

Pandas案例精进 | 续集:自动分割汇总表写入到子表

现在的新需求跟之前的区别有:

汇总表多了级别字段,需要根据不同的级别对应不同的文件夹:

Pandas案例精进 | 续集:自动分割汇总表写入到子表

所属区的xlsx文件有时可能是xls,并不一定是xlsx的。

各级别文件夹中存在一些不能匹配汇总表的垃圾文件需要删除。

汇总表中所有的对应项目并不是都在级别文件夹中存在,不存在的只提示哪些不存在,无需额外处理。

下面是我的实现过程:

数据加载

import os  
import pandas as pd  

excel_dir = os.getcwd()  

data = pd.read_excel(f"{excel_dir}/汇总.xlsx", sheet_name='明细')  
data  

本文直接设置excel_dir为工作目录,大家如果代码和数据不在同一文件夹,可以根据自己的情况更改设置文件路径。

Pandas案例精进 | 续集:自动分割汇总表写入到子表

遍历计算出每级别所涉及的区

level_areas = {}  
for i, row in data.iterrows():  
    areas = level_areas.setdefault(row['级别'], set())  
    areas.add(row['所属区'])  
level_areas  

执行结果

{'一级': {'B区'}, '二级': {'A区', 'C区'}, '三级': {'D区', 'E区'}}  

删除多余文件+转换xls

这里会用到win32com.client库,需要额外安装。

pip install pywin32  

也可使用国内清华源来加快Python库的安装速度。

pip install pywin32 -i https://pypi.tuna.tsinghua.edu.cn/simple  

安装后使用

import win32com.client as win32  

for level in data['级别'].unique():  
    areas = level_areas[level]  
    files = os.listdir(f"{excel_dir}/{level}")  
    for file in files:  
        tag = file.replace(".xlsx", "").replace(".xls", "")  
        filename = f"{excel_dir}/{level}/{file}"  
        if not tag in areas:  
            print(f"删除文件:{filename}")  
            os.remove(filename)  
        elif file.endswith(".xls"):  
            print(f"将 {filename} 转换为 {filename}x")  
            excel = win32.gencache.EnsureDispatch('Excel.Application')  
            try:  
                wb = excel.Workbooks.Open(filename)  
                wb.SaveAs(f"{filename}x", FileFormat=51)  #FileFormat = 51 is for .xlsx extension  
                print("转换成功")  
            finally:  
                wb.Close()  #FileFormat = 56 is for .xls extension  
            excel.Application.Quit()  
            os.remove(filename)  

上述代码可以实现删除级别文件夹多余的文件并将xls转换为xlsx。

比如将 一级/B区.xls 转换为 一级/B区.xlsx

注意:使用pywin32转换excel文件格式时,绝对路径的盘符后面的分隔符必须是反斜杠\,后面的路径分隔符用正斜杠或反斜杠都可以。

遍历出级别和区域

for (level, area), df in data.groupby(['级别', '所属区']):  
    print(level, area)  
    df = df.iloc[:, 2:]  
    display(df)  

执行结果

Pandas案例精进 | 续集:自动分割汇总表写入到子表

写出结果

最后,利用openpyxl库将结果分别写入各级别、各Excel文件中。

from openpyxl import load_workbook  

for (level, area), df in data.groupby(['级别', '所属区']):  
    print(level, area)  
    df = df.iloc[:, 2:]  
    out_file_name = f"{excel_dir}/{level}/{area}.xlsx"  
    if not os.path.exists(out_file_name):  
        print(out_file_name, "文件不存在,跳过")  
        continue  
    print("准备写出到:", out_file_name)  
    workbook = load_workbook(filename=out_file_name)  
    sheet = workbook.active  
    # 先删除第4行之后的旧数据,预计1000行完全够用  
    sheet.delete_rows(idx=4, amount=1000)  
    # 然后再进行添加数据  
    for row in df.values.tolist():  
        sheet.append(row)  
        print(row)  
    print(f"保存到{out_file_name}文件中")  
    workbook.save(filename=out_file_name)  
    workbook.close()  

Pandas案例精进 | 续集:自动分割汇总表写入到子表

小结

估计有朋友觉得本文为了处理几个Excel写了这么多行代码,也没看出来有啥效果。

但是上面只是示例数据,而群友真正工作要处理的数据有几百个文件夹,用代码处理的优势一下子就体现出来了。

不如看看反馈吧:

Pandas案例精进 | 续集:自动分割汇总表写入到子表

如果大家喜欢我们的文章,就给右下角点个赞👍吧~

本文代码和案例数据

如果大家想自己练手,可以通过以下步骤获取代码及案例数据👇

Pandas案例精进 | 续集:自动分割汇总表写入到子表

Pandas案例精进 | 续集:自动分割汇总表写入到子表

最后,还有「凹凸数据」的荐书环节!

本文转转自微信公众号凹凸数据原创https://mp.weixin.qq.com/s/WxWOt6SRJnXDbvX7Lz_rCA,可扫描二维码进行关注: Pandas案例精进 | 续集:自动分割汇总表写入到子表 如有侵权,请联系删除。

收藏
评论区

相关推荐

Pandas案例精进 | 结构化数据非等值范围查找 ③
(https://imghelloworld.osscnbeijing.aliyuncs.com/e6c2856ad5883bc1c88c2f0737ef232e.png) 大家好,我是小五🐶 欢迎来到👉「Pandas案例精进」专栏(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMz
Pandas案例精进 | 结构化数据非等值范围查找 ①
(https://imghelloworld.osscnbeijing.aliyuncs.com/dac5483b3517ff8a0968fc75987d12ad.png) 大家好,我是小五🐶 欢迎来到「Pandas案例精进(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg5
Pandas案例精进 | 结构化数据非等值范围查找 ②
(https://imghelloworld.osscnbeijing.aliyuncs.com/4971fbce1ecb759123ecc666f3af2c31.png) 大家好,我是小五🐶 欢迎来到「Pandas案例精进」专栏(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg
Pandas案例精进 | 续集:自动分割汇总表写入到子表
(https://imghelloworld.osscnbeijing.aliyuncs.com/0d046e77f6ee65ce132919966585165a.png) 大家好! 欢迎来到「Pandas案例精进」专栏(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg5OD
Pandas案例精进 | 自动分割汇总表写入到子表
(https://imghelloworld.osscnbeijing.aliyuncs.com/f5b70d401be96176067dfe8304143ead.png) 大家好! 欢迎来到「Pandas案例精进」专栏 今天分享的是一个之前的案例,里面涉及的方法可能有些过时,但处理思想仍有较高的参考价值。 Pandas案例需求
Pandas统计分析基础(基础篇,新手必看)
Pandas统计分析基础Pandas(Python Data Analysis Library)是基于NumPy的数据分析模块,它提供了大量标准数据模型和高效操作大型数据集所需的工具,可以说Pandas是使得Pyth
Pandas数据载入与预处理(详细的数据Python处理方法)
Pandas数据载入与预处理对于数据分析而言,数据大部分来源于外部数据,如常用的CSV文件、Excel文件和数据库文件等。Pandas库将外部数据转换为DataFrame数据格式,处理完成后再存储到相应的外部文件
Python数据分析实战(2)使用Pandas进行数据分析
一、Pandas的使用 1.Pandas介绍Pandas的主要应用包括: 数据读取 数据集成 透视表 数据聚合与分组运算 分段统计 数据可视化Pandas的使用很灵活,最重要的两个数据类型是DataFrame和Series。对DataFrame最直观的理解是把它当成一个Excel表格文件,如下:索引是从0开始的,也
分享5个高效的pandas函数!
熟练掌握pandas函数都能帮我们在数据分析过程中节省时间。pandas还有很多让人舒适的用法,这次就为大家介绍5个pandas函数!本文来源towardsdatascience,作者Soner Yıldırım,由Python大数据分析编译。1\. explodeexplode用于将一行数据展开成多行。比如说dataframe中某一行其中一个元素包含多个同
再见,Excel!一行Pandas代码,即可实现漂亮的 “条件格式”!
本文概述Pandas 是数据科学家做数据处理时,使用最多的工具。对比Excel,我们可以发现: Pandas基本可以实现所有的Excel的功能,并且比Excel更方便、简洁,其实很多操作我们在过去的文章中,或多或少都讲述过。但是在数据框上,完成各种 “条件格式” 的设置,帮助我们更加凸显数据,使得数据的展示更加美观,今天还是头一次讲述。上图左表展示的是某班级
天秀!一张图就能彻底搞定Pandas!
大家好,在三月初,我曾给大家分享过一份Matplotlib绘图小抄,详见昨天在面向GitHub编程时,无意发现了Pandas官方竟提供了同款小抄,项目地址如下https://github.com/pandasdev/pandas/blob/master/doc/cheatsheet/PandasCheatSheet.pdf 可以看到这份小抄提供了PPT和P
总结了pandas提取数据的15种方法,统统只需1行代码,真香!
pandas是python数据分析必备工具,它有强大的数据清洗能力,往往能用非常少的代码实现较复杂的数据处理今天,鸟哥总结了pandas筛选数据的15个常用技巧,主要包括5个知识点:1.比较运算:、<、、、<、!2.范围运算:between(left,right)3.字符筛选:str.contains(pattern或字符串,naFalse)4.逻辑运算:&
Pandas专家总结:指定样式保存excel数据的 “N种” 姿势!
作者:小小明 简介:Pandas数据处理专家,10余年编码经验,至今已帮助过百名以上数据从业人员解决工作实际遇到的问题,其中数据处理和办公自动化问题涉及的行业包括会计、审计、HR、气象工作人员、教师、律师、运营,以及各行业的数据分析师和专做数据分析案例的公众号号主。 若你在数据处理的问题上遇到什么困难,欢迎与我交流。目录 准备数据
14个pandas神操作,手把手教你写代码
「数仓宝贝库」,带你学数据!导读: Pandas是Python数据分析的利器,也是各种数据建模的标准工具。本文带大家入门Pandas,将介绍Python语言、Python数据生态和Pandas的一些基本功能。 在Python语言应用生态中,数据科学领域近年来十分热门。作为数据科学中一个非常基础的库,Pandas受到了广泛关注。Pandas可以将现实中来
14个pandas神操作,手把手教你写代码
「数仓宝贝库」,带你学数据!导读:Pandas是Python数据分析的利器,也是各种数据建模的标准工具。本文带大家入门Pandas,将介绍Python语言、Python数据生态和Pandas的一些基本功能。 在Python语言应用生态中,数据科学领域近年来十分热门。作为数据科学中一个非常基础的库,Pandas受到了广泛关注。Pandas可以将现实中来源