Pandas案例精进 | 续集:自动分割汇总表写入到子表

Aidan075 等级 772 0 0

Pandas案例精进 | 续集:自动分割汇总表写入到子表

大家好!

欢迎来到「Pandas案例精进」专栏,点击橙字查看全部

前文回顾:Pandas案例精进 | 自动分割汇总表写入到子表中

本文是承接上一篇的实战案例,没看过的小伙伴建议先点击👆上方链接查看前文

Pandas案例需求

Pandas案例精进 | 续集:自动分割汇总表写入到子表

现在的新需求跟之前的区别有:

汇总表多了级别字段,需要根据不同的级别对应不同的文件夹:

Pandas案例精进 | 续集:自动分割汇总表写入到子表

所属区的xlsx文件有时可能是xls,并不一定是xlsx的。

各级别文件夹中存在一些不能匹配汇总表的垃圾文件需要删除。

汇总表中所有的对应项目并不是都在级别文件夹中存在,不存在的只提示哪些不存在,无需额外处理。

下面是我的实现过程:

数据加载

import os  
import pandas as pd  

excel_dir = os.getcwd()  

data = pd.read_excel(f"{excel_dir}/汇总.xlsx", sheet_name='明细')  
data  

本文直接设置excel_dir为工作目录,大家如果代码和数据不在同一文件夹,可以根据自己的情况更改设置文件路径。

Pandas案例精进 | 续集:自动分割汇总表写入到子表

遍历计算出每级别所涉及的区

level_areas = {}  
for i, row in data.iterrows():  
    areas = level_areas.setdefault(row['级别'], set())  
    areas.add(row['所属区'])  
level_areas  

执行结果

{'一级': {'B区'}, '二级': {'A区', 'C区'}, '三级': {'D区', 'E区'}}  

删除多余文件+转换xls

这里会用到win32com.client库,需要额外安装。

pip install pywin32  

也可使用国内清华源来加快Python库的安装速度。

pip install pywin32 -i https://pypi.tuna.tsinghua.edu.cn/simple  

安装后使用

import win32com.client as win32  

for level in data['级别'].unique():  
    areas = level_areas[level]  
    files = os.listdir(f"{excel_dir}/{level}")  
    for file in files:  
        tag = file.replace(".xlsx", "").replace(".xls", "")  
        filename = f"{excel_dir}/{level}/{file}"  
        if not tag in areas:  
            print(f"删除文件:{filename}")  
            os.remove(filename)  
        elif file.endswith(".xls"):  
            print(f"将 {filename} 转换为 {filename}x")  
            excel = win32.gencache.EnsureDispatch('Excel.Application')  
            try:  
                wb = excel.Workbooks.Open(filename)  
                wb.SaveAs(f"{filename}x", FileFormat=51)  #FileFormat = 51 is for .xlsx extension  
                print("转换成功")  
            finally:  
                wb.Close()  #FileFormat = 56 is for .xls extension  
            excel.Application.Quit()  
            os.remove(filename)  

上述代码可以实现删除级别文件夹多余的文件并将xls转换为xlsx。

比如将 一级/B区.xls 转换为 一级/B区.xlsx

注意:使用pywin32转换excel文件格式时,绝对路径的盘符后面的分隔符必须是反斜杠\,后面的路径分隔符用正斜杠或反斜杠都可以。

遍历出级别和区域

for (level, area), df in data.groupby(['级别', '所属区']):  
    print(level, area)  
    df = df.iloc[:, 2:]  
    display(df)  

执行结果

Pandas案例精进 | 续集:自动分割汇总表写入到子表

写出结果

最后,利用openpyxl库将结果分别写入各级别、各Excel文件中。

from openpyxl import load_workbook  

for (level, area), df in data.groupby(['级别', '所属区']):  
    print(level, area)  
    df = df.iloc[:, 2:]  
    out_file_name = f"{excel_dir}/{level}/{area}.xlsx"  
    if not os.path.exists(out_file_name):  
        print(out_file_name, "文件不存在,跳过")  
        continue  
    print("准备写出到:", out_file_name)  
    workbook = load_workbook(filename=out_file_name)  
    sheet = workbook.active  
    # 先删除第4行之后的旧数据,预计1000行完全够用  
    sheet.delete_rows(idx=4, amount=1000)  
    # 然后再进行添加数据  
    for row in df.values.tolist():  
        sheet.append(row)  
        print(row)  
    print(f"保存到{out_file_name}文件中")  
    workbook.save(filename=out_file_name)  
    workbook.close()  

Pandas案例精进 | 续集:自动分割汇总表写入到子表

小结

估计有朋友觉得本文为了处理几个Excel写了这么多行代码,也没看出来有啥效果。

但是上面只是示例数据,而群友真正工作要处理的数据有几百个文件夹,用代码处理的优势一下子就体现出来了。

不如看看反馈吧:

Pandas案例精进 | 续集:自动分割汇总表写入到子表

如果大家喜欢我们的文章,就给右下角点个赞👍吧~

本文代码和案例数据

如果大家想自己练手,可以通过以下步骤获取代码及案例数据👇

Pandas案例精进 | 续集:自动分割汇总表写入到子表

Pandas案例精进 | 续集:自动分割汇总表写入到子表

最后,还有「凹凸数据」的荐书环节!

本文转转自微信公众号凹凸数据原创https://mp.weixin.qq.com/s/WxWOt6SRJnXDbvX7Lz_rCA,可扫描二维码进行关注: Pandas案例精进 | 续集:自动分割汇总表写入到子表 如有侵权,请联系删除。

收藏
评论区

相关推荐

Pandas案例精进 | 结构化数据非等值范围查找 ①
(https://imghelloworld.osscnbeijing.aliyuncs.com/dac5483b3517ff8a0968fc75987d12ad.png) 大家好,我是小五🐶 欢迎来到「Pandas案例精进(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg5
Pandas案例精进 | 续集:自动分割汇总表写入到子表
(https://imghelloworld.osscnbeijing.aliyuncs.com/0d046e77f6ee65ce132919966585165a.png) 大家好! 欢迎来到「Pandas案例精进」专栏(https://mp.weixin.qq.com/mp/appmsgalbum?__bizMzU5Nzg5OD
Pandas案例精进 | 自动分割汇总表写入到子表
(https://imghelloworld.osscnbeijing.aliyuncs.com/f5b70d401be96176067dfe8304143ead.png) 大家好! 欢迎来到「Pandas案例精进」专栏 今天分享的是一个之前的案例,里面涉及的方法可能有些过时,但处理思想仍有较高的参考价值。 Pandas案例需求
Pandas统计分析基础(基础篇,新手必看)
Pandas统计分析基础Pandas(Python Data Analysis Library)是基于NumPy的数据分析模块,它提供了大量标准数据模型和高效操作大型数据集所需的工具,可以说Pandas是使得Pyth
Python数据分析实战(2)使用Pandas进行数据分析
一、Pandas的使用 1.Pandas介绍Pandas的主要应用包括: 数据读取 数据集成 透视表 数据聚合与分组运算 分段统计 数据可视化Pandas的使用很灵活,最重要的两个数据类型是DataFrame和Series。对DataFrame最直观的理解是把它当成一个Excel表格文件,如下:索引是从0开始的,也
分享5个高效的pandas函数!
熟练掌握pandas函数都能帮我们在数据分析过程中节省时间。pandas还有很多让人舒适的用法,这次就为大家介绍5个pandas函数!本文来源towardsdatascience,作者Soner Yıldırım,由Python大数据分析编译。1\. explodeexplode用于将一行数据展开成多行。比如说dataframe中某一行其中一个元素包含多个同
Pandas专家总结:指定样式保存excel数据的 “N种” 姿势!
作者:小小明 简介:Pandas数据处理专家,10余年编码经验,至今已帮助过百名以上数据从业人员解决工作实际遇到的问题,其中数据处理和办公自动化问题涉及的行业包括会计、审计、HR、气象工作人员、教师、律师、运营,以及各行业的数据分析师和专做数据分析案例的公众号号主。 若你在数据处理的问题上遇到什么困难,欢迎与我交流。目录 准备数据
14个pandas神操作,手把手教你写代码
「数仓宝贝库」,带你学数据!导读: Pandas是Python数据分析的利器,也是各种数据建模的标准工具。本文带大家入门Pandas,将介绍Python语言、Python数据生态和Pandas的一些基本功能。 在Python语言应用生态中,数据科学领域近年来十分热门。作为数据科学中一个非常基础的库,Pandas受到了广泛关注。Pandas可以将现实中来
14个pandas神操作,手把手教你写代码
「数仓宝贝库」,带你学数据!导读:Pandas是Python数据分析的利器,也是各种数据建模的标准工具。本文带大家入门Pandas,将介绍Python语言、Python数据生态和Pandas的一些基本功能。 在Python语言应用生态中,数据科学领域近年来十分热门。作为数据科学中一个非常基础的库,Pandas受到了广泛关注。Pandas可以将现实中来源
DataFrame与shp文件相互转换
因为习惯了使用pandas的DataFrame数据结构,同时pandas作为一个方便计算和表操作的数据结构具有十分显著的优势,甚至很多时候dataFrame可以作为excel在使用,而在用python操作gis的shp文件时很不顺畅,不太符合使用习惯,故写了一个DataFrame与arcgis地理文件相互转换的函数,这个处理起来可以节约大量的思考时间。 S
Panda处理文本和时序数据?首选向量化
导读 Pandas作为Python数据分析的首选框架,不仅功能强大接口丰富,而且执行效率也相比原生Python要快的多,这是得益于Pandas底层由C实现,同时其向量化执行方式也非常利于并行计算。更重要的是,这种向量化操作不仅适用于数值计算,对于文本和时间格式也有着良好的支持,而这就不得不从Pandas的属性接口谈起。 [**腾讯课堂 |
Python 数据分析包:pandas 基础
pandas 是基于 Numpy 构建的含有更高级数据结构和工具的数据分析包 类似于 Numpy 的核心是 ndarray,pandas 也是围绕着 Series 和 DataFrame 两个核心数据结构展开的 。Series 和 DataFrame 分别对应于一维的序列和二维的表结构。pandas 约定俗成的导入方法如下: lang:pytho
Python在网页上展示表格的简单方法
![](https://oscimg.oschina.net/oscnet/22596eed-3e2a-4708-acc1-bc8a22f8588d.jpg) * Python是当今最热门的编程语言 * Pandas是Python下最热门的数据处理与数据分析的库 * Flask是Python下方便简洁的Web开发框架
Python实现数据分析(四)
Pandas ------ **关键词: 数据分析库** **官网**:[https://pandas.pydata.org/](https://www.oschina.net/action/GoToLink?url=https%3A%2F%2Fpandas.pydata.org%2F) **介绍(选自-百度百科)**: pandas 是基于NumP
Python编码格式导致的csv读取错误
Python编码格式导致的csv读取错误(pandas.read\_csv) ====================================== 本文记录python小白我今天遇到的这两个问题(csv.reader和pandas.csv\_read): * pandas模块“CParserError: Error tokenizing da