记一次数据脱敏的实践

尾火虎
• 阅读 3649

数据安全是老生常谈的问题了,很多时候开发人员在开发接口的时候,不知觉的情况下就把一些敏感信息泄漏出去,例如用户账号、手机号、身份证等,这样别人就可以调用接口抓取我们的用户数据,导致隐私信息泄漏。如果我们能在数据库和应用系统之间做一个脱敏,在数据从应用程序中流出之前将敏感性信息过滤掉,这样应用程序获取的数据已经是脱敏后的数据了,它发布任何接口流出的都是经过脱敏后的数据,从而保护我们敏感数据不被泄露。之前和朋友聊过数据脱敏软件的实现,所以就使用java实现了一个简易版本的脱敏程序,在这里记录一下。

目标

实现给处于运行中的应用系统脱敏,不影响系统的正常运行,不修改应用系统数据库中的数据

场景与方案

目前大多数的关系型数据库是CS模式的,数据库厂商提供驱动包给应用程序和数据库交互,应用程序和数据库之间通过驱动包使用tcp+ssl协议进行通讯。鉴于此,我设想了两个方案来实现数据脱敏,欢迎大家提供更多的思路,不甚感激。

第一种是在服务端(数据库所在的服务器)做数据库插件完成脱敏;
记一次数据脱敏的实践

第二种就是在客户端(应用程序)接到数据做脱敏工作。
记一次数据脱敏的实践

个人比较熟悉java语言,实践时使用了第二种方案。接下来将对使用关系型数据库java应用程序做数据脱敏工作,当然实现思路也适用于使用其他类型数据库的应用系统。详细方案如下图:
记一次数据脱敏的实践

遇到的问题

在该方案中实践过程中,会遇到以下几个问题,如果有大佬已解决下面的几个问题,接下来的内容可不用看了,哈哈。

  • 一个客户的应用系统,没有源代码的情况下怎么给系统添加额外的逻辑代码
  • 脱敏逻辑在什么地方添加
  • 应用程序正在运行中,如何让代码生效运行

技术实现

首先,我们先解决上面提到的问题,扫清技术障碍。

对于第一个没有源代码的问题,虽然没有源代码但是会有字节码文件,我们可以找到相应类的字节码,解析出类的方法从而在方法中添加逻辑,这就需要使用字节码的增强技术。字节码的增强有ASM和Javassist,Javassist是基于源码级别的API,可读性强;ASM是基于字节码。它们各有优劣,这里使用的是ASM。

对于第二个问题,我们知道java中对数据库交互提供统一的规范,各个数据库厂商的驱动包实现该规范。而应用程序底层数据库交互均通过jdbc连接数据库,所以我们的脱敏逻辑只要在驱动包中添加好后就可以管控数据。既然我们都能对字节码增强了,为什么不增强socket呢?如果增强要增强socket的话,就要实现数据的通讯协议,还需要账号等。实现各个厂商的协议就是个巨大的工作,如果我们基于jdbc增强的话就省了这部分工作,实际上就是偷懒,哈哈。而ResultSet是jdbc查询数据返回结果集的接口,该接口返回的数据是已经解析好的明文数据,只要增强管理好这个接口就能控制流出的数据。此次实践就是对ResultSet接口实现类进行增强处理,我们的脱敏逻辑可以添加到ResultSet的实现类里面。此外当数据脱敏后流出之后,可能会被保存回来,所以还需要管理数据的流入还原脱敏前的数据。这就需要对Statement、PrepareStatement等接口的实现做增强。

对于第三个问题,这就需要java agent了,它可以帮助我们在应用启动后加载我们增强后的类,让新增的脱敏逻辑运行生效。
java agent有两种实现方式,一种是增加启动参数-javaagent;

-javaagent:${agent.jar.path}/agent.jar

另外一种是使用attach api,可以在运行时加载代理类。注意attach api在tools包中,需要添加这个包。命令格式如下:

${java_home}/bin/java -cp "${java_home}\lib\tools.jar;${attach.api.jar}" ${package.class.name} ${pid} ${agent.jar}

相关技术盘点:

- asm
- java agent
- java attach api

这样,只要java应用程序中使用实现了jdbc规范的数据库驱动包,我们的脱敏程序就可以在这个java应用程序中正常工作。
以上就是整个的实现思路,实现的源码程序比较简单,就不再对代码一一赘述,接下来我们直接看示例效果。

软件示例

我们用attach的方式做示例,演示下给在运行中的应用系统添加脱敏功能,另外一种也是类似的。示例链接点这里
主要步骤:

  1. 启动第三方应用系统
  2. 准备脱敏程序jar包
  3. 获取应用系统的pid,将脱敏程序attach到应用系统
  4. 脱敏效果测试,注意不能影响应用系统使用,脱敏开启后应用系统正常使用,关闭后系统也能正常使用

总结

示例展示了本次实现的数据脱敏程序,只需要知道应用程序的进程pid,就可以帮助系统脱敏。当前的脱敏规支持可以根据关键字、正则表达式、字段名称脱敏,脱敏启用后应用可正常处理数据,不影响系统使用,适用范围:实现了jdbc规范的java程序,自测Mysql和Oracle均可以使用。当然我们还可以在此基础上扩展新的功能,比如增加nlp识别出人名、手机号、身份证号进行脱敏,让脱敏更加自动、智能;支持更多的敏感词来源,包括数据库、redis等。本文受个人思路限制,错误遗漏之处,欢迎大家指正。

参考资料

点赞
收藏
评论区
推荐文章
Oracle 分组与拼接字符串同时使用
SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(
Wesley13 Wesley13
4年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Jacquelyn38 Jacquelyn38
4年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
kenx kenx
4年前
SpringBoot 整合缓存Cacheable实战详细使用
前言我知道在接口api项目中,频繁的调用接口获取数据,查询数据库是非常耗费资源的,于是就有了缓存技术,可以把一些不常更新,或者经常使用的数据,缓存起来,然后下次再请求时候,就直接从缓存中获取,不需要再去查询数据,这样可以提供程序性能,增加用户体验,也节省服务资源浪费开销,在springboot帮你我们做好了整合,有对应的场景启动器start,我们之间引入使用
利用Jackson序列化实现数据脱敏
在项目中有些敏感信息不能直接展示,比如客户手机号、身份证、车牌号等信息,展示时均需要进行数据脱敏,防止泄露客户隐私。脱敏即是对数据的部分信息用脱敏符号()处理。
Wesley13 Wesley13
4年前
VBox 启动虚拟机失败
在Vbox(5.0.8版本)启动Ubuntu的虚拟机时,遇到错误信息:NtCreateFile(\\Device\\VBoxDrvStub)failed:0xc000000034STATUS\_OBJECT\_NAME\_NOT\_FOUND(0retries) (rc101)Makesurethekern
Stella981 Stella981
4年前
Hibernate纯sql查询结果和该sql在数据库直接查询结果不一致
问题:今天在做一个查询的时候发现一个问题,我先在数据库实现了我需要的sql,然后我在代码中代码:selectdistinctd.id,d.name,COALESCE(c.count_num,0),COALESCE(c.count_fix,0),COALESCE(c
Stella981 Stella981
4年前
ELK学习笔记之ElasticSearch的索引详解
0x00ElasticSearch的索引和MySQL的索引方式对比Elasticsearch是通过Lucene的倒排索引技术实现比关系型数据库更快的过滤。特别是它对多条件的过滤支持非常好,比如年龄在18和30之间,性别为女性这样的组合查询。倒排索引很多地方都有介绍,但是其比关系型
E小媛同学 E小媛同学
2年前
提高工作效率:利用手机号在网状态 API 进行智能筛选
手机号在网状态API是一种基于网络的接口,它可以向用户提供手机号的实时在网状态信息。通过与电信运营商的数据库进行实时连接,API可以获取手机号的在网状态,例如是否在使用中、是否停机等信息。
幂简集成 幂简集成
1年前
12 条基于风险的 API 安全控制指南
在当今互联的世界中,(应用程序编程接口)充当着应用程序之间无形的桥梁。然而,权力越大,责任也越大!保护这些API的安全至关重要,以防止潜在攻击者对数据或用户信息的隐私造成威胁。本文将介绍基于风险的API安全控制,帮助构建更可靠和防篡改的API。1\.左移安