5000多张数据表,如何用SQL迁移到数据仓库?

Wesley13
• 阅读 420

点击关注上方“SQL数据库开发”,

设为“置顶或星标****”,第一时间送达干货

需求背景

最近公司打算集中梳理几大业务系统的数据,希望将各个业务系统中的数据集中到数据仓库中。总共有5000多张数据表,但是好在业务数据量没有像电商那么庞大,也就几十个G。

需求分析

其实这个需求很简单,就是把这5000多张不同数据库中的表放到一个地方。需要注意的有以下几点:

1、数据来自各种不同类型的数据库,有SQL Server,MySQL和Oracle

2、表的数据量较多,一个一个写查询代码肯定不现实

3、后续数据仓库的维护

方案建议

由于数据量不是很大,我打算用DBLINK来实现从不同的库中抽取数据到数据仓库中。

方案思路

1、创建不同的DBLINK

数据仓库我们目前使用的是SQL Server的服务器,整体性能还可以。但是业务系统的数据库类型不一,在新建DBLINK时有不同的要求:

a、针对SQL Server的业务数据库可以直接在服务器上新建

5000多张数据表,如何用SQL迁移到数据仓库?

b、针对MySQL和Oracle的业务数据库需要先使用ODBC作用中间组件来配置。

5000多张数据表,如何用SQL迁移到数据仓库?

2、查询数据库中的所有表表名

每个业务数据库都是全库抽取,那么首先需要找到这些数据库中的所有表。这里我们以SQL Server为例来查找数据库中的所有表。

SELECT NAME FROM SYSOBJECTS WHERE TYPE='U'

上面的代码就可以把当前库中的所有表的表名都给查询出来,我这里在家里电脑测试了一下,给大家看下截图:

5000多张数据表,如何用SQL迁移到数据仓库?

大家也可以在自己的电脑上试一试就知道了。

Oracle获取用户表表名的代码如下:

SELECT * FROM USER_TABLES;

MySQL获取用户表表名的代码如下:

select table_namefrom information_schema.tableswhere table_schema='db_name';

3、循环抽取数据

我们在完成上面两步后,就可以开始循环抽取各业务系统的数据了。这里我们需要写一个游标来循环执行。具体代码如下:

DECLARE @TableName varchar(50),@Sql varchar(500)--定义两个变量,一个用来存储表名,一个用来存储插入语句DECLARE cursor_variable CURSOR FOR--定义一个游标,并且将目标表的所有表名插入游标中select name from [192.168.0.39].[test].[dbo].sysobjects where xtype='u' order by name;OPEN cursor_variable--打开游标FETCH NEXT FROM cursor_variableINTO @TableName--获取游标中的数据插入到变量中WHILE @@FETCH_STATUS=0--循环执行,当游标中的数据被读完为止BEGIN    SET @Sql='select * into dbo.'+@TableName +' from [192.168.0.39].[test].[dbo].'+@TableName   Exec @SqlFETCH NEXT FROM cursor_variableINTO @TableNameENDCLOSE cursor_variable--关闭游标DEALLOCATE cursor_variable;--释放游标

目前只是测试代码,后续在性能上还可以继续优化。

4、设置定时任务

代码写好了,肯定不可能每天手动去执行,这时候我们可以使用数据库的定时任务,这个我在以前的文章中有提到过。《 数据库任务自动化其实很简单,JOB的简单介绍

5000多张数据表,如何用SQL迁移到数据仓库?

我们把代码放到定时任务里面,让它每天凌晨1点执行即可。

总结

这个办法在处理数据量不多的情况下是可行的,如果数据量较大,性能上会存在较大风险。下面我们回顾一下做了哪些内容:

1、创建不同数据库的DBLINK

2、查询到每个数据库的所有表名

3、使用游标循环插入到数据仓库

4、设置定时任务执行上面的游标

每个步骤都可能会存在问题,但是只要把这些问题都解决了,这件事就解决了。

觉得不错,记得转发分享给更多人~

     ——End——
 
    
    
       
      
      
      
    
       
       
       后台回复关键字:1024,获取一份精心整理的技术干货
   
      
      
      
   
      
      
      
    
       
       
       后台回复关键字:进群,带你进入高手如云的交流群。
   
      
      
      
   
      
      
      
    
       
       
       推荐阅读
   
      
      
      
   
      
      
      
    
       
       
       
     
        
        
        
      
         
         
         SQL 语法速成手册
      
         
         
         
     
        
        
        
    
       
       
       
     
        
        
        
      
         
         
         精心整理了一套SQL高级函数,建议收藏
     
        
        
        
    
       
       
       
     
        
        
        
      
         
         
         一款SQL自动检查神器,再也不用担心SQL出错了!
      
         
         
         
     
        
        
        
    
       
       
       
     
        
        
        
      
         
         
         SQL 语句中 where 条件后 写上1=1 是什么意思
      
         
         
         
     
        
        
        
    
       
       
       
     
        
        
        
      
         
         
         国产数据库建模工具,看到界面第一眼,良心了!
      
         
         
         
     
        
        
        
     
        
        
        
      
         
         
         
     
        
        
        
   
      
      
      
   
      
      
      
    
       
       
       这是一个能学到技术的公众号,欢迎关注
   
      
      
      
  
     
     
     
   
      
      
      
  
     
     
     点击「阅读原文」了解SQL训练营

本文分享自微信公众号 - SQL数据库开发(sql_road)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

点赞
收藏
评论区
推荐文章
blmius blmius
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Jacquelyn38 Jacquelyn38
2年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Stella981 Stella981
2年前
Python3:sqlalchemy对mysql数据库操作,非sql语句
Python3:sqlalchemy对mysql数据库操作,非sql语句python3authorlizmdatetime2018020110:00:00coding:utf8'''
Easter79 Easter79
2年前
Twitter的分布式自增ID算法snowflake (Java版)
概述分布式系统中,有一些需要使用全局唯一ID的场景,这种时候为了防止ID冲突可以使用36位的UUID,但是UUID有一些缺点,首先他相对比较长,另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID,并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求,最初Twitter把存储系统从MySQL迁移
Wesley13 Wesley13
2年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Stella981 Stella981
2年前
Docker 部署SpringBoot项目不香吗?
  公众号改版后文章乱序推荐,希望你可以点击上方“Java进阶架构师”,点击右上角,将我们设为★“星标”!这样才不会错过每日进阶架构文章呀。  !(http://dingyue.ws.126.net/2020/0920/b00fbfc7j00qgy5xy002kd200qo00hsg00it00cj.jpg)  2
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
3个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这