Easter79 Easter79
3年前
sqoop从hive导入数据到mysql时出现主键冲突
今天在将一个hive数仓表导出到mysql数据库时出现进度条一直维持在95%一段时间后提示失败的情况,搞了好久才解决。使用的环境是HUE中的Oozie的workflow任何调用sqoop命令,该死的oozie的日志和异常提示功能太辣鸡了,最后发现是重复数据导致数据进入mysql表时出现主键冲突进而导致数据同步失败。(1)众所周知hive表是没有主键与索引
Stella981 Stella981
3年前
HuTool工具类使用之Excel文档的导入导出
HuTool工具类使用之Excel文档的导入导出前言在日常的工作开发中,Excel的导入和导出是必不可少的,如果自己写相应的导入导出方法,会显得十分繁琐,本文采用Hutool工具类实现的Excel导入导出功能,可以大幅度减少今后开发中Excel的导入导出的相关操作。
Wesley13 Wesley13
3年前
mysql系统架构解析
以下内容是依据《MySQL性能调优与架构设计》来做的知识点总结,感兴趣的朋友可以看一下这本书,毕竟按照书来学习比较系统。能够整体的把握知识脉络。一、MySQL逻辑模块组成mysql可以看成是二层架构,第一层叫SQLLayer,这一部分主要功能是完成mysql数据库系统处理底层数据之前的所有的准备工作,包括权限判断、sql解析、执行计划优化、qu
Stella981 Stella981
3年前
Jmeter在chrome浏览器中录制脚本
利用blazemeter插件可以录制chrome浏览器中的操作,并生成jmx文件,导入到jmeter中使用1、 下载blazemeter    地址:https://pan.baidu.com/s/1VRVv4ZQ9B2U\_y2p22NNqhA2、 安装插件将文件拖到chrome更多工具扩展程序中插
Wesley13 Wesley13
3年前
mysql设置远程访问
(1)连接数据库mysqlurootp(2)输入密码(3)切换数据库usemysql;(4)修改root用户hostupdateusersethost'%'whereuser'root';(5)修改mysqld配置文件vi/etc/mysql/mysql.co
Wesley13 Wesley13
3年前
mysql innodb和myisam比较
1.MySQL默认采用的是MyISAM。2.MyISAM不支持事务,而InnoDB支持。InnoDB的AUTOCOMMIT默认是打开的,即每条SQL语句会默认被封装成一个事务,自动提交,这样会影响速度,所以最好是把多条SQL语句显示放在begin和commit之间,组成一个事务去提交。3.InnoDB支持数据行锁定,MyISAM不支持行锁定,
Wesley13 Wesley13
3年前
MYSQL与TiDB的执行计划
前言这里采用了tpch一个数据库的数据量来进行查询计划的对比。并借助tpch中的22条查询语句进行执行计划分析。mysql采用的是标准安装,TiDB采用的是单机测试版,这里的性能结果不能说明其性能差异本文章主要目的是对比Mysql与TiDB在执行sql查询时的差异。mysql版本5.7  TiDB版本v2.0.0rc.4准备
Wesley13 Wesley13
3年前
MYSQL做数据仓库的性能瓶颈
缺少hashjoin和parallel这种工具,MYSQL注定不是个合适的数据仓库工具。无论是是myisam还是innodb,在处理一个复杂的SQL查询的时候,并不能发挥多核CPU的性能。只会有一个CPU正在满负荷地运转。所以对于一个分析性数据库而言,MYSQL多核实际上是极大的浪费。MYSQL做查询优化的时候,一个是注意在g
Wesley13 Wesley13
3年前
MySQL 存储引擎(2)
首先我们带着下边三个问题来认识存储引擎存储引擎在MySQL中的作用是什么?MySQL都有哪些存储引擎SQL又与存储引擎有什么关系?存储引擎在MySQL中的作用是什么?顾名思义,存储引擎就是用于存储我们的数据的。在关系型数据库中我们一般将数据库存放在表中(Table)。我们可以把这个表理解成Excel电子表格
燕青 燕青
1年前
JSON编辑、擦卡工具:JSON Wizard for mac
是查看和编辑你的JSON最简单的方法,是Mac端的终极JSON工具。你只是想查看和编辑你的JSON文件?你想能够导入XML/YAML/PLIST/CSV文件吗?也许你想能够出口到所有这些格式?轻松的视觉编辑?或直接与源代码和生活语法检查?JSONWizar