MYSQL大数据导入
感谢XP提供的代码!
在这里记录一下,因为以后学要用;作用资料查询之用!
第一步:mysql -h localhost -uroot
第二步:show databases;
第三步:use changchunmap;
第四步:show tables;
第五步:load data local infile "d:/c.txt" replace into table changchunmap fields terminated by ' ';
没有了;
load data local infile "d:/migration/mysql/babel_topic.txt" replace into table babel_topic_test fields terminated by ' '
load data local infile "d:/migration/mysql/babel_user.txt" replace into table babel_user_test fields terminated by '\t'
在导入过程中因为某些字段数据为NULL修改了某些表格的长度和可以为空,为了正确导入,请保证如下字段修改完毕:
Babel_topic: tpc_uname VARCHAR(192) 可以为NULL
Babel_user: usr_password VARCHAR(64) 可以为NULL
usr_nick VARCHAR(192) 可以为NULL
load data local infile "d:/c.txt" replace into table changchunmap fields terminated by ' '
相关推荐
-
Mysql命令行导入sql数据
我的个人实践是:phpmyadmin 导出 utf-8 的 insert 模式的 abc.sql ftp abc.sql 到服务器 ssh 到服务器 mysql -u abc -p use KKK(数据库名,如果没有就 create database KKK) set names 'utf8' source abc.sql 注意:我看到 set character set utf8; 的说法,那样不行,中文乱码. 1.首先在命令行控制台中打开mysql 或许命令的如下: mysql -u roo
-
用SQL语句解决mysql导入大数据文件的问题
对于经常使用MYSQL的人来说,phpmyadmin是一个必备的工具.这个工具非常强大,几乎可以完成所有的数据库操作,但是它也有一个弱点,对于往远程服务器上导入较大的数据文件的时候会速度奇慢,甚至出现长期没有响应的情况. 为什么会出现这样的情况呢?当我们选择一个sql数据文件并提交的时候,服务器首先要先把文件上传到服务器,然后才会执行导入代码把数据导入到数据库.我们知道phpmyadmin是通过web方式上传的数据文件,而web方式上传是很不稳定的,尤其是网速慢的时候,这就是为什么我们会有那么多
-
MYSQL导入导出命令详解
/usr/local/mysql/bin/mysql -uroot -proot test -e "LOAD DATA INFILE '/usr/1.txt' replace INTO TABLE test FIELDS TERMINATED BY '\t' (name,address)" info: 1.txt zhangsan wuhan lishi wuhan 把1.txt文件插入到mysql数据库中 网上看了一些总结出来的资料,不知道对大家有没有用的,有用的话也就不枉费我一按按
-
MySQL 文本文件的导入导出数据的方法
MySQL写入数据通常用insert语句,如 复制代码 代码如下: insert into person values(张三,20),(李四,21),(王五,70)-; 但有时为了更快速地插入大批量数据或交换数据,需要从文本中导入数据或导出数据到文本. 一. 建立测试表,准备数据 首先建立一个用于测试的表示学生信息的表,字段有id.姓名.年龄.城市.薪水.Id和姓名不 能为空. 复制代码 代码如下: create table person( id int not null auto_increm
-
MYSQL大数据导入
感谢XP提供的代码! 在这里记录一下,因为以后学要用:作用资料查询之用! 第一步:mysql -h localhost -uroot 第二步:show databases; 第三步:use changchunmap; 第四步:show tables; 第五步:load data local infile "d:/c.txt" replace into table changchunmap fields terminated by ' '; 没有了: load data
-
分析Mysql大量数据导入遇到的问题以及解决方案
在项目中,经常会碰到往数据库中导入大量数据,以便利用sql进行数据分析.在导入数据的过程中会碰到一些需要解决的问题,这里结合导入一个大约4G的txt数据的实践,把碰到的问题以及解决方法展现出来,一方面自己做个总结记录,另一方面希望对那些碰到相同问题的朋友有个参考. 我导入的数据是百科的txt文件,文件大小有4G多,数据有6500万余条,每条数据通过换行符分隔.每条数据包含三个字段,字段之间通过Tab分隔.将数据取出来的方法我采用的是用一个TripleData类来存放这三个字段,字段都用Strin
-
php 在线导入mysql大数据程序
php 在线导入 mysql 大数据程序 <?php header("content-type:text/html;charset=utf-8"); error_reporting(E_ALL); set_time_limit(0); $file='./test.sql'; $data=file($file); echo "<pre>"; //print_r($data); $data_new=array(); $tmp=array(); fore
-
Oracle和MySQL的数据导入为何差别这么大
经常会有一些朋友咨询我一些数据库的问题,我注意到一个很有意思的现象,凡是数据导入的问题,基本上都是Oracle类的,MySQL类的问题脑子里想了下竟然一次都没有. 我禁不住开始思考这个未曾注意的问题: 为什么Oracle导入数据会碰到很多的问题? 我们来梳理一下这个问题,分别从导出导入的方式来聊聊. 首先Oracle导出的文件格式就没打算让你拿来即用,导出文件叫做dump,换句话说可以理解这是一个二进制文件.当然实际上这个文件还是有很多的方式去抓取一些关键的信息,比如dump头部的信息可以通过s
-
Mysql大数据量查询优化思路详析
目录 1. 千万级别日志查询的优化 2. 几百万黑名单库的查询优化 3. Mybatis批量插入处理问题 项目场景: Mysql大表查询优化,理论上千万级别以下的数据量Mysql单表查询性能处理都是可以的. 问题描述: 在我们线上环境中,出现了mysql几千万级别的日志查询.几百万级别的黑名单库查询分页查询及条件查询都慢的问题,针对Mysql表优化做了一些优化处理. 原因分析:首先说一下日志查询,在Mysql中如果索引加的比较合适,走索引情况下千万级别查询不会超过一秒,Mysql查询的速度和检索
-
mysql大数据查询优化经验分享(推荐)
正儿八经mysql优化! mysql数据量少,优化没必要,数据量大,优化少不了,不优化一个查询10秒,优化得当,同样查询10毫秒. 这是多么痛的领悟! mysql优化,说程序员的话就是:索引优化和where条件优化. 实验环境:MacBook Pro MJLQ2CH/A,mysql5.7,数据量:212万+ ONE: select * from article INNER JOIN ( SELECT id FROM article WHERE length(content_url) > 0 an
-
浅谈Mysql大数据分页查询解决方案
目录 1.简介 2.分页插件使用 3.sql测试与分析 3.1 limit现象分析 3.2 解决之道 4 测试时走过的坑 4.1 百万数据内容都一样 4.2 写sql时,把"77"写成了77: 4.3 一个有趣的现象 总结 1.简介 之前,面阿里的时候,有个面试官问我有没有使用过分页查询,我说有,他说分页查询是有问题的,怎么解决:后来这个问题我没有回答出来:本着学习的态度,今天来解决一下这个问题: 2.分页插件使用 1.pom文件 <dependency> <grou
-
Navicat中导入mysql大数据时出错解决方法
Navicat 自己到处的数据,导入时出现无法导入的情况. 最后选择利用MySQL命令导入方式完成数据导入 用到命令 use 快捷方式 \u source 快捷方式 \. 快捷方式可以通过help查询 mysql>\u dataname mysql>\. d:\mysql\dataname.sql 导入时碰到问题及解决方法 导入时中文乱码 解决方法: 在用Navicat导出时用的是UTF8编码,导入时MySQL用自己默认的编码方式导入,中文产生了乱码 用命令查询 mysql>show v
-
javaweb学习总结——使用JDBC处理MySQL大数据
BLOB (binary large object),二进制大对象,是一个可以存储二进制文件的容器.在计算机中,BLOB常常是数据库中用来存储二进制文件的字段类型,BLOB是一个大文件,典型的BLOB是一张图片或一个声音文件,由于它们的尺寸,必须使用特殊的方式来处理(例如:上传.下载或者存放到一个数据库). 一.基本概念 在实际开发中,有时是需要用程序把大文本或二进制数据直接保存到数据库中进行储存的. 对MySQL而言只有blob,而没有clob,mysql存储大文本采用的是Text,Text和
-
MySQL中数据导入恢复的简单教程
有两个简单的方法MySQL中的数据加载到MySQL数据库从先前备份的文件. LOAD DATA导入数据: MySQL提供了LOAD DATA语句,作为一个大容量数据加载.下面是一个例子声明中,读取一个文件dump.txt,,从当前目录加载到当前数据库中的表mytbl: mysql> LOAD DATA LOCAL INFILE 'dump.txt' INTO TABLE mytbl; 如果本地的关键字是不存在的,MySQL的外观使用绝对路径名寻找到完全指定位置的文件在服务器主机上的数据文件,从文
随机推荐
- ASP.NET对路径"xxxxx"的访问被拒绝的解决方法小结
- js中获取事件对象的方法小结
- Win2003下提高FSO的安全性
- 开通虚拟主机时提示Server.CreateObject失败的解决办法
- C程序实现整数的素数和分解问题
- SpringBoot mail中文附件乱码的解决方法
- javascript对中文按照拼音排序代码
- javascript 中模板方法单例的实现方法
- VS2005 180天限制破解方法
- JavaScript仿微博发布信息案例
- js如何获取object类型里的键值
- Android网络连接判断与相关处理
- 批量下载对路网图片并生成html的实现方法
- PHP+Ajax实时自动检测是否联网的方法
- MySQL 触发器详解及简单实例
- 微信小程序 特效菜单抽屉效果实例代码
- 用CSS实现图片倾斜 只支持IE
- php下将图片以二进制存入mysql数据库中并显示的实现代码
- php intval的测试代码发现问题
- 实例讲解PHP页面静态化