mysql merge表
詳細
3つのサブテーブル:
CREATE TABLE `test_1` (
id INT(11) NOT NULL DEFAULT '0',
email varchar(50) NOT NULL ,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=UTF8;
CREATE TABLE `test_2` (
id INT(11) NOT NULL DEFAULT '0',
email varchar(50) NOT NULL ,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=UTF8;
CREATE TABLE `test_3` (
id INT(11) NOT NULL DEFAULT '0',
email varchar(50) NOT NULL ,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=UTF8;
合計テーブル:
CREATE TABLE `test` (
`id` INT(11) NOT NULL DEFAULT '0'
email varchar(50) NOT NULL
key `i_id` (`id`),
) ENGINE=MRG_MyISAM UNION=(test_1,test_2,test_3) DEFAULT CHARSET=UTF8;
総表test上でselect*を選択すると、3つのサブテーブルのデータが取り出されます.
データを挿入するときにオブジェクトのhash code型取り演算に従い、残数が3であればtest_を挿入する3この表にあります.
一般的に総表はデータを保存せず、構造を定義するだけで、他の人がデータを挿入して表文の後に追加しないようにします.
INSERT_METHOD=NO
Javaプログラムではまず総表と分表を作成する必要があります.100個の表を分けているので、手動でsqlを降りると煩わしいので、プログラムでこれらの表を生成します.
テーブルが作成されると挿入テーブルになりますが、ここでは各オブジェクトのhash code型取り演算に基づいて
これにより、1つのテーブルのデータが特に多くなく、他のテーブルのデータが特に少ないことなく、各テーブルのデータ分布を比較的均一にすることができます.
データをクエリーする必要がある場合は、スプレッドシートから直接クエリーできます.
select * from userinfo limit 100;
3つのサブテーブル:
CREATE TABLE `test_1` (
id INT(11) NOT NULL DEFAULT '0',
email varchar(50) NOT NULL ,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=UTF8;
CREATE TABLE `test_2` (
id INT(11) NOT NULL DEFAULT '0',
email varchar(50) NOT NULL ,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=UTF8;
CREATE TABLE `test_3` (
id INT(11) NOT NULL DEFAULT '0',
email varchar(50) NOT NULL ,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=UTF8;
合計テーブル:
CREATE TABLE `test` (
`id` INT(11) NOT NULL DEFAULT '0'
email varchar(50) NOT NULL
key `i_id` (`id`),
) ENGINE=MRG_MyISAM UNION=(test_1,test_2,test_3) DEFAULT CHARSET=UTF8;
総表test上でselect*を選択すると、3つのサブテーブルのデータが取り出されます.
データを挿入するときにオブジェクトのhash code型取り演算に従い、残数が3であればtest_を挿入する3この表にあります.
一般的に総表はデータを保存せず、構造を定義するだけで、他の人がデータを挿入して表文の後に追加しないようにします.
INSERT_METHOD=NO
Javaプログラムではまず総表と分表を作成する必要があります.100個の表を分けているので、手動でsqlを降りると煩わしいので、プログラムでこれらの表を生成します.
package com.chen.crawler.utils;
/**
*
* @author xxx
*
*/
public class DbUtils {
private static final String USER_DB = "user";
private static final DBEngine userDBEngine ;
private static Connection conn = null;
private static Logger logger = Logger.getLogger(DbUtils.class.getName());
static{
userDBEngine = DBFactory.getDBEngine(USER_DB);
try {
conn = DBEngine.getConnection(USER_DB);
} catch (SQLException e) {
e.printStackTrace();
}
boolean tableExists = TableExists("userinfo_1");
if(!tableExists){
CreateMargeTable("userinfo");
for(int i = 0 ; i < 100; i++){
CreateTables("userinfo_"+i);
}
}
}
private DbUtils(){
}
private static boolean TableExists(String tableName){
String sql = "show tables like '"+tableName+"'";
try {
conn = DBEngine.getConnection(USER_DB);
java.sql.PreparedStatement pstmt = conn.prepareStatement(sql);
ResultSet resultSet = pstmt.executeQuery();
while (resultSet.next()) {
tableName = resultSet.getString(1);
if(tableName!=null && tableName.length()>1){
return true;
}else{
return false;
}
}
} catch (SQLException e) {
e.printStackTrace();
return false;
}
return false;
}
/**
*
*/
private static void CreateMargeTable(String tableName){
String sql = "CREATE TABLE `" + tableName + "` ("+
"`userId` bigint(15) NOT NULL ,"+
"`nickname` varchar(50) NOT NULL COMMENT ' ',"+
"`qq` varchar(15) NOT NULL COMMENT 'QQ ',"+
"`gender` tinyint(2) NOT NULL COMMENT ' 1 : 2: ',"
"`astro` varchar(5) NOT NULL COMMENT ' ',"+
"`address` varchar(50) NOT NULL COMMENT ' ',"+
" KEY (`userId`),"+
" KEY `i_nickname` (`nickname`),"+
" KEY `i_address` (`address`)"+
" ) ENGINE=MRG_MyISAM INSERT_METHOD=NO DEFAULT CHARSET=utf8 union=(";
StringBuffer sb = new StringBuffer();
sb.append(sql);
for(int i =0;i<100 ;i++){
sb.append("userinfo_"+i).append(",");
}
sb.deleteCharAt(sb.length()-1).append(");");
try {
java.sql.PreparedStatement pstmt = conn.prepareStatement(sb.toString());
pstmt.execute();
} catch (SQLException e) {
e.printStackTrace();
}
}
private static void CreateTables(String tableName){
String sql = "CREATE TABLE `" + tableName + "` ("+
"`userId` bigint(15) NOT NULL auto_increment,"+
"`nickname` varchar(50) NOT NULL COMMENT ' ',"+
"`qq` varchar(15) NOT NULL COMMENT 'QQ ',"+
"`gender` tinyint(2) NOT NULL COMMENT ' 1 : 2: ',"+
"`astro` varchar(5) NOT NULL COMMENT ' ',"+
"`address` varchar(50) NOT NULL COMMENT ' ',"+
" PRIMARY KEY (`userId`),"+
" KEY `i_nickname` (`nickname`),"+
" KEY `i_address` (`address`)"+
" ) ENGINE=MyISAM DEFAULT CHARSET=utf8;";
try {
java.sql.PreparedStatement pstmt = conn.prepareStatement(sql);
pstmt.execute();
} catch (SQLException e) {
e.printStackTrace();
}
}
/**
*
* @param user
* @param tableName
* @return
*/
public static boolean InsertUserinfo(User user,String tableName) {
boolean result = false;
if (user == null || tableName==null) {
return false;
}
try {
String sql = "insert into " + tableName + "(nickname,qq,gender,astro,address) values(?,?,?,?,?,?,?)";
logger.info(sql);
result = userDBEngine.executeUpdate(sql, new Object[] {
user.getNickname(),user.getUin(),
user.getGender(),user.getAstro(),user.getAddress()
}) > 0 ? true : false;
} catch (SQLException e) {
e.printStackTrace();
}
return result;
}
}
テーブルが作成されると挿入テーブルになりますが、ここでは各オブジェクトのhash code型取り演算に基づいて
User user = new User(nickname,uin,gender,astro,from);
// user hashcode 0-99
String tableName = "userinfo_";
int code = user.hashCode()%100;
tableName += code;
InsertUserinfo(user, tableName);
これにより、1つのテーブルのデータが特に多くなく、他のテーブルのデータが特に少ないことなく、各テーブルのデータ分布を比較的均一にすることができます.
データをクエリーする必要がある場合は、スプレッドシートから直接クエリーできます.
select * from userinfo limit 100;