ピンイン分詞器のJAVA実現
検索中の分詞器には中国語、英語を含む多くの種類があり、一般的なウェブサイトにはサイト内検索機能があり、つまりユーザーが入力した内容を処理し、本文は中国語のスペルに対して分詞器を実現し、原理は簡単で、モードマッチングである.中国語のフルスペルの特徴、すなわち声母と韻母のペアリングに基づいて、まずすべての声母を列挙して、更にそれぞれすべての声母の対応する韻母を列挙します
セット、分詞のプロセスはマッチングを遍歴するプロセスです.具体的なコードは以下の通りです.
入力:woaibeijintianannmen
出力:wo ai bei jin tian an an men==========================
入力:sousuozhong defenciqiyouhenduozhong
出力:sou suo zhong de fen ci qi you hen duo zhong
セット、分詞のプロセスはマッチングを遍歴するプロセスです.具体的なコードは以下の通りです.
import java.util.ArrayList;
public class SpellTool {
static String result = "";//
private static ArrayList<ArrayList<String>> ym = new ArrayList<ArrayList<String>>();//
private static ArrayList<String> sm = new ArrayList<String>();//
private static ArrayList<String> yy = new ArrayList<String>();//
private static ArrayList<String> ym_b = new ArrayList<String>();// b
private static ArrayList<String> ym_c = new ArrayList<String>();// c
private static ArrayList<String> ym_d = new ArrayList<String>();// d
private static ArrayList<String> ym_f = new ArrayList<String>();// f
private static ArrayList<String> ym_g = new ArrayList<String>();// g
private static ArrayList<String> ym_h = new ArrayList<String>();// h
private static ArrayList<String> ym_j = new ArrayList<String>();// j
private static ArrayList<String> ym_k = new ArrayList<String>();// k
private static ArrayList<String> ym_l = new ArrayList<String>();// l
private static ArrayList<String> ym_m = new ArrayList<String>();// m
private static ArrayList<String> ym_n = new ArrayList<String>();// n
private static ArrayList<String> ym_p = new ArrayList<String>();// p
private static ArrayList<String> ym_q = new ArrayList<String>();// q
private static ArrayList<String> ym_r = new ArrayList<String>();// r
private static ArrayList<String> ym_s = new ArrayList<String>();// s
private static ArrayList<String> ym_t = new ArrayList<String>();// t
private static ArrayList<String> ym_w = new ArrayList<String>();// w
private static ArrayList<String> ym_x = new ArrayList<String>();// x
private static ArrayList<String> ym_y = new ArrayList<String>();// y
private static ArrayList<String> ym_z = new ArrayList<String>();// z
private static ArrayList<String> ym_sh = new ArrayList<String>();// sh
private static ArrayList<String> ym_zh = new ArrayList<String>();// zh
private static ArrayList<String> ym_ch = new ArrayList<String>();// ch
static {
sm.add("b");//
sm.add("c");
sm.add("d");
sm.add("f");
sm.add("g");
sm.add("h");
sm.add("j");
sm.add("k");
sm.add("l");
sm.add("m");
sm.add("n");
sm.add("p");
sm.add("q");
sm.add("r");
sm.add("s");
sm.add("t");
sm.add("w");
sm.add("x");
sm.add("y");
sm.add("z");
sm.add("sh");
sm.add("zh");
sm.add("ch");
yy.add("a");//
yy.add("ai");
yy.add("an");
yy.add("ang");
yy.add("ao");
yy.add("e");
yy.add("en");
yy.add("eng");
yy.add("er");
yy.add("o");
yy.add("ou");
yy.add("ong");
ym_b.add("a");//
ym_b.add("ai");
ym_b.add("an");
ym_b.add("ang");
ym_b.add("ao");
ym_b.add("ei");
ym_b.add("en");
ym_b.add("eng");
ym_b.add("i");
ym_b.add("ian");
ym_b.add("iao");
ym_b.add("ie");
ym_b.add("in");
ym_b.add("ing");
ym_b.add("o");
ym_b.add("u");
ym_c.add("a");// c
ym_c.add("ai");
ym_c.add("an");
ym_c.add("ang");
ym_c.add("ao");
ym_c.add("e");
ym_c.add("en");
ym_c.add("eng");
ym_c.add("i");
ym_c.add("ong");
ym_c.add("ou");
ym_c.add("u");
ym_c.add("uan");
ym_c.add("ui");
ym_c.add("un");
ym_c.add("uo");
ym_d.add("a");// d
ym_d.add("ai");
ym_d.add("an");
ym_d.add("ang");
ym_d.add("ao");
ym_d.add("e");
ym_d.add("ei");
ym_d.add("en");
ym_d.add("eng");
ym_d.add("i");
ym_d.add("ia");
ym_d.add("ian");
ym_d.add("iao");
ym_d.add("ie");
ym_d.add("ing");
ym_d.add("iu");
ym_d.add("ong");
ym_d.add("ou");
ym_d.add("u");
ym_d.add("uan");
ym_d.add("ui");
ym_d.add("un");
ym_d.add("uo");
ym_f.add("a");// f
ym_f.add("an");
ym_f.add("ang");
ym_f.add("ei");
ym_f.add("en");
ym_f.add("eng");
ym_f.add("iao");
ym_f.add("o");
ym_f.add("ou");
ym_f.add("u");
ym_g.add("a");// g
ym_g.add("ai");
ym_g.add("an");
ym_g.add("ang");
ym_g.add("ao");
ym_g.add("e");
ym_g.add("ei");
ym_g.add("en");
ym_g.add("eng");
ym_g.add("ong");
ym_g.add("ou");
ym_g.add("u");
ym_g.add("uai");
ym_g.add("uan");
ym_g.add("uang");
ym_g.add("ui");
ym_g.add("un");
ym_g.add("uo");
ym_h.add("a");// h
ym_h.add("ai");
ym_h.add("an");
ym_h.add("ang");
ym_h.add("ao");
ym_h.add("e");
ym_h.add("ei");
ym_h.add("en");
ym_h.add("eng");
ym_h.add("ong");
ym_h.add("ou");
ym_h.add("u");
ym_h.add("ua");
ym_h.add("uai");
ym_h.add("uan");
ym_h.add("uang");
ym_h.add("ui");
ym_h.add("un");
ym_h.add("uo");
ym_j.add("i");// j
ym_j.add("ia");
ym_j.add("ian");
ym_j.add("iang");
ym_j.add("iao");
ym_j.add("ie");
ym_j.add("in");
ym_j.add("ing");
ym_j.add("iong");
ym_j.add("iu");
ym_j.add("u");
ym_j.add("uan");
ym_j.add("ue");
ym_j.add("un");
ym_k.add("a");//
ym_k.add("ai");
ym_k.add("an");
ym_k.add("ang");
ym_k.add("ao");
ym_k.add("e");
ym_k.add("en");
ym_k.add("eng");
ym_k.add("ong");
ym_k.add("ou");
ym_k.add("u");
ym_k.add("ui");
ym_k.add("un");
ym_k.add("uo");
ym_l.add("a");// l
ym_l.add("ai");
ym_l.add("an");
ym_l.add("ang");
ym_l.add("ao");
ym_l.add("e");
ym_l.add("ei");
ym_l.add("eng");
ym_l.add("i");
ym_l.add("ia");
ym_l.add("ian");
ym_l.add("iao");
ym_l.add("ie");
ym_l.add("in");
ym_l.add("ing");
ym_l.add("iu");
ym_l.add("o");
ym_l.add("ong");
ym_l.add("ou");
ym_l.add("u");
ym_l.add("uan");
ym_l.add("un");
ym_l.add("uo");
ym_l.add("v");
ym_l.add("ve");
ym_m.add("a");// m
ym_m.add("ai");
ym_m.add("an");
ym_m.add("ang");
ym_m.add("ao");
ym_m.add("e");
ym_m.add("ei");
ym_m.add("en");
ym_m.add("eng");
ym_m.add("i");
ym_m.add("ian");
ym_m.add("iao");
ym_m.add("ie");
ym_m.add("in");
ym_m.add("ing");
ym_m.add("iu");
ym_m.add("o");
ym_m.add("ou");
ym_m.add("u");
ym_n.add("a");// n
ym_n.add("ai");
ym_n.add("an");
ym_n.add("ang");
ym_n.add("ao");
ym_n.add("e");
ym_n.add("ei");
ym_n.add("en");
ym_n.add("eng");
ym_n.add("i");
ym_n.add("ian");
ym_n.add("iang");
ym_n.add("iao");
ym_n.add("ie");
ym_n.add("in");
ym_n.add("ing");
ym_n.add("iu");
ym_n.add("ong");
ym_n.add("ou");
ym_n.add("u");
ym_n.add("uan");
ym_n.add("un");
ym_n.add("uo");
ym_n.add("v");
ym_n.add("ve");
ym_p.add("a");// p
ym_p.add("ai");
ym_p.add("an");
ym_p.add("ang");
ym_p.add("ao");
ym_p.add("e");
ym_p.add("ei");
ym_p.add("en");
ym_p.add("eng");
ym_p.add("i");
ym_p.add("ian");
ym_p.add("iao");
ym_p.add("ie");
ym_p.add("in");
ym_p.add("ing");
ym_p.add("o");
ym_p.add("ou");
ym_p.add("u");
ym_q.add("i");// q
ym_q.add("ia");
ym_q.add("ian");
ym_q.add("iang");
ym_q.add("iao");
ym_q.add("ie");
ym_q.add("in");
ym_q.add("ing");
ym_q.add("iong");
ym_q.add("iu");
ym_q.add("u");
ym_q.add("uan");
ym_q.add("ue");
ym_q.add("un");
ym_r.add("an");// r
ym_r.add("ang");
ym_r.add("ao");
ym_r.add("e");
ym_r.add("en");
ym_r.add("eng");
ym_r.add("i");
ym_r.add("ong");
ym_r.add("ou");
ym_r.add("u");
ym_r.add("ua");
ym_r.add("uan");
ym_r.add("ui");
ym_r.add("un");
ym_r.add("uo");
ym_s.add("a");// s
ym_s.add("ai");
ym_s.add("an");
ym_s.add("ang");
ym_s.add("ao");
ym_s.add("e");
ym_s.add("en");
ym_s.add("eng");
ym_s.add("i");
ym_s.add("ong");
ym_s.add("ou");
ym_s.add("u");
ym_s.add("uan");
ym_s.add("ui");
ym_s.add("un");
ym_s.add("uo");
ym_t.add("a");// t
ym_t.add("ai");
ym_t.add("an");
ym_t.add("ang");
ym_t.add("ao");
ym_t.add("e");
ym_t.add("ei");
ym_t.add("eng");
ym_t.add("i");
ym_t.add("ian");
ym_t.add("iao");
ym_t.add("ie");
ym_t.add("ing");
ym_t.add("ong");
ym_t.add("ou");
ym_t.add("u");
ym_t.add("uan");
ym_t.add("ui");
ym_t.add("un");
ym_t.add("uo");
ym_w.add("a");// w
ym_w.add("ai");
ym_w.add("an");
ym_w.add("ang");
ym_w.add("ei");
ym_w.add("en");
ym_w.add("eng");
ym_w.add("o");
ym_w.add("u");
ym_x.add("i");// x
ym_x.add("ia");
ym_x.add("ian");
ym_x.add("iang");
ym_x.add("iao");
ym_x.add("ie");
ym_x.add("in");
ym_x.add("ing");
ym_x.add("iong");
ym_x.add("iu");
ym_x.add("u");
ym_x.add("uan");
ym_x.add("ue");
ym_x.add("un");
ym_y.add("a");// y
ym_y.add("an");
ym_y.add("ang");
ym_y.add("ao");
ym_y.add("e");
ym_y.add("i");
ym_y.add("in");
ym_y.add("ing");
ym_y.add("o");
ym_y.add("ong");
ym_y.add("ou");
ym_y.add("u");
ym_y.add("uan");
ym_y.add("ue");
ym_y.add("un");
ym_z.add("a");//
ym_z.add("ai");
ym_z.add("an");
ym_z.add("ang");
ym_z.add("ao");
ym_z.add("e");
ym_z.add("ei");
ym_z.add("en");
ym_z.add("eng");
ym_z.add("i");
ym_z.add("ong");
ym_z.add("ou");
ym_z.add("u");
ym_z.add("uan");
ym_z.add("ui");
ym_z.add("un");
ym_z.add("uo");
ym_ch.add("a");// ch
ym_ch.add("ai");
ym_ch.add("an");
ym_ch.add("ang");
ym_ch.add("ao");
ym_ch.add("e");
ym_ch.add("en");
ym_ch.add("eng");
ym_ch.add("i");
ym_ch.add("ong");
ym_ch.add("ou");
ym_ch.add("u");
ym_ch.add("ua");
ym_ch.add("uai");
ym_ch.add("uan");
ym_ch.add("uang");
ym_ch.add("ui");
ym_ch.add("un");
ym_ch.add("uo");
ym_sh.add("a");// sh
ym_sh.add("ai");
ym_sh.add("an");
ym_sh.add("ang");
ym_sh.add("ao");
ym_sh.add("e");
ym_sh.add("ei");
ym_sh.add("en");
ym_sh.add("eng");
ym_sh.add("i");
ym_sh.add("ou");
ym_sh.add("u");
ym_sh.add("ua");
ym_sh.add("uai");
ym_sh.add("uan");
ym_sh.add("uang");
ym_sh.add("ui");
ym_sh.add("un");
ym_sh.add("uo");
ym_zh.add("a");// zh
ym_zh.add("ai");
ym_zh.add("an");
ym_zh.add("ang");
ym_zh.add("ao");
ym_zh.add("e");
ym_zh.add("ei");
ym_zh.add("en");
ym_zh.add("eng");
ym_zh.add("i");
ym_zh.add("ong");
ym_zh.add("ou");
ym_zh.add("u");
ym_zh.add("ua");
ym_zh.add("uai");
ym_zh.add("uan");
ym_zh.add("uang");
ym_zh.add("ui");
ym_zh.add("un");
ym_zh.add("uo");
ym.add(yy);
ym.add(ym_b);
ym.add(ym_c);
ym.add(ym_d);
ym.add(ym_f);
ym.add(ym_g);
ym.add(ym_h);
ym.add(ym_j);
ym.add(ym_k);
ym.add(ym_l);
ym.add(ym_m);
ym.add(ym_n);
ym.add(ym_p);
ym.add(ym_q);
ym.add(ym_r);
ym.add(ym_s);
ym.add(ym_t);
ym.add(ym_w);
ym.add(ym_x);
ym.add(ym_y);
ym.add(ym_z);
ym.add(ym_ch);
ym.add(ym_sh);
ym.add(ym_zh);
}
public static String findsm(String py) {
char[] py2 = py.toCharArray();// char
int temp = 0;
int index = 0;//
// ，
for (int i = 0; i < sm.size(); i++) {
for (int j = 1; j <= py2.length; j++) {
String py3 = String.copyValueOf(py2, 0, j);// 0 j
if (py3.equals(sm.get(i))) {
temp = sm.get(i).length();//
index = i + 1;
break;
}
}
}
if (temp != 0) {
result = result + String.copyValueOf(py2, 0, temp);// result
py = py.substring(temp);
}
//
if (py.length() != 0) {
return findym(py, index);
} else {
return py;
}
}
public static String findym(String py, int index) {
int temp = 0;
char[] py2 = py.toCharArray();
for (int i = 0; i < ym.get(index).size(); i++) {
for (int j = 1; j <= py2.length; j++) {
String py3 = String.copyValueOf(py2, 0, j);
if (py3.equals(ym.get(index).get(i))) {
temp = ym.get(index).get(i).length();
break;
}
}
}
if (temp != 0) {
result = result + String.copyValueOf(py2, 0, temp) + " ";
py = py.substring(temp);
}
return py;
}
/**
*
*
* @param pell
* @return
*/
public static String trimSpell(String spell) {
String s = spell;
for (int i = 0; i < spell.length() * 2; i++) {
if (s.length() == 0) {
break;
}
s = findym(s, 0);
s = findsm(s);
}
return result;
}
public static void main(String[] args) {
//long start = System.currentTimeMillis();
String spell = "woaibeijintiananmen";
String result = SpellTool.trimSpell(spell);
//long end = System.currentTimeMillis();
//System.out.println(" :" + (end - start) + " ");
System.out.println(result);
}
}
入力:woaibeijintianannmen
出力:wo ai bei jin tian an an men==========================
入力:sousuozhong defenciqiyouhenduozhong
出力:sou suo zhong de fen ci qi you hen duo zhong