memcache整合性hashのphp実現方法
この例は、memcacheの一貫性hashのphp実現方法を説明する。皆さんの参考にしてください。具体的には以下の通りです
最近は分布に関する文章を読んでいますので、phpで一致性hashを実現して練習しています。以前は最も原始的なhashで型を取って布を分けています。生産過程でmemcacheを追加または削除すると、データが全部無効になります。一致性hashはこの問題を解決するために、失効データを最低にすることです。関連資料はgoogleができます。
phpの実現効率には一定の欠落があります。効率的に書くなら、拡大したほうがいいです。
テストを経て、5つのmemcacheが、各memcacheに100個の仮想ノードを生成し、setにget 1 000回を追加し、単一のmemcacheと直接setにgetを加えて5倍遅いので、効率は一般的に最適化される必要があります。
本文を読む前に、二分検索法を知っておいたほうがいいです。
実現プロセス:
memcacheの構成ip＋ポート＋仮想ノードシーケンス番号をhashとし、crc 32を使用して閉ループを形成する。
操作するkeyをcrc 32にします。
二分割法は、仮想ノードループ内で最も近い仮想ノードを検索する。
仮想ノードから実際のmemcache ipとポートを抽出し、一例で接続する。
最近は分布に関する文章を読んでいますので、phpで一致性hashを実現して練習しています。以前は最も原始的なhashで型を取って布を分けています。生産過程でmemcacheを追加または削除すると、データが全部無効になります。一致性hashはこの問題を解決するために、失効データを最低にすることです。関連資料はgoogleができます。
phpの実現効率には一定の欠落があります。効率的に書くなら、拡大したほうがいいです。
テストを経て、5つのmemcacheが、各memcacheに100個の仮想ノードを生成し、setにget 1 000回を追加し、単一のmemcacheと直接setにgetを加えて5倍遅いので、効率は一般的に最適化される必要があります。
本文を読む前に、二分検索法を知っておいたほうがいいです。
実現プロセス:
memcacheの構成ip＋ポート＋仮想ノードシーケンス番号をhashとし、crc 32を使用して閉ループを形成する。
操作するkeyをcrc 32にします。
二分割法は、仮想ノードループ内で最も近い仮想ノードを検索する。
仮想ノードから実際のmemcache ipとポートを抽出し、一例で接続する。
<?php
class memcacheHashMap {
private $_node = array();
private $_nodeData = array();
private $_keyNode = 0;
private $_memcache = null;
// [ ： ，cache ， set get ， ，10 ， 200 ]
private $_virtualNodeNum = 200;
private function __construct() {
$config = array(// memcache
'127.0.0.1:11211',
'127.0.0.1:11212',
'127.0.0.1:11213',
'127.0.0.1:11214',
'127.0.0.1:11215'
);
if (!$config) throw new Exception('Cache config NULL');
foreach ($config as $key => $value) {
for ($i = 0; $i < $this->_virtualNodeNum; $i++) {
$this->_node[sprintf("%u", crc32($value . '_' . $i))] = $value . '_' . $i;// memcache 200
}
}
ksort($this->_node);// 1000
}
//
static public function getInstance() {
static $memcacheObj = null;
if (!is_object($memcacheObj)) {
$memcacheObj = new self();
}
return $memcacheObj;
}
//
private function _connectMemcache($key) {
$this->_nodeData = array_keys($this->_node);//
$this->_keyNode = sprintf("%u", crc32($key));// hash
$nodeKey = $this->_findServerNode();//
// ， ， ，
if ($this->_keyNode > end($this->_nodeData)) {
$this->_keyNode -= end($this->_nodeData);
$nodeKey2 = $this->_findServerNode();
if (abs($nodeKey2 - $this->_keyNode) < abs($nodeKey - $this->_keyNode)) $nodeKey = $nodeKey2;
}
var_dump($this->_node[$nodeKey]);
list($config, $num) = explode('_', $this->_node[$nodeKey]);
if (!$config) throw new Exception('Cache config Error');
if (!isset($this->_memcache[$config])) {
$this->_memcache[$config] = new Memcache;
list($host, $port) = explode(':', $config);
$this->_memcache[$config]->connect($host, $port);
}
return $this->_memcache[$config];
}
//
private function _findServerNode($m = 0, $b = 0) {
$total = count($this->_nodeData);
if ($total != 0 && $b == 0) $b = $total - 1;
if ($m < $b){
$avg = intval(($m+$b) / 2);
if ($this->_nodeData[$avg] == $this->_keyNode) return $this->_nodeData[$avg];
elseif ($this->_keyNode < $this->_nodeData[$avg] && ($avg-1 >= 0)) return $this->_findServerNode($m, $avg-1);
else return $this->_findServerNode($avg+1, $b);
}
if (abs($this->_nodeData[$b] - $this->_keyNode) < abs($this->_nodeData[$m] - $this->_keyNode)) return $this->_nodeData[$b];
else return $this->_nodeData[$m];
}
public function set($key, $value, $expire = 0) {
return $this->_connectMemcache($key)->set($key, json_encode($value), 0, $expire);
}
public function add($key, $value, $expire = 0) {
return $this->_connectMemcache($key)->add($key, json_encode($value), 0, $expire);
}
public function get($key) {
return json_decode($this->_connectMemcache($key)->get($key), true);
}
public function delete($key) {
return $this->_connectMemcache($key)->delete($key);
}
}
$runData['BEGIN_TIME'] = microtime(true);
// set get
for($i=0;$i<10000;$i++) {
$key = md5(mt_rand());
$b = memcacheHashMap::getInstance()->set($key, time(), 10);
}
var_dump(number_format(microtime(true) - $runData['BEGIN_TIME'],6));
$runData['BEGIN_TIME'] = microtime(true); $m= new Memcache;
$m->connect('127.0.0.1', 11211);
for($i=0;$i<10000;$i++) {
$key = md5(mt_rand());
$b = $m->set($key, time(), 0, 10);
}
var_dump(number_format(microtime(true) - $runData['BEGIN_TIME'],6));
?>