- 浏览: 39331 次
- 来自: 深圳
-
文章分类
最新评论
-
ZacMa:
哈哈,突然感觉里面没怎么介绍,全是贴代码了
<8>redis及erl-redis阅读 -
惊涛翻案:
马博士,给我开课吧
<8>redis及erl-redis阅读
1 redis的功能相当的强大,里面的发布订阅pub/sub和设计模式中的观察者模式很相似
pub/sub不仅仅解决发布者和订阅者直接代码级别耦合也解决两者在物理部署上的耦合。
并且发布和订阅功能都是多对多的
见发布订阅的例子 http://bbs.chinaunix.net/thread-3755278-1-1.html
erl-redis是litaocheng实现的一个精炼有简单易懂的redis客户端
里面有很多巧妙的地方, 着也是一个标准的erlang客户端实现,如果想实现客户端用这种方法还是很不错的
其实整个实现流程是很清晰易懂的:
从redis_conn_sup:start_link()开始启动监督进程,然后通过start_child启动子进程,
start_link() ->
?INFO2("start the supervisor", []),
supervisor:start_link({local, ?CONN_SUP}, ?MODULE, []).
%% @doc the connection supervisor callback
init([]) ->
?DEBUG2("init supervisor", []),
Stragegy = {simple_one_for_one, 100000, 60},
Client = {undefined, {redis_client, start_link, []},
permanent, 1000, worker, [redis_client]},
{ok, {Stragegy, [Client]}}.
redis_client.erl中实现start_link和基本的tcp逻辑
start_link(Host, Port, Passwd) ->
?DEBUG2("start_link redis_client ~p:~p", [Host, Port]),
gen_server:start_link(?MODULE, {{Host, Port}, Passwd}, []).
-spec start_link(inet_host(), inet_port(), passwd(), atom()) ->
{'ok', any()} | 'ignore' | {'error', any()}.
start_link(Host, Port, Passwd, Name) ->
?DEBUG2("start_link redis_client ~p", [Name]),
gen_server:start_link({local, Name}, ?MODULE, {{Host, Port}, Passwd}, []).
%%
%% gen_server callbacks
%%
init({Server = {Host, Port}, Passwd}) ->
process_flag(trap_exit, true),
case gen_tcp:connect(Host, Port, ?TCP_OPTS, ?CONN_TIMEOUT) of
{ok, Sock} ->
case do_auth(Sock, Passwd) of
ok ->
Tid = do_create_table(),
{ok, #state{server = Server, sock = Sock, pubsub_tid = Tid}};
{tcp_error, Reason} ->
{stop, Reason};
_ ->
?ERROR2("auth failed", []),
{stop, auth_failed}
end;
{error, Reason} ->
{stop, Reason}
end.
其中do_create_table()是创建一个ets表,用来存储订阅相关的数据存储;
do_create_table() ->
ets:new(dummy, [set, private, {keypos, #pubsub.id},
{read_concurrency, true}]).
关于ets的read_concurrency选项就是并发读取数据,这个选项默认是false
看这个tcp选项
生成连接redis server的tcp连接
这里的CONN_TIMEOUT 是5000 5秒钟
tcp_option是
-define(TCP_OPTS, [inet, binary, {active, once},
{packet, line},
{nodelay, false},
{recbuf, 16#1000},
{sndbuf, 16#10000},
{send_timeout, 5000}, {send_timeout_close, true}]).
在调用redis的命令时候,执行:
%% call the command
call(Cmd) ->
call(Cmd, ?NONE).
call(Cmd, Fun) ->
case Pipeline of
false ->
% normal model
R = redis_client:command(Client, Cmd),
?IF(Fun =/= ?NONE, Fun(R), R);
true ->
% pipeline model
add_pipeline_cmd(Cmd, Fun)
end.
if的定义
-define(IF(C, T, F), (case (C) of true -> (T); false -> (F) end)).
继续看command的调用
%% @doc send the command to redis server
-spec command(client(), iolist()) -> any().
command(Client, Data) ->
call(Client, {command, {Data, ?COMMAND_TIMEOUT}}).
call(Client, Req) ->
gen_server:call(Client, Req, infinity).
调用和接收处理
命令的调用是同步的,
handle_call({command, {Data, Timeout}}, _From,
State = #state{sock = Sock, server = _Server, ctx = normal}) ->
?DEBUG2("command:~n~p~n\t=> ~p", [Data, _Server]),
Reply = do_send_recv(Data, Sock, Timeout),
{reply, Reply, State};
do_recv(Sock, PState, Timeout) ->
receive
{tcp, Sock, Packet} ->
%?DEBUG2("receive packet :~p", [Packet]),
do_handle_packet(Sock, Packet, PState, Timeout);
{tcp_closed, _Socket} ->
?ERROR2("socket closed by remote peer", []),
exit({error, tcp_closed});
{tcp_error, _Socket, Reason} ->
?ERROR2("recv message error:~p", [Reason]),
exit({error, {tcp_error, Reason}})
after
Timeout ->
?ERROR2("recv message timeout", []),
exit({error, recv_timeout})
end.
总结下其中写的比较巧妙的地方:
(1) 在redis_cient.erl 中gen_server:start_link时候可以传进去name参数
Name的生成 :
关于这个巧妙生成name的生成方法:
name(Host, Port, UserData) ->
to_name(Host, Port, UserData, true).
existing_name(Host, Port, UserData) ->
to_name(Host, Port, UserData, false).
to_name(Host, Port, UserData, First) when is_list(UserData);
is_atom(UserData);
is_integer(UserData) ->
L = lists:concat(["redis_client_", Host, "_", Port, "_", UserData]),
to_atom(L, First).
to_atom(String, true) ->
list_to_atom(String);
to_atom(String, false) ->
list_to_existing_atom(String).
只要输入自己的标识符UserData就可以生成名称
(2) 使代码更加简洁,把
关于redis.erl的模块,使用了一种比较少用的方法,
目的是为了使用起来更方便,没有其它的特殊用途,
刚好ligaoren对这种语法写了详细的博客说明,还提到本项目
-spec handler(client()) -> redis_handler().
-spec handler(client()) -> redis_handler().
handler(Client) ->
redis:new(Client, false).
handler(Client) ->
redis:new(Client, false).
http://www.cnblogs.com/me-sa/archive/2012/02/16/2354499.html
(3) 启动流程简单
README.md写的太好了,启动方法很简单,
其中有一种启动方法巧妙的启动了一个reids pool,这里默认是启动了5个redis进程
% in main supervisor:
{redis_conn_sup, {redis_conn_sup, start_link, []},
permanent, 1000, supervisor, [redis_client]}
% start client pool
[begin
Name = redis_client:name(Host, Port, I),
{ok, _} = redis_conn_sup:connect(Host, Port, Pass, Name)
end || I <- lists:seq(1, 5)],
% random select a client
Selected = redis_client:existing_name(Host, Port, random:uniform(5)),
Redis = redis_client:handler(Selected),
Redis:set("k1", "v1"),
Redis:get("k1").
还有第五种使用方法中,随机查找一个进程的方法
Redis = redis_conn_sup:sup_rand_client(Host, Port, Pass, Pool),
sup_rand_client() ->
Children = supervisor:which_children(?CONN_SUP),
Len = length(Children),
{_Id, Child, worker, _Modules} = lists:nth(random:uniform(Len), Children),
redis_client:handler(Child).
(4)这是一个标准的erlang客户端实现
erl-redis项目地址
https://github.com/litaocheng/erl-redis
pub/sub不仅仅解决发布者和订阅者直接代码级别耦合也解决两者在物理部署上的耦合。
并且发布和订阅功能都是多对多的
见发布订阅的例子 http://bbs.chinaunix.net/thread-3755278-1-1.html
erl-redis是litaocheng实现的一个精炼有简单易懂的redis客户端
里面有很多巧妙的地方, 着也是一个标准的erlang客户端实现,如果想实现客户端用这种方法还是很不错的
其实整个实现流程是很清晰易懂的:
从redis_conn_sup:start_link()开始启动监督进程,然后通过start_child启动子进程,
start_link() ->
?INFO2("start the supervisor", []),
supervisor:start_link({local, ?CONN_SUP}, ?MODULE, []).
%% @doc the connection supervisor callback
init([]) ->
?DEBUG2("init supervisor", []),
Stragegy = {simple_one_for_one, 100000, 60},
Client = {undefined, {redis_client, start_link, []},
permanent, 1000, worker, [redis_client]},
{ok, {Stragegy, [Client]}}.
redis_client.erl中实现start_link和基本的tcp逻辑
start_link(Host, Port, Passwd) ->
?DEBUG2("start_link redis_client ~p:~p", [Host, Port]),
gen_server:start_link(?MODULE, {{Host, Port}, Passwd}, []).
-spec start_link(inet_host(), inet_port(), passwd(), atom()) ->
{'ok', any()} | 'ignore' | {'error', any()}.
start_link(Host, Port, Passwd, Name) ->
?DEBUG2("start_link redis_client ~p", [Name]),
gen_server:start_link({local, Name}, ?MODULE, {{Host, Port}, Passwd}, []).
%%
%% gen_server callbacks
%%
init({Server = {Host, Port}, Passwd}) ->
process_flag(trap_exit, true),
case gen_tcp:connect(Host, Port, ?TCP_OPTS, ?CONN_TIMEOUT) of
{ok, Sock} ->
case do_auth(Sock, Passwd) of
ok ->
Tid = do_create_table(),
{ok, #state{server = Server, sock = Sock, pubsub_tid = Tid}};
{tcp_error, Reason} ->
{stop, Reason};
_ ->
?ERROR2("auth failed", []),
{stop, auth_failed}
end;
{error, Reason} ->
{stop, Reason}
end.
其中do_create_table()是创建一个ets表,用来存储订阅相关的数据存储;
do_create_table() ->
ets:new(dummy, [set, private, {keypos, #pubsub.id},
{read_concurrency, true}]).
关于ets的read_concurrency选项就是并发读取数据,这个选项默认是false
看这个tcp选项
生成连接redis server的tcp连接
这里的CONN_TIMEOUT 是5000 5秒钟
tcp_option是
-define(TCP_OPTS, [inet, binary, {active, once},
{packet, line},
{nodelay, false},
{recbuf, 16#1000},
{sndbuf, 16#10000},
{send_timeout, 5000}, {send_timeout_close, true}]).
在调用redis的命令时候,执行:
%% call the command
call(Cmd) ->
call(Cmd, ?NONE).
call(Cmd, Fun) ->
case Pipeline of
false ->
% normal model
R = redis_client:command(Client, Cmd),
?IF(Fun =/= ?NONE, Fun(R), R);
true ->
% pipeline model
add_pipeline_cmd(Cmd, Fun)
end.
if的定义
-define(IF(C, T, F), (case (C) of true -> (T); false -> (F) end)).
继续看command的调用
%% @doc send the command to redis server
-spec command(client(), iolist()) -> any().
command(Client, Data) ->
call(Client, {command, {Data, ?COMMAND_TIMEOUT}}).
call(Client, Req) ->
gen_server:call(Client, Req, infinity).
调用和接收处理
命令的调用是同步的,
handle_call({command, {Data, Timeout}}, _From,
State = #state{sock = Sock, server = _Server, ctx = normal}) ->
?DEBUG2("command:~n~p~n\t=> ~p", [Data, _Server]),
Reply = do_send_recv(Data, Sock, Timeout),
{reply, Reply, State};
do_recv(Sock, PState, Timeout) ->
receive
{tcp, Sock, Packet} ->
%?DEBUG2("receive packet :~p", [Packet]),
do_handle_packet(Sock, Packet, PState, Timeout);
{tcp_closed, _Socket} ->
?ERROR2("socket closed by remote peer", []),
exit({error, tcp_closed});
{tcp_error, _Socket, Reason} ->
?ERROR2("recv message error:~p", [Reason]),
exit({error, {tcp_error, Reason}})
after
Timeout ->
?ERROR2("recv message timeout", []),
exit({error, recv_timeout})
end.
总结下其中写的比较巧妙的地方:
(1) 在redis_cient.erl 中gen_server:start_link时候可以传进去name参数
Name的生成 :
关于这个巧妙生成name的生成方法:
name(Host, Port, UserData) ->
to_name(Host, Port, UserData, true).
existing_name(Host, Port, UserData) ->
to_name(Host, Port, UserData, false).
to_name(Host, Port, UserData, First) when is_list(UserData);
is_atom(UserData);
is_integer(UserData) ->
L = lists:concat(["redis_client_", Host, "_", Port, "_", UserData]),
to_atom(L, First).
to_atom(String, true) ->
list_to_atom(String);
to_atom(String, false) ->
list_to_existing_atom(String).
只要输入自己的标识符UserData就可以生成名称
(2) 使代码更加简洁,把
关于redis.erl的模块,使用了一种比较少用的方法,
目的是为了使用起来更方便,没有其它的特殊用途,
刚好ligaoren对这种语法写了详细的博客说明,还提到本项目
-spec handler(client()) -> redis_handler().
-spec handler(client()) -> redis_handler().
handler(Client) ->
redis:new(Client, false).
handler(Client) ->
redis:new(Client, false).
http://www.cnblogs.com/me-sa/archive/2012/02/16/2354499.html
(3) 启动流程简单
README.md写的太好了,启动方法很简单,
其中有一种启动方法巧妙的启动了一个reids pool,这里默认是启动了5个redis进程
% in main supervisor:
{redis_conn_sup, {redis_conn_sup, start_link, []},
permanent, 1000, supervisor, [redis_client]}
% start client pool
[begin
Name = redis_client:name(Host, Port, I),
{ok, _} = redis_conn_sup:connect(Host, Port, Pass, Name)
end || I <- lists:seq(1, 5)],
% random select a client
Selected = redis_client:existing_name(Host, Port, random:uniform(5)),
Redis = redis_client:handler(Selected),
Redis:set("k1", "v1"),
Redis:get("k1").
还有第五种使用方法中,随机查找一个进程的方法
Redis = redis_conn_sup:sup_rand_client(Host, Port, Pass, Pool),
sup_rand_client() ->
Children = supervisor:which_children(?CONN_SUP),
Len = length(Children),
{_Id, Child, worker, _Modules} = lists:nth(random:uniform(Len), Children),
redis_client:handler(Child).
(4)这是一个标准的erlang客户端实现
erl-redis项目地址
https://github.com/litaocheng/erl-redis
发表评论
-
erlang版本安装相关问题 <32>
2014-05-10 15:54 635<1> erlang R1603安装后,crytp ... -
关于iolist<30>
2014-01-15 10:42 639iolist是比较常用的数据结构. iolist的 ... -
erlang 字符编码 <29>
2014-01-14 16:31 1273用mochiweb通过网页发送中文到服务器,结果服务器显示乱码 ... -
<27>erlang record
2013-11-19 11:19 781平时总是忘记record的某些使用方法,每次使用都要翻文档, ... -
<26>io:format io_lib:format
2013-11-14 11:07 1323使用io_lib时候要注意参数,尤其是封装json串的时候,否 ... -
<24>用error_logger间隔记录日志
2013-10-22 16:09 659执行下面的代码 test:start(). test.erl ... -
<23>erlang 数据存储
2013-10-15 22:15 1673做为后端开发者,经常 ... -
<22> erlang中的数学计算函数相关
2013-10-10 10:34 16401. 幂函数 match:pow(m,n) 表示m的n次幂 ... -
<20>erlang中的类型和函数说明
2013-09-15 11:25 989erlang是一种动态类型的语言(运行时才决定数据类型),可以 ... -
<19>erlang中的时间,日期
2013-09-06 11:21 1204时间函数涉及的数据类型: DATA TYPES datetim ... -
<18>Efficient guide 之List handling
2013-08-31 18:45 6841 Deep and flat lists lists:fl ... -
<17>Efficiency Guide之Function
2013-08-27 22:30 5841. 函数模式匹配 模式匹配,在函数头,case和receiv ... -
<16>Efficiency Guide之Common Caveats
2013-08-11 11:07 817(1) ++ 如果做一个list的反转,不要这样, naiv ... -
<15> lists模块补充
2013-08-05 20:12 838%% 对list模块经常用到的进行补充 %% 1 对所有元素进 ... -
<15> lists模块解析和补充
2013-07-24 17:57 12%% 对list模块经常用到的进行补充 %% 1 对所有元素 ... -
<12>简述erlang的几种错误
2013-04-14 23:31 11871) badarg Bad argument. The ar ... -
<11>erlang中方便使用的模块和命令(2)
2013-04-06 22:33 811(1) 进程字典到底用不用,很多人推荐使用 http:// ... -
<9>rabbitmq网络层
2013-01-31 00:20 829抽离出了网络层, 逻辑层待以后研究 https://gith ... -
<7>pg2 分析
2012-12-08 13:42 1264网上看到erlang的pg2模块似乎没人推荐使用,但是还是有不 ... -
<6>error_logger 使用
2012-12-02 16:24 1459erlang中日志管理主要有error_loggger 模块, ...
相关推荐
{erl_embedded_redis, ".*", {git, "https://github.com/gossiperl/erl_embedded_redis.git", {tag, "3.0.3"}}} ]}. rebar get-deps compile 直接从终端 git clone git://github....
本地阅读基准 $ erl -pa ebin 1> bench:sync(1000). 91ms 10989 req/sec 2> bench:async(1000, 100). 38ms 26315 req/sec 并发测试 $ erl -pa ebin 1> redo_concurrency_test:run(20, 100). % pids, 100 random ...
- 启动Redis服务:`redis-server redis.conf`。 以上是关于RabbitMQ、Zookeeper、Dubbo、Nginx、Mysql以及Redis的简要安装与配置流程。在实际操作过程中,还需要注意权限管理、防火墙配置等细节问题。希望本指南能...
在Redis目录下通过`redis-server.exe`命令启动Redis服务。 5. **Erlang**: 版本24.3.3。Erlang是RabbitMQ所必需的语言环境。下载并安装Erlang后,配置环境变量并通过命令`erl -version`来验证是否安装成功。 6. **...
当前它使用leveldb,但最终将支持Redis和Rabbit。 Pusherman的想法是您要抽象掉对Apple的呼叫并排队进行推送。 假设您有很多工作要做,并且想要管理与Apple等的连接。目标是为此做一个地方。 我们将添加一些图形...