Home > Erlang探索 > Erlang节点互联失败原因分析以及解决方案

Erlang节点互联失败原因分析以及解决方案

原创文章,转载请注明: 转载自系统技术非业余研究

本文链接地址: Erlang节点互联失败原因分析以及解决方案

今天和项仲在部署新系统的时候发现节点间ping不成功的情况,类似

1> net_adm:ping(‘xx@ip1’).
pang

由于这个问题比较普遍,我就记录下一步步的排除步骤.

首先从原理上分析下!由于erlang节点间通讯是透过tcp来进行的,所以我们确保以下几点:
1. 确保网络连接是通的,可以透过ping来查看。
2. 确保网络连接上tcp是可以通的,可以透过netcat在二个节点所在的机器上分别开个服务器端和客户端进行验证。
3. 确保端口是防火墙友好的。erlang的节点是登记在epmd服务上的,所以4369端口要能访问,其次节点的动态端口是可以访问的。

epmd -names
epmd: up and running on port 4369 with data:
name xx at port 46627

同样可以用netcat来验证。
4. erlang节点的cookie是一样的,可以透过setcookie来解决。

这几点确认无误后,就可以开始排查问题了。
首先交代下环境,二台机器IP分别是10.1.150.12,10.232.31.89, 上面分别运行Erlang版本R16B和R14B04,cookie统一设置为456789。
接着我们来演习下,首先我们10.1.150.12在节点A上起个节点’xx@10.1.150.12’,如下:

# erl -name xx@`hostname -i` --setcookie 456789
Erlang R16B (erts-5.10)  [64-bit] [smp:24:24] [async-threads:0] [hipe] [kernel-poll:false]

Eshell V5.10  (abort with ^G)
(xx@10.1.150.12)1> 
=ERROR REPORT==== 28-Mar-2012::13:25:42 ===
** Connection attempt from disallowed node 'yy@10.232.31.89' ** 

同时我们在10.232.31.89上运行另外一个节点’yy@10.232.31.89’进行节点间连接,如下:

$erl -name yy@`hostname -i` --setcookie 456789
Erlang R14B04 (erts-5.8.5)  [64-bit] [smp:16:16] [rq:16] [async-threads:0] [hipe] [kernel-poll:false]

Eshell V5.8.5  (abort with ^G)
(yy@10.232.31.89)1>  net_adm:ping('xx@10.1.150.12').
pang

我们看到节点无法互通,出错的原因是”** Connection attempt from disallowed node ‘yy@10.232.31.89’ ** “.
有提示消息就好办, 在otp源码目录下简单的运行:

# grep -rin "disallowed node" .
./lib/kernel/src/dist_util.erl:154:                   "disallowed node ~w ** ~n", [Node]),
./lib/kernel/src/dist_util.erl:603:                           "disallowed node ~w ** ~n", [NodeB]),
./lib/kernel/src/dist_util.erl:623:                           "disallowed node ~w ** ~n", [NodeB]),
./lib/kernel/src/net_kernel.erl:1149:                 "disallowed node ~w ** ~n", [Node]),

我们可以看到有4个函数有可能打印这个语句,分别是:
1. is_allowed %% check if connecting node is allowed to connect with allow-node-scheme
2 .recv_challenge_reply %% wait for challenge response after send_challenge
3. recv_challenge_ack
4. setup %% Set up connection to a new node.

其中和被动连接相关的俄只有1,2,3这几种情况.

情况1: 节点间allow相关的东西可以参考这篇文章:Erlang如何限制节点对集群的访问之net_kernel:allow
我们来排除下allow导致问题的原因,把allow设成[],允许任意节点访问:

2> net_kernel:allow([]).
ok
(xx@10.1.150.12)2>
=ERROR REPORT==== 28-Mar-2012::13:36:09 ===
** Connection attempt from disallowed node ‘yy@10.232.31.89’ **

很清楚,这样并没有解决问题。

那就可以肯定是第2,3个原因了,回头来看下我们的版本号:
R14B04 和 R16B, 差了二个大版本, 这个是核心原因。
换成同样的版本的erlang问题应该解决!如下:

$erl -name yy@`hostname -i` --setcookie 456789
Erlang R16B (erts-5.10)  [64-bit] [smp:24:24] [async-threads:0] [hipe] [kernel-poll:false]

Eshell V5.10  (abort with ^G)
(yy@10.232.31.89)1>  net_adm:ping('xx@10.1.150.12').
pong

看来确实解决了!

小结: Erlang版本不混用,即使混用最好不超过2个版本。
祝玩得开心!

Post Footer automatically generated by wp-posturl plugin for wordpress.

  1. daiyuchen
    March 28th, 2012 at 17:25 | #1

    R16B? 内部版本吗?

    [Reply]

    Yu Feng Reply:

    github上的最新版本.

    [Reply]

  2. zdx3578
    March 31st, 2012 at 11:11 | #2

    有提示消息就好办, 在otp源码目录下简单的运行:# grep -rin “disallowed node” 这个思路很好啊

    [Reply]

  3. daids
    May 2nd, 2012 at 10:22 | #3

    确保Erlang的版本一致,否则你会遇到很多严重而且奇怪的问题

    [Reply]

  4. goofansu
    August 14th, 2012 at 11:59 | #4

    嗯,以后坚决保持版本的一致。直接打包成镜像来部署,应该可以避免很多问题

    [Reply]

    Yu Feng Reply:

    支持!

    [Reply]

  1. August 23rd, 2012 at 11:21 | #1
  2. April 2nd, 2013 at 17:29 | #2