xianhe0 2012-10-11
本文主要描述了HP C7000刀片服务器系统中的Flex-10 VirtualConnect模块的配置 及VMware vSphere的网络,分析讲解了FlexNIC和vmnic的对应关系,以及如何设计一个高可用高冗余的VMware基础架构。
【C7000刀箱和VMware虚拟机架构的千兆网络设计】
图片来源:p 4 《HP Virtual Connect for the Cisco Network Administrator 2.3》
HP C7000刀片服务器机箱(以下简称“刀箱”)正面可以插16个半高的服务器,每把半高的刀片服务器最多支持8个物理网络端口(分别为板载2个,Mezz1插槽可插1个双端口卡,Mezz2插槽可以插1个四端口卡)。在刀箱的背面可以插8个半宽的网络模块,每个网络模块一一对应刀片服务器上的一个网络端口。每个网络模块通常都有16个downlink,一一对应正面的16台半高的服务器。刀片服务器上的网络端口和网络模块上的Downlink一一对应,通过刀箱的矩阵背板无阻塞的连接在一起。
上图所示的就是一把半高刀片服务器的网络接口和背部网络模块之间的关系。
板载的LOM1是刀片服务器上的第一个网络端口,对应于Bay1中的网络模块;(注:LOM是LAN On Motherboard的缩写,意思就是主板板载网卡)
LOM2是刀片服务器上第2个网络端口,对应于Bay2的网络模块;
Mezz1插槽插了一个双端口网卡,Mezz1:1是这网卡上的第一个端口,也是服务器第三个网络端口,对应Bay3的网络模块
Mezz1:2是网卡上第2个端口,是服务器第4个网络端口,对应Bay4的网络模块
以此类推。。。。。。
Mezz2:4是Mezz2插槽上插的4端口网卡的第4个网络端口,是服务器的第8个网络端口,对应Bay8的网络模块。(下文有些地方将Mezz1:1简写为M1:1)
这里所说的网络模块可以是一个网络交换机,也可以是一个VC模块。
(注:VC是Virtual Connect的缩写,它不具备网络交换功能,但是可以将downlink端口灵活的映射到uplink端口上,这是HP独有的模块。(Cisco有类似的产品,本文不作介绍)。关于VC的进一步介绍,可以参考HP的官方网站:http://h18000.www1.hp.com/products/blades/virtualconnect/)
网络模块的downlink端口和刀片也是一一对应的。每个网络模块的第一个端口,总是连接到第一把刀片上去的。以此类推,第16个端口肯定是和第16把刀片相连接。
因此我们有:
Bay1网络模块的downlink1 对应于第1把刀片服务器的第1个网口;
Bay1网络模块的downlink2对应于第2把刀片服务器的第1个网口;
。。。。。。
Bay1网络模块的downlink16对应于第16把刀片服务器的第1个网口;
同时
Bay2网络模块的downlink1 对应于第1把刀片服务器的第2个网口;
Bay2网络模块的downlink2对应于第2把刀片服务器的第2个网口;
。。。。。。
Bay2网络模块的downlink16 对应于第16把刀片服务器的第2个网口;
并且
Bay3网络模块的downlink1 对应于第1把刀片服务器的第3个网口;
。。。。。。
Bay4网络模块的downlink1 对应于第1把刀片服务器的第4个网口;
。。。。。。
最后
Bay8网络模块的downlink1 对应于第1把刀片服务器的第8个网口;
Bay8网络模块的downlink2 对应于第2把刀片服务器的第8个网口;
。。。。。。
Bay8网络模块的downlink16对应于第16把刀片服务器的第8个网口。
好吧,原谅我这么罗嗦。但是搞清楚这些是非常重要的,因为更晕更复杂的还在后面呢。
再上一个图,这次看懂了么?
图片来源:p 5 《HP Virtual Connect for the Cisco Network Administrator 2.3》
到了ESX/ESXi主机中,按照LOM – Mezz1 – Mezz2 的顺序,网卡的对应关系是:
原先我们的VMware ESX 主机的配置是这样的:
LOM1配置为仅用于service console
LOM2 (vmnic1)和M2 :2 (vmnic5)组合在一起,用于VM Network
M1:1(vmnic2) 和M2:3(vmnic6)组合在一起,用于存储网络NFS或者iSCSI
M1:2(vmnic3) M2:4(vmnic7)组合在一起,用于vMotion。将vMotion和存储网络分开,是为了减少网络拥堵。
M2:1(vmnic4)作为第2个service console,一方面做冗余,另一方面,它位于独立的备份网络中,用于第三方的软件(如Symantec NBU 7)备份虚拟机。
这个设计中,所有2个网络接口的组合都故意分布在不同的物理网卡上,这样可以避免因为某一个板块的物理故障,导致服务下线。
在ESX主机中看出来大概是这样的: