专访人人网黄晶:SNS网站后台架构探秘

龙旋 2010-09-08

【51CTO独家专访】51CTO在此之前报道过一篇名为《世界最大的PHP站点 Facebook后台技术探秘》的文章,让我们了解到Facebook是如何保证5亿用户的系统一直保持稳定、可靠运行的。如果说Facebook离我们有些远的话,那么相信人人网是大家再熟悉不过的一个SNS网站了。(相关阅读:国内外大型SNS网站后台架构对比

专访人人网黄晶:SNS网站后台架构探秘 
人人网首页

专访人人网黄晶:SNS网站后台架构探秘 
人人网产品技术高级总监黄晶老师

在今年4月24日召开的Qcon 2010技术大会上,51CTO也曾对黄晶老师进行过采访,详情请阅读《51CTO专访人人网黄晶:WEB开发需要随需应变

51CTO作为国内大型SNS站点的代表,我们知道人人网后台主要采用Java语言编写,同其他形式的站点相比,SNS站点在网站架构方面有什么样的特点?

黄晶老师:SNS网站用户数据量庞大且关系复杂,对实时性要求非常高,因此要求SNS网站架构要有很强的水平扩展性。

51CTO在后台语言的选择上,有其他大型SNS站点使用PHP,人人网则选择了Java,使用Java的优势在体现哪些方面?

黄晶老师:Java的优势体现在当项目日渐复杂的时候,可以通过Java良好的OO特性,保持非常好的模块性,在进行网站重构的时候比较方便,在代码量增大的时候也可保持良好的可管理性。

51CTO现在很多大型网站的后台都使用了大量的开源软件,人人网是否也是如此呢?咱们的开发团队是否也在开发自己的框架呢?

黄晶老师:人人网也使用了大量开源软件,比如MySQL、Memcached、ICE、Hadoop等,同时我们也根据业务需要研发了自己的框架,比如MVC框架,分布式KV存储系统。

51CTO一个网站在发展过程中,后台都会经历不断的重构,从初期的校内网、到现在的人人网,网站架构最大的变化在哪?

黄晶老师:从初期的校内网到现在人人网,最大的变化是:很多底层服务都从利用已有开源软件的搭建,变成了根据业务需要,由我们自己开发专门的服务所代替,这样能够提高资源利用程度,提高整个系统的可用性。

51CTO我们知道人人网的用户量非常庞大,在数据库方面,人人网采用了哪种数据库?除了高性能、可扩展性外,人人网对数据库的需求还有哪些?在整个后台系统架构中,往往数据库的性能也会出现瓶颈,从早期的校内网到现在,我们对数据库性能的优化方面都做了哪些大的改变?

黄晶老师:我们采用的数据库是MySQL,在需求方面,我们也非常关注高可用性。早期校内从单数据库,到主从接口,发展到后来垂直拆分,然后水平拆分,然后在每个节点上实现主-主提高可用性,到异地备份容灾。目前我们的数据库已经有非常强的水平扩展能力和非常高的可用性。

关于MySQL,51CTO推荐专题:MySQL数据库入门与精通教程

51CTO数据缓存在后台架构中同样非常重要,在数据库服务器、Web服务器以及两者之间,人人网都采用了哪些缓存手段?

黄晶老师:我们的数据库用到了部分自身缓存机制,比如尽可能利用innodb的pool和MySQL的Query Cache。在中间用到Memcached,以及基于ICE通讯框架由我们自己编写的包含业务逻辑处理能力的缓存服务,在我们自行开发的分布式KV系统中也会充分利用内存Cache加速。

推荐阅读:分布式缓存系统memcached简介与实践

51CTO目前国内外也有很多大型站点在使用NoSQL,从功能上来将,其非常适合应用在SNS、微博等站点,人人网是否在考虑使用NoSQL呢?

黄晶老师:对于NoSQL,我们已经考虑并在逐步试用自行开发的Nuclear分布式KV存储系统。

关于NoSQL,51CTO推荐专题:NoSQL:关系型数据库终结者?

51CTO上传照片或者图片是SNS网站用户很常用的一个功能,对于Web服务器来讲,图片是非常消耗资源的,那么目前人人网每天大概有要处理多少张图片?相比较其他数据而言,图片会占用大量存储空间,给服务器带来不小的压力,我们知道Facebook有着一套自己的图片存储架构,咱们人人网在这方面是怎么做的呢?

黄晶老师:现在人人网每天要处理千万张级别的照片数量。我们使用由C++专门编写的Web服务来处理照片上传和压缩工作。存储是用一套分布式文件存储系统,在小文件很多的情况下,也会采用把小文件聚合为大文件的方式提高性能,这样的做法也便于大量小文件的备份。

51CTO目前SNS站点都有很强的实时性,用户能够第一时间看到好友都在做什么,像人人网以及Facebook等,还有即时聊天功能,我们是通过什么样的手段来最大限度的优化每一个页面,从而尽可能的减少服务器的请求时间,提高用户体验的呢?

黄晶老师:我们的做法是尽可能把数据放在内存中,提高数据存取速度。另外,复杂的页面采用并发机制,多线程同时从多个后台源取数据拼成页面。

相关推荐