优酷土豆单明辉—基于Hadoop平台下的视频推荐系统

原创
开发 前端 Hadoop
单明辉,优酷土豆集团技术经理。2008年于中科院声学所获博士学位,主导了优酷土豆视频推荐支撑平台设计与开发,目前负责低延时、高并发的大数据应用支撑平台建设。

[[90694]]

2008年于中科院声学所获博士学位,主导了优酷土豆视频推荐支撑平台设计与开发,目前负责低延时、高并发的大数据应用支撑平台建设。

从视频网站的分类来说,优酷土豆属于两者兼备的模式(用户产生内容+专业视频内容)。而这两种类型的网站内容和用户行为各异,相应的推荐系统的设计也会有一定差别。对此优酷土豆建立了自己的推荐系统,平衡二者的权重。并在此基础之上发现GPU产生类型。在未来也将在此基础上,进行新的拓展。

目前,优酷土豆视频推荐系统分可大致分为为两部分。***部分,是底层的算法架构,主要做算法的研究工作。第二部分,是上层的支撑架构,即大数据的支撑平台。主要用于将海量视频信息,快速实时的推荐给用户,实现良好的用户体验。

和旧有的视频推荐系统相比,新的视频推荐系统,将数据和计算建立在Hadoop大数据平台之上,包括信息算法的小流量支持和各种业务的流量支持,等可以作为扩展在这个平台上得以实现。

现在,优酷土豆每天可以承受4-5亿次响应,每次响应在3-4毫秒左右。有了一个非常不错的成绩。

而在用户行为的收集上,视频行业一直都把它当作重中之重。对此,优酷土豆成立专项小组,对用户行为进行收集。在新的架构之上,包括之前没有办法收集的用户实时访问的视频数据,用户搜索行为、访问的页面,现在都可以实现实时采集,并引入到实时的算法当中去。同时,在数据的更新频率上,优酷土豆也将更新频率分为了三钟类型。用以实现更加快速实时的用户体验。

未来的优酷土豆视频推荐将会朝什么方向发展?谈到这个问题,单经理对记者说:“未来,优酷土豆视频推荐未来的发展方向可大致分为两点。***,系统架构上将更加实时,以便能更加准确、快速对用户进行分析。第二,在现在的UGC、PGC背景下,传统的基于用户行为的数据,不足以挖掘出用户的全部信息。因此,我们想通过用户行为,用机器自动聚合出标签,用标签做类似准内容推荐。这个标签可以用在用户身上,也可以用在内容上面,来标明用户喜好。更好的提升对用户的服务体验。

责任编辑:陈四芳 来源: 51CTO
相关推荐

2012-03-12 17:24:23

优酷土豆合并

2016-03-14 10:27:02

慧聪网

2011-12-13 14:44:02

360开放平台

2015-03-31 17:28:32

2014-03-27 09:36:36

Spark

2016-04-01 09:23:55

优酷土豆大数据平台Hadoop

2014-03-03 13:33:03

易传媒移动DSP

2014-11-11 16:07:11

2015-10-19 17:08:19

阿里收购马云

2011-04-01 09:06:49

WebDAV协作平台

2013-04-27 14:27:39

大数据全球技术峰会大数据开放数据平台

2016-01-12 15:16:03

2009-12-16 10:06:51

互联网

2015-10-08 16:51:56

旋转菜单动画

2016-05-31 15:23:52

2011-12-12 16:47:38

J2MESOAP协议

2011-11-08 16:31:10

Java

2015-08-03 17:43:53

优酷

2015-08-27 11:53:57

蓝汛优酷路由宝

2018-06-15 20:44:40

Hadoop数据分析数据
点赞
收藏

51CTO技术栈公众号