【摘要】 本文通过分析分布式集群打包业务系统的技 术特点及在全台业务网架构下的分布式集群打包系统应用特 征、与其它系统的业务无缝对接方式,阐述了在广电全台业 务网络云计算模式时代,如何对大量视音频数据进行集中的 合成与转码,并将云计算引入到全台网络模式下的电视台正 常生产业务中,有效解决电视台全台网内内对大量视音频数 据打包处理效率低下的问题,方便的将分布式集群打包业务 方便快捷的融入和无缝连接到节目内容的生产加工制作过程 与管理过程中来。根据本台的实际使用情况分别从技术应用 层面、分布式集群打包内容管理过程进行了分析和阐述。
【关键词】 全台网分布式集群打包业务管理云计算 技术安全生产
一.引言
在义乌市广播电视台新大楼全台网络建设之际,我台除 考虑全台网中各生产子业务模块如节目生产网、演播室、播 出、收录等传统业务模块外,重点综合考虑了在全台网络中 如何将基于云计算技术的快速打包集群安全便捷的纳入到全 台网络的范畴之中。
进行全台网络建设之前,我台原有的两个网络系统分别 为新闻生产与专题制作服务,每个网络为专属打包系统,造 成打包资源比较浪费,打包效率相对比较低下,会经常出现 拥堵排队现象,并且由于都是割裂开的单体网络,无法进行 统一的任务资源协调与调度,往往造成节目优先级的时序问 题。为解决类似的传统系统无法解决的诟病,并考虑到后续 的新媒体及互联网的发展需求,在全台网络的建设中考虑了 分布式集群打包系统的设计模式。
二.我台分布式集群打包管理系统的架构与功能原理
1.系统架构
集群打包管理系统采用云计算架构模式设计,由集中资源管理服务模块、集群打包渲染计算模块、以及统一交互模 块三大块组成,由集中资源管理服务完成业务应用中通用的 信息处理和逻辑处理功能。从图中我们可看出,集中资源管 理服务针对集群通用架构中,集中任务调度充分利用分布式 资源的理念,体现在我台的价值为:

图1 集群打包渲染管理系统架构
◆ 更少投入,更大效益
创建整个系统平台的基础资源池,充分利用闲置资源。
◆ 计算服务
统一的视音频编码和解码计算,满足各种格式视音频处 理需要;
资源过量使用计算。

◆ 存储服务
提供基于文件系统的统一存储管理服务,标准化的文件 系统,可以适用于任意存储硬件设备,提供存储I/O统一控 制服务,根据不同业务、不同需求制定相应存储读写I/O。
◆ 能力服务
采用AAF文件作业方式,实现数据的分段存储管理,更 加适用于集群渲染平台的分布式环境;
提供容错功能,对损坏的数据文件进行自动恢复操作, 以确保系统的正常运行;
基于MD5码的数据校验功能,保障数据完整性和一致性。
◆ 安全服务
采用视频帧检测技术,可实现对视频画面的逐帧检测, 更加精确地保证视频质量;
利用缓存服务器实现负载均衡,以更加优化的方式缓解 网络压力,为业务流畅完成提供便利通道;
数据克隆技术的引入,与原始数据保持高度的一致性又 无需与原始数据保持联系且具有独特的空间优势。
◆ 扩展服务
提供基于网格计算方式的扩展API接口方便拓展
2.系统功能原理

图2 打包集成渲染原理图
◆ 任务的拆分算法
任务拆分算法主要完成对接收计算资源的判断、拆分等任务,任务拆分可分为两种:
(1)基于sort-first并行渲染的动态任务拆分算法
当我们拿到任务后,我们会去解析我们手中有什么资 源,任务中什么是我们能处理的,什么是不能的。然后根 据视频计算复杂程度分配任务,一个20秒的3维特技交给一 台机器,1个10分钟的没有任何特技的视频交给另外一台机 器,一个复杂的40秒二维特接再交给另外一台,他们大概完成的时间都是10秒。最终10秒后合成
该算法递归地将屏幕区域划分成若干子区域,并将图元 组归属到相应区域,平衡了渲染节点间的工作负载,大大降低 了对网络带宽的需求。实验表明在分布式环境中是一个快速 高效低成本的算法。
(2)蚁群算法在资源受限项目调度中的应用
该方法具有正反馈、分布式计算和富于建设性的贪婪启 发式搜索的特点,拿到任务以后,将任务按时间5秒一段分 配,逐步完成所有任务。
◆ 视频文件拼接
由于视频文件的特殊性,仅仅靠物理文件的拼接可能会 出现MPEG2 IBP长GOP拼接时运算找不到参考帧,以至于 出现拼接后丢帧、马赛克、黑场等情况。
采用基于文件系统的视频文件拼接方式完成多任务的分 发和拼接,通过ASFS智能文件系统的开发积累,已经能够 通过文件metaData实现文件拼接。通过视频处理服务器完成 拼接处数据校验(MPEG2-I、MPEG2-IBP、DnxHD)。
三.分布式集群打包管理系统在我台的应用与定位
全台网络下的分布式集群打包管理系统作为全台网建 设的一个重要环节,贯穿整个生产加工制作至归档、播出过 程,我台建设的分布式集群打包管理系统作为全台网路架构 下节目采编播一体化流程的桥梁节点发挥着至关重要的作 用,目前全台节目的至发布渠道全部依赖于此分布式集群打 包系统,相关工岗工作人员再也不用像以前一样往返生产节 目制作机房、播出机房、演播室、总编室机房之间,在生产 节目制作机房一键式提交至后台集群打包渲染系统,后续流 程由系统完成自动交互,非常大的提高了工作效率,同时避 免了很多交接不清与沟通偏差而影响节目播出的问题。
四.结束语
义乌分布式集群打包系统不光是以单一的业务系统而 存在,在全台网架构下支撑节目的各业务系统之间的格式交 互,是各业务子系统格式交互与转换的快速通道与桥梁,直 接决定了从生产到最终发布渠道的效率,分布式集群打包管 理系统在全台业务领域可作为一个系统而存在,而随着电视 台业务向新媒体领域拓展发展要求,节目业务格式的复杂 程度越来越多,对于高效的集群计算打包与转码也会越加依 赖,其作为电视台向互联网业务涉足的云计算前身基础的作 用就越来越明显,此次建设的分布式集群打包管理系同已达 到了在全台业务网模式下的预期目标,后续将根据我台的实 际业务发展和新媒体化互联网化的需要,对于集群打包渲染 作为云平台资源整合与利用及如何进行新媒体发布做进一步 的研究。