作者简介:唐瑞春(1968-),女,教授,博士.研究方向:网络流媒体.E-mail:tangruichun@ouc.edu.cn
针对UPnP AV如何根据AV播放环境进行内容适应的问题,提出一种基于上下文感知的内容适应算法CBCAA。首先获取AV播放环境上下文信息并进行分类;然后根据不同类型的上下文信息构建约束模型,利用约束满足求解方法得到相应的媒体内容描述决策集MDDS;最后将媒体源码按MDDS的描述转码,得到适应上下文要求的媒体内容目标码。CBCAA算法能够实现UPnP AV 对AV播放环境的内容适应,从而提供智能多媒体服务。仿真实验表明了该算法的有效性。
The content adaptation based on context in UPnP AV is investigated. A Context-based Content Adaptation Algorithm (CBCAA) is proposed. First, the algorithm obtains and classifies the context information. Then it builds the constraint model according to the different types of information, and the constraint satisfaction method is used to acquire Media Description Decision Set (MDDS). Finally, a bit-stream adaptation engine transcodes the media from source media to object media based on MDDS. CBCAA enables UPnP AV adapt the content to environment and provides intelligent services. Simulation results demonstrate the effectiveness of proposed algorithm.
随着多媒体内容的急剧增长、各种不同终端设备的出现以及异构网络的动态特性,用户对多媒体体验的要求越来越高,并希望能够使用各种设备随时随地享受更好的多媒体服务,这种范式称为UMA(Universal multimedia access)。内容适应就是为了达到上述目标,根据多媒体内容的使用环境(相应的上下文信息)调整多媒体内容使原始内容符合用户要求。然而家庭多媒体系统标准(例如UPnP AV[ 1]等)只提供了多媒体系统的基本构建模块,没有相应的内容适应功能,因此,为了保证更好的多媒体体验,需要根据上下文信息调整AV内容。
Sung等[ 2]提出一个由UPnP AV设备和家庭服务器组成的多媒体服务框架,其AV播放内容可以根据用户信息和设备特性完成自适应,从而实现了智能多媒体服务。Kang等[ 3]将UPnP AV应用于OSGi平台,并通过家庭网关为用户提供外部智能多媒体服务,实现了设备的互操作性。文献[4]提出了一个数字家庭环境的基于UPnP AV的上下文感知多媒体管理系统,提供了标准UPnP AV架构没有的媒体格式检测和过滤功能。在这些算法中作者往往只考虑部分上下文信息,很难提供真正的智能多媒体服务。
本文提出一个基于上下文感知的内容适应算法CBCAA(Context-based content adaptation algorithm),将其应用到UPnP AV架构的多媒体播放系统中,能够实现智能内容适应。首先对家庭环境中的上下文信息建模,然后根据不同类型的上下文信息构建约束模型,将内容适应决策转化为约束满足问题(Constraint satisfaction problem,CSP)求解,多媒体适应根据求解得出的MDDS执行。改进后的UPnP AV多媒体播放系统包括家庭AV设备、控制点以及适应引擎。
MPEG-21 DIA(Digital item adaptation)是广泛使用的描述上下文的多媒体标准,它通过定义UED(Usage environment descriptions)提供了实现多媒体适应的一组丰富的工具集[ 5]。为了保证与其他系统的互操作性,使用MPEG-21 DIA工具来获取上下文信息,上下文模型的分类主要有5种,分别是终端能力、网络特征、用户特征、自然环境信息和通用限制描述[ 6]。
媒体内容适应问题
式中:
1.3.1 CSP与媒体内容适应
约束满足问题可表示为一个三元组
媒体内容适应问题可以用CSP问题进行描述,这是因为媒体内容适应问题的各元素与CSP问题中的各元素存在一一对应的关系。
(1)可调整选项集合
(2)可调整选项的选择域
(3)
(4)
因此,媒体内容适应问题可以转换为CSP问题。
1.3.2 基于CSP的媒体内容适应问题描述
式(1)中基于CSP的媒体内容适应问题由三部分组成,分别是可调整选项集合
(1)内容适应约束
由上述分析可知,约束
定义1 强制性约束。要求适应决策结果必须满足该约束关系,如所有适应决策结果均无法满足该约束关系,则该约束满足问题无解。
定义2 建议性约束。要求适应决策结果尽量满足该约束关系,如所有适应决策结果均无法满足该约束关系,则其解是最接近约束关系要求的适应决策结果。
综上所述,媒体内容适应问题
(2)可调整选项集合
式(2)中
(3)内容适应约束表达
为了保证转化为CSP问题求解的媒体内容适应问题的效率与准确性,必须采用规范化的方法对内容适应约束进行描述。
内容适应约束可以按其维数表示如下:
① 一维约束。一维约束可表示为:
式中:
大部分终端能力需求构成的约束为一维约束,这类约束只对某个单独的可调整选项
② 二维及二维以上的约束。主要表达可调整选项之间的约束关系,通常可表达为:
当约束
1.3.3 媒体内容适应CSP算法
考虑到媒体内容适应的特性,本文在CSP问题常用的核心算法——回溯算法(Backtracking,BT)[ 7]的基础上,加入了一维约束过滤和建议性约束满足度求解过程,对传统的回溯算法进行改进。
(1)建议性约束满足度计算
内容适应决策对所有建议性约束的满足度
式中:
根据
① 数值型属性。比如图像分辨率、对比度和音频播放时间等,该类约束满足度
式中:
② 符号型属性。比如图像格式、歌手和电影题材等。该类约束满足度
(2)媒体内容适应 CSP算法
① 按式(3)和式(4)对媒体内容适应约束进行描述,并对强制性约束和建议性约束进行划分。
② 将媒体文件的所有可调整选项与一维强制性约束进行一维约束过滤计算,获得可用的可调整选项备选集。基本思想为:首先确定在内容适应过程中起作用的一维强制性约束集
③ 对可调整选项备选集与二维及二维以上强制性约束和建议性约束进行改进的 BT法求解,步骤如下:
( a)令
( b)从未被赋值的可调整选项
( c)如果未发生冲突,则继续对未被赋值的可调整选项进行上述操作,返回步骤( b),否则执行步骤( d)。
( d)从
( e)当出现所有可调整选项均被赋值后,即可获得一个满足要求的适应决策,计算媒体文件的各选项建议性约束
当
UPnP AV规范所定义的体系结构由3种主要的功能实体组成:媒体服务器(Media server,MS),媒体播放器(Media renderer,MR)和AV控制点(AV control point,CP)。
为了能够利用UPnP AV进行媒体播放,首先设备控制协议DCP(Device control protocol)在内容传输之前要协商一种MS和MR都支持的多媒体文件格式和网络协议,但是,当MS所提供的媒体内容格式与MR的能力不相符或者没有充足的网络带宽时,UPnP AV仍然不能在播放器上播放服务器的内容。
为了解决该问题,本文提出使用适应引擎的UPnP AV架构,如图1所示。
图1将控制点与适应引擎结合,当用户请求的媒体内容格式与播放环境不相符时,适应引擎能够根据AV播放的上下文信息进行内容适应并将调整后的内容发送给用户。
内容适应引擎的工作原理如图2所示。
适应决策引擎的功能是定位所需资源并根据用户的需求决定媒体内容适应参数,从而实现最佳访问。为了得到媒体内容适应参数,需要获得以下上下文信息:源数据描述;用户和自然环境的特征;数据传输网络能力和终端设备能力等。
上述上下文信息是由XML解析器从MEPG-21 DIA descriptors中提取。内容适应算法将上下文信息作为输入,得到最佳转码参数。比特流适应引擎根据最佳转码参数对原始资源执行转码操作,输出转换后的媒体资源及其描述。
为了验证CBCAA算法的有效性,本文以图像的适应为例,搭建了一个实时适应媒体内容的UPnP AV架构的媒体播放平台。媒体服务器和播放器使用Intel Tools for UPnP Technology工具;适应引擎采用开源工具VLC并与AV控制点整合协调播放过程。
图像的可调整选项如表1所示。用户上下文信息对媒体内容适应的需求以SAMSUNG GT-S5570为例,见表2。将表2中各上下文信息的需求
根据媒体内容适应算法,首先进行一维约束
过滤计算,计算后得结果如下:格式为JPEG PNG;宽度不大于48.7 mm;高度不大于65.0 mm;分辨率为320×240,400×240,640×480,800×480;发送速率不大于53.6 kbit/s。采用层次分析法确定建议性约束5和6的权重分别是0.4和0.6,调用BT算法进行求解,得到的最终决策结果见表4。
从表4可以看出:对于内容适应问题来说,决策方案4对所有的约束条件满足度最高,所以比特流适应引擎可以根据决策方案4中的参数对媒体源码进行转码,得到符合AV播放环境的目标码,为用户提供智能多媒体服务。
表5比较了CBCAA算法和其他4种使用MPEG-21工具的媒体内容适应方法的基本特征。4种方法分别是koMMa(Knowledge-based multimedia adaptation)[ 8],BSD(Bitstream syntax description)[ 9],DCAF(Dynamic content adaptation framework)[ 10]和NinSuna(A format-independent semantic-aware content adaptation)[ 11]。基本特征包含适应决策方法、计算方法的完整性(即底层算法能否求出全部解)、处理的媒体内容类型和通用性(即对MPEG-21 DIA标准的兼容性)4个方面。
从表5可以看出:CBCAA使用约束满足方法实现了一个计算完整的适应决策方法,即算法可以求出所有满足媒体播放环境约束的适应方案。CBCAA与其他方法相比支持更广泛的媒体类型,并充分利用了MPEG-21 DIA标准为内容适应所提供的工具。
研究了UPnP AV如何根据AV播放环境进行内容适应的问题。提出一种基于上下文感知的内容适应算法CBCAA。使用MPEG-21 DIA工具获取AV内容播放的上下文信息,并根据不同类型的上下文信息构建约束模型,利用约束满足问题算法求解内容决策问题。媒体转码根据内容适应决策得出的MDDS的描述进行。设计了能够实现AV内容适应的UPnP AV架构,控制点获得上下文信息后利用适应引擎调整媒体内容,适应引擎将适合的媒体资源发送给用户。系统评估说明了算法的有效性。
[1] |
|
[2] |
|
[3] |
|
[4] |
|
[5] |
|
[6] |
|
[7] |
|
[8] |
|
[9] |
|
[10] |
|
[11] |
|