基于上下文感知的内容适应算法及其在UPnP AV中的应用
唐瑞春1,2, 冯骁1, 丁香乾1, 徐惠敏1
1.中国海洋大学 信息科学与工程学院, 山东 青岛 266100
2.海尔数字化家电国家重点实验室, 山东 青岛 266101

作者简介:唐瑞春(1968-),女,教授,博士.研究方向:网络流媒体.E-mail:tangruichun@ouc.edu.cn

摘要

针对UPnP AV如何根据AV播放环境进行内容适应的问题,提出一种基于上下文感知的内容适应算法CBCAA。首先获取AV播放环境上下文信息并进行分类;然后根据不同类型的上下文信息构建约束模型,利用约束满足求解方法得到相应的媒体内容描述决策集MDDS;最后将媒体源码按MDDS的描述转码,得到适应上下文要求的媒体内容目标码。CBCAA算法能够实现UPnP AV 对AV播放环境的内容适应,从而提供智能多媒体服务。仿真实验表明了该算法的有效性。

关键词: 计算机应用; 上下文感知; 内容适应; 约束满足问题
中图分类号:TP391 文献标志码:A 文章编号:1671-5497(2014)05-1441-06
Contest-based content adaptation algorithm and its application in UPnP AV
TANG Rui-chun1,2, FENG Xiao1, DING Xiang-qian1, XU Hui-min1
1.College of Information Science and Engineering, Ocean University of China, Qingdao 266100, China
2.State Key Laboratory of Digital Appliances, Qingdao 266101, China
Abstract

The content adaptation based on context in UPnP AV is investigated. A Context-based Content Adaptation Algorithm (CBCAA) is proposed. First, the algorithm obtains and classifies the context information. Then it builds the constraint model according to the different types of information, and the constraint satisfaction method is used to acquire Media Description Decision Set (MDDS). Finally, a bit-stream adaptation engine transcodes the media from source media to object media based on MDDS. CBCAA enables UPnP AV adapt the content to environment and provides intelligent services. Simulation results demonstrate the effectiveness of proposed algorithm.

Keyword: computer application; context awareness; content adaptation; constraint satisfaction problem
0 引言

随着多媒体内容的急剧增长、各种不同终端设备的出现以及异构网络的动态特性,用户对多媒体体验的要求越来越高,并希望能够使用各种设备随时随地享受更好的多媒体服务,这种范式称为UMA(Universal multimedia access)。内容适应就是为了达到上述目标,根据多媒体内容的使用环境(相应的上下文信息)调整多媒体内容使原始内容符合用户要求。然而家庭多媒体系统标准(例如UPnP AV[ 1]等)只提供了多媒体系统的基本构建模块,没有相应的内容适应功能,因此,为了保证更好的多媒体体验,需要根据上下文信息调整AV内容。

Sung等[ 2]提出一个由UPnP AV设备和家庭服务器组成的多媒体服务框架,其AV播放内容可以根据用户信息和设备特性完成自适应,从而实现了智能多媒体服务。Kang等[ 3]将UPnP AV应用于OSGi平台,并通过家庭网关为用户提供外部智能多媒体服务,实现了设备的互操作性。文献[4]提出了一个数字家庭环境的基于UPnP AV的上下文感知多媒体管理系统,提供了标准UPnP AV架构没有的媒体格式检测和过滤功能。在这些算法中作者往往只考虑部分上下文信息,很难提供真正的智能多媒体服务。

本文提出一个基于上下文感知的内容适应算法CBCAA(Context-based content adaptation algorithm),将其应用到UPnP AV架构的多媒体播放系统中,能够实现智能内容适应。首先对家庭环境中的上下文信息建模,然后根据不同类型的上下文信息构建约束模型,将内容适应决策转化为约束满足问题(Constraint satisfaction problem,CSP)求解,多媒体适应根据求解得出的MDDS执行。改进后的UPnP AV多媒体播放系统包括家庭AV设备、控制点以及适应引擎。

1 基于上下文感知的内容适应算法
1.1 上下文模型

MPEG-21 DIA(Digital item adaptation)是广泛使用的描述上下文的多媒体标准,它通过定义UED(Usage environment descriptions)提供了实现多媒体适应的一组丰富的工具集[ 5]。为了保证与其他系统的互操作性,使用MPEG-21 DIA工具来获取上下文信息,上下文模型的分类主要有5种,分别是终端能力、网络特征、用户特征、自然环境信息和通用限制描述[ 6]

1.2 媒体内容适应问题

媒体内容适应问题 Q可由一个四元组来描述:

Q=X',D',G,C'1

式中: X'为可调整选项集合,其表达式为:

X'=x'1,x'2,,x'n2

x'i代表媒体内容的可变属性,如格式、分辨率等,其中 i1,,n;D'为可调整选项 X'的备选集, D'=D'1,D'2,,D'n,D'ix'i的值域,即 x'iD'i,i1,,n;G为用户特征和自然环境信息对媒体内容适应的需求; C'为终端能力和网络特征对媒体内容适应的需求。

1.3 基于CSP的媒体内容适应问题

1.3.1 CSP与媒体内容适应

约束满足问题可表示为一个三元组 P={X,D,C},其中 X={x1,x2,,xn}是由有限个变量组成的集合; D={D1,D2,,Dn}是由变量 xi(1in)有限值域组成的集合, xiDi;C表示对变量 X取值约束的集合,它是 P所包含变量值域的笛卡尔乘积的一个子集,其解为每个变量赋予其值域上的一个值,使之同时满足所有的约束。

媒体内容适应问题可以用CSP问题进行描述,这是因为媒体内容适应问题的各元素与CSP问题中的各元素存在一一对应的关系。

(1)可调整选项集合 X'可转化为CSP问题中的变量集合 X

(2)可调整选项的选择域 D'可转化为CSP问题中的域 D

(3) C'G可以等价为对可调整选项 x1,x2,,xn之间进行组合的限制,故 C'G可以转化为CSP问题中的约束 C

(4) Q的解可转化为CSP问题 P={X,D,C}的解。

因此,媒体内容适应问题可以转换为CSP问题。

1.3.2 基于CSP的媒体内容适应问题描述

式(1)中基于CSP的媒体内容适应问题由三部分组成,分别是可调整选项集合 X'X'的备选集 D'和内容适应约束 GC',下面分别阐述。

(1)内容适应约束 GC'

由上述分析可知,约束 G和约束 C'可以归结为CSP问题中的约束 C。根据家庭环境下内容适应的特点,可将约束分为两类:强制性约束( CF)和建议性约束( CA),定义如下。

定义1 强制性约束。要求适应决策结果必须满足该约束关系,如所有适应决策结果均无法满足该约束关系,则该约束满足问题无解。

定义2 建议性约束。要求适应决策结果尽量满足该约束关系,如所有适应决策结果均无法满足该约束关系,则其解是最接近约束关系要求的适应决策结果。

综上所述,媒体内容适应问题 Q={X',D',G,C'可转化为以下问题: R={X,D,CA,CF}

(2)可调整选项集合 X'

式(2)中 x'i作为可调整选项的变量一般具有多种取值,例如,在媒体内容适应问题中,视频的格式 x'i可在{FLV,3GP,MP4,AVI,WMV,…}中选取。

(3)内容适应约束表达

为了保证转化为CSP问题求解的媒体内容适应问题的效率与准确性,必须采用规范化的方法对内容适应约束进行描述。

内容适应约束可以按其维数表示如下:

① 一维约束。一维约束可表示为:

Ci,xivalxiD'i3

式中: Ci为约束集合C中的一个元素; val(xi)为对 xi进行处理后的元素; D'i为满足约束 Ci的变量 xi的值域, D'iDi的子集。

大部分终端能力需求构成的约束为一维约束,这类约束只对某个单独的可调整选项 xi起约束作用。例如,某手机对视频格式的要求为3GP。

② 二维及二维以上的约束。主要表达可调整选项之间的约束关系,通常可表达为:

(Ci,xi)val(xj)D'j,,val(xm)D'm4

当约束 Ci作用于调整选项 xi,使其在 D'i中取值时,可调整选项 xj,,xm只能在某一可用实例集 D'j,,D'm中选取,这样就可表示各调整选项值域中实例之间的依赖及排斥关系。例如,图像要求为动态,则图像格式必须为GIF。

1.3.3 媒体内容适应CSP算法

考虑到媒体内容适应的特性,本文在CSP问题常用的核心算法——回溯算法(Backtracking,BT)[ 7]的基础上,加入了一维约束过滤和建议性约束满足度求解过程,对传统的回溯算法进行改进。

(1)建议性约束满足度计算

内容适应决策对所有建议性约束的满足度 R的计算公式如下:

R=i=1nwCAiVCAi5

式中: n为建议性约束的个数; wCAi为各建议性约束的相对权重,可由层次分析法获得,满足 i=1nwCAi=1; VCAi为内容适应决策对建议性约束 CAi的满足度。

根据 CAi数据类型的不同,其计算方法如下:

数值型属性。比如图像分辨率、对比度和音频播放时间等,该类约束满足度 V'CAi可由式(6)求得:

V'CAi=1-a-bRn6

式中: ab分别是约束要求和实际达到的属性数值; Rn是该属性数值的一般取值范围。

符号型属性。比如图像格式、歌手和电影题材等。该类约束满足度 VCAi为:

VCAi=1,a=b0,其他7

(2)媒体内容适应 CSP算法

按式(3)和式(4)对媒体内容适应约束进行描述,并对强制性约束和建议性约束进行划分。

将媒体文件的所有可调整选项与一维强制性约束进行一维约束过滤计算,获得可用的可调整选项备选集。基本思想为:首先确定在内容适应过程中起作用的一维强制性约束集 {C1,C2,,Ci,}及其可调整选项 {x1,x2,,xi,}之后根据 Ci的要求对 xi的值域 Di进行筛选,去除不满足约束条件的备选可调整选项,从而得到满足 Cixi的集合。重复上述操作,直至得到 {x1,x2,,xn}满足所有一维强制性约束的值域 {D'1,D'2,,D'n}

对可调整选项备选集与二维及二维以上强制性约束和建议性约束进行改进的 BT法求解,步骤如下:

( a)令 i=1,从未被赋值的可调整选项 xi的备选集 D'i选取一个实例 dp(xi)在确定 dp(xi)未与强制性约束 CF发生冲突后,则将 xi赋值为 dp(xi)

( b)从未被赋值的可调整选项 xi+1的备选集 D'i+1选取一个实例 dq(xi+1)判断 {dp(xi),dq(xi+1)}是否与 CF发生冲突。

( c)如果未发生冲突,则继续对未被赋值的可调整选项进行上述操作,返回步骤( b),否则执行步骤( d)。

( d)从 D'i+1中选取另一个实例 dk(xi+1),再次判断 {dp(xi),dk(xi+1)}是否与 CF发生冲突。当 xi+1可用的所有备选集与 dp(xi)均不能满足 CF时,则开始回溯,对之前已赋值的 xi,xi+1,递归重新赋值。返回( b)。

( e)当出现所有可调整选项均被赋值后,即可获得一个满足要求的适应决策,计算媒体文件的各选项建议性约束 CA满足度,并重复步骤( b)( c)( d)。

xi的备选集 D'i中不存在实例能与其他变量的赋值组合满足强制性约束 CF时,即得到所有满足强制性约束的可调整选项及其 CA满足度。

2 CBCAA在UPnP AV中的应用
2.1 UPnP AV的系统架构

UPnP AV规范所定义的体系结构由3种主要的功能实体组成:媒体服务器(Media server,MS),媒体播放器(Media renderer,MR)和AV控制点(AV control point,CP)。

为了能够利用UPnP AV进行媒体播放,首先设备控制协议DCP(Device control protocol)在内容传输之前要协商一种MS和MR都支持的多媒体文件格式和网络协议,但是,当MS所提供的媒体内容格式与MR的能力不相符或者没有充足的网络带宽时,UPnP AV仍然不能在播放器上播放服务器的内容。

为了解决该问题,本文提出使用适应引擎的UPnP AV架构,如图1所示。

图1 使用适应引擎的UPnP AV架构Fig.1 UPnP AV architecture with the adaptation engine

图1将控制点与适应引擎结合,当用户请求的媒体内容格式与播放环境不相符时,适应引擎能够根据AV播放的上下文信息进行内容适应并将调整后的内容发送给用户。

2.2 内容适应引擎

内容适应引擎的工作原理如图2所示。

图2 内容适应引擎的工作原理Fig.2 Operating principle of the adaptation engine

适应决策引擎的功能是定位所需资源并根据用户的需求决定媒体内容适应参数,从而实现最佳访问。为了得到媒体内容适应参数,需要获得以下上下文信息:源数据描述;用户和自然环境的特征;数据传输网络能力和终端设备能力等。

上述上下文信息是由XML解析器从MEPG-21 DIA descriptors中提取。内容适应算法将上下文信息作为输入,得到最佳转码参数。比特流适应引擎根据最佳转码参数对原始资源执行转码操作,输出转换后的媒体资源及其描述。

3 性能评估

为了验证CBCAA算法的有效性,本文以图像的适应为例,搭建了一个实时适应媒体内容的UPnP AV架构的媒体播放平台。媒体服务器和播放器使用Intel Tools for UPnP Technology工具;适应引擎采用开源工具VLC并与AV控制点整合协调播放过程。

3.1 媒体内容适应CSP建模

图像的可调整选项如表1所示。用户上下文信息对媒体内容适应的需求以SAMSUNG GT-S5570为例,见表2。将表2中各上下文信息的需求 C'G转化为强制性约束 CF和建议性约束 CA,表3所示。

表1 图像的可调整选项 Table 1 Adjustable options of image
表2 用户上下文信息对媒体内容适应的需求 Table 2 Requirements for media adaptation by user context
表3 约束分类 Table 3 Constraints classification
3.2 问题求解

根据媒体内容适应算法,首先进行一维约束

过滤计算,计算后得结果如下:格式为JPEG PNG;宽度不大于48.7 mm;高度不大于65.0 mm;分辨率为320×240,400×240,640×480,800×480;发送速率不大于53.6 kbit/s。采用层次分析法确定建议性约束5和6的权重分别是0.4和0.6,调用BT算法进行求解,得到的最终决策结果见表4

表4 最终决策结果 Table 4 Final decision results

表4可以看出:对于内容适应问题来说,决策方案4对所有的约束条件满足度最高,所以比特流适应引擎可以根据决策方案4中的参数对媒体源码进行转码,得到符合AV播放环境的目标码,为用户提供智能多媒体服务。

3.3 CBCAA与其他内容适应方法的比较

表5比较了CBCAA算法和其他4种使用MPEG-21工具的媒体内容适应方法的基本特征。4种方法分别是koMMa(Knowledge-based multimedia adaptation)[ 8],BSD(Bitstream syntax description)[ 9],DCAF(Dynamic content adaptation framework)[ 10]和NinSuna(A format-independent semantic-aware content adaptation)[ 11]。基本特征包含适应决策方法、计算方法的完整性(即底层算法能否求出全部解)、处理的媒体内容类型和通用性(即对MPEG-21 DIA标准的兼容性)4个方面。

表5 与其他内容适应方法的基本特征比较 Table 5 Comparison of the essential features with other adaptation techniques

表5可以看出:CBCAA使用约束满足方法实现了一个计算完整的适应决策方法,即算法可以求出所有满足媒体播放环境约束的适应方案。CBCAA与其他方法相比支持更广泛的媒体类型,并充分利用了MPEG-21 DIA标准为内容适应所提供的工具。

4 结束语

研究了UPnP AV如何根据AV播放环境进行内容适应的问题。提出一种基于上下文感知的内容适应算法CBCAA。使用MPEG-21 DIA工具获取AV内容播放的上下文信息,并根据不同类型的上下文信息构建约束模型,利用约束满足问题算法求解内容决策问题。媒体转码根据内容适应决策得出的MDDS的描述进行。设计了能够实现AV内容适应的UPnP AV架构,控制点获得上下文信息后利用适应引擎调整媒体内容,适应引擎将适合的媒体资源发送给用户。系统评估说明了算法的有效性。

The authors have declared that no competing interests exist.

参考文献
[1] Ritchie J, Kuhnel T, Kang J, et al. UPnP AV Architecture: 1[EB/OL]. [2008-09-30]. http://upnp.org/sdcps-and-certi-fication/-standards/device-architecture-documents/ [本文引用:1]
[2] Sung Jongwoo, Kim Daeyoung, Song Hyungjoo, et al. UPnP based intelliget multimedia service architecture for digital home network[J]. Software Technologies for Future Embedded and Ubiquitous Systems, 2006, 3(4): 521-526. [本文引用:1]
[3] Kang Dong-Oh, Kang Kyuchang, Choi Sunggi, et al. UPnP AV Architectural multimedia system with a home gateway powered by the OSGi platform[J]. IEEE Transactions on Consumer Electronics, 2005, 51(1): 87-93. [本文引用:1] [JCR: 1.087]
[4] Mets K, Nelis J, Verslype D, et al. Design of a context aware multimedia management system for home environments[J]. Computation World: Future Computing, Service Computation, Cognitive, Adaptive, Content, Patterns, 2009, 111(1): 49-54. [本文引用:1]
[5] Pereira F, Vetro A, Sikora T. Multimedia retrieval and delivery: essential metadata challenges and stand ards[J]. Proceedings of the IEEE, 2008, 96(4): 721-744. [本文引用:1] [JCR: 6.911]
[6] Feng Yu-qing, Tang Rui-chun, Zhai Yi-li, et al. Personalized media recommendation algorithm based on smart home[C]∥The Second International Conference on e-Technologies and Networks for Development(ICeND), Malaysia, 2013: 63-67. [本文引用:1]
[7] 孙吉贵, 高健, 张永刚. 一个基于最小冲突修补的动态约束满足求解算法[J]. 计算机研究与发展, 2007, 44(12): 2078-2084.
Sun Ji-gui, Gao Jian, Zhang Yong-gang. A mini-conflict repair based algorithm for solving dynamic constraint satisfaction problems[J]. Computer Research and Development, 2007, 44(12): 2078-2084. [本文引用:1] [CJCR: 1.117]
[8] Jannach D, Leopold K, Timmerer C, et al. A knowledge-based framework for multimedia adaptation[J]. Applied Intelligence, 2006, 24(2): 109-125. [本文引用:1] [JCR: 1.853]
[9] Kofler I, Seidl J, Timmerer C, et al. Using MPEG-21 for cross-layer multimedia content adaptation[J]. Journal on Signal, Image and Video Processing, 2008, 2(4): 355-370. [本文引用:1]
[10] Sofokleous A A, Angelides M C. DCAF: an MPEG-21 dynamic content adaptation framework[J]. Multimedia Tools and Applications, 2008, 40(2): 151-182. [本文引用:1] [JCR: 1.014]
[11] Deursen D V, Lancker W V. NinSuna: a format-independent, semantic-aware multimedia content adaptation platform[C]∥Proceedings of the 10th IEEE International Symposium on Multimedia, Orland o, USA, 2008: 491-492. [本文引用:1]