详情

XR沉浸式交互系统在建筑彩画中的开发与设计

申报人:叶婉诺 申报日期:2023-03-19

基本情况

2023
XR沉浸式交互系统在建筑彩画中的开发与设计 盲选
创新训练项目
艺术学
设计学类
B、学生来源于教师科研项目选题
创意类
2023-04
2024-04
本项目将XR沉浸式交互系统与建筑彩画结合,使中国建筑彩画在时代中更好地发展传承。用户可以观赏建筑彩画各类流派、时期的佳作、尝试趣味绘图游戏、学习建筑彩画技艺,感受建筑彩画的魅力。

参与交互设计课程设计,完成《N159心云》萌宠app设计,获第十届全国高校数字艺术设计大赛江苏赛区二等奖、靳棣强设计奖UI赛道优秀奖;参与手绘乡村社会实践活动,为垛田非遗文化设计墙绘,获南京信息工程大学校一等奖,省级立项;作为第二负责人参与创新创业训练项目,《文旅融合背景下南京市博物馆、纪念馆、美术馆数字化集中服务网站创新平台》校级立项。

科研成果:

戏曲电影《白蛇传·情》的跨媒介叙事策略.《四川戏剧》(北大核心),2022(04)

《媒体融合视角下气象科普视频的创作方法》.《青年记者》(北大核心) 2020年第14期 7,2020.05

《贾樟柯电影底层叙事的现实维度》.《电影文学》(北大核心),2016(12)

影片《Hello!树先生》中的符号隐喻解读.《长城》(北大核心)2014(06)

《国产动画电影的跨媒介叙事方法与策略》. 《传媒》(CSSCI)2014(10)

《当代中国动画叙事策探究:人物·情节·理念》 .《小说评论》(CSSCI)2013(S2)

《新媒体动画专业的教育教学改革研究与实践》.《电影评介》(北大核心)2012(18)

试论影片《米香》中的“他者”视角.《电影文学》(北大核心),2012(09).2012.05

“互联网+”背景下气象影视人才培养研究,中国气象局气象软科学项目(项目编号:2020ZZXM43)。排序第二,中国气象局2020年

基于服务设计思维的设计类专业排课策略研究(项目编号:2020SJAO162),江苏省高校哲学社会科学研究项目一般项目立项。排序第三,江苏省教育厅,2020年

基于FBM行为模型的高校艺术实践教学改革游戏化设计策略研究和实践,南京信息工程大学校级教学改革研究课题,主持人

2020年南京信息工程大学“课程思政”示范课程项目“新媒体技术基础”(项目编号:KCSZ069)。主持人,南京信息工程大学,2021年


指导创新创业竞赛成果:

1.3D Mapping沉浸式共享空间系统在秦淮非遗工艺中的开发与设计,江苏省大学生创新创业训练计划项目省级项目(项目编号:XJDC202110300506),2022.05

2.游戏互动设计在古园林数字化全景app中的运用,国家级大学生创新创业训练计划项目(项目编号:202010300041Z),2021.07

3.南京地铁服务类小程序开发与设计,江苏省大学生创新创业训练计划项目省级一般项目(项目编号:201910300121Y),2020.06

4.3D Mapping沉浸式共享空间系统在秦淮非遗工艺中的开发与设计,江苏省大学生创新创业训练计划项目省级一般项目(项目编号:202110300108Y),2022.06

5.游戏化思维在古建筑彩绘宣传保护类App中的应用,南京信息工程大学大学生创新创业训练计划项目(项目编号:XJDC202110300508),2022.06

6.基于增强现实技术的美食类APP的开发设计,南京信息工程大学大学生创新创业训练计划项目(项目编号:201810300132),2019.06

7.全球气象灾害MG动画科普APP开发与设计,南京信息工程大学大学生创新创业训练计划项目(项目编号:201610300145),2017.06

8.《古街道地名调查于创新型文化保护措施的研究--以南京古城为例》项目获得第十七届“挑战杯”全国大学生课外学术科技作品竞赛校级一等奖

老师十分重视大学生创新精神和创新能力的培养,积极鼓励学生申报大学生实践创新训练计划项目。老师精心谋划,加强实验室实训设备设施建设,取得了明显的成效,为创新项目的开展提供了良好的条件。此外,老师还提供项目所需的各项资料,技术支持帮助创新项目顺利进行。
国家级

项目成员

序号 学生 所属学院 专业 年级 项目中的分工 成员类型
叶婉诺 艺术学院 数字媒体艺术 2020 统筹、设计、建模
葛欣忆 艺术学院 数字媒体艺术 2020 调查、分析
顾云杪 艺术学院 数字媒体艺术(中外合作办学) 2022 三维设计制作
冯陈应图 艺术学院 数字媒体艺术 2020 整理、调研
吴圣安 艺术学院 数字媒体艺术 2021 设计制作

指导教师

序号 教师姓名 教师账号 所属学院 是否企业导师 教师类型
王少雄 850172 艺术学院

立项依据

我们的项目通过XR沉浸式交互系统与建筑彩画的有机结合,通过利用虚拟现实技术实现内容可视化的呈现方式去保护建筑彩画文化。我们主要是将人机交互与虚拟相结合,将虚拟现实技术引入建筑彩画文化传承。通过技术手段人为创造数字化建筑彩画内容,利用计算机三维建模模拟和演绎建筑彩画发展历程和创造过程,利用数字技术收集建筑彩画传承人创作过程,带动用户主动参与。在这一沉浸式体验过程中,用户能身临其境地够了解建筑彩画的渊源历史和完整的制作过程,与虚拟内容实现互动,达到人机合一的状态。

从建筑彩画文化传承和制作工艺来看,我们把XR沉浸式交互技术和建筑彩画相结合是为了提升建筑彩画的知名度、改善建筑彩画的保护现状。我国文化传承大多是形成了“身口相传”的文化链条模式,建筑彩画文化传承亦是如此,但随着人类社会的进步,这种文化链条亦受到了其自身传承机理的约束,未能实现与时俱进的变革。所以,我们提出以XR沉浸式交互技术为突破手段,通过科技的方法链接传统与现代,为建筑彩画传承、保护与创新开拓全新路径。

从本项目的技术来说,XR沉浸式交互技术可以最大化实现“减少观展成本,破除地域制约,提升趣味体验,强化认知水平”的综合效益。同时,它作为一种崭新的交互技术,能够吸引到一大批受众,达到良好的宣传效果。未来的XR技术会不断发展完善,因而XR技术也有更加广阔的空间去等待我们进行开发和设计。

我们对于XR沉浸式交互系统在建筑彩画的开发与设计,主要是对系统进行不同手工的不同布景和不同交互内容设定,从而达到趣味性和独特性。

首先,我们对XR沉浸式交互系统进行外观设计和建模:

图为XR头戴式眼镜建模图         图为XR头戴式眼镜模型渲染图


XR头戴式眼镜模拟图

 

 

 

其次,我们对XR沉浸式交互系统进行界面设计:


图为XR沉浸式交互系统的界面设计


目前留存的古建筑彩绘基本可分为三类:苏式彩绘旋子彩绘以及和玺彩绘


图为建筑彩画的三种主要类型

我们在这以旋子彩画为例。

南京地区旋子彩画代表:南京明孝陵、美龄宫

明代的陵墓建筑明孝陵代表着明初皇家建筑的艺术成就,彰显了最高级别的建筑艺术;规模宏大且具有严格等级制度的布局,精湛工艺与严谨选材的细部装饰,更体现了明孝陵是凝聚了当时美术家,设计师、工程师、建筑师、风水师的最高智慧于一体的陵墓建筑。而明代建筑彩画以旋子彩画为主流;旋子枋心彩画大致分为:金线大点金,墨线大点金、墨线小点金、雅伍墨四种。其等第高下依用金量及繁简程度而定。金线大点金、墨线大点金以上两种彩画为上等彩画。墨线小点金同墨线大点金,但仅花心和栀花沥粉贴金,空枋心为中等彩画;雅伍墨规制为全部墨线,无沥粉,无晕,无金,青绿间色,为次等彩画。


图为明孝陵建筑彩画

 

而同样作为旋子彩画代表建筑队美龄宫在2012年进行了修缮工作。美龄宫的彩画原是一绝,出自工笔画家陈之佛之手。重现当年彩画原貌,成为此次工程成败的关键。维修方请来了省级民间工艺美术大师,曾经修缮过沈阳故宫彩画的史延林团队来修复美龄宫彩画。史延林说,为了保证彩画不褪色,我们用的全是天然矿物质颜料。底色是按照古法,自己熬制桐油,并加以白面、瓦灰、猪血等调制出来的;着色更是用了近20种颜料,达到层次分明的效果。为了达到华贵亮丽的效果,彩画大量使用了金箔装饰,贴金面积占总面积的近一半。“金箔全部选用南京本土产的,而且抗紫外线照射,永久不褪色。”史延林说,贴金箔的工艺难度相当高,一点小风就能把金箔吹跑。所以只能挑风和日丽的天气施工,还搭了帐子,防止风吹和灰尘。


图为美龄宫


从这个过程中,我们可以看出建筑彩画修复难度之大、修复时间之久、修复工艺之繁复。所以,我们要将XR沉浸式交互系统应用到建筑彩画当中。

首先,制作建筑彩画数字博物馆,逐步收集建筑彩画资料根据类别、地区、时间进行划分。其次分别制作动画彩绘馆(虚拟世界)、数字讲解馆(增强现实),趣味游戏馆(混合现实)等三类不同体验的展馆。动画彩绘馆会利用三维扫描、三维建模、游戏引擎等相关技术将现实中的古建筑彩绘的数据记录下来,完成三维扫描和建模与此同时,绘制二维动画科普视频,为用户提供多种虚拟视觉体验;数字讲解馆与现实建筑彩绘相结合,通过快速采集数据,识别该纹样的类别、时期等,并同步进行视觉文字展示与语音讲解;趣味游戏馆通过虚拟小游戏与现实场景,共同完成建筑彩绘作品创作。此外,用户可选择录制第一视角的建筑彩画创作视频,保存留恋。

这样的方式不仅提升了体验者的体验感,给观众新奇感与独特感,沉浸感也得到了加强用户能充分了解到建筑彩画制作的全过程以及感受到建筑彩画的无限魅力。

①XR技术在国内外的起源和发展:

扩展现实(Extended Reality,简称XR),是指通过计算机技术和可穿戴设备产生的一个真实与虚拟结合、可人机交互的环境。扩展现实技术可以看作一种涵盖性术语,包含了虚拟现实VR、增强现实AR、混合现实MR及其他因技术进步而可能出现的新型沉浸式技术。

XR是随着计算机图形与仿真技术的不断发展而产生,沉浸式技术就是其发展的基石。首先诞生的是虚拟现实技术VR,随着VR的发展又衍生出增强现实AR、混合现实MR等。区别于传统的超文本、平面图像等二维媒介及传统3D图像/视频,沉浸式技术依托跨媒介、非结构化的视、听、触等多感官刺激途径,进一步解放人的感性思维,激发创造性思维。而在技术深度融合的大背景下,更具包容性的扩展现实横空出世,将VR、AR、MR等诸多人们所熟悉的沉浸式交互技术融合在一起,以实现虚拟世界与现实世界之间的无缝转换。

XR技术的来源向前追溯到1994年,作家兼制片人朱莉·马丁(Julie Martin)首次将增强现实技术应用到文化娱乐行业,在戏剧作品名为《网络空间中的舞蹈》中,杂技演员在物理舞台上与投影的虚拟对象一起跳舞。

时间推进到2010年前后的国内,XR技术被大型的晚会、演出及赛事应用,以国家队为代表,VR、AR、全息技术一次次在除夕春节联欢晚会的直播中为观众带来震撼新奇的视觉体验。


图为2015年春节联欢晚会

 


图为2023年春节联欢晚会

 

今年迪拜世博会“XR动态版”《清明上河图》——“一千年前世界第一大都市开封”的动态艺术画面惊艳世界。在这次明代·仇英《清明上河图》真迹沉浸特展的呈现中,全面应用了XR视效技术、云计算、5G、AI人工智能、动作捕捉技术等技术,让历史运动,让盛世“复活”。“盛世长卷”巨幅投影区使用了光影及CG技术,打造了23米长,3.2米宽的“巨幅画卷”,将明代·仇英《清明上河图》用日夜交替的智能动态呈现,所有的元素均源自原画。多位画师为此研究了大量史料,模拟仇英画风,绘制画中上千个人物服饰,涵盖了宫廷贵族,文官武将,市井平民,同时将许多场景的细节一一重现。同时还运用智能化路径系统,即时规划人物运动轨迹,实现千人同屏千人千面的多元展现,只为真实还原明仇英笔下清明上河图中的盛世繁华景象。

 


图为“XR动态版”《清明上河图

 

 

科技的加持,对原画中所描绘的繁荣景象和市井文化进行了“再次还原”,让观众在不知不觉中入画,将学术性与互动性相交融,开启时空穿越之旅。“XR动态版”《清明上河图》赋予千年古画新的艺术生命,让观众通过“5G+XR”技术真切感受画中行走的人物、牵着骆驼的商队、小桥下的流水、小酒馆里的行酒令。

 

AR\VR\MR目前的应用案例

VR案例

麦当劳Happy Meal Headset,Happy Meal Headset之于麦当劳就好像纸板眼镜之于谷歌。麦当劳Happy Meal Headset最早在瑞典试点发行。通过Happy Meal Headset,人们可以获得基础的VR体验。麦当劳还为Happy Meal Headset量身定制了一款虚拟现实滑雪游戏。


图为Happy Meal Headset

 

 

 

 

 

AR案例

耕云AR虚拟换装产品由西安立耕信息科技有限公司自主研发虚拟互动展示产品,产品通过手势隔空互动,运用独特的技术实现实时测量身材参数,实时反馈使用者身体动态特征,与大屏显示形成AR换装的效果,最终达到3D模拟试穿效果。

 


图为耕云AR虚拟换装产品

 

 

MR案例

哈医大肿瘤医院胸外科徐世东主任医疗团队运用混合现实影像技术(MR),为一名右肺上叶磨玻璃结节的患者进行精准定位,并实施了肺段切除,成功上演了精湛的手术与高科技完美结合的“科幻大片”。


图为手术照片

 

 

 

眼镜

类型

装置

环境

区别

沉浸感

应用范围

虚拟

现实VR

特殊头戴装置或眼镜

基于虚拟世界

模拟人的感官,使人沉浸在计算机生成的虚拟世界。(无中生有)

很好

教育、娱乐、旅游、商业等

增强

现实AR

特殊头戴装置或眼镜

手机平板等行动装置

基于物理世界

赋予实物立体感,加强视觉效果和活动体验感。(锦上添花)

较好

信息提示、娱乐、观赏,3D模型设计等

混合

现实MR

手机平板等行动装置

基于物理+虚拟世界

虚拟世界引入现实场景,增强用户体验的真实感。(实幻交织)

较好

医疗辅助、上岗培工业维修辅助等

通过以上的例子和研究,我们发现虚拟技术和生活的例子较多,将虚拟技术与其结合可以很好的给体验者带来兴趣。但是融合以上技术与文化的结合还很少,因此我们将项目的重点放在XR技术的协调上,以及系统的交互感和沉浸感。

 (1)项目创新点

①XR技术与建筑彩画的多元结合:

我们利用XR技术,将视频资料、动画视频、趣味游戏等通过XR头戴式眼镜展现给用户,第一视角的体验感会更好。

②建筑彩画数字化:

数字化的建筑彩画博物馆在传递的过程中损耗更小,在内容展示上虚拟真实环境和三维世界感知可有效增强建筑彩画的可视化和可被理解性。

③XR眼镜便携:

以科技的手段实现文化的传递,摆脱空间对人群信息获取的限定,利用数字信息技术的便捷性与跨域特质。XR眼镜小巧,便于携带,更有助于建筑彩画基地向青少年群体宣讲。可放在建筑彩画教育基地、建筑彩画博物馆,也可以放在网上售卖。

(2)项目特色

①灵活性和趣味性:

XR技术提升项目整体的趣味性,大大吸引用户使用,其中的彩画游戏等项目更能为用户带来成就感。同时,项目宣传建筑彩画的方式灵活多变、长者可以选择观看纪实录像与照片文字资料、小朋友可以选择观看动画化建筑彩画介绍。

②沉浸式体验:

XR技术可以为用户提供第一视角去游玩建筑彩画世界,其中有全虚拟模式增强现实模式,亦有虚拟和增强现实相结合的模式,细节丰富,感受真实多种沉浸式体验更利于建筑彩画文化的传播。

(1)技术路线与前期准备

对研究进程、技术路线、经费预算及分工等的详尽安排通过采取线上线下的问卷调查(定量研究)、用户深度访谈(定性研究)、市场分析、查阅以往文献资料以及进行专家访谈,发现XR技术上的问题、头戴式眼镜的体验舒适度问题以及沉浸式如何做到最好的问题,并了解用户对于XR头戴式眼镜的体验的需求和期待,进行案例研究,最后输出目标用户调研报告。针对所得数据进行分析所得出的XR沉浸式交互系统与建筑彩画结合过程中所存在的问题,结合目标用户设计出一套兼具高可行性、具有趣味性、能够调动用户积极性带来深远传承意义的设计优化方案。

①信息整合与分析研究:

通过对所得信息的整理与分析,以及逻辑归纳,得出XR沉浸式交互系统与建筑彩画结合过程中用户的关注点与潜在需求,通过对用户的反馈的分析与研究,发现方案的不足。

②研究优化方案改进优化方案:

针对存在的问题与潜在需求设计优化策略,改进和优化现有方案,完善技术路线。

③市场调研和实践检验:

将部分产品投入市场调研,小范围内加以实践,以增加方案的有效性,最终整理、加以分析,完成优化方案总结经验,编纂论文、申请专利并进一步将产品系统投入市场。

 

(2)拟解决的问题:

①如何能让这一交互沉浸式系统有足够的吸引力去吸引体验者完整地进行体验和互动激发用户弘扬建筑彩绘非物质文化遗产

②如何将XR沉浸式交互的系统与非遗文化内容和手工在本项目中良好结合,如何将整体的运营思路在本项目中良好得运用,并使得公益效益与盈利模式同时达到较好效果。

③如何将XR系统的沉浸式体验做到最好XR头戴式眼镜维修应该怎样解决。


(3)预期成果

XR沉浸式交互系统与建筑彩画做到一个良好的交互式结合,XR头戴式眼镜放置在博物馆、展览厅甚至各大学校等公共场所,独立不占用过多空间,让人们可以随时随地以一种娱乐的方式深入了解建筑彩绘,并且拥有一个完整的体验过程和制作过程,增加了非遗文化与人之间传播的趣味性和轻松感,较好地帮助理解中国建筑彩画的魅力,同时也推动了建筑彩画产业的潜移默化的发展,从而带动建筑彩画更好地传播与传承。

20234-2023年7

进行线上线下的问卷调查和大量的资料搜集,并为目标用户建模。发现现有问题和不足并写出目标用户调研报告。

20237-2023年10

对产品进行小规模可用性测试,并搜集试用者意见和建议总结不足之处并优化方案。

202310-2024年1

写出关于建筑彩画与XR沉浸式体验的开发与设计方案的修订版,撰写XR沉浸式交互系统在建筑彩画中的开发与设计》论文、完善研究报告并继续研究和创新项目。

20241-2024年4

撰写XR沉浸式交互系统在建筑彩画中的开发与设计》论文,并在期刊发表;做出项目模型并尝试申请《XR沉浸式交互系统》项目专利。

202342-2023年72

通过采取线上线下的问卷调查(定量研究)、用户深度访谈(定性研究)、查阅以往资料等多种资料搜集方式,发现非物质文化遗产保护和普及中存在的痛点问题以及对于XR技术的潜在需求和期待。并为目标用户建模,从用户模型进一步发掘用户的潜在痛点和需求,最后输出目标用户调研报告。

202372-2023年102

将在第二阶段中通过研究、设计提出的关于XR沉浸式交互系统在建筑彩画中的开发与设计的设计优化方案并进行小规模可用性测试,通过问卷调查、深入访谈等调查方式集试用者对优化方案的意见与建议等反馈。并对搜集获得的资料加以研究,以总结优化方案中存在的不足之处,为下一步进行对优化方案的修改、完善做准备。通过实践检验优化方案的有效性。

2023102-2024年12

从反馈中总结的优化方案尚且存在的不足与待提高之处,针对这些地方进行修改方案与完善方案的设计与研究。最大化对所给优化方案进行完善,最终得出关于建筑彩画与XR沉浸式体验的开发与设计方案的修订版。

202412-2024年42

总结此次交互设计中的经验,分析XR沉浸式体验系统在建筑彩画遗产保护方面的意义,撰写XR沉浸式交互系统在建筑彩画中的开发与设计》论文,并在期刊发表;做出项目模型并尝试申请《XR沉浸式交互系统》项目专利。

指导教师团队完成校级大学生创新训练项目《全球气象灾害MG动画科普APP开发与设计》;

指导教师团队完成校级大学生创新训练项《一款基于增强现实技术的美食类APP的开发与设计》;

指导教师团队完成级大学生创新训练项3D Mapping沉浸式共享空间系统在秦淮非遗工艺中的开发与设计》;

指导教师团队申报省级大学生创新训练项《南京地铁服务类小程序开发与设计》

指导教师团队申报国家级级大学生创新训练项 游戏互动设计在古园林数字化全景app中的运用

学生团队参与交互设计课程设计,完成《N159心云》萌宠app设计,获第十届全国高校数字艺术设计大赛江苏赛区二等奖、靳棣强设计奖UI赛道优秀奖;


图为N159心云UI界面设计

 

学生团队参与手绘乡村社会实践活动,为垛田非遗文化设计墙绘,获南京信息工程大学校一等奖,省级立项;

学生团队为XP·pen品牌设计平面海报《触手可及》,获第十四届全国大学生广告创意大赛全国二等奖;


图为平面海报《触手可及》

 

学生团队参与信息设计与交互实践课程设计,分别为仓鼠、贵州蜡染等主题设计信息可视化图形《仓鼠科普与饲养指南》、《贵州民族蜡染》。


图为《仓鼠科普与饲养指南》、《贵州民族蜡染》


①已具备的条件有:

目前已经完成了相关的技术梳理、初步的调研等条件,具备实施的场地条件,具备基础的设施设备条件。学校十分重视大学生创新精神和创新能力的培养,积极鼓励学生申报大学生实践创新训练计划项目。学校教务处以及学院认真组织,精心谋划,加强实验室实训设备设施建设,取得了明显的成效,为创新项目的开展提供了良好的条件。

此外,学校图书资料及网络数据库丰富,给各项项目配备了具有丰富经验的指导教师,各类实验室及基地无条件向项目组开放,并积极向项目组提供各方面便利条件,这些均为学生的实践创新训练项目的顺利实施和圆满完成提供了切实的保障。

②尚缺少的条件有

缺少一些项目实施所必须的设备,如高精度的XR设备。另外需要购买相关的专业软件的使用权。解决方法一是希望学校和学院能够支持本项目的实施,此外项目团队成员也会积极走出校园,与相关企业单位进行洽谈。争取获得一定经验技术支持或是设备支持等。创新创业项目对大学生的实践动手能力有着极大的促进提高作用。项目团队成员相信一定可以克服苦难,完善各方面条件,完成项目,取得更多的收获!


经费预算

开支科目 预算经费(元) 主要用途 阶段下达经费计划(元)
前半阶段 后半阶段
预算经费总额 10000.00 3900.00 6100.00
1. 业务费 7500.00 1400.00 6100.00
(1)计算、分析、测试费 1000.00 900.00 100.00
(2)会议、差旅费 500.00 500.00 0.00
(3)文献检索费 0.00 0.00 0.00
(4)论文出版费 6000.00 0.00 6000.00
2. 实验装置试制费 2000.00 2000.00 0.00
3. 材料费 500.00 500.00 0.00

项目附件

  • 艺术学院+XR沉浸式交互系统在建筑彩画中的开发与设计+叶婉诺.pdf
    下载
结束