CN103561277A - 一种用于网络教学的传输方法和系统 - Google Patents

一种用于网络教学的传输方法和系统 Download PDF

Info

Publication number
CN103561277A
CN103561277A CN201310574852.7A CN201310574852A CN103561277A CN 103561277 A CN103561277 A CN 103561277A CN 201310574852 A CN201310574852 A CN 201310574852A CN 103561277 A CN103561277 A CN 103561277A
Authority
CN
China
Prior art keywords
stream
action
audio stream
record
audio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310574852.7A
Other languages
English (en)
Other versions
CN103561277B (zh
Inventor
李建峰
牛勇
韩世广
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHAANXI SIZHITONG EDUCATION SCIENCE & TECHNOLOGY Co Ltd
Original Assignee
SHAANXI SIZHITONG EDUCATION SCIENCE & TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHAANXI SIZHITONG EDUCATION SCIENCE & TECHNOLOGY Co Ltd filed Critical SHAANXI SIZHITONG EDUCATION SCIENCE & TECHNOLOGY Co Ltd
Priority to CN201310574852.7A priority Critical patent/CN103561277B/zh
Publication of CN103561277A publication Critical patent/CN103561277A/zh
Application granted granted Critical
Publication of CN103561277B publication Critical patent/CN103561277B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种用于网络教学的传输方法和系统,该方法包括:记录动作流;记录音频流;记录所述动作流和所述音频流的时间戳信息;传输所述动作流和所述音频流,优选地为实时传输;以及在终端处,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。该系统包括动作记录器,用于记录动作流;音频记录器,用于记录音频流;计时器,用于记录所述动作流和所述音频流的时间戳信息;发射器,用于传输所述动作流和所述音频流,优选地为实时传输;以及终端,用于根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。本发明提供的用于网络教学的传输方法和系统至少解决了教育资源的存储和网络的传输难题。

Description

一种用于网络教学的传输方法和系统
技术领域
本发明涉及一种传输方法,尤其涉及一种用于网络教学的传输方法和系统。
背景技术
由于教育资源的稀缺,共享学习资源成为解决这一问题的关键。随着网络的普及和硬件成本的降低,为网络教育平台奠定了基本的基础。但是资源的存储和网络的传输成了急需解决的难题。现有的h.264、flv、rmvb等编码方式生成的视频文件由于占用空间太大,而不便于存储和网络传输。以一小时的视频录制为例,传统格式的视频文件在100M左右,如果想做到在大屏幕上观看而不失真的话,甚至要上G。这对于现有的网络和存储设备条件是不可接受的。
发明内容
为此,本发明提出了一种可以解决上述问题的至少一部分的新型用于网络教学的传输方法和系统。
根据本发明的一个方面,提供了一种用于网络教学的传输方法,该方法包括:
记录动作流;
记录音频流;
记录所述动作流和所述音频流的时间戳信息;
传输所述动作流和所述音频流,优选地为实时传输;以及
在终端处,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
可选地,根据本发明的一个实施方式,其中,记录所述动作流是在电磁屏输入设备中完成的;
记录动作流,包括记录基本图形的最小外接矩形。
可选地,根据本发明的一个实施方式,进一步包括:在服务器中存储所记录的动作流、音频流以及时间戳信息。
可选地,根据本发明的一个实施方式,进一步包括:对记录的所述音频流进行压缩,优选地,采用SPEEX压缩格式对所述音频流进行压缩。
可选地,根据本发明的一个实施方式,进一步包括:
从所述音频流中提取声母和韵母;
根据所提取的声母和韵母找到预先存储的对应口型信息;
在所述终端处,将所述音频流和对应口型信息进行同步呈现;
优选地,其中所述口型信息包括基本口型图片和过渡口型图片。
可选地,根据本发明的一个实施方式,其中根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现包括:对动作流进行平滑处理。
可选地,根据本发明的一个实施方式,其中,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现包括:
计算当前呈现的音频帧在总的音频流中的位置百分比;
计算动作节点在总的动作流中的位置百分比;
比较动作节点位置百分比和音频帧位置百分比;
播放动作流中动作节点位置百分比小于音频帧位置百分比的部分。
可选地,根据本发明的一个实施方式,进一步包括,确定下列类型中的至少一种:
场景类型,包括选择、手绘线、直线、矩形、烧杯、剪切和清屏。
动作类型,包括开始、创建、修改、删除、线宽和线色。
修改类型,包括移动、放大缩小和旋转。
根据本发明的另一个方面,提供了一种用于网络教学的传输系统,该系统包括:
动作记录器,用于记录动作流;
音频记录器,用于记录音频流;
计时器,用于记录所述动作流和所述音频流的时间戳信息;
发射器,用于传输所述动作流和所述音频流,优选地为实时传输;以及
终端,用于根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
可选地,根据本发明的一个实施方式,该系统进一步包括:
音频流计算器,计算当前呈现的音频帧在总的音频流中的位置百分比;
动作流计算器,计算动作节点在总的动作流中的位置百分比;
位置比较器,比较动作节点位置百分比和音频帧位置百分比;
播放器,播放动作流中动作节点位置百分比小于音频帧位置百分比的部分,以根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
本发明提供的用于网络教学的传输方法和系统至少解决了教育资源的存储和网络的传输难题。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。其中在附图中,参考数字之后的字母标记指示多个相同的部件,当泛指这些部件时,将省略其最后的字母标记。在附图中:
图1示出了根据本发明的一种优选实施方式的软件核心模块运行步骤;
图2、图3、图4和图5依次示出了本发明提供的系统中软件拾取并保存动作序列的截图;
图6提供的根据本发明一种实施方式的网络课堂实时教学主讲抓图界面;
图7提供本发明一种实施方式的网络课堂实时教学客户端A抓图界面;以及
图8提供本发明一种实施方式的网络课堂实时教学客户端B抓图界面。
具体实施方式
本发明提供了许多可应用的创造性概念,该创造性概念可大量的体现于具体的上下文中。在下述本发明的实施方式中描述的具体的实施例仅作为本发明的具体实施方式的示例性说明,而不构成对本发明范围的限制。
下面结合附图和具体的实施方式对本发明作进一步的描述。
一种用于网络教学的传输方法,该方法包括:
记录动作流,所述动作流包括动作随时间形成的采样。所述动作流包括手绘产生的文字、由手绘产生的图形以及预留在软件中的图形。当记录文字时,记录的是文字产生轨迹的坐标;当记录图形时,首先通过程序内部算法模块在图形的边界上绘制出一个矩形框,然后记录所述矩形对角线两个端点移动轨迹的坐标。
记录动作流,包括记录基本图形的最小外接矩形。
所述基本图形包括手绘产生的文字、由手绘产生的图形以及预留在软件中的图形。其中,预留在软件中的图形包括图片文件以及由的图片。
最小外接矩形(minimum bounding rectangle,MBR),也有译为最小边界矩形,最小包含矩形,或最小外包矩形。最小外接矩形是指以二维坐标表示的若干二维形状(例如点、直线、多边形)的最大范围,即以给定的二维形状各顶点中的最大横坐标、最小横坐标、最大纵坐标、最小纵坐标定下边界的矩形。这样的一个矩形包含给定的二维形状,且边与坐标轴平行。最小外接矩形是最小外接框(minimum bounding box)的二维形式。
记录音频流,所述音频流包括音频随时间形成的采样。
记录所述动作流和所述音频流的时间戳信息;
传输所述动作流和所述音频流,所述传输包括实时传输以便进行网络课堂的实时教学,还包括将所述动作流和所述音频流制作成文件上传至服务器或当地,以备日后重复使用,优选地为实时传输。
在终端处,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
现有技术采用记录像素点的形式保存图像,生成的视频文件通常非常大,即便差异化比较数据处理冗余信息后,所得到的文件仍然很大,而目前采用最先进的h.264视频编码的网络实时课堂系统在画面清晰度可接受的情况下,对于每个终端要求的最低带宽也在百KB以上,因此传统手段生成的视频文件不便于存储和实时传播。本系统提供的动作流录制方式所生成的信息中仅记载动作流的坐标、音频流以及时间戳,所生产的文件非常小,可极大降低对带宽的要求在3KB左右,扩大了教育资源的使用范围。本系统提供的动作流录制方式以一小时为例,本方案生成的录制文件不超过8M,而且由于是矢量方式,可以任意放大而不影响观看质量,而传统的rmvb、H264、flv等格式在可以接收的图像质量下为100M左右,如果想达到在不同屏幕上显示而不影响质量的效果,则需要更大的存储空间。总的来说,本发明采用动作流的方式来实现课堂视频的实时录制与传输,极大的节约了带宽,提高了网络课堂同步交流的实时性,并大大节约了数据文件的存储空间。
以下通过具体实施方式对本发明进行进一步的解释:
在本发明提供了一种用于网络教学的传输方法,在该方法中,首先需要确定动作序列的类型,包括确定下列类型中的至少一种:
场景类型,包括选择、手绘线、直线、矩形、烧杯、剪切和清屏。
动作类型,包括开始、创建、修改、删除、线宽和线色。其中,所述修改、删除、线宽和线色的确定是在确定场景类型之后,操作者对手绘线或选择的预存图形如直线、矩形、烧杯进行编辑时的动作。
修改类型,包括移动、放大缩小和旋转。
本发明提供的用于网络教学的传输方法,该方法包括:
记录动作流,记录所述动作流是在电磁屏输入设备中完成的。优选的,本发明使用基于Android平台开发的手写讲解模块,该模块较传统方式而言大大提高了用户的书写流畅度体验,电磁屏手写输入系统更是为使用者提供了近似于纸质的书写体验。
记录音频流;
记录所述动作流和所述音频流的时间戳信息;
传输所述动作流和所述音频流,优选地为实时传输;所述的方法进一步包括:对记录的所述音频流进行压缩,优选地,采用SPEEX压缩格式对所述音频流进行压缩。SPEEX是一套主要针对语音的开源免费,无专利保护的音频压缩格式。SPEEX工程着力于通过提供一个可以替代高性能语音编解码来降低语音应用输入门槛。另外,相对于其它编解码器,SPEEX也很适合网络应用,在网络应用上有着自己独特的优势。同时,SPEEX还是GNU工程的一部分,在改版的BSD协议中得到了很好的支持。
所述的方法进一步包括:在服务器中存储所记录的动作流、音频流以及时间戳信息,以便在教学结束后提供给教学现场的同学重复使用,或者提供给非教学现场的同学进行学习,从而提高教学资源的利用效率。
在终端处,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
所述的方法中根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现包括:对动作流进行平滑处理。所述平滑处理包括路径的光滑处理和边缘的光滑处理,其中路径光滑处理是指,对于不规则曲线,绘制的时候,不是用短直线拼接出来的,而是在绘制动作完毕后,首先创造性地进行去冗余点算法,对于相距很近的点,当用直线连接起来后,发现锯齿较明显,超过可忍受阀值时,去除掉锯齿定点;绘制完毕后应用比塞尔光滑算法将所有剩余点用比塞尔曲线连接起来,因此保证了曲线路径的光滑性,并且放大后不失真。在保证路径光滑的同时,本发明应用了抗锯齿算法,对边缘进行了光滑处理,从而保证了曲线的边缘光滑。
所述的方法中,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现包括:
计算当前呈现的音频帧在总的音频流中的位置百分比;
计算动作节点在总的动作流中的位置百分比;
比较动作节点位置百分比和音频帧位置百分比;
播放动作流中动作节点位置百分比小于音频帧位置百分比的部分。
所述动作节点包括描述动作的数据结构。
本发明用于网络教学的传输方法没有直接应用传统的时间戳方式来同步,进而脱离了定时器累计误差效应的影响;采用了百分比同步算法,无论系统定时器准不准,都能保证音视频精确同步。具体实现方式是:以当前播放的音频帧在总的音频流当中的位置为参考点,计算出一个百分比,然后在动作流数据中进行判断,将所有在时间流中未超过此百分比并且未播放的动作播放出来。
具体的同步过程为:假设本次录制音频共有n帧,目前播放到第m帧,那么目前播放进度就是m/n。
取出本次录制起始到结束的两个时间戳,分别为st_time和end_time,程序周期性从动作记录链表中上次播放到达的位置开始向后遍历,取出下一个动作记录节点的时间戳curr_time,计算(curr_time-st_time)/(end_time-st_time),
若(curr_time-st_time)/(end_time-st_time)小于等于m/n,说明满足播放条件,则播放本动作,然后再去检查链表中下一个节点是否满足播放条件,否则跳出本次检查周期。
当下一个检查周期来到时,继续做同样的动作,直至播放结束。
优选的,所述检查周期为40毫秒。
本发明使用动作流加音频流的方案代替了传统视频的方案,在此专利基础之上,为了达到更加形象的目的,使看视频者有身临其境的感觉,讲课者的头像以及口型和声音,动作完全同步,又不会大幅加大原有文件的大小,加入了口型同步方案。目前口型同步多用于动画片的制作当中,而且需要一帧一帧的处理动画。本方案将口型同步与动作流绘制方案相结合,完全采用计算机自动分析语音并加入口型图片。该方案的具体实现方式如下:
所述的方法,进一步包括:
从所述音频流中提取声母和韵母;
根据所提取的声母和韵母到预先存储的对应口型信息;
在所述终端处,将所述音频流和对应口型信息进行同步呈现;
优选地,其中所述口型信息包括基本口型图片和过渡口型图片。
其中所述基本口型有6种,分为三级,其中一级口形为张嘴型,是发音的核心,口型间的区别主要在于嘴巴张开的大小;二级口型为变化型,嘴型主要是前后左右变形;三级口型为自然型,嘴唇放松,音节之间的区别主要是舌头和喉咙的位置不同,嘴唇变化细微。
其中所述过渡口型包括两个基本口型之间进行过渡的口型,一共有8种过渡型。
以汉语为例,只需要按照口形的分级,根据基本口型图片和过渡口型图片,念出对应的字母并拍出照片,在录制完课程后,用语音识别技术,分析出语音的声母和韵母,并在相应的时间加载不同的图片就达到了仿佛讲课者在同步说话的效果。并且由于因为只是多了几张图,而且整个录制文件的大小几乎没有多大的变化。
另外,由于加载图片后的效果,有可能变化比较突然,可以采用调用过渡动画的方案实现。过渡动画的实现方案如下所示:以汉语为例6种口型,每种口型到其他口型的过渡动画需要5种,这样一共需要录制15种过渡口型既可,而从a到e口型和从e到a口形只是倒放就能够达到效果。因此一共只需要8种录制过渡动画即可。这样在分析声音时,关键字母插入基本口型图片,而过渡采用在两个基本口型图片之间调用动画的形式在完成。
英语口型也可以采用类似于汉语的方法进行音频同步。根据基本口型和过渡口型拍出图片,然后在分析声音时调用预先存储的对应口型的图片以实现口型和音频的同步,如下对英语口型与音频同步的方法进行描述:
从所述音频流中提取元音和辅音;
根据所提取的元音和辅音到预先存储的对应口型信息;
在所述终端处,将所述音频流和对应口型信息进行同步呈现;
优选地,其中所述口型信息包括基本口型图片和过渡口型图片。
以下进一步通过具体示例对本发明提供的一种用于网络教学的传输方法进行解释:
当开始录制时,首先选择一个场景(手绘模式、直线绘制模式、矩形绘制模式等),假定我们已经选择了矩形绘制模式,然后当生成一个新的矩形时,所记录的动作事件数据结构中的动作类型为“创建”,当要修改本矩形时,所记录的动作事件数据结构中的动作类型为“修改”,而修改时的具体修改类型可能为“缩放”、“移动”、“旋转”等等,此置也存入动作事件数据结构中。
如下表:场景为type,动作类型为act_type,修改类型为m_mode,同时动作事件数据结构中还包含坐标信息、事件信息,详细如下:
所记录的动作事件数据结构的内容:
Figure BDA0000414943280000091
以下结合动作事件数据结构对动作事件生成的具体细节进行进一步地阐述:
开始录制后,首先根据需要选择一个场景(滚动条模式、截图模式、选择模式、手绘模式、橡皮模式、多边形绘制模式、直线绘制、矩形绘制等图元绘制模式等),以下陈述在不同的场景(绘制模式)下生成动作事件的具体细节:
1.当处在滚动条模式下时:
对屏幕的触摸操作导致画布的上下左右四个方向的拖动。
2.当处在截图模式时:
会生成一个选择矩形,此矩形以触摸的起点为矩形的一个角,触摸的终点为矩形的起点所在角的对角,凡在此范围内的背景图就被复制下来,粘贴到前景。同时生成一个截图的事件,该事件记录了当前场景、矩形左上、右下角坐标,事件发生时间等信息,将此事件插入记录链表;并生成一个截图图元插入图元列表,用于显示。
3.当处在选择模式时:
用户可选中图元(直线、矩形、圆、抛物线等等),并对图元进行外形调整。
用户可通过两种方式来选中屏幕中的。第一种选择方式的原理与截图模式类似,可选中在框选范围内所有的图元。第二种选择方式是单选模式,当触摸发生在某个图元的可选部分时,此图元即被选中。
对图元的调整分为移动、放缩、旋转三种方式,分别介绍如下:
移动:以选中点为起点,将图元移动到下一个触摸事件所发生的位置。同时生成一个图元移动的事件,该事件记录了当前场景、移动的初始点和终点、移动事件发生的时间、移动作用的方向等信息,将此事件插入记录链表;并刷新被移动图元的坐标数据,用于显示。
放缩:选中图元的外接矩形的一边或一角,以此边或此角为可动边角来对外接矩形的大小进行调整,图元的形状随外接矩形而改变。同时生成一个图元放缩的事件,该事件记录了当前场景、放缩动作作用的位置信息、放缩的初始点和终点、放缩事件发生的时间等信息,将此事件插入记录链表;并刷新被放缩图元的坐标数据,用于显示。
旋转:选中旋转点,当发生移动动作时,图元旋转。同时生成一个图元旋转的事件,该事件记录了当前场景、旋转的方向、旋转事件发生的时间等信息,将此事件插入记录链表;并刷新被旋转图元的坐标数据,用于显示。
移动某顶点(仅针对多边形):选中多边形的某个顶点,将此顶点移动到下一个触摸事件所发生的位置,刷新该多边形图元的显示。同时生成一个多边形图元顶点移动的事件,该事件记录了当前场景、移动的初始点和终点、移动动作所作用的多边形顶点编号、移动事件发生的时间等信息,将此事件插入记录链表;并刷新被移动多边形图元的坐标数据,用于显示。
4.当处在手绘模式下时:
从开始触摸到触摸移动离开屏幕,将所有的点都记录下来用比塞尔算法来拟合出一条光滑的曲线。同时生成一系列触摸事件,该事件记录了当前场景、触摸发生的坐标,触摸事件的类型(开始、移动、离开)、触摸事件发生的时间等信息,将此事件插入记录链表。
5.当处在橡皮模式下时:
触摸所经过的轨迹用折线描述出来,根据橡皮的大小来决定线宽,用擦除画笔擦掉此轨迹上的所有手绘图像,同时当轨迹经过某图元时,图元也被删除掉。同时生成一系列触摸事件,该事件记录了当前场景、触摸发生的坐标,触摸事件的类型(开始、移动、离开)、触摸事件发生的时间等信息,将此事件插入记录链表。
6.当处在绘制直线、矩形、圆、抛物线等等的图元绘制模式下时:
每一次的开始触摸事件将产生一个图元并显示。同时生成一个生成图元的事件,该事件记录了当前场景、事件发生的坐标、事件发生时间等信息,将此事件插入记录链表;并生成一个图元插入图元列表,用于显示。
7.当处在多边形绘制模式下时:
对屏幕的一次完整的点触(开始触摸、移动、离开屏幕),将产生一个新的顶点。同时生成一个生成多边形图元顶点的事件,该事件记录了当前场景、事件发生的坐标、事件发生时间等信息,将此事件插入记录链表;当当前点触事件为第一次点触时,生成一个新的多边形图元插入图元列表,以后的点触摸事件发生后,将增加此多边形图元的顶点。
而当用户双击屏幕时,最后一个顶点将和第一个顶点连接起来,成为一个闭合的多边形,多边形图元信息至此完整生成。
以上所述外接矩形均包括最小外接矩形。
本发明还提供了一种用于网络教学的传输系统,该系统包括:
动作记录器,用于记录动作流;
音频记录器器,用于记录音频流;
计时器,用于记录所述动作流和所述音频流的时间戳信息;
发射器,用于传输所述动作流和所述音频流,优选地为实时传输;以及
终端,用于根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
本发明提供的用于网络教学的传输系统进一步包括:
音频流计算器,计算当前呈现的音频帧在总的音频流中的位置百分比;
动作流计算器,计算动作节点在总的动作流中的位置百分比;
位置比较器,比较动作节点位置百分比和音频帧位置百分比;
播放器,播放动作流中动作节点位置百分比小于音频帧位置百分比的部分,以根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
本发明提供的用于网络教学的传输系统中,其软件核心模块运行步骤包括:
步骤一:获取实时课堂运行场景参数。此处的场景参数包括网络运行的地址、端口、登录人员的ID以及主讲者的身份信息等。
步骤二:进入课堂,加载课件。主要是指加载教学所需要的图片、文件、讲解素材等内容。
步骤三:开始授课:启动网路实时同步模块,启动动作流录制模块。其中,所述网络实时同步模块可以选用MINA模块或Netty模块。其中Netty是由JBOSS提供的一个java开源框架。Netty提供异步的、事件驱动的网络应用程序框架和工具,用以快速开发高性能、高可靠性的网络服务器和客户端程序。也就是说,Netty是一个基于NIO的客户,服务器端编程框架,使用Netty可以确保你快速和简单的开发出一个网络应用,例如实现了某种协议的客户,服务端应用。Netty相当简化和流线化了网络应用的编程开发过程,例如,TCP和UDP的socket服务开发。此外,Netty是一个吸收了多种协议的实现经验,这些协议包括FTP,SMTP,HTTP,各种二进制,文本协议,并经过相当精心设计的项目,最终,Netty成功的找到了一种方式,在保证易于开发的同时还保证了其应用的性能,稳定性和伸缩性。因此,本发明优选的选用Netty模块实现网络实时同步。
此处启动动作流录制模块包括获取动作流初始数据参数,以便对其进行编辑,除此之外,还包括调取在动作流录制过程中诸如撤销、恢复、停止、返回、暂停、圈选、拖动、裁剪、擦图等事件的代码信息。
步骤四:拾取教师的手写动作,分析处理后加入动作流序列,实时传输。
步骤五:结束授课:动作流和音频写文件,并选择性上传至文件服务器。
步骤六:离开课堂。
在如上所述的步骤中,步骤一、三、四和六是必选步骤,步骤二、和五是为了使本发明更加优化的可选步骤。
本发明提供的以录制、还原动作流的方式来完成教学视频的录制与回放,原理如下:上课时,老师以具有良好的手写体验的电磁屏平板电脑作为输入设备,由图2、图3、图4和图5依次示出的本发明提供的系统中软件拾取并保存动作序列可以看出,当老师开始讲课时,软件在绘制讲课画面的同时,自动记录保存老师手写所产生的动作序列的类型和发生的时间点,这些动作序列完全由触屏动作(按下、移动、离开)结合软件当时的绘制场景生成。
当回放时,软件根据这些动作序列的来重新绘制整个手写教学过程。
因为触屏动作所产生的数据量极少,因此地极大节省了存储空间,并且适合网络快速传输,同时因动作流重现时绘出的图形均为矢量图形,放大不失真,具有完美的保真度和清晰度。
同时,配以开源高压缩率的speex语音编解码模块,最终所生成的视频动作文件和音频文件的总体积远小于业界平均水平。
目前我国中小学校所用的信息化实时教学系统中,视频信息源来自两方面:计算机内录显示屏和摄像机直接录制白板。因教学时所录制内容中多有数字、公式等内容,为保证所录制内容能分辨清楚,录制的视频必须保持足够高的分辨率和足够高的码率,因此导致单位时间内产生的视频体积很大,造成实用中存储困难,不可随意压缩,不可随意转码,网络传输困难等一系列问题,同时因系统价格高昂、实用复杂也很大程度上阻碍了校园信息化教学的发展进程。
根据图6提供的根据本发明一种实施方式的网络课堂实时教学主讲抓图界面和图7和图8提供本发明一种实施方式的网络课堂实时教学客户端抓图界面,可以看出,在本发明提供的用于网络教学的传输方法与系统的技术基础上开发的实时课堂系统,网络传输数据量极少,在目前国内网络状况较于发达国家而言带宽较窄的情况下,本实时课堂系统依然能够具有良好的实时性,流畅度和清晰度,使得不同地域的教室和学生能通过本系统的互连有一个良好的交互学习的体验。
主要体现在如下几个方面:
首先,传统的目前采用最先进的h.264视频编码的网络实时课堂系统在画面清晰度可接受的情况下,对于每个终端要求的最低带宽也在百KB以上,而本系统提供的动作流录制方式可极大降低对带宽的要求在3KB左右。以一小时为例,本方案生成的录制文件不超过8M,而且由于是矢量方式,可以任意放大而不影响观看质量,而传统的rmvb、H264、flv等格式在可以接收的图像质量下为100M左右,如果想达到在不同屏幕上显示而不影响质量的效果,则需要更大的存储空间。总的来说,本发明采用动作流的方式来实现课堂视频的实时录制与传输,极大的节约了带宽,提高了网络课堂同步交流的实时性,并大大节约了数据文件的存储空间。
其次,基于Android平台开发的手写讲解模块较传统方式而言大大提高了用户的书写流畅度体验,电磁屏手写输入系统更是为使用者提供了近似于纸质的书写体验。
最后,在音频方面,本系统采用基于SPEEX编码方式的音频系统,在同样带宽的方式下提供更高品质的语音音质。
应该理解,框图和流程图的每个框以及框图和流程图的框的组合可以分别由包括计算机程序指令的各种装置来实施。这些计算机程序指令可以加载到通用计算机、专用计算机或其他可编程数据处理设备上以产生机器,从而在计算机或其他可编程数据处理设备上执行的指令创建了用于实现一个或多个流程图框中指定的功能的装置。
这些计算机程序指令还可以存储在可以引导计算机或其他可编程数据处理设备的计算机可读存储器中从而以特定方式起作用,从而存储在计算机可读存储器中的指令制造包括用于实现图中所示的一个或多个流程图框中所指定功能的计算机可读指令的制品。计算机程序指令还可以加载到计算机或其他可编程数据处理设备上以使得在计算机或其他可编程数据处理设备上执行一系列的操作步骤,从而产生计算机实现的过程,进而在计算机或其他可编程数据处理设备上执行的指令提供了用于实现一个或多个流程图框中所指定功能的步骤。
因而,框图和流程图的框支持用于执行指定功能的装置的组合、用于执行指定功能的步骤的组合和用于执行指定功能的程序指令装置的组合。还应该理解,框图和流程图的每个框以及框图和流程图的框的组合可以由执行指定功能或步骤的、基于硬件的专用计算机系统实现,或由专用硬件和计算机指令的组合实现。
这些实施方式所涉及的、从上面描述和相关联的附图中呈现的教导获益的领域中的技术人员将认识到这里记载的本发明的很多修改和其他实施方式。因此,应该理解,本发明不限于公开的具体实施方式,旨在将修改和其他实施方式包括在所附权利要求书的范围内。尽管在这里采用了特定的术语,但是仅在一般意义和描述意义上使用它们并且不是为了限制的目的而使用。
应该注意的是,上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种用于网络教学的传输方法,该方法包括:
记录动作流;
记录音频流;
记录所述动作流和所述音频流的时间戳信息;
传输所述动作流和所述音频流,优选地为实时传输;以及
在终端处,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
2.根据权利要求1所述的方法,其中,记录所述动作流是在电磁屏输入设备中完成的;
记录动作流,包括记录基本图形的最小外接矩形。
3.根据权利要求1所述的方法,进一步包括:在服务器中存储所记录的动作流、音频流以及时间戳信息。
4.根据权利要求1所述的方法,进一步包括:对记录的所述音频流进行压缩,优选地,采用SPEEX压缩格式对所述音频流进行压缩。
5.根据权利要求1所述的方法,进一步包括:
从所述音频流中提取声母和韵母;
根据所提取的声母和韵母找到预先存储的对应口型信息;
在所述终端处,将所述音频流和对应口型信息进行同步呈现;
优选地,其中所述口型信息包括基本口型图片和过渡口型图片。
6.根据权利要求1所述的方法,其中根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现包括:对动作流进行平滑处理。
7.根据权利要求1所述的方法,其中,根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现包括:
计算当前呈现的音频帧在总的音频流中的位置百分比;
计算动作节点在总的动作流中的位置百分比;
比较动作节点位置百分比和音频帧位置百分比;
播放动作流中动作节点位置百分比小于音频帧位置百分比的部分。
8.根据权利要求1-7中任意一项所述的方法,进一步包括,确定下列类型中的至少一种:
场景类型,包括选择、手绘线、直线、矩形、烧杯、剪切和清屏。
动作类型,包括开始、创建、修改、删除、线宽和线色。
修改类型,包括移动、放大缩小和旋转。
9.一种用于网络教学的传输系统,该系统包括:
动作记录器,用于记录动作流;
音频记录器,用于记录音频流;
计时器,用于记录所述动作流和所述音频流的时间戳信息;
发射器,用于传输所述动作流和所述音频流,优选地为实时传输;以及
终端,用于根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
10.根据权利要求9所述的系统,该系统进一步包括:
音频流计算器,计算当前呈现的音频帧在总的音频流中的位置百分比;
动作流计算器,计算动作节点在总的动作流中的位置百分比;
位置比较器,比较动作节点位置百分比和音频帧位置百分比;
播放器,播放动作流中动作节点位置百分比小于音频帧位置百分比的部分,以根据所述时间戳信息将记录的所述动作流和所述音频流进行同步呈现。
CN201310574852.7A 2013-05-09 2013-11-15 一种用于网络教学的传输方法和系统 Active CN103561277B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310574852.7A CN103561277B (zh) 2013-05-09 2013-11-15 一种用于网络教学的传输方法和系统

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
CN201310169649 2013-05-09
CN2013101696491 2013-05-09
CN201310169649.1 2013-05-09
CN201310574852.7A CN103561277B (zh) 2013-05-09 2013-11-15 一种用于网络教学的传输方法和系统

Publications (2)

Publication Number Publication Date
CN103561277A true CN103561277A (zh) 2014-02-05
CN103561277B CN103561277B (zh) 2017-05-03

Family

ID=50015412

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310574852.7A Active CN103561277B (zh) 2013-05-09 2013-11-15 一种用于网络教学的传输方法和系统

Country Status (1)

Country Link
CN (1) CN103561277B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104125513A (zh) * 2014-07-23 2014-10-29 天脉聚源(北京)教育科技有限公司 数据分享方法和装置
CN105224111A (zh) * 2015-11-05 2016-01-06 北京康邦科技股份有限公司 一种网络环境下的互动阅读方法及系统
CN105261252A (zh) * 2015-11-18 2016-01-20 闫健 一种基于全景学习平台系统的实时动作渲染方法
CN105306861A (zh) * 2015-10-15 2016-02-03 深圳市时尚德源文化传播有限公司 一种网络教学录播方法及系统
CN105491414A (zh) * 2015-11-19 2016-04-13 深圳市时尚德源文化传播有限公司 一种图像同步显示方法及装置
CN105916039A (zh) * 2016-05-06 2016-08-31 亿瑞互动科技(北京)有限公司 一种在线教学方法、装置及相关设备
CN106303564A (zh) * 2016-08-10 2017-01-04 中山可可网络科技有限公司 教学信息的网络传输方法
CN106534747A (zh) * 2016-11-16 2017-03-22 中智益健(深圳)科技有限公司 同步录制图片和声音的摄录方法及系统
CN104125513B (zh) * 2014-07-23 2018-02-09 天脉聚源(北京)教育科技有限公司 数据分享方法和装置
CN112328076A (zh) * 2020-11-06 2021-02-05 北京中科深智科技有限公司 一种语音驱动人物手势的方法和系统
CN112906650A (zh) * 2021-03-24 2021-06-04 百度在线网络技术(北京)有限公司 教学视频的智能处理方法、装置、设备和存储介质
CN114245170A (zh) * 2022-02-24 2022-03-25 国能信息技术有限公司 一种基于分流式传输的音视频单向传输调度方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060057550A1 (en) * 2002-09-27 2006-03-16 Nozomu Sahashi Remote education system, course attendance check method, and course attendance check program
CN1855117A (zh) * 2005-01-12 2006-11-01 跳蛙企业股份有限公司 可与编码书写介质一起使用的有记录回放能力的交互设备
CN101482975A (zh) * 2008-01-07 2009-07-15 丰达软件(苏州)有限公司 一种文字转换动画的方法和装置
CN102800218A (zh) * 2012-08-08 2012-11-28 成都远策数码科技有限公司 一种用于远程教育的信息交互方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060057550A1 (en) * 2002-09-27 2006-03-16 Nozomu Sahashi Remote education system, course attendance check method, and course attendance check program
CN1855117A (zh) * 2005-01-12 2006-11-01 跳蛙企业股份有限公司 可与编码书写介质一起使用的有记录回放能力的交互设备
CN101482975A (zh) * 2008-01-07 2009-07-15 丰达软件(苏州)有限公司 一种文字转换动画的方法和装置
CN102800218A (zh) * 2012-08-08 2012-11-28 成都远策数码科技有限公司 一种用于远程教育的信息交互方法及系统

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104125513B (zh) * 2014-07-23 2018-02-09 天脉聚源(北京)教育科技有限公司 数据分享方法和装置
CN104125513A (zh) * 2014-07-23 2014-10-29 天脉聚源(北京)教育科技有限公司 数据分享方法和装置
KR101934932B1 (ko) * 2015-10-15 2019-01-03 선전 이글소울 테크놀로지 컴퍼니 리미티드 네트워크 교육 녹화재생 방법 및 시스템
WO2017063287A1 (zh) * 2015-10-15 2017-04-20 深圳市鹰硕技术有限公司 一种网络教学录播方法及系统
CN105306861A (zh) * 2015-10-15 2016-02-03 深圳市时尚德源文化传播有限公司 一种网络教学录播方法及系统
CN105224111A (zh) * 2015-11-05 2016-01-06 北京康邦科技股份有限公司 一种网络环境下的互动阅读方法及系统
CN105261252B (zh) * 2015-11-18 2018-02-13 闫健 一种基于全景学习平台系统的实时动作渲染方法
CN105261252A (zh) * 2015-11-18 2016-01-20 闫健 一种基于全景学习平台系统的实时动作渲染方法
CN105491414B (zh) * 2015-11-19 2017-05-17 深圳市鹰硕技术有限公司 一种图像同步显示方法及装置
CN105491414A (zh) * 2015-11-19 2016-04-13 深圳市时尚德源文化传播有限公司 一种图像同步显示方法及装置
CN105916039A (zh) * 2016-05-06 2016-08-31 亿瑞互动科技(北京)有限公司 一种在线教学方法、装置及相关设备
CN106303564A (zh) * 2016-08-10 2017-01-04 中山可可网络科技有限公司 教学信息的网络传输方法
CN106534747A (zh) * 2016-11-16 2017-03-22 中智益健(深圳)科技有限公司 同步录制图片和声音的摄录方法及系统
CN112328076A (zh) * 2020-11-06 2021-02-05 北京中科深智科技有限公司 一种语音驱动人物手势的方法和系统
CN112906650A (zh) * 2021-03-24 2021-06-04 百度在线网络技术(北京)有限公司 教学视频的智能处理方法、装置、设备和存储介质
CN112906650B (zh) * 2021-03-24 2023-08-15 百度在线网络技术(北京)有限公司 教学视频的智能处理方法、装置、设备和存储介质
CN114245170A (zh) * 2022-02-24 2022-03-25 国能信息技术有限公司 一种基于分流式传输的音视频单向传输调度方法及系统
CN114245170B (zh) * 2022-02-24 2022-09-13 国能信息技术有限公司 一种基于分流式传输的音视频单向传输调度方法及系统

Also Published As

Publication number Publication date
CN103561277B (zh) 2017-05-03

Similar Documents

Publication Publication Date Title
CN103561277B (zh) 一种用于网络教学的传输方法和系统
CN107168674B (zh) 投屏批注方法和系统
US7324069B2 (en) Animation review methods and apparatus
US20100085363A1 (en) Photo Realistic Talking Head Creation, Content Creation, and Distribution System and Method
CN107333164B (zh) 一种图像数据处理方法及装置
CN102497513A (zh) 一种面向数字电视的视频虚拟人手语系统
KR102186607B1 (ko) 증강현실을 통한 발레 공연 시스템 및 방법
CN114845136B (zh) 视频合成方法、装置、设备和存储介质
US20150195320A1 (en) Method, System and Software Product for Improved Online Multimedia File Sharing
Kawakita et al. Augmented TV: An augmented reality system for TV programs beyond the TV screen
JP2014220572A (ja) コンテンツ配信システム、配信装置、受信端末、配信プログラム、及び受信プログラム
CN106303694A (zh) 一种多媒体幻灯片制备的方法
CN1719869A (zh) 多播放机数字电影播放系统两级同步控制方法
CN106303437A (zh) 一种可视化数据文件生成方法
JP2003241630A (ja) 動画配信方法、動画表示システム、教育モデル、ユーザーインターフェース、手動操作手順
CN113395569B (zh) 视频生成方法及装置
CN111352539A (zh) 一种终端进行互动的方法及装置
CN113554904B (zh) 一种多模式协同教育智能处理方法和系统
CN114025147A (zh) Vr教学的数据传输方法、系统、电子设备及存储介质
CN113485567A (zh) 一种运动轨迹的同步方法
Richards The unofficial guide to open broadcaster software
CN112508772A (zh) 图像生成方法、装置及存储介质
CN111147890A (zh) Vr虚拟技术展示转码器的工作方法
CN114374867B (zh) 多媒体数据的处理方法、装置及介质
US10714146B2 (en) Recording device, recording method, reproducing device, reproducing method, and recording/reproducing device

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP02 Change in the address of a patent holder

Address after: Room 10406, unit 1, building 1, Gaoxin Silver Tower, No. 6, Gaoxin Road, high tech Zone, Xi'an City, Shaanxi Province

Patentee after: SHAANXI SIZHITONG EDUCATION SCIENCE & TECHNOLOGY CO., LTD.

Address before: High road Ruixin mansion Yanta District 710000 in Shaanxi province Xi'an City 1 Building 9 room A

Patentee before: SHAANXI SIZHITONG EDUCATION SCIENCE & TECHNOLOGY CO., LTD.

CP02 Change in the address of a patent holder