CN112615807B - 提高呼叫质量的电子装置及其操作方法 - Google Patents
提高呼叫质量的电子装置及其操作方法 Download PDFInfo
- Publication number
- CN112615807B CN112615807B CN202011046834.8A CN202011046834A CN112615807B CN 112615807 B CN112615807 B CN 112615807B CN 202011046834 A CN202011046834 A CN 202011046834A CN 112615807 B CN112615807 B CN 112615807B
- Authority
- CN
- China
- Prior art keywords
- electronic device
- call connection
- various embodiments
- call
- external electronic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 230000005540 biological transmission Effects 0.000 claims abstract description 123
- 230000004044 response Effects 0.000 claims abstract description 109
- 238000004891 communication Methods 0.000 claims abstract description 93
- 230000008569 process Effects 0.000 claims abstract description 50
- 238000012790 confirmation Methods 0.000 claims abstract description 26
- 238000012545 processing Methods 0.000 claims description 77
- 238000005070 sampling Methods 0.000 claims description 33
- 230000001537 neural effect Effects 0.000 claims description 21
- 230000008859 change Effects 0.000 abstract description 15
- 238000004422 calculation algorithm Methods 0.000 description 33
- 230000006870 function Effects 0.000 description 31
- 238000010586 diagram Methods 0.000 description 30
- 238000007781 pre-processing Methods 0.000 description 30
- 230000003213 activating effect Effects 0.000 description 25
- 238000012805 post-processing Methods 0.000 description 18
- 238000009877 rendering Methods 0.000 description 17
- 238000001914 filtration Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 10
- 230000006835 compression Effects 0.000 description 8
- 238000007906 compression Methods 0.000 description 8
- 230000001815 facial effect Effects 0.000 description 7
- 230000010267 cellular communication Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000011017 operating method Methods 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 3
- 238000006731 degradation reaction Methods 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 241000086550 Dinosauria Species 0.000 description 1
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 239000008103 glucose Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003155 kinesthetic effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
- H04L65/1069—Session establishment or de-establishment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/80—Responding to QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/762—Media network packet handling at the source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Telephone Function (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
根据各种实施例的电子装置和电子装置的操作方法可以包括:通信模块,包括通信电路,被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道发送和/或接收数据;以及处理器,其中,处理器被配置为控制电子装置以:发送呼叫连接请求消息以建立外部电子装置与电子装置之间的呼叫信道;从外部电子装置接收响应消息;基于与呼叫连接有关并包括在响应消息中的外部电子装置的能力信息,确定是否使用被配置为改变内容质量的发送滤波器对通过呼叫连接发送的内容进行预处理;向外部电子装置发送指示是否对内容进行预处理的呼叫连接确认消息;以及控制通信模块完成呼叫信道的建立,其中,连接请求消息包括与滤波器有关的电子装置的能力信息。
Description
技术领域
各种实施例涉及电子装置和电子装置的操作方法。
背景技术
诸如智能电话、平板电脑、便携式多媒体播放器(PMP)、个人数字助理(PDA)、膝上型个人计算机(PC)和可穿戴设备的各种电子装置正在普及。
最近,电子装置可以基于IP多媒体子系统(IMS)或丰富通信套件(RCS)提供语音呼叫或视频呼叫。在提供高质量音频或图像的同时,电子装置可以处理发送或接收的音频或图像数据以减小音频或视频数据的大小。音频数据或图像数据的处理可以分两个步骤实现。作为处理使用麦克风生成的音频原始数据和使用相机生成的图像原始数据的步骤,可能存在在使用滤波器最小化和/或减小质量降低的同时减小数据大小的步骤,以及在压缩音频数据或图像数据的同时减小数据大小的步骤。
当连接呼叫时,可以执行基于电子装置之间的会话描述协议(SDP)的协商过程,以配置用于发送或接收数据的环境以及电子装置之间可支持的音频数据或图像数据的压缩格式,可以在协商过程期间交换音频数据的采样率或图像数据的分辨率的信息。
为了提高要发送或接收的音频数据或图像数据的质量,可以在对音频数据或图像数据进行编码之前,使用滤波器对音频数据或图像数据执行预处理。近来,由于与人工智能和机器学习或深度学习有关的技术的发展,以及神经处理单元的出现,正在研究使用滤波器的音频数据或图像数据的质量改善。
在连接呼叫时执行的基于SDP的协商过程中,发送或接收的数据可能不包括关于滤波器的信息。因此,电子装置可能不知道作为呼叫连接对方的外部电子装置使用的滤波器,以预处理音频数据或图像数据,并且可能无法快速执行使用滤波器改善音频或图像质量的操作。
可选地,在呼叫连接之后,在交换关于滤波器的信息的情况下,当由于滤波器的激活而改变电子装置的组件的配置时,呼叫可以被暂时停止。
以上信息仅作为背景信息呈现,以帮助理解本公开。关于以上内容中的任何内容是否可以用作关于本公开的现有技术,没有确定,也没有断言。
发明内容
根据各种示例实施例的电子装置可以包括:通信模块,包括通信电路,所述通信电路被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道来发送或接收数据;以及处理器,其中,处理器被配置为控制电子装置以:发送呼叫连接请求消息,以建立外部电子装置与电子装置之间的呼叫信道;从外部电子装置接收响应消息;基于与呼叫连接有关并被包括在响应消息中的外部电子装置的能力信息,使用被配置为改变内容质量的发送滤波器,确定是否对通过呼叫连接发送的内容进行预处理;向外部电子装置发送指示是否对内容进行预处理的呼叫连接确认消息;以及控制通信模块完成呼叫信道的建立,其中,连接请求消息包括与滤波器有关的电子装置的能力信息。
根据各种示例实施例的电子装置可以包括:通信模块,包括通信电路,所述通信电路被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道来发送或接收数据;以及处理器,其中,处理器被配置为控制电子装置以:接收呼叫连接请求消息,以建立外部电子装置与电子装置之间的呼叫信道;向外部电子装置发送响应消息,所述响应消息包括与对通过呼叫连接接收的内容进行预处理的接收滤波器有关的电子装置的能力信息;从外部电子装置接收包括指示符的呼叫连接确认消息,所述指示符指示是否使用与接收滤波器相对应的发送滤波器对内容进行预处理;以及基于指示符激活接收滤波器。
根据各种示例实施例的电子装置的操作方法可以包括:发送呼叫连接请求消息以建立外部电子装置与电子装置之间的呼叫信道;从外部电子装置接收响应消息;基于与呼叫连接有关并被包括在响应消息中的外部电子装置的能力信息,确定是否使用被配置为改变内容质量的发送滤波器对通过呼叫连接发送的内容进行预处理;向外部电子装置发送指示是否对内容进行预处理的呼叫连接确认消息;以及完成呼叫信道的建立,其中,呼叫连接请求消息包括与发送滤波器有关的电子装置的能力信息。
在根据各种示例实施例的电子装置和电子装置的操作方法中,当呼叫被连接时执行的协商过程可以包括:发送或接收包括指示使用滤波器对音频数据或图像数据进行处理的信息的呼叫连接请求消息或响应消息,从而使得能够检查外部电子装置使用的滤波器。因此,可以使用与外部电子装置使用的滤波器相对应的滤波器来获取高质量的音频数据或图像数据。
在根据各个示例实施例的电子装置和电子装置的操作方法中,当呼叫被连接时执行的协商过程可以包括:发送或接收包括指示使用滤波器对音频数据或图像数据进行处理的信息的呼叫连接请求消息或响应消息,从而使得能够在呼叫连接完成之前激活滤波器和相关联的元件。因此,在呼叫连接完成之后,滤波器的激活可以防止和/或减少可能发生的呼叫信道质量的下降,并且可以改善通过呼叫信道的呼叫质量。
在根据各种示例实施例的电子装置和电子装置的操作方法中,当呼叫被连接时执行的协商过程可以包括:交换是否支持基于元数据的视频呼叫、用于基于元数据的视频呼叫的模型信息或用于生成元数据的标准信息,从而使得能够在呼叫连接完成之前激活支持基于元数据的视频呼叫的元件。因此,有可能在相对较快的时间内进入视频呼叫模式。
根据各种示例实施例的电子装置和电子装置的操作方法可以使用具有比视频或图像流的尺寸更小的尺寸的元数据来支持视频呼叫,从而与交换视频或图像流的普通视频呼叫相比,使得能够使用更小的网络带宽来实现视频呼叫。
附图说明
通过以下结合附图的详细描述,本公开的某些实施例的上述和其他方面、特征和优点将变得更加明显,在附图中:
图1是示出根据各种实施例的在网络环境中的示例电子装置的框图;
图2是示出根据各种实施例的示例程序的框图;
图3A是示出根据各个实施例的第一电子装置和第二电子装置发送或接收音频内容或图像内容的示例的框图;
图3B是示出根据各个实施例的第一电子装置和第二电子装置发送或接收音频内容或图像内容的示例的框图;
图4A是示出根据各种实施例的示例电子装置的框图;
图4B是示出根据各种实施例的示例电子装置的框图;
图5是示出根据各种实施例的示例电子装置的框图;
图6是示出根据各种实施例的由第一电子装置和第二电子装置执行呼叫连接的示例操作的操作流程图;
图7是示出根据各个实施例的在第一电子装置和第二电子装置中执行用于内容发送或接收的配置的示例屏幕的示图;
图8是示出根据各种实施例的电子装置的示例操作方法的流程图;
图9是示出根据各种实施例的电子装置的示例操作方法的流程图;
图10A是示出根据各种实施例的示例电子装置的框图;
图10B是示出根据各种实施例的示例电子装置的框图;
图11A是示出根据各个实施例的在电子装置中从获取的图像中提取元数据的示例的示图;
图11B是示出根据各个实施例的在电子装置中基于模型和元数据渲染图像的示例的示图;
图12是示出根据各种实施例的由第一电子装置和第二电子装置执行呼叫连接的示例操作的操作流程图;
图13是示出根据各种实施例的电子装置的示例操作方法的流程图;以及
图14是示出根据各种实施例的电子装置的示例操作方法的流程图。
具体实施方式
图1是示出根据各种实施例的网络环境100中的电子装置101的框图。参照图1,网络环境100中的电子装置101可经由第一网络198(例如,短距离无线通信网络)与电子装置102进行通信,或者经由第二网络199(例如,长距离无线通信网络)与电子装置104或服务器108进行通信。根据实施例,电子装置101可经由服务器108与电子装置104进行通信。根据实施例,电子装置101可包括处理器120、存储器130、输入装置150、声音输出装置155、显示装置160、音频模块170、传感器模块176、接口177、触觉模块179、相机模块180、电力管理模块188、电池189、通信模块190、用户识别模块(SIM)196或天线模块197。在一些实施例中,可从电子装置101中省略所述部件中的至少一个(例如,显示装置160或相机模块180),或者可将一个或更多个其它部件添加到电子装置101中。在一些实施例中,可将所述部件中的一些部件实现为单个集成电路。例如,可将传感器模块176(例如,指纹传感器、虹膜传感器、或照度传感器)实现为嵌入在显示装置160(例如,显示器)中。
处理器120可运行例如软件(例如,程序140)来控制电子装置101的与处理器120连接的至少一个其它部件(例如,硬件部件或软件部件),并可执行各种数据处理或计算。根据一个实施例,作为所述数据处理或计算的至少部分,处理器120可将从另一部件(例如,传感器模块176或通信模块190)接收到的命令或数据加载到易失性存储器132中,对存储在易失性存储器132中的命令或数据进行处理,并将结果数据存储在非易失性存储器134中。根据实施例,处理器120可包括主处理器121(例如,中央处理器(CPU)或应用处理器(AP))以及与主处理器121在操作上独立的或者相结合的辅助处理器123(例如,图形处理单元(GPU)、图像信号处理器(ISP)、传感器中枢处理器或通信处理器(CP))。另外地或者可选择地,辅助处理器123可被适配为比主处理器121耗电更少,或者被适配为具体用于指定的功能。可将辅助处理器123实现为与主处理器121分离,或者实现为主处理器121的部分。
在主处理器121处于未激活(例如,睡眠)状态时,辅助处理器123可控制与电子装置101(而非主处理器121)的部件之中的至少一个部件(例如,显示装置160、传感器模块176或通信模块190)相关的功能或状态中的至少一些,或者在主处理器121处于激活状态(例如,运行应用)时,辅助处理器123可与主处理器121一起来控制与电子装置101的部件之中的至少一个部件(例如,显示装置160、传感器模块176或通信模块190)相关的功能或状态中的至少一些。根据实施例,可将辅助处理器123(例如,图像信号处理器或通信处理器)实现为在功能上与辅助处理器123相关的另一部件(例如,相机模块180或通信模块190)的部分。
存储器130可存储由电子装置101的至少一个部件(例如,处理器120或传感器模块176)使用的各种数据。所述各种数据可包括例如软件(例如,程序140)以及针对与其相关的命令的输入数据或输出数据。存储器130可包括易失性存储器132或非易失性存储器134。
可将程序140作为软件存储在存储器130中,并且程序140可包括例如操作系统(OS)142、中间件144或应用146。
输入装置150可从电子装置101的外部(例如,用户)接收将由电子装置101的其它部件(例如,处理器120)使用的命令或数据。输入装置150可包括例如麦克风、鼠标、键盘或数字笔(例如,手写笔)。
声音输出装置155可将声音信号输出到电子装置101的外部。声音输出装置155可包括例如扬声器或接收器。扬声器可用于诸如播放多媒体或播放唱片的通用目的,接收器可用于呼入呼叫。根据实施例,可将接收器实现为与扬声器分离,或实现为扬声器的部分。
显示装置160可向电子装置101的外部(例如,用户)视觉地提供信息。显示装置160可包括例如显示器、全息装置或投影仪以及用于控制显示器、全息装置和投影仪中的相应一个的控制电路。根据实施例,显示装置160可包括被适配为检测触摸的触摸电路或被适配为测量由触摸引起的力的强度的传感器电路(例如,压力传感器)。
音频模块170可将声音转换为电信号,反之亦可。根据实施例,音频模块170可经由输入装置150获得声音,或者经由声音输出装置155或与电子装置101直接(例如,有线地)连接或无线连接的外部电子装置(例如,电子装置102)的耳机输出声音。
传感器模块176可检测电子装置101的操作状态(例如,功率或温度)或电子装置101外部的环境状态(例如,用户的状态),然后产生与检测到的状态相应的电信号或数据值。根据实施例,传感器模块176可包括例如手势传感器、陀螺仪传感器、大气压力传感器、磁性传感器、加速度传感器、握持传感器、接近传感器、颜色传感器、红外(IR)传感器、生物特征传感器、温度传感器、湿度传感器或照度传感器。
接口177可支持将用来使电子装置101与外部电子装置(例如,电子装置102)直接(例如,有线地)或无线连接的一个或更多个特定协议。根据实施例,接口177可包括例如高清晰度多媒体接口(HDMI)、通用串行总线(USB)接口、安全数字(SD)卡接口或音频接口。
连接端178可包括连接器,其中,电子装置101可经由所述连接器与外部电子装置(例如,电子装置102)物理连接。根据实施例,连接端178可包括例如HDMI连接器、USB连接器、SD卡连接器或音频连接器(例如,耳机连接器)。
触觉模块179可将电信号转换为可被用户经由他的触觉或动觉识别的机械刺激(例如,振动或运动)或电刺激。根据实施例,触觉模块179可包括例如电机、压电元件或电刺激器。
相机模块180可捕获静止图像或运动图像。根据实施例,相机模块180可包括一个或更多个透镜、图像传感器、图像信号处理器或闪光灯。
电力管理模块188可管理对电子装置101的供电。根据实施例,可将电力管理模块188实现为例如电力管理集成电路(PMIC)的至少部分。
电池189可对电子装置101的至少一个部件供电。根据实施例,电池189可包括例如不可再充电的原电池、可再充电的蓄电池、或燃料电池。
通信模块190可支持在电子装置101与外部电子装置(例如,电子装置102、电子装置104或服务器108)之间建立直接(例如,有线)通信信道或无线通信信道,并经由建立的通信信道执行通信。通信模块190可包括能够与处理器120(例如,应用处理器(AP))独立操作的一个或更多个通信处理器,并支持直接(例如,有线)通信或无线通信。根据实施例,通信模块190可包括无线通信模块192(例如,蜂窝通信模块、短距离无线通信模块或全球导航卫星系统(GNSS)通信模块)或有线通信模块194(例如,局域网(LAN)通信模块或电力线通信(PLC)模块)。这些通信模块中的相应一个可经由第一网络198(例如,短距离通信网络,诸如蓝牙、无线保真(Wi-Fi)直连或红外数据协会(IrDA))或第二网络199(例如,长距离通信网络,诸如蜂窝网络、互联网、或计算机网络(例如,LAN或广域网(WAN)))与外部电子装置进行通信。可将这些各种类型的通信模块实现为单个部件(例如,单个芯片),或可将这些各种类型的通信模块实现为彼此分离的多个部件(例如,多个芯片)。无线通信模块192可使用存储在用户识别模块196中的用户信息(例如,国际移动用户识别码(IMSI))识别并验证通信网络(诸如第一网络198或第二网络199)中的电子装置101。
天线模块197可将信号或电力发送到电子装置101的外部(例如,外部电子装置)或者从电子装置101的外部(例如,外部电子装置)接收信号或电力。根据实施例,天线模块197可包括天线,所述天线包括辐射元件,所述辐射元件由形成在基底(例如,PCB)中或形成在基底上的导电材料或导电图案构成。根据实施例,天线模块197可包括多个天线。在这种情况下,可由例如通信模块190(例如,无线通信模块192)从所述多个天线中选择适合于在通信网络(诸如第一网络198或第二网络199)中使用的通信方案的至少一个天线。随后可经由所选择的至少一个天线在通信模块190和外部电子装置之间发送或接收信号或电力。根据实施例,除了辐射元件之外的另外的组件(例如,射频集成电路(RFIC))可附加地形成为天线模块197的一部分。
上述部件中的至少一些可经由外设间通信方案(例如,总线、通用输入输出(GPIO)、串行外设接口(SPI)或移动工业处理器接口(MIPI))相互连接并在它们之间通信地传送信号(例如,命令或数据)。
根据实施例,可经由与第二网络199连接的服务器108在电子装置101和外部电子装置104之间发送或接收命令或数据。电子装置102和电子装置104中的每一个可以是与电子装置101相同类型的装置,或者是与电子装置101不同类型的装置。根据实施例,将在电子装置101运行的全部操作或一些操作可在外部电子装置102、外部电子装置104或服务器108中的一个或更多个运行。例如,如果电子装置101应该自动执行功能或服务或者应该响应于来自用户或另一装置的请求执行功能或服务,则电子装置101可请求所述一个或更多个外部电子装置执行所述功能或服务中的至少部分,而不是运行所述功能或服务,或者电子装置101除了运行所述功能或服务以外,还可请求所述一个或更多个外部电子装置执行所述功能或服务中的至少部分。接收到所述请求的所述一个或更多个外部电子装置可执行所述功能或服务中的所请求的所述至少部分,或者执行与所述请求相关的另外功能或另外服务,并将执行的结果传送到电子装置101。电子装置101可在对所述结果进行进一步处理的情况下或者在不对所述结果进行进一步处理的情况下将所述结果提供作为对所述请求的至少部分答复。为此,可使用例如云计算技术、分布式计算技术或客户机-服务器计算技术。
图2是示出根据各种实施例的程序140的框图200。根据实施例,程序140可包括用于控制电子装置101的一个或更多个资源的操作系统(OS)142、中间件144或可在OS 142中运行的应用146。OS 142可包括例如AndroidTM、iOSTM、WindowsTM、SymbianTM、TizenTM或BadaTM。例如,可在制造期间将程序140中的至少一部分预载入到电子装置101上,或者可在用户使用期间从外部电子装置(例如,电子装置102或电子装置104,或者服务器108)下载或由外部电子装置更新程序140中的至少一部分。
OS 142可控制电子装置101的一个或更多个系统资源(例如,进程、存储器或电源)的管理(例如,分配或解除分配)。另外或可选地,OS 142可包括用于驱动电子装置101的其它硬件装置(例如,输入装置150、声音输出装置155、显示装置160、音频模块170、传感器模块176、接口177、触觉模块179、相机模块180、电力管理模块188、电池189、通信模块190、用户识别模块196或天线模块197)的一个或更多个驱动程序。
中间件144可向应用146提供各种功能,使得应用146可使用从电子装置101的一个或更多个资源提供的功能或信息。中间件144可包括例如应用管理器201、窗口管理器203、多媒体管理器205、资源管理器207、电力管理器209、数据库管理器211、包管理器213、连接管理器215、通知管理器217、位置管理器219、图形管理器221、安全管理器223、电话管理器225或语音识别管理器227。
应用管理器201例如可管理应用146的生命周期。窗口管理器203例如可管理在屏幕上使用的一个或更多个图形用户界面(GUI)资源。多媒体管理器205例如可识别将用于播放媒体文件的一个或更多个格式,并可使用适合于从所述一个或更多个格式中选择的相应格式的编解码器对媒体文件之中的相应媒体文件进行编码或解码。资源管理器207例如可管理应用146的源代码或存储器130的存储空间。电力管理器209例如可管理电池189的容量、温度或电力,并可至少部分基于电池189的容量、温度或电力的相应信息来确定或提供将用于电子装置101的操作的相关信息。根据实施例,电力管理器209可与电子装置101的基本输入/输出系统(BIOS)(未示出)协同工作。
数据库管理器211例如可产生、搜索或改变将由应用146使用的数据库。包管理器213例如可管理以包文件的形式分布的应用的安装或更新。连接管理器215例如可管理电子装置101与外部电子装置之间的无线连接或直接连接。通知管理器217例如可提供用于向用户通知发生特定事件(例如,呼入呼叫、消息或警报)的功能。位置管理器219例如可管理关于电子装置101的位置信息。图形管理器221例如可管理将向用户提供的一个或更多个图形效果或与所述一个或更多个图形效果有关的用户界面。
安全管理器223例如可提供系统安全或用户认证。电话管理器225例如可管理由电子装置101提供的语音呼叫功能或视频呼叫功能。语音识别管理器227例如可向服务器108发送用户的语音数据,并从服务器108接收与将至少部分基于语音数据或至少部分基于语音数据而转换的文本数据在电子装置101上运行的功能相应的命令。根据实施例,中间件144可动态地删除一些现有组件或添加新的组件。根据实施例,可包括中间件144中的至少一部分作为OS 142的一部分,或者可将中间件144中的至少一部分实现为与OS 142分离的另一软件。
应用146可包括例如主页251、拨号器253、短消息服务(SMS)/多媒体消息服务(MMS)255、即时消息(IM)257、浏览器259、相机261、闹铃263、联系人265、语音识别267、电子邮件269、日历271、媒体播放器273、相册275、手表277、健康279(例如,用于测量锻炼程度或生物信息(诸如血糖))或环境信息281(例如,用于测量气压、湿度或温度信息)应用。根据实施例,应用146还可包括能够支持电子装置101与外部电子装置之间的信息交换的信息交换应用(未示出)。信息交换应用例如可包括适用于向外部电子装置传送指定信息(例如,呼叫、消息或警报)的通知转发应用或适用于管理外部电子装置的装置管理应用。通知转发应用可向外部电子装置传送与在电子装置101的另一应用(例如,电子邮件应用269)发生特定事件(例如,接收到电子邮件)相应的通知信息。另外或可选地,通知转发应用可从外部电子装置接收通知信息并向电子装置101的用户提供通知信息。
装置管理应用可控制外部电子装置或外部电子装置的一些组件(例如,外部电子装置的显示装置或相机模块)的电力(例如,开启或关闭)或功能(例如,亮度、分辨率或焦点的调整)。另外或可选地,装置管理应用可支持在外部电子装置上运行的应用的安装、删除或更新。
图3A是示出根据各个实施例的第一电子装置和第二电子装置发送或接收音频内容或图像内容的示例的框图,并且图3B是示出根据各种实施例的第一电子装置和第二电子装置发送或接收音频内容或图像内容的示例的框图。
根据各种实施例,第一电子装置310(例如,图1的电子装置101)和第二电子装置320(例如,图1的电子装置101)可以基于各种方案(例如,IP多媒体子系统(IMS)或丰富通信套件(RCS))执行语音呼叫和视频呼叫。为了便于描述,第一电子装置310可以例如是指发送终端,第二电子装置320可以例如是指接收终端。为了确定比特率,当连接呼叫时发送或接收的音频数据或图像数据的压缩格式(编解码器)或质量(例如,质量可以是指音频数据情况下的采样率,并且可以是指表示音频数据或图像数据的质量的各种变量,包括图像数据情况下的分辨率),第一电子装置310和第二电子装置320可以使用定义的方案、例如在会话描述协议(SDP)中进行相互协商。第一电子装置310和第二电子装置320可以经由相互协商来确定要发送的音频数据和/或图像数据的特性,并且可以使用确定的特性来发送或接收音频数据或图像数据。下面将参照图4和图5更详细地描述第一电子装置310和第二电子装置320之间的呼叫连接的相互协商过程的示例实施例。
图3A是示出在第一电子装置310和第二电子装置320之间处理音频数据的示例的示图。
根据各种实施例,第一电子装置310可以包括:第一电子装置310的麦克风311(例如,图1的输入装置150),接收用户的语音;发送滤波器313;编码器315,被配置为编码由发送滤波器313发送的音频数据以压缩音频数据;以及分组器317,被配置为将编码音频数据转换为分组形式的音频分组数据。
根据各种实施例,发送滤波器313可以被配置为对由麦克风311发送的用户的音频数据执行滤波。发送滤波器313可以在由麦克风311生成的音频数据输入到编码器315之前执行预处理(例如,滤波),以生成具有比由麦克风311生成的音频数据的采样率更低的采样率的音频数据(例如,下缩放(downscale))。发送滤波器313可以生成具有低采样率的音频数据,并且可以将生成的音频数据发送到编码器315,从而减小要发送到第二电子装置320的音频数据的大小。
根据各种实施例,可以使用各种算法来实现发送滤波器313,并且可以在尽可能地保持由麦克风311生成的音频内容的质量的同时,生成具有相对低采样率的音频内容。
根据各种实施例,第二电子装置320可以包括:解分组器321,被配置为将经由网络330接收的音频数据分组转换为编码音频数据;解码器323,被配置为对已经由解分组器321转换的编码音频数据进行解码;接收滤波器325,被配置为改变解码音频数据的采样率;以及扬声器327(例如,图1的音频输出装置155),被配置为输出由接收滤波器生成的音频数据。
根据各种实施例,接收滤波器325可以被配置为对由解码器323生成的解码音频数据执行滤波。接收滤波器325可以对解码音频数据进行后处理(例如,滤波),以生成具有比与解码音频数据相对应的采样率更高的采样率的音频数据(上缩放(upscale))。接收滤波器325可以生成具有比与解码音频数据相对应的采样率更高的采样率的音频内容,并且可以将生成的音频内容发送到扬声器327。
根据各种实施例,接收滤波器325可以使用各种算法来实现,并且可以生成具有与由麦克风311生成的音频内容尽可能相似的质量的音频内容。
根据各种实施例,发送滤波器313和接收滤波器325可以包括学习以尽可能地保持原始图像的质量的滤波器,并且可以是由电子装置101的神经处理单元用于处理音频数据或图像数据的滤波器。
图3B是示出在第一电子装置310和第二电子装置320之间处理图像数据的示例的示图。
根据各种实施例,第一电子装置310可以包括:相机341(例如,图1的相机模块180),被配置为获取包括至少一个静止图像的图像数据;发送滤波器343;编码器345,被配置为对由发送滤波器343发送的图像数据进行编码,以压缩图像;以及分组器347,被配置为将编码图像数据转换成分组形式的图像数据。
根据各种实施例,发送滤波器343可以被配置为对图像数据执行滤波。发送滤波器343可以在由相机341生成的图像数据被输入到编码器345之前执行预处理(例如,滤波),以生成具有比相机341生成的图像数据的分辨率更低的分辨率的图像数据(例如,下缩放)。发送滤波器343可以生成具有相对低分辨率的图像数据,并且可以将生成的图像数据发送到编码器345,从而减小要发送到第二电子装置320的图像数据的大小。
根据各种实施例,可以使用各种算法来实现发送滤波器343,并且可以在尽可能地保持由相机341生成的图像数据的质量的同时,生成具有相对低分辨率的图像数据。
根据各种实施例,第二电子装置320可以包括:解分组器351,被配置为将经由网络330接收的图像数据分组转换为编码图像数据;解码器353,被配置为对已经由解分组器351转换的编码图像数据进行解码;接收滤波器355,被配置为改变解码图像数据的分辨率;以及显示器357(例如,图1的显示装置160),被配置为输出由接收滤波器355生成的图像数据。
根据各种实施例,接收滤波器355可以被配置为对由解码器353生成的解码图像数据执行滤波。接收滤波器355可以对解码音频数据进行后处理(例如,滤波),以便生成具有比与解码音频数据相对应的分辨率更高的分辨率的图像数据(上缩放)。接收滤波器355可以将具有相对高分辨率的图像数据发送到显示器357。
根据各种实施例,接收滤波器355可以使用各种算法来实现,并且可以生成具有与由相机341生成的图像数据尽可能相似的质量的图像数据。
根据各种实施例,发送滤波器343和接收滤波器355可以包括学习以尽可能地保持原始音频的质量的滤波器,并且可以是由电子装置101的神经处理单元用于处理音频数据或图像数据的滤波器。
根据各种实施例,发送滤波器313和343以及接收滤波器325和355可以是使用相同算法实现的滤波器,并且可以在单个对中执行对音频数据或图像数据的滤波。成对的发送滤波器313和343以及接收滤波器325和355的操作例如可以是指利用使用相同算法实现的滤波器对音频数据或图像数据执行滤波。如果第一电子装置310和第二电子装置320使用通过相同算法实现的发送滤波器313和343以及接收滤波器325和355,则第二电子装置320可以获取具有与第一电子装置310生成的内容(例如,音频数据或图像数据)相似质量的内容。
根据各种实施例,如果第一电子装置310和第二电子装置320在呼叫连接之前获取发送滤波器313和343以及接收滤波器325和355的信息或者关于是否支持发送滤波器313和343以及接收滤波器325和355的信息,则第一电子装置310和第二电子装置320可以在呼叫连接之后开始呼叫之前完成内容的发送或接收的准备。如果在呼叫连接之后第一电子装置310和第二电子装置320获取关于发送滤波器313和343以及接收滤波器325和355的信息,则可以改变硬件实现的元件的配置以使用发送滤波器313和343以及接收滤波器325和355来执行呼叫,并且由于在呼叫期间电子装置101的元件的配置的改变而可能发生呼叫断开。
根据各种实施例,包括在第一电子装置310和第二电子装置320中的各种元件(例如,发送滤波器313和343、编码器315和345、分组器317和347、解分组器321和351、解码器323和353以及接收滤波器325和355)可以以软件或硬件或其任何组合来实现(例如,以电路或芯片来实现)。
在下文中,描述了示例实施例,其中第一电子装置310和第二电子装置320在呼叫连接之前获取关于是否支持发送滤波器313和接收滤波器325的信息。
图4A是示出根据各种实施例的示例电子装置的框图。
根据各种实施例,图4A中示出的电子装置400(例如,图1的电子装置101或图3A和图3B的第一电子装置310)可以包括包括通信模块(例如,包括通信电路)410(例如,图1的无线通信模块192)和处理器(例如,包括处理电路)420(例如,图1的处理器120)。
根据各种实施例,通信模块410可以包括各种通信电路,并且使用通过与外部电子装置(例如,图3A和图3B的第二电子装置320)的呼叫连接建立的通信信道(例如,蜂窝通信信道)发送音频数据和/或图像数据。
根据各种实施例,处理器420可以包括各种处理电路,并且使用在会话描述协议中定义的方案与外部电子装置执行协商,以确定当在外部电子装置和电子装置400之间连接呼叫时发送或接收的数据的特性。
在下文中,假定电子装置400对应于发送终端(例如,图3A的第一电子装置310),并且外部电子装置对应于第二电子装置(例如,图3A的第二电子装置320),并且示例实施例提供了在呼叫连接之前获取关于是否支持发送滤波器313和接收滤波器325的信息的描述。
根据各种实施例,处理器420可以控制通信模块410,以便从外部电子装置320发送用于在外部电子装置320和电子装置400之间建立呼叫信道的呼叫连接请求消息。例如,呼叫连接请求消息可以以例如在SDP中定义的SDP邀请消息的形式实现。
根据各种实施例,呼叫连接请求消息可以包括可以由电子装置400发送的音频数据或图像数据的质量信息。例如,音频数据的质量信息可以包括可以是使用麦克风(例如,图3A的麦克风311)生成的音频数据的采样率、可以通过网络(例如,图3A的网络320)发送的音频数据的采样率或可以由外部电子装置接收的音频数据的采样率。图像数据的质量信息可以包括可以使用相机(例如,图3B的相机341)生成的图像数据的分辨率、可以通过网络320发送的图像数据的分辨率或者可以由外部电子装置接收的图像数据的分辨率。
根据各种实施例,为了在呼叫连接完成之前确定是否支持外部电子装置320、发送滤波器313和343以及接收滤波器325和355,处理器420可以控制电子装置310将呼叫连接请求消息发送到外部电子装置320,所述呼叫连接请求消息包括关于发送滤波器313和343的信息以及与发送滤波器313和343有关的电子装置400的能力信息。
根据各种实施例,呼叫连接请求消息可以包括发送滤波器313和343的识别信息。处理器420可以在呼叫连接请求消息中包括发送滤波器313和343的识别信息。发送滤波器313和343的识别信息可以包括例如但不限于以下中的至少一个:发送滤波器313和343的型号信息、版本信息、包含关于发送滤波器313和343能够处理的音频数据的最大采样率的信息的能力信息、图像数据的最大分辨率等。
根据各种实施例,呼叫连接请求消息可以包括与发送滤波器313和343有关的电子装置400的能力信息。处理器420可以在呼叫连接请求消息中包括与发送滤波器313和343有关的电子装置400的能力信息。与发送滤波器313和343有关的电子装置400的能力信息可以包括指示是否可以使用发送滤波器313和343对音频数据或图像数据进行预处理的信息。例如,处理器420可以在呼叫连接请求消息中包括指示可以支持使用特定算法对音频数据或图像数据进行预处理的指示符。使用特定算法对音频数据或图像数据进行预处理例如可以是指在使用发送滤波器(例如,图3A的发送滤波器313或图3B的发送滤波器343)对音频数据或图像数据进行编码之前的预处理,所述发送滤波器被实现为由电子装置400的神经处理处理器(NPU)处理。
根据各种实施例,与发送滤波器313和343有关的电子装置400的能力信息可以包括指示电子装置400是否具有能够使用发送滤波器313和343来预处理音频数据或图像数据的元件(例如,中央处理装置(CPU)、图形处理装置(GPU)或神经处理装置(NPU))的信息。例如,呼叫连接请求消息可以包括指示包括能够使用发送滤波器313和343对音频数据或图像数据进行预处理的神经处理装置的指示符。呼叫连接请求消息可以包括能够使用发送滤波器313和343对音频数据或图像数据进行预处理的元件的信息。例如,能够对音频数据或图像数据进行预处理的元件的信息可以包括能够对音频数据或图像数据进行预处理的元件的能力和识别信息。
根据各种实施例,处理器420可以将包括与发送滤波器313和343有关的包括电子装置的能力信息的呼叫连接请求消息发送到外部电子装置320。处理器420可以从外部电子装置320接收响应于呼叫连接请求消息的响应消息。例如,响应消息可以以在SDP协议中定义的SDP 200OK消息的形式实现。
根据各种实施例,由外部电子装置320发送的响应消息可以包括与呼叫连接有关的外部电子装置320的能力信息。基于包括在呼叫连接请求消息中的电子装置400的能力信息,外部电子装置320可以选择电子装置400可支持的数据传输方案(例如,在音频数据的采样方案和采样率或图像数据的压缩格式和分辨率中,外部电子装置320可支持的数据传输方案)。外部电子装置320的能力信息可以包括关于由外部电子装置320选择的数据传输方案的信息。
根据各种实施例,外部电子装置320的能力信息可以包括关于元件(例如,软件实现元件(例如,图3A的接收滤波器325和图3B的接收滤波器355)或硬件实现元件(例如,神经处理单元))的信息,所述元件能够处理由电子装置400支持的通过预处理音频数据或图像数据而生成的预处理音频数据或预处理图像数据。
根据各种实施例,处理器420可以基于在响应消息中包括的外部电子装置320的能力信息来确定是否使用发送滤波器313和343。处理器420可以使用发送滤波器313和343对要发送的数据进行预处理。
根据各种实施例,处理器420可以将呼叫连接确认消息发送到外部电子装置320,呼叫连接确认消息包括指示是否使用发送滤波器313和343的指示符。
根据各种实施例,呼叫连接确认消息可以是指示使用包括在响应消息中的音频数据或图像数据的传输方案来执行呼叫连接的消息。
根据各种实施例,电子装置400可以对到已经接收到呼叫连接确认消息的外部电子装置320的呼叫连接执行各种操作,其中,操作包括例如但不限于:激活麦克风311以生成音频数据;激活相机341以生成图像数据;激活被配置为使用发送滤波器313和343来预处理音频数据或图像数据的元件(例如,NPU);控制通信模块410发送或接收用于呼叫信道建立的数据;等等。
根据各种实施例,通过在呼叫连接请求消息中包括与发送滤波器313和343有关的电子装置400的能力信息,处理器420可以在完成到外部电子装置320的呼叫连接之前激活发送滤波器313和343。因此,在完成呼叫连接之后,发送滤波器313和343的激活可以防止可能发生的呼叫信道质量下降,或者可以改善使用呼叫信道的呼叫质量。
图4B是示出根据各种实施例的示例电子装置的框图。
参照图4B,根据各种实施例的电子装置400可以包括:呼叫连接管理器(例如,包括处理电路和/或可执行程序元件)430,被配置为执行或管理呼叫连接;音频数据处理器(例如,包括处理电路和/或可执行程序元件)440,被配置为发送音频数据或处理接收的音频数据;图像数据处理器(例如,包括处理电路和/或可执行程序元件)450,被配置为发送图像数据或处理接收的图像数据;存储器461(例如,图1的存储器130);相机462(例如,图1的相机模块180);麦克风463(例如,图1的输入装置(150));显示器464(例如,图1的显示装置160);扬声器465(例如,图1的声音输出装置155)以及神经处理单元(例如,包括处理电路和/或可执行程序元件)466。
根据各种实施例,呼叫连接管理器430可以包括:SDP解析器431,被配置为在执行呼叫连接的同时解析从外部电子装置(例如,图3A和图3B的第二电子装置320)接收的消息;SDP编写器432,被配置为生成发送到外部电子装置320的用于执行呼叫连接的消息;呼叫会话管理器433,被配置为管理呼叫会话的连接或终止;以及媒体处理确定单元434,被配置为基于包括在从外部电子装置320接收的响应消息中的外部电子装置320的能力信息,确定是否使用特定滤波器处理数据。
根据各种实施例,就发送音频数据而言,音频数据处理器440可以包括:音频获取单元441,被配置为使用麦克风463获取音频数据;音频发送滤波器442(例如,图3A的发送滤波器313),被配置为对音频数据执行滤波;音频编码器443(例如,图3A的编码器315),被配置为对由发送滤波器442发送的音频数据进行编码以压缩音频数据;以及分组器444(例如,图3A的分组器317),被配置为将编码音频数据转换成分组形式的音频分组数据。
根据各种实施例,就接收音频数据而言,音频数据处理器440可以包括:解分组器445(例如,图3A的解分组器321),被配置为将从外部电子装置320接收的音频分组数据转换成编码音频数据;音频解码器446(例如,图3A的解码器323),被配置为对编码音频数据进行解码;音频接收滤波器447(例如,图3A的接收滤波器325),被配置为改变解码音频数据的采样率;以及音频输出单元448,被配置为通过扬声器465输出音频。
根据各种实施例,就发送图像数据而言,图像数据处理器450可以包括:图像获取单元451,被配置为获取由相机462捕获的图像;图像发送滤波器452(例如,图3B的发送滤波器343),被配置为对图像数据执行滤波;图像编码器453(例如,图3B的编码器345),被配置为对图像数据进行编码以压缩图像数据;以及分组器454(例如,图3B的分组器347),被配置为将编码图像数据转换成分组形式的图像分组数据。
根据各种实施例,就接收图像数据而言,图像数据处理器450可以包括:解分组器455(例如,图3B的解分组器351),被配置为将从外部电子装置320接收的图像分组数据转换成编码图像数据;图像解码器456(例如,图3B的解码器353),被配置为对已经由解分组器455转换的编码图像数据进行解码;图像接收滤波器457(例如,图3B的接收滤波器355),被配置为改变解码图像数据的分辨率;以及图像输出单元458,被配置为通过显示器464输出由接收滤波器457生成的图像数据。
根据各种实施例,SDP编写器432可以基于呼叫会话管理器433的控制生成呼叫连接请求消息,并且可以通过通信模块410将呼叫连接请求消息发送到外部电子装置320。例如,呼叫连接请求消息可以以SDP中定义的SDP邀请消息的形式实现。
根据各种实施例,呼叫连接请求消息可以包括例如:关于音频发送滤波器442和图像发送滤波器452的信息;指示符,被配置为指示使用特定算法(例如,使用NPU的预处理算法)对音频数据或图像数据进行预处理是否是可支持的;以及电子装置400的能力信息,与音频发送滤波器442和图像发送滤波器452有关。
根据各种实施例,SDP解析器431可以解析通过通信模块410接收的响应消息。响应消息可以包括与外部电子装置320的音频接收滤波器(例如,图3A的接收滤波器325)和图像接收滤波器(例如,图3B的接收滤波器355)有关的外部电子装置320的能力信息。例如,响应消息可以包括:指示符,被配置为指示与使用包括的特定算法对音频数据或图像数据进行预处理相对应的后处理是否是可支持的;以及指示符,被配置为指示电子装置400是否具有能够使用音频接收滤波器325和图像接收滤波器355对音频数据或图像数据进行后处理的元件(例如,中央处理装置(CPU)、图形处理装置(GPU)或神经处理装置(NPU))。
根据各种实施例,可以通过呼叫会话管理器433将通过SDP解析器431解析响应消息而提取的外部电子装置320的能力信息发送给媒体处理确定单元434。
根据各种实施例,媒体处理确定单元434可以基于外部电子装置320的能力信息来确定是使用音频发送滤波器442预处理音频数据还是使用图像发送滤波器452预处理图像数据。
根据各种实施例,媒体处理确定单元434可以检查指示是否支持使用包括在响应消息中的算法对音频数据或图像数据进行后处理的指示符,并且可以确定使用特定算法对音频数据或图像数据进行预处理。
根据各种实施例,媒体处理确定单元434可以检查外部电子装置320的能力信息,并且可以确定外部电子装置320支持使用特定算法对音频数据或图像数据进行预处理。
根据各种实施例,媒体处理确定单元434可以响应于确定对音频数据或图像数据进行预处理而激活音频发送滤波器442、图像发送滤波器452以及被配置为使用音频发送滤波器442和图像发送滤波器452对音频数据或图像数据进行预处理的元件(例如,NPU 466)。
根据各种实施例,呼叫会话管理器433可以通过通信模块410向外部电子装置320发送指示是使用音频发送滤波器442还是图像发送滤波器452的呼叫连接确认消息。
在下文中,描述了这样的示例实施例:如果电子装置400对应于接收终端(例如,图3A的第二电子装置320),则在呼叫连接之前获取关于是否支持发送滤波器313和接收滤波器325的信息。
根据各种实施例,在电子装置400的处理器420上实现的元件可以是软件实现元件,但是一些元件可以根据设计方案在硬件中实现,或者可以包括硬件和软件的组合。
图5是示出根据各种实施例的示例电子装置的框图。
根据各种实施例,图5中示出的电子装置500(例如,图1的电子装置101或图3A和图3B的第一电子装置320)可以包括通信模块(例如,包括通信电路)510(例如,图1的无线通信模块192)和处理器(例如,包括处理电路)520(例如,图1的处理器120)。
根据各种实施例,通信模块510可以包括各种通信电路,并且使用通过呼叫连接建立的通信信道(例如,蜂窝通信信道)向外部电子装置(例如,图3A和图3B的第一电子装置310)发送音频数据和/或图像数据。
根据各种实施例,处理器520可以包括各种处理电路,并且使用在会话描述协议中定义的方案与外部电子装置执行协商,以确定当在外部电子装置310和电子装置500之间连接呼叫时发送或接收的数据的特性。
根据各种实施例,处理器520可以从外部电子装置310接收用于在外部电子装置310和电子装置500之间建立呼叫信道的呼叫连接请求消息。例如,呼叫连接请求消息可以以在SDP中定义的SDP邀请消息的形式实现。
根据各种实施例,呼叫连接请求消息可以是与图4A和4B中描述的呼叫连接请求消息相同的消息。如图4A和4B所示,呼叫连接请求消息可以包括与发送滤波器313和343有关的外部电子装置310的能力信息以及发送滤波器313和343的识别信息,这包括可以由外部电子装置310发送的音频数据或图像数据的质量信息、外部电子装置310的发送滤波器313和343的型号信息、版本信息和发送滤波器313和343的能力信息中的至少一个。
根据各种实施例,处理器520可以响应于呼叫连接请求消息的接收来检查包括在呼叫连接请求消息中的外部电子装置310的能力信息。外部电子装置310的能力信息可以包括指示是否可支持使用在外部电子装置310中实现的发送滤波器(例如,图3A的发送滤波器313或图3B的发送滤波器343)对音频数据或图像数据进行预处理的信息。
根据各种实施例,处理器520可以基于在呼叫连接请求消息中包括的指示是否可以使用发送滤波器313和343对音频数据或图像数据进行预处理的信息,确定是否可以使用与发送滤波器313和343相对应的接收滤波器325和355对音频数据或图像数据进行后处理。处理器520可以检查关于包括在呼叫连接请求消息中的发送滤波器313和343的信息,可以确定是否存在与处理器520上实现的发送滤波器313和343相对应的接收滤波器325和355,并且可以响应于确定存在与发送滤波器313和343相对应的接收滤波器325和355来确定是否可以使用接收滤波器325和355对音频数据或图像数据进行后处理。
根据各种实施例,基于包括在呼叫连接请求消息中的外部电子装置310的能力信息,处理器520可以选择外部电子装置310可支持的数据传输方案(例如,在音频数据的采样方案和采样率或图像数据的压缩格式和分辨率中,电子装置500可支持的数据传输方案)。
根据各种实施例,处理器520可以控制电子装置500向外部电子装置310发送包括关于选择的数据传输方案的信息的响应消息。例如,响应消息可以以SDP协议中定义的SDP200OK消息的形式实现。
根据各种实施例,包括在响应消息中的关于数据传输方案的信息可以包括与接收滤波器(例如,图3A的接收滤波器325或图3B的接收滤波器355)有关的电子装置500的能力信息,所述接收滤波器被配置为对在呼叫连接之后接收的接收数据或音频数据进行后处理,以调整接收数据或音频数据的质量。
根据各种实施例,响应消息可以包括指示可以使用特定算法对音频数据或图像数据进行后处理的指示符。
根据各种实施例,响应消息可以包括与接收滤波器325和355有关的电子装置500的能力信息。根据各种实施例,与接收滤波器325和355有关的电子装置500的能力信息可以包括指示符,指示电子装置500是否具有能够使用接收滤波器325和355对音频数据或图像数据进行后处理的元件(例如,中央处理装置(CPU)、图形处理装置(GPU)或神经处理装置(NPU))。例如,响应消息可以包括指示符,指示包括能够使用接收滤波器325和355对音频数据或图像数据进行后处理的神经处理装置。响应消息可以包括能够使用接收滤波器325和355对音频数据或图像数据进行后处理的元件的信息。例如,能够对音频数据或图像数据进行后处理的元件的信息可以包括:能够对音频数据或图像数据进行后处理的元件的能力和识别信息。
根据各种实施例,处理器520可以从外部电子装置310接收呼叫连接确认消息,该呼叫连接确认消息包括指示是否使用外部电子装置310的发送滤波器325和355的指示符。处理器520可以响应于确认外部电子装置310使用发送滤波器313和343而执行用于呼叫连接的各种操作(激活接收滤波器325和355以及相关元件,以及控制通信模块510发送或接收用于呼叫信道建立的数据)。
根据各种实施例,处理器520可以在呼叫连接协商过程中将电子装置500的能力信息发送到外部电子装置320。因此,处理器520可以在与外部电子装置320的呼叫连接完成之前激活接收滤波器325和355。因此,在呼叫连接完成之后,接收滤波器325和355的操作可以防止可能发生的呼叫信道质量下降,或者可以改善使用呼叫信道的呼叫质量。
图6是示出根据各种实施例的由第一电子装置和第二电子装置执行呼叫连接的示例操作的操作流程图。
在操作610中,根据各个实施例的第一电子装置(例如,图3A和图3B的第一电子装置310或图4的电子装置400)可以向第二电子装置(例如,图3A和图3B的第二电子装置320或图5的电子装置500)发送呼叫连接请求消息(例如,在SDP会话协议中定义的SDP邀请消息)。
根据各种实施例,为了确定在完成呼叫连接之前,第二电子装置320是否支持发送滤波器313和343以及接收滤波器325和355,第一电子装置310可以向第二电子装置320发送呼叫连接请求消息,该呼叫连接请求消息包括发送滤波器313和343的信息、指示使用特定算法(例如,使用NPU的预处理算法)对音频数据或图像数据进行预处理是否可支持的指示符以及与发送滤波器313和343有关的电子装置400的能力信息。例如,可以以例如在下面的表1中描述的形式来实现呼叫连接请求消息。
[表1]
参照表1,呼叫连接请求消息可以包括:指示符,指示是否支持使用特定算法对音频数据进行预处理(a=mediaproc);NPU信息以及是否支持使用神经处理单元(NPU)进行处理(a=npu:ver2.0);发送滤波器313和343的识别信息(upmodel=voice_up_coeff_1.1,upmodel=video_up_coeff_1.1);接收滤波器325和355的识别信息(downmodel=voice_down_coeff_1.1,downmodel=video_down_coeff_1.1);以及音频数据或图像数据的质量信息。
根据各种实施例,在操作620中,第二电子装置320可以检查与接收滤波器(例如,图3A的接收滤波器325或图3B的接收滤波器355)有关的第二电子装置320的能力。
根据各种实施例,第二电子装置320可以检查由第一电子装置310支持并且包括在呼叫连接请求消息中的音频数据或图像数据的传输方案,并且第二电子装置320可以从检查的传输方案中选择第二电子装置320支持的至少一个传输方案。
根据各种实施例,第二电子装置320可以检查用于支持选择的传输方案的、与接收滤波器325和355有关的第二电子装置320的能力。
根据各种实施例,与接收滤波器325和355有关的第二电子装置320的能力可以包括:是否支持与使用包括在呼叫连接请求消息中的特定算法对音频数据或图像数据的预处理相对应的后处理;以及第二电子装置320是否具有能够使用接收滤波器325和355对音频数据或图像数据进行后处理的元件(例如,中央处理装置(CPU)、图形处理装置(GPU)或神经处理装置(NPU))。
根据各种实施例,在操作630中,第二电子装置320可以向第一电子装置310发送响应消息(例如,在SDP协议中定义的SDP 200OK消息)。
根据各种实施例,响应消息可以包括与接收滤波器325和355有关的第二电子装置320的能力。例如,响应消息可以包括:指示与使用包括的特定算法对音频数据或图像数据的预处理相对应的后处理的是否是可支持的指示符;以及指示第二电子装置320是否具有能够使用接收滤波器325和355对音频数据或图像数据进行后处理的元件(例如,中央处理装置(CPU)、图形处理装置(GPU)或神经处理装置(NPU))的指示符。例如,可以以例如下面的表2中描述的形式来实现响应消息。
[表2]
参照表2,响应消息可以包括:指示符,指示是否支持使用特定算法对音频数据或图像数据进行后处理(a=mediaproc);NPU信息以及是否支持使用神经处理单元(NPU)进行处理(a=npu:ver2.0);发送滤波器313和343的识别信息(upmodel=voice_up_coeff_1.1,upmodel=video_up_coeff_1.1);接收滤波器325和355的识别信息(downmodel=voice_down_coeff_1.1,downmodel=video_down_coeff_1.1);以及音频数据和图像数据的质量信息。
根据各种实施例,在操作640中,第一电子装置310可以基于第二电子装置320的能力信息确定是否使用发送滤波器313和343对音频数据或图像数据进行预处理。
根据各种实施例,是否对音频数据或图像数据进行预处理例如可以是指使用发送滤波器313和343对音频数据或图像数据进行预处理。
根据各个实施例,第一电子装置310可以检查指示是否支持使用在响应消息中包括的特定算法对音频数据或图像数据进行后处理的指示符,并且第一电子装置310可以确定使用特定算法对音频数据或图像数据进行预处理。
根据各种实施例,在操作650中,第一电子装置310可以向第二电子装置320发送呼叫连接确认消息(例如,在SDP会话协议中定义的SDP ACK消息)。
根据各种实施例,呼叫连接确认消息可以是指示使用包括在响应消息中的音频数据或图像数据的传输方案执行呼叫连接的消息。
根据各种实施例,在操作661中,第一电子装置310可以为呼叫连接配置第一电子装置310的元件。
根据各种实施例,第一电子装置310可以基于在响应消息中包括的关于第二电子装置320支持的至少一个传输方案的信息(例如,音频数据的采样方案、音频数据的采样率、图像数据的压缩方案或图像数据的分辨率)来配置用于呼叫连接的元件。第一电子装置310可以通过各种操作配置用于呼叫连接的元件,包括激活麦克风311以生成音频数据,激活相机341以生成图像数据或者控制通信模块410发送或接收用于呼叫信道建立的数据。
根据各种实施例,在操作663中,第二电子装置320可以为呼叫连接配置第二电子装置320的元件。
根据各种实施例,第二电子装置320可以基于在响应消息中包括的关于第二电子装置320支持的至少一个传输方案的信息(例如,音频数据的采样方案、音频数据的采样率、图像数据的压缩方案或图像数据的分辨率)来配置用于呼叫连接的元件。第二电子装置320可以通过各种操作来配置用于呼叫连接的元件,包括激活麦克风311以生成音频数据,激活相机341以生成图像数据或控制通信模块510发送或接收用于呼叫信道建立的数据。
根据各种实施例,在操作670中,第一电子装置310和第二电子装置320可以完成呼叫连接并且可以使用呼叫信道执行呼叫。
根据各种实施例,第一电子装置310和第二电子装置320可以通过呼叫信道发送和/或接收音频数据和/或图像数据。第一电子装置310和第二电子装置320可以发送使用发送滤波器313和343预处理的音频数据或图像数据,或者可以使用接收滤波器325和355对接收的音频数据或图像数据进行后处理,以获取具有类似于原始数据或图像数据的质量的音频数据或图像数据。
图7是示出根据各种实施例的在电子装置中执行用于内容发送或接收的配置的示例屏幕的示图。
根据各种实施例,第一电子装置(例如,图6的第一电子装置310)和第二电子装置(例如,图6的第二电子装置320)可以利用使用特定算法的音频数据或图像数据处理方案将音频数据或图像数据发送到对方电子装置。可以对音频数据或图像数据进行预处理或后处理的滤波器(例如,图3A和图3B的发送滤波器313和343,或图3A和图3B的接收滤波器325和355)可以通过机器学习生成以展现高性能。通过机器学习生成的滤波器可以由电子装置的神经处理装置使用。使用通过机器学习生成的滤波器对音频数据或图像数据进行处理可以改善声音质量或图像质量,但是可能会增加功耗。
根据各个实施例的电子装置(例如,图4的电子装置400或图5的电子装置500)可以根据用户配置来确定是预处理还是后处理音频数据。
参照图7,电子装置400可以在显示器710(例如,图1的显示装置160)上显示屏幕,该屏幕使得能够选择是否在呼叫连接期间应用声音质量增强功能711,或者是否在呼叫连接期间应用图像质量增强功能713。电子装置400可以基于用户输入来确定是否激活声音质量增强功能或图像质量增强功能。
根据各种实施例,电子装置400可以根据电子装置400的状态来确定是否激活声音质量增强功能或图像质量增强功能。例如,电子装置400可以响应于确定剩余电池容量等于或小于预先配置值而确定停用声音质量增强功能或图像质量增强功能。作为另一示例,电子装置400可以响应于确定用于呼叫连接的蜂窝通信的质量具有等于或小于预先配置值而确定激活声音质量增强功能或图像质量增强功能。
根据各种示例实施例的电子装置可以包括:通信模块,包括通信电路,被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道发送和/或接收数据;处理器,其中,处理器被配置为控制电子装置,以:发送呼叫连接请求消息以建立外部电子装置与电子装置之间的呼叫信道;从外部电子装置接收响应消息;基于与呼叫连接有关并包括在响应消息中的外部电子装置的能力信息,确定是否使用被配置为改变内容质量的发送滤波器对通过呼叫连接发送的内容进行预处理;向外部电子装置发送指示是否对内容进行预处理的呼叫连接确认消息;以及控制通信模块完成建立呼叫信道,其中,连接请求消息包括与滤波器有关的电子装置的能力信息。
在根据各种示例实施例的电子装置中,电子装置的能力信息可以包括被配置为指示是否存在被配置为处理发送滤波器的电子装置的元件的指示符。
在根据各种示例实施例的电子装置中,电子装置的元件可以包括神经处理单元(NPU)。
在根据各种示例实施例的电子装置中,呼叫连接请求消息可以被配置为包括NPU的识别信息。
在根据各种示例实施例的电子装置中,呼叫连接请求消息可以被配置为包括发送滤波器的识别信息。
在根据各种示例实施例的电子装置中,电子装置的能力信息可以包括可以使用发送滤波器处理的内容的分辨率或采样率。
在根据各种示例实施例的电子装置中,呼叫连接请求消息可以包括被配置为指示是否支持基于发送滤波器的内容处理的指示符。
在根据各种示例实施例的电子装置中,处理器可以被配置为基于响应消息确定在外部电子装置中是否存在与发送滤波器相对应的接收滤波器,并且基于确定的结果确定是否使用发送滤波器。
在根据各种示例实施例的电子装置中,处理器可以被配置为响应于确定使用发送滤波器而在呼叫连接完成之前控制电子装置激活发送滤波器以及控制发送滤波器的元件。
根据各种示例实施例的电子装置可以包括:通信模块,包括通信电路,被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道发送和/或接收数据;以及处理器,其中,处理器被配置为控制电子装置以:接收呼叫连接请求消息以建立外部电子装置与电子装置之间的呼叫信道;向外部电子装置发送响应消息,该响应消息包括与用于对通过呼叫连接接收的内容进行预处理的接收滤波器有关的电子装置的能力信息;从外部电子装置接收呼叫连接确认消息,该呼叫连接确认消息包括指示是否使用与接收滤波器相对应的发送滤波器对内容进行预处理的指示符;以及基于指示符激活接收滤波器。
在根据各种示例实施例的电子装置中,电子装置的能力信息可以包括被配置为指示是否存在被配置为处理接收滤波器的电子装置的元件的指示符。
在根据各种示例实施例的电子装置中,电子装置的元件可以包括神经处理单元(NPU)。
在根据各种示例实施例的电子装置中,响应消息可以被配置为包括接收滤波器的识别信息。
在根据各种示例实施例的电子装置中,响应消息可以包括被配置为指示是否支持基于接收滤波器的内容处理的指示符。
图8是示出根据各种实施例的电子装置的示例操作方法的流程图。
根据各种实施例,在操作810中,电子装置(例如,图4的电子装置400)可以向外部电子装置(例如,图5的电子装置500)发送呼叫连接请求消息以建立呼叫信道。
根据各种实施例,为了在完成呼叫连接之前确定外部电子装置500是否支持使用特定算法的音频数据或图像数据的后处理,电子装置400可以向外部电子装置500发送呼叫连接请求消息,该呼叫连接请求消息包括:指示使用特定算法(例如,使用NPU的预处理算法)对音频数据或图像数据进行预处理是否是可支持的指示符;以及与发送滤波器313和343有关的电子装置400的能力信息。
根据各种实施例,在操作820中,电子装置400可以从外部电子装置500接收响应消息,该响应消息包括与呼叫连接有关的外部电子装置500的能力信息。
根据各种实施例,响应消息可以包括与接收滤波器325和355有关的外部电子装置500的能力。例如,响应消息可以包括:指示与使用包括的特定算法对音频数据或图像数据的预处理相对应的后处理是否是可支持的指示符;以及指示外部电子装置500是否具有能够使用接收滤波器325和355对音频数据或图像数据进行后处理的元件(例如,中央处理装置(CPU)、图形处理装置(GPU)或神经处理装置(NPU))的指示符。
根据各种实施例,在操作830中,电子装置400可以基于外部电子装置500的能力信息确定是否预处理内容(例如,音频数据或图像数据)。
根据各种实施例,内容的预处理可以是指例如在将内容输入到编码器(例如,图3A的编码器315或图3B的编码器345)之前使用发送滤波器313和343对音频数据或图像数据进行预处理。
根据各种实施例,电子装置400可以检查指示是否支持使用包括在响应消息中的特定算法对音频数据或图像数据进行后处理的指示符,并且电子装置400可以确定使用特定算法对音频数据或图像数据进行预处理。
根据各种实施例,电子装置400可以检查外部电子装置500的能力信息,并且可以确定外部电子装置500支持使用特定算法对音频数据或图像数据的预处理。
根据各种实施例,在操作840中,电子装置400可以将指示是否使用发送滤波器的呼叫连接确认消息发送到外部电子装置500。
根据各种实施例,呼叫连接确认消息可以是指示使用包括在响应消息中的音频数据或图像数据的传输方案执行呼叫连接的消息。
图9是示出根据各种实施例的电子装置的示例操作方法的流程图。
根据各种实施例,在操作910中,电子装置(例如,图5的电子装置500)可以从外部电子装置(例如,图4的电子装置400)接收呼叫连接请求消息以建立呼叫信道。
根据各种实施例,呼叫连接请求消息可以包括:可以由外部电子装置500发送的音频数据或图像数据的质量信息、外部电子装置500的发送滤波器313和343的型号信息、版本信息、包括发送滤波器313和343的能力信息的发送滤波器313和343的识别信息以及与发送滤波器313和343有关的外部电子装置500的能力信息。
根据各种实施例,在操作920中,电子装置500可以向外部电子装置400发送响应消息,该响应消息包括与用于调整内容(例如,音频数据或图像数据)的质量的接收滤波器有关的能力信息。
根据各种实施例,在操作930中,电子装置500可以接收指示是否使用外部电子装置400的发送滤波器313和343的呼叫连接确认消息。
根据各种实施例,在操作940中,电子装置500可以配置电子装置500的元件用于呼叫连接。
根据各种实施例,电子装置500可以基于在响应消息中包括的关于电子装置500支持的至少一个传输方案的信息(例如,音频数据的采样方案、音频数据的采样率、图像数据的压缩方案或者图像数据的分辨率)来配置用于呼叫连接的元件。电子装置500可以通过各种操作来配置用于呼叫连接的元件,包括激活麦克风311以生成音频数据,激活相机341以生成图像数据或者控制通信模块510发送或接收用于呼叫信道建立的数据。
上述实施例是在第一电子装置310和第二电子装置320之间的呼叫连接之前获取关于是否支持发送滤波器313和接收滤波器325的信息的实施例。根据各种实施例,可以在呼叫连接之前获取包括是否支持发送滤波器313和接收滤波器325的各种信息。根据实施例,当执行视频呼叫连接时,第一电子装置310和第二电子装置320可以在呼叫连接之前获取包括是否支持用于视频呼叫的各种方案的信息。例如,第一电子装置310和第二电子装置320可以在呼叫连接之前获取执行视频呼叫的各种方案中关于是否支持通过交换用于渲染图像的数据(或信息)而不发送图像执行视频呼叫的方案(以下称为例如基于元数据的视频呼叫)的信息。
根据各种实施例,基于元数据的视频呼叫方案可以是指交换元数据、例如用于生成包括图像的表情符号的数据的视频呼叫方案。基于元数据的视频呼叫方案可以是在不交换图像数据的情况下、交换尺寸小于在视频呼叫期间输出的图像数据的尺寸的元数据的方案。通过将元数据应用于存储在电子装置中的表情符号模型(例如,3D建模数据)的方案,已经接收到元数据的电子装置可以生成包括反映元数据的特性(例如,特征)的表情符号的至少一帧。电子装置可以生成(例如,渲染)包括至少一帧的图像数据,并且可以在显示器(例如,图1的显示装置160)上输出图像数据。表情符号可以例如是与电子装置(例如,第一电子装置310和/或第二电子装置320)的用户相对应的图像,并且可以是通过将元数据输入到在电子装置310和320中存储的建模数据的方案而生成的图像。基于元数据的视频呼叫方案可以通过交换尺寸小于图像数据的尺寸的元数据来减少用于视频呼叫的数据。
在下文中,将更详细地描述在第一电子装置310和第二电子装置320之间的呼叫连接之前获取与基于元数据的视频呼叫有关的信息的描述。
图10A是根据各个实施例的电子装置的框图。
根据各种实施例,图10A中示出的电子装置1000(例如,图1的电子装置101、图3A和图3B的第一电子装置310,或图4的电子装置400)可以包括通信模块(例如,包括通信电路)1010(例如,图1的无线通信模块192)和处理器(例如,包括处理电路)1020(例如,图1的处理器120)。
根据各种实施例,通信模块1010可以包括各种通信电路,并且使用通过到外部电子装置(例如,图3A和图3B的第二电子装置320)的呼叫连接建立的通信信道(例如,蜂窝通信信道)发送音频数据和/或图像数据。
根据各种实施例,处理器1020可以包括各种处理电路,并且使用在会话描述协议中定义的方案与外部电子装置执行协商,以确定当在外部电子装置和电子装置1000之间连接呼叫时发送或接收的数据的特性。
在下文中,为了描述的简单和方便,假定电子装置1000对应于发送终端(例如,图3A的第一电子装置310),并且外部电子装置对应于第二电子装置(例如,图3A的第二电子装置320),将描述在呼叫连接之前获取关于是否支持基于元数据的视频呼叫的信息的特定实施例。
根据各种实施例,处理器1020可以响应于检测到视频呼叫应用的执行(或在视频呼叫应用的执行期间来自外部电子装置320的请求视频呼叫的用户输入)而激活相机(例如,图1的相机模块180),该视频呼叫应用执行与第二电子装置320的视频呼叫,并且可以在显示器(例如,图1的显示装置160)上显示使用相机180收集的预览图像。
根据各种实施例,处理器1020可以控制通信模块1010,使得从外部电子装置320发送用于在外部电子装置320和电子装置1000之间建立呼叫信道的呼叫连接请求消息。呼叫连接请求消息可以以在SDP中定义的SDP邀请消息的形式实现。
根据各种实施例,呼叫连接请求消息可以包括能够由电子装置1000发送的音频数据或图像数据的质量信息。例如,音频数据的质量信息可以包括可以使用麦克风(例如,图3A的麦克风311)生成的音频数据的采样率、可以通过网络(例如,图3A的网络320)发送的音频数据的采样率或可以由外部电子装置接收的音频数据的采样率。图像数据的质量信息可以包括可以使用相机(例如,图3B的相机341)生成的图像数据的分辨率、可以通过网络320发送的图像数据的分辨率或可以由外部电子装置接收的图像数据的分辨率。
根据各种实施例,为了在呼叫连接完成之前确定外部电子装置320是否支持基于元数据的视频呼叫,处理器1020可以向外部电子装置320发送包括与是否支持基于元数据的视频呼叫有关的电子装置1000的能力信息的呼叫连接请求消息。
根据各种实施例,电子装置1000的能力信息可以包括指示是否存在基于元数据的视频呼叫方案中所需的电子装置1000的元件的信息。根据实施例,电子装置1000的元件可以包括能够渲染表情符号的至少一个3D模型,并且电子装置1000的能力信息可以包括指示在电子装置1000中是否存在表情符号模型(或一组表情符号模型)的信息。
根据各种实施例,呼叫连接请求消息可以包括反映在基于元数据的视频呼叫方案中所需的模型的识别信息。模型的识别信息可以包括模型的版本信息(例如,指示可以通过模型使用元数据生成的表情符号的类型(例如,人、动物或外星人)的信息)、模型的制造商信息和模型使用的标准(例如,MPEG-4面部和身体动画)。
根据各种实施例,处理器1020可以从外部电子装置320接收响应于呼叫连接请求消息的响应消息。例如,响应消息可以以在SDP协议中定义的SDP 200 OK消息的形式实现。
根据各种实施例,由外部电子装置320发送的响应消息可以包括与呼叫连接有关的外部电子装置320的能力信息。
根据各种实施例,基于包括在呼叫连接请求消息中的电子装置1000的能力信息,外部电子装置320可以选择电子装置1000可支持的数据传输方案(例如,在音频数据的采样方案和采样率或图像数据的压缩格式和分辨率中,外部电子装置320可支持的数据传输方案)。外部电子装置320的能力信息可以包括关于外部电子装置320选择的数据传输方案的信息。
根据各种实施例,外部电子装置320的能力信息可以包括关于支持在外部电子装置320和电子装置1000之间执行的基于元数据的视频呼叫方案的元件(例如,软件实现的元件(例如,反映元数据的模型)或硬件实现的元件(例如,图形处理单元(GPU))或其任意组合。
根据各种实施例,处理器1020可以基于在响应消息中包括的外部电子装置320的能力信息,确定是否执行基于元数据的视频呼叫。
根据各种实施例,处理器1020可以检查包括在响应消息中的外部电子装置320的能力信息,可以确定外部电子装置320是否可以支持基于元数据的视频呼叫,或者如果支持基于元数据的视频呼叫,则可以检查用于基于元数据的视频呼叫的模型信息或用于生成将用于基于元数据的视频呼叫的元数据的标准信息。
根据各种实施例,处理器1020可以将呼叫连接确认消息发送到外部电子装置320,该呼叫连接确认消息包括指示是否支持基于元数据的视频呼叫的指示符或指示是否使用元数据执行渲染的指示符。
根据各种实施例,呼叫连接确认消息可以是指示使用包括在响应消息中的音频数据或图像数据的传输方案来执行呼叫连接的消息。呼叫连接确认消息可以是例如在SDP会话协议中定义的SDP ACK消息。
根据各种实施例,电子装置1000可以执行用于与已经接收到呼叫连接确认消息的外部电子装置320的呼叫连接的各种操作,其中,这些操作包括例如:激活麦克风311以生成音频数据;激活相机341以生成图像数据;激活图像渲染器(图形库和/或图形处理装置(GPU))以渲染要在屏幕上输出的图像数据;激活用于基于元数据的视频呼叫的模型;或者控制通信模块1010发送或接收用于呼叫信道建立的数据。可以使用由正在运行的视频呼叫应用提供的功能来实现由电子装置1000执行的用于到外部电子装置320的呼叫连接的各种操作。由电子装置1000激活用于基于元数据的视频呼叫的模型可以包括例如由电子装置(例如,视频呼叫应用146和图像渲染器)将存储在非易失性存储器134中的3D模型(建模数据)等加载到易失性存储器132中。根据各种实施例,通过在呼叫连接请求消息中包括与基于元数据的视频呼叫有关的电子装置400的能力信息,处理器1020可以在与外部电子装置320的呼叫连接完成之前激活执行基于元数据的视频呼叫所需的元件(例如,图像渲染器和/或3D图形模型)。因此,在呼叫连接完成之后,通过激活执行基于元数据的视频呼叫所需的元件,可以防止可能发生的呼叫信道质量下降,并且通过发送尺寸小于图像数据的尺寸的元数据,可以减少用于视频呼叫的数据消耗。
图10B是示出根据各种实施例的示例电子装置的框图。
参照图10B,根据各种实施例的电子装置1000可以包括:呼叫连接管理单元(例如,包括处理电路和/或可执行程序元件)1030,被配置为执行或管理呼叫连接;音频数据处理器(例如,包括处理电路和/或可执行程序元件)1040,被配置为发送音频数据或处理接收的音频数据;图像数据处理器(例如,包括处理电路和/或可执行程序元件)1050,被配置为发送图像数据或处理接收的图像数据;存储器1061(例如,图1的存储器130);相机1062(例如,图1的相机模块180);麦克风1063(例如,图1的输入装置(150));显示器1064(例如,图1的显示装置160)和扬声器1065(例如,图1的声音输出装置155)。
根据各种实施例,呼叫连接管理器1030可以包括:SDP解析器1031,被配置为在执行呼叫连接时解析从外部电子装置(例如,图3A和图3B的第二电子装置320)接收的消息;SDP写入器1032,被配置为生成发送到外部电子装置320的用于执行呼叫连接的消息;呼叫会话管理器1033,被配置为管理呼叫会话的连接或终止;以及基于元数据的视频呼叫确定单元1034,被配置为基于外部电子装置320的能力信息,确定是否执行基于元数据的视频呼叫,所述能力信息被包括在从外部电子装置320接收的响应消息中。
根据各种实施例,就发送音频数据而言,音频数据处理器1040可以包括:音频获取单元1041,被配置为使用麦克风1063获取音频数据;音频发送滤波器1042(例如,图3A的发送滤波器313),被配置为对音频数据执行滤波;音频编码器1043(例如,图3A的编码器315),被配置为对由发送滤波器1042发送的音频数据进行编码以压缩音频数据;以及分组器1044(例如,图3A的分组器317),被配置为将编码音频数据转换成分组形式的音频分组数据。
根据各种实施例,就接收音频数据而言,音频数据处理器1040可以包括:解分组器1045(例如,图3A的解分组器321),被配置为将从外部电子装置320接收的音频分组数据转换成编码音频数据;音频解码器1046(例如,图3A的解码器323),被配置为解码编码音频数据;音频接收滤波器1047(例如,图3A的接收滤波器325),被配置为改变解码音频数据的采样率;以及音频输出单元1048,被配置为通过扬声器465输出音频。
根据各种实施例,就发送图像数据而言,图像数据处理器1050可以包括:图像获取单元1051,被配置为获取由相机1062捕获的图像;图像发送滤波器1052(例如,图3B的发送滤波器343),被配置为对图像数据执行滤波;图像编码器1053(例如,图3B的编码器345),被配置为对图像数据进行编码以压缩图像数据;以及分组器1054(例如,图3B的分组器347),被配置为将编码图像数据转换成分组形式的图像分组数据。
根据各种实施例,就接收图像数据而言,图像数据处理器1050可以包括:解分组器1055(例如,图3B的解分组器351),被配置为将从外部电子装置320接收的图像分组数据转换成编码图像数据;图像解码器1056(例如,图3B的解码器353),被配置为对已经由解分组器1055转换的编码图像数据进行解码;图像接收滤波器1057(例如,图3B的接收滤波器355),被配置为改变解码图像数据的分辨率;以及图像输出单元1058,被配置为通过显示器464输出由接收滤波器1057生成的图像数据。
根据各种实施例,SDP编写器1032可以基于呼叫会话管理器1033的控制生成呼叫连接请求消息,并且可以通过通信模块1010将呼叫连接请求消息发送到外部电子装置320。例如,呼叫连接请求消息可以以SDP中定义的SDP邀请消息的形式实现。
根据各种实施例,呼叫连接请求消息可以包括与基于元数据的视频呼叫有关的电子装置400的能力信息。
根据各种实施例,SDP解析器1031可以解析通过通信模块410接收的响应消息。响应消息可以包括与基于元数据的视频呼叫有关的外部电子装置320的能力信息。例如,响应消息可以包括指示外部电子装置320是否能够支持基于元数据的视频呼叫的指示符以及允许外部电子装置320执行基于元数据的视频呼叫的元素(例如,指示是否提供被配置为对元数据进行解码的元数据解分组器1071或被配置为渲染元数据的渲染器1072的指示符)。
根据各种实施例,可以通过呼叫会话管理器1033将由SDP解析器1031解析响应消息而提取的外部电子装置320的能力信息发送到基于元数据的视频呼叫确定单元1034。
根据各种实施例,基于元数据的视频呼叫确定单元1034可以基于外部电子装置320的能力信息来确定是否执行基于元数据的视频呼叫。
根据各种实施例,基于元数据的视频呼叫确定单元1034可以检查在响应消息中包括的指示是否支持基于元数据的视频呼叫的指示符,并且可以确定外部电子装置320是否支持基于元数据的视频呼叫。
根据各种实施例,基于元数据的视频呼叫确定单元1034可以基于外部电子装置320的能力信息来确定外部电子装置320支持基于元数据的视频呼叫,并且可以响应于确定外部电子装置320支持基于元数据的视频呼叫而确定执行基于元数据的视频呼叫。
根据各种实施例,基于元数据的视频呼叫确定单元1034可以激活:元数据生成器1073,被配置为响应于确定执行基于元数据的视频呼叫,从由执行基于元数据的视频呼叫所需的元件(例如,图像获取单元1051)获取的图像中检测特征点,并基于特征点生成元数据;元数据分组器1074,被配置为将从元数据生成器1073接收的元数据转换成分组形式的分组数据;元数据解分组器1071,被配置为转换从外部电子装置320接收的分组形式的元数据;或图像渲染器1072,被配置为以渲染元数据的方案生成图像。
根据各种实施例,呼叫会话管理器1033可以通过通信模块1010向外部电子装置320发送指示是否激活基于元数据的视频呼叫的呼叫连接确认消息。
根据各种实施例,在电子装置1000的处理器1020上实现的元件可以是软件实现的元件,但是一些元件可以根据设计方案以硬件来实现。例如,图像渲染器1072可以是软件实现的图形库,以便被存储在存储器(例如,图1的存储器130)中,并且图像渲染器1072可以是可以被硬件实现的图形处理单元(GPU))。
图11A是示出根据各种实施例的在电子装置中从获取的图像中提取元数据的示例的示图。
根据各种实施例,电子装置(例如,图10A的电子装置1000)可以分析由相机(例如,图10B的相机1062)收集的图像,并且可以提取在图像中包括的一个或多个对象的特征点。例如,用户面部的对象可能包括眉毛、眼睛、鼻子、口、舌头或面部形状,并且构成用户身体一部分的对象可以包括手、臂、躯干或腿。图像的特征点可以是指能够表达对象的特征(例如,对象的形状、对象的尺寸和对象的位置)的点。例如,特征点可以是指由电子装置1000识别为构成用户面部的对象(例如,眼睛或鼻子)的点。根据实施例,在电子装置1000的处理器(例如,图10A的处理器1020)上软件或硬件实现的元数据生成器1073可以从由图像获取单元1051获取的图像中提取对象的特征点。
根据各种实施例,电子装置1000可以对提取的特征点的至少一部分进行归组,可以基于特征点的信息获取包括对象的特征的变量的信息,并且可以生成包括变量的信息的元数据。变量可以是用于确定在将被渲染的图像中包括的元素(例如,用于实现在要渲染的图像中包括的对象的特征的元素,如果图像中的对象是动物,则可以是眼睛、鼻子、口或身体)的特征(例如,对象的表达)的变量,并且变量的信息可以是指用于确定对象的特征(例如,对象的位置、对象的大小、对象的方向或对象的旋转角度)或对象之间的关系(例如,对象(眼睛)与另一对象(鼻子)之间的距离)的变量的特定值。元数据生成器1073可以生成包括基于特征点的信息生成的对象的特征和对象之间的关系(例如,特征点之间的距离或特征点的位置)的元数据。
根据各种实施例,包括对象的特征的变量和/或元数据可以包括与面部动画参数(FAP)和/或在MPEG-4面部和身体动画(MPEG-4FBA)中定义的特征点相对应的值。例如,包括对象特征的变量和/或元数据可以包括与虹膜直径(IRISD)、眼分离(ES)、眼鼻分离(ENS)、口鼻分离(MN)、口宽度(MW)和角度单位(AU)的至少一部分相对应的数据。根据各种实施例,可以根据FAP数据的语法来配置元数据。
元数据可以是指通过将变量的信息归组而获得的数据。在电子装置1000的处理器1020上以软件或硬件实现的元数据生成器1073可以基于提取的特征点的信息来获取变量的信息,并且可以基于获取的变量的信息来生成元数据。
参照图11A,元数据生成器1073可以从使用相机1062获取的图像中提取对象1100,并且可以提取对象1100的特征点。各种特征点提取算法可以用于提取特征点的方案。例如,元数据生成器1073可以将包括与存储在存储器130中的特征点有关的信息(例如,关于特征点的形状的信息)的数据与在使用相机1062获取的图像中的对象1100的至少一部分进行比较,并且可以计算在数据中包括的特征点的形状与对象1100的至少一部分之间的相似度。元数据生成器1073可以响应于计算的相似度等于或大于预先配置值从对象1100的至少一部分中提取特征点。
元数据生成器1073可以基于提取的特征点的信息来获取变量的信息。例如,元数据生成器1073可以基于特征点的信息来获取各种变量的信息,包括对象的瞳孔大小1101、对象的两只眼睛之间的距离1103、对象的眼睛和鼻子之间的距离1105、对象的鼻子和口之间的距离1107以及对象的口的宽度1109。元数据生成器1073可以生成包括获取的变量信息的集合的元数据。
图11B是示出根据各种实施例的在电子装置中基于模型和元数据来渲染图像的示例的示图。
根据各种实施例,电子装置(例如,图10A的电子装置1000)可以基于包括在从外部电子装置320接收的响应消息中的外部电子装置(例如,图3A的外部电子装置320)的能力信息从在电子装置1000中实现的模型中选择执行渲染的模型,并且可以使用选择的模型生成表情符号1110,该表情符号1110将被包括在要渲染的图像中。
根据各种实施例,电子装置1000可以在存储器(例如,图10A的存储器1061)中存储至少一个模型。根据要渲染的对象的类型,可以不同地实现至少一个模型。例如,可以将包括用于渲染恐龙的模型、用于渲染宠物的模型以及用于渲染艺人的模型的各种模型存储在存储器1061中。电子装置1000可以通过将选择的模型加载到存储器1061上并将从外部电子装置320接收的元数据输入到模型而生成包括在渲染的图像中的表情符号1110。根据实施例,在处理器1020上实现的图像渲染器1072可以从元数据解分组器1071接收元数据,并且可以将元数据输入到加载在存储器130上的模型,以生成包括在要渲染的图像中的表情符号1110。图像渲染器1072可以使用由处理器1020提供的资源或由单独的图形处理单元提供的资源来渲染包括表情符号1110的图像。渲染的图像可以被显示在显示器(例如,图10B的显示器1064)上。
参照图11B,电子装置1000可以基于来自外部电子装置320的响应消息选择渲染宠物的模型,并且可以将从外部电子装置320接收的元数据输入到选择的模型中。例如,电子装置1000可以根据包括在元数据中的输入到选择的模型的方案、关于对象的瞳孔尺寸1101的信息、对象的两只眼睛之间的距离1103、对象的眼睛和鼻子之间的距离1105、对象的鼻子和口之间的距离1107和对象的口的宽度1109,生成要渲染的图像中包括的表情符号。电子装置1000可以渲染包括生成的表情符号1110的图像,并且可以在显示器1064上显示渲染的图像。
图12是示出根据各种实施例的由第一电子装置和第二电子装置执行呼叫连接的示例操作的操作流程图。
在操作1210中,根据各种实施例的第一电子装置(例如,图3A和图3B的第一电子装置310或图10A的电子装置1000)可以向第二电子装置(例如,图3A和图3B的第二电子装置320)发送呼叫连接请求消息(例如,在SDP会话协议中定义的SDP邀请消息)。
根据各种实施例,为了在呼叫连接完成之前确定外部电子装置320是否支持基于元数据的视频呼叫,第一电子装置1000可以将包括与是否支持基于元数据的视频呼叫有关的电子装置1000的能力信息的呼叫连接请求消息发送到外部电子装置320。例如,可以以例如下面的表3中描述的形式来实现呼叫连接请求消息。
[表3]
参照表3,呼叫连接请求消息可以包括:指示第一电子装置310支持基于元数据的视频呼叫的信息(a=emoji_metadata);在执行基于元数据的表情符号视频呼叫中使用的模型的信息(modelinfo=Samsung_emoji_model_set_v2);或元数据的标准信息(facial_feature=MPEG4_facial_animation_standard)。
根据各种实施例,在操作1220中,第二电子装置320可以检查与基于元数据的视频呼叫有关的第二电子装置320的能力信息。
根据各种实施例,第二电子装置320可以检查包括在呼叫连接请求消息中的、与第一电子装置310的基于元数据的视频呼叫有关的第一电子装置310的能力信息,以及第二电子装置320可以从检查的视频呼叫方案中选择第二电子装置320支持的至少一个视频呼叫方案。
根据各种实施例,在操作1230中,第二电子装置320可以向第一电子装置310发送响应消息(例如,在SDP协议中定义的SDP 200OK消息)。
根据各种实施例,响应消息可以包括与基于元数据的视频呼叫有关的第二电子装置320的能力。例如,响应消息可以包括以下中的至少一个:指示是否支持基于元数据的视频呼叫的指示符、指示用于基于元数据的视频呼叫的模型信息的指示符或指示用于生成元数据的标准信息的指示符。例如,响应消息可以以例如下面的表4中描述的形式实现。
[表4]
参照表4,响应消息可以包括:指示第二电子装置320是否支持基于元数据的视频呼叫的指示符(a=emoji_metadata);关于执行基于元数据的视频呼叫时使用的模型的信息(modelinfo+Samsung_emoji_model_set_v2);以及生成元数据时使用的标准信息(facial_feature=MPEG4_facial_animation_standard)。
根据各种实施例,在操作1240中,第一电子装置1000可以基于第二电子装置320的能力信息来确定是否执行基于元数据的视频呼叫。
根据各种实施例,第一电子装置1000可以确认包括在响应消息中的指示支持基于元数据的视频呼叫的指示符,并且可以确定执行基于元数据的视频呼叫。
根据各种实施例,第一电子装置1000可以确认包括在响应消息中的指示不支持基于元数据的视频呼叫的指示符,并且可以确定不执行基于元数据的视频呼叫。第一电子装置1000可以响应于确认在响应消息中不存在指示支持基于元数据的视频呼叫的指示符,确定不执行基于元数据的视频呼叫。如果不执行基于元数据的视频呼叫,则第一电子装置1000可以确定以交换由电子装置1000或外部电子装置320发送的图像(或图像流)的方式执行视频呼叫。
根据各种实施例,在操作1250中,第一电子装置1000可以向第二电子装置320发送呼叫连接确认消息(例如,在SDP会话协议中定义的SDP ACK消息)。
根据各种实施例,呼叫连接确认消息可以包括指示是否执行基于元数据的视频呼叫的指示符。
根据各种实施例,在操作1261中,第一电子装置1000可以为呼叫连接配置第一电子装置1000的元件。
根据各种实施例,电子装置1000可以执行用于到已经接收到呼叫连接确认消息的外部电子装置320的呼叫连接的各种操作,其中,这些操作包括:激活麦克风311以生成音频数据;激活相机341以生成图像数据;激活包括在基于元数据的视频呼叫方案中的被配置为执行渲染的模型;或者控制通信模块1010发送或接收用于呼叫信道建立的数据。
根据各种实施例,在操作1263中,第二电子装置320可以为呼叫连接配置第二电子装置320的元件。
根据各种实施例,响应于确定执行基于元数据的视频呼叫,第二电子装置320可以激活执行基于元数据的视频呼叫所需的元件(例如,图10B的元数据解分组器1071、图10B的图像渲染器1072、图10B的元数据生成器1073或图10B的元数据分组器1074)。由第二电子装置320激活基于元数据的视频呼叫的模型可以包括例如由电子装置(例如,视频呼叫应用146和图像渲染器)将存储在非易失性存储器134中的模型(建模数据)加载到易失性存储器132。
根据各种实施例,在操作1270中,第一电子装置1000和第二电子装置320可以完成呼叫连接并且可以使用呼叫信道执行呼叫。
根据各种实施例,第一电子装置1000和第二电子装置320可以通过呼叫信道发送和/或接收元数据。第一电子装置1000或第二电子装置320可以通过将接收的元数据输入到加载在存储器130中的模型中来生成在要渲染的图像中包括的表情符号1110。第一电子装置1000和第二电子装置320可以在显示器1061上显示通过渲染包括表情符号1110的图像而生成的图像。第一电子装置1000和第二电子装置320可以通过以交换容量小于图像流的容量的元数据的方式的视频呼叫来实现数据消耗相对较低的视频呼叫。
根据各种示例实施例,电子装置可以包括:通信模块,包括通信电路,被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道发送和/或接收数据;以及处理器,其中,处理器被配置为控制电子装置:发送呼叫连接请求消息以建立外部电子装置与电子装置之间的呼叫信道;从外部电子装置接收响应消息;基于与呼叫连接有关并且包括在响应消息中的外部电子装置的能力信息,确定是否使用包括基于元数据生成的表情符号的图像通过呼叫连接执行基于元数据的视频呼叫;向外部电子装置发送指示是否执行基于元数据的视频呼叫的呼叫连接确认消息;以及控制通信模块完成呼叫信道的建立,其中,呼叫连接请求消息包括与是否支持基于元数据的视频呼叫有关的电子装置的能力信息。
在根据各种示例实施例的电子装置中,电子装置的能力信息可以包括指示符,被配置为指示是否存在被配置为执行基于元数据的视频呼叫的电子装置的元件。
在根据各种示例实施例的电子装置中,电子装置的元件可以包括基于元数据生成表情符号的模型。
在根据各种示例实施例的电子装置中,呼叫连接请求消息可以包括电子装置可支持的至少一个模型的识别信息。
在根据各种示例实施例的电子装置中,响应消息可以包括外部电子装置可支持的至少一个模型的识别信息。
在根据各种示例实施例的电子装置中,处理器可以被配置为控制电子装置以:在完成呼叫信道的建立之后,从支持基于元数据的视频呼叫的外部电子装置接收用于生成图像的数据;通过将数据输入模型,生成与元数据相对应的表情符号;以及将包括生成的表情符号的图像输出到显示器上。
在根据各种示例实施例的电子装置中,处理器可以被配置为控制电子装置:基于通过呼叫信道连接到外部电子装置,接收请求改变模型的输入(例如,用户输入),以及向外部电子装置发送指示改变模型的指示符。
在根据各种示例实施例的电子装置中,处理器可以被配置为控制电子装置:在完成呼叫信道的建立之后,从不支持基于元数据的渲染的外部电子装置接收图像数据,以及在显示器上输出图像数据。
图13是示出根据各种实施例的电子装置的示例操作方法1300的流程图。
根据各种实施例,在操作1310中,电子装置(例如,图10A的电子装置1000)可以发送呼叫连接请求消息以建立呼叫信道。
根据各种实施例,为了在呼叫连接完成之前确定外部电子装置320是否支持基于元数据的视频呼叫,处理器1020可以将包括与是否支持基于元数据的视频呼叫有关的电子装置1000的能力信息的呼叫连接请求消息发送到外部电子装置320。
根据各种实施例,电子装置1000的能力信息可以包括指示是否存在基于元数据的视频呼叫方案中所需的电子装置1000的元件的信息。根据实施例,电子装置1000的元件可以包括渲染元数据的模型,并且电子装置1000的能力信息可以包括指示在电子装置1000中是否存在渲染元数据的模型的信息。
根据各种实施例,在基于元数据的视频呼叫方案中,呼叫连接请求消息可以包括渲染元数据的模型的识别信息。模型的识别信息可以包括模型的版本信息、模型的制造商信息以及指示模型所使用的标准(例如,MPEG-4面部和身体动画)的信息。
根据各种实施例,在操作1320中,电子装置1000可以接收包括与视频呼叫有关的外部电子装置320的能力信息的响应消息。
根据各种实施例,响应消息可以以在SDP协议中定义的SDP 200OK消息的形式来实现。
根据各种实施例,外部电子装置320发送的响应消息可以包括与呼叫连接有关的外部电子装置320的能力信息。
根据各种实施例,外部电子装置320的能力信息可以包括关于支持在外部电子装置320和电子装置1000之间执行的基于元数据的视频呼叫方案的元件(例如,软件实现的元件(例如,用于渲染元数据的模型)或硬件实现的元件(例如,图形处理单元(GPU))的信息。
根据各种实施例,在操作1330中,电子装置1000可以基于外部电子装置320的能力信息确定是否执行基于元数据的视频呼叫。
根据各种实施例,处理器1020可以检查包括在响应消息中的外部电子装置320的能力信息,可以确定外部电子装置320是否可以支持基于元数据的视频呼叫,或者如果支持基于元数据的视频呼叫,则可以检查用于基于元数据的视频呼叫的模型的信息或用于生成将用于基于元数据的视频呼叫的元数据的标准信息。
根据各种实施例,在操作1340中,电子装置1000可以发送指示是否执行基于元数据的视频呼叫的呼叫连接确认消息。例如,可以以在SDP会话协议中定义的SDP ACK消息的形式来实现呼叫连接确认消息。
根据各种实施例,电子装置1000可以执行用于到已经接收到呼叫连接确认消息的外部电子装置320的呼叫连接的各种操作,其中,这些操作包括:激活麦克风311以生成音频数据;激活相机341以生成图像数据;激活生成将包括在要渲染的图像中的表情符号(例如,图11B的表情符号1110)的模型,该模型包括在基于元数据的视频呼叫方案中;或者控制通信模块1010发送或接收用于呼叫信道建立的数据。
图14是示出根据各种实施例的电子装置的示例操作方法1400的流程图。
根据各种实施例,在操作1410中,电子装置(例如,图3A的第二电子装置320)可以从外部电子装置(例如,图10A的电子装置1000)接收呼叫连接请求消息以建立呼叫信道。例如,呼叫连接请求消息可以以在SDP中定义的SDP邀请消息的形式实现。
根据各种实施例,呼叫连接请求消息可以包括:指示第一电子装置310支持基于元数据的视频呼叫的信息;以及可以用于执行基于元数据的表情符号视频呼叫的模型的信息;或元数据的标准信息。
根据各种实施例,在操作1420中,电子装置320可以向外部电子装置1000发送响应消息,该响应消息包括与基于元数据的视频呼叫有关的电子装置320的能力信息。例如,响应消息可以以在SDP协议中定义的SDP 200 OK消息的形式实现。
根据各种实施例,响应消息可以包括与基于元数据的视频呼叫有关的电子装置320的能力信息。例如,响应消息可以包括以下中的至少一个:指示是否支持基于元数据的视频呼叫的指示符、指示用于基于元数据的视频呼叫的模型信息的指示符或指示用于生成元数据的标准信息的指示符。
根据各种实施例,在操作1430中,电子装置320可以从外部电子装置1000接收指示是否执行基于元数据的视频呼叫的呼叫连接确认消息。例如,呼叫连接确认消息可以以在SDP会话协议中定义的SDP ACK消息的形式来实现。
根据各种实施例,呼叫连接确认消息可以以在SDP会话协议中定义的SDP ACK消息的形式来实现。呼叫连接确认消息可以包括指示是否执行基于元数据的视频呼叫的指示符。
根据各种实施例,在操作1440中,电子装置320可以配置用于呼叫连接的元件。
根据各种实施例,响应于确定执行基于元数据的视频呼叫,电子装置320可以激活执行基于元数据的视频呼叫所需的元件(例如,图10B的元数据解分组器1071、图10B的图像渲染器1072、图10B的元数据生成器1073或图10B的元数据分组器1074)。
根据各种示例实施例的电子装置的操作方法可以包括:发送呼叫连接请求消息以建立外部电子装置与电子装置之间的呼叫信道;从外部电子装置接收响应消息;基于与呼叫连接有关并包括在响应消息中的外部电子装置的能力信息,确定是否使用被配置为改变内容质量的发送滤波器对通过呼叫连接发送的内容进行预处理;向外部电子装置发送指示是否对内容进行预处理的呼叫连接确认消息;以及完成呼叫信道的建立,其中,呼叫连接请求消息包括与发送滤波器有关的电子装置的能力信息。
在根据各种示例实施例的电子装置的操作中,电子装置的能力信息可以包括指示符,被配置为指示是否存在被配置为处理发送滤波器的电子装置的元件。
在根据各种示例实施例的电子装置的操作方法中,电子装置的元件可以包括神经处理单元(NPU)。
在根据各种示例实施例的电子装置的操作方法中,呼叫连接请求消息可以被配置为包括NPU的识别信息。
在根据各种示例实施例的电子装置的操作方法中,呼叫连接请求消息可以被配置为包括发送滤波器的识别信息。
在根据各种示例实施例的电子装置的操作方法中,呼叫连接请求消息可以包括指示符,指示是否支持基于发送滤波器的内容处理。
根据各种实施例的电子装置可以是各种类型的电子装置之一。电子装置可包括例如便携式通信装置(例如,智能电话)、计算机装置、便携式多媒体装置、便携式医疗装置、相机、可穿戴装置或家用电器。根据本公开的实施例,电子装置不限于以上所述的那些电子装置。
应该理解的是,本公开的各种实施例以及其中使用的术语并不意图将在此阐述的技术特征限制于具体实施例,而是包括针对相应实施例的各种改变、等同形式或替换形式。对于附图的描述,相似的参考标号可用来指代相似或相关的元件。将理解的是,与术语相应的单数形式的名词可包括一个或更多个事物,除非相关上下文另有明确指示。如这里所使用的,诸如“A或B”、“A和B中的至少一个”、“A或B中的至少一个”、“A、B或C”、“A、B和C中的至少一个”以及“A、B或C中的至少一个”的短语中的每一个短语可包括在与所述多个短语中的相应一个短语中一起列举出的项的任意一项或所有可能组合。如这里所使用的,诸如“第1”和“第2”或者“第一”和“第二”的术语可用于将相应部件与另一部件进行简单区分,并且不在其它方面(例如,重要性或顺序)限制所述部件。将理解的是,在使用了术语“可操作地”或“通信地”的情况下或者在不使用术语“可操作地”或“通信地”的情况下,如果一元件(例如,第一元件)被称为“与另一元件(例如,第二元件)结合”、“结合到另一元件(例如,第二元件)”、“与另一元件(例如,第二元件)连接”或“连接到另一元件(例如,第二元件)”,则意味着所述一元件可与所述另一元件直接(例如,有线地)连接、与所述另一元件无线连接、或经由第三元件与所述另一元件连接。
如这里所使用的,术语“模块”可包括以硬件、软件或固件实现的单元,并可与其他术语(例如,“逻辑”、“逻辑块”、“部分”或“电路”)可互换地使用。模块可以是被适配为执行一个或更多个功能的单个集成部件或者是该单个集成部件的最小单元或部分。例如,根据实施例,可以以专用集成电路(ASIC)的形式来实现模块。
可将在此阐述的各种实施例实现为包括存储在存储介质(例如,内部存储器136或外部存储器138)中的可由机器(例如,电子装置101)读取的一个或更多个指令的软件(例如,程序140)。例如,在处理器的控制下,所述机器(例如,电子装置101)的处理器(例如,处理器120)可在使用或无需使用一个或更多个其它部件的情况下调用存储在存储介质中的所述一个或更多个指令中的至少一个指令并运行所述至少一个指令。这使得所述机器能够操作用于根据所调用的至少一个指令执行至少一个功能。所述一个或更多个指令可包括由编译器产生的代码或能够由解释器运行的代码。可以以非暂时性存储介质的形式来提供机器可读存储介质。其中,术语“非暂时性”仅意味着所述存储介质是有形装置,并且不包括信号(例如,电磁波),但是该术语并不在数据被半永久性地存储在存储介质中与数据被临时存储在存储介质中之间进行区分。
根据实施例,可在计算机程序产品中包括和提供根据本公开的各种实施例的方法。计算机程序产品可作为产品在销售者和购买者之间进行交易。可以以机器可读存储介质(例如,紧凑盘只读存储器(CD-ROM))的形式来发布计算机程序产品,或者可经由应用商店(例如,Play StoreTM)在线发布(例如,下载或上传)计算机程序产品,或者可直接在两个用户装置(例如,智能电话)之间分发(例如,下载或上传)计算机程序产品。如果是在线发布的,则计算机程序产品中的至少部分可以是临时产生的,或者可将计算机程序产品中的至少部分至少临时存储在机器可读存储介质(诸如制造商的服务器、应用商店的服务器或转发服务器的存储器)中。
根据各种实施例,上述部件中的每个部件(例如,模块或程序)可包括单个实体或多个实体。根据各种实施例,可省略上述部件中的一个或更多个部件,或者可添加一个或更多个其它部件。可选择地或者另外地,可将多个部件(例如,模块或程序)集成为单个部件。在这种情况下,根据各种实施例,该集成部件可仍旧按照与所述多个部件中的相应一个部件在集成之前执行一个或更多个功能相同或相似的方式,执行所述多个部件中的每一个部件的所述一个或更多个功能。根据各种实施例,由模块、程序或另一部件所执行的操作可顺序地、并行地、重复地或以启发式方式来执行,或者所述操作中的一个或更多个操作可按照不同的顺序来运行或被省略,或者可添加一个或更多个其它操作。
Claims (9)
1.一种电子装置,包括:
通信模块,包括通信电路,所述通信电路被配置为使用通过到外部电子装置的呼叫连接建立的呼叫信道来发送或接收数据;以及
处理器,其中,处理器被配置为控制电子装置以:
发送呼叫连接请求消息,以建立外部电子装置与电子装置之间的呼叫信道;
从外部电子装置接收响应消息,该响应消息包括与呼叫连接相关的外部电子装置的能力信息;
基于外部电子装置的能力信息,通过使用发送滤波器在内容被编码以发送到外部电子设备之前改变其质量,确定是否对经由呼叫连接发送的内容进行预处理;
向外部电子装置发送指示是否对内容进行预处理的呼叫连接确认消息;以及
控制通信模块完成呼叫信道的建立,其中,呼叫连接请求消息包括与发送滤波器有关的电子装置的能力信息。
2.根据权利要求1所述的电子装置,其中,电子装置的能力信息包括指示是否存在被配置为处理发送滤波器的、电子装置的元件的指示符。
3.根据权利要求2所述的电子装置,其中,电子装置的元件包括神经处理单元(NPU),所述神经处理单元包括处理电路和/或可执行程序元件。
4.根据权利要求3所述的电子装置,其中,呼叫连接请求消息包括NPU的识别信息。
5.根据权利要求1所述的电子装置,其中,呼叫连接请求消息包括发送滤波器的识别信息。
6.根据权利要求5所述的电子装置,其中,电子装置的能力信息包括使用发送滤波器可处理的内容的分辨率或采样率。
7.根据权利要求1所述的电子装置,其中,呼叫连接请求消息包括指示是否支持基于发送滤波器的内容处理的指示符。
8.根据权利要求1所述的电子装置,其中,处理器被配置为:
基于响应消息,确定在外部电子装置中是否存在与发送滤波器相对应的接收滤波器;以及
基于确定结果来确定是否使用发送滤波器。
9.根据权利要求7所述的电子装置,其中,处理器被配置为控制电子装置以:在呼叫连接完成之前,响应于确定使用发送滤波器来激活发送滤波器和被配置为控制发送滤波器的元件。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2019-0123290 | 2019-10-04 | ||
KR20190123290 | 2019-10-04 | ||
KR1020200017249A KR102679418B1 (ko) | 2019-10-04 | 2020-02-12 | 통화의 품질을 향상시키는 전자 장치 및 전자 장치의 동작 방법 |
KR10-2020-0017249 | 2020-02-12 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112615807A CN112615807A (zh) | 2021-04-06 |
CN112615807B true CN112615807B (zh) | 2024-05-28 |
Family
ID=72752274
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011046834.8A Active CN112615807B (zh) | 2019-10-04 | 2020-09-29 | 提高呼叫质量的电子装置及其操作方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11095851B2 (zh) |
EP (1) | EP3800859B1 (zh) |
CN (1) | CN112615807B (zh) |
WO (1) | WO2021066377A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220003812A (ko) | 2020-07-02 | 2022-01-11 | 삼성전자주식회사 | 호 채널의 상태에 기반하여 필터를 사용하여 전처리된 컨텐츠를 전송하는 전자 장치 및 전자 장치의 동작 방법 |
US11606406B1 (en) | 2021-08-24 | 2023-03-14 | Motorola Mobility Llc | Electronic device that mitigates audio/video communication degradation of an image stream of a local participant in a video communication session |
US11722544B2 (en) * | 2021-08-24 | 2023-08-08 | Motorola Mobility Llc | Electronic device that mitigates audio/video communication degradation of an image stream of a remote participant in a video communication session |
US11765215B2 (en) | 2021-08-24 | 2023-09-19 | Motorola Mobility Llc | Electronic device that supports individualized dynamic playback of a live video communication session |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013056031A1 (en) * | 2011-10-14 | 2013-04-18 | Qualcomm Incorporated | Feedback channel for wireless display devices |
CN103685220A (zh) * | 2012-09-04 | 2014-03-26 | 美国博通公司 | 高保真音频分配系统 |
CN106067873A (zh) * | 2015-04-23 | 2016-11-02 | 三星电子株式会社 | 电子设备及其呼叫处理方法 |
CN108476302A (zh) * | 2016-01-19 | 2018-08-31 | 三星电子株式会社 | 用于在语音呼叫期间发送视频的方法和设备 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100561686B1 (ko) * | 2004-10-22 | 2006-03-15 | 에스케이 텔레콤주식회사 | 이동통신망에서의 화상통화 서비스 제공 방법 |
US20100027417A1 (en) | 2006-06-29 | 2010-02-04 | Guido Franceschini | Method and apparatus for improving bandwith exploitation in real-time audio/video communications |
WO2008048848A2 (en) * | 2006-10-13 | 2008-04-24 | Nms Communications Corporation | Dynamic video messaging |
US8144187B2 (en) * | 2008-03-14 | 2012-03-27 | Microsoft Corporation | Multiple video stream capability negotiation |
KR101589524B1 (ko) | 2008-11-07 | 2016-01-29 | 삼성전자주식회사 | 이동통신 단말기에서 다중 영상 포맷을 지원하여 영상통화의 고품질 영상을 서비스하기 위한 장치 및 방법 |
US8248450B2 (en) * | 2008-11-14 | 2012-08-21 | Pantech Co., Ltd. | Method for establishing fast session of video call and terminal |
US9565439B2 (en) * | 2009-10-15 | 2017-02-07 | Nbcuniversal Media, Llc | System and method for enhancing data compression using dynamic learning and control |
US20120170726A1 (en) * | 2011-01-05 | 2012-07-05 | Parlor.Fm., Inc. | Media Link |
US9813666B2 (en) * | 2012-05-29 | 2017-11-07 | Qualcomm Incorporated | Video transmission and reconstruction |
US20170237986A1 (en) | 2016-02-11 | 2017-08-17 | Samsung Electronics Co., Ltd. | Video encoding method and electronic device adapted thereto |
KR102496225B1 (ko) * | 2016-02-11 | 2023-02-07 | 삼성전자 주식회사 | 영상 인코딩 방법 및 이를 지원하는 전자 장치 |
US10623456B2 (en) * | 2017-08-04 | 2020-04-14 | T-Mobile Usa, Inc. | Device service capability discovery |
US10651900B2 (en) * | 2018-05-18 | 2020-05-12 | Futurewei Technologies, Inc. | System and method for communications system training |
-
2020
- 2020-09-23 WO PCT/KR2020/012809 patent/WO2021066377A1/en active Application Filing
- 2020-09-28 US US17/034,468 patent/US11095851B2/en active Active
- 2020-09-29 CN CN202011046834.8A patent/CN112615807B/zh active Active
- 2020-10-02 EP EP20199908.3A patent/EP3800859B1/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013056031A1 (en) * | 2011-10-14 | 2013-04-18 | Qualcomm Incorporated | Feedback channel for wireless display devices |
CN103685220A (zh) * | 2012-09-04 | 2014-03-26 | 美国博通公司 | 高保真音频分配系统 |
CN106067873A (zh) * | 2015-04-23 | 2016-11-02 | 三星电子株式会社 | 电子设备及其呼叫处理方法 |
CN108476302A (zh) * | 2016-01-19 | 2018-08-31 | 三星电子株式会社 | 用于在语音呼叫期间发送视频的方法和设备 |
Non-Patent Citations (1)
Title |
---|
iOptimize: A software capability for analyzing and optimizing connection-oriented data networks in real time;Naeem Asghar 等;IEEE;20051231;第67-81页 * |
Also Published As
Publication number | Publication date |
---|---|
US11095851B2 (en) | 2021-08-17 |
EP3800859A2 (en) | 2021-04-07 |
EP3800859B1 (en) | 2022-11-30 |
US20210105436A1 (en) | 2021-04-08 |
CN112615807A (zh) | 2021-04-06 |
EP3800859A3 (en) | 2021-06-23 |
WO2021066377A1 (en) | 2021-04-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112615807B (zh) | 提高呼叫质量的电子装置及其操作方法 | |
EP3700190A1 (en) | Electronic device for providing shooting mode based on virtual character and operation method thereof | |
US11350264B2 (en) | Method and apparatus for establishing device connection | |
CN104869305B (zh) | 处理图像数据的方法及其装置 | |
US11893767B2 (en) | Text recognition method and apparatus | |
US11531835B2 (en) | Electronic device for controlling predefined function based on response time of external electronic device on user input, and method thereof | |
KR20200101630A (ko) | 아바타 표시를 제어하기 위한 방법 및 그 전자 장치 | |
CN113455013B (zh) | 用于处理图像的电子设备及其图像处理方法 | |
CN112907725A (zh) | 图像生成、图像处理模型的训练、图像处理方法和装置 | |
CN111586235B (zh) | 用于动态布局消息的电子装置和计算机可读介质 | |
US20210258354A1 (en) | Electronic device and method for providing information in virtual reality | |
US20190065035A1 (en) | Method for changing the size of the content displayed on display and electronic device thereof | |
CN113965553B (zh) | 电子装置及其操作方法 | |
CN115053516A (zh) | 存储图像的电子装置和方法 | |
US11393078B2 (en) | Electronic device and method for correcting image on basis of image transmission state | |
US11599321B2 (en) | Electronic device and operating method therefor | |
US20210120339A1 (en) | Electronic device, and method for processing stereo audio signal thereof | |
KR20200102080A (ko) | 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법 | |
KR102679418B1 (ko) | 통화의 품질을 향상시키는 전자 장치 및 전자 장치의 동작 방법 | |
CN111886595B (zh) | 屏幕控制方法和支持屏幕控制方法的电子设备 | |
US20220207028A1 (en) | Electronic device and method for providing information on electronic device | |
KR20220016695A (ko) | 딥러닝에 기반한 이미지 분할 장치 및 방법 | |
US11863904B2 (en) | Electronic device for performing video call using frame rate conversion and method for the same | |
US20240281820A1 (en) | Transaction processing device authentication | |
US20230324713A1 (en) | Intelligent actuated temple tips |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |