CN115702569A - 信息处理设备、信息处理方法、成像设备和图像转发系统 - Google Patents
信息处理设备、信息处理方法、成像设备和图像转发系统 Download PDFInfo
- Publication number
- CN115702569A CN115702569A CN202180040028.6A CN202180040028A CN115702569A CN 115702569 A CN115702569 A CN 115702569A CN 202180040028 A CN202180040028 A CN 202180040028A CN 115702569 A CN115702569 A CN 115702569A
- Authority
- CN
- China
- Prior art keywords
- information
- image
- processing
- client terminal
- control unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 293
- 230000010365 information processing Effects 0.000 title claims abstract description 113
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000000034 method Methods 0.000 claims abstract description 206
- 230000008569 process Effects 0.000 claims abstract description 201
- 230000004044 response Effects 0.000 claims abstract description 34
- 238000012545 processing Methods 0.000 claims description 436
- 230000005540 biological transmission Effects 0.000 claims description 335
- 230000006854 communication Effects 0.000 claims description 237
- 238000004891 communication Methods 0.000 claims description 236
- 238000012546 transfer Methods 0.000 claims description 21
- 230000000875 corresponding effect Effects 0.000 description 33
- 238000010586 diagram Methods 0.000 description 26
- 238000005516 engineering process Methods 0.000 description 23
- 230000000694 effects Effects 0.000 description 14
- 238000003860 storage Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 6
- 238000010191 image analysis Methods 0.000 description 6
- 101000914496 Homo sapiens T-cell antigen CD7 Proteins 0.000 description 5
- 102100027208 T-cell antigen CD7 Human genes 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 108010039475 transforming growth factor alpha-Pseudomonas exotoxin A (40) Proteins 0.000 description 5
- 101001136140 Pinus strobus Putative oxygen-evolving enhancer protein 2 Proteins 0.000 description 4
- 238000012790 confirmation Methods 0.000 description 4
- 238000005520 cutting process Methods 0.000 description 4
- 230000003247 decreasing effect Effects 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 101100088138 Pinus taeda RPL10 gene Proteins 0.000 description 2
- 102000018252 Tumor Protein p73 Human genes 0.000 description 2
- 108010091356 Tumor Protein p73 Proteins 0.000 description 2
- 102100038968 WAP four-disulfide core domain protein 1 Human genes 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 239000000256 polyoxyethylene sorbitan monolaurate Substances 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000000386 athletic effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010859 live-cell imaging Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000009751 slip forming Methods 0.000 description 1
- 230000009182 swimming Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/239—Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests
- H04N21/2393—Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests involving handling client requests
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00127—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
- H04N1/00132—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
- H04N1/00169—Digital image input
- H04N1/00172—Digital image input directly from a still digital camera or from a storage medium mounted in a still digital camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/00127—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
- H04N1/00204—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
- H04N1/00244—Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server with a server, e.g. an internet server
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
- H04N1/2125—Display of information relating to the still picture recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32101—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N1/32106—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title separate from the image data, e.g. in a different computer file
- H04N1/32117—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title separate from the image data, e.g. in a different computer file in a separate transmission or protocol signal prior to or subsequent to the image data transmission, e.g. in digital identification signal [DIS], in non standard setup [NSS] or in non standard field [NSF]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/4223—Cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/4227—Providing Remote input by a user located remotely from the client device, e.g. at work
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
- H04N21/8153—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47217—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/482—End-user interface for program selection
- H04N21/4821—End-user interface for program selection using a grid, e.g. sorted out by channel and broadcast time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/0077—Types of the still picture apparatus
- H04N2201/0084—Digital still camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
- H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
- H04N2201/3225—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
- H04N2201/325—Modified version of the image, e.g. part of the image, image reduced in size or resolution, thumbnail or screennail
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Computer Graphics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Studio Devices (AREA)
Abstract
提供了一种用作执行从成像设备到客户端终端的转发的服务器设备的信息处理设备,该信息处理设备包括控制单元,该控制单元执行:初始信息转发处理,其中,响应于接收到关联信息,基于该关联信息获取附加信息,并且将该关联信息和该附加信息发送到客户端终端,该关联信息与由成像设备捕获的图像相关联,并且具有比捕获图像的数据量小的数据量;以及实际图像转发处理,其中,根据通过客户端终端处的选择处理而生成的请求信息,将从成像设备发送的图像发送到客户端终端。
Description
技术领域
本技术涉及信息处理设备、信息处理方法、成像设备和图像转发系统,并且特别涉及适合于将由成像设备捕获的图像转发到其他设备的情况的技术。
背景技术
通常将由成像设备捕获的图像(静止图像或运动图像)发送到其他设备,例如计算机设备。
下面的专利文献1公开了首先发送相对于图像数据具有较小数据量的相关数据的技术。
引用列表
专利文献
专利文献1:日本专利申请特许公开第2007-150781号
发明内容
本发明要解决的问题
为了通过电视广播、网络分发等进行新闻报道等的目的,存在要求相机操作员紧接在现场成像之后立即交付(deliver)所成像的静止图像或运动图像的情况。
在这种情况下,相机操作员在成像现场将成像设备连接到网络,并且将捕获图像发送到网络以进行交付。在交付目的地设备(例如,广播站的设备等,并且被表示为“客户端终端”)中,分别待命的负责选择的人选择所交付的图像,并且将所选择的图像用于新闻报道。
在这样的情况下,由于增加的网络负载,从成像设备向外部设备(例如,中继云服务器或客户端终端)发送大尺寸图像(用于新闻报道的质量/数据量的图像数据)可能需要时间,并且相应地执行图像选择工作可能需要时间。
此外,当将全部捕获图像从成像设备发送到外部设备时,需要增加发送目的地设备所需的存储容量,并且系统负载增加。
因此,本公开提出了一种能够在没有很大地增加网络通信和系统的负载的情况下发送适当图像的技术。
问题的解决方案
根据本技术的信息处理设备包括:控制单元,所述控制单元执行:初始信息转发处理,响应于接收到关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到客户端终端,所述关联信息是与由成像设备捕获的图像相关联的信息,并且具有比该图像小的数据量;以及主图像转发处理,根据通过基于所述关联信息或所述附加信息的发送在所述客户端终端中进行的选择处理而生成的请求信息,将从所述成像设备发送的图像发送到所述客户端终端。
例如,假设能够与成像设备执行信息转发并且还能够与客户端终端执行信息转发的信息处理设备。信息处理设备在转发作为捕获图像的图像数据(主图像)之前首先将关联信息和附加信息发送到客户端终端。然后,根据作为基于关联信息和附加信息的选择处理的结果而获得的请求信息,将主图像从成像设备转发到客户端终端。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元通过在所述初始信息转发处理中基于所述关联信息执行数据库搜索来获得所述附加信息。
通过基于从成像设备提供的关联信息执行数据库搜索,可以从关联信息获取关于图像(被摄体)的更详细信息。这被称为附加信息。
在上述根据本技术的信息处理设备中,可以想到,所述关联信息包括表示由所述成像设备捕获的图像并且具有更小数据量的图像,以及所述控制单元通过在所述初始信息转发处理中对所述关联信息中包括的图像进行的图像识别处理来获得所述附加信息。
在从成像设备提供的关联信息包括诸如缩略图图像或屏幕图钉(screen nail)图像之类的图像的情况下,可以通过分析图像来获取关于被摄体的信息。这被称为附加信息。
在上述根据本技术的信息处理设备中,可以想到,作为所述初始信息转发处理,所述控制单元执行多个发送模式的切换处理,所述多个发送模式包括添加了所述附加信息的发送模式和未添加所述附加信息的发送模式。
作为发送模式,例如,可以改变多个发送模式,诸如基于从成像设备提供的关联信息获得附加信息并且将关联信息和附加信息发送到客户端终端的模式、将从成像设备提供的关联信息按照原样转发到客户端终端的模式和关联信息的内容不同的模式。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元执行将所述关联信息中包括的音频信息发送到所述客户端终端的处理,作为预定发送模式的发送,所述预定发送模式是所述多个发送模式之一。
例如,在从成像设备转发与作为静止图像的图像相关联的音频信息的情况下,将音频信息按照原样发送到客户端终端。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元执行将通过将所述关联信息中包括的音频信息转换为文本数据而获得的文本数据发送到所述客户端终端的处理,作为预定发送模式的发送,所述预定发送模式是所述多个发送模式之一。
例如,在从成像设备转发与作为静止图像的图像相关联的音频信息的情况下,将音频信息转换为文本数据并且发送到客户端终端。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元根据通信状态的确定结果来执行所述切换处理。
作为初始信息转发处理,根据通信状态选择性地使用各种发送模式。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元基于从所述成像设备被给出通知的成像对象的信息来执行所述切换处理。
根据例如作为成像对象的活动类型、竞赛类型等,选择性地使用在初始信息转发处理中获取附加信息的第一处理和不获取附加信息的第二处理。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元执行估计所述成像设备的成像对象的处理,并且基于所估计的成像对象的信息来执行所述切换处理。
当可以估计成像设备的成像对象时,可以基于估计结果选择性地将获取附加信息的第一处理和不获取附加信息的第二处理用作初始信息转发处理。
在上述根据本技术的信息处理设备中,可以想到,所述控制单元执行向所述客户端终端或所述成像设备通知通过所述切换处理设定的所述初始信息转发处理的发送模式的处理。
在信息处理设备在第一处理和第二处理之间切换的情况下,向成像设备或客户端终端通知作为结果执行的发送模式。
在上述根据本技术的信息处理设备中,可以想到,所述关联信息包括与由所述成像设备捕获的图像相关联的元信息。
即,它是与成像设备侧的图像相关联并且被发送到信息处理设备的信息。例如,假设各种类型的信息,诸如成像设备的信息、相机操作员的信息、图像捕获地点和时间的信息、成像设备侧的图像分析信息、关于成像操作和处理的各种参数、在图像捕获时的成像设备中的各种传感器的感测信息、关于图像数据/文件的信息、缩略图图像、屏幕图钉图像、以及相机操作员的与图像相关联的文本信息和音频备忘录信息。
在上述根据本技术的信息处理设备中,可以想到,所述关联信息包括表示由所述成像设备捕获的图像、具有更小数据量的图像。
具有更小数据量的图像的示例包括缩略图图像、屏幕图钉图像、代理运动图像等。
在上述根据本技术的信息处理设备中,可以想到,所述关联信息包括表示分组图像的图像,所述分组图像是由所述成像设备连续捕获的多个图像。
当通过连续捕获的一系列图像被设定为分组图像时,将整个分组图像表示为单个图像的图像(例如,第一图像的缩略图图像等)被设定为关联信息。
在上述根据本技术的信息处理设备中,可以想到,所述关联信息包括通过由所述成像设备进行的运动图像捕获与运动图像一起记录的音频信息。
例如,在初始信息转发处理中,信息处理设备接收在运动图像记录时同时记录的音频信息作为关联信息,并且将该信息发送到客户端终端。
在上述根据本技术的信息处理设备中,可以想到,所述关联信息包括在由所述成像设备捕获的运动图像的捕获时的时间序列数据。
时间序列数据是表示成像进度的信息,诸如例如在图像捕获时的每个时间的位置信息。
在上述根据本技术的信息处理设备中,可以想到,作为所述初始信息转发处理,所述控制单元执行与所述附加信息一起或不与所述附加信息一起地将第一关联信息发送到所述客户端终端的处理,将通过基于包括所述第一关联信息的发送在所述客户端终端中进行的选择处理而生成的请求信息传送到所述成像设备的处理,以及根据所述请求信息将从所述成像设备发送的第二关联信息发送到所述客户端终端的处理。
即,作为初始信息转发处理,在主图像被发送到客户端终端3之前,信息发送被执行多次。
在上述根据本技术的信息处理设备中,可以想到,所述第一关联信息包括具有比所述第二关联信息小的数据量的信息。
例如,可以想到这样的示例,其中第一关联信息是表示成像时间、成像地点等的元信息,并且第二关联信息是缩略图图像等。
根据本技术的成像设备包括:控制单元,所述控制单元执行:关联信息发送处理,向外部的信息处理设备发送关联信息,所述关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量;以及主图像发送处理,根据从所述信息处理设备接收到的请求信息,将由所述请求信息表示的图像发送到所述信息处理设备。
因此,成像设备在发送捕获图像之前发送关联信息。
根据本技术的图像转发系统实现成像设备和信息处理设备之间的信息通信,并且实现信息处理设备和客户端终端之间的信息通信。然后,成像设备具有上述配置,并且信息处理设备也具有上述配置。
可以直接或经由其他设备或传输路径在成像设备和信息处理设备之间转发信息,并且可以直接或经由其他设备或传输路径在信息处理设备和客户端终端之间转发信息。在这样的设备之间,首先,转发具有比捕获图像小的数据量的关联信息,并且在客户端终端侧执行选择。此后,根据该选择将主图像从成像设备发送到客户端终端。
附图说明
图1是本技术的实施例的图像转发系统的配置示例的说明图。
图2是本实施例的成像设备的框图。
图3是本实施例的信息处理设备的框图。
图4是本实施例的第一发送模式的说明图。
图5是本实施例的第一发送模式中的UI画面等的说明图。
图6是适用于本实施例的第一、第二、第三和第四发送模式的由成像设备进行成像时的处理的流程图。
图7是适用于本实施例的第一发送模式的服务器设备的元信息接收时的处理的流程图。
图8是适用于本实施例的第一至第七发送模式的服务器设备的图像请求接收时的处理的流程图。
图9是适用于本实施例的第一至第六发送模式的成像设备的图像请求接收时的处理的流程图。
图10是适用于本实施例的第一和第三至第七发送模式的服务器设备的图像接收时的处理的流程图。
图11是本实施例的第二发送模式的说明图。
图12是本实施例的第二发送模式中的UI画面等的说明图。
图13是适用于本实施例的第二、第三和第四发送模式的服务器设备的元信息接收时的处理的流程图。
图14是适用于本实施例的第二发送模式的服务器设备的图像接收时的处理的流程图。
图15是本实施例的第三发送模式的说明图。
图16是本实施例的第三和第四发送模式中的UI画面等的说明图。
图17是适用于本实施例的第四发送模式的由成像设备进行成像时的处理的流程图。
图18是本实施例的第五发送模式的说明图。
图19是本实施例的第五发送模式中的UI画面等的说明图。
图20是适用于本实施例的第五和第六发送模式的由成像设备进行成像时的处理的流程图。
图21是适用于本实施例的第五发送模式的服务器设备的元信息接收时的处理的流程图。
图22是本实施例的第六发送模式的说明图。
图23是本实施例的第六发送模式中的UI画面等的说明图。
图24是适用于本实施例的第六发送模式的服务器设备的元信息接收时的处理的流程图。
图25是本实施例的第七发送模式的说明图。
图26是本实施例的第七发送模式中的UI画面等的说明图。
图27是适用于本实施例的第七发送模式的由成像设备进行成像时的处理的流程图。
图28是适用于本实施例的第七发送模式的成像设备的图像请求接收时的处理的流程图。
图29是本实施例的切换处理示例I的说明图。
图30是本实施例的服务器设备的切换处理的流程图。
图31是本实施例的切换相关UI显示的说明图。
图32是本实施例的请求切换指令的UI显示的说明图。
图33是本实施例的情况确定处理的流程图。
图34是本实施例的切换处理示例II的说明图。
图35是本实施例的服务器设备的切换处理的流程图。
图36是本实施例的切换处理示例III的说明图。
图37是本实施例的服务器设备的项目(project)信息接收时的处理的流程图。
图38是本实施例的服务器设备的切换处理的流程图。
图39是本实施例的第八发送模式的说明图。
图40是本实施例的第八发送模式中的UI画面等的说明图。
图41是在由适用于本实施例的第八发送模式的成像设备进行运动图像记录时的处理的流程图。
图42是适用于本实施例的第八发送模式的服务器设备的代理运动图像接收时的处理的流程图。
图43是适用于本实施例的第八、第九和第十发送模式的成像设备的运动图像剪辑请求接收时的处理的流程图。
图44是适用于本实施例的第八、第九和第十发送模式的服务器设备的主运动图像剪辑接收时的处理的流程图。
图45是本实施例的第九发送模式的说明图。
图46是本实施例的第九发送模式中的UI画面等的说明图。
图47是适用于本实施例的第九发送模式的由成像设备进行运动图像记录时的处理的流程图。
图48是适用于本实施例的第九发送模式的服务器设备的仅声音文件接收时的处理的流程图。
图49是本实施例的第十发送模式的说明图。
图50是本实施例的第十发送模式中的UI画面等的说明图。
图51是适用于本实施例的第十发送模式的由成像设备进行运动图像记录时的处理的流程图。
图52是适用于本实施例的第十发送模式的服务器设备的时间序列文件接收时的处理的流程图。
具体实施方式
下面将按以下顺序描述实施例。
<1.系统配置>
<2.成像设备、服务器设备和客户端终端的配置>
<3.第一发送模式>
<4.第二发送模式>
<5.第三和第四发送模式>
<6.第五发送模式>
<7.第六发送模式>
<8.第七发送模式>
<9.切换处理示例I>
<10.切换处理示例II>
<11.切换处理示例III>
<12.第八发送模式>
<13.第九发送模式>
<14.第十发送模式>
<15.总结和变型示例>
首先,描述各种术语的定义。
“图像”是表示包括静止图像和运动图像两者在内的各种图像数据的术语。
“主图像”表示要从图1中所示的成像设备1交付到客户端终端3的目标图像(target image)。主图像包括静止图像和运动图像。特别地,在表示运动图像的情况下,它被描述为“主运动图像”。
“关联信息”表示与成像设备1侧成像的图像相关联的信息,而与信息内容无关。示例包括所谓的元信息、音频备忘录的信息以及具有比主图像的数据量低的数据量的图像(与静止图像和运动图像有关的缩略图图像、屏幕图钉图像、与运动图像有关的代理运动图像等),其中,该元信息包括关于图像的成像者信息、日期和时间、地点、成像设备中的各种感测数据等。
“附加信息”表示由服务器设备2基于关联信息搜索、提取或生成的信息,而与信息内容无关。
“初始信息转发处理”表示在发送主图像之前转发关联信息和附加信息的处理。它可以被执行多次。
“主图像转发处理”表示转发主图像的处理。
“发送模式”是直到成像设备1、服务器设备2和客户端终端3之间的主图像转发为止的过程和要转发的信息内容的变化的模式。在本实施例中,根据信息内容的类型、主图像是静止图像、连续成像图像还是运动图像等,第一发送模式到第十发送模式被表示为不同的转发信息内容,并且例如,作为初始信息转发处理,假设了各种模式,例如在每个发送模式中是否执行初始信息转发处理的模式、经由服务器设备2执行从成像设备1到客户端终端3的一次信息转发的模式、以及执行多次信息转发的模式。
<1.系统配置>
图1示出了本实施例的图像转发系统的配置示例。图像转发系统基本上包括可经由网络6进行通信的一个或多个成像设备1、服务器设备2和客户端终端3。
作为成像设备1,存在诸如摄像机和静态相机之类的各种成像设备。所示的成像设备1被假设为在体育或活动场所、新闻采集现场等中由相机操作员或记者使用的相机。
服务器设备2和客户端终端3都是包括计算机设备的信息处理设备,但是,由于服务器设备2提供图像转发服务,并且客户端终端3是使用服务器设备2的转发服务的客户端的信息处理设备,所以在本公开中,为了区分,将它们称为“服务器设备”和“客户端终端”。
假设服务器设备2是用作所谓的云服务器的设备。当然,不限于作为云服务器的方面。
虽然在服务器设备2中示出了控制单元2a,但是控制单元2a执行稍后所述的初始信息转发处理和主图像转发处理。
此外,服务器设备2可以参考数据库7(下文中,数据库被称为“DB”)获得各种信息,并且可以通过使用文本转换引擎8执行音频数据到文本数据的转换来获得文本数据。
DB 7可以是在可以由服务器设备2本地使用的存储设备中配置的DB,或者可以是在能够经由各种网络搜索信息的存储设备上配置的DB。也就是说,DB 7可以是任何形式的DB,只要它是服务器设备2(控制单元2a)可以访问以获取信息的DB即可。
客户端终端3表示相机操作员向其交付图像的信息处理设备,例如广播站、报社、通信社等。广播站等是示例,并且交付目的地不受限制。
作为网络6,假设例如因特网、家庭网络、局域网(LAN)、卫星通信网络和各种其他网络。
在图1的示例中,成像设备1经由基站4与服务器设备2通信。基站4例如是4G通信(第四代移动通信系统)和5G通信(第五代移动通信体系)的基站。
存在移动边缘计算(MEC)5被布置在基站4中的情况。存在通过MEC 5的处理来执行每个成像设备1的通信的情况,或者还存在服务器设备2的一些功能由MEC 5执行的情况。
通过构造如图1中所示的图像转发系统,例如,在成像设备1的用户是执行广播站、报社等的工作的相机操作员的情况下,由相机操作员在活动场所捕获的图像可以经由服务器设备2转发到安装在广播站等中的客户端终端3。在客户端终端3侧,负责人选择所发送的图像并且使用该图像进行新闻报道。
如上所述,假设在需要在用于新闻报道等的成像之后的立即交付的现场转发大量高清晰度图像,并且这会增加每个单元的处理负载和网络负载。
此外,当在客户端终端3侧交付大量主图像时,存储容量负载也增加,并且负责人执行选择工作需要时间,以及存在新闻报道等所需的快速性受损的可能性。
因此,在本实施例中,服务器设备2将直到主图像的交付为止的转发划分为初始信息转发处理和主图像转发处理,从而减少网络通信负载、存储容量负载、促进选择工作等。
此外,通过根据情况等切换发送模式(过程或信息内容),执行适合于时间点的图像转发。
<2.成像设备、服务器设备和客户端终端的配置>
下文中,将描述成像设备1、服务器设备2和客户端终端3的配置示例。
首先,将参考图2描述成像设备1的配置示例。
成像设备1包括例如镜头系统11、成像元件单元12、相机信号处理单元13、记录控制单元14、显示单元15、通信单元16、操作单元17、相机控制单元18、存储器单元19、驱动器单元22、传感器单元23、音频输入单元25和音频处理单元26。
镜头系统11包括诸如变焦透镜、聚焦透镜等透镜和光圈机构。来自被摄体的光(入射光)被镜头系统11引导并且聚光在成像元件单元12上。
成像元件单元12包括图像传感器12a(成像元件),诸如例如互补金属氧化物半导体(CMOS)或电荷耦合器件(CCD)。
对于通过对由图像传感器12a接收到的光执行光电转换而获得的电信号,成像元件单元12执行例如相关双采样(CDS)处理、自动增益控制(AGC)处理等,并且进一步执行模拟/数字(A/D)转换处理。然后,将作为数字数据的捕获信号输出到后续阶段中的相机信号处理单元13或相机控制单元18。
通过例如数字信号处理器(DSP)等将相机信号处理单元13配置为图像处理的处理器。相机信号处理单元13对来自成像元件单元12的数字信号(捕获图像信号)执行各种信号处理。例如,作为相机处理,相机信号处理单元13执行预处理、同步处理、YC生成处理、分辨率转换处理、文件形成处理等。
在预处理中,对来自成像元件单元12的捕获图像信号执行将R、G和B的黑电平钳制(clamp)到预定电平的钳制处理,R、G、和B的颜色通道之间的校正处理等。
在同步处理中,执行颜色分离处理,使得每个像素的图像数据具有所有R、G和B颜色分量。例如,在使用拜耳阵列滤色器的成像元件的情况下,执行去马赛克处理作为颜色分离处理。
在YC生成处理中,从R、G和B图像数据生成(分离)亮度(Y)信号和颜色(C)信号。
在分辨率转换处理中,对已经被执行了各种信号处理的图像数据执行分辨率转换处理。
在文件形成处理中,例如,经受了上述各种处理的图像数据经受例如用于记录或通信的压缩编码、格式化、元信息的生成或添加等,以生成用于记录或通信的文件。
生成诸如例如联合图像专家组(JPEG)、标记图像文件格式(TIFF)和图形交换格式(GIF)之类的格式的图像文件作为静止图像文件。此外,还可以想到生成作为用于记录符合MPEG-4的运动图像和音频的MP4格式等的图像文件。
注意,还可以想到生成作为原始(raw)图像数据的图像文件。
相机信号处理单元13生成作为包括以下各项在内的信息的元信息:相机信号处理单元13中的处理参数信息、从相机控制单元18获取的各种控制参数、表示镜头系统11或成像元件单元12的操作状态的信息、模式设定信息、成像环境信息(日期和时间、地点等)、成像设备本身的识别信息、安装镜头的信息、先前注册的相机操作员的信息(姓名和识别信息)、国际新闻电信委员会(IPTC)元数据等。
注意,IPTC元数据是由媒体公司协会设计的格式的元信息,并且例如可以描述各种类型的信息,诸如“描述/字幕”、“描述作者”、“标题”和“关键字”。
记录控制单元14在使用例如非易失性存储器的记录介质上执行记录和再现。例如,记录控制单元14执行在记录介质上记录诸如运动图像数据和静止图像数据之类的图像文件、缩略图、屏幕图钉图像等的处理。
可想到记录控制单元14的各种实际形式。例如,记录控制单元14可以被配置为内置在成像设备1中的闪存及其写入/读取电路。此外,记录控制单元14可以是卡记录/再现单元的形式,其对可连接到成像设备1并且可从成像设备1分离的记录介质(例如,存储卡(便携式闪存等))执行记录/再现访问。此外,作为内置在成像设备1中的形式,记录控制单元14可以被实现为硬盘驱动器(HDD)等。
显示单元15是针对图像捕获者执行各种显示的显示单元,并且包括例如由布置在成像设备1的壳体中的诸如液晶显示器(LCD)或有机电致发光(EL)显示器之类的显示设备构成的显示面板或取景器。
显示单元15基于来自相机控制单元18的指令在显示画面上执行各种显示。
例如,显示单元15显示从记录控制单元14中的记录介质中读取的图像数据的再现图像。
此外,存在如下情况:将已被相机信号处理单元13转换为用于显示的分辨率的捕获图像的图像数据提供给显示单元15,并且显示单元15根据来自相机控制单元18的指令基于捕获图像的图像数据执行显示。因此,显示所谓的直通图像(被摄体监视图像),其是在构图确认、运动图像记录等期间的捕获图像。
此外,显示单元15基于相机控制单元18的指令在画面上执行各种操作菜单、图标、消息等的显示,即作为图形用户界面(GUI)的显示。
通信单元16通过有线或无线执行与外部设备的数据通信或网络通信。
例如,针对外部显示设备、记录设备、再现设备等执行捕获图像数据(静止图像文件或运动图像文件)或元信息的发送和输出。
此外,作为网络通信单元的通信单元16可以例如经由诸如因特网、家庭网络和局域网(LAN)之类的各种网络6执行通信,并且可以执行去往/来自网络上的服务器、终端等的各种数据发送和接收。例如,在本实施例的情况下,通信单元16执行将捕获图像数据(上述图像文件等)和元信息发送到服务器设备2的通信处理。
此外,成像设备1可以被配置为能够经由通信单元16通过诸如例如蓝牙(注册商标)、WI-FI(注册商标)通信或近场通信(NFC)之类的短距离无线通信或红外通信与例如由相机操作员等拥有的智能电话、平板终端等进行相互信息通信。在这种情况下,可以经由智能电话等转发图像。
此外,成像设备1和其他设备可以能够通过有线连接通信进行相互通信。
操作单元17共同表示供用户执行各种操作输入的输入设备。具体地,操作单元17表示设置在成像设备1的壳体中的各种操作部(按键、拨盘、触摸面板、触摸板等)。
操作单元17感测用户的操作,并且将与输入操作相对应的信号发送到相机控制单元18。
相机控制单元18包括包含中央处理单元(CPU)的微型计算机(算术处理设备)。
存储器单元19存储用于由相机控制单元18进行的处理的信息等。作为所示的存储器单元19,例如,全面地示出了只读存储器(ROM)、随机存取存储器(RAM)、闪存等。
存储器单元19可以是内置在作为相机控制单元18的微型计算机芯片中的存储器区域,或者可以由单独的存储器芯片构成。
相机控制单元18执行存储在存储器单元19的ROM、闪存等中的程序,以控制整个成像设备1。
例如,相机控制单元18关于成像元件单元12的快门速度的控制、相机信号处理单元13中的各种信号处理指令、与用户操作相应的成像操作或记录操作、所记录的图像文件的再现操作,镜头系统11的操作(例如镜头镜筒中的变焦、聚焦和光圈调整)、用户界面操作等,控制每个需要单元的操作。
作为当相机控制单元18的CPU处理各种数据时的工作区域,存储器单元19的RAM用于临时存储数据、程序等。
除了供CPU控制每个单元的操作系统(OS)和诸如图像文件之类的内容文件之外,存储器单元19的ROM和闪存(非易失性存储器)还用于存储用于各种操作的应用程序、固件、各种设定信息等。
各种设定信息包括通信设定信息、作为关于成像操作的设定信息的曝光设定、快门速度设定、模式设定、作为关于图像处理的设定信息的白平衡设定和颜色设定、关于图像效果的设定、作为关于可操作性的设定信息的自定义键设定和显示设定等等。
驱动器单元22设置有例如用于变焦透镜驱动电机的电机驱动器、用于聚焦透镜驱动电机的电机驱动器、用于光圈机构电机的电机驱动器等。
这些电机驱动器根据来自相机控制单元18的指令向相应的驱动器施加驱动电流,并且执行聚焦透镜和变焦透镜的移动、光圈机构的光圈叶片的打开和关闭等。
传感器单元23全面表示安装在成像设备上的各种传感器。
例如,作为传感器单元23,安装惯性测量单元(IMU),以及例如,俯仰、偏航和滚转的三轴的角速度(陀螺仪)传感器可以检测角速度,并且加速度传感器可以检测加速度。
此外,作为传感器单元23,例如,可以安装位置信息传感器、照度传感器等。
音频输入单元25包括例如麦克风、麦克风放大器等,并且输出通过收集环境音频而获得的音频信号。
音频处理单元26执行将由音频输入单元25获得的音频信号转换为数字音频信号的处理、AGC处理、音质处理、降噪处理等。经受这些处理的音频数据被输出到相机信号处理单元13和相机控制单元18。
例如,在捕获运动图像时,在相机控制单元18中将音频数据处理为伴随运动图像的音频数据。
此外,作为在图像捕获等时作为所谓的语音备忘录的音频备忘录数据,音频数据可以在相机信号处理单元13或相机控制单元18中被转换为作为音频文件的文件。
音频文件可以在记录控制单元14中与图像文件相关联地记录在记录介质上,或者可以与图像文件一起从通信单元16发送和输出。
接下来,在图3中示出作为服务器设备2和客户端终端3的信息处理设备70的配置示例。
例如,信息处理设备70的CPU 71根据存储在诸如ROM 72或电可擦除可编程只读存储器(EEP-ROM)之类的非易失性存储器单元74中的程序或从存储单元79加载到RAM 73的程序来执行各种处理。CPU 71执行各种处理所需的数据等也适当地存储在RAM 73中。
CPU 71、ROM 72、RAM 73和非易失性存储器单元74经由总线83彼此连接。输入/输出接口75也连接到总线83。
包括操作部和操作设备的输入单元76连接到输入/输出接口75。
例如,作为输入单元76,假设各种操作部和操作设备,例如键盘、鼠标、按键、拨盘、触摸面板、触摸板和遥控器。
用户的操作被输入单元76感测,并且与输入操作相对应的信号被CPU 71解释。
此外,包括LCD、有机EL面板等的显示单元77和包括扬声器等的音频输出单元78整体地或单独地连接到输入/输出接口75。
显示单元77是执行各种显示的显示单元,并且包括例如设置在信息处理设备70的壳体中的显示设备、连接到信息处理设备70的单独显示设备等。
显示单元77基于来自CPU 71的指令在显示画面上执行用于各种图像处理的图像、待处理的运动图像等的显示。此外,显示单元77基于来自CPU 71的指令来显示各种操作菜单、图标、消息等,也就是说,显示为图形用户界面(GUI)。
可能存在输入/输出接口75连接到包括硬盘、固态存储器等的存储单元79和包括调制解调器等的通信单元80的情况。
通信单元80经由诸如因特网之类的传输路径执行通信处理,或者通过有线/无线通信、总线通信等与各种设备执行通信。
驱动器81也根据需要连接到输入/输出接口75,适当地安装可移除记录介质82,例如磁盘、光盘、磁光盘或半导体存储器。
通过驱动器81,可以从可移除记录介质82读取诸如图像文件、各种计算机程序等的数据文件。读取的数据文件被存储在存储单元79中,并且数据文件中包括的图像和音频被显示单元77和音频输出单元78输出。此外,从可移除记录介质82读取的计算机程序等根据需要安装在存储单元79中。
在信息处理设备70中,例如,用于本实施例的处理的软件可以通过可移除记录介质82或通信单元80经由网络通信来安装。替选地,该软件可以预先存储在ROM 72、存储单元79等中。
例如,在信息处理设备70是服务器设备2的情况下,安装用于以下将描述的包括初始信息转发处理和主图像转发处理在内的转发处理、转发处理中的发送模式的切换处理等的软件。在这种情况下,CPU 71用作图1中的控制单元2a并且执行需要的处理。此外,经由通信单元80执行以下描述的各种通信。
此外,在信息处理设备70是客户端终端3的情况下,在以下描述的转发处理的过程中,在CPU 71的控制下执行使用输入单元76、显示单元77等的接口处理。此外,经由通信单元80执行各种通信。
<3.第一发送模式>
将描述作为经由服务器设备2从成像设备1到客户端终端3执行的图像转发处理的各种发送模式。
图4示出了作为图像转发的第一发送模式的通信过程和信息内容。
注意,如图4中所示,在下面将描述的第一发送模式到第十发送模式的图中,成像设备1、服务器设备2和客户端终端3之间的发送和接收由带有附图标记TP**(“**”是数值)的箭头表示,并且每个设备的处理由附图标记PS**表示。图中的垂直方向(从上到下)对应于时间的进展。
在下面描述的过程中执行图4中所示的第一发送模式。
-通信TP1
成像设备1将元信息作为关于捕获图像的关联信息发送到服务器设备2。此时,不发送主图像。
成像设备1例如根据相机操作员的操作发送关于一个或多个图像的元信息。
-处理PS1
服务器设备2基于接收到的每个图像的元信息搜索DB 7,并且导出附加信息。例如,在获得成像地点和时间作为元信息的情况下,存在可以通过使用成像地点和时间搜索DB 7来指定竞赛内容和选手姓名的情况。由此获得的竞赛名称、选手姓名等是附加信息的示例。
以此方式,基于从成像设备1发送的某些内容的元信息,服务器设备2将通过DB搜索获得的各种信息设定为附加信息。
此外,在处理PS1中,假设对于关于从成像设备1发送的多个图像的每个元信息执行DB搜索以获得附加信息。
-通信TP2
服务器设备2向客户端终端3发送关于每个图像的元信息和附加信息的对。
-处理PS2
客户端终端3使用接收到的元信息和附加信息执行用户界面(UI)处理。
例如,客户端终端3在显示单元77上执行如图5的A中所示的显示。在该示例中,假设元信息中包括相机操作员(成像者)、成像时间和成像地点的信息,并且基于成像时间和成像地点提取竞赛名称和选手姓名作为附加信息。基于这样的元信息和附加信息,显示与每个图像对应的信息内容列表30。图5的A示出了这样的示例,其中,例如,将元信息中包括的成像者的信息以及作为附加信息获得的竞赛名称和选手姓名作为与六个图像对应的信息显示在列表中。
此外,对应于每个信息布置复选框31,使得客户端终端3侧的负责人可以执行选择操作。
此外,显示缩略图请求按钮32,使得负责人可以操作它。
为了客户端终端3的负责人首先仅检查与图像相对应的信息内容并且粗略地选择需要的图像,执行这样的UI画面。
图5的A示出了负责人复选了信息内容列表30中的第一、第二和第六信息的复选框31的状态。
此外,当在该状态下操作缩略图请求按钮32时,假设负责人请求与第一、第二和第六信息相对应的图像的缩略图图像。
这样的操作是在负责人确认元信息和附加信息并且尝试利用缩略图确认它们实际上是什么类型的图像内容的情况下的操作。
在处理PS2中,客户端终端3的CPU 71控制这样的UI画面的显示,并且感测与其对应的负责人的输入。
注意,例如,已知缩略图/屏幕图钉以低分辨率表示具有小数据量的图像内容,但是本公开中的术语“缩略图”广泛地指代利用具有低分辨率的静止图像表示主图像(静止图像或运动图像)的图像,例如通常被称为缩略图/屏幕图钉的图像。
-通信TP3
客户端终端3向服务器设备2发送缩略图图像请求列表。即,响应于处理PS2的UI处理中的由负责人对复选框31的复选和对缩略图请求按钮32的操作,客户端终端3生成包括与所复选的信息相对应的图像的列表信息和请求缩略图的信息的缩略图图像请求列表,并且发送缩略图图像请求列表。
-通信TP4
服务器设备2将从客户端终端3接收到的缩略图图像请求列表转发到成像设备1。
-通信TP5
响应于接收到缩略图图像请求列表,成像设备1将缩略图图像请求列表中列出的一个或多个图像的缩略图图像发送到服务器设备2。
-通信TP6
服务器设备2将从成像设备1接收到的缩略图图像转发到客户端终端3。
-处理PS3
客户端终端3使用接收到的缩略图图像执行UI处理。
例如,客户端终端3在显示单元77上执行如图5的B中所示的缩略图列表34的显示。即,显示接收到的缩略图图像38的列表。
此外,如在图的示例中那样,有利的是,将关于每个缩略图图像38的元信息和附加信息中的全部或一部分作为关联/附加信息39来显示。
此外,对应于每个缩略图图像38布置复选框31,使得客户端终端3侧的负责人可以执行选择操作。
此外,显示主图像请求按钮33,以便负责人可以操作它。
显示这样的UI画面,以便客户端终端3的负责人在通过缩略图图像38确认在上述图5的A的画面上粗略地选择的图像的图像内容的同时最终选择所需的图像。
图5的B示出了负责人复选了在中央处的缩略图图像38的复选框31的状态。
当在该状态下操作主图像请求按钮33时,假设负责人请求与缩略图图像相对应的主图像。
在处理PS3中,客户端终端3的CPU 71控制这样的UI画面的显示,并且感测与其相对应的负责人的输入。
-通信TP7
客户端终端3向服务器设备2发送主图像请求列表。即,响应于处理PS3的UI处理中的由负责人对复选框31的复选和对主图像请求按钮33的操作,客户端终端3生成包括与所复选的缩略图相对应的图像的列表信息和请求主图像的信息的主图像请求列表,并且发送主图像请求列表。
-通信TP8
服务器设备2将从客户端终端3接收到的主图像请求列表转发到成像设备1。
-通信TP9
响应于接收到主图像请求列表,成像设备1将主图像请求列表中列出的一个或多个图像的主图像发送到服务器设备2。
-通信TP10
服务器设备2将从成像设备1接收到的主图像转发到客户端终端3。
因此,图5的C中的主图像35被交付到客户端终端3。
如上所述,不是从一开始就转发主图像35,而是首先作为第一次往返,执行基于元信息和附加信息的粗略图像选择,随后作为第二次往返,执行使用缩略图图像38的图像选择。服务器设备2执行到此为止的中继处理作为初始信息转发处理。
然后,服务器设备2最终通过主图像转发处理,将通过初始信息转发处理中的选择而在主图像请求列表中列出的主图像从成像设备1转发到客户端终端3。
以此方式,可以选择并且转发由客户端终端3的负责人所需的主图像,而不是将由成像设备1捕获的所有大量主图像转发到客户端终端3,并且一系列转发是非常高效的。
将描述用于实现图4中所示的每个通信TP和处理PS的成像设备1和服务器设备2的处理示例。
作为用于通信TP1的处理,在图6中示出了在成像设备1的成像时的处理。成像设备1的处理主要表示相机控制单元18的控制处理。
在图6的步骤S101中,成像设备1的相机控制单元18控制捕获处理。即,相机控制单元18控制图2的需要单元,以便根据相机操作员的操作来执行图像捕获/记录。例如,相机控制单元18使成像元件单元12和相机信号处理单元13执行静止图像的图像信号处理、关联元信息生成等。
在步骤S102中,相机控制单元18使相机信号处理单元13执行缩略图图像和主图像的编码处理。
在步骤S103中,相机控制单元18使记录控制单元14将缩略图图像和主图像(包括元信息)记录在记录介质上。
在步骤S104中,相机控制单元18使通信单元16执行发送所成像的图像的元信息的处理。
例如根据相机操作员的发送操作来执行步骤S104的处理。例如,响应于相机操作员从被成像并且被记录在记录介质上的图像当中选择用于发送(交付到客户端终端3)的单个图像或图像文件夹并且执行发送操作,相机控制单元18执行处理。相机控制单元18使通信单元16发送被相机操作员选择为要发送的一个或多个图像的相应元信息。
通过上述处理,执行图4的通信TP1。
图7中示出了用于图4的处理PS1和通信TP2的服务器设备2的处理。注意,作为服务器设备2的处理,示出了控制单元2a的控制处理。
在步骤S201中,控制单元2a核查从成像设备1接收到元信息。
然后,当接收到元信息时,控制单元2a执行循环处理LP1。
在循环处理LP1中,对于从成像设备1发送的每个图像的元信息执行步骤S202和S203。例如,在接收到对于十个图像的元信息的情况下,对每个图像执行处理。
在步骤S202中,控制单元2a基于元信息执行DB搜索处理,并且获取附加信息。例如,如上所述,对于一个图像,在将成像位置和成像时间的信息作为元信息发送的情况下,控制单元2a基于成像位置和成像时间的信息执行DB搜索,并且获取诸如例如竞赛名称和选手名称之类的附加信息。
在步骤S203中,控制单元2a执行将关于图像的元信息和附加信息发送到客户端终端3的处理。
控制单元2a在循环处理LP1中对于每个图像执行步骤S202和S203的处理,使得由成像设备1针对每个图像发送的元信息和相应的附加信息被发送到客户端终端3。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS2,并且作为通信TP3,发送缩略图图像请求列表。
图8示出了根据缩略图图像请求列表的用于通信TP4的服务器设备2的处理。
在步骤S220中,服务器设备2的控制单元2a核查图像请求列表的接收。这里提到的图像请求列表例如是缩略图图像请求列表或主图像请求列表。在稍后描述的发送模式中,可能存在这样的情况,即,它是诸如分组图像请求信息、对主运动图像的部分剪辑的请求和对代理运动图像的局部剪辑的请求之类的信息。
在图4的第一发送模式的情况下,当接收到缩略图图像请求列表或主图像请求列表时,控制单元2a执行步骤S221的处理。
在步骤S221中,控制单元2a执行将接收到的图像请求列表转发到成像设备1的处理。因此,作为通信TP4,转发缩略图图像请求列表。
图9中示出了用于通信TP5的成像设备1的处理。
在步骤S120中,相机控制单元18核查从服务器设备2接收到图像请求列表。
然后,当接收到图像请求列表时,相机控制单元18执行循环处理LP20。
在循环处理LP20中,相机控制单元18针对与图像请求列表中列出的请求有关的图像数量重复步骤S121到S125的处理。
首先,在步骤S121中,相机控制单元18确定图像请求列表是缩略图图像请求列表还是主图像请求列表,并且对处理进行分支。
在图像请求列表是缩略图图像请求列表的情况下,在步骤S122中,相机控制单元18使记录控制单元14执行从记录介质中读取包括在请求中的一个图像的缩略图图像。
然后,在步骤S123中,相机控制单元18执行经由通信单元16将从记录介质读取的缩略图图像发送到服务器设备2的处理。
在图像请求列表是主图像请求列表的情况下,在步骤S124中,相机控制单元18使记录控制单元14执行从记录介质中读取包括在请求中的一个图像的主图像。
然后,在步骤S125中,相机控制单元18执行经由通信单元16将从记录介质读取的主图像发送到服务器设备2的处理。
针对与图像请求列表中列出的请求有关的每个图像执行上述处理,并且执行与图像请求列表有关的缩略图图像或主图像的发送。
关于通信TP5,根据缩略图图像请求列表发送缩略图图像。
图10中示出了用于通信TP6的服务器设备2的处理。
在步骤S230中,服务器设备2的控制单元2a核查从成像设备1接收到图像。这里所指的图像例如是缩略图图像或主图像。
然后,当接收到图像时,控制单元2a执行循环处理LP10。
在循环处理LP10中,控制单元2a针对接收到的图像的数量重复步骤S231的处理。
在步骤S231中,控制单元2a执行将接收到的图像发送到客户端终端3的处理。
因此,作为通信TP6,在从成像设备1接收到一个或多个缩略图图像的情况下,服务器设备2将它们转发到客户端终端3。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS3,并且作为通信TP7,发送主图像请求列表。
根据主图像请求列表的用于通信TP8的服务器设备2的处理如上述图8中所示。
此外,通过通信TP8接收到主图像请求列表的成像设备1的处理如图9中所示。即,对与主图像请求列表中列出的请求有关的图像执行图9中的步骤S124和S125,从而执行与主图像请求列表有关的主图像的发送作为通信TP9。
此外,图10中示出了用于通信TP10的服务器设备2的处理。在从成像设备1接收到一个或多个主图像的情况下,服务器设备2在步骤S231的处理中将它们转发到客户端终端3。
注意,在通信TP5或通信TP7中发送到成像设备1的图像请求列表可以包括发送优先级的信息。例如,当请求多个图像时,负责人可以设定优先级的级别。然后,在图像请求列表中设定顺序,并且成像设备1按照根据优先级的顺序来执行图像发送。因此,可以尽可能快地交付具有高需要性的图像。这也适用于下面描述的每个发送模式的情况。
<4.第二发送模式>
将描述第二通信模式。注意,在下文中,将针对每个通信模式主要描述与上述通信模式不同的点,并且将省略类似部分的细节。
图11示出了第二发送模式。
通信TP1类似于图4中的通信TP1,并且将元信息从成像设备1发送到服务器设备2。
然而,在第二发送模式中,服务器设备2在通信TP2中将接收到的元信息按照原样发送到客户端终端3,而不进行作为此时的处理PS1的附加信息的导出。
客户端终端3执行UI处理作为处理PS2,但是在这种情况下,由于没有接收到附加信息,所以显示内容仅基于如图12的A中所示的元信息。
例如,在将成像者以及成像地点和时间作为元信息发送的情况下,将与每个图像相对应的相机操作员(成像者)、成像地点和成像时间的信息显示为信息内容列表30。
此外,显示与每个信息对应的复选框31和缩略图请求按钮32,使得负责人可以操作。
在通信TP3中,根据对图12的A的画面的操作,从客户端终端3发送缩略图图像请求列表。
在通信TP4中,服务器设备2将缩略图图像请求列表转发到成像设备1。
在通信TP5中,成像设备1发送在缩略图图像请求列表中请求的缩略图图像。
在第二发送模式中,已经通过通信TP5接收到缩略图图像作为捕获的主图像的关联信息的服务器设备2执行获得附加信息的处理,作为此时的处理PS4。在这种情况下,对缩略图图像执行图像分析和物体识别处理,并且根据结果生成附加信息。例如,选手姓名可以通过执行面部识别、个人识别、统一号码的识别等来获得。此外,还可以通过对于被摄体的物体识别来确定竞赛类型,并且生成竞赛名称作为附加信息。根据这些示例,通过使用缩略图图像的识别处理来获取某些信息,并且将所获取的信息设定为附加信息。
在通信TP6中,服务器设备2将缩略图图像和根据缩略图图像确定的附加信息发送到客户端终端3。
客户端终端3使用接收到的缩略图图像来执行UI处理作为处理PS3。在这种情况下,由于还接收到附加信息,因此客户端终端3还可以基于附加信息与缩略图图像一起执行显示。
例如,客户端终端3在显示单元77上执行接收到的缩略图图像38的显示,作为图12的B中所示的缩略图列表34的显示。此外,还显示关联/附加信息39,作为关于每个缩略图图像38的元信息和附加信息的全部或一部分。在该示例中,将作为附加信息获得的竞赛名称和选手姓名与作为元信息获得的成像者的信息一起显示。
此外,显示与每个缩略图图像38相对应的复选框31和主图像请求按钮33,使得负责人可以操作。
在通信TP7中,根据对图12的B的画面的操作,从客户端终端3发送主图像请求列表。
在通信TP8中,服务器设备2将主图像请求列表转发到成像设备1。
在通信TP9中,成像设备1发送在主图像请求列表中请求的主图像。
在通信TP10中,服务器设备2将如图12的C中所示的主图像转发到客户端终端3。
如上所述,图11中的第二发送模式与图4中的第一发送模式的不同之处在于,作为处理PS4,由服务器设备2获得附加信息的处理是基于缩略图图像。
用于第二发送模式的成像设备1和服务器设备2的处理如下所述。
用于通信TP1的成像设备1的处理如上述图6中所示。
图13中示出了用于通信TP2的服务器设备2的处理。
在步骤S201中,控制单元2a核查从成像设备1接收到元信息。
然后,当接收到元信息时,控制单元2a执行循环处理LP2。
在循环处理LP2中,在步骤S205中,控制单元2a执行将从成像设备1发送的元信息发送到客户端终端3的处理。
控制单元2a在循环处理LP2中对每个图像执行步骤S205的处理,使得由成像设备1针对每个图像发送的元信息被发送到客户端终端3。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS2,并且作为通信TP3,发送缩略图图像请求列表。
根据缩略图图像请求列表的用于通信TP4的服务器设备2的处理如上述图8中所示。
此外,用于通信TP5的成像设备1的处理如上述图9中所示。
在通信TP5中接收到缩略图图像38的情况下,用于通信TP6的服务器设备2的处理如图14中所示。
在步骤S230中,服务器设备2的控制单元2a核查从成像设备1接收到图像。这里所指的图像例如是缩略图图像或主图像。
在步骤S240中,控制单元2a根据接收到的图像是缩略图图像还是主图像对处理进行分支。
然后,当接收到缩略图图像时,控制单元2a执行循环处理LP11,并且当接收到主图像时,执行循环处理LP11。
在循环处理LP11中,控制单元2a针对接收到的缩略图图像的数量重复步骤S241、S242和S243的处理。
在步骤S241中,控制单元2a执行图像识别处理。然后,在步骤S242中,基于图像识别处理的结果生成附加信息。
注意,在这种情况下,可以基于图像识别结果执行DB搜索以生成附加信息。此外,可以导出基于图像识别结果的附加信息和作为基于元信息的DB搜索结果而获得的附加信息两者。
在步骤S243中,控制单元2a执行将接收到的图像发送到客户端终端3的处理。
因此,作为通信TP6,在从成像设备1接收到一个或多个缩略图图像的情况下,服务器设备2将它们和附加信息转发到客户端终端3。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS3,并且作为通信TP7,发送主图像请求列表。
根据主图像请求列表的用于通信TP8的服务器设备2的处理如上述图8中所示。
此外,已经通过通信TP8接收到主图像请求列表的成像设备1的处理如图9中所示。即,对与主图像请求表中列出的请求有关的图像执行图9中的步骤S124和S125,从而执行与图像请求列表有关的主图像的发送作为通信TP9。
此外,图14中示出了用于通信TP10的服务器设备2的处理。在服务器设备2从成像设备1接收到一个或多个主图像的情况下,处理从图14的步骤S240进行到循环处理LP12。
在循环处理LP12中,控制单元2a针对接收到的主图像的数量重复步骤S244的处理。
在步骤S244中,控制单元2a执行将接收到的主图像发送到客户端终端3的处理。
因此,作为通信TP10,在从成像设备1接收到一个或多个主图像的情况下,服务器设备2将它们转发到客户端终端3。
<5.第三和第四发送模式>
将描述作为第三和第四发送模式不执行附加信息的获取/转发的示例。
图15示出了第三发送模式。
作为通信TP1,将元信息从成像设备1发送到服务器设备2。
作为通信TP2,服务器设备2将接收到的元信息按照原样发送到客户端终端3。
客户端终端3执行UI处理作为处理PS2,但是在这种情况下,由于没有接收到附加信息,所以显示内容仅基于如图16的A中所示的元信息。例如,内容类似于图12的A中的内容。
在通信TP3中,根据对图16的A的画面的操作,从客户端终端3发送缩略图图像请求列表。
在通信TP4中,服务器设备2将缩略图图像请求列表转发到成像设备1。
在通信TP5中,成像设备1发送在缩略图图像请求列表中请求的缩略图图像。
在通信TP6中,服务器设备2将缩略图图像发送到客户端终端3。
客户端终端3使用接收到的缩略图图像执行UI处理作为处理PS3。例如,客户端终端3在显示单元77上执行接收到的缩略图图像38的显示,作为图16的B中所示的缩略图列表34的显示。在这种情况下,由于不发送附加信息,因此仅显示基于元信息的信息(例如,成像地点、成像时间等)作为关联/附加信息39。
此外,显示与每个缩略图图像38相对应的复选框31和主图像请求按钮33,使得负责人可以操作。
在通信TP7中,根据对图16的B的画面的操作,从客户端终端3发送主图像请求列表。
在通信TP8中,服务器设备2将主图像请求列表转发到成像设备1。
在通信TP9中,成像设备1发送在主图像请求列表中请求的主图像。
在通信TP10中,服务器设备2将如图16的C中所示的主图像转发到客户端终端3。
如上所述,图15中的第三发送模式与上述第一和第二发送模式的不同之处在于,服务器设备2不执行获得附加信息的处理。
用于第三发送模式的成像设备1和服务器设备2的处理如下所述。
成像设备1的在成像时的处理如图6中所示,并且在接收图像请求时的处理如图9中所示。
服务器设备2的在接收元信息时的处理如图13中所示,在接收图像请求时的处理如图8中所示,并且在接收图像时的处理如图10中所示。
接下来,将描述第四发送模式。
整个过程类似于图15中的第三发送模式的过程,但是它是在成像设备1具有个人面部登记功能的情况下的示例。
当成像设备1登记例如竞赛的选手的个人面部、隶属团队、姓名等时,可以识别通过图像识别而被确定为被摄体的选手,并且可以将该信息包括在元信息中。
因此,成像设备1执行例如图17的处理。
作为相机控制单元18的处理,图17中的步骤S101、S102、S103和S104的处理与图6中的处理类似。
作为图17中的步骤S180,相机控制单元18执行个人面部识别处理。例如,对在步骤S103中记录的每个图像执行个人面部识别处理,指定作为被摄体的选手,并且将该信息添加到元信息。
因此,当在步骤S104中发送元信息时,也将选手信息包括在元信息中。
因此,在通过图15的通信TP1和通信TP2向客户端终端3发送元信息的情况下,客户端终端3可以基于元信息显示如图16的D中所示的信息内容列表30。即,可以显示选手的信息。
因此,例如,在负责人想要选择特定选手的图像等的情况下,这是非常有用的。
<6.第五发送模式>
将参考图18描述第五通信模式。
在通信TP1中,将包括音频备忘录数据的元信息从成像设备1发送到服务器设备2。
音频备忘录数据是这样的数据,其中,当图像被捕获时(例如,紧接在释放操作之后)或图像被记录在记录介质上,然后发出用作备忘录的话语以将音频作为备忘录与图像关联,并且将该音频作为一个元信息保存。该第五通信模式可以应用于成像设备1具有音频备忘录功能的情况。
当接收到包括音频备忘录数据的元信息时,作为通信TP2,服务器设备2将其发送到客户端终端3。
客户端终端3执行UI处理作为处理PS2,但是在这种情况下,显示内容是仅基于如图19的A中所示的元信息的信息内容列表30。然而,由于接收到包括音频备忘录数据的元信息,所以针对包括音频备忘录数据的信息内容显示音频再现图标40。在附图的示例中,作为对于所有图像存在音频备忘录数据的情况,对应于每个信息内容显示音频再现图标40。
例如,在客户端终端3中,音频输出单元78通过操作音频再现图标40来再现音频备忘录。当相机操作员适当地记录音频备忘录时,客户端终端3的负责人可以参考音频备忘录来执行图像选择。
由于后续通信TP3至通信TP10和处理PS3类似于第三通信模式,因此省略了冗余描述。
能够记录音频备忘录数据的成像设备的在成像时的处理如图20中所示。
注意,图20中的步骤S101、S102、S103和S104与图6中的步骤类似。
相机操作员可以任意地将音频备忘录添加到捕获图像。
在照相机操作员不执行在捕获图像上记录音频备忘录的操作的情况下,处理从步骤S110进行到步骤S104,并且与图6类似。
在执行记录音频备忘录的操作的情况下,图20中的处理从步骤S110进行到步骤S111,并且相机控制单元18执行记录处理。即,它是例如根据预定操作将从音频输入单元25输入的音频记录大约10秒到20秒的时间段的处理。
在步骤S112中,相机控制单元18使相机信号处理单元13执行所输入的音频备忘录数据的编码处理。
在步骤S113中,相机控制单元18使记录控制单元14执行将经编码的音频备忘录数据记录在记录介质上的处理。
然后,在步骤S114中,相机控制单元18使通信单元16在音频备忘录数据被添加到图像的元信息的状态下执行到服务器设备2的发送处理。
当接收到包括音频备忘录数据的元信息时,用于通信TP2的服务器设备2的处理如图21中所示。
在步骤S201中,控制单元2a核查从成像设备1接收到元信息。
然后,当接收到元信息时,控制单元2a执行循环处理LP3。
作为循环处理LP3,在步骤S206中,控制单元2a确定音频备忘录数据是否被包括在元信息中,并且对处理进行分支。
当元信息不包括音频备忘录数据时,在步骤S205中,控制单元2a执行将从成像设备1发送的元信息发送到客户端终端3的处理。
当元信息包括音频备忘录数据时,在步骤S207中,控制单元2a执行将包括从成像设备1发送的音频备忘录数据的元信息发送到客户端终端3的处理。
控制单元2a在循环处理LP3中对每个图像执行步骤S206和S205或步骤S206、S207的处理,使得由成像设备1针对每个图像发送的元信息被发送到客户端终端3,并且当添加了音频备忘录数据时,音频备忘录数据也被发送。
用于第五发送模式的另一处理如下所述。
成像设备1的在接收图像请求时的处理如图9中所示。
服务器设备2的在接收图像请求时的处理如图8中所示,并且在接收图像时的处理如图10中所示。
<7.第六发送模式>
将参考图22描述第六通信模式。
在通信TP1中,将包括音频备忘录数据的元信息从成像设备1发送到服务器设备2。
当接收到包括音频备忘录数据的元信息时,作为处理PS5,服务器设备2执行音频备忘录的转录处理。即,生成将音频备忘录数据转录成文本数据的信息。然后,作为通信TP2,将元信息和基于音频备忘录数据的文本信息发送到客户端终端3。
客户端终端3执行UI处理作为处理PS2,并且在这种情况下,作为显示内容,如图23的A中所示,可以将通过将音频备忘录数据转换为文本而获得的音频备忘录文本41与元信息的内容一起作为信息内容列表30来显示。
注意,从文本信息是在服务器设备2中生成的意义上来说,文本信息可以被视为本公开中所指的附加信息之一,但是因为文本信息在内容方面与音频备忘录数据相同,所以可以被视作为本公开中所指的关联信息。
通过显示音频备忘录文本41,客户端终端3的负责人可以参考音频备忘录的内容来执行图像选择。由于此时不需要再现音频备忘录,因此可以更有效地执行选择操作。
后续的通信TP3到通信TP10和处理PS3与第三通信模式类似。
能够记录音频备忘录数据的成像设备的在成像时的处理如上述图20中所示。
当接收到包括音频备忘录数据的元信息时,用于通信TP2的服务器设备2的处理如图24中所示。
在步骤S201中,控制单元2a核查从成像设备1接收到元信息。
然后,当接收到元信息时,控制单元2a执行循环处理LP4。
作为循环处理LP4,在步骤S206中,控制单元2a确定音频备忘录数据是否被包括在元信息中,并且对处理进行分支。
当元信息不包括音频备忘录数据时,在步骤S205中,控制单元2a执行将从成像设备1发送的元信息发送到客户端终端3的处理。
当元信息包括音频备忘录数据时,在步骤S208中,控制单元2a对音频备忘录数据执行文本转换处理。然后,在步骤S209中,控制单元2a执行将从成像设备1发送的音频备忘录数据的文本数据和其他元信息发送到客户端终端3的处理。
注意,此时,通过不发送音频备忘录数据本身,可以减少发送数据量。
然而,可以将原始音频备忘录数据与音频备忘录数据的文本数据一起发送到客户端终端3,从而可以在客户端终端3侧执行音频再现。
控制单元2a在循环处理LP4中对每个图像执行步骤S206和S205或步骤S206、S208和S209的处理,从而将由成像设备1针对每个图像发送的元信息发送到客户端终端3,以及当添加了音频备忘录数据时,将音频备忘录数据转换为文本并且发送。
用于第六发送模式的另一处理如下所述。
成像设备1的在接收图像请求时的处理如图9中所示。
服务器设备2的在接收图像请求时的处理如图8中所示,并且在接收图像时的处理如图10中所示。
<8.第七发送模式>
在图25中,作为第七发送模式,将描述由成像设备执行连续成像并且将一系列图像作为分组图像进行管理的情况的示例。
-通信TP21
成像设备1将包括连续成像的分组图像的第一图像的缩略图图像的元信息作为关于捕获图像的关联信息发送到服务器设备2。
在这种情况下,成像设备1针对一个或多个连续成像的分组图像中的每一个发送第一图像的缩略图图像,但是不限于第一个,并且如果选择了包括在连续成像的分组图像中的特定图像并且发送该图像的缩略图图像就足够了。
-通信TP22
服务器设备2向客户端终端3发送包括每个连续成像的分组图像的缩略图图像的元信息。
-处理PS6
客户端终端3使用接收到的每个连续成像的分组图像的缩略图图像来执行UI处理。
例如,客户端终端3显示如图26的A中所示的缩略图列表34。在这种情况下,对于连续成像的分组图像,显示连续成像的分组图像的缩略图图像(连续成像的缩略图图像42)。
此外,在所发送的内容包括通过不是连续成像的正常单个图像捕获而获得的图像的缩略图图像的情况下,显示缩略图图像38。
此外,与连续成像的缩略图图像42或缩略图图像38相对应地,将相机操作员(成像者)的信息、成像时间、成像地点等作为基于元信息的关联/附加信息39来显示。
此外,与连续成像的缩略图图像42或缩略图图像38相对应地布置复选框31,使得客户端终端3侧的负责人可以执行选择操作。
此外,显示主图像请求按钮33和展开按钮36,使得负责人可以操作。
这样的UI画面是为了客户端终端3的负责人根据缩略图图像来选择主图像被请求的图像的画面,并且可以对于连续成像的分组图像选择各个图像。
例如,通过使用复选框31选择连续成像的缩略图图像42并且操作展开按钮36,可以如图26的B中所示地查看构成连续成像的各个图像的缩略图图像。
-通信TP23
客户端终端3向服务器设备2发送对于整个分组图像的请求。即,在处理PS2的UI处理中,负责人核查对于特定连续成像的缩略图图像42的复选框31,操作展开按钮36,以及响应于此,客户端终端3生成连续成像的分组图像的所有复选的图像的列表信息和包括请求缩略图的信息的对于整个分组图像的请求的信息,并且发送所生成的信息。
-通信TP24
服务器设备2将从客户端终端3接收到的对于整个分组图像的请求转发到成像设备1。
-通信TP25
响应于接收到对于整个分组图像的请求,成像设备1将包括在所请求的连续成像的分组图像中的各个图像的缩略图图像发送到服务器设备2。
-通信TP26
服务器设备2将从成像设备1接收到的缩略图图像转发到客户端终端3。
-处理PS7
客户端终端3使用接收到的分组图像的所有缩略图图像来执行UI处理。
例如,作为如图26的B中所示的展开列表37,客户端终端3在显示单元77上执行连续成像的分组图像的每个缩略图图像43的显示。
此外,还可以与整个连续成像的分组图像相对应地显示关联/附加信息39。
此外,与每个缩略图图像43相对应地布置复选框31,使得客户端终端3侧的负责人可以执行选择操作。
此外,显示主图像请求按钮33,以便负责人可以操作它。
利用这样的UI画面,客户端终端3的负责人还可以选择连续成像图像中的一些图像。
-通信TP27
客户端终端3将主图像请求列表发送到服务器设备2。即,响应于处理PS6或PS7的UI处理中的由负责人对复选框31的复选和对主图像请求按钮33的操作,客户端终端3生成包括与所复选的缩略图相对应的图像的列表信息和请求主图像的信息的主图像请求列表,并且发送主图像请求表。
-通信TP28
服务器设备2将从客户端终端3接收到的主图像请求列表转发到成像设备1。
-通信TP29
响应于接收到主图像请求列表,成像设备1将主图像请求表中列出的一个或多个图像的主图像发送到服务器设备2。
-通信TP30
服务器设备2将从成像设备1接收到的主图像转发到客户端终端3。
因此,将图26的C中的主图像35交付到客户端终端3。
如上所述,在假设连续成像的分组图像的情况下,发送表示连续成像的分组图像的缩略图图像,使得可以选择连续成像的分组图像。此外,可以选择连续成像的分组图像的各个图像。
以此方式,不是将由成像设备1连续捕获的所有大量主图像转发到客户端终端3,而是可以选择并且转发由客户端终端3的负责人所需的连续成像的分组图像的各个图像的主图像,并且一系列转发是非常高效的。
注意,图25示出了假设由成像设备1执行连续成像的情况下的通信TP21到通信TP30,但是,当成像设备1不执行连续成像和捕获时,例如,通过上述第一发送模式到第六发送模式中的任何一个来执行通信TP1到通信TP10。
此外,即使在执行连续成像的情况下,也可以想到,例如,在图25的通信TP21之前的时间点执行图4中所示的通信TP1、处理PS1、通信TP2、处理PS2、通信TP3和通信TP4,并且对于由通信TP4的缩略图图像请求列表请求的图像执行图25的通信TP21之后的处理。
作为关于第七发送模式的在由成像设备1进行成像时的处理,可以想到图27的示例。
在步骤S140中,相机控制单元18根据是否执行连续成像(是否设定了连续成像模式)对处理进行分支。
当不是连续成像时,相机控制单元18执行从步骤S101到S104的处理。这类似于图6中的处理。
在连续成像时,作为循环处理LP30,相机控制单元18将从步骤S141到S144的处理重复与通过连续成像进行的图像捕获次数相同的次数。
在步骤S141中,相机控制单元18控制连续成像中的单个图像捕获处理。例如,相机控制单元18使成像元件单元12和相机信号处理单元13执行静止图像的图像信号处理等。
在步骤S142中,相机控制单元18使相机信号处理单元13执行缩略图图像和主图像的编码处理。
在步骤S143中,相机控制单元18使记录控制单元14将缩略图图像和主图像记录在记录介质上。
在步骤S144中,相机控制单元18更新分组信息管理文件。这是针对为连续成像的分组图像而管理的文件来更新与连续成像的分组图像相关联的元信息的处理。
在将上述处理执行了连续成像图像的数量之后,相机控制单元18进行到步骤S145,并且使通信单元16执行发送包括连续成像的分组图像的一个第一图像的缩略图图像的元信息的处理。
通过上述处理,执行图4的通信TP1。
成像设备1的在接收图像请求时的处理如图28中所示。
它是在通信TP25中接收整个分组图像的缩略图图像的请求时、在通信TP28中接收主图像请求列表时以及在图4的通信TP5中接收缩略图图像请求列表时的处理。
在步骤S120中,相机控制单元18核查从服务器设备2接收到图像请求列表。
然后,当接收到图像请求列表时,相机控制单元18执行循环处理LP21。
在循环处理LP21中,相机控制单元18针对与图像请求列表中列出的请求有关的图像的数量重复下面描述的处理。
首先,在步骤S131中,相机控制单元18确定图像请求列表是否是缩略图图像请求列表。
在图像请求列表是缩略图图像请求列表的情况下,在步骤S122中,相机控制单元18使记录控制单元14执行从记录介质中读取包括在请求中的一个图像的缩略图。
然后,在步骤S123中,相机控制单元18执行经由通信单元16将从记录介质读取的缩略图图像发送到服务器设备2的处理。
针对所请求的图像的数量重复此操作。
在接收到的请求信息不是缩略图图像请求列表的情况下,在步骤S132中,相机控制单元18确定图像请求列表是否是主图像请求列表。在主图像请求列表的情况下,在步骤S124中,相机控制单元18使记录控制单元14执行从记录介质中读取包括在请求中的一个图像主图像。
然后,在步骤S125中,相机控制单元18执行经由通信单元16将从记录介质中读取的主图像发送到服务器设备2的处理。
针对所请求的图像的数量重复此操作。
在接收到的请求信息既不是缩略图图像请求列表也不是主图像请求列表的情况下,在步骤S133中,相机控制单元18确定它是否是整个分组图像请求。在这种情况下,相机控制单元18执行循环处理LP22。
在循环处理LP22中,根据构成相应的连续成像的分组图像的图像数量,重复步骤S126和S127。准确地说,由于第一图像的缩略图图像已经被发送,因此如果对于第二图像和后续图像重复处理就足够了。
在步骤S126中,记录控制单元14执行从记录介质中读取连续成像的分组图像当中的未发送图像的缩略图图像。
然后,在步骤S127中,相机控制单元18执行经由通信单元16将从记录介质中读取的缩略图图像发送到服务器设备2的处理。
当执行上述处理时,执行与图像请求列表有关的缩略图图像或主图像的发送。
作为通信TP25、通信TP29(或通信TP9)和通信TP5,执行图像发送。
注意,服务器设备2的在接收元信息时的处理如图13中所示,在接收图像请求时的处理如图8中所示,并且在接收图像时的处理如图10中所示。
<9.切换处理示例I>
虽然上面主要假设静止图像作为图像描述了第一发送模式到第七发送模式,但是服务器设备2可以适当地切换这些发送模式,以根据情况或成像对象实现适当的通信。
下面描述的切换的示例包括但不限于切换发送模式本身,例如根据情况在第一发送模式和第四发送模式之间切换、在第五发送模式和第六发送模式之间切换,并且例如在成像设备执行连续成像的情况下,自动地从第一发送模式切换到第七发送模式。
例如,在第一发送模式中,将初始信息转发处理执行两次往返,使得在第一次往返中发送元信息和附加信息以在客户端终端3中执行选择,并且在第二次往返中发送缩略图图像以在客户端3中执行选择,但是,存在仅在一次往返之后执行主图像转发处理的示例,以及在不执行初始信息转发处理的情况下从一开始就执行主图像转发处理的示例,并且作为这些示例,还包括减少或增加发送模式的过程的切换。
在以下描述中,将主要集中于发送模式的切换进行描述,但是应当理解,其也适用于发送模式内的过程的切换。
图29示出了切换处理示例I。
-处理PS10
服务器设备2执行情况确定,并且根据该情况来确定要执行的发送模式。注意,如上所述,还可以确定以改变特定发送模式中的过程(例如,省略初始信息转发处理,将初始信息转发过程仅执行一次往返等)。
-通信TP40
服务器设备2将所确定的发送模式通知给成像设备1。
-处理PS11
成像设备1根据所通知的发送模式执行用于图像交付的设定处理。
例如,相机控制单元18执行以下设定。在第一发送模式到第四发送模式的情况下,仅元信息被设定为在图像转发时被发送。在第五和第六发送模式的情况下,包括音频备忘录数据的元信息被设定为在图像转发时被发送。在第七发送模式的情况下,进行设定以发送连续成像的分组图像的第一图像的缩略图图像。
替选地,可以存在这样的情况,其中进行设定以省略特定发送模式中的初始信息转发处理。
-通信TP41
服务器设备2将所确定的发送模式通知给客户端终端3。
-处理PS12
客户端终端3根据所通知的发送模式来执行表示所通知的发送模式的UI处理。
注意,上述通信TP40和通信TP41的顺序可以颠倒。此外,还可以想到,不执行通信TP40和通信TP41中的一个或两个以及与其对应的处理PS11和处理PS12。
图30示出了用于执行这样的切换处理的服务器设备2的处理示例。
在步骤S300中,控制单元2a执行情况确定。例如,确定诸如通信状态(诸如当前转发速率和分组错误率)、连接的成像设备1的数量以及服务器设备2本身的处理负载之类的情况。
在步骤S301中,控制单元2a根据作为情况确定的结果是否要执行切换来对处理进行分支。在不执行切换的情况下,控制单元2a结束图30的处理,但是在执行切换的情形下,处理进行到步骤S302。
在步骤S302中,控制单元2a根据所确定的情况来确定发送模式。例如,可以想到以下示例,其中,当与成像设备1侧的通信状态良好时,设定第一发送模式,并且在通信状态恶化的情况下,设定第三发送模式,当服务器设备2自身的处理负载较轻时,设定第一发送模式或第二发送模式,以及当处理负载较重时,设定第三发送模式等。
在步骤S303中,控制单元2a执行向成像设备1通知发送模式的处理,并且在步骤S304中,执行向客户端终端3通知发送模式的处理。
当在这样的处理中执行发送模式的切换时,根据通信状态、处理负载的状态等选择适当的发送模式。
将描述与各种情况确定相应的切换的具体示例。
首先,存在关于定时的情况确定。
-对于第一和第二发送模式,服务器设备2需要生成附加信息。此外,在第六发送模式中,需要文本转换处理。因此,当未创建用于生成附加信息的信息时,在不可以进行DB访问的情况下,或者在不可以进行文本转换处理的情况下,设定第三、第四和第五发送模式,并且当可以生成附加信息等时,设定第一、第二和第六发送模式。
还可以想到关于服务器设备2的处理负载的情况确定。
在从大量客户端终端3侧请求图像列表的情况下,期望减少要发送的数据量,以便降低服务器设备2侧的网络负载。例如,期望发送文本数据而不是音频数据。因此,可以想到在服务器设备2的网络负载高的情况下切换到第三发送模式,并且在服务器设备2中的网络负载低的情况下,切换到第五发送模式。
此外,在从大量相机侧接收图像的情况下,期望减少要发送的数据量,以便降低服务器设备2侧的网络负载。例如,在连续成像图像的情况下,期望通过发送第一图像来减少数据量。因此,可以想到在服务器设备2侧的网络负载高的情况下切换到第七发送模式,并且在服务器设备2侧的网络负载低的情况下,切换到第三发送模式。
此外,在从大量成像设备1侧接收大量元信息的情况下,服务器设备2侧的数据创建处理负载增加。因此,可以想到在服务器设备2侧的接口处理或CPU 71的处理负载高的情况下,将处理切换到第三和第四发送模式,以及在服务器设备2侧的接口处理或CPU 71的处理负载低的情况下,将处理切换到第一、第二和第五发送模式。
还可以想到从用例的角度进行情况确定。
在网络环境可能较差的户外体育和网络环境丰富的室内/体育场体育之间,图像捕获场所的环境存在差异。例如,可以想到如下示例,其中,在网络环境较差的情况下将处理切换到第三发送模式,并且在网络环境丰富的情况下将处理切换到第五发送模式。
此外,在网络环境较差的情况下,执行第一至第六发送模式中描述的发送,例如元信息发送、缩略图图像发送和主图像发送,但是在网络环境丰富的情况下,可以想到通过执行缩略图图像发送和主图像发送(即,将初始信息转发处理执行一次往返)、从一开始就执行主图像发送(不执行初始信息转发过程)等来减少发送阶段。
存在诸如田径或游泳之类的体育,其中可以根据竞赛程序来创建时间、地点和运动员的数据库;并且存在诸如马拉松和铁人三项之类的体育,其中无法根据竞赛程序来创建时间、地点、运动员的数据库。可以想到在被摄体活动是可创建DB的体育的情况下使用第一发送模式,并且在被摄体活动不是可创建DB的体育的情况下切换到第三、第四、第五和第六发送模式。
注意,根据要成像的体育的类型切换发送模式的处理将在后面作为切换处理示例II和III进行描述。
还考虑了从5G环境或4G环境的角度进行的情况确定。
期望根据网络环境减少要发送的数据量。因此,可以想到这样的示例,其中,在4G环境的情况下,执行到第三和第四发送模式的切换,并且在5G环境的情况下,执行到第一、第二、第五和第六发送模式的切换。
同时,在图29和图30的示例中,服务器设备2将发送模式通知给客户端终端3,以及这使得客户端终端3侧能够显示如例如图31的A和图31的B中所示的模式信息44,并且可以向负责人呈现将以何种发送模式执行图像转发。图31的A是开始处理PS12的转发之前的显示状态的示例,并且图31的B是例如图16的处理PS2等中的显示状态的示例。
作为模式信息44,例如,如图31的C中的每个示例中所示,可以想到表示发送到客户端终端3的信息的内容和顺序。
此外,在图29和图30的示例中,服务器设备2通过情况确定处理来自动执行切换,但是可以向客户端终端3的负责人请求是否可以切换。
例如,如图32中所示,在客户端终端3上显示确认对话框45,并且当负责人接受切换时切换发送模式。该图是在根据网络环境执行切换的情况下请求负责人给予批准的示例。
为此,服务器设备2例如在图30的步骤S301中执行如图33中所示的处理。
在步骤S310中,控制单元2a执行网络状态确定处理。
例如,当确定转发速率已经降低并且信息转发已经减少时,控制单元2a从步骤S311前进到步骤S313,并且向客户端终端3发送切换推荐通知。响应于此,客户端终端3显示如图32中所示的确认对话框45。然后,在步骤S314中,等待来自客户端终端3侧的响应通知。
当负责人执行用于接受切换的操作并且从客户端终端3给出了该意思的通知时,处理从图30中的步骤S314进行到步骤S301和S302,并且切换发送模式。
当负责人执行不接受切换的操作并且从客户端终端3给出了该意思的通知时,处理从图30中的步骤S314进行到步骤S301,不切换发送模式,并且图30的处理结束。
当在步骤S310的网络状态确定处理中确定例如转发速率增加并且恢复了以高速执行信息转发的状态时,控制单元2a从步骤S312进行到步骤S315,并且向客户端终端3发送切换推荐通知。响应于此,客户端终端3显示提示切换到在通信良好的情况下的发送模式的确认对话框45。然后,在步骤S316中,控制单元2a等待来自客户端终端3侧的响应通知。
当负责人执行用于接受切换的操作并且从客户端终端3给出了该意思的通知时,处理从图30中的步骤S316进行到步骤S301和S302,并且切换发送模式。
当负责人执行不接受切换的操作并且从客户端终端3给出了该意思的通知时,处理从图30中的步骤S316进行到步骤S301,不切换发送模式,并且图30的处理结束。
以此方式,可以基于情况确定的结果和客户端终端3的负责人的意图来执行发送模式切换处理。
结果,可以防止根据客户端终端3侧的情况执行不适当的切换。
<10.切换处理示例II>
将参考图34描述切换处理示例II。
首先,作为处理PS20,例如,通过相机操作员的操作来输入成像对象的体育信息(竞赛类型的信息),并且将竞赛类型作为元信息包括在成像设备1中。
作为通信TP50,成像设备1在某个定时向服务器设备2发送包括成像对象的体育信息的元信息。例如,发送定时可以紧接在处理PS20之后,或者可以在第一发送模式等中最初发送元信息时。
作为处理PS21,服务器设备2基于接收到的元信息中包括的体育信息来确定发送模式。
此后,与上述切换处理示例I类似地执行被设定为通信TP40和通信TP41的发送模式的通知。也类似地执行成像设备1中的处理PS11和客户端终端3中的处理PS12。
用于这样的切换处理示例II的服务器设备2的处理如图35中所示。
在步骤S320中,控制单元2a核查是否已经从成像设备1通知了成像对象、即接收到体育信息。
在已经接收到体育信息的情况下,控制单元2a进行到步骤S321,并且确定成像对象竞赛是否是可以获取附加信息的竞赛。例如,在确定了日程计划表(时间表)的田径竞赛等中,可以通过DB搜索来获得作为图像的被摄体的选手的信息等作为附加信息,但是在马拉松、足球等中,难以通过DB搜索根据图像的元信息(例如,时间或地点)来指定出现在图像中的选手。
因此,在可以通过DB搜索来获取附加信息的竞赛的情况下,控制单元2a进行到步骤S322并且选择第一发送模式。
另一方面,在难以通过DB搜索来获取附加信息的竞赛的情况下,控制单元2a进行到步骤S323并且选择第三发送模式。
然后,控制单元2a从步骤S322或S323进行到步骤S324,向成像设备1通知发送模式,并且在步骤S325中向客户端终端3通知发送模式。
<11.切换处理示例III>
将参考图36描述切换处理示例III。
作为通信TP50,从客户端终端3给出项目信息的通知。项目信息例如是其中将用于识别成像设备1的相机ID与成像设备1何时对什么竞赛执行成像相关联的信息。替选地,它可以是其中将相机操作员信息与相机操作员何时对什么竞赛执行成像相关联的信息。
服务器设备2执行对接收到的项目信息进行登记的处理,作为处理PS30。
作为通信TP51,成像设备1在某个定时将包括时间信息、相机ID或相机操作员信息的元信息发送到服务器设备2。例如,如果发送定时是例如在第一发送模式等中最初发送元信息时,则这就足够了。
作为处理PS31,服务器设备2根据接收到的元信息中包括的时间信息、相机ID或相机操作员信息来参考所登记的项目信息,并且估计要由成像设备1成像的竞赛类型。然后,根据竞赛类型是否是可以提供附加信息的竞赛来确定发送模式。
此后,与切换处理示例I类似地执行被设定为通信TP40和通信TP41的发送模式的通知。成像设备1中的处理PS11和客户端终端3中的处理PS12也被类似地执行。
用于这样的切换处理示例III的服务器设备2的处理如图37和图38中所示。
在图37的步骤S330中,控制单元2a核查从客户端终端3接收项目信息。在存在接收的情况下,处理进行到步骤S331,并且执行项目信息登记处理。即,此后,项目信息被存储在预定的存储单元(例如,存储单元79)中,以便可以参考该项目信息。
在图38的步骤S332中,控制单元2a核查是否已经从成像设备1接收到元信息。在这种情况下,确认接收到包括时间信息、相机ID或相机操作员信息的元信息。
在已经接收到对应的元信息的情况下,控制单元2a进行到步骤S333,并且估计要成像的竞赛类型。即,通过将元信息与项目信息进行比对来估计竞赛类型。
在步骤S321中,控制单元2a确定所估计的成像对象竞赛是否是可以获取附加信息的竞赛。然后,在可以通过DB搜索来获取附加信息的竞赛的情况下,控制单元2a进行到步骤S322并且选择第一发送模式。另一方面,在难以通过DB搜索来获取附加信息的竞赛的情况下,控制单元2a进行到步骤S323并且选择第三发送模式。然后,控制单元2a从步骤S322或S323进行到步骤S324,向成像设备1通知发送模式,并且在步骤S325中向客户端终端3通知发送模式。
<12.第八发送模式>
尽管上面主要描述了第一至第七发送模式及其切换,但是特别是在转发图像是运动图像的情况下,也存在相应的合适发送模式。此外,在上述切换处理中,还假设切换到适合于运动图像的发送模式。
下面,作为第八、第九和第十发送模式,将描述适合于运动图像的发送模式。
图39示出了第八发送模式。
-通信TP71
成像设备1向服务器设备2发送代理运动图像。代理运动图像是具有例如比要交付的主运动图像更低的分辨率和更小的数据量的运动图像。
-通信TP72
服务器设备2将接收到的代理运动图像发送到客户端终端3。
-处理PS40
客户端终端3使用接收到的代理运动图像执行UI处理。
例如,客户端终端3在显示单元77上执行如图40中所示的显示。即,显示代理运动图像再现图像46和运动图像的时间线47。在时间线47中,显示从代理运动图像中提取的每个时间点的代表图像和语音波形。此外,在时间线47上,负责人可以指定需要的区间DK。
此外,显示主运动图像请求按钮48,使得负责人可以操作。
这样的UI画面是为了客户端终端3的负责人首先核查代理运动图像的再现图像并且指定作为主运动图像所需的区间而执行的。
负责人在指定区间DK之后操作主运动图像请求按钮48。
在处理PS40中,客户端终端3的CPU 71控制这样的UI画面的显示,并且感测与其对应的负责人的输入。
-通信TP73
客户端终端3向服务器设备2发送对主运动图像的部分剪辑的请求。即,客户端终端3生成请求由负责人在处理PS40的UI处理中指定的区间DK的运动图像的信息,并且发送该信息。
-通信TP74
服务器设备2将从客户端终端3接收到的对主运动图像的部分剪辑的请求转发到成像设备1。
-处理PS41
响应于接收到对主运动图像的部分剪辑的请求,成像设备1执行创建通过从主运动图像中切出指定区间而获得的剪辑的处理。
-通信TP75
成像设备1将在处理PS41中生成的主运动图像的部分剪辑发送到服务器设备2。
-通信TP76
服务器设备2将从成像设备1接收到的主运动图像的部分剪辑转发到客户端终端3。
因此,由负责人需要的场景的主要运动图像被交付到客户端终端3。
如上所述,不是从一开始就转发整个主运动图像,而是作为初始信息转发处理,转发代理运动图像,并且在客户端终端3侧指定需要的区间。因此,作为主图像转发处理,转发需要区间中的主运动图像的部分剪辑。
图41示出了在由用于第八发送模式的成像设备1进行运动图像记录时的处理示例。
作为图41中的循环处理LP50,成像设备1的相机控制单元18执行运动图像记录处理。也就是说,在步骤S401中感测到记录停止请求之前,对于每个帧执行步骤S402和S403的控制。
在步骤S402中,相机控制单元18使相机信号处理单元13执行帧图像数据和音频数据的编码处理。
在步骤S403中,相机控制单元18使记录控制单元14将帧图像数据、音频数据和元信息记录在记录介质上。
例如,当通过相机操作员等的操作来请求停止记录时,相机控制单元18进行到步骤S405,并且执行读取所记录的运动图像的代理运动图像的控制。例如,记录控制单元14执行运动图像读取,并且相机信号处理单元13执行低分辨率转换等以生成代理运动图像。
然后,在步骤S406中,相机控制单元18控制通信单元16以发送代理运动图像。
通过上述处理,执行图39的通信TP71。
图42中示出了用于图39的通信TP72的服务器设备2的处理。
在步骤S501中,服务器设备2的控制单元2a核查从成像设备1接收到代理运动图像。
然后,当接收到代理运动图像时,控制单元2a在步骤S502中执行将代理运动图像发送到客户端终端3的处理。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS40,并且作为通信TP73,发送对主运动图像的部分剪辑的请求。
响应于对主运动图像的部分剪辑的请求的用于通信TP74的服务器设备2的处理类似于上述图8中的处理。
图43中示出了用于处理PS41和通信TP75的成像设备1的处理示例。
在步骤S430中,相机控制单元18核查从服务器设备2接收到运动图像请求。
然后,当接收到运动图像请求列表时,相机控制单元18执行循环处理LP60。
在循环处理LP60中,相机控制单元18根据运动图像请求的内容将步骤S431到S442的处理重复需要的次数(所请求的运动图像的数量)。
首先,在步骤S431中,相机控制单元18确定运动图像请求内容是代理运动图像还是主运动图像(对主运动图像的部分剪辑的请求),并且对处理进行分支。
注意,代理运动图像被请求的情况发生在稍后描述的第九发送模式和第十发送模式中,并且从步骤S432到S434的处理将在稍后描述。
在请求主运动图像的部分剪辑的情况下,相机控制单元18执行步骤S440、S441和S442的处理。
在步骤S440中,相机控制单元18使记录控制单元14从记录介质中读取主运动图像。
在步骤S441中,相机控制单元18例如使相机信号处理单元13执行从自记录介质中读取的主运动图像中切出所请求的区间的处理。
然后,在步骤S442中,相机控制单元18执行将在切出处理中生成的主运动图像部分剪辑经由通信单元16发送到服务器设备2的处理。
图44中示出了用于通信TP76的服务器设备2的处理。
在步骤S530中,服务器设备2的控制单元2a核查从成像设备1接收到主运动图像。
然后,当接收到主运动图像时,控制单元2a在步骤S531中执行将接收到的主运动图像发送到客户端终端3的处理。
因此,主运动图像的部分剪辑被交付到客户端终端3。
<13.第九发送模式>
将参考图45描述第九发送模式。
-通信TP81
成像设备1将对于运动图像的只有声音(sound-only)的文件发送到服务器设备2。只有声音的文件是仅具有在运动图像记录时记录的音频数据的文件。
-通信TP82
服务器设备2将接收到的只有声音的文件发送到客户端终端3。
-处理PS42
客户端终端3使用接收到的只有声音的文件执行UI处理。
例如,客户端终端3在显示单元77上执行如图46的A中所示的显示。在这种情况下,由于仅接收到只有声音的文件,所以不能再现代理运动图像再现图像46,并且提供空白图像。作为时间线47,仅显示语音波形。
此外,显示代理运动图像请求按钮49,使得负责人可以操作。
这样的UI画面是为了客户端终端3的负责人首先根据语音波形的时间线47指定大致需要的区间而执行的。例如,可以根据语音波形等确定观众兴奋的区间。
负责人在指定区间DKA之后操作代理运动图像请求按钮49。
在处理PS42中,客户端终端3的CPU 71控制这样的UI画面的显示,并且感测与其对应的负责人的输入。
-通信TP83
客户端终端3向服务器设备2发送对代理运动图像的部分剪辑的请求。即,客户端终端3生成请求由负责人在处理PS42的UI处理中指定的区间DKA的代理运动图像的信息,并且发送该信息。
-通信TP84
服务器设备2将从客户端终端3接收到的对代理运动图像的部分剪辑的请求转发到成像设备1。
-处理PS43
响应于接收到对代理运动图像的部分剪辑的请求,成像设备1执行创建通过切出指定区间而获得的代理运动图像的剪辑的处理。
-通信TP85
成像设备1将在处理PS43中生成的代理运动图像部分剪辑发送到服务器设备2。
作为通信TP72,服务器设备2将接收到的代理运动图像发送到客户端终端3。
通信TP72和后续通信类似于图39中所示的通信TP72和后续通信。
在客户端终端3中,作为处理PS40,执行如图46的B中所示的UI显示。这是与图40中的显示内容类似的显示内容。
然而,该情况与图39的示例的不同之处在于,代理运动图像不是由成像设备1记录的整个运动图像的代理运动图像,而是在处理PS42中指定的区间的代理运动图像。
由于通信TP73和后续通信重复,因此将省略其描述。
即,在第九发送模式中,首先,通过使用只有声音的文件粗略地指定区间,根据所指定的区间来发送代理运动图像,以及客户端终端3侧核查代理运动图像并且指定需要的区间。因此,作为主图像转发处理,转发需要部分中的主运动图像的部分剪辑。
图47示出了在由用于第九发送模式的成像设备1进行运动图像记录时的处理示例。
类似于图41,作为循环处理LP50,成像设备1的相机控制单元18执行运动图像记录处理。
此后,例如,当通过相机操作员等的操作来请求记录停止时,相机控制单元18进行到步骤S410,并且执行仅读取用于所记录的运动图像的音频数据的控制。例如,由记录控制单元14从运动图像文件中仅读出音频数据,并且由相机信号处理单元13生成只有声音的文件。
然后,在步骤S411中,相机控制单元18控制通信单元16发送只有声音的文件。
通过上述处理,执行图45的通信TP81。
图48中示出了用于通信TP82的服务器设备2的处理。
在步骤S511中,服务器设备2的控制单元2a核查从成像设备1接收到只有声音的文件。
然后,当接收到只有声音的文件时,控制单元2a在步骤S512中执行将只有声音的文件发送到客户端终端3的处理。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS42,并且作为通信TP83,发送对代理运动图像的部分剪辑的请求。
响应于对代理运动图像的部分剪辑的请求的用于通信TP84的服务器设备2的处理类似于上述图8中的处理。
根据上述图43来执行成像设备1的处理PS43和用于通信TP85的处理。
即,在接收到对代理运动图像的部分剪辑的请求的情况下,处理从图43中的步骤S431进行到步骤S432。
在步骤S432中,相机控制单元18使记录控制单元14从记录介质中读取代理运动图像。
在步骤S433中,相机控制单元18例如使相机信号处理单元13执行从自记录介质中读取的代理运动图像中切出所请求的区间的处理。
然后,在步骤S434中,相机控制单元18执行将在切出处理中生成的代理运动图像部分剪辑经由通信单元16发送到服务器设备2的处理。
图45中的在通信TP72之后的服务器设备2和成像设备1的处理类似于关于第八发送模式所描述的处理。
<14.第十发送模式>
将参考图49描述第十发送模式。
-通信TP91
成像设备1将对于运动图像的元时间序列文件发送到服务器设备2。元时间序列文件是可以以时间序列呈现在运动图像记录时生成的元信息(例如,成像位置信息)的数据的文件。
-通信TP92
服务器设备2将接收到的元时间序列文件发送到客户端终端3。
-处理PS44
客户端终端3使用接收到的元时间序列文件执行UI处理。
例如,客户端终端3在显示单元77上执行如图50中所示的基于元时间序列文件的显示。例如,在可以将成像位置信息的时间序列变化确定为元时间序列文件的情况下,显示根据成像位置信息的地图图像50和时间序列信息51。在地图图像50中,每个成像位置由标记来表示。时间序列信息51以时间序列将时间和成像位置信息彼此相关联地表示。作为时间线47,仅显示表示区间长度的时间线。在时间线47中,期望显示每个时间点的位置。
还显示代理运动图像请求按钮49,使得负责人可以操作。
这样的UI画面是为了客户端终端3的负责人根据成像位置粗略地指定需要的被摄体被认为出现的区间而执行的。通过知道某个活动在某个时间在某个地点发生的信息,负责人可以确定可以针对该活动进行成像的运动图像区间。
负责人在指定区间DKP之后操作代理运动图像请求按钮49。
在处理PS44中,客户端终端3的CPU 71控制这样的UI画面的显示,并且感测与其对应的负责人的输入。
作为通信TP83,客户端终端3生成请求由负责人在处理PS44的UI处理中指定的区间DKP的代理运动图像的信息,并且发送该信息。
由于通信TP83和后续通信类似于图45中所示的第九发送模式的通信,因此省略其描述。
即,在第十发送模式中,首先,通过使用时间序列信息来粗略地指定区间,根据所指定的区间发送代理运动图像,以及客户端终端3侧核查代理运动图像并且指定需要的区间。因此,作为主图像转发处理,转发需要区间中的主运动图像的部分剪辑。
图51示出了在由用于第十发送模式的成像设备1进行运动图像记录时的处理示例。
类似于图41,作为循环处理LP50,成像设备1的相机控制单元18执行运动图像记录处理。
此后,例如,当通过相机操作员等的操作来请求记录停止时,相机控制单元18进行到步骤S420,并且执行读取用于所记录的运动图像的元信息的时间序列数据的控制。例如,运动图像文件的元信息由记录控制单元14读出,并且时间序列文件由相机信号处理单元13生成。
然后,在步骤S421中,相机控制单元18控制通信单元16发送时间序列文件。
通过上述处理,执行图49的通信TP91。
图52中示出了用于通信TP92的服务器设备2的处理。
在步骤S521中,服务器设备2的控制单元2a核查从成像设备1接收到时间序列文件。
然后,当接收到时间序列文件时,控制单元2a在步骤S522中执行将时间序列文件发送到客户端终端3的处理。
响应于此,客户端终端3侧如上所述地执行UI处理作为处理PS44,并且作为通信TP83,发送对代理运动图像的部分剪辑的请求。
服务器设备2和成像设备1的后续处理类似于关于第八和第九发送模式所描述的处理。
<15.总结和变型示例>
根据上述实施例,可以获得以下效果。
本实施例的服务器设备2的控制单元2a执行初始信息转发处理:响应于接收到关联信息,基于关联信息获得附加信息,并且将关联信息和附加信息发送到客户端终端3,该关联信息是与由成像设备1捕获的图像相关联的信息,并且具有比该图像小的数据量。此外,控制单元2a执行主图像转发处理:根据通过基于关联信息或附加信息的发送在客户端终端3中进行的选择处理而生成的请求信息,将从成像设备1发送的图像发送到客户端终端3。
通过执行这样的处理,服务器设备2可以适当地转发客户端终端3侧所需的高清晰度主图像,同时实现不会增加在需要在例如新闻报道等的成像之后立即交付的现场处的网络负载和系统的存储容量负载并且不会引起转发延迟的图像转发。
此外,由于可以在客户端终端3中执行基于关联信息的呈现,因此可以提供负责人可以容易地并且适当地选择所需图像的环境。
注意,作为服务器设备2或客户端终端3的信息处理设备的具体示例,例如假设了各种示例,诸如个人计算机设备、平板型信息处理设备、移动电话设备、游戏设备、音频设备、视频设备、通信设备、电视设备和服务器设备。能够执行作为信息处理的计算的设备、例如集成有微型计算机的设备可以被实现为本公开的信息处理设备。
此外,尽管在图1中示出了MEC 5,但是在本实施例中,MEC5可以具有替换服务器设备2的功能。
此外,MEC 5可以具有成像设备1的功能(发送功能)的一部分。
已经描述了本实施例的服务器设备2在初始信息转发处理中通过基于关联信息(例如,元信息)执行DB搜索来获得附加信息的示例(参见第一发送模式)。
通过经由DB搜索从关于主图像的元信息等获得更详细的附加信息,可以向客户端终端3侧的负责人提供更容易理解的适合于图像选择的信息。因此,优化了选择操作,并且还提高了网络通信效率。
在本实施例中,描述了如下示例,其中,作为关联信息包括表示由成像设备1捕获的图像并且具有较小数据量的图像(例如缩略图图像),以及服务器设备2通过在初始信息转发处理中对包括在关联信息中的图像进行图像识别处理来获得附加信息(参见第二发送模式)。
此外,当通过图像分析获得被摄体的信息并且将其用作附加信息时,可以向客户端终端3侧的负责人提供更容易理解的适合于图像选择的信息,这也有助于优化选择操作并且提高网络通信效率。
如上所述,作为初始信息转发处理,本实施例的服务器设备2执行多个发送模式的切换处理,这多个发送模式包括添加了附加信息的第一和第二发送模式以及未添加附加信息的发送模式(第二到第十发送模式)。
由于存在不适合于转发附加信息的环境、情况、图像(被摄体)内容等,因此服务器设备2并不总是适合于执行获得附加信息的处理。因此,在某些情况下,服务器设备2不执行获得附加信息的处理,从而可以执行适合于情况和环境的处理。这也有助于减少服务器负载、提高网络效率等。
在本实施例中,已经描述了如下示例,其中,服务器设备2执行将关联信息中包括的音频信息发送到客户端终端3的处理,作为预定发送模式的发送,该预定发送模式是多个发送模式之一(参见第五发送模式)。
在从成像设备发送与静止图像或运动图像相关联的音频备忘录的情况下,服务器设备2在初始信息转发处理时将音频备忘录转发到客户端终端3,使得客户端终端3的负责人可以通过再现音频备忘录来执行图像选择。因此,可以提供其中可以执行更期望的图像选择的环境。
在本实施例中,已经描述了如下示例,其中,服务器设备2执行将关联信息中包括的音频信息转换为文本数据并且将文本数据发送到客户端终端3的处理,作为预定发送模式的发送,该预定发送模式是多个发送模式之一(参见第六发送模式)。
在从成像设备发送与静止图像或运动图像相关联的音频备忘录的情况下,服务器设备2在初始信息转发处理中将音频备忘录转换为文本数据并且将文本数据转发到客户端终端3。通过转换成文本数据,可以使数据量小于音频信息的数据量。
此外,由于通过文本来显示音频备忘录内容,因此客户端终端3的负责人不需要再现音频备忘录,并且可以提供其中可以更容易地执行图像选择的环境。
在本实施例中,已经描述了服务器设备2根据通信状态的确定结果来执行切换处理的示例(参见切换处理示例I)。
通过根据诸如网络的传输路径的通信速度、分组速率、4G/5G的情况和取决于成像设备的位置的通信环境之类的通信状态的变化来切换发送模式,可以实现与当时的情况相应的图像转发。
特别地,在体育图像的转发中,通信环境在室外可能容易地波动。此外,在大型体育活动中,存在许多记者等,并且还考虑了传输路径的拥塞。根据这样的情况选择适当的发送模式适合于保持适当的实时转发状态。
网络状态可能被假设为特别是在成像设备1和服务器设备2之间发生变化。这是因为增加了诸如相机操作员的位置和移动、活动(诸如体育)的场所的区域、位置、设施和情况之类的因素。
因此,关于附加信息的转发的有无,还可以想到从用于获得附加信息的关联信息的转发的有无的角度来切换发送模式。
例如,在通过图像分析获得附加信息的情况下,通过在向成像设备1请求缩略图图像的情况、由于未获得附加信息而不需要发送缩略图图像的情况等之间切换,可以根据通信状态来调整数据量。
此外,不限于在包括附加信息的发送模式(例如,第一或第二发送模式)和不包括附加信息(例如,第三至第七发送模式)之间的切换处理,并且例如,可以根据通信状态在第三到第七发送模式之间执行切换。例如,在第三发送模式和第四发送模式之间执行切换,或者在第五发送模式和第三发送模式之间执行切换。
类似地,可以在第一发送模式和第二发送模式之间执行切换。
此外,可以通过从静止图像转发切换到运动图像转发来执行从第一至第七发送模式之一到第八至第十发送模式之一的切换,并且另外,在运动图像转发时,可以根据通信状态来执行从第八发送模式到第十发送模式的切换。
在本实施例中,已经描述了服务器设备2基于从成像设备1被给出通知的成像对象的信息来执行切换处理的示例(参见切换处理示例II)。
根据竞赛的类型,可能无法适当地获得附加信息。例如,在附加信息是选手姓名的情况下,在确定了日程安排表的竞赛中,可以通过根据成像的日期和时间、地点等执行DB搜索来获得选手姓名,但是存在无法获得选手姓名的竞赛。关于无法获取附加信息的竞赛的图像,执行获取附加信息的处理可能降低处理效率。因此,优选的是如切换处理示例II中那样根据竞赛类型的信息来切换发送模式。
在本实施例中,已经描述了服务器设备2执行估计成像设备1的成像对象的处理并且基于所估计的成像对象的信息来执行切换处理的示例(参见切换处理示例III)。
存在根据竞赛类型来切换发送模式是适当的情况。例如,在切换处理示例III中,预先登记项目信息。因此,可以基于作为图像的关联信息的元信息中的时间信息、相机ID、相机操作员信息等来估计成像对象的竞赛类型。通过经由该估计处理来切换发送模式,可以执行适合于竞赛类型的转发。
在本实施例中,已经描述了服务器设备2执行向客户端终端3或成像设备1通知通过切换处理设定的初始信息转发处理的发送模式的处理的示例(参见切换处理示例I、II和III)。
例如,成像设备1可以根据发送模式的通知来设定要发送的信息的内容。例如,可以设定在最初发送中是发送元信息还是发送缩略图图像,或者发送什么类型的元信息。
注意,切换处理不仅包括在用于获取附加信息的发送模式和不获取附加信息的发送模式之间的切换,而且包括例如关于要使用第一至第十发送模式中的哪个发送模式的切换,以及还包括在第一至第十发送模式中是执行还是不执行初始信息转发处理的模式。例如,可以从一开始就转发主图像,而不根据通信状态等执行初始信息转发处理。因此,向成像设备1通知发送模式对于协作控制是有用的。
此外,例如,通过向客户端终端3通知初始信息转发处理的发送模式,可以进行如图31中所示的显示,并且负责人可以容易地理解正在执行什么类型的转发。
在本实施例中,已经描述了关联信息是与由成像设备1捕获的图像相关联的元信息的示例。
也就是说,它是与成像设备1侧的图像相关联并且发送到服务器设备2的信息。例如,假设了各种类型的信息,诸如成像设备1的信息、相机操作员的信息、图像捕获地点和时间的信息、成像设备1侧的图像分析信息、关于成像操作和处理的各种参数、图像捕获时的成像设备1中的各种传感器的感测信息、关于图像数据/文件的信息、缩略图图像、屏幕图钉图像、以及与相机操作员的图像相关联的文本信息和音频备忘录信息。
这些元信息是用于呈现图像内容和获得关于图像的附加信息的信息。
在本实施例中,已经描述了关联信息是表示由成像设备1捕获的图像、具有更小数据量的图像的示例。
具有更小数据量的图像的示例包括缩略图图像、屏幕图钉图像、代理运动图像等。
例如,作为具有比主图像小的数据量的图像的缩略图图像、代理运动图像等对于客户端终端3的负责人确定主图像的内容是非常有用的信息。此外,作为用于通过图像分析获得附加信息的信息,它也是有用的。
在本实施例中,已经描述了关联信息是表示由成像设备1连续捕获的分组图像的图像的示例(参见第七发送模式)。
当连续捕获的一系列图像被设定为分组图像时,将整个分组图像表示为单个图像的图像(例如,第一图像的缩略图图像等)被设定为关联信息。
连续成像的分组图像包括大量图像和大数据量,但是具有基本相同的被摄体的图像内容。因此,为了提高处理效率并且减少网络负载,期望能够用代表性缩略图图像等表示图像,并且在初始信息转发处理中发送这样的缩略图图像。
在本实施例中,已经描述了其中关联信息是通过运动图像捕获与运动图像一起记录的音频信息的示例(参见第九发送模式)。
例如,在初始信息转发处理中,服务器设备2接收在运动图像记录时同时记录的只有声音的文件作为关联信息,并且将该信息发送到客户端终端3。
运动图像的音频信息是用于客户端终端3的负责人收听以核查运动图像的内容并且指定需要场景的有用信息。
在本实施例中,已经描述了关联信息是在捕获运动图像时的时间序列数据的示例(参见第十发送模式)。
运动图像的时间序列数据是用于客户端终端3的负责人核查运动图像的内容并且指定需要场景的有用信息。
已经描述了如下示例,其中,作为初始信息转发处理,本实施例的服务器设备2执行与附加信息一起或者不与附加信息一起地将第一关联信息发送到客户端终端3的处理,将通过基于包括第一关联信息的发送在客户端终端3中进行的选择处理而生成的请求信息转发到成像设备1的处理,以及根据该请求信息将从成像设备1发送的第二关联信息发送到客户端终端3的处理(参见第一至第七、第九和第十发送模式)。
即,作为初始信息转发处理,在将主图像发送到客户端终端3之前将信息发送执行多次。
作为初始信息转发处理,例如,服务器设备2第一次向客户端终端3发送元信息以使客户端终端3执行粗略选择,并且第二次发送缩略图图像以使客户端3执行最终选择等,从而可以在不过度增加要转发的数据量的情况下,使客户端终端3侧执行更合适并且负责人容易理解的选择。
注意,在本实施例中,已经描述了如下示例,其中,作为初始信息转发处理,主要执行两次往返的转发,但是作为在主图像的发送之前的初始信息转发处理,可以仅执行一次往返的转发,或者可以执行三次或更多次往返。
在本实施例中,在多次执行初始信息转发处理的情况下的第一关联信息是具有比第二关联信息小的数据量的信息。
例如,可以想到如下示例,其中,第一关联信息是表示成像时间、成像地点等的元信息,并且第二关联信息是缩略图图像等。
在初始信息转发处理的第一次往返中,表示成像时间、成像地点等并且具有相对小的数据量的第一关联信息被发送到客户端终端3,并且可以在不增加转发负载的情况下呈现表示许多可转发图像的信息。例如,在第二次往返中,根据客户端终端3的第一次选择,转发缩略图图像等,以便呈现更详细的图像内容。因此,由于仅需要仅对于缩小到一定程度的图像转发缩略图图像,还可以在不增加转发负载的情况下,允许客户端终端3的负责人更清楚地理解图像内容并且执行选择。
本实施例的成像设备1包括相机控制单元18,该相机控制单元18执行关联信息发送处理,向外部的服务器设备2发送关联信息,该关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量;以及主图像发送处理,根据从服务器设备2接收到的请求信息将由请求信息表示的图像发送到服务器设备2。
因此,可以实现执行适合于本实施例的图像转发系统的操作的成像设备1。
本实施例的程序是使例如CPU、DSP等或包括它们的设备执行上述服务器设备2的处理的程序。
即,本实施例的程序是用于使信息处理设备执行以下处理的程序:初始信息转发处理,响应于接收到关联信息,基于关联信息获得附加信息,并且将关联信息和附加信息发送到客户端终端3,该关联信息是与由成像设备1捕获的图像相关联的信息,并且具有比该图像小的数据量;以及主图像转发处理,根据通过基于关联信息和附加信息的发送在客户端终端3中进行的选择处理而生成的请求信息,将从成像设备1发送的图像发送到客户端终端3。
利用这样的程序,上述服务器设备2可以由各种计算机设备来实现。
此外,本实施例的程序是使例如CPU、DSP等或包括它们的设备执行成像设备1的处理的程序。
即,该程序是用于使作为控制单元的处理器等执行以下处理的程序:关联信息发送处理,向外部的服务器设备2发送关联信息,该关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量;以及主图像发送处理,根据从服务器设备2接收到的请求信息,将由该请求信息表示的图像发送到服务器设备2。
利用这样的程序,可以实现上述成像设备1。
这样的程序可以预先记录在HDD中、或具有CPU等的微型计算机中的ROM中,该HDD是内置于诸如计算机设备之类的设备中的记录介质。
此外,替选地,它可以临时或永久地存储(记录)在可移除记录介质中,该可移除记录介质包括软盘、紧凑盘只读存储器(CD-ROM)、磁光(MO)盘、数字多功能盘(DVD)、蓝光盘(注册商标)、磁盘、半导体存储器、存储卡等。这种可移除记录介质可以作为所谓的套装软件来提供。
此外,这样的程序可以从可移除记录介质安装到个人计算机等中,或者可以经由诸如局域网(LAN)或因特网之类的网络从下载站点下载。
此外,这样的程序适用于在广泛的范围内提供本实施例的服务器设备2或成像设备1。例如,通过将程序下载到诸如智能电话或平板计算机、移动电话、个人计算机、游戏设备、视频设备、个人数字助理(PDA)等便携式终端设备,可以使智能电话等用作本公开的服务器设备2或成像设备1。
注意,本说明书中描述的效果仅仅是说明性的,而不是限制性的,并且可以提供其他效果。
注意,本技术还可以采用下面描述的配置。
(1)一种信息处理设备,包括:
控制单元,所述控制单元执行:
初始信息转发处理,响应于接收到关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到客户端终端,所述关联信息是与由成像设备捕获的图像相关联的信息,并且具有比该图像小的数据量;以及
主图像转发处理,根据通过基于所述关联信息或所述附加信息的发送在所述客户端终端中进行的选择处理而生成的请求信息,将从所述成像设备发送的图像发送到所述客户端终端。
(2)根据(1)所述的信息处理设备,
其中,所述控制单元通过在所述初始信息转发处理中基于所述关联信息执行数据库搜索来获得所述附加信息。
(3)根据(1)或(2)所述的信息处理设备,
其中,所述关联信息包括表示由所述成像设备捕获的图像并且具有更小数据量的图像,以及
所述控制单元通过在所述初始信息转发处理中对所述关联信息中包括的图像进行的图像识别处理来获得所述附加信息。
(4)根据(1)至(3)中任一项所述的信息处理设备,
其中,所述控制单元
作为所述初始信息转发处理,执行多个发送模式的切换处理,所述多个发送模式包括添加了所述附加信息的发送模式和未添加所述附加信息的发送模式。
(5)根据(4)所述的信息处理设备,
其中,所述控制单元
执行将所述关联信息中包括的音频信息发送到所述客户端终端的处理,作为预定发送模式的发送,所述预定发送模式是所述多个发送模式之一。
(6)根据(4)所述的信息处理设备,
其中,所述控制单元
执行将通过将所述关联信息中包括的音频信息转换为文本数据而获得的文本数据发送到所述客户端终端的处理,作为预定发送模式的发送,所述预定发送模式是所述多个发送模式之一。
(7)根据(4)至(6)中任一项所述的信息处理设备,
其中,所述控制单元
根据通信状态的确定结果来执行所述切换处理。
(8)根据(4)至(7)中任一项所述的信息处理设备,
其中,所述控制单元
基于从所述成像设备被给出通知的成像对象的信息来执行所述切换处理。
(9)根据(4)至(8)中任一项所述的信息处理设备,
其中,所述控制单元
执行估计所述成像设备的成像对象的处理,并且基于所估计的成像对象的信息来执行所述切换处理。
(10)根据(4)至(9)中任一项所述的信息处理设备,
其中,所述控制单元
执行向所述客户端终端或所述成像设备通知通过所述切换处理设定的所述初始信息转发处理的发送模式的处理。
(11)根据(1)至(10)中任一项所述的信息处理设备,
其中,所述关联信息包括与由所述成像设备捕获的图像相关联的元信息。
(12)根据(1)至(11)中任一项所述的信息处理设备,
其中,所述关联信息包括表示由所述成像设备捕获的图像、具有更小数据量的图像。
(13)根据(1)至(12)中任一项所述的信息处理设备,
其中,所述关联信息包括表示分组图像的图像,所述分组图像是由所述成像设备连续捕获的多个图像。
(14)根据(1)至(13)中任一项所述的信息处理设备,
其中,所述关联信息包括通过由所述成像设备进行的运动图像捕获与运动图像一起记录的音频信息。
(15)根据(1)至(14)中任一项所述的信息处理设备,
其中,所述关联信息包括在由所述成像设备捕获的运动图像的捕获时的时间序列数据。
(16)根据(1)至(15)中任一项所述的信息处理设备,
其中,作为所述初始信息转发处理,所述控制单元执行
与所述附加信息一起或不与所述附加信息一起地将第一关联信息发送到所述客户端终端的处理,
将通过基于包括所述第一关联信息的发送在所述客户端终端中进行的选择处理而生成的请求信息转发到所述成像设备的处理,以及
根据所述请求信息将从所述成像设备发送的第二关联信息发送到所述客户端终端的处理。
(17)根据(16)所述的信息处理设备,
其中,所述第一关联信息包括具有比所述第二关联信息小的数据量的信息。
(18)一种信息处理方法,其中,信息处理设备执行:
初始信息转发处理,响应于接收到关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到客户端终端,所述关联信息是与由成像设备捕获的图像相关联的信息,并且具有比该图像小的数据量;以及
主图像转发处理,根据通过基于所述关联信息或所述附加信息的发送在所述客户端终端中进行的选择处理而生成的请求信息,将从所述成像设备发送的图像发送到所述客户端终端。
(19)一种成像设备,包括:
控制单元,所述控制单元执行:
关联信息发送处理,向外部的信息处理设备发送关联信息,所述关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量;以及
主图像发送处理,根据从所述信息处理设备接收到的请求信息,将由所述请求信息表示的图像发送到所述信息处理设备。
(20)一种图像转发系统,所述图像转发系统:
实现成像设备和信息处理设备之间的信息通信,以及
实现所述信息处理设备和客户端终端之间的信息通信,
所述成像设备包括:
执行以下处理的控制单元:
关联信息发送处理,向所述信息处理设备发送关联信息,所述关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量,以及
主图像发送处理,根据通过在已经经由所述信息处理设备接收到所述关联信息的所述客户端终端中进行的选择处理而生成的并且经由所述信息处理设备接收到的请求信息,向所述信息处理设备发送由所述请求信息表示的图像,
所述信息处理设备包括:
执行以下处理的控制单元:
初始信息转发处理,响应于从所述成像设备接收到所述关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到所述客户端终端,以及
主图像转发处理,根据所述请求信息将从所述成像设备发送的图像发送到所述客户端终端。
参考标记列表
1 成像设备
2 服务器设备
2a 控制单元
3 客户端终端
4 基站
5MEC
6网络
7DB
8 文本转换引擎
18 相机控制单元
70 信息处理设备
71CPU
Claims (20)
1.一种信息处理设备,包括:
控制单元,所述控制单元执行:
初始信息转发处理,响应于接收到关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到客户端终端,所述关联信息是与由成像设备捕获的图像相关联的信息,并且具有比该图像小的数据量;以及
主图像转发处理,根据通过基于所述关联信息或所述附加信息的发送在所述客户端终端中进行的选择处理而生成的请求信息,将从所述成像设备发送的图像发送到所述客户端终端。
2.根据权利要求1所述的信息处理设备,
其中,所述控制单元通过在所述初始信息转发处理中基于所述关联信息执行数据库搜索来获得所述附加信息。
3.根据权利要求1所述的信息处理设备,
其中,所述关联信息包括表示由所述成像设备捕获的图像并且具有更小数据量的图像,以及
所述控制单元通过在所述初始信息转发处理中对所述关联信息中包括的图像进行的图像识别处理来获得所述附加信息。
4.根据权利要求1所述的信息处理设备,
其中,所述控制单元
作为所述初始信息转发处理,执行多个发送模式的切换处理,所述多个发送模式包括添加了所述附加信息的发送模式和未添加所述附加信息的发送模式。
5.根据权利要求4所述的信息处理设备,
其中,所述控制单元
执行将所述关联信息中包括的音频信息发送到所述客户端终端的处理,作为预定发送模式的发送,所述预定发送模式是所述多个发送模式之一。
6.根据权利要求4所述的信息处理设备,
其中,所述控制单元
执行将通过将所述关联信息中包括的音频信息转换为文本数据而获得的文本数据发送到所述客户端终端的处理,作为预定发送模式的发送,所述预定发送模式是所述多个发送模式之一。
7.根据权利要求4所述的信息处理设备,
其中,所述控制单元
根据通信状态的确定结果来执行所述切换处理。
8.根据权利要求4所述的信息处理设备,
其中,所述控制单元
基于从所述成像设备被给出通知的成像对象的信息来执行所述切换处理。
9.根据权利要求4所述的信息处理设备,
其中,所述控制单元
执行估计所述成像设备的成像对象的处理,并且基于所估计的成像对象的信息来执行所述切换处理。
10.根据权利要求4所述的信息处理设备,
其中,所述控制单元
执行向所述客户端终端或所述成像设备通知通过所述切换处理设定的所述初始信息转发处理的发送模式的处理。
11.根据权利要求1所述的信息处理设备,
其中,所述关联信息包括与由所述成像设备捕获的图像相关联的元信息。
12.根据权利要求1所述的信息处理设备,
其中,所述关联信息包括表示由所述成像设备捕获的图像、具有更小数据量的图像。
13.根据权利要求1所述的信息处理设备,
其中,所述关联信息包括表示分组图像的图像,所述分组图像是由所述成像设备连续捕获的多个图像。
14.根据权利要求1所述的信息处理设备,
其中,所述关联信息包括通过由所述成像设备进行的运动图像捕获与运动图像一起记录的音频信息。
15.根据权利要求1所述的信息处理设备,
其中,所述关联信息包括在由所述成像设备捕获的运动图像的捕获时的时间序列数据。
16.根据权利要求1所述的信息处理设备,
其中,作为所述初始信息转发处理,所述控制单元执行
与所述附加信息一起或不与所述附加信息一起地将第一关联信息发送到所述客户端终端的处理,
将通过基于包括所述第一关联信息的发送在所述客户端终端中进行的选择处理而生成的请求信息转发到所述成像设备的处理,以及
根据所述请求信息将从所述成像设备发送的第二关联信息发送到所述客户端终端的处理。
17.根据权利要求16所述的信息处理设备,
其中,所述第一关联信息包括具有比所述第二关联信息小的数据量的信息。
18.一种信息处理方法,其中,信息处理设备执行:
初始信息转发处理,响应于接收到关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到客户端终端,所述关联信息是与由成像设备捕获的图像相关联的信息,并且具有比该图像小的数据量;以及
主图像转发处理,根据通过基于所述关联信息或所述附加信息的发送在所述客户端终端中进行的选择处理而生成的请求信息,将从所述成像设备发送的图像发送到所述客户端终端。
19.一种成像设备,包括:
控制单元,所述控制单元执行:
关联信息发送处理,向外部的信息处理设备发送关联信息,所述关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量;以及
主图像发送处理,根据从所述信息处理设备接收到的请求信息,将由所述请求信息表示的图像发送到所述信息处理设备。
20.一种图像转发系统,所述图像转发系统:
实现成像设备和信息处理设备之间的信息通信,以及
实现所述信息处理设备和客户端终端之间的信息通信,
所述成像设备包括:
执行以下处理的控制单元:
关联信息发送处理,向所述信息处理设备发送关联信息,所述关联信息是与捕获图像相关联的信息,并且具有比该图像小的数据量,以及
主图像发送处理,根据通过在已经经由所述信息处理设备接收到所述关联信息的所述客户端终端中进行的选择处理而生成的并且经由所述信息处理设备接收到的请求信息,向所述信息处理设备发送由所述请求信息表示的图像,
所述信息处理设备包括:
执行以下处理的控制单元:
初始信息转发处理,响应于从所述成像设备接收到所述关联信息,基于所述关联信息获得附加信息,并且将所述关联信息和所述附加信息发送到所述客户端终端,以及
主图像转发处理,根据所述请求信息将从所述成像设备发送的图像发送到所述客户端终端。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020-100971 | 2020-06-10 | ||
JP2020100971 | 2020-06-10 | ||
PCT/JP2021/019769 WO2021251127A1 (ja) | 2020-06-10 | 2021-05-25 | 情報処理装置、情報処理方法、撮像装置、画像転送システム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115702569A true CN115702569A (zh) | 2023-02-14 |
Family
ID=78846035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180040028.6A Pending CN115702569A (zh) | 2020-06-10 | 2021-05-25 | 信息处理设备、信息处理方法、成像设备和图像转发系统 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230179811A1 (zh) |
EP (1) | EP4167577A4 (zh) |
JP (1) | JPWO2021251127A1 (zh) |
CN (1) | CN115702569A (zh) |
WO (1) | WO2021251127A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021152758A1 (ja) * | 2020-01-30 | 2021-08-05 | Amatelus株式会社 | 映像配信装置、映像配信システム、映像配信方法、及びプログラム |
EP4240019A4 (en) * | 2020-10-27 | 2024-06-05 | Amatelus Inc. | VIDEO DISTRIBUTION DEVICE, VIDEO DISTRIBUTION SYSTEM, VIDEO DISTRIBUTION METHOD AND PROGRAM |
JP2022125701A (ja) * | 2021-02-17 | 2022-08-29 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、プログラムおよび記録媒体 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4240973B2 (ja) * | 2002-09-26 | 2009-03-18 | ソニー株式会社 | 画像処理システム、画像処理装置および方法、記録媒体、並びにプログラム |
US7194701B2 (en) * | 2002-11-19 | 2007-03-20 | Hewlett-Packard Development Company, L.P. | Video thumbnail |
JP2007150781A (ja) | 2005-11-29 | 2007-06-14 | Sony Corp | 情報処理装置および情報処理方法、並びにプログラム |
JP2010093342A (ja) * | 2008-10-03 | 2010-04-22 | Canon Inc | 映像サーバ装置、映像クライアント装置、映像送受信システム及び情報処理方法 |
JP5891843B2 (ja) * | 2012-02-24 | 2016-03-23 | ソニー株式会社 | クライアント端末、サーバ、およびプログラム |
JP2015090553A (ja) * | 2013-11-05 | 2015-05-11 | 株式会社ソニー・コンピュータエンタテインメント | 端末装置、付加情報管理装置、および付加情報管理方法 |
JP6515457B2 (ja) * | 2014-07-31 | 2019-05-22 | 株式会社リコー | 情報処理システム、情報処理方法および情報処理装置 |
JP6308299B2 (ja) * | 2014-08-12 | 2018-04-11 | ソニー株式会社 | 情報処理装置の制御方法、撮像装置、及びプログラム |
JP6598109B2 (ja) * | 2014-12-25 | 2019-10-30 | パナソニックIpマネジメント株式会社 | 映像受信方法及び端末装置 |
KR102545768B1 (ko) * | 2015-11-11 | 2023-06-21 | 삼성전자주식회사 | 메타 데이터를 처리하기 위한 장치 및 방법 |
US11681748B2 (en) * | 2016-04-06 | 2023-06-20 | Worldwide Live Holding, Llc | Video streaming with feedback using mobile device |
CN106804014A (zh) * | 2017-02-20 | 2017-06-06 | 江苏省广播电视总台 | 一种基于4g无线专网的媒体直播方法 |
-
2021
- 2021-05-25 EP EP21821610.9A patent/EP4167577A4/en active Pending
- 2021-05-25 US US17/928,837 patent/US20230179811A1/en active Pending
- 2021-05-25 JP JP2022530108A patent/JPWO2021251127A1/ja active Pending
- 2021-05-25 WO PCT/JP2021/019769 patent/WO2021251127A1/ja unknown
- 2021-05-25 CN CN202180040028.6A patent/CN115702569A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4167577A1 (en) | 2023-04-19 |
WO2021251127A1 (ja) | 2021-12-16 |
EP4167577A4 (en) | 2023-09-27 |
US20230179811A1 (en) | 2023-06-08 |
JPWO2021251127A1 (zh) | 2021-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7460781B2 (en) | Photographing system | |
CN115702569A (zh) | 信息处理设备、信息处理方法、成像设备和图像转发系统 | |
US8477227B2 (en) | Monitoring and communication in a system having multiple imaging apparatuses | |
JP5056061B2 (ja) | 撮像装置 | |
EP2294813B1 (en) | Data receiving apparatus, data transmitting apparatus, method for controlling the same and program | |
WO2011070764A1 (ja) | 画像撮影装置 | |
JP5292399B2 (ja) | コンテンツ編集装置 | |
JP2013258510A (ja) | 撮像装置並びにその制御方法及びプログラム | |
JP2005293339A (ja) | 情報処理装置および情報処理方法 | |
JP5147559B2 (ja) | 映像表示装置及び映像表示方法 | |
JP4906075B2 (ja) | 撮像装置 | |
US11601582B2 (en) | Image transmission apparatus and image transmission method | |
JP7380025B2 (ja) | 撮像装置、情報処理方法、プログラム | |
JP5088216B2 (ja) | 電子カメラ | |
US20220283700A1 (en) | Information processing device, information processing method, and program | |
WO2022014226A1 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2009089325A (ja) | 情報機器及び電池残量検出方法 | |
JP5372103B2 (ja) | 画像再生装置及びその制御方法 | |
JP2009077305A (ja) | 撮像装置及び撮像制御方法 | |
JP6089515B2 (ja) | 画像加工装置、画像加工方法、及びプログラム | |
CN114270791B (zh) | 信息处理设备、信息处理方法和记录介质 | |
JP5414930B2 (ja) | 画像再生装置 | |
JP2008199662A (ja) | 撮像装置、画像記録装置および画像記録方法 | |
JP2008277892A (ja) | 情報処理装置、情報処理方法、プログラム、情報処理システム、および画像再生装置 | |
JP5687480B2 (ja) | 撮影装置、撮影方法及び撮影プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |