JP2016014837A - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP2016014837A
JP2016014837A JP2014137930A JP2014137930A JP2016014837A JP 2016014837 A JP2016014837 A JP 2016014837A JP 2014137930 A JP2014137930 A JP 2014137930A JP 2014137930 A JP2014137930 A JP 2014137930A JP 2016014837 A JP2016014837 A JP 2016014837A
Authority
JP
Japan
Prior art keywords
image
information processing
captured
processing apparatus
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014137930A
Other languages
English (en)
Other versions
JP2016014837A5 (ja
JP6299492B2 (ja
Inventor
広志 池田
Hiroshi Ikeda
広志 池田
伸穂 池田
Nobuo Ikeda
伸穂 池田
靖二郎 稲葉
Yasujiro Inaba
靖二郎 稲葉
和博 嶋内
Kazuhiro Shimauchi
和博 嶋内
友己 小野
Tomomi Ono
友己 小野
修一 麻島
Shuichi Asashima
修一 麻島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2014137930A priority Critical patent/JP6299492B2/ja
Application filed by Sony Corp filed Critical Sony Corp
Priority to CN202010149644.2A priority patent/CN111276169B/zh
Priority to PCT/JP2015/002846 priority patent/WO2016002134A1/en
Priority to EP15731735.5A priority patent/EP3164874B1/en
Priority to US15/320,775 priority patent/US11128811B2/en
Priority to CN201580034849.3A priority patent/CN106663455B/zh
Priority to KR1020167036005A priority patent/KR102303514B1/ko
Publication of JP2016014837A publication Critical patent/JP2016014837A/ja
Publication of JP2016014837A5 publication Critical patent/JP2016014837A5/ja
Application granted granted Critical
Publication of JP6299492B2 publication Critical patent/JP6299492B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】撮像画像の切り替えに係るユーザの利便性の向上を図ることが可能な、情報処理装置、情報処理方法、およびプログラムを提供する。
【解決手段】複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の撮像画像のうちの一の画像である基準画像から、複数の撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させる表示制御部を備え、表示制御部は、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を補い、補完画像が補われた場合には、切替先画像を表示させる前に補完画像を表示させる、情報処理装置が提供される。
【選択図】図16

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
複数の撮像デバイスにより撮像された撮像画像から動画像を生成する技術が開発されている。撮像画像が撮像された時間に基づいて動画像を生成する技術としては、例えば下記の特許文献1に記載の技術が挙げられる。
特開2012−4739号公報
例えば、野球場やスタジアム、コンサート会場などでは、複数の撮像デバイスが配置されて複数の撮像デバイスにより同時に撮像が行われうる。上記のように複数の撮像デバイスにより同時に撮像が行われる場合、ユーザは、表示画面に表示される撮像画像の切り替えを所望する場合がありうる。
本開示では、撮像画像の切り替えに係るユーザの利便性の向上を図ることが可能な、新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の上記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の上記撮像画像のうちの一の画像である基準画像から、複数の上記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させる表示制御部を備え、上記表示制御部は、上記基準画像に対応する撮像デバイスと上記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を補い、上記補完画像が補われた場合には、上記切替先画像を表示させる前に上記補完画像を表示させる、情報処理装置が提供される。
また、本開示によれば、複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の上記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の上記撮像画像のうちの一の画像である基準画像から、複数の上記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させるステップを有し、上記表示させるステップでは、上記基準画像に対応する撮像デバイスと上記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像が補われ、上記補完画像が補われた場合には、上記切替先画像を表示させる前に上記補完画像が表示される、情報処理装置により実行される情報処理方法が提供される。
また、本開示によれば、複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の上記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の上記撮像画像のうちの一の画像である基準画像から、複数の上記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させるステップをコンピュータに実行させ、上記表示させるステップでは、上記基準画像に対応する撮像デバイスと上記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像が補われ、上記補完画像が補われた場合には、上記切替先画像を表示させる前に上記補完画像が表示される、プログラムが提供される。
本開示によれば、撮像画像の切り替えに係るユーザの利便性の向上を図ることができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握されうる他の効果が奏されてもよい。
本実施形態に係る情報処理方法を説明するための説明図である。 本実施形態に係る撮像デバイスのハードウェア構成の一例を示す説明図である。 本実施形態に係る情報処理方法を説明するための説明図である。 本実施形態に係る情報処理方法を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。 本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。 本実施形態に係る情報処理方法に係る処理を説明するための説明図である。 本実施形態に係る情報処理装置の構成の一例を示すブロック図である。 本実施形態に係る情報処理装置のハードウェア構成の一例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る情報処理方法
2.本実施形態に係る情報処理装置
3.本実施形態に係るプログラム
(本実施形態に係る情報処理方法)
本実施形態に係る情報処理装置の構成について説明する前に、まず、本実施形態に係る情報処理方法について説明する。以下では、本実施形態に係る情報処理方法に係る処理を、本実施形態に係る情報処理装置が行う場合を例に挙げて、本実施形態に係る情報処理方法について説明する。
[1]本実施形態に係る情報処理方法の概要
図1は、本実施形態に係る情報処理方法を説明するための説明図である。図1のAは、野球場に設置された複数の撮像デバイス(所定の領域内に位置する複数の撮像デバイスの一例)による撮像を概念的に示している。また、図1のB1〜図1のB6は、図1のAに示す複数の撮像デバイスにより撮像された撮像画像の一例をそれぞれ示している。
本実施形態に係る撮像デバイスそれぞれは、撮像により画像(動画像、または静止画像)を生成する。複数の撮像デバイスのうちの一部または全部の撮像デバイスは、本実施形態に係る情報処理装置が備えていてもよいし、本実施形態に係る情報処理装置と有線または無線で通信可能な外部デバイス(本実施形態に係る情報処理装置の外部の撮像装置)であってもよい。例えば、複数の撮像デバイスのうちの一部または全部が、本実施形態に係る情報処理装置の外部の撮像装置である場合、本実施形態に係る情報処理装置と撮像装置とは、システム(情報処理システム)を構成する。
本実施形態に係る撮像デバイスとしては、例えば、デジタルスチルカメラや、デジタルビデオカメラが挙げられる。
図2は、本実施形態に係る撮像デバイスのハードウェア構成の一例を示す説明図である。本実施形態に係る撮像デバイスは、例えば、レンズ10と、撮像素子12と、信号処理回路14とを備える。
また、本実施形態に係る撮像デバイスは、例えば、撮像デバイス全体を制御するプロセッサや、外部装置と無線または有線で通信を行うための通信デバイス、撮像画像などの画像を表示画面に表示する表示デバイス、ユーザが操作可能な操作デバイスなどをさらに備えていてもよい。
レンズ10は、光学系のレンズで構成され、撮像素子12は、例えばCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を複数用いたイメージセンサで構成される。信号処理回路14は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子12により生成されたアナログ信号をデジタル信号(画像データ)に変換する。また、信号処理回路14は、例えばRAW現像に係る各種処理を行う。さらに、信号処理回路14は、例えば、White Balance補正処理や、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理など各種信号処理を行ってもよい。
以下では、図1に示すような、野球場に設置された複数の撮像デバイスにより撮像される複数の撮像画像を例に挙げて、本実施形態に係る情報処理方法に係る処理について説明する。なお、本実施形態に係る情報処理方法に係る処理の対象となる複数の撮像画像を撮像する複数の撮像デバイスは、野球場に設置されている撮像デバイスに限られない。本実施形態に係る撮像デバイスとしては、例えば、スタジアムやコンサート会場などの所定の領域内に位置する撮像デバイスが挙げられる。また、複数の撮像デバイスそれぞれは、同一の被写体を撮像することが可能な場所に位置していてもよい。つまり、複数の撮像デバイスとしては、例えば、所定の領域内、または、同一の被写体を撮像することが可能な場所に配置されている撮像デバイスが挙げられる。また、本実施形態に係る情報処理方法に係る処理の対象となる複数の撮像画像が、図1に示す例に限られないことは、言うまでもない。
例えば図1のAに示すように所定の領域内に位置する複数の撮像デバイスにより同時に撮像が行われるときにおいて、図1のB1〜図1のB6に示すように、撮像により得られた撮像画像が適当に並べられている場合には、当該画面に表示される撮像画像をみるユーザは、各撮像画像の関係性を把握することが困難である。ここで、各撮像画像の関係性の把握とは、例えば、各撮像画像がどこに位置する撮像デバイスから撮像されたかを把握することなどが挙げられる。
また、上記のように複数の撮像画像が適当に並べられている場合には、ユーザは、複数の撮像画像のうちの、一の撮像画像から他の撮像画像への表示の切り替えを直感的に行うことは困難である。
そこで、本実施形態に係る情報処理装置は、複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の撮像デバイスの位置関係に対応する形態で表示させる。そして、本実施形態に係る情報処理装置は、表示された複数の撮像画像のうちの一の撮像画像から、複数の撮像画像のうちの他の画像へと、画像を切り替えて表示させる(表示制御処理)。ここで、本実施形態に係る複数の撮像画像の切り替えは、視点の切り替えに相当する。以下では、切り替えて表示させる複数の撮像画像のうちの切り替え元の撮像画像を「基準画像」と示し、複数の撮像画像のうちの表示の切り替え先の画像を「切替先画像」と示す。
本実施形態に係る情報処理装置は、例えば、複数の撮像デバイスの撮像時における位置関係に基づき並べられた複数の撮像画像の並び順に従って、複数の撮像画像を表示させることによって、複数の撮像画像を複数の撮像デバイスの位置関係に対応する形態で表示させる。本実施形態に係る“複数の撮像デバイスの位置関係に対応する形態による、複数の撮像画像の表示”の具体例については、後述する。
ここで、複数の撮像画像を複数の撮像デバイスの位置関係に基づき並べる処理(以下、「並べ替え処理」と示す。)は、本実施形態に係る情報処理装置が、本実施形態に係る情報処理方法に係る処理として行ってもよいし、本実施形態に係る情報処理装置の外部装置において行われてもよい。本実施形態に係る情報処理装置が並べ替え処理を行う場合には、本実施形態に係る情報処理装置は、並べ替え処理により並べられた複数の撮像画像の並び順に従って、複数の撮像画像を表示させる。また、外部装置において並べ替え処理が行われる場合には、本実施形態に係る情報処理装置は、当該外部装置において並べられた複数の撮像画像の並び順に従って、複数の撮像画像を表示させる。以下では、本実施形態に係る情報処理装置が並べ替え処理を行う場合を例に挙げる。
本実施形態に係る情報処理装置が並べ替え処理を行う場合、本実施形態に係る情報処理装置は、複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の撮像デバイスの撮像時における位置関係に基づき並べる。本実施形態に係る情報処理装置は、複数の撮像画像の切り替えが可能となるように、複数の撮像画像を、複数の撮像デバイスの位置関係に基づく空間的な規則性に従って、例えば1次元の軸で並べる。ここで、本実施形態に係る並べ替え処理には、例えば、並べられていない複数の撮像画像を新規に並べることと、何らかの規則で並べられている複数の撮像画像を並べ替えることとが含まれる。
図3は、本実施形態に係る情報処理方法を説明するための説明図であり、本実施形態に係る情報処理方法に係る並べ替え処理の一例を示している。図3のAは、複数の撮像画像の一例を示している。図3のCは、図3のBに示す複数の撮像デバイスの位置関係に基づく空間的な規則性に従って、図3のAに示す複数の撮像画像が1次元の軸で並べられた場合の例を示している。
本実施形態に係る情報処理装置は、並べ替え処理を行うことによって、例えば図3のBに示すように複数の撮像デバイスが空間的に並ぶように、複数の撮像画像を並べる。
また、並べ替え処理によって複数の撮像画像が並べられた場合には、本実施形態に係る情報処理装置は、表示制御処理を行うことによって、例えば図3のCに示すような並べられた複数の撮像画像の並び順に従って、複数の撮像画像を表示させる。そして、本実施形態に係る情報処理装置は、表示された複数の撮像画像のうちの一の撮像画像から、複数の撮像画像のうちの他の画像へと、画像を切り替えて表示させる。
ここで、本実施形態に係る情報処理装置は、例えば、本実施形態に係る情報処理装置が備える表示部(後述する)の表示画面、または、本実施形態に係る情報処理装置と無線または有線で接続されている外部の表示デバイスの表示画面に、画像を表示させる。本実施形態に係る情報処理装置は、例えば表示部(後述する)などに対して、表示させる画像を示す画像データと画像の表示命令とを伝達することによって、表示画面に画像を表示させる。
また、本実施形態に係る情報処理装置は、表示制御処理において、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を補う。そして、本実施形態に係る情報処理装置は、補完画像が補われた場合には、切替先画像を表示させる前に補完画像を表示させる。本実施形態に係る補完画像を選択的に補う処理については、後述する。
本実施形態に係る補完画像としては、例えば、“基準画像に対応する撮像デバイスおよび切替先画像に対応する撮像デバイスではない、他の撮像デバイスにより撮像された撮像画像”と、“仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当するように生成された画像”との一方または双方が挙げられる。以下では、“仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当するように生成された画像”を、「生成画像」と示す。
本実施形態に係る生成画像は、例えば、IBR(Image-Based Rendering)やMBR(Model Based Rendering)、Rectifyなどの手法によって、生成される。ここで、IBRが用いられる場合には、生成画像は、例えば複数の撮像画像に基づいて生成される。また、MBRが用いられる場合には、生成画像は、例えば、複数の撮像画像と、画像の3次元情報(Depthを示すデータ)とに基づいて生成される。また、Rectifyが用いられる場合には、生成画像は、例えば撮像デバイスの姿勢を示すデータ(例えば、加速度センサやジャイロセンサなどのセンサ情報)に基づいて生成される。また、本実施形態に係る生成画像は、上記のような手法により生成された画像に対して、さらに色調が調整された画像であってもよい。
なお、本実施形態に係る生成画像の生成方法は、上記に限られない。例えば、本実施形態に係る生成画像は、複数の撮像画像のうちの一の撮像画像に対して画像処理が行われた画像であってもよい。本実施形態に係る画像処理としては、例えば、画像の拡大・縮小や、画像の回転、画像のクロッピング、または、これらの2以上を組み合わせた処理などが挙げられる。
本実施形態に係る生成画像は、本実施形態に係る情報処理装置が備える1または2以上のプロセッサや各種処理回路によって生成されてもよいし、本実施形態に係る情報処理装置と無線または有線で通信可能な外部装置によって生成されてもよい。
図4は、本実施形態に係る情報処理方法を説明するための説明図であり、本実施形態に係る情報処理方法に係る表示制御処理の一例を示している。
図4のAは、表示されている複数の撮像画像(図4のAに示すG)の中から、ユーザが画像の切り替えに関する操作を行うことが可能な操作画面の一例を示している。図4のAのVは、画像が表示される主画像表示領域であり、図4のAのGは、ユーザが撮像画像を選択する操作を行うことが可能な選択領域である。
本実施形態に係る情報処理装置は、表示制御処理を行うことによって、例えば図4のAのGに示すように、並べ替え処理により並べられた複数の撮像画像の並び順に従って、複数の撮像画像を表示させる。つまり、図4のAのGに示す選択領域に表示されている複数の撮像画像は、本実施形態に係る情報処理装置が表示制御処理により表示させる、複数の撮像デバイスの位置関係に対応する形態による複数の撮像画像の表示の一例に該当する。
なお、本実施形態に係る複数の撮像デバイスの位置関係に対応する形態による複数の撮像画像の表示の例は、図4のAのGに示す例に限られない。例えば、本実施形態に係る情報処理装置は、図3のCに示すように、並べ替え処理により並べられた複数の撮像画像の並び順に従って、複数の撮像画像を複数段に表示させることも可能である。
本実施形態に係る情報処理装置は、例えば図4のAに示すような操作画面に対するユーザ操作に基づいて、基準画像から切替先画像へと画像を切り替えて表示させる。基準画像や切替先画像、補完画像などの画像は、例えば図4のAのVに示すような、操作画面の主画像表示領域に表示される。
ここで、操作画面に対するユーザ操作などの、本実施形態に係るユーザ操作としては、例えば、マウスやキーボード、リモート・コントローラなどの操作デバイスを用いた操作や、操作画面が表示されているタッチパネルに対する操作などが挙げられる。
本実施形態に係る画像の表示の例としては、例えば下記の(i)〜(iii)に示す例が挙げられる。なお、本実施形態に係る画像の表示の例が、下記の(i)〜(iii)に示す例に限られないことは、言うまでもない。
(i)画像が静止画像の場合
図4のAのVに示すような操作画面の主画像表示領域と、図4のAのGに示すような操作画面の選択領域とにおいて、各静止画像は単に表示される。画像の切り替えの際には、切り替えにより主画像表示領域に表示される画像のアングルが変化する。
(ii)画像が動画像の場合の第1の例
図4のAのVに示すような操作画面の主画像表示領域と、図4のAのGに示すような操作画面の選択領域とにおいて、動画像が再生される。画像の切り替えの際には、切り替えにより主画像表示領域に表示される動画像は、再生され続けながら、画像のアングルが変化する。
(iii)画像が動画像の場合の第2の例
図4のAのVに示すような操作画面の主画像表示領域と、図4のAのGに示すような操作画面の選択領域とにおいて、動画像が再生される。画像の切り替えの際には、主画像表示領域および選択領域に表示されている各動画像の再生が一時停止され、画像のアングルが変化する。そして、画像のアングルの変化が完了した後に、主画像表示領域および選択領域に表示されている各動画像の再生が再開される。
図4のBは、表示制御処理により実現される画像の切り替えの一例を示している。図4のBでは、基準画像(図4のBに示すスタート画像)から、切替先画像(図4のBに示すゴール画像)への切り替えに際して、5つの補完画像(図4に示す撮像画像および生成画像)が補われて表示される例を示している。
ここで、図4のBに示す5つの補完画像のうちの撮像画像は、基準画像に対応する撮像デバイスおよび切替先画像に対応する撮像デバイスではない他の撮像デバイスにより撮像された画像である。上記他の撮像デバイスにより撮像された撮像画像が補完画像として用いられることは、所定の領域内に位置する撮像デバイスからの視点を利用することに相当する。
また、図4のBに示す5つの補完画像のうちの生成画像は、例えば、IBRやMBR、Rectifyなどの手法により生成された画像である。生成画像が補完画像として用いられることは、所定の領域内に仮想的な撮像デバイスを仮想的に配置して、仮想的な撮像デバイスからの視点を生成することに相当する。
図4のCは、図4のBに示す画像の切り替えに対応する撮像デバイスの位置関係を概念的に示している。図4のCに示すRDは、所定の領域内に位置する撮像デバイスを示しており、図4のCに示すVDは、所定の領域内に仮想的に位置する仮想的な撮像デバイスを示している。
例えば図4のBに示すように、基準画像から切替先画像への画像の切り替えに際して、補完画像が補われて表示されることによって、より滑らかな画像の切り替えが実現される。
なお、本実施形態に係る表示制御処理により実現される画像の切り替えは、図4のBに示す例に限られない。
例えば、本実施形態に係る情報処理装置は、画像(例えば、基準画像や、切替先画像、補完画像など)からユーザに注目させる所定の被写体を検出し、画像を切り替える場合に、検出された所定の被写体の表示位置が滑らかに変わるように画像に対して画像処理を行って、画像処理が行われた画像を表示させることも可能である。また、本実施形態に係る情報処理装置は、例えば、画像を切り替える場合に、検出された所定の被写体の表示位置や大きさが変わらないように画像に対して画像処理を行って、画像処理が行われた画像を表示させてもよい。
図5A〜図5Cは、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図である。
所定の被写体は、例えば図5Aに示すように、ユーザが全ての撮像画像に対して被写体を選択する操作を行うことにより設定される(手動による所定の被写体の設定)。また、所定の被写体は、例えば図5Bに示すように、ユーザが複数の撮像画像のうちの1つの撮像画像に対して被写体を選択する操作を行うことにより設定されてもよい(半自動による所定の被写体の設定)。
また、所定の被写体は、例えば図5Cに示すように、複数の撮像デバイスが向いている方向を基に、所定の被写体が存在する位置を推定することにより設定されることも可能である(自動的な所定の被写体の設定)。自動的に所定の被写体が設定される場合、例えば、画像の中心付近の領域などの画像における注目領域に含まれる被写体が、所定の被写体として設定される。
また、所定の被写体が設定された場合、本実施形態に係る情報処理装置は、所定の被写体の特徴を学習し、所定の被写体の特徴を示すデータを、記憶部(後述する)や接続されている外部記録媒体などの記録媒体に記憶させる。そして、本実施形態に係る情報処理装置は、所定の被写体の特徴を示すデータを用いて、画像(例えば、基準画像や、切替先画像、補完画像など)から被写体を検出する。
例えば上記のように所定の被写体が設定されることによって、本実施形態に係る情報処理装置は、他のフレームの画像(撮像画像が動画像である場合の例)などの異なる時間における撮像に対応する画像から、所定の被写体をトラッキングすること(時間方向に自動的に被写体検出を行うこと)ができる。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば上記表示制御処理を行う。また、本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば、並べ替え処理、および表示制御処理を行うことも可能である。
ここで、本実施形態に係る情報処理方法が用いられる場合には、上記表示制御処理によって、例えば複数の撮像デバイスの撮像時における位置関係に基づき並べられた複数の撮像画像の並び順に従って複数の撮像画像が表示されるなど、複数の撮像画像が複数の撮像デバイスの位置関係に対応する形態で表示される。また、複数の撮像画像の並べ替えは、例えば上記並べ替え処理により実現される。よって、例えば図4のAに示すような複数の撮像画像が表示される操作画面では、撮像画像の並びが撮像デバイスの空間的な配置に対応しているので、ユーザは、操作画面に対する画像の切り替えに関する操作をより直感的に行うことができる。
また、本実施形態に係る情報処理方法が用いられる場合には、上記表示制御処理によって、基準画像から切替先画像への画像の切り替えに際して、より滑らかな画像の切り替えが実現される。また、より滑らかな画像の切り替えが実現されることによって、表示される画像をみるユーザは、例えば、注目したい被写体により集中することができる。
したがって、本実施形態に係る情報処理方法に係る処理が行われることによって、撮像画像の切り替えに係るユーザの利便性の向上を図ることができる。
また、本実施形態に係る情報処理方法に係る処理は、複数の撮像デバイスにより撮像された撮像画像に対して行われるので、撮像の後処理として行うことが可能である。よって、仮に、所定の領域内に配置される複数の撮像デバイスが、理想的な視点位置から外れた位置に配置されている場合であっても、本実施形態に係る情報処理方法に係る処理によって、より滑らかな画像の切り替えが実現される。したがって、本実施形態に係る情報処理方法が用いられる場合には、所定の領域内への撮像デバイスの配置をよりラフに行うことが可能であるので、例えば、撮像デバイスの配置の手間の低減や、撮像デバイスの配置に要する時間の短縮を図ることができる。
なお、“上記表示制御処理”、および“上記並べ替え処理および上記表示制御処理”は、便宜上、本実施形態に係る情報処理方法に係る処理を切り分けたものである。よって、本実施形態に係る情報処理方法に係る処理は、例えば、“上記並べ替え処理および上記表示制御処理”を1つの処理と捉えることもできる。また、本実施形態に係る情報処理方法に係る処理は、例えば、“上記表示制御処理”、および“上記並べ替え処理および上記表示制御処理”それぞれを、(任意の切り分け方によって)2以上の処理と捉えることも可能である。以下では、本実施形態に係る情報処理方法に係る処理が、上記並べ替え処理および上記表示制御処理に分けられる場合を例に挙げる。なお、上述したように、上記並べ替え処理は、本実施形態に係る情報処理装置の外部装置において行われてもよい。
[2]本実施形態に係る情報処理方法に係る処理
次に、本実施形態に係る情報処理方法に係る処理について、より具体的に説明する。
(1)並べ替え処理
本実施形態に係る情報処理装置は、所定の領域内に位置する複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の撮像デバイスの位置関係に基づき並べる。
本実施形態に係る情報処理装置は、例えば、撮像画像と、GPS(Global Positioning System)デバイスや加速度センサなどのセンサから得られるセンサ情報(データ)との一方または双方を用いて、撮像デバイスの位置や姿勢を推定する。
ここで、撮像画像を用いて撮像デバイスの位置や姿勢を推定する場合には、本実施形態に係る情報処理装置は、例えば、画像に含まれる被写体の関係から撮像デバイスの位置や姿勢を推定することが可能な、SfM(Structure from Motion)技術を用いて、撮像画像から撮像デバイスの位置や姿勢を推定する。
また、例えばSfM技術を用いる場合、本実施形態に係る情報処理装置は、撮像画像から撮像デバイスの撮像パラメータ(例えば、焦点距離や歪みを示すパラメータ)を得ることが可能である。よって、上記のように撮像画像を用いて撮像デバイスの位置や姿勢が推定される場合、例えば、撮像画像がズーム状態で撮影した撮像デバイスにより撮像された撮像画像であるときや、撮像画像が広角状態で撮影した撮像デバイスにより撮像された撮像画像であるときであっても、撮像画像から撮像を行った撮像デバイスの位置や姿勢を推定することができる。
また、上記センサとしては、例えば、撮像デバイスが備えるセンサや、撮像デバイスに接続されている外部センサ、撮像デバイスにシールなどで貼り付けられている外部センサなどが挙げられる。
そして、本実施形態に係る情報処理装置は、推定された撮像デバイスの位置や姿勢に基づく撮像デバイスの空間的な位置関係に基づいて、複数の撮像画像を並べる。
上記のように、撮像デバイスの位置や姿勢は、撮像画像とセンサ情報との一方または双方を用いて推定される。つまり、本実施形態に係る撮像デバイスの空間的な位置関係には、例えば、GPSデバイスなどから得られる位置データ(センサ情報の一例)などに基づく、撮像デバイスの物理的な位置関係(撮像デバイスの撮像位置の物理的な位置関係)と、撮像画像から推定される情報に基づく撮像デバイスの位置関係とが含まれうる。
なお、撮像画像から推定される情報に基づく撮像デバイスの位置関係は、上記に示す例に限られない。例えば、本実施形態に係る情報処理装置は、撮像画像に含まれる所定の被写体の大きさによって被写体との距離を推定し、推定された距離を利用して撮像デバイスの位置関係を決定することも可能である。上記のように撮像画像に含まれる所定の被写体の大きさによって被写体との距離を推定する場合、例えば、ズーム状態で撮影した一の撮像デバイスにより撮像された撮像画像と、広角状態で撮影した他の撮像デバイスにより撮像された撮像画像とに含まれる所定の被写体の大きさが同程度であるときには、当該一の撮像デバイスと当該他の撮像デバイスとにおける、当該被写体との距離関係としての位置関係は、同程度となる。
本実施形態に係る情報処理装置は、例えば、起点となる撮像画像と、撮像画像を並べる方向とに基づいて、複数の撮像画像を並べる。起点となる撮像画像としては、例えば、操作画面の主画像表示領域(例えば図4のAに示すV)に表示されている撮像画像が挙げられる。また、起点となる撮像画像と、並べる方向とは、ユーザ操作により指定されてもよいし、本実施形態に係る情報処理装置が、ランダムなどの所定の規則に基づいて決定してもよい。
また、操作画面の主画像表示領域(例えば図4のAに示すV)に表示される画像など、現在表示されている画像が変わった場合には、本実施形態に係る情報処理装置は、例えば、現在表示されている画像を中心として、複数の撮像画像の並べ替えを行い、複数の撮像画像の並びを適応的に変更する。
図6は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、並べ替え処理の一例を示している。
図6のAは、所定の領域内に撮像デバイスが2つ位置する場合における撮像画像の並べ方を、撮像デバイスの位置関係により概念的に示している。図6のBは、所定の領域内に撮像デバイスが3つ位置する場合における撮像画像の並べ方を、撮像デバイスの位置関係により概念的に示している。図6のCは、所定の領域内に撮像デバイスが4つ位置する場合における撮像画像の並べ方を、撮像デバイスの位置関係により概念的に示している。図6のDは、所定の領域内に撮像デバイスが8つ位置する場合における撮像画像の並べ方を、撮像デバイスの位置関係により概念的に示している。
上記のように、例えば撮像デバイスの位置や姿勢を推定することにより撮像デバイスの空間的な位置関係を把握することが可能である。よって、起点となる撮像画像および撮像画像を並べる方向が上記のように決定されることにより、本実施形態に係る情報処理装置は、例えば図6に示すように、複数の撮像画像を、撮像デバイスの位置関係の空間的な規則性に従って並べることができる。ここで、撮像デバイスの位置関係の空間的な規則性は、例えば、複数の撮像デバイスが撮像する同一の被写体に対応する規則性であってもよい。
なお、本実施形態に係る情報処理装置は、起点となる撮像画像と撮像画像を並べる方向とに基づいて、複数の撮像画像に対して優先順位(撮像デバイスの位置関係の空間的な規則性に従った優先順位)を設定し、設定された優先順位に従って複数の撮像画像を並べることも可能である。
具体例を挙げると、本実施形態に係る情報処理装置は、例えば、起点となる撮像画像に対して最も高い優先順位を設定する。また、本実施形態に係る情報処理装置は、例えば、図6のA〜Dに示すような、並べる方向、すなわち順位付けを設定する方向に沿って、起点となる撮像画像に対応する撮像デバイスからの距離が近い撮像デバイスにより撮像された撮像画像から順に、高い優先順位を設定する。例えば図6のDに示すように、順位付けを設定する方向が、最終的に起点となる撮像画像に対応する撮像デバイスの位置へと到達する軌跡に沿った方向である場合には、本実施形態に係る情報処理装置は、起点となる撮像画像に対応する撮像デバイスの位置へと到達したときに、撮像画像に対する優先順位の設定を終了する。また、例えば図6のA〜Cの右図に示すように、順位付けを設定する方向が、最終的に起点となる撮像画像に対応する撮像デバイスの位置へと到達しない軌跡に沿った方向である場合には、本実施形態に係る情報処理装置は、例えば、優先順位が設定された撮像画像が、設定されている所定の数となった場合や、優先順位の設定を開始してから所定の時間が経過した場合に、撮像画像に対する優先順位の設定を終了する。
上記のように設定された優先順位に従って複数の撮像画像を並べられる場合には、本実施形態に係る表示制御処理によって、設定された優先順位に応じた順序に従って、複数の撮像画像が表示されることとなる。
本実施形態に係る情報処理装置は、例えば、所定の領域内に位置する全ての撮像デバイスから得られた撮像画像に対して、並べ替え処理を行う。
なお、本実施形態に係る並べ替え処理は、上記に限られない。例えば、本実施形態に係る情報処理装置は、下記の(a)〜(f)に示すように、所定の領域内に位置する複数の撮像デバイスから得られた撮像画像から、所定の撮像画像を除外して、複数の撮像画像を並べることも可能である。
(a)撮像画像の除外に係る並べ替え処理の第1の例
本実施形態に係る情報処理装置は、複数の撮像画像のうちのユーザにより指定された撮像画像を除外して、複数の撮像画像を並べる。
撮像画像の除外に係るユーザ操作は、例えば、図4のAに示すような操作画面や、複数の撮像画像が一覧表示されて、除外する撮像画像を選択することが可能な画面など、除外する撮像画像をユーザが選択することが可能な、任意の画面に対して行われる。また、撮像画像の除外に係るユーザ操作は、例えば、撮像画像を用いない撮像デバイスを選択する操作であってもよい。
(b)撮像画像の除外に係る並べ替え処理の第2の例
本実施形態に係る情報処理装置は、複数の撮像画像のうちの所定のオブジェクトが含まれない撮像画像を除外して、複数の撮像画像を並べる。
ここで、本実施形態に係る所定のオブジェクトとしては、例えば、ユーザにより撮像画像から選択されたオブジェクトや、複数の撮像画像から検出されるオブジェクト、設定されているオブジェクトが挙げられる。
例えば、ユーザが図5Aや図5Bに示すような操作を行うことによって、撮像画像から被写体が選択される。また、複数の撮像画像から検出されるオブジェクトとしては、例えば、設定されている閾値以上の数の撮像画像(または、当該閾値より大きい数の撮像画像)において、中心付近などの設定されている領域に含まれる被写体が挙げられる。また、本実施形態に係る設定されているオブジェクトは、予め設定されたオブジェクトであってもよいし、ユーザ操作により撮像画像から指定された被写体の特徴が学習された結果設定されたオブジェクトであってもよい。
本実施形態に係る情報処理装置は、例えば、所定のオブジェクトの特徴を示すデータに対応する特徴を有する被写体が撮像画像に含まれない場合に、所定のオブジェクトが含まれない撮像画像であるとして当該撮像画像を除外する。
(c)撮像画像の除外に係る並べ替え処理の第3の例
本実施形態に係る情報処理装置は、撮像画像に含まれる色に基づいて撮像画像を除外して、複数の撮像画像を並べる。本実施形態に係る情報処理装置は、例えば、他の撮像画像と色が大きく異なる撮像画像を判定する。そして、色が大きく異なると判定された撮像画像を除外する。
ここで、本実施形態に係る情報処理装置は、例えば、撮像画像それぞれの色ヒストグラムを算出し、算出された色ヒストグラムに基づき他の撮像画像と色が大きく異なる撮像画像の判定を行う。なお、本実施形態に係る他の撮像画像と色が大きく異なる撮像画像の判定方法は、上記に限られず、本実施形態に係る情報処理装置は、他の画像と色が大きく異なる画像を判定することが可能な、任意の方法を用いることが可能である。
(d)撮像画像の除外に係る並べ替え処理の第4の例
本実施形態に係る情報処理装置は、撮像画像の解像度に基づいて撮像画像を除外して、複数の撮像画像を並べる。
本実施形態に係る情報処理装置は、例えば、他の撮像画像と解像度が大きく異なる撮像画像を判定する。そして、解像度が大きく異なると判定された撮像画像を除外する。
ここで、本実施形態に係る情報処理装置は、例えば、“撮像画像の解像度と、複数の撮像画像の平均解像度との差の絶対値”が、設定されている閾値以上の撮像画像(または、当該閾値よりも大きい撮像画像)を、他の撮像画像と解像度が大きく異なる撮像画像であると判定する。なお、本実施形態に係る他の撮像画像と解像度が大きく異なる撮像画像の判定方法は、上記に限られず、本実施形態に係る情報処理装置は、他の画像と解像度が大きく異なる画像を判定することが可能な、任意の方法を用いることが可能である。
なお、撮像画像の除外に係る並べ替え処理の第4の例は、上記に限られない。
例えば、本実施形態に係る情報処理装置は、解像度の下限に対応する第1解像度以下の解像度を有する撮像画像(または、第1解像度より小さい解像度を有する撮像画像)を除外してもよい。また、本実施形態に係る情報処理装置は、例えば、解像度の上限に対応する第2解像度以上の解像度を有する撮像画像(または、第2解像度より大きい解像度を有する撮像画像)を除外してもよい。
(e)撮像画像の除外に係る並べ替え処理の第5の例
本実施形態に係る情報処理装置は、上記(a)に示す第1の例〜上記(d)に示す第4の例の2以上の処理を組み合わせた処理によって、撮像画像を除外した上で複数の撮像画像を並べてもよい。
(f)撮像画像の除外に係る並べ替え処理の第6の例
本実施形態に係る情報処理装置は、上記(a)に示す第1の例〜上記(e)に示す第5の例に係る処理により除外された画像であっても、ユーザ操作により再度追加された場合には、追加された画像を除外せずに、複数の撮像画像を並べることも可能である。
(2)表示制御処理
本実施形態に係る情報処理装置は、上記(1)の処理(並べ替え処理)により並べられた複数の撮像画像のうちの基準画像から切替先画像へと、画像を切り替えて表示させる。
また、本実施形態に係る情報処理装置は、画像を切り替える際には、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を選択的に補う。そして、補完画像が補われた場合には、本実施形態に係る情報処理装置は、例えば図4のBに示すように、切替先画像を表示させる前に補完画像を表示させる。
ここで、本実施形態に係る情報処理装置は、例えば、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの距離に基づいて、補完画像を選択的に補う。
本実施形態に係る“一の撮像デバイスと他の撮像デバイスとの距離”としては、例えば、一の撮像デバイスと他の撮像デバイスとの直線距離が挙げられる。一の撮像デバイスと他の撮像デバイスとの直線距離は、例えば、撮像画像から推定される撮像デバイスの位置や、GPSデバイスなどのセンサから得られるセンサ情報が示す位置などにより求められる。
なお、本実施形態に係る“一の撮像デバイスと他の撮像デバイスとの距離”は、上記に限られない。
例えば、本実施形態に係る“一の撮像デバイスと他の撮像デバイスとの距離”は、一の撮像デバイスと他の撮像デバイスとの間における、画像の表示の切り替えに係る仮想的な表示の切り替え経路(以下、「仮想パス」と示す。)の距離であってもよい。本実施形態に係る仮想パスは、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの位置関係に基づき設定される。例えば、本実施形態に係る仮想パスは、複数の撮像デバイスが撮像する同一の被写体に対するパスとして設定される。本実施形態に係る仮想パスの具体例については、後述する。
より具体的には、本実施形態に係る情報処理装置は、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの距離が、設定されている閾値以上である場合(または、当該距離が当該閾値より大きい場合)に、補完画像を補う。また、本実施形態に係る情報処理装置は、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの距離が、設定されている閾値より小さい場合(または、当該距離が当該閾値以下の場合)には、補完画像を補わない。上記閾値は、予め設定されている固定値であってもよいし、ユーザ操作などにより変更可能な可変値であってもよい。
また、本実施形態に係る情報処理装置は、例えば、距離と補完画像の数とが対応付けられているテーブルや、補完画像の数が一意に求まる距離の関数などを用いて、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの距離に応じた数の補完画像を補ってもよい。
本実施形態に係る情報処理装置は、画像(例えば、基準画像や、切替先画像、補完画像など)を切り替えて表示させる場合には、例えば、設定された仮想パスに基づいて、設定された仮想パスに対応する画像を表示させる。
ここで、本実施形態に係る仮想パスに対応する画像としては、仮想パス上に位置する撮像デバイスにより撮像された撮像画像と、仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当するように生成された生成画像とが挙げられる。
具体例を挙げると、本実施形態に係る仮想パスに対応する画像としては、例えば下記に示す画像が挙げられる。
・基準画像(基準画像に対応する撮像デバイスの位置が仮想パス上にある場合)
・基準画像に対して画像処理が行われることにより生成された生成画像(基準画像に対応する撮像デバイスの位置が仮想パス上にない場合)
・切替先画像(切替先画像に対応する撮像デバイスの位置が仮想パス上にある場合)
・切替先画像に対して画像処理が行われることにより生成された生成画像(切替先画像に対応する撮像デバイスの位置が仮想パス上にない場合)
・仮想パス上に位置する、基準画像に対応する撮像デバイスおよび切替先画像に対応する撮像デバイスではない他の撮像デバイスにより撮像された、撮像画像
・上記他の撮像デバイスにより撮像された撮像画像などに基づき生成された、生成画像
以下では、基準画像に対して画像処理が行われることにより生成される生成画像を、「基準画像に基づく画像」と示す。また、以下では、切替先画像に対して画像処理が行われることにより生成される生成画像を、「切替先画像に基づく画像」と示す。
以下、本実施形態に係る表示制御処理の一例について、より具体的に説明する。
(2−1)本実施形態に係る表示制御処理の第1の例:仮想パスの設定に係る処理の一例
まず、仮想パスの設定に係る処理の一例について説明する。
図7は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る表示制御処理における仮想パスの設定に係る処理の一例を示している。図7に示す“Cam1”は、基準画像に対応する撮像デバイスを示しており、図7に示す“Cam2”は、切替先画像に対応する撮像デバイスを示している。また、図7に示す“P1”、“P2”、および“P3”それぞれは、仮想パスの一例を示している。
本実施形態に係る情報処理装置は、例えば図7のAに示すように、基準画像に対応する撮像デバイスCam1と切替先画像に対応する撮像デバイスCam2との間に位置する撮像デバイスが、仮想パス上に位置するような経路を、仮想パスとして設定する。
本実施形態に係る情報処理装置は、例えば、位置が隣接する撮像デバイス間を直線で結ぶことによって、仮想パスを設定する(例えば、図7のAに示す仮想パスP1)。また、本実施形態に係る情報処理装置は、例えば、位置が隣接する撮像デバイス間を、ベジエ曲線などの曲線で結ぶことによって、仮想パスを設定してもよい(例えば、図7のAに示す仮想パスP2)。
また、本実施形態に係る情報処理装置は、例えば、ユーザ操作に基づき仮想パスを設定することも可能である(例えば、図7のBに示す仮想パスP3)。仮想パスの設定に係るユーザ操作は、例えば、本実施形態に係る情報処理装置が暫定的に設定した仮想パスを修正する操作であってもよいし、新規に仮想パスを設定する操作であってもよい。
本実施形態に係る情報処理装置は、例えば上記のように仮想パスを設定する。
なお、本実施形態に係る仮想パスの設定に係る処理は、上記に示す例に限られない。例えば、本実施形態に係る情報処理装置は、所定の曲率を有する円弧など、予め設定されている仮想パスを設定することも可能である。
また、本実施形態に係る情報処理装置は、本実施形態に係る仮想パスの設定に係る処理を、上記(a)〜上記(f)に示す所定の撮像画像の除外に係る処理と並行して行うことも可能である。つまり、本実施形態に係る情報処理装置は、仮想パスを設定しながら、撮像画像を選択的に除外してもよい。
(2−2)本実施形態に係る表示制御処理の第2の例:設定された仮想パスに対応する画像の表示に係る処理の一例
次に、設定された仮想パスに対応する画像の表示に係る処理の一例について説明する。
図8Aは、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る表示制御処理における仮想パスに対応する画像の表示に係る処理の一例を示している。図8Aは、設定された仮想パスP上に、複数の撮像デバイスが位置する場合を示している。
図8Aに示す“Cam1”は、基準画像に対応する撮像デバイスを示しており、図8Aに示す“Cam2”は、切替先画像に対応する撮像デバイスを示している。また、図8Aに示す“Cam3”は、仮想パスP上に位置する、基準画像に対応する撮像デバイスおよび切替先画像に対応する撮像デバイスではない他の撮像デバイスを示している。また、図8Aに示す“Cam3’”は、仮想パスP上に位置する仮想的な撮像デバイスの一例を示している。
図8AのAでは、基準画像に対応する撮像デバイスCam1、および切替先画像に対応する撮像デバイスCam2が、仮想パスP上に位置している。よって、本実施形態に係る情報処理装置は、画像の切り替えに際して、基準画像および切替先画像を表示させる。
また、図8AのAでは、他の撮像デバイスが仮想パスP上に位置している。よって、本実施形態に係る情報処理装置は、画像の切り替えに際して、基本的に各撮像デバイス
により撮像された撮像画像を、補完画像として表示させる。
しかしながら、設定された仮想パスP上に位置する撮像デバイスCam3により撮像された撮像画像には、他の撮像デバイスにより撮像された撮像画像と異なり、被写体Oが画像の中心付近に存在していない。そのため、画像の切り替えに際して撮像デバイスCam3により撮像された撮像画像が補完画像として用いられる場合には、例えば、被写体Oが中心付近からずれることや、画像の切り替えが滑らかとならないことなどが、画像をみるユーザに認識される恐れがある。
そこで、本実施形態に係る情報処理装置は、例えば、撮像デバイスCam3により撮像された撮像画像に対して画像処理を行うことによって、図8AのBに示す仮想的な撮像デバイスCam3’から撮像された撮像画像に相当する生成画像を生成する。本実施形態に係る情報処理装置は、撮像デバイスCam3により撮像された撮像画像に対して、例えば、クロッピングや、回転、アフィン変換、ホモグラフィ変換などを行うことによって、生成画像を生成する。
そして、本実施形態に係る情報処理装置は、撮像デバイスCam3により撮像された撮像画像に替えて、生成した生成画像を補完画像とする。
例えば図8Aに示すように生成画像を生成して、生成画像を補完画像として表示させることによって、例えば、画像の切り替えに際してより滑らかな画像をユーザに見せることができる。また、図8Aに示すように生成画像を生成して、生成画像を補完画像とすることによって、例えば、複数の撮像画像を同時に表示させる場合や、いわゆるタイムスライス画像を表示させる場合に、より綺麗な画像を作成することができる。
図8Bは、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る表示制御処理における仮想パスに対応する画像の表示に係る処理の他の例を示している。図8Bは、設定された仮想パスP上に、複数の撮像デバイスが位置していない場合を示している。
図8Bに示す“Cam1”は、基準画像に対応する撮像デバイスを示しており、図8Bに示す“Cam2”は、切替先画像に対応する撮像デバイスを示している。また、図8Bに示す“Cam3”、“Cam4”、“Cam5”それぞれは、仮想パスP上に位置する、基準画像に対応する撮像デバイスおよび切替先画像に対応する撮像デバイスではない他の撮像デバイスを示している。
また、図8Aに示す“Cam1’”、“Cam2’”、“Cam3’”、“Cam4’”、“Cam5’”それぞれは、仮想パスP上に位置する仮想的な撮像デバイスの一例を示している。
図8BのAでは、基準画像に対応する撮像デバイスCam1が、仮想パスP上に位置していない。ここで、本実施形態に係る情報処理装置は、例えば、基準画像に対応する撮像デバイスの位置と仮想パスとに基づいて、基準画像に対応する撮像デバイスの位置が仮想パス上に存在するか否かを判定する。
図8BのAに示すように、基準画像に対応する撮像デバイスの位置が仮想パス上に存在しない場合には、本実施形態に係る情報処理装置は、基準画像を、仮想パス上に位置する仮想的な撮像デバイスCam1’から撮像された撮像画像に相当する画像となるように画像処理して、基準画像に基づく画像を生成する。生成される基準画像に基づく画像は、仮想的な撮像デバイスCam1’から撮像された撮像画像に相当する。本実施形態に係る情報処理装置は、撮像デバイスCam1により撮像された撮像画像に対して、例えば、スケール変換や、アフィン変換などを行うことによって、基準画像に基づく画像を生成する。
そして、本実施形態に係る情報処理装置は、画像の切り替えに際して、生成された基準画像に基づく画像を表示させる。
また、図8BのAに示すように、切替先画像に対応する撮像デバイスの位置が仮想パス上に存在しない場合には、本実施形態に係る情報処理装置は、切替先画像を、仮想パス上に位置する仮想的な撮像デバイスCam2’から撮像された撮像画像に相当する画像となるように画像処理して、切替先画像に基づく画像を生成する。生成される切替先画像に基づく画像は、仮想的な撮像デバイスCam2’から撮像された撮像画像に相当する。本実施形態に係る情報処理装置は、撮像デバイスCam2により撮像された撮像画像に対して、例えば、スケール変換や、アフィン変換などを行うことによって、切替先画像に基づく画像を生成する。
そして、本実施形態に係る情報処理装置は、画像の切り替えに際して、生成された切替先画像に基づく画像を表示させる。
また、図8BのAに示すように、基準画像に対応する撮像デバイスおよび切替先画像に対応する撮像デバイスではない他の撮像デバイスCam3〜Cam5の位置が仮想パス上に存在しない場合には、本実施形態に係る情報処理装置は、他の撮像デバイスCam3〜Cam5により撮像された撮像画像を、仮想パス上に位置する仮想的な撮像デバイスCam3’〜
Cam5’から撮像された撮像画像に相当する画像となるように画像処理して、生成画像を生成する。生成される生成画像は、仮想的な撮像デバイスCam3’〜 Cam5’から撮像された撮像画像に相当する。本実施形態に係る情報処理装置は、撮像デバイスCam3〜Cam5により撮像された撮像画像に対して、例えば、スケール変換や、アフィン変換などを行うことによって、生成画像を生成する。
そして、本実施形態に係る情報処理装置は、画像の切り替えに際して、生成された生成画像を、補完画像として表示させる。
例えば図8Bに示すように、基準画像および切替先画像に替えて基準画像に基づく画像および切替先画像に基づく画像を表示させ、生成画像を補完画像として表示させることによって、例えば、画像の切り替えに際してより滑らかな画像をユーザに見せることができる。また、図8Bに示すように、基準画像に基づく画像および切替先画像に基づく画像を生成し、また、生成画像を生成して生成画像を補完画像とすることによって、例えば、複数の撮像画像を同時に表示させる場合や、いわゆるタイムスライス画像を表示させる場合に、より綺麗な画像を作成することができる。
本実施形態に係る情報処理装置は、設定された仮想パスに対応する画像の表示に係る処理として、例えば図8A、図8Bを参照して示したような処理を行う。
なお、設定された仮想パスに対応する画像の表示に係る処理の例は、図8A、図8Bを参照して示した処理に限られない。
例えば、本実施形態に係る情報処理装置は、画像の切り替えに際して、所定の被写体にフォーカスした画像を表示させることも可能である。
図9は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る表示制御処理における仮想パスに対応する画像の表示に係る処理の他の例を示している。
図9に示すA1〜A4は、複数の撮像デバイスにより撮像された撮像画像の一例を示している。また、図9に示すB1〜B4は、図9のA1〜A4の各撮像画像に対して、図8A、図8Bを参照して示した処理と同様の処理が行われた後に、さらに、画像に含まれるキャッチャー(所定の被写体の一例)にフォーカスした画像の一例を示している。
本実施形態に係る情報処理装置は、例えば、画像から所定の被写体を検出し、検出された所定の被写体がフォーカスされるように画像処理を行うことによって、図9のB1〜B4に示す画像を生成画像として生成する。本実施形態に係る情報処理装置は、例えば、図5A〜図5Cを参照して示した方法により学習された結果得られる所定の被写体の特徴を示すデータを用いて、画像(例えば、基準画像や、切替先画像、補完画像など)から被写体を検出する。
例えば図9のB1〜B4に示すように、所定の被写体にフォーカスした画像が生成画像として生成され、表示されることによって、所定の被写体の表示位置が滑らかに変わる画像をユーザに見せることができる。また、例えば図9のB1〜B4に示すように、所定の被写体にフォーカスした画像が生成画像として生成されることによって、例えば、複数の撮像画像を同時に表示させる場合や、いわゆるタイムスライス画像を表示させる場合に、より綺麗な画像を作成することができる。
(2−3)本実施形態に係る表示制御処理の第3の例:設定された仮想パスに対応する画像の表示に係る処理の他の例
上述したように、仮想パスは、ユーザ操作に基づき設定されてもよい。また、本実施形態に係る情報処理装置は、画像の切り替えに際して、撮像デバイスにより撮像された撮像画像を用いるか否かを、例えば、撮像デバイスの位置(空間的な配置)や、撮像画像に含まれる被写体の有無、撮像画像に含まれる被写体の位置に基づいて、適応的に決定することも可能である。
図10は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る表示制御処理における仮想パスに対応する画像の表示に係る処理の他の例を示している。
図10に示すA1、B1、C1は、仮想パス上に位置する一の撮像デバイスにより撮像された撮像画像の一例を示している。また、図10に示すA3、B3は、仮想パス上に位置する他の撮像デバイスにより撮像された撮像画像の一例を示している。また、図10に示すC3は、補完画像の一例を示しており、仮想パス上に位置する上記他の撮像デバイスにより撮像された撮像画像をクロッピングして生成された生成画像を示している。また、図10に示すA2、B2、C2は、補完画像の一例を示しており、生成画像をそれぞれ示している。
仮想パス上に一の撮像デバイスと他の撮像デバイスとが位置するときにおいて、一の撮像デバイスに対応する視点の画像から他の撮像デバイスに対応する視点の画像へと切り替える場合には、本実施形態に係る情報処理装置は、例えば、設定された仮想パスに従って、図10のA2やB2に示す補完画像を、図10のA3やB3に示す画像が表示される前に表示させる。ここで、図10のA1、A2、A3に示す画像の切り替えは、例えば仮想パスベースの画像の切り替えと捉えることができる。また、図10のA1、A2、A3に示す画像の切り替えは、例えば被写体ベースの画像の切り替えと捉えることができる。
また、本実施形態に係る情報処理装置は、例えば図10のC1、C2、C3に示すように、被写体が表示される位置や被写体の大きさが変わらないように、画像を切り替えることも可能である。例えば図10のC1、C2、C3に示すように、被写体が表示される位置や被写体の大きさが変わらないように、画像が切り替えられる場合には、ユーザは、画像をより直感的にみることができ、また、画像の編集をより直感的に行うことができる。図10のC1、C2、C3に示す画像の切り替えは、例えば被写体ベースの画像の切り替えと捉えることができる。
例えば図10に示すような画像の切り替えが行われることによって、より滑らかな画像の切り替えが実現される。
(2−4)本実施形態に係る表示制御処理の第4の例
図11A、図11Bは、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る表示制御処理により実現される画像の切り替えの一例を示している。図11A、図11Bに示す例では、野球場に配置された複数の撮像デバイスCam1、Cam2、…により撮像が行われるときにおいて、撮像デバイスCam1により撮像された撮像画像から撮像デバイスCam4により撮像された撮像画像へと画像が切り替えられる場合における例を示している。
図11AのAは、撮像デバイスCam1により撮像された撮像画像の一例を示しており、例えば表示画面に現在表示されている画像である。図11A、図11Bに示す例では、撮像デバイスCam1により撮像された撮像画像が基準画像に該当する。
また、図11AのBは、図11Aの左から順に、撮像デバイスCam2により撮像された撮像画像、撮像デバイスCam3により撮像された撮像画像、撮像デバイスCam4により撮像された撮像画像、撮像デバイスCam5により撮像された撮像画像、…の一例を示している。図11A、図11Bに示す例では、撮像デバイスCam4により撮像された撮像画像が基準画像に該当する。
基準画像から切替先画像への画像の切り替えに係る仮想パスPは、例えば図11BのAに示すように、基準画像に対応する撮像デバイスCam1と切替先画像に対応する撮像デバイスCam2との間に位置する、撮像デバイスCam2、Cam3を経由するように設定される。例えば図11BのAに示すように仮想パスPが設定されることによって、撮像デバイスCam2、Cam3により撮像された撮像画像を、補完画像として利用することができる。なお、上述したように、本実施形態に係る仮想パスは、例えばユーザ操作などに基づき任意の設定することが可能である。
また、基準画像から切替先画像へと画像が切り替えられる際には、例えば図11BのBに示すように、仮想パス上の仮想的な撮像デバイスVD1〜VD3により撮像された撮像画像に相当する生成画像が、補完画像として補われてもよい。補完画像の数は、例えば、基準画像に対応する撮像デバイスCam1と切替先画像に対応する撮像デバイスCam2との距離に応じて決定される。
例えば図11BのBに示すように、撮像デバイスCam2、Cam3により撮像された撮像画像と、仮想的な撮像デバイスVD1〜VD3より撮像された撮像画像に相当する生成画像とが、補完画像として補われることによって、図11のCに示すような画像の切り替えが実現される。
(2−5)本実施形態に係る表示制御処理の第5の例:画像の切り替えに係るUI(User Interface)の例
例えば図4のAを参照して示したように、本実施形態に係る画像の切り替えは、ユーザが画像の切り替えに関する操作を行うことが可能な操作画面に対するユーザ操作に基づいて、行われてもよい。
図12は、本実施形態に係る情報処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る画像の切り替えに係るUIの一例を示している。図12のAは、ユーザが画像の切り替えに関する操作を行うことが可能な操作画面の一例を示しており、図12のBは、ユーザが画像の切り替えに関する操作を行うことが可能な操作画面の他の例を示している。
(2−5−1)操作画面の第1の例(図12のA)
図12のAを参照すると、第1の例に係る操作画面には、画像が表示される主画像表示領域Vと、上記(1)の処理(並べ替え処理)により並べられた撮像画像が表示され、ユーザが撮像画像を選択する操作を行うことが可能な選択領域S1とが含まれる。ここで、選択領域S1に対する操作が、本実施形態に係る画像の切り替えに関する操作の一例に該当する。また、本実施形態に係る操作画面には、画像の再生に係る操作ボタンや、シークバーなどが含まれていてもよい。
主画像表示領域Vに表示されている撮像画像は、基準画像に該当する。また、選択領域S1には、例えば、基準画像(主画像表示領域Vに表示されている撮像画像)に対応する撮像デバイスとの位置関係に応じて、基準画像に対応する撮像デバイスではない他の撮像デバイスにより撮像された撮像画像が表示される。選択領域S1には、例えば、上記(1)の処理(並べ替え処理)に係る並べる方向に、基準画像に対応する撮像デバイスとの距離が近い順に、他の撮像デバイスにより撮像された撮像画像が表示される。主画像表示領域Vに表示されている撮像画像が他の画像に変わった場合には、主画像表示領域Vに表示されている画像に対応する画像が、選択領域S1に表示される。
図12のAに示す操作画面に対してユーザ操作が行われる場合、ユーザが選択領域S1に表示されている画像を選択することによって、本実施形態に係る情報処理装置は、主画像表示領域Vに表示されている撮像画像から選択領域S1において選択された撮像画像へと、画像を切り替える。
(2−5−2)操作画面の第2の例(図12のB)
図12のBを参照すると、第2の例に係る操作画面には、画像が表示される主画像表示領域Vと、上記(1)の処理(並べ替え処理)により並べられた撮像画像に対応する撮像デバイスの位置が表示され、ユーザが選択に係る操作を行うことが可能な選択領域S2とが含まれる。ここで、選択領域S2に対する操作が、本実施形態に係る画像の切り替えに関する操作の一例に該当する。主画像表示領域Vに表示されている撮像画像は、図12のAと同様に、基準画像に該当する。
選択領域S2に対するユーザが選択に係る操作としては、例えば、撮像デバイスを選択する操作や、仮想パスを設定する操作が挙げられる。撮像デバイスを選択する操作は、例えば、選択された撮像デバイスに対応する撮像画像を切替先画像として選択する、切替先画像の選択操作に相当する。また、仮想パスを設定する操作は、例えば、仮想パスを設定することによる、切替先画像の選択操作に相当する。
また、選択領域S2では、例えば図12のBのIに示すように、“主画像表示領域Vに表示されている撮像画像に対応する撮像デバイスに対して色が付されること”や、“主画像表示領域Vに表示されている撮像画像に対応する撮像デバイスのサイズが他の撮像デバイスよりも大きく表示されること”、“主画像表示領域Vに表示されている撮像画像に対応する撮像デバイスに対して文字が付されること”などによって、画像表示領域Vに表示されている撮像画像に対応する撮像デバイスが明示されていてもよい。
図12のBに示す操作画面に対してユーザ操作が行われる場合、ユーザが選択領域S2に表示されている撮像デバイスを選択することによって、本実施形態に係る情報処理装置は、主画像表示領域Vに表示されている撮像画像から選択領域S2において選択された撮像デバイスにより撮像された撮像画像へと、画像を切り替える。また、図12のBに示す操作画面に対してユーザ操作が行われる場合、例えばユーザが仮想パスを設定することによって、本実施形態に係る情報処理装置は、主画像表示領域Vに表示されている撮像画像から選択領域S2において設定された仮想パスの終点に対応する画像へと、画像を切り替える。
本実施形態に係る情報処理装置は、例えば図12に示す操作画面に対するユーザ操作に基づいて表示制御処理を行い、画像を切り替えて表示させる。なお、本実施形態に係る画像の切り替えに係るUIが、図12に示す操作画面に限られないことは、言うまでもない。
[3]本実施形態に係る情報処理方法に係る処理の具体例
図13は、本実施形態に係る情報処理方法に係る処理の一例を示す流れ図である。図13では、例えば、図13のBに示す処理が、上記(2)の処理(表示制御処理)の一例に該当する。また、図13では、上記(1)の処理(並べ替え処理)については、省略している。
また、図13のAに示すステップS100〜S108の処理は、上記(2)の処理(表示制御処理)により画像が切り替えた表示が行われる前に行われる、事前処理の一例を示している。なお、図13のAに示すステップS100〜S108の処理は、事前処理に限られず、図13のBに示すステップS200とステップS202の処理との間で行われる、リアルタイム処理であってもよい。
まず、図13のAを参照すると、本実施形態に係る情報処理装置は、撮像デバイスの位置を推定する(S100)。本実施形態に係る情報処理装置は、例えば、撮像画像や、GPSデバイスなどのセンサから得られるセンサ情報によって、撮像デバイスの位置を推定する。
本実施形態に係る情報処理装置は、撮像画像から被写体を検出する(S102)。本実施形態に係る情報処理装置は、例えば、図5A〜図5Cを参照して示した方法などにより学習された結果得られる所定の被写体の特徴を示すデータを用いて、撮像画像から被写体を検出する。
本実施形態に係る情報処理装置は、撮像画像の色調を補正する(S104)。
本実施形態に係る情報処理装置は、仮想パスの推定や、撮像画像の使用判定を行う(S106)。
図14は、本実施形態に係る情報処理方法に係る処理の一例を示す流れ図であり、図13のAのステップS106の処理の一例を示している。また、図15は、本実施形態に係る情報処理方法に係る処理を説明するための説明図であり、図15に示すA、Bは、図14に示す処理を補足するための図を示している。
本実施形態に係る情報処理装置は、ユーザが指定した撮像画像を除外する(S300)。また、本実施形態に係る情報処理装置は、所定の被写体が含まれていない撮像画像を除外する(S302)。また、本実施形態に係る情報処理装置は、他の撮像画像と色が大きく異なる撮像画像を除外する(S304)。また、本実施形態に係る情報処理装置は、他の撮像画像と解像度が大きく異なる撮像画像を除外する(S306)。
ステップS300〜S306の処理が行われることによって、例えば、図15のAに示す撮像デバイスCam1により撮像された撮像画像のような、所定の被写体が含まれない撮像画像や、図15のAに示す撮像デバイスCam2により撮像された撮像画像のような、解像度が不足している撮像画像が除外される。なお、本実施形態に係る情報処理装置は、例えば、ステップS300〜S306の処理を行わないことも可能である。
本実施形態に係る情報処理装置は、仮想パスを生成する(S308)。本実施形態に係る情報処理装置は、例えば、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの間に位置する他の撮像デバイスを経由する仮想パスを生成する。なお、後述するステップS312の処理において撮像画像が除外されて、再度ステップS308の処理が行われる場合には、本実施形態に係る情報処理装置は、例えば、除外された撮像画像に対応する撮像デバイスを経由しない仮想パスを再度生成する。
本実施形態に係る情報処理装置は、設定された仮想パスを評価し(S310)、仮想パスに適合しない画像を除外する(S312)。仮想パスに適合しない画像の除外は、例えば1つの画像ずつ行われる。
本実施形態に係る情報処理装置は、例えば、設定された仮想パスにおいて仮想パスに適合しない画像が存在するか否かを判定して、仮想パスを評価する。
具体例を挙げると、本実施形態に係る情報処理装置は、例えば、仮想パス上に位置する撮像デバイスにより撮像された撮像画像が、下記の場合の1または2以上に該当するか否かを判定して、各撮像画像に対して評価値を算出し、評価値により仮想パスを評価する。本実施形態に係る情報処理装置は、例えば、下記の場合それぞれに対応する値の和を評価値として仮想パスを評価してもよいし、各場合に対応する値それぞれを評価値とし、複数の評価値を直列的に用いるなど、複数の評価値の組み合わせによって仮想パスを評価してもよい。なお、評価値の算出方法が、下記の場合の1または2以上に該当するか否かを判定する方法に限られないことは、言うまでもない。
・撮像デバイスの姿勢・位置がずれている場合(例えば、仮想パスまでの距離が閾値以上である場合や、仮想パスに垂直ではない場合)
・対象の撮像画像を除外したときに生成される仮想パスが、極端に短くなる場合
・対象の撮像画像を除外したときに生成される仮想パスが、滑らかになる場合
本実施形態に係る情報処理装置は、例えば、ステップS310において算出された評価値と閾値とを用いた閾値処理を行って仮想パスに適合しない画像を判定し、ステップS312において仮想パスに適合しないと判定された画像を除外する。
ここで、本実施形態に係る情報処理装置は、例えば、撮像画像に所定の被写体が含まれていない、他の撮像画像と色が大きく異なるなどの判定基準により、仮想パスに適合しない画像を判定することも可能である。ステップS308〜S312の処理の段階で、撮像画像に所定の被写体が含まれていないなどの判定基準による仮想パスに適合しない画像の判定が行われる場合には、本実施形態に係る情報処理装置は、ステップS300〜S306の処理を行わなくてもよい。
ステップS308〜S312の処理が行われることによって、例えば図15のBに示す撮像デバイスCam3のような撮像デバイスが除外される。
本実施形態に係る情報処理装置は、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの間に位置する他の撮像デバイスにより撮像された撮像画像のうち、除外することが可能な画像がないか否かを判定する(S314)。本実施形態に係る情報処理装置は、例えば、ステップS312において除外された撮像画像以外に、ステップS310において仮想パスに適合しないと判定された撮像画像が存在しない場合に、除外することが可能な画像がないと判定する。
ステップS314において除外することが可能な画像がないと判定されない場合には、本実施形態に係る情報処理装置は、ステップS308からの処理を繰り返す。また、ステップS314において除外することが可能な画像がないと判定された場合には、本実施形態に係る情報処理装置は、図13のAのステップS106の処理を終了する。
図13のAのステップS106では、例えば図14に示す処理が行われる。なお、図13のAのステップS106の処理が図14に示す処理に限られないことは、言うまでもない。
再度図13のAを参照して、本実施形態に係る情報処理方法に係る処理の一例について説明する。本実施形態に係る情報処理装置は、撮像画像から3次元情報(Depthを示すデータ)を生成する(S108)。ここで、ステップS108において生成される3次元情報は、生成画像(補完画像の一例)の生成に用いられる。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理における事前処理として、例えば図13のAに示す処理を行う。
なお、本実施形態に係る事前処理は、図13のAに示す例に限られない。例えば、本実施形態に係る情報処理装置は、ステップS104の処理とステップS108の処理との一方または双方の処理を、行わなくてもよい。
また、上述したように、図13のAに示す処理(上記に示す図13のAの変形例に係る処理も含む。)は、事前処理に限られず、図13のBに示すステップS200とステップS202の処理との間で行わてもよい。
次に図13のBを参照すると、本実施形態に係る情報処理装置は、切り替え先の視点(切替先画像)が選択されたか否かを判定する(S200)。本実施形態に係る情報処理装置は、例えば、図12に示すような操作画面に対する切替先画像の選択に係るユーザ操作が検出された場合に、切り替え先の視点が選択されたと判定する。
ステップS200において切り替え先の視点が選択されたと判定されない場合には、本実施形態に係る情報処理装置は、切り替え先の視点が選択されたと判定されるまで処理を進めない。
また、ステップS200において切り替え先の視点が選択されたと判定された場合には、本実施形態に係る情報処理装置は、1または2以上の補完画像を選択的に補い(S202)、基準画像から切替先画像へと画像を切り替えて表示させる(S204)。本実施形態に係る情報処理装置は、仮想パス上に位置する撮像デバイスにより撮像された撮像画像や、仮想パス上に位置する仮想的な撮像デバイスにより撮像された撮像画像に相当するように、各種レンダリングや各種変換などにより生成された生成画像を、補完画像として補う。
例えば図13のBに示す処理が行われることによって、基準画像から切替先画像へのより滑らかな画像の切り替えが実現される。
本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理として、例えば図13のAおよび図13のBに示す処理を行う。なお、本実施形態に係る情報処理方法に係る処理が、図13のAおよび図13のBに示す処理に限られないことは、言うまでもない。
(本実施形態に係る情報処理装置)
次に、上述した本実施形態に係る情報処理方法に係る処理を行うことが可能な、本実施形態に係る情報処理装置の構成の一例について説明する。以下では、本実施形態に係る情報処理方法に係る処理として、上記(1)の処理(並べ替え処理)および上記(2)の処理(表示制御処理)が行われる場合における、本実施形態に係る情報処理装置の構成を例に挙げる。
図16は、本実施形態に係る情報処理装置100の構成の一例を示すブロック図である。情報処理装置100は、例えば、通信部102と、制御部104とを備える。
また、情報処理装置100は、例えば、ROM(Read Only Memory。図示せず)や、RAM(Random Access Memory。図示せず)、記憶部(図示せず)、ユーザが操作可能な操作部(図示せず)、様々な画面を表示画面に表示する表示部(図示せず)などを備えていてもよい。情報処理装置100は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。
ROM(図示せず)は、制御部104が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、制御部104により実行されるプログラムなどを一時的に記憶する。
記憶部(図示せず)は、情報処理装置100が備える記憶手段であり、例えば、被写体の特徴を示すデータなどの本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなど様々なデータを記憶する。ここで、記憶部(図示せず)としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などが挙げられる。また、記憶部(図示せず)は、情報処理装置100から着脱可能であってもよい。
操作部(図示せず)としては、後述する操作入力デバイスが挙げられる。また、表示部(図示せず)としては、後述する表示デバイスが挙げられる。
[情報処理装置100のハードウェア構成例]
図17は、本実施形態に係る情報処理装置100のハードウェア構成の一例を示す説明図である。情報処理装置100は、例えば、MPU150と、ROM152と、RAM154と、記録媒体156と、入出力インタフェース158と、操作入力デバイス160と、表示デバイス162と、通信インタフェース164とを備える。また、情報処理装置100は、例えば、データの伝送路としてのバス166で各構成要素間を接続する。
MPU150は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサや、各種処理回路などで構成され、情報処理装置100全体を制御する制御部104として機能する。また、MPU150は、情報処理装置100において、例えば、後述する並べ替え部110、および表示制御部112の役目を果たす。
ROM152は、MPU150が使用するプログラムや演算パラメータなどの制御用データなどを記憶する。RAM154は、例えば、MPU150により実行されるプログラムなどを一時的に記憶する。
記録媒体156は、記憶部(図示せず)として機能し、例えば、被写体の特徴を示すデータなどの本実施形態に係る情報処理方法に係るデータなどの本実施形態に係る情報処理方法に係るデータや、各種アプリケーションなど様々なデータを記憶する。ここで、記録媒体156としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリが挙げられる。また、記録媒体156は、情報処理装置100から着脱可能であってもよい。
入出力インタフェース158は、例えば、操作入力デバイス160や、表示デバイス162を接続する。操作入力デバイス160は、操作部(図示せず)として機能し、また、表示デバイス162は、表示部(図示せず)として機能する。ここで、入出力インタフェース158としては、例えば、USB(Universal Serial Bus)端子や、DVI(Digital Visual Interface)端子、HDMI(High-Definition Multimedia Interface)(登録商標)端子、各種処理回路などが挙げられる。
また、操作入力デバイス160は、例えば、情報処理装置100上に備えられ、情報処理装置100の内部で入出力インタフェース158と接続される。操作入力デバイス160としては、例えば、ボタンや、方向キー、ジョグダイヤルなどの回転型セレクター、あるいは、これらの組み合わせなどが挙げられる。
また、表示デバイス162は、例えば、情報処理装置100上に備えられ、情報処理装置100の内部で入出力インタフェース158と接続される。表示デバイス162としては、例えば、液晶ディスプレイ(Liquid Crystal Display)や有機ELディスプレイ(Organic Electro-Luminescence Display。または、OLEDディスプレイ(Organic Light Emitting Diode Display)ともよばれる。)などが挙げられる。
なお、入出力インタフェース158が、情報処理装置100の外部装置としての外部操作入力デバイス(例えば、キーボードやマウスなど)や外部表示デバイスなどの、外部デバイスと接続することも可能であることは、言うまでもない。また、表示デバイス162は、例えばタッチパネルなど、表示とユーザ操作とが可能なデバイスであってもよい。
通信インタフェース164は、情報処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、外部の撮像デバイスや外部の表示デバイスなどの外部デバイスや、外部装置と無線または有線で通信を行うための通信部102として機能する。ここで、通信インタフェース164としては、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11ポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。また、本実施形態に係るネットワークとしては、例えば、LANやWAN(Wide Area Network)などの有線ネットワーク、無線LAN(WLAN:Wireless Local Area Network)などの無線ネットワーク、あるいは、TCP/IP(Transmission Control Protocol/Internet Protocol)などの通信プロトコルを用いたインターネットなどが挙げられる。
情報処理装置100は、例えば図17に示す構成によって、本実施形態に係る情報処理方法に係る処理を行う。なお、本実施形態に係る情報処理装置100のハードウェア構成は、図17に示す構成に限られない。
例えば、情報処理装置100は、接続されている外部通信デバイスを介して、外部装置と通信を行う場合には、通信インタフェース164を備えていなくてもよい。
また、情報処理装置100は、撮像により撮像画像を生成する撮像部(図示せず)として機能する撮像デバイスをさらに備えていてもよい。
また、情報処理装置100は、例えば、記憶媒体156や、操作デバイス160、表示デバイス162、撮像デバイス166を備えない構成をとることも可能である。
再度図16を参照して、情報処理装置100の構成の一例について説明する。通信部102は、情報処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、外部の撮像デバイスなどの外部デバイスや、外部装置と無線または有線で通信を行う。また、通信部102は、例えば制御部104により通信が制御される。
ここで、通信部102としては、例えば、通信アンテナおよびRF回路や、LAN端子および送受信回路などが挙げられるが、通信部104の構成は、上記に限られない。例えば、通信部102は、USB端子および送受信回路などの通信を行うことが可能な任意の規格に対応する構成や、ネットワークを介して外部装置と通信可能な任意の構成をとることができる。また、通信部102は、複数の通信方式によって、1または2以上の外部装置と通信を行うことが可能な構成であってもよい。
制御部104は、例えばMPUなどで構成され、情報処理装置100全体を制御する役目を果たす。また、制御部104は、例えば、並べ替え部110と、表示制御部112とを備え、本実施形態に係る情報処理方法に係る処理を主導的に行う役目を果たす。
並べ替え部110は、上記(1)の処理(並べ替え処理)を主導的に行う役目を果たし、所定の領域内に位置する複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の撮像デバイスの位置関係に基づき並べる。
また、並べ替え部110は、例えば上記(a)〜(f)に示すように、複数の撮像画像の中から撮像画像を除外して、複数の撮像画像を並べてもよい。
表示制御部112は、上記(2)の処理(表示制御処理)を主導的に行う役目を果たす。表示制御部112は、例えば、並べ替え部110により並べられた複数の撮像画像の並び順に従って複数の撮像画像を表示させることにより、複数の撮像画像を、複数の撮像デバイスの位置関係に対応する形態で表示させる。また、表示制御部112は、基準画像から切替先画像へと画像を切り替えて表示させる。
表示制御部112は、基準画像に対応する撮像デバイスと切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を補う。そして、表示制御部112は、補完画像が補われた場合には、切替先画像を表示させる前に補完画像を表示させる。
また、表示制御部112は、画像を切り替えて表示させる場合には、設定された仮想パスに対応する画像(例えば、基準画像や、基準画像に基づく画像、補完画像、切替画像、切替画像に基づく画像)を、表示させてもよい。具体的には、表示制御部112は、例えば、基準画像に対応する撮像デバイスの位置と仮想パスとに基づいて、基準画像に替えて、基準画像に基づく画像を仮想パスに対応する画像として選択的に表示させる。また、表示制御部112は、例えば、切替画像に対応する撮像デバイスの位置と仮想パスとに基づいて、切替画像に替えて、切替画像に基づく画像を仮想パスに対応する画像として選択的に表示させる。また、表示制御部112は、例えば、仮想パスに対応する画像を補完画像として補い、補われた補完画像を表示させる。
表示制御部112は、例えば、上記(2−1)に示す第1の例に係る処理〜上記(2−5)に示す第5の例に係る処理の1または2以上を行う。
制御部104は、例えば、並べ替え部110、および表示制御部112を備えることによって、本実施形態に係る情報処理方法に係る処理を主導的に行う。
情報処理装置100は、例えば図16に示す構成によって、本実施形態に係る情報処理方法に係る処理(例えば、上記(1)の処理(並べ替え処理)、および上記(2)の処理(表示制御処理))を行う。
したがって、情報処理装置100は、例えば図16に示す構成によって、撮像画像の切り替えに係るユーザの利便性の向上を図ることができる。
また、例えば図16に示す構成によって、情報処理装置100は、例えば上述したような、本実施形態に係る情報処理方法に係る処理が行われることにより奏される効果を、奏することができる。
なお、本実施形態に係る情報処理装置の構成は、図16に示す構成に限られない。
例えば、本実施形態に係る情報処理装置は、図16に示す並べ替え部110、および表示制御部112の一方、または双方を、制御部104とは個別に備える(例えば、別の処理回路で実現する)ことができる。
また、上述したように、上記(1)の処理(並べ替え処理)および上記(2)の処理(表示制御処理)は、便宜上、本実施形態に係る情報処理方法に係る処理を切り分けたものである。よって、本実施形態に係る情報処理方法に係る処理を実現するための構成は、図16に示す並べ替え部110、および表示制御部112に限られず、本実施形態に係る情報処理方法に係る処理の切り分け方に応じた構成をとることが可能である。
また、例えば、通信部102と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本実施形態に係る情報処理装置は、通信部102を備えていなくてもよい。
また、本実施形態に係る情報処理装置は、図16に示す並べ替え部110を備えない構成をとることも可能である。並べ替え部110を備えない構成をとる場合であっても、本実施形態に係る情報処理装置は、上記(2)の処理(表示制御処理)を行うことができるので、撮像画像の切り替えに係るユーザの利便性の向上を図ることができる。
また、本実施形態に係る情報処理装置は、撮像デバイスで構成され、撮像により撮像画像を生成する撮像部(図示せず)をさらに備えていてもよい。
以上、本実施形態として、情報処理装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、PC(Personal Computer)やサーバなどのコンピュータ、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置、携帯電話やスマートフォンなどの通信装置、タブレット型の装置、表示装置、映像/音楽再生装置(または映像/音楽記録再生装置)、ゲーム機など、様々な機器に適用することができる。また、本実施形態は、例えば、上記のような機器に組み込むことが可能な、処理IC(Integrated Circuit)に適用することもできる。
また、本実施形態に係る情報処理装置は、例えばクラウドコンピューティングなどのように、ネットワークへの接続(または各装置間の通信)を前提とした、複数の装置からなるシステムにより実現されてもよい。つまり、上述した本実施形態に係る情報処理装置は、例えば、複数の装置からなるシステムとして実現することも可能である。
上述した本実施形態に係る情報処理装置が、例えばクラウドコンピューティングなどのようなシステムとして実現される場合、本実施形態に係るシステムは、例えば、本実施形態に係る情報処理方法に係る処理を行い、有線または無線で通信可能な装置(例えば、ユーザが所持する装置など)の表示画面に、切り替えられる画像を表示させる。なお、上述した本実施形態に係る情報処理装置が、複数の装置からなるシステムではなく、1つの装置であっても、本実施形態に係る情報処理装置は、本実施形態に係る情報処理方法に係る処理を行い、有線または無線で通信可能な装置の表示画面に、切り替えられる画像を表示させることが可能である。
(本実施形態に係るプログラム)
コンピュータを、本実施形態に係る情報処理装置として機能させるためのプログラム(例えば、上記(1)の処理(並べ替え処理)、および上記(2)の処理(表示制御処理)など、本実施形態に係る情報処理方法に係る処理を実行することが可能なプログラム)が、コンピュータにおいてプロセッサなどにより実行されることによって、撮像画像の切り替えに係るユーザの利便性の向上を図ることができる。
また、コンピュータを、本実施形態に係る情報処理装置として機能させるためのプログラムが、コンピュータにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る情報処理方法に係る処理によって奏される効果を、奏することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、コンピュータを、本実施形態に係る情報処理装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も併せて提供することができる。
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させる表示制御部を備え、
前記表示制御部は、
前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を補い、
前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像を表示させる、情報処理装置。
(2)
前記表示制御部は、前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの距離に基づいて、前記補完画像を選択的に補う、(1)に記載の情報処理装置。
(3)
前記表示制御部は、画像を切り替えて表示させる場合には、前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づき設定された、画像の表示の切り替えに係る仮想的な表示の切り替え経路である仮想パスに対応する画像を、表示させる、(1)、または(2)に記載の情報処理装置。
(4)
前記表示制御部は、前記仮想パスに対応する画像を前記補完画像として補い、補われた前記補完画像を表示させる、(3)に記載の情報処理装置。
(5)
前記補完画像として補われる前記仮想パスに対応する画像は、前記仮想パス上に位置する撮像デバイスにより撮像された撮像画像と、前記仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当するように生成された生成画像との、一方または双方である、(4)に記載の情報処理装置。
(6)
前記表示制御部は、前記基準画像に対応する撮像デバイスの位置と前記仮想パスとに基づいて、前記基準画像に替えて、前記基準画像に対して画像処理が行われた基準画像に基づく画像を、前記仮想パスに対応する画像として選択的に表示させる、(3)〜(5)のいずれか1つに記載の情報処理装置。
(7)
前記表示制御部は、
前記基準画像に対応する撮像デバイスの位置が前記仮想パス上にない場合に、前記基準画像を、前記仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当する画像となるように画像処理して、前記基準画像に基づく画像を生成し、
生成された前記基準画像に基づく画像を表示させる、(6)に記載の情報処理装置。
(8)
前記表示制御部は、前記切替先画像に対応する撮像デバイスの位置と前記仮想パスとに基づいて、前記切替先画像に替えて、前記切替先画像に対して画像処理が行われた切替先画像に基づく画像を、前記仮想パスに対応する画像として選択的に表示させる、(3)〜(7)のいずれか1つに記載の情報処理装置。
(9)
前記表示制御部は、
前記切替先画像に対応する撮像デバイスの位置が前記仮想パス上にない場合に、前記切替先画像を、前記仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当する画像となるように画像処理して、前記切替先画像に基づく画像を生成し、
生成された前記切替先画像に基づく画像を表示させる、(8)に記載の情報処理装置。
(10)
前記表示制御部は、ユーザが画像の切り替えに関する操作を行うことが可能な操作画面を表示させ、
前記操作画面に対するユーザ操作に基づいて、画像を切り替えて表示させる、(1)〜(9)のいずれか1つに記載の情報処理装置。
(11)
前記操作画面には、複数の前記撮像画像が選択可能な状態で表示され、
前記表示制御部は、前記撮像画像を選択するユーザ操作に基づいて、画像を切り替えて表示させる、(10)に記載の情報処理装置。
(12)
前記操作画面には、複数の前記撮像画像それぞれに対応する前記撮像デバイスの位置関係が、前記撮像デバイスを選択可能な状態で表示され、
前記表示制御部は、前記撮像デバイスを選択するユーザ操作に基づいて、画像を切り替えて表示させる、(10)に記載の情報処理装置。
(13)
複数の撮像画像を、複数の前記撮像デバイスの位置関係に基づき並べる並べ替え部をさらに備え、
前記表示制御部は、並べられた複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させる、請求項1に記載の情報処理装置。
(14)
前記並べ替え部は、複数の前記撮像画像のうちのユーザにより指定された撮像画像を除外して、複数の前記撮像画像を並べる、(13)に記載の情報処理装置。
(15)
前記並べ替え部は、複数の前記撮像画像のうちの所定のオブジェクトが含まれない撮像画像を除外して、複数の前記撮像画像を並べる、(13)、または(14)に記載の情報処理装置。
(16)
前記所定のオブジェクトは、ユーザにより選択されたオブジェクト、または、複数の前記撮像画像から検出されるオブジェクトである、(15)に記載の情報処理装置。
(17)
前記並べ替え部は、前記撮像画像に含まれる色と前記撮像画像の解像度との一方または双方に基づいて前記撮像画像を除外して、複数の前記撮像画像を並べる、(13)〜(16)のいずれか1つに記載の情報処理装置。
(18)
複数の前記撮像デバイスは、所定の領域内、または、複数の前記撮像デバイスが同一の被写体を撮像することが可能な場所に配置される、(1)〜(17)のいずれか1つに記載の情報処理装置。
(19)
複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させるステップを有し、
前記表示させるステップでは、
前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像が補われ、
前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像が表示される、情報処理装置により実行される情報処理方法。
(20)
複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させるステップをコンピュータに実行させ、
前記表示させるステップでは、
前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像が補われ、
前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像が表示される、プログラム。
(21)
複数の撮像装置と、
複数の前記撮像装置により同時に撮像が行われることにより生成される複数の撮像画像を処理する情報処理装置と、
を有し、
前記情報処理装置は、
複数の前記撮像画像を複数の前記撮像装置の位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させる表示制御部を備え、
前記表示制御部は、
前記基準画像に対応する撮像装置と前記切替先画像に対応する撮像装置との位置関係に基づいて、選択的に1または2以上の補完画像を補い、
前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像を表示させる、情報処理システム。
10 レンズ
12 撮像素子
14 信号処理回路
100 情報処理装置
102 通信部
104 制御部
110 並べ替え部
112 表示制御部

Claims (20)

  1. 複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させる表示制御部を備え、
    前記表示制御部は、
    前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像を補い、
    前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像を表示させる、情報処理装置。
  2. 前記表示制御部は、前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの距離に基づいて、前記補完画像を選択的に補う、請求項1に記載の情報処理装置。
  3. 前記表示制御部は、画像を切り替えて表示させる場合には、前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づき設定された、画像の表示の切り替えに係る仮想的な表示の切り替え経路である仮想パスに対応する画像を、表示させる、請求項1に記載の情報処理装置。
  4. 前記表示制御部は、前記仮想パスに対応する画像を前記補完画像として補い、補われた前記補完画像を表示させる、請求項3に記載の情報処理装置。
  5. 前記補完画像として補われる前記仮想パスに対応する画像は、前記仮想パス上に位置する撮像デバイスにより撮像された撮像画像と、前記仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当するように生成された生成画像との、一方または双方である、請求項4に記載の情報処理装置。
  6. 前記表示制御部は、前記基準画像に対応する撮像デバイスの位置と前記仮想パスとに基づいて、前記基準画像に替えて、前記基準画像に対して画像処理が行われた基準画像に基づく画像を、前記仮想パスに対応する画像として選択的に表示させる、請求項3に記載の情報処理装置。
  7. 前記表示制御部は、
    前記基準画像に対応する撮像デバイスの位置が前記仮想パス上にない場合に、前記基準画像を、前記仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当する画像となるように画像処理して、前記基準画像に基づく画像を生成し、
    生成された前記基準画像に基づく画像を表示させる、請求項6に記載の情報処理装置。
  8. 前記表示制御部は、前記切替先画像に対応する撮像デバイスの位置と前記仮想パスとに基づいて、前記切替先画像に替えて、前記切替先画像に対して画像処理が行われた切替先画像に基づく画像を、前記仮想パスに対応する画像として選択的に表示させる、請求項3に記載の情報処理装置。
  9. 前記表示制御部は、
    前記切替先画像に対応する撮像デバイスの位置が前記仮想パス上にない場合に、前記切替先画像を、前記仮想パス上に位置する仮想的な撮像デバイスから撮像された撮像画像に相当する画像となるように画像処理して、前記切替先画像に基づく画像を生成し、
    生成された前記切替先画像に基づく画像を表示させる、請求項8に記載の情報処理装置。
  10. 前記表示制御部は、ユーザが画像の切り替えに関する操作を行うことが可能な操作画面を表示させ、
    前記操作画面に対するユーザ操作に基づいて、画像を切り替えて表示させる、請求項1に記載の情報処理装置。
  11. 前記操作画面には、複数の前記撮像画像が選択可能な状態で表示され、
    前記表示制御部は、前記撮像画像を選択するユーザ操作に基づいて、画像を切り替えて表示させる、請求項10に記載の情報処理装置。
  12. 前記操作画面には、複数の前記撮像画像それぞれに対応する前記撮像デバイスの位置関係が、前記撮像デバイスを選択可能な状態で表示され、
    前記表示制御部は、前記撮像デバイスを選択するユーザ操作に基づいて、画像を切り替えて表示させる、請求項10に記載の情報処理装置。
  13. 複数の撮像画像を、複数の前記撮像デバイスの位置関係に基づき並べる並べ替え部をさらに備え、
    前記表示制御部は、並べられた複数の撮像画像の並び順に従って、複数の撮像画像を表示させる、請求項1に記載の情報処理装置。
  14. 前記並べ替え部は、複数の前記撮像画像のうちのユーザにより指定された撮像画像を除外して、複数の前記撮像画像を並べる、請求項13に記載の情報処理装置。
  15. 前記並べ替え部は、複数の前記撮像画像のうちの所定のオブジェクトが含まれない撮像画像を除外して、複数の前記撮像画像を並べる、請求項13に記載の情報処理装置。
  16. 前記所定のオブジェクトは、ユーザにより選択されたオブジェクト、または、複数の前記撮像画像から検出されるオブジェクトである、請求項15に記載の情報処理装置。
  17. 前記並べ替え部は、前記撮像画像に含まれる色と前記撮像画像の解像度との一方または双方に基づいて前記撮像画像を除外して、複数の前記撮像画像を並べる、請求項1に記載の情報処理装置。
  18. 複数の前記撮像デバイスは、所定の領域内、または、複数の前記撮像デバイスが同一の被写体を撮像することが可能な場所に配置される、請求項1に記載の情報処理装置。
  19. 複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させるステップを有し、
    前記表示させるステップでは、
    前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像が補われ、
    前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像が表示される、情報処理装置により実行される情報処理方法。
  20. 複数の撮像デバイスにより同時に撮像が行われることにより生成される複数の撮像画像を、複数の前記撮像デバイスの位置関係に対応する形態で表示させ、表示された複数の前記撮像画像のうちの一の画像である基準画像から、複数の前記撮像画像のうちの他の画像であり、表示の切り替え先の画像である切替先画像へと、画像を切り替えて表示させるステップをコンピュータに実行させ、
    前記表示させるステップでは、
    前記基準画像に対応する撮像デバイスと前記切替先画像に対応する撮像デバイスとの位置関係に基づいて、選択的に1または2以上の補完画像が補われ、
    前記補完画像が補われた場合には、前記切替先画像を表示させる前に前記補完画像が表示される、プログラム。
JP2014137930A 2014-07-03 2014-07-03 情報処理装置、情報処理方法、およびプログラム Active JP6299492B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2014137930A JP6299492B2 (ja) 2014-07-03 2014-07-03 情報処理装置、情報処理方法、およびプログラム
PCT/JP2015/002846 WO2016002134A1 (en) 2014-07-03 2015-06-05 Information processing apparatus, information processing method, and program
EP15731735.5A EP3164874B1 (en) 2014-07-03 2015-06-05 Information processing apparatus, information processing method, and program
US15/320,775 US11128811B2 (en) 2014-07-03 2015-06-05 Information processing apparatus and information processing method
CN202010149644.2A CN111276169B (zh) 2014-07-03 2015-06-05 信息处理设备、信息处理方法以及程序
CN201580034849.3A CN106663455B (zh) 2014-07-03 2015-06-05 信息处理设备、信息处理方法
KR1020167036005A KR102303514B1 (ko) 2014-07-03 2015-06-05 정보 처리 장치, 정보 처리 방법 및 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014137930A JP6299492B2 (ja) 2014-07-03 2014-07-03 情報処理装置、情報処理方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2016014837A true JP2016014837A (ja) 2016-01-28
JP2016014837A5 JP2016014837A5 (ja) 2017-02-23
JP6299492B2 JP6299492B2 (ja) 2018-03-28

Family

ID=53488386

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014137930A Active JP6299492B2 (ja) 2014-07-03 2014-07-03 情報処理装置、情報処理方法、およびプログラム

Country Status (6)

Country Link
US (1) US11128811B2 (ja)
EP (1) EP3164874B1 (ja)
JP (1) JP6299492B2 (ja)
KR (1) KR102303514B1 (ja)
CN (2) CN111276169B (ja)
WO (1) WO2016002134A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018142705A1 (ja) * 2017-02-02 2019-11-21 ソニー株式会社 情報処理装置、および情報処理方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6747158B2 (ja) * 2016-08-09 2020-08-26 ソニー株式会社 マルチカメラシステム、カメラ、カメラの処理方法、確認装置および確認装置の処理方法
US10369445B2 (en) * 2016-08-10 2019-08-06 Stephen Joseph Stemle Video analytics for human performance
JP6419128B2 (ja) * 2016-10-28 2018-11-07 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法及びプログラム
WO2018147329A1 (ja) * 2017-02-10 2018-08-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 自由視点映像生成方法及び自由視点映像生成システム
JP6971624B2 (ja) * 2017-05-11 2021-11-24 キヤノン株式会社 情報処理装置、制御方法、およびプログラム
JP2019003320A (ja) * 2017-06-13 2019-01-10 キヤノン株式会社 画像生成装置、画像生成方法、及びプログラム
JP6409107B1 (ja) * 2017-09-06 2018-10-17 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
US11113887B2 (en) * 2018-01-08 2021-09-07 Verizon Patent And Licensing Inc Generating three-dimensional content from two-dimensional images
JP7229040B2 (ja) * 2019-02-15 2023-02-27 キヤノン株式会社 情報処理装置及びその制御方法、プログラム
CN112488918A (zh) * 2020-11-27 2021-03-12 叠境数字科技(上海)有限公司 基于rgb-d图像和多相机系统的图像插值方法及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162744A (ja) * 1993-12-09 1995-06-23 Oyo Keisoku Kenkyusho:Kk 動画像処理装置
EP0669758A1 (en) * 1993-09-06 1995-08-30 Kabushiki Kaisha Oh-Yoh Keisoku Kenkyusho Time-varying image processor and display device
JP2003179800A (ja) * 2001-12-13 2003-06-27 Sony Corp 多視点画像生成装置、画像処理装置、および方法、並びにコンピュータ・プログラム
JP2004064511A (ja) * 2002-07-30 2004-02-26 Suzuka Circuitland Co Ltd レース中継システム
JP2005109758A (ja) * 2003-09-29 2005-04-21 Fuji Photo Film Co Ltd 動画切替システム、動画切替方法、及びプログラム
JP2008005208A (ja) * 2006-06-22 2008-01-10 Nec Corp スポーツ競技におけるカメラ自動制御システム、カメラ自動制御方法、カメラ自動制御装置、およびプログラム
JP2009539155A (ja) * 2006-06-02 2009-11-12 イジュノシッヒ テクニッヒ ホッフシューラ チューリッヒ 動的に変化する3次元のシーンに関する3次元表現を生成するための方法およびシステム
JP2012015788A (ja) * 2010-06-30 2012-01-19 Canon Inc 映像受信装置、及びその制御方法
US20120313897A1 (en) * 2011-06-08 2012-12-13 Sony Corporation Display control device, display control method, program, and recording medium

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6522325B1 (en) * 1998-04-02 2003-02-18 Kewazinga Corp. Navigable telepresence method and system utilizing an array of cameras
JP2001290820A (ja) * 2000-01-31 2001-10-19 Mitsubishi Electric Corp 映像収集装置、映像検索装置および映像収集検索システム
FR2834416B1 (fr) 2001-12-28 2004-05-21 Thomson Licensing Sa Procede de diffusion de services audiovisuels, central de diffusion et support d'enregistrement, procede de visualisation d'emissions audiovisuelles et dispositif associes
JP3744002B2 (ja) * 2002-10-04 2006-02-08 ソニー株式会社 表示装置、撮像装置、および撮像/表示システム
WO2004040896A2 (en) * 2002-10-30 2004-05-13 Nds Limited Interactive broadcast system
JP4195991B2 (ja) * 2003-06-18 2008-12-17 パナソニック株式会社 監視映像モニタリングシステム、監視映像生成方法、および監視映像モニタリングサーバ
CA2511040A1 (en) * 2004-09-23 2006-03-23 The Governors Of The University Of Alberta Method and system for real time image rendering
JP2009290391A (ja) 2008-05-28 2009-12-10 Funai Electric Co Ltd 光ディスク装置
JP2009289348A (ja) 2008-05-30 2009-12-10 Hitachi Ltd 情報記録再生装置
KR101208427B1 (ko) * 2008-12-22 2012-12-05 한국전자통신연구원 동기화된 다중 영상 취득을 위한 다중 카메라 제어 및 영상저장 장치 및 방법
JP2012004739A (ja) 2010-06-15 2012-01-05 Sony Corp 情報処理装置、情報処理方法、及びプログラム
CN103907341B (zh) * 2011-11-07 2017-05-24 索尼电脑娱乐公司 图像生成装置和图像生成方法
JP2014096746A (ja) 2012-11-12 2014-05-22 Sony Corp 画像処理装置及び画像処理方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0669758A1 (en) * 1993-09-06 1995-08-30 Kabushiki Kaisha Oh-Yoh Keisoku Kenkyusho Time-varying image processor and display device
JPH07162744A (ja) * 1993-12-09 1995-06-23 Oyo Keisoku Kenkyusho:Kk 動画像処理装置
JP2003179800A (ja) * 2001-12-13 2003-06-27 Sony Corp 多視点画像生成装置、画像処理装置、および方法、並びにコンピュータ・プログラム
JP2004064511A (ja) * 2002-07-30 2004-02-26 Suzuka Circuitland Co Ltd レース中継システム
JP2005109758A (ja) * 2003-09-29 2005-04-21 Fuji Photo Film Co Ltd 動画切替システム、動画切替方法、及びプログラム
JP2009539155A (ja) * 2006-06-02 2009-11-12 イジュノシッヒ テクニッヒ ホッフシューラ チューリッヒ 動的に変化する3次元のシーンに関する3次元表現を生成するための方法およびシステム
JP2008005208A (ja) * 2006-06-22 2008-01-10 Nec Corp スポーツ競技におけるカメラ自動制御システム、カメラ自動制御方法、カメラ自動制御装置、およびプログラム
JP2012015788A (ja) * 2010-06-30 2012-01-19 Canon Inc 映像受信装置、及びその制御方法
US20120313897A1 (en) * 2011-06-08 2012-12-13 Sony Corporation Display control device, display control method, program, and recording medium
JP2012257021A (ja) * 2011-06-08 2012-12-27 Sony Corp 表示制御装置および方法、プログラム、並びに記録媒体

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018142705A1 (ja) * 2017-02-02 2019-11-21 ソニー株式会社 情報処理装置、および情報処理方法
JP7215173B2 (ja) 2017-02-02 2023-01-31 ソニーグループ株式会社 情報処理装置、および情報処理方法

Also Published As

Publication number Publication date
CN106663455A (zh) 2017-05-10
WO2016002134A1 (en) 2016-01-07
KR102303514B1 (ko) 2021-09-16
CN106663455B (zh) 2020-04-07
CN111276169B (zh) 2021-10-22
JP6299492B2 (ja) 2018-03-28
EP3164874A1 (en) 2017-05-10
EP3164874B1 (en) 2020-02-19
US20170142341A1 (en) 2017-05-18
KR20170026376A (ko) 2017-03-08
US11128811B2 (en) 2021-09-21
CN111276169A (zh) 2020-06-12

Similar Documents

Publication Publication Date Title
JP6299492B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN105744180B (zh) 图像生成装置、电子设备及图像生成方法
US9704028B2 (en) Image processing apparatus and program
JP6787394B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6622650B2 (ja) 情報処理装置及びその制御方法、撮影システム
US20130202158A1 (en) Image processing device, image processing method, program and recording medium
US10115431B2 (en) Image processing device and image processing method
JP2011139282A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
CN107205112B (zh) 摄像装置、摄像方法以及记录介质
JP2012095258A (ja) 情報処理装置および情報処理方法
US20130201366A1 (en) Image processing apparatus, image processing method, and program
JP6547739B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2014123908A (ja) 画像処理装置、画像切り出し方法、及びプログラム
US10715732B2 (en) Transmission apparatus, setting apparatus, transmission method, reception method, and storage medium
JP6369461B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5929535B2 (ja) エフェクト制御装置、エフェクト制御方法、およびプログラム
CN110226324B (zh) 信息处理设备和信息处理方法
JP2017084161A (ja) 画像処理装置、表示装置及びその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180212

R151 Written notification of patent or utility model registration

Ref document number: 6299492

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151