JP6328255B2 - マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体 - Google Patents

マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体 Download PDF

Info

Publication number
JP6328255B2
JP6328255B2 JP2016547741A JP2016547741A JP6328255B2 JP 6328255 B2 JP6328255 B2 JP 6328255B2 JP 2016547741 A JP2016547741 A JP 2016547741A JP 2016547741 A JP2016547741 A JP 2016547741A JP 6328255 B2 JP6328255 B2 JP 6328255B2
Authority
JP
Japan
Prior art keywords
imaging device
image
pan
imaging
live view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016547741A
Other languages
English (en)
Other versions
JPWO2016038976A1 (ja
Inventor
林 大輔
大輔 林
宗之 大島
宗之 大島
三沢 岳志
岳志 三沢
田丸 雅也
雅也 田丸
史憲 入江
史憲 入江
渡辺 幹夫
幹夫 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2016038976A1 publication Critical patent/JPWO2016038976A1/ja
Application granted granted Critical
Publication of JP6328255B2 publication Critical patent/JP6328255B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G03B37/02Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with scanning movement of lens or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体に関し、特に内部撮像装置及び外部撮像装置を使用するマルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体に関する。
従来より、有線又は無線により接続された複数のカメラを統括して制御することにより、所望の画像や動画を取得する技術が考えられてきた。例えば、複数の監視カメラが捉えた各画像又は動画を一つの表示装置に同時に表示し、複数の視点の画像を同時に見ることができる技術がある。
また、スマートフォンやタブレット(以下、単にスマートフォンという)を用いて撮像装置を制御する技術が考えられている。例えば、特許文献1には、スマートフォンとカメラ(撮像装置)とが無線で接続され、スマートフォンの表示部にカメラで取得された画像を表示させ、さらにスマートフォンからカメラに指示を送信する技術が開示されている。
特開2013−93843号公報
しかしながら、スマートフォンに複数の外部撮像装置を無線で接続する場合には、無線接続される外部撮像装置を複数台準備しなければならず、さらに、スマートフォンと複数の外部撮像装置が無線接続されると全体の無線通信量が増えて無線通信自体が不安定になる場合がある。
上述の特許文献1には、スマートフォンに接続される撮像装置の台数が増加することに伴い無線通信が不安定になり且つ各無線接続に割り当てられる通信量が減少することに関しては言及されておらず、対応策も記載されていない。
本発明はこのような事情に鑑みてなされたもので、その目的は、スマートフォンに内蔵された撮像装置を有効利用することができ、且つスマートフォンと撮像装置との無線接続の通信量を少なくすることができるマルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体を提供することである。
本発明の一の態様であるマルチ撮像装置は、表示部と、第1のライブビュー画像又は本撮像された第1の画像を取得する内部撮像装置と、第2のライブビュー画像又は本撮像された第2の画像を取得する外部撮像装置との間で無線通信を行う無線通信部と、表示部、内部撮像装置及び無線通信部に接続される制御部と、を備え、制御部は、内部撮像装置から第1のライブビュー画像が入力され、外部撮像装置から無線通信部を介して第2のライブビュー画像を受信し、入力された第1のライブビュー画像と受信した第2のライブビュー画像とを表示部にマルチライブビュー表示させる。
本態様によれば、マルチ撮像装置の内部撮像装置とマルチ撮像装置に無線接続された外部撮像装置とによりマルチ撮像が行われるので、マルチ撮像装置の内部撮像装置を有効利用することができ且つマルチ撮像装置と外部撮像装置との無線通信量を抑えることができる。
好ましくは、マルチ撮像装置は更に記憶部を備え、制御部は、内部撮像装置及び外部撮像装置により本撮像された第1の画像と第2の画像とをそれぞれ取得し、マルチライブビュー表示されたライブビュー画像と同様の形態で取得した第1の画像と第2の画像とを合成し、合成した画像を記憶部に保存する。
本態様によれば、マルチライブビュー表示されたライブビュー画像と同様の形態で、本撮像された第1の画像と第2の画像とが合成されて記憶部に保存されるので、ライブビュー画像と同様のマルチ画像が記憶される。
好ましくは、外部撮像装置は、機械的なパン・チルト機構、又は第2の画像のうち特定領域のみ表示してパン・チルト制御を行う電子的なパン・チルト機構を有する。
本態様によれば、外部撮像装置が機械的なパン・チルト機構又は電子的なパン・チルト機構を有する。これにより、本態様は、外部撮像装置が機械的なパン・チルト機構を有する場合にはより広い範囲を撮像することができ、外部撮像装置が電子的なパン・チルト機構を有する場合にはパン操作及びチルト操作により所望の画像を切り出して表示することができる。
好ましくは、制御部は、表示部に表示された内部撮像装置が捉えた被写体を特定する被写体特定情報を取得し、被写体特定情報に基づいて、内部撮像装置で捉えた被写体を外部撮像装置でも捉えるように外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を外部撮像装置に送信する。
本態様によれば、内部撮像装置が捉えた被写体を特定する被写体特定情報に基づいて、外部撮像装置のパン・チルト機構が被写体を捉えるように制御されるので、外部撮像装置は内部撮像装置と同じ被写体を捉えることができる。
好ましくは、制御部は、内部撮像装置及び外部撮像装置の位置情報を取得し、内部撮像装置及び外部撮像装置の姿勢情報を取得し、位置情報及び姿勢情報に基づいて、内部撮像装置で捉えた被写体を外部撮像装置でも捉えるように外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を外部撮像装置に送信する。
本態様によれば、位置情報及び姿勢情報に基づいて、外部撮像装置のパン・チルト機構が被写体を捉えるように制御されるので、外部撮像装置は内部撮像装置と同じ被写体を捉えることができる。
好ましくは、制御部は、内部撮像装置と被写体との距離情報を取得し、位置情報、姿勢情報、及び距離情報に基づいて、内部撮像装置で捉えた被写体を外部撮像装置でも捉えるように外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を外部撮像装置に送信する。
本態様によれば、位置情報、姿勢情報、及び距離情報に基づいて、外部撮像装置のパン・チルト機構が被写体を捉えるように制御されるので、外部撮像装置は内部撮像装置と同じ被写体を捉えることができる。
好ましくは、制御部は、マルチ撮像装置の姿勢情報を取得し、姿勢情報に連動して、外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を外部撮像装置に送信する。
本態様によれば、マルチ撮像装置の姿勢情報に連動して外部撮像装置のパン・チルト機構が制御されるので、外部撮像装置のパン・チルト機構をマルチ撮像装置により直感的に制御することができる。
好ましくは、マルチ撮像装置は本撮像を指示する操作部を更に備え、制御部は、操作部により本撮像が指示されると、外部撮像装置による本撮像を指示する撮像指示を外部撮像装置に送信する。
本態様によれば、マルチ撮像装置が有する操作部により外部撮像装置の本撮像が指示されるので、マルチ撮像装置により外部撮像装置の本撮像を制御することができる。
好ましくは、制御部は、操作部から本撮像が指示されると内部撮像装置及び外部撮像装置が同期して本撮像を行わせる。
本態様によれば、外部撮像装置への本撮像の指示の送信と同期して内部撮像装置による本撮像が指示され、内部撮像装置及び外部撮像装置による本撮像が同時に行われるので、同じタイミングで本撮像された画像を取得することができる。
好ましくは、内部撮像装置は、第1の撮像部及び第2の撮像部を含み、制御部は、第1の撮像部及び第2の撮像部の両方又は一方から、第1のライブビュー画像又は第1の画像を取得する。
本態様によれば、内部撮像装置は第1の撮像部及び第2の撮像部を含むので、内部撮像装置は異なる視点の画像を取得することができる。
好ましくは、外部撮像装置は、機械的なパン・チルト機構、又は第2の画像のうち特定領域のみ表示してパン・チルト制御を行う電子的なパン・チルト機構を有し、制御部は、第1の撮像部による撮像及び第2の撮像部による撮像の切り替えが行われた場合に、外部撮像装置に、パン・チルト機構の駆動による自動追尾を指示する自動追尾指示を外部撮像装置に送信する。
本態様によれば、第1の撮像部と第2の撮像部との切り替えに応じて、外部撮像部のパン・チルト機構に自動追尾を行わすことができる。これにより、マルチ撮像装置の第1の撮像部と第2の撮像部との切り替えを行うことで、外部撮像部の自動追尾の開始をマルチ撮像装置で制御することができる。
本発明の他の態様である撮像装置は、上述のマルチ撮像装置に第2のライブビュー画像又は第2の画像を送信する。
本発明の他の態様であるマルチ撮像方法は、第1のライブビュー画像又は本撮像された第1の画像を取得する内部撮像ステップと、第2のライブビュー画像又は本撮像された第2の画像を取得した外部撮像装置から無線通信により第2のライブビュー画像又は第2の画像を取得する外部撮像ステップと、を含むマルチ撮像方法であって、内部撮像ステップでは第1のライブビュー画像が入力され、外部撮像ステップでは第2のライブビュー画像が受信され、更に、第1のライブビュー画像と第2のライブビュー画像とをマルチライブビュー表示させる表示ステップと、を含む。
好ましくは、マルチ撮像方法は、内部撮像ステップ及び外部撮像ステップにより本撮像された第1の画像と第2の画像とをそれぞれ取得し、マルチライブビュー表示されたライブビュー画像と同様の形態で取得した第1の画像と第2の画像とを合成するステップと、合成した画像を保存するステップと、を更に含む。
好ましくは、外部撮像ステップは、機械的なパン・チルト機構、又は第2の画像のうち特定領域のみ表示してパン・チルト制御を行う電子的なパン・チルト機構を有する外部撮像装置により撮像された第2のライブビュー画像又は第2の画像を取得する。
好ましくは、マルチ撮像方法は、内部撮像ステップで捉えた被写体を特定する被写体特定情報を取得するステップと、被写体特定情報に基づいて、内部撮像ステップで捉えた被写体を外部撮像装置でも捉えるように外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を、外部撮像装置に送信するステップと、を含む。
好ましくは、マルチ撮像方法は、内部撮像ステップが行われる内部撮像装置及び外部撮像装置の位置情報を取得するステップと、内部撮像装置及び外部撮像装置の姿勢情報を取得するステップと、位置情報及び姿勢情報に基づいて、内部撮像装置で捉えた被写体を外部撮像ステップでも捉えるように外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を、外部撮像装置に送信するステップと、を含む。
好ましくは、マルチ撮像方法は、内部撮像装置と被写体との距離情報を取得するステップと、位置情報、姿勢情報、及び距離情報に基づいて、内部撮像装置で捉えた被写体を外部撮像ステップでも捉えるように外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を、外部撮像装置に送信するステップと、を含む。
好ましくは、マルチ撮像方法は、マルチ撮像装置の姿勢情報を取得するステップと、マルチ撮像装置の姿勢情報に基づいて、外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を外部撮像装置に送信するステップと、を含む。
本発明の他の態様であるプログラムは、第1のライブビュー画像又は本撮像された第1の画像を取得する内部撮像ステップと、第2のライブビュー画像又は本撮像された第2の画像を取得した外部撮像装置から無線通信により第2のライブビュー画像又は第2の画像を取得する外部撮像ステップと、を含むマルチ撮像方法であって、内部撮像ステップでは第1のライブビュー画像が入力され、外部撮像ステップでは第2のライブビュー画像が受信され、更に、第1のライブビュー画像と第2のライブビュー画像とをマルチライブビュー表示させる表示ステップと、を含むマルチ撮像方法をコンピュータに実行させる。
本発明の他の態様である非一時的記録媒体は、上述のプログラムのコンピュータで読み取り可能なコードが記録されている。
具体的な「非一時的記録媒体」としてはROM(Read Only Memory)やEEPROM(Electrically Erasable and Programmable Read-Only Memory)の他、ハードディスクドライブやコンパクト・ディスク、DVD(Digital Versatile Disc)等の各種光磁気記録媒体、SSD(Solid State Drive)等の半導体メモリ等、各種の非一時的記録媒体を用いることができる。
本発明によれば、マルチ撮像装置の内部撮像装置とマルチ撮像装置に無線接続された外部撮像装置とによりマルチ撮像が行われるので、マルチ撮像装置の内部撮像装置を有効利用することができ、且つマルチ撮像装置と外部撮像との無線通信量を抑えることができるマルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体を提供することができる。
図1は、マルチ撮像装置及び外部撮像装置の外観を示す斜視図である。 図2は、外部撮像装置の内部構成の例を示すブロック図である。 図3は、マルチ撮像装置の内部構成の例を示すブロック図である。 図4は、マルチ撮像装置の表示画面の表示例を示す図である。 図5は、マルチ撮像装置の表示画面のレイアウトを示す概念図である。 図6は、レイアウトにおける画像位置の組み合わせに関して説明する図である。 図7は、ライブビュー画像を3つ表示した場合の図である。 図8は、ライブビュー画像の切り替えを説明する図である。 図9は、第1の撮像部で撮像されたライブビュー画像に関して説明する図である。 図10は、第2の撮像部で撮像されたライブビュー画像に関して説明する図である。 図11は、マルチ撮像装置の動作フロー図である。 図12は、パン・チルトカメラがマルチ撮像装置に無線で接続されていることを示す概念図である。 図13は、パン・チルトカメラの内部構成例を示すブロック図である。 図14は、パン・チルトカメラを使用例1で使用する場合のマルチ撮像装置の動作フロー図である。 図15は、パン・チルトカメラを使用例2で使用する場合のマルチ撮像装置の動作フロー図である。 図16は、パン・チルトカメラを使用例2で使用する場合のマルチ撮像装置の動作フロー図である。 図17は、電子的なパン・チルト機構を有する撮像装置の内部構成を示すブロック図である。 図18は、電子的なパン・チルト機構のパン動作及びチルト動作に関して説明する図である。
以下、添付図面に従って本発明に係るマルチ撮像装置、マルチ撮像方法、及びプログラムの実施の形態について説明する。
<第1の実施形態>
先ず、本発明の第1の実施形態に関して説明する。本実施形態では、外部撮像装置10として通常のカメラが使用される(図1を参照)。
(マルチ撮像装置及び外部撮像装置の外観)
図1は、本発明に係るマルチ撮像装置100(以下、スマートフォンとも言う)及び外部撮像装置10の外観を示す斜視図である。ここで、スマートフォン100は外部撮像装置10と無線により接続され、スマートフォン100は無線通信を介して外部撮像装置10が撮像した画像を取得し且つ外部撮像装置10を制御する指示を送信する。なお本願におけるマルチ撮像装置とは、その表示部に第1のライブビュー画像と第2のライブビュー画像とのマルチビュー表示を行うことができる撮像装置のことをいう。
外部撮像装置10は、スマートフォン100と無線通信が可能なカメラ側無線通信部50(図2)を有していればよく、様々な撮像装置が外部撮像装置10として使用される。例えば、外部撮像装置10として、デジタル一眼レフカメラ、ミラーレスデジタルカメラ、コンパクトデジタルカメラ、又はスマートフォンが使用される。
(撮像装置の内部構成)
図2は、外部撮像装置10の内部構成の例を示すブロック図である。
この外部撮像装置10は、静止画及び動画の撮像も行うことができ、主に、カメラ側撮像部20と、カメラ側制御部40と、カメラ側無線通信部50とを備えている。
カメラ側撮像部20は、撮像レンズ22及び撮像素子(図2ではCMOSと表記)24等を有している。撮像レンズ22は、単焦点レンズ又はズームレンズであり、被写体像を撮像素子24の撮像面上に結像させる。なお、撮像レンズ22に含まれるフォーカスレンズ、変倍レンズ(ズームレンズの場合)及び絞り23は、それぞれレンズ駆動部26により駆動される。
本例の撮像素子24は、画素毎に赤(R)、緑(G)、青(B)の3原色の原色フィルタが所定のパターンで配列(ベイヤ配列、GストライプR/B完全市松、X−Trans(登録商標)配列、又はハニカム配列)されたカラー撮像素子であり、CMOS(Complementary Metal Oxide Semiconductor)型イメージセンサにより構成されている。なお、CMOS型イメージセンサに限らず、CCD(Charge Coupled Device)型イメージセンサでもよい。
撮像素子24は、垂直ドライバ及び水平ドライバ等を有するCMOSドライバ28、及びタイミングジェネレータ(図2中ではTGと表記)29により駆動される。撮像素子24からは、被写体光の入射光量に応じた画素信号(画素毎に蓄積された信号電荷に対応するデジタル信号)が読み出される。
カメラ側制御部40は、主として信号処理部41、撮像制御部42、レンズ制御部43、及びカメラワーク制御部46を備えている。
信号処理部41は、カメラ側撮像部20から入力されるデジタルの画像信号に対して、オフセット処理、ホワイトバランス補正、及び感度補正を含むゲインコントロール処理、ガンマ補正処理、デモザイク処理(デモザイキング処理)、及びRGB/YC変換処理等の信号処理を行う。ここで、デモザイク処理とは、単板式のカラー撮像素子のカラーフィルタ配列に対応したモザイク画像から画素毎に全ての色情報を算出する処理であり、同時化処理ともいう。例えば、RGBの3色のカラーフィルタからなる撮像素子の場合、RGBからなるモザイク画像から画素毎にRGB全ての色情報を算出する処理である。また、RGB/YC変換処理は、デモザイク処理されたRGB画像データから輝度データYと、色差データCb,Crとを生成する処理である。
撮像制御部42は、CMOSドライバ28及びTG29を介して撮像素子24の画素毎のキャパシタに蓄積された電荷の排出又はキャパシタに蓄積された電荷に対応する信号の読出し等を指令する部分であり、撮像制御を行う。
レンズ制御部43は、レンズ駆動部26を介して撮像レンズ22に含まれるフォーカスレンズ、変倍レンズ、及び絞り23を制御する部分であり、フォーカスレンズを合焦位置に移動させるオートフォーカス(AF)制御等を行う。AF制御は、AFエリアに対応するデジタル信号の高周波成分の絶対値を積算し、この積算した値(AF評価値)が最大となる合焦位置を検出し、検出した合焦位置にフォーカスレンズを移動させることにより行う。
カメラワーク制御部46は、信号処理部41、撮像制御部42、及びレンズ制御部43を制御する指令信号を出力する。
カメラ側無線通信部50は、図1に示したスマートフォン100等の外部の端末機との間で無線通信を行う部分であり、無線通信を介してスマートフォン100から各種の操作用の指示を受信する。また、カメラ側無線通信部50は、記録用の画像等をスマートフォン100に送信し、更にカメラ側撮像部20により動画撮像され、信号処理部41により処理された画像(ライブビュー画像)をスマートフォン100に送信することができる。これにより、動画等の記録用の画像をスマートフォン100の内部又は外付け記録媒体に記録したり、ライブビュー画像をスマートフォン100の表示入力部120(図1)の表示パネル121に表示させることができる。
カメラ側操作部60は、外部撮像装置10に設けられた撮像開始ボタン及び電源ボタン等を含み、スマートフォン100からの操作用の指示の入力と同様の操作用の指示の入力を行うことができる。
カメラ側表示部61は、ライブビュー画像、再生画像等を表示する画像表示部として機能するとともに、カメラ側操作部60と協働してメニュー画面の表示、各種のパラメータを設定又は入力するためのユーザインターフェース部(UI部)として機能する。
メモリ62は、静止画や動画が一時的に格納される記憶領域、各種の演算処理等を行う作業用領域となるSDRAM(Synchronous Dynamic Random Access Memory)、及び撮像用のプログラム及び制御に必要な各種データ等が格納されるROM(Read Only Memory)を含む。
(マルチ撮像装置の内部構成)
図3は、図1に示したマルチ撮像装置(スマートフォン)100の内部構成の例を示すブロック図である。
図3に示すように、スマートフォン100の主たる構成要素として、無線通信部110、表示入力部120、通話部130、操作部139、内部撮像装置140、記憶部150、外部入出力部160、GPS(Global Positioning System)受信部170、モーションセンサ部180、電源部190、及び制御部101を備える。また、スマートフォン100の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部110は、制御部101の指示に従って、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。本例では、スマートフォン100の無線通信部110は、外部撮像装置10に各種の操作用の指示を送信したり、外部撮像装置10からライブビュー画像、本撮像された画像等を受信する。なお、無線通信部110は、複数の外部撮像装置10との無線通信が可能であるが、接続される外部撮像装置10の数が多くなると各外部撮像装置10との無線通信の通信量が減少する場合がある。
表示入力部120は、制御部101の制御により、画像(静止画及び動画)や文字情報などを表示して視覚的にユーザに情報を伝達すると共に、表示した情報に対するユーザ操作を検出する。表示入力部(表示部)120は、表示パネル121と、操作パネル122とを備える。3D画像を鑑賞する場合には、表示パネル121は、3D表示パネルであることが好ましい。
表示パネル121は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。
操作パネル122は、表示パネル121の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を制御部101に出力する。次いで、制御部101は、受信した検出信号に基づいて、表示パネル121上の操作位置(座標)を検出する。
図1に示すように、スマートフォン100の表示パネル121と操作パネル122とは一体となって表示入力部120を構成しているが、操作パネル122が表示パネル121を完全に覆うような配置となっている。この配置を採用した場合、操作パネル122は、表示パネル121の外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル122は、表示パネル121に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル121に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル121の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要はない。また、操作パネル122が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体102の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル122で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部130は、スピーカ131やマイクロホン132を備え、マイクロホン132を通じて入力されたユーザの音声を制御部101にて処理可能な音声データに変換して制御部101に出力したり、無線通信部110あるいは外部入出力部160により受信された音声データを復号してスピーカ131から出力するものである。また、図1に示すように、例えば、スピーカ131及びマイクロホン132を表示入力部120が設けられた面と同じ面に搭載することができる。
操作部139は、キースイッチ等を用いたハードウェアキーであってもよい。また、表示入力部120に表示されたスイッチであってもよく、ユーザからの指示を受け付けるものである。例えば、操作部139は、外部撮像装置10の本撮像を制御部101を介して指示することができる。なお、操作部139は、例えば、スマートフォン100の筐体102の表示入力部120の下部、下側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部150は、制御部101の制御プログラムや制御データ、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータ、又はダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部150は、スマートフォン内蔵の内部記憶部151と着脱自在な外部メモリスロットを有する外部記憶部152により構成される。なお、記憶部150を構成するそれぞれの内部記憶部151と外部記憶部152は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimediacard micro type)、カードタイプのメモリ(例えば、Micro SD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
また、記憶部150には、スマートフォン100の表示入力部120にマルチライブビュー表示されるライブビュー画像と同様の形態で第1の画像と第2の画像とが合成され保存される。また、記憶部150には、内部撮像装置140により本撮像された第1の画像及び外部撮像装置10により本撮像された第2の画像が記憶されてもよい。
外部入出力部160は、スマートフォン100に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン100に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、イヤホンなどがある。外部入出力部160は、このような外部機器から伝送を受けたデータをスマートフォン100の内部の各構成要素に伝達することや、スマートフォン100の内部のデータが外部機器に伝送される。
GPS受信部170は、制御部101の指示に従って、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン100の緯度、経度、及び高度からなる位置を検出する。GPS受信部170は、無線通信部110や外部入出力部160(例えば、無線LAN)から位置情報を取得できるときには、その位置情報を用いて位置を検出することもできる。
モーションセンサ部180は、例えば3軸の加速度センサなどを備え、制御部101の指示に従って、スマートフォン100の物理的な動きを検出する。スマートフォン100の物理的な動きを検出することにより、スマートフォン100の動く方向や加速度が検出される。この検出結果は、制御部101に出力されるものである。また、モーションセンサ部180により、スマートフォン100の姿勢が検出されスマートフォン100の第1の撮像部や第2の撮像部の光軸の方向が検出される。
電源部190は、制御部101の指示に従って、スマートフォン100の各部にバッテリ(図示せず)に蓄えられる電力を供給するものである。
制御部101は、マイクロプロセッサを備え、記憶部150が記憶する制御プログラムや制御データに従って動作し、スマートフォン100の各部を統括して制御するものである。また、制御部101は、無線通信部110を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部150が記憶するアプリケーションソフトウェアに従って制御部101が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部160を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、制御部101は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画や動画のデータ)に基づいて、映像を表示入力部120に表示する等の画像処理機能を備える。画像処理機能とは、制御部101が、画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部120に表示する機能のことをいう。例えば、制御部101は、内部撮像装置140から第1のライブビュー画像が入力され、外部撮像装置10から無線通信部110を介して第2のライブビュー画像を受信し、そして、入力された第1のライブビュー画像と受信した第2のライブビュー画像とを表示入力部120にマルチライブビュー表示させる。
さらに、制御部101は、表示パネル121に対する表示制御と、操作部139、操作パネル122を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、制御部101は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示し、あるいは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル121の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、制御部101は、操作部139又は操作パネル122を通じたユーザ操作を検出する操作検出制御を実行する。
操作検出制御の実行により、制御部101は、操作部139を通じたユーザ操作を検出したり、操作パネル122を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。例えば、制御部101は、操作部139により本撮像が指示されると、外部撮像装置10による本撮像を指示する撮像指示を無線通信部110を介して外部撮像装置10に送信する。また、制御部101は、操作部139から本撮像が指示されると外部撮像装置10への本撮像の指示の送信と同期して、内部撮像装置140による本撮像を指示する撮像指示を内部撮像装置140に出力し、内部撮像装置140及び外部撮像装置10による本撮像を同時に行わせることができる。
更に、制御部101は、操作検出制御の実行により、操作パネル122に対する操作位置が、表示パネル121に重なる重畳部分(表示領域)かそれ以外の表示パネル121に重ならない外縁部分(非表示領域)かを判定し、且つ、操作パネル122の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、制御部101は、操作パネル122に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
内部撮像装置140はCMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などの撮像素子を用いて電子撮影(撮像)するデジタルカメラである。また、内部撮像装置140は、第1の撮像部141及び第2の撮像部142を有する。なお、内部撮像装置140が有する撮像部の数は特に限定されるものではない。またここで、第1の撮像部141及び第2の撮像部142とは、少なくとも撮影レンズや撮像素子を含む撮像ユニットのことである。
また、内部撮像装置140は、制御部101の制御により、撮像によって得た画像データを、例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力することができる。
図1に示すスマートフォン100において、内部撮像装置140の第1の撮像部141は表示入力部120と同じ面に設置されている。また、内部撮像装置140の第2の撮像部142は表示入力部120の背面に搭載されている。なお、図1においては表示入力部120の背面に搭載されている第2の撮像部142は図示が省力されている。また、複数の内部撮像装置140が搭載されている場合には、撮像に供する内部撮像装置140を切り替えて単独にて撮像したり、あるいは、複数の内部撮像装置140を同時に使用して撮像することもできる。そして、制御部101は、第1の撮像部141及び第2の撮像部142の両方又は一方から、第1のライブビュー画像又は第1の画像を取得することができる。
また、内部撮像装置140はスマートフォン100の各種機能に利用することができる。例えば、表示パネル121に内部撮像装置140で取得したライブビュー画像(第1のライブビュー画像)や本撮像された画像(第1の画像)を表示することや、操作パネル122の操作入力のひとつとして、内部撮像装置140の画像を利用することができる。また、GPS受信部170が位置を検出する際に、内部撮像装置140からの画像を参照して位置を検出することもできる。更には、内部撮像装置140からの画像を参照して、3軸の加速度センサを用いずに、あるいは、3軸の加速度センサと併用して、スマートフォン100の内部撮像装置140の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、内部撮像装置140からの画像をアプリケーションソフトウェア内で利用することもできる。
本例では、ネットワーク等を介して外部撮像装置10を操作するためのアプリケーションソフトウェアをダウンロードして記憶部150に記憶させ、スマートフォン100のアプリケーション処理機能により、ダウンロードしたアプリケーションソフトウェアに従って制御部101を動作させることにより、汎用のスマートフォン100を、外部撮像装置10を操作するためのユーザインターフェース部(UI部)として機能させるようにしている。
(スマートフォンの表示画面)
図4は、マルチ撮像装置(スマートフォン)100の表示入力部120の表示パネル121での表示例を示す図である。
スマートフォン100は表示パネル121と操作パネル122とからなる表示入力部120を有しており(図3参照)、表示パネル121のパネル面が表示画面である。
図4に示すように表示パネル121には、ライブビュー画像が表示される表示領域121A、ライブビューのレイアウトを示すアイコンボタンが表示される表示領域121B、及びライブビューを撮像する複数のカメラの台数を設定するアップダウンコントロールを含むダイアログボックスが表示される表示領域121Cが設けられている。また、表示パネル121には、上下左右の方向キーとセンタキーを示すアイコンからなるマルチファンクションの十字キー124と、撮像開始を指示する撮像開始ボタン(アイコンボタン)125と、静止画又は動画の撮像を選択する選択ボタン(アイコンボタン)126とが表示される。
制御部101は、内部撮像装置140から取得した第1のライブビュー画像又は本撮像された第1の画像と、外部撮像装置10から無線通信を介して取得した第2のライブビュー画像又は本撮像された第2の画像とを表示入力部120の表示パネル121の表示領域121Aに表示させる。
このとき、制御部101は、表示領域121Bに表示されているレイアウトを示すアイコンボタンにより選択されたレイアウトにしたがって、ライブビュー画像を表示パネル121の表示領域121Aに表示させる。図4に示す例では、4つのレイアウトを示すアイコンボタンのうちの図4に向かって左から2番目のアイコンボタン(太枠で表示されたアイコンボタン)が操作され、左から2番目のアイコンボタンが示すレイアウトが選択されているため、制御部101は、左から2番目のアイコンボタンが示すレイアウトにしたがって、2つのライブビュー画像を表示パネル121の表示領域121Aに表示させる。
表示パネル121の表示領域121Cに表示されるダイアログボックス内の数字を、アップダウンコントロールにより増減することにより、撮像に使用するカメラの台数を選択することができ、また、選択されたカメラの台数により、表示領域121Bに表示されているレイアウトを示すアイコンボタンも変化する。なお、カメラの台数と、台数に対応した画像のレイアウトの詳細については後述する。
また、表示パネル121の表示領域121Aに表示されているライブビュー画像のいずれか1つがタッチ操作されると、タッチ操作されたライブビュー画像の枠が強調表示(太枠表示)され、太枠で表示されたライブビュー画像を送信しているカメラを、個別に遠隔操作することができる。
撮像開始ボタン125は操作部139の一形態であり、図1に示すようにスマートフォン100のハードウェアとしてのボタンであってもよいが、図4に示すように表示画面上に表示された撮像開始ボタン125を使用してもよい。
また、制御部101は、内部撮像装置140で本撮像された第1の画像と外部撮像装置10で本撮像された第2の画像とを設定されたレイアウト及び画像位置に沿って合成したマルチビュー画像を生成及び取得する。さらに、制御部101は、生成及び取得したマルチビュー画像を記憶部150に保存させる。
次に、カメラの台数に応じたレイアウトの種類について説明する。
図5は、カメラ台数が3台、2台、及び1台の場合にそれぞれ選択可能なレイアウトを示す図である。
図5の(a)部に示すようにカメラ台数が2の場合には、4つのレイアウト(1)〜(4)の中から1つのレイアウトを選択することができる。なお、図4の表示パネル121の表示領域121Bに表示されているレイアウトを示すアイコンボタンは、図5の(a)部に示した4つのレイアウト(1)〜(4)を示しており、レイアウト(2)が選択されている場合に関して示している。
図5の(a)部に示した4つのレイアウトのうちのレイアウト(1)は、それぞれ縦長にトリミングされた2つの画像を横方向に並べたレイアウトである。レイアウト(2)は、縦長にトリミングされた1つの画像を、表示領域121Bの左側の画像位置に配置し、トリミングしていない1つ画像を、表示領域121Bの右側の画像位置に配置したレイアウトであり、レイアウト(3)は、レイアウト(2)とは左右の画像位置が逆転したレイアウトであり、レイアウト(4)は、それぞれ横長にトリミングされた2つの画像を縦方向に並べたレイアウトである。
図5の(b)部に示すようにカメラ台数が3の場合には、5つのレイアウト(1)〜(5)の中から1つのレイアウトを選択することができる。
図5の(b)部に示した5つのレイアウトのうちのレイアウト(1)は、レイアウト(2)とは上下の画像位置が逆転したレイアウトであり、レイアウト(3)は、それぞれ縦長にトリミングされた3つの画像を横方向に並べたレイアウトである。レイアウト(4)は、縦長にトリミングされた1つの画像を、表示領域121Bの左側の画像位置に配置し、横長にトリミングされた2つの画像を、表示領域121Bの右側の上下の画像位置に配置したレイアウトである。レイアウト(5)は、レイアウト(4)の配置が左右反転されているものである。
図5の(c)部に示すようにカメラ台数が1の場合には、1つの画像全体を表示する1つのレイアウト(1)のみが選択(自動的に設定)される。
このようにカメラ台数が特定され、レイアウトを示す番号が特定されると、1又は複数の画像のレイアウトを特定することができる。なお、レイアウトを示す番号を、カメラ台数にかかわらず、通し番号にすることより、レイアウトを示す番号から1又は複数の画像のレイアウトを特定することができる。
また、記憶部150には、上述したレイアウトの形態で表示されたライビュー画像と同様の形態で本撮像された第1の画像及び本撮像された第2の画像と合成されて記憶される。なお、具体的な合成方法に関しては公知の方法が使用されるため説明は省略する。
次に、選択されたレイアウトに表示する1又は複数のライブビュー画像の画像位置を設定方法について説明する。
図7は、表示パネル121の表示領域121Aにライブビュー画像を3つ表示した場合の拡大図である。
図7の(a)部に示すように表示パネル121の表示領域121Aには、選択されたレイアウト(本例では、図5の(b)部に示したレイアウト(2))にしたがって3つのライブビュー画像LV1,LV2,LV3が表示されている。
ここで、ライブビュー画像LV1は内部撮像装置140から取得したものであり、ライブビュー画像LV2及びLV3は外部撮像装置10から受信したものとする。
このレイアウトにしたがって表示されるライブビュー画像LV1,LV2,LV3の各画像のうち、ライブビュー画像LV1の画像は、撮像された1画像の上下の領域を切り取るトリミングが行われ、横長のアスペクト比を有する画像とされ、表示領域121Aの上半分の領域(画像位置)に表示されている。
また、ライブビュー画像LV2、LV3の画像は、それぞれトリミングされずに表示領域121Aの下半分の左右の領域(画像位置)に表示されている。
なお、ライブビュー画像の1画像から横長又は縦長のアスペクト比を有する画像を切り出すトリミング処理は、通常は1画像の中央部を切り出すが、1画像全体を表示した状態で横長又は縦長のアスペクト比を有するトリミング枠を表示し、このトリミング枠をタッチして移動させることにより、1画像全体から任意の位置のトリミングした画像を切り出すことができる。
図7の(a)部において、レイアウト内のライブビュー画像LV1とLV2の画像位置を入れ替える場合には、ライブビュー画像LV2にタッチし、ライブビュー画像LV2をライブビュー画像LV1の画像位置に移動させるスワイプ操作を行う。このスワイプ操作により、図7の(b)部に示すようにライブビュー画像LV1とLV2の画像位置を入れ替えることができる。
なお、上記の画像位置の移動に伴い、ライブビュー画像LV1はトリミングされない画像となり、ライブビュー画像LV2は横長にトリミングされた画像になる。また、ライブビュー画像LV1にタッチし、ライブビュー画像LV1をライブビュー画像LV2の画像位置に移動させるスワイプ操作を行うことにより、上記と同様にライブビュー画像LV1とLV2の画像位置を入れ替えることができる。
上記のレイアウト内でライブビュー画像LV1〜LV3の3つの画像の画像位置を入れ替えた場合に得られる画像位置の組み合わせは、図6に示すように6通り存在する。以下、6通り組合せのうちのいずれか1つを、画像位置(1)〜(6)の数字により特定するものとする。
カメラ台数が3の場合は、いずれのレイアウトが選択されても、3つの画像の画像位置の組み合わせは6通り存在する。なお、カメラ台数が2の場合には、2つの画像の画像位置を入れ替えた場合に得られる画像位置の組み合わせは、2通りであり、カメラ台数が1の場合には、画像位置の組み合わせは、1通りである。
図8は、表示パネル121の表示領域121Aの拡大図であり、特にカメラ台数が1つ(1つのライブビュー画像)で選択されている場合に関して示している。
図8の(a)部に示す例では、選択されたカメラに対応するライブビュー画像LV1が大きい画面で表示され、通信しているが選択されていないカメラに対応する2つのライブビュー画像LV2,LV3が小さい画面で表示されている。なお、小さい画面で表示されているライブビュー画像LV2,LV3に対応する動画は、動画編集の対象にはならない。
図8の(a)部において、選択されているライブビュー画像LV1を、ライブビュー画像LV2に切り替える(ライブビュー画像LV2を選択する場合)には、ライブビュー画像LV1にタッチし、ライブビュー画像LV1をライブビュー画像LV2の画像位置に移動させるスワイプ操作を行う。このスワイプ操作により、図8の(b)部に示すように選択されているライブビュー画像LV1をライブビュー画像LV2に切り替えることができる。
なお、ライブビュー画像LV2にタッチし、ライブビュー画像LV2をライブビュー画像LV1の画像位置に移動させるスワイプ操作を行うことにより、上記と同様にライブビュー画像LV1とLV2の画像位置を入れ替えること(ライブビュー画像の選択)ができる。
このようにカメラ台数及びレイアウトが特定され、かつ画像位置の組み合わせ(画像位置を示す数字)が特定されると、どのカメラにより撮像されたライブビュー画像の画像を、レイアウトのどの画像位置に配置すべきか(カメラ台数が1の場合には、どのカメラのライブビュー画像か)を特定することができる。
(第1の撮像部及び第2の撮像部)
図9及び図10は、第1の撮像部141で撮像されたライブビュー画像と第2の撮像部142で撮像されたライブビュー画像に関して説明する概念図である。図9には、スマートフォン100の内部撮像装置140(第1の撮像部141)で取得した第1のライブビュー画像201と外部撮像装置10で取得した第2のライブビュー画像203とのマルチライブビュー表示が表示入力部120に示されている。図9に示す場合では、スマートフォン100の表示入力部120側に設置された第1の撮像部141(フロントカメラともいう)で取得された人物の顔が主要被写体とされているライブビュー画像201が表示入力部120に表示されている。
また、表示入力部120上には、フロントカメラへの切り替え指示を受け付けるフロントカメラ指示受付部205とバックカメラへの切り替え指示を受け付けるバックカメラ指示受付部207が設けられている。フロントカメラ指示受付部205及びバックカメラ指示受付部207によりユーザはバックカメラでの撮像とフロントカメラでの撮像とを制御することができる。
図10には、スマートフォン100の内部撮像装置140(第2の撮像部142)で取得した第1のライブビュー画像と外部撮像装置10で取得した第2のライブビュー画像とのマルチライブビュー表示が示されている。図10に示された場合では、スマートフォン100のバックカメラ(第2の撮像部142)によって撮像されているために、図9とは異なる主要被写体が捉えられた第1のライブビュー画像201が表示されている。
このように、内部撮像装置140における第1の撮像部141と第2の撮像部142とのライブビュー画像の表示を表示入力部120に設けたフロントカメラ指示受付部205及びバックカメラ指示受付部207により制御することが可能である。これにより、内部撮像装置140において異なる視点の画像を取得することができ、マルチ撮像装置100において様々な形態のマルチライブビュー表示を行うことができる。
図11は、マルチ撮像装置100の動作フロー図である。
先ず、内部撮像装置140の第1の撮像部141又は第2の撮像部142により第1のライブビュー画像が取得される(ステップS10:内部撮像ステップ)。その後、マルチ撮像装置100の制御部101へ内部撮像装置140から第1のライブビュー画像が出力される。そして、外部撮像装置10により取得された第2のライブビュー画像がマルチ撮像装置100に取得される(ステップS11:外部撮像ステップ)。すなわち、マルチ撮像装置100は無線通信部110を介して外部撮像装置10から第2のライブビュー画像を受信する。その後、制御部101により、レイアウトやライブビュー画像の表示位置が設定される(ステップS12)。なお、制御部101が行うレイアウトやライブビュー画像の表示位置の設定は、ユーザの指示に応じて制御部101が行ってもよいし、予め決められている設定に応じて制御部101が行ってもよい。そして、設定されたレイアウト及び画像位置にしたがって第1及び第2のライブビュー画像をマルチビュー表示する(ステップS13:表示ステップ)。
その後、制御部101により本撮像の指示の有無が判断される(ステップS14)。本撮像の指示が無い場合(ステップS14のNoの場合)には、再び内部撮像装置140により第1のライブビュー画像が取得される。一方、外部撮像装置10及び内部撮像装置140への本撮像の指示が有る場合(ステップS14のYesの場合)には、制御部101は外部撮像装置10及び内部撮像装置140を同期して本撮像させる(ステップS15)。
その後、制御部101は、本撮像された第1の画像及び第2の画像を取得する(ステップS16)。そして、制御部101は、設定したレイアウト及び画像位置にしたがって、第1の画像と第2の画像とを合成する(ステップS17)。それから、制御部101は、第1の画像と第2画像が設定されたレイアウト及び画像位置に沿って合成されたマルチビュー表示画像を記憶部150に保存する(ステップS18)。上述したフロー図の各ステップをコンピュータに実行させるためのプログラムによっても本発明は実現することができる。その場合、プログラムはコンピュータで読取り可能な非一時的記録媒体に記憶され得る。
以上で説明したように、本実施形態によれば、内部撮像装置140と外部撮像装置10とで取得されたライブビュー画像によりマルチライブビュー表示が行われるので、マルチ撮像装置100の内部撮像装置140を有効利用することができ、且つマルチ撮像装置100と外部撮像装置10との無線通信量を減らすことができる。例えば、二つのライブビュー画像を取得するために二つの外部撮像装置10を無線接続した場合に比べると、本実施形態では一つの外部撮像装置10のみが無線通信によりマルチ撮像装置100に接続されているので、外部撮像装置10が1台接続される分の無線通信量を抑制することができる。
<第2の実施形態>
次に、第2の実施形態に関して説明する。本実施形態では、外部撮像装置10としてパン・チルト機構を備える撮像装置(パン・チルトカメラ)が使用される。
図12は、外部撮像装置10であるパン・チルトカメラ10Aがマルチ撮像装置(スマートフォンともいう)100に無線で接続されていることを示す概念図である。
パン・チルトカメラ10Aは、主として装置本体12と、台座14と、台座14に固定されるとともに、カメラ側撮像部20を回動自在に保持する保持部16と、カメラ側撮像部20を覆うドームカバー18とを有している。
台座14は、装置本体12の垂直方向Zの軸を中心に回転自在に配設され、パン駆動部34(図13)により垂直方向Zの軸を中心にして回転する。
保持部16は、水平方向Xの軸と同軸上に設けられたギア16Aを有し、チルト駆動部36(図13)からギア16Aを介して駆動力が伝達されることにより、カメラ側撮像部20を上下方向に回動(チルト動作)させる。
ドームカバー18は、防塵及び防滴用のカバーであり、カメラ側撮像部20の光軸方向Lにかかわらず、カメラ側撮像部20の光学性能が変化しないように、水平方向Xの軸と垂直方向Zの軸との交点を、曲率中心とする一定肉厚の球殻形状であることが好ましい。
また、装置本体12の背面には、図示しない三脚取付部(三脚ねじ穴等)を設けることが好ましい。
パン・チルトカメラ10Aには、撮像開始を指示する撮像開始ボタン19、電源スイッチ(図示せず)が設けられているが、パン・チルトカメラ10Aは、カメラ側無線通信部50(図13)を有し、主として外部の端末機(本例では、スマートフォン100)との無線通信によりスマートフォン100から各種の操作用の指示が加えられる。また、パン・チルトカメラ10Aで撮像されたライビュー画像や本撮像された画像はカメラ側無線通信部50を介してスマートフォン100に送信される。
図13は、外部撮像装置10であるパン・チルトカメラ10Aの内部構成例を示すブロック図である。なお、図2で説明を行ったブロックと同じブロックには同じ符号を付し説明は省略する。
図13に示すパン・チルトカメラ10Aの内部構成例では、図2に示したものに対して、パン・チルト装置30、パン・チルト制御部44、及び被写体検出部45が追加されている。
パン・チルト装置30は、パン・チルト機構32、パン駆動部34、及びチルト駆動部36を備えている。なお、パン・チルト機構32は、図12に示したようにカメラ側撮像部20を装置本体12に対して水平方向(パン方向)に回転されるパン機構、及び垂直方向(チルト方向)に回動させるチルト機構32で構成されている。パン・チルト機構32は、パン方向の回転角度(パン角)の基準位置を検出するホームポジションセンサ、チルト方向の傾き角(チルト角)の基準位置を検出するホームポジションセンサを有している。
パン駆動部34及びチルト駆動部36は、それぞれステッピングモータ及びモータドライバを有し、パン・チルト機構32に駆動力を出力し、パン・チルト機構32を駆動する。
パン・チルト制御部44は、カメラ側制御部40に設けられている。パン・チルト制御部44は、パン・チルト装置30を制御する部分である。具体的には自動追尾モードが設定されている場合には、パン・チルト制御部44は、被写体検出部45により検出された被写体が画角の中心になるようにパン・チルト装置30を制御する。また自動追尾モードが設定されてない場合には、パン・チルト制御部44は、スマートフォン100から送られてくる指示に従って、パン・チルト装置30を制御する。
図4で説明した十字キー124のうちのいずれかの方向キーがタッチ操作されると、制御部101は、タッチ操作された方向キーが示す方向にパン動作又はチルト動作させるモータ駆動指令を出力する。また、十字キー124のセンタキーが操作されると、制御部101は、一定のパターンでパン動作又はチルト動作を繰り返させるためのモータ駆動指令を出力する。
被写体検出部45は、追尾対象としての被写体が特定されると、被写体が移動してもその被写体を検出する機能を備えている。具体的には、まず始めに、追尾対象としたい被写体が自動又は手動で設定され、続いて、信号処理部41から順次得られる撮像動画から追尾対象としている被写体の画像が顔検出処理又はパターンマッチング処理により検出される。なお、被写体検出部45において行われる顔検出処理やパターンマッチング処理については周知であるため、ここでは説明を省略する。また、被写体検出の別の方法として、動体を被写体とする場合には、動体検出により被写体が検出されてもよい。
このように、外部撮像装置10としてパン・チルトカメラ10Aを使用することによって、より広範囲の撮像を外部撮像装置10により行うことができる。
次に、外部撮像装置10としてパン・チルトカメラ10Aを使用した場合のパン・チルトカメラ10Aの使用例に関して説明する。
(パン・チルトカメラの使用例1)
本例では、パン・チルトカメラ10Aは、マルチ撮像装置100の内部撮像装置140で捉えた被写体を被写体特定情報に基づいて撮像する。
図14は、パン・チルトカメラ10Aを使用例1で使用するマルチ撮像装置100の動作フロー図である。
先ず、マルチ撮像装置100は、内部撮像装置140により被写体を捉え、その捉えた被写体を特定する(ステップS20)。例えば、マルチ撮像装置100の表示入力部120に内部撮像装置140により捉えられた被写体が表示され、ユーザのタッチ等により被写体が特定される。その後、マルチ撮像装置100の制御部101により、特定された被写体の被写体特定情報が取得される(ステップS21)。例えば、制御部101は、特定された被写体の顔認識のための情報又は特定された被写体のパターンマッチングに関する情報を被写体特定情報として取得する。
その後、制御部101は、被写体特定情報に基づいて、内部撮像装置140で捉えた被写体を外部撮像装置10でも捉えるように外部撮像装置10のパン・チルト機構32を制御するためのパン・チルト駆動指示を、無線通信部110を介して外部撮像装置10に送信する(ステップS22)。そして、パン・チルトカメラ10Aは、カメラ側無線通信部50を介してパン・チルト駆動指示を受信し、パン・チルト駆動指示に基づいてパン・チルト制御部44によりパン・チルト装置30を制御する。
このように、本例では、内部撮像装置140が捉えた被写体を特定する被写体特定情報に基づいて、外部撮像装置10のパン・チルト機構32が被写体を捉えるように制御される。よって、外部撮像装置10及び内部撮像装置140で同じ被写体を捉えることができる。
(パン・チルト機構の使用例2)
本例では、パン・チルトカメラ10Aは、マルチ撮像装置100の内部撮像装置140で捉えた被写体を、位置情報及び姿勢情報に基づいて撮像する。
図15は、パン・チルトカメラ10Aを使用例2で使用するマルチ撮像装置100の動作フロー図である。
先ず、マルチ撮像装置100は、内部撮像装置140により被写体を捉え、その捉えた被写体を特定する(ステップS30)。例えば、マルチ撮像装置100の表示入力部120に内部撮像装置140により捉えられた被写体が表示され、ユーザのタッチ等により被写体が特定される。その後、マルチ撮像装置100の制御部101は、内部撮像装置140の位置情報及びパン・チルトカメラ10Aの位置情報を取得する(ステップS31)。内部撮像装置140の位置情報は、マルチ撮像装置100のGPS受信部170から取得され、パン・チルトカメラ10Aの位置情報は、パン・チルトカメラ10Aが有するGPS等から取得することができる。また、マルチ撮像装置100の制御部101は、内部撮像装置140の姿勢情報及びパン・チルトカメラ10Aの姿勢情報を取得する(ステップS31)。制御部101は、マルチ撮像装置100内に設置される3軸の加速度センサ等によりマルチ撮像装置100の姿勢情報を取得し、内部撮像装置140の光軸の向きに関する情報を取得する。また、制御部101は、パン・チルトカメラ10Aに設置される3軸の加速度センサやパン・チルト機構32等によりパン・チルトカメラ10Aの姿勢情報を取得し、パン・チルトカメラ10Aの光軸の向きに関する情報を取得する。
その後、制御部101は、位置情報及び姿勢情報に基づいて、内部撮像装置140で捉えた被写体を外部撮像装置10でも捉えるように外部撮像装置10のパン・チルト機構32を制御するためのパン・チルト駆動指示を、無線通信部110を介して外部撮像装置10に送信する(ステップS32)。そして、パン・チルトカメラ10Aは、カメラ側無線通信部50を介してパン・チルト駆動指示を受信し、パン・チルト駆動指示に基づいてパン・チルト制御部44によりパン・チルト装置30を制御する。
このように、本例では、位置情報及び姿勢情報に基づいて、外部撮像装置10のパン・チルト機構32が被写体を捉えるように制御されるので、外部撮像装置10でも内部撮像装置140が捉えた被写体を捉えることができる。
さらに本例では、パン・チルトカメラ10Aは、マルチ撮像装置100の内部撮像装置140で捉えた被写体を位置情報、姿勢情報、及び距離情報に基づいて撮像してもよい。
図16は、パン・チルトカメラ10Aを使用例2で使用するもう一つのマルチ撮像装置100の動作フロー図である。
先ず、マルチ撮像装置100は、内部撮像装置140により被写体を捉え、その捉えた被写体を特定する(ステップS40)。例えば、マルチ撮像装置100の表示入力部120に内部撮像装置140により捉えられた被写体が表示され、ユーザのタッチ等により被写体が特定される。その後、マルチ撮像装置100の制御部101は、内部撮像装置140の位置情報及びパン・チルトカメラ10Aの位置情報を取得する(ステップS41)。内部撮像装置140の位置情報は、マルチ撮像装置100のGPS受信部170から取得され、パン・チルトカメラ10Aの位置情報は、パン・チルトカメラ10Aが有するGPS等から取得することができる。また、マルチ撮像装置100の制御部101は、内部撮像装置140の姿勢情報、パン・チルトカメラ10Aの姿勢情報、内部撮像装置140と被写体との距離情報を取得する(ステップS41)。制御部101は、マルチ撮像装置100内に設置される3軸の加速度センサ等によりマルチ撮像装置100の姿勢情報を取得し、内部撮像装置140の光軸の向きに関する情報を取得する。また、制御部101は、パン・チルトカメラ10Aに設置される3軸の加速度センサやパン・チルト機構32等によりパン・チルトカメラ10Aの姿勢情報を取得し、パン・チルトカメラ10Aの光軸の向きに関する情報を取得する。さらに、マルチ撮像装置100の制御部101は、内部撮像装置140と内部撮像装置140で捉えられた被写体との距離に関する情報を取得する(ステップS41)。なお、内部撮像装置140と被写体との距離に関する情報は、公知の手段によって取得される。例えば、マルチ撮像装置100の制御部101は、内部撮像装置140を使用して被写体との距離を取得してもよいし、被写体にレーザ等の距離取得手段により内部撮像装置140と被写体との距離を取得してもよい。
その後、制御部101は、位置情報、姿勢情報、及び距離情報に基づいて、内部撮像装置140で捉えた被写体を外部撮像装置10でも捉えるように外部撮像装置10のパン・チルト機構32を制御するためのパン・チルト駆動指示を、無線通信部110を介して外部撮像装置10に送信する(ステップS42)。そして、パン・チルトカメラ10Aは、カメラ側無線通信部50を介してパン・チルト駆動指示を受信し、パン・チルト駆動指示に基づいてパン・チルト制御部44によりパン・チルト装置30を制御する。
このように、本例では、位置情報、姿勢情報、及び距離情報に基づいて、外部撮像装置10のパン・チルト機構32が被写体を捉えるように制御されるので、外部撮像装置10でも内部撮像装置140が捉えた被写体を捉えることができる。
(パン・チルトカメラの使用例3)
本例では、パン・チルトカメラ10Aは、マルチ撮像装置100のフロントカメラ(第1の撮像部141)とバックカメラ(第2の撮像部142)との切り替えに応じて、被写体の自動追尾が行われる。すなわち、マルチ撮像装置100の制御部101は、内部撮像装置140における第1の撮像部141と第2の撮像部142との切り替えに応じて、パン・チルトカメラ10Aに、パン・チルト機構32の駆動による自動追尾を指示する自動追尾指示を無線通信部110を介して外部撮像装置10に送信する。ここで、被写体の自動追尾とは、特定された被写体を追尾するようにパン・チルト機構32を動作させることをいう。また、自動追尾する対象は、上述した使用例1及び2で説明したようにマルチ撮像装置100により特定されて、被写体検出部45により検出されてもよいし、パン・チルトカメラ10Aで特定された被写体を自動追尾してもよい。
このように、本例は、第1の撮像部141と第2の撮像部142との切り替えに応じて、外部撮像装置10のパン・チルト機構32に自動追尾を行わせる。これにより、本例は、マルチ撮像装置100を操作することにより外部撮像装置10に自動追尾させることができる。
(パン・チルトカメラの使用例4)
本例では、パン・チルトカメラ10Aは、マルチ撮像装置100の姿勢情報に連動してパン・チルト機構32が制御される。すなわち、マルチ撮像装置100の制御部101は、マルチ撮像装置100の姿勢情報をモーションセンサ部180から取得し、その姿勢情報に連動して外部撮像装置10のパン・チルト機構32を制御するためのパン・チルト駆動指示を外部撮像装置10に送信する。例えば、マルチ撮像装置100を横に傾けるとパン・チルト機構32はパン動作されるように制御され、マルチ撮像装置100を縦に傾けるとパン・チルト機構32はチルト動作されるように制御される。
このように本例は、マルチ撮像装置100が動かされた場合の姿勢情報に連動して外部撮像装置10のパン・チルト機構32が制御されるので、外部撮像装置10のパン・チルト機構32をマルチ撮像装置100により直感的に制御することができる。
<第3の実施形態>
次に本発明の第3の実施形態に関して説明する。本実施形態では、外部撮像装置10が電子的なパン・チルト機構を有する。
図17は、本実施形態の外部撮像装置10の電子的なパン・チルト機構を有する撮像装置の内部構成を示すブロック図である。なお、図2及び図13で説明を行ったブロックと同じブロックには同じ符号を付し説明は省略する。
図17に示すパン・チルトカメラ10Aのブロック図は、図2及び図13に示したブロック図と比較すると、電子パン・チルト制御部51を有する。また撮像レンズ22は、広角レンズが使用されることが好ましい。
電子パン・チルト制御部51は、取得した画像の特定領域をのみをトリミングして表示させることにより、擬似的に撮像部がパン動作やチルト動作を行っているような画像を表示させる。なお、電子パン・チルトの具体的な方法は公知技術が使用されるので、ここでは具体的な説明は省略する。
図18は、電子的なパン・チルト機構のパン動作及びチルト動作に関して説明する図である。図18には、外部撮像装置10で取得されたライブビュー画像(第2のライブビュー画像)71、被写体73、及びトリミング領域(特定領域)75が示されている。本願の電子的なパン・チルト機構の一例が図18に示されており、ライブビュー画像71において、トリミング領域75の位置をパン方向及びチルト方向に移動させることにより、疑似的に撮像部がパン動作及びチルト動作しているように表示させることができる。なお、マルチ撮像装置100の表示入力部120には、トリミング領域75内のライブビュー画像71が表示される。なお、トリミング領域75は上述したレイアウトでの表示領域と同じアスペクト比であることが好ましい。
以上で説明したように、外部撮像装置10が電子的なパン・チルト機構を有することにより、外部撮像装置10が機械的なパン・チルト機構を有していない場合であっても、撮像部がパン動作及びチルト動作するような表示を行うことができる。また、本実施形態においても上述したパン・チルトカメラの使用例1から4についても同様に応用される。
以上で本発明の例に関して説明してきたが、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10…外部撮像装置、20…カメラ側撮像部、22…撮像レンズ、23…絞り、24…撮像素子、26…レンズ駆動部、28…CMOSドライバ、40…カメラ側制御部、41…信号処理部、42…撮像制御部、43…レンズ制御部、46…カメラワーク制御部、50…カメラ側無線通信部、60…カメラ側操作部、61…カメラ側表示部、62…メモリ、100…マルチ撮像装置、101…制御部、102…筐体、110…無線通信部、120…表示入力部、121…表示パネル、122…操作パネル、130…通話部、131…スピーカ、132…マイクロホン、139…操作部、140…内部撮像装置、141…第1の撮像部、142…第2の撮像部、150…記憶部、151…内部記憶部、152…外部記憶部、160…外部入出力部、170…GPS受信部、170…受信部、180…モーションセンサ部、190…電源部

Claims (18)

  1. 表示部と、
    第1のライブビュー画像又は本撮像された第1の画像を取得する内部撮像装置と、
    第2のライブビュー画像又は本撮像された第2の画像を取得する外部撮像装置との間で無線通信を行う無線通信部と、
    前記表示部、前記内部撮像装置及び前記無線通信部に接続される制御部と、を備え、
    前記制御部は、前記内部撮像装置から前記第1のライブビュー画像が入力され、前記外部撮像装置から前記無線通信部を介して前記第2のライブビュー画像を受信し、前記入力された前記第1のライブビュー画像と前記受信した前記第2のライブビュー画像とを前記表示部にマルチライブビュー表示させ、
    前記外部撮像装置は、機械的なパン・チルト機構、又は前記第2の画像のうち特定領域のみ表示してパン・チルト制御を行う電子的なパン・チルト機構を有し、
    前記制御部は、前記機械的なパン・チルト機構又は前記電子的なパン・チルト機構を動作させる指示を出力するマルチ撮像装置。
  2. 更に記憶部を備え、
    前記制御部は、前記内部撮像装置及び前記外部撮像装置により本撮像された前記第1の画像と前記第2の画像とをそれぞれ取得し、前記マルチライブビュー表示されたライブビュー画像と同様の形態で前記取得した第1の画像と第2の画像とを合成し、前記合成した画像を前記記憶部に保存する請求項1に記載のマルチ撮像装置。
  3. 前記制御部は、
    前記表示部に表示された前記内部撮像装置が捉えた被写体を特定する被写体特定情報を取得し、
    前記被写体特定情報に基づいて、前記内部撮像装置で捉えた前記被写体を前記外部撮像装置でも捉えるように前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を前記外部撮像装置に送信する請求項1に記載のマルチ撮像装置。
  4. 前記制御部は、
    前記内部撮像装置及び前記外部撮像装置の位置情報を取得し、
    前記内部撮像装置及び前記外部撮像装置の姿勢情報を取得し、
    前記位置情報及び前記姿勢情報に基づいて、前記内部撮像装置で捉えた被写体を前記外部撮像装置でも捉えるように前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を前記外部撮像装置に送信する請求項1に記載のマルチ撮像装置。
  5. 前記制御部は、前記内部撮像装置と被写体との距離情報を取得し、
    前記位置情報、前記姿勢情報、及び前記距離情報に基づいて、前記内部撮像装置で捉えた被写体を前記外部撮像装置でも捉えるように前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を前記外部撮像装置に送信する請求項に記載のマルチ撮像装置。
  6. 前記制御部は、
    前記マルチ撮像装置の姿勢情報を取得し、
    前記姿勢情報に連動して、前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を前記外部撮像装置に送信する請求項1からのいずれか1項に記載のマルチ撮像装置。
  7. 本撮像を指示する操作部を更に備え、
    前記制御部は、前記操作部により本撮像が指示されると、前記外部撮像装置による本撮像を指示する撮像指示を前記外部撮像装置に送信する請求項1からのいずれか1項に記載のマルチ撮像装置。
  8. 前記制御部は、前記操作部から本撮像が指示されると前記内部撮像装置及び前記外部撮像装置が同期して本撮像を行わせる請求項に記載のマルチ撮像装置。
  9. 前記内部撮像装置は、第1の撮像部及び第2の撮像部を含み、
    前記制御部は、前記第1の撮像部及び前記第2の撮像部の両方又は一方から、前記第1のライブビュー画像又は前記第1の画像を取得する請求項1からのいずれか1項に記載のマルチ撮像装置。
  10. 記制御部は、
    前記第1の撮像部による撮像及び前記第2の撮像部による撮像の切り替えが行われた場合に、前記外部撮像装置に、前記パン・チルト機構の駆動による自動追尾を指示する自動追尾指示を前記外部撮像装置に送信する請求項に記載のマルチ撮像装置。
  11. 第1のライブビュー画像又は本撮像された第1の画像を取得する内部撮像ステップと、
    第2のライブビュー画像又は本撮像された第2の画像を取得した外部撮像装置から無線通信により前記第2のライブビュー画像又は前記第2の画像を取得する外部撮像ステップと、を含むマルチ撮像方法であって、
    前記内部撮像ステップでは前記第1のライブビュー画像が入力され、前記外部撮像ステップでは前記第2のライブビュー画像が受信され、
    更に、前記第1のライブビュー画像と前記第2のライブビュー画像とをマルチライブビュー表示させる表示ステップと、を含み、
    前記外部撮像ステップは、機械的なパン・チルト機構、又は前記第2の画像のうち特定領域のみ表示してパン・チルト制御を行う電子的なパン・チルト機構を有する前記外部撮像装置により撮像された前記第2のライブビュー画像又は前記第2の画像を取得し、
    前記機械的なパン・チルト機構又は前記電子的なパン・チルト機構を動作させる指示を出力するステップと、をさらに含むマルチ撮像方法。
  12. 前記内部撮像ステップ及び前記外部撮像ステップにより本撮像された前記第1の画像と前記第2の画像とをそれぞれ取得し、
    前記マルチライブビュー表示されたライブビュー画像と同様の形態で前記取得した第1の画像と第2の画像とを合成するステップと、
    前記合成した画像を保存するステップと、
    を更に含む請求項11に記載のマルチ撮像方法。
  13. 前記内部撮像ステップで捉えた被写体を特定する被写体特定情報を取得するステップと、
    前記被写体特定情報に基づいて、前記内部撮像ステップで捉えた前記被写体を前記外部撮像装置でも捉えるように前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を、前記外部撮像装置に送信するステップと、を含む請求項11に記載のマルチ撮像方法。
  14. 前記内部撮像ステップが行われる内部撮像装置及び前記外部撮像装置の位置情報を取得するステップと、
    前記内部撮像装置及び前記外部撮像装置の姿勢情報を取得するステップと、
    前記位置情報及び前記姿勢情報に基づいて、前記内部撮像装置で捉えた被写体を前記外部撮像ステップでも捉えるように前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を、前記外部撮像装置に送信するステップと、を含む請求項11に記載のマルチ撮像方法。
  15. 前記内部撮像装置と被写体との距離情報を取得するステップと、
    前記位置情報、前記姿勢情報、及び前記距離情報に基づいて、前記内部撮像装置で捉えた被写体を前記外部撮像ステップでも捉えるように前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を、前記外部撮像装置に送信するステップと、を含む請求項14に記載のマルチ撮像方法。
  16. マルチ撮像装置の姿勢情報を取得するステップと、
    前記マルチ撮像装置の姿勢情報に基づいて、前記外部撮像装置のパン・チルト機構を制御するためのパン・チルト駆動指示を前記外部撮像装置に送信するステップと、を含む請求項11から請求項15のいずれか1項に記載のマルチ撮像方法。
  17. 第1のライブビュー画像又は本撮像された第1の画像を取得する内部撮像ステップと、
    第2のライブビュー画像又は本撮像された第2の画像を取得した外部撮像装置から無線通信により前記第2のライブビュー画像又は前記第2の画像を取得する外部撮像ステップと、を含むマルチ撮像方法であって、
    前記内部撮像ステップでは前記第1のライブビュー画像が入力され、前記外部撮像ステップでは前記第2のライブビュー画像が受信され、
    更に、前記第1のライブビュー画像と前記第2のライブビュー画像とをマルチライブビュー表示させる表示ステップと、を含み、
    前記外部撮像ステップは、機械的なパン・チルト機構、又は前記第2の画像のうち特定領域のみ表示してパン・チルト制御を行う電子的なパン・チルト機構を有する前記外部撮像装置により撮像された前記第2のライブビュー画像又は前記第2の画像を取得し、
    前記機械的なパン・チルト機構又は前記電子的なパン・チルト機構を動作させる指示を出力するステップと、をさらに含むマルチ撮像法をコンピュータに実行させるためのプログラム。
  18. 請求項17に記載のプログラムのコンピュータで読み取り可能なコードが記録された非一時的記録媒体。
JP2016547741A 2014-09-11 2015-06-24 マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体 Active JP6328255B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014184774 2014-09-11
JP2014184774 2014-09-11
PCT/JP2015/068129 WO2016038976A1 (ja) 2014-09-11 2015-06-24 マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体

Publications (2)

Publication Number Publication Date
JPWO2016038976A1 JPWO2016038976A1 (ja) 2017-06-22
JP6328255B2 true JP6328255B2 (ja) 2018-05-23

Family

ID=55458738

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016547741A Active JP6328255B2 (ja) 2014-09-11 2015-06-24 マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体

Country Status (4)

Country Link
US (1) US10298828B2 (ja)
JP (1) JP6328255B2 (ja)
CN (1) CN106688227B (ja)
WO (1) WO2016038976A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3007629A1 (en) 2015-12-14 2017-06-22 Red.Com, Llc Modular digital camera and cellular phone
CN108370608B (zh) * 2015-12-15 2022-06-14 索尼公司 信息处理设备、信息处理方法和程序
KR20180018086A (ko) * 2016-08-12 2018-02-21 엘지전자 주식회사 이동 단말기 및 그의 동작 방법
KR102402096B1 (ko) * 2017-03-27 2022-05-26 삼성전자주식회사 이미지 내 오브젝트와 관련된 정보를 제공하는 전자 장치
US10922839B2 (en) * 2017-11-07 2021-02-16 Casio Computer Co., Ltd. Location obtaining system, location obtaining device, location obtaining method, and non-transitory computer-readable recording medium
US10687046B2 (en) * 2018-04-05 2020-06-16 Fyusion, Inc. Trajectory smoother for generating multi-view interactive digital media representations
JP6440085B1 (ja) 2018-06-19 2018-12-19 パナソニックIpマネジメント株式会社 監視カメラ
JP6692867B2 (ja) * 2018-09-07 2020-05-13 日本航空株式会社 構造物の内部を確認するためのシステムおよび方法
EP3753241A1 (en) 2018-10-09 2020-12-23 Google LLC System and method for performing a rewind operation with a mobile image capture device
US20200128233A1 (en) * 2018-10-17 2020-04-23 Red Technologies, LLC Mobile device
JP6654748B2 (ja) * 2018-11-08 2020-02-26 パナソニックi−PROセンシングソリューションズ株式会社 監視カメラおよび映像配置方法
CN113574854B (zh) * 2019-03-15 2023-06-06 富士胶片株式会社 带打印机数码摄像机以及带打印机数码摄像机用系统
US11517146B2 (en) * 2019-05-21 2022-12-06 Whirlpool Corporation Cooking assistance appliance
CN116320782B (zh) * 2019-12-18 2024-03-26 荣耀终端有限公司 一种控制方法、电子设备、计算机可读存储介质、芯片
US11258988B1 (en) * 2020-07-21 2022-02-22 Vivian J. Douglas Dudley Body-viewing camera system

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005094741A (ja) * 2003-08-14 2005-04-07 Fuji Photo Film Co Ltd 撮像装置及び画像合成方法
JP2006238020A (ja) * 2005-02-24 2006-09-07 Olympus Corp デジタルカメラシステム及びデジタルカメラ
US7817180B2 (en) * 2005-04-28 2010-10-19 Apple Inc. Video processing in a multi-participant video conference
JP2007158860A (ja) * 2005-12-06 2007-06-21 Canon Inc 撮影システム、撮影装置、画像切替装置、およびデータ保持装置
US8849679B2 (en) * 2006-06-15 2014-09-30 Intouch Technologies, Inc. Remote controlled robot system that provides medical images
KR101586702B1 (ko) * 2009-07-08 2016-01-19 한화테크윈 주식회사 감시 카메라들의 제어 방법 및 이를 사용한 제어 장치
KR20110052345A (ko) * 2009-11-12 2011-05-18 삼성전자주식회사 디스플레이장치, 카메라 및 그 제어방법
CN101771750A (zh) * 2009-12-24 2010-07-07 中兴通讯股份有限公司 一种无线预览拍摄的终端和方法
JP5499754B2 (ja) * 2010-02-19 2014-05-21 株式会社ニコン 撮像装置
JP2011250340A (ja) * 2010-05-31 2011-12-08 Sanyo Electric Co Ltd 撮像装置およびその制御方法
JP2012099889A (ja) * 2010-10-29 2012-05-24 Olympus Imaging Corp カメラ、撮影方法、撮影プログラム
JP2013093843A (ja) 2011-10-05 2013-05-16 Sanyo Electric Co Ltd 電子機器および電子カメラ
CN103947182B (zh) 2011-11-14 2017-09-08 佳能株式会社 摄像装置、控制装置和控制方法
JP2013255202A (ja) * 2012-06-08 2013-12-19 Canon Inc 撮像システムおよびその制御方法
JP6192940B2 (ja) * 2013-01-23 2017-09-06 オリンパス株式会社 撮影機器及び連携撮影方法
JP5769032B2 (ja) * 2013-07-29 2015-08-26 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム

Also Published As

Publication number Publication date
WO2016038976A1 (ja) 2016-03-17
US10298828B2 (en) 2019-05-21
CN106688227A (zh) 2017-05-17
JPWO2016038976A1 (ja) 2017-06-22
US20170201672A1 (en) 2017-07-13
CN106688227B (zh) 2019-06-18

Similar Documents

Publication Publication Date Title
JP6328255B2 (ja) マルチ撮像装置、マルチ撮像方法、プログラム、及び記録媒体
JP6205067B2 (ja) パン・チルト操作装置、カメラシステム、パン・チルト操作用プログラム及びパン・チルト操作方法
US10757322B2 (en) Method of setting initial position of camera, camera, and camera system
US10638034B2 (en) Imaging control apparatus, imaging control method, camera system, and program
US10368003B2 (en) Imaging device and time-lapse imaging method
US10560624B2 (en) Imaging control device, imaging control method, camera, camera system, and program
JP6205073B2 (ja) 撮像装置、撮像方法、及びプログラム
US10244166B2 (en) Imaging device
JP6302564B2 (ja) 動画編集装置、動画編集方法及び動画編集プログラム
JP6360204B2 (ja) カメラ装置、撮像システム、制御方法及びプログラム
JP6205068B2 (ja) 撮像装置の操作装置、操作方法、及びプログラム
JP6374535B2 (ja) 操作装置、追尾システム、操作方法、及びプログラム

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20170221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180417

R150 Certificate of patent or registration of utility model

Ref document number: 6328255

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250