JP2018148483A - 撮像装置及び撮像方法 - Google Patents
撮像装置及び撮像方法 Download PDFInfo
- Publication number
- JP2018148483A JP2018148483A JP2017043735A JP2017043735A JP2018148483A JP 2018148483 A JP2018148483 A JP 2018148483A JP 2017043735 A JP2017043735 A JP 2017043735A JP 2017043735 A JP2017043735 A JP 2017043735A JP 2018148483 A JP2018148483 A JP 2018148483A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- image
- unit
- imaging
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/54—Browsing; Visualisation therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
- H04N1/212—Motion video recording combined with still video recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
- H04N1/2125—Display of information relating to the still picture recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Abstract
【課題】静止画記録時において記録される画像とともに後の処理に有益な情報を記録することができる撮像装置及び撮像方法を提供すること。【解決手段】撮像装置1は、対象物を繰り返して撮像して複数の画像データを取得する撮像部10と、画像データのうちの第1の画像データをユーザの操作に応じて選択する第1の選択部805aと、第1の画像データに基づいて複数の画像データのうちの複数の第2の画像データを選択する第2の選択部805bと、第1の画像データと、複数の第2の画像データを含む動画データと、第1の画像データの特徴情報と、動画データの特徴情報とを記録媒体40に記録する記録制御部810とを備える。【選択図】図1
Description
本発明は、撮像装置及び撮像方法に関する。
動画配信サイト等においてネットワーク上にアップロードされている動画は、膨大な数に上る。この膨大な数の動画の中からユーザの所望の画像を見つけることができるようにするための各種の提案がなされている。例えば、特許文献1の動画検索装置は、動画データに含まれるフレーム画像の特徴量を有する情報資源の数が多い動画データ、例えば画質のよい動画データ、ブロックノイズの小さい動画データ、手ぶれが小さい動画データを優先的にユーザに対して提示するようにしている。
近年、動きのある対象物等に対してユーザの望みの静止画を記録できるようにするための技術として、ユーザによる静止画記録の指示がされる前にも画像記録を実行しておく技術が知られている。このような技術を用いることにより、被写体の動きに対してユーザの静止画記録の指示が遅れたとしても先に記録されている画像からユーザの望みの画像が得られる可能性がある。このようにしてユーザの意思を伴って選択された画像からは、ネットワーク上の動画の検索等の幅を広げるために有益な情報を取得できると考えられる。さらに、ユーザの意思を伴って選択された画像の前後に記録されている画像からも同様にネットワーク上の動画の検索等の幅を広げるために有益な情報を取得できると考えられる。
本発明は、前記の事情に鑑みてなされたものであり、静止画記録時において記録される画像とともに後の処理に有益な情報を記録することができる撮像装置及び撮像方法を提供することを目的とする。
前記の目的を達成するために、本発明の第1の態様の撮像装置は、対象物を繰り返して撮像して複数の画像データを取得する撮像部と、複数の前記画像データのうちの第1のタイミングの第1の画像データをユーザの操作に応じて選択する第1の選択部と、前記第1の画像データに基づいて複数の前記画像データのうちの複数の第2のタイミングの画像データを選択する第2の選択部と、前記第1の画像データと、複数の前記第2の画像データと、前記第1の画像データの特徴情報と、複数の前記第2の画像データの特徴情報とを記録媒体に記録する記録制御部とを具備する。
前記の目的を達成するために、本発明の第2の態様の撮像方法は、撮像部により、対象物を繰り返して撮像して複数の画像データを取得することと、複数の前記画像データのうちの第1の画像データをユーザの操作に応じて選択することと、前記第1の画像データに基づいて複数の前記画像データのうちの複数の第2の画像データを選択することと、前記第1の画像データと、複数の前記第2の画像データを含む動画データと、前記第1の画像データの特徴情報と、前記動画データの特徴情報とを記録媒体に記録することとを具備する。
静止画記録時において記録される画像とともに後の処理に有益な情報を記録することができる撮像装置及び撮像方法を提供することができる。
以下、図面を参照して本発明の実施形態を説明する。図1は、本発明の一実施形態に係る撮像装置の構成を示すブロック図である。図1に示す撮像装置1は、例えばデジタルカメラ、スマートフォン、カメラ機能付き携帯電話機といった撮像機能を有する各種の機器である。図1に示す撮像装置1は、撮像部10と、記憶部20と、表示部30と、記録媒体40と、操作部50と、姿勢検出部60と、通信部70と、信号処理部80とを有している。
撮像部10は、撮影レンズ101と、絞り102と、撮像素子103とを有している。撮影レンズ101は、図示しない被写体からの光束を撮像素子103に入射させる。撮影レンズ101は、フォーカスレンズを含んでいてもよい。また、撮影レンズ101は、ズームレンズを含んでいてもよい。絞り102は、その口径を変えられるように構成されており、撮影レンズ101を介して撮像素子103に入射する光束を制限する。撮像素子103は、例えばCMOSイメージセンサ又はCCDイメージセンサを含み、対象物を撮像し、対象物に係る画像データを取得する。撮像素子103は、対象物までの距離検出が可能なように位相差検出画素を含んでいてもよい。
記憶部20は、例えばDRAMであり、撮像素子103で取得された画像データを一時的に記憶する。この他、記憶部20は、信号処理部80における各種の処理結果を一時的に記憶する。
表示部30は、例えば液晶ディスプレイや有機ELディスプレイであり、各種の画像を表示する。
記録媒体40は、例えばフラッシュROMで構成されている。記録媒体40には、信号処理部80で生成された画像ファイル等が記録される。
操作部50は、ボタン、スイッチ、ダイヤル等の操作部材を含む。操作部50には、例えば、レリーズボタン、動画ボタン、設定ボタン、選択キー、電源ボタンが含まれる。レリーズボタンは、静止画撮影の指示をするための操作部材である。動画ボタンは、動画撮影の開始又は終了を指示するための操作部材である。設定ボタンは、撮像装置1の設定画面を表示させるための操作部材である。選択キーは、例えば設定画面上での項目の選択や決定をするための操作部材である。電源ボタンは、撮像装置1の電源をオン又はオフするための操作部材である。なお、操作部50は、タッチパネルを有していてもよい。この場合、タッチパネルによって前述したレリーズボタン、動画ボタン、設定ボタン、選択キー、電源ボタンと同等の操作ができるように構成されていてもよい。
姿勢検出部60は、例えば3軸の角速度センサ又は加速度センサによって構成され、撮像装置1の姿勢を検出する。
通信部70は、撮像装置1が外部機器との間で各種の情報を通信するための通信インターフェイスを含む。通信部70は、例えば無線通信を利用してインターネット等のネットワーク2に接続し、ネットワーク2を介して撮像装置1の外部機器である外部サーバ3と通信する。図1では、撮像装置1は、外部サーバ3と通信する例を示している。これに対し、撮像装置1の通信対象である外部機器は、サーバに限らない。例えば、通信部70は、同じくネットワーク2を利用した通信をすることができる各種のIoT(Internet of Things)機器を通信対象として情報を通信するように構成されていてもよい。また、通信部70による通信は、必ずしもネットワーク2を介さなくてもよく、外部機器との直接通信であってもよい。この場合の直接通信は、有線通信によって行われてもよい。
信号処理部80は、ASIC等の制御回路によって構成され、撮像装置1の全体的な動作を制御するための各種処理を行う。信号処理部80は、撮像制御部801と、読み取り部802と、ライブビュー処理部803と、記録画像処理部804と、画像選択部805と、表示制御部806と、特徴検出部807と、静止画処理部808と、動画処理部809と、記録制御部810と、通信制御部811とを有している。信号処理部80の各ブロックの機能は、ソフトウェアによって実現されてもよいし、ハードウェアとソフトウェアの組み合わせによって実現されてもよい。また、信号処理部80の一部のブロックの機能は、信号処理部80と別個に設けられていてもよい。
撮像制御部801は、撮像部10の動作を制御する。例えば、撮像制御部801は、撮影レンズ101のフォーカスレンズを駆動して撮像部10の合焦制御を行ったり、ズームレンズを駆動して撮像部10の画角制御を行ったりする。また、撮像制御部801は、絞り102の開口量を制御して撮像部10の露出制御を行う。さらに、撮像制御部801は、撮像素子103の撮像動作を制御する。
読み取り部802は、撮像素子103から画像データを読み出して記憶部20に記憶させる。
ライブビュー処理部803は、記憶部20に記憶されている画像データに対してライブビュー表示のために必要な画像処理を施す。ライブビュー表示のために必要な画像処理は、例えば、ホワイトバランス(WB)補正処理、色変換処理、ガンマ変換処理、ノイズ低減処理、拡大縮小処理を含む。記録画像処理部804は、記憶部20に記憶されている画像データに対して記録のために必要な画像処理を施す。記録のために必要な画像処理は、例えば、ホワイトバランス(WB)補正処理、色変換処理、ガンマ変換処理、ノイズ低減処理、拡大縮小処理、圧縮処理を含む。記録画像処理部804は、ライブビュー処理部803とは異なる処理パラメータで処理を行うように構成されていてよい。勿論、記録画像処理部804は、ライブビュー処理部803と同じ処理パラメータで処理を行うように構成されていてもよい。さらに、ライブビュー処理部803と記録画像処理部804とは1つのブロックで構成されていてもよい。
画像選択部805は、ライブビュー処理部803で処理された画像データ又は記録画像処理部804で処理された画像データを選択し、選択した画像データを表示制御部806、特徴検出部807、静止画処理部808、動画処理部809に入力する。画像選択部805は、第1の選択部805aと第2の選択部805bとを有している。第1の選択部805aは、静止画撮影の際にユーザの選択に基づいて画像データ(第1の画像データ)を選択する。第2の選択部805bは、第1の画像データに基づいて動画として記録する第2の画像データを選択する。第1の選択部805a及び第2の選択部805bの詳細については後で説明する。
表示制御部806は、ライブビュー処理部803で処理されて画像選択部805で選択された画像データに基づく画像及び記録媒体40に記録されている画像データに基づく画像といった各種の画像を表示部30に表示させる制御を行う。
特徴検出部807は、ライブビュー処理部803で処理されて画像選択部805で選択された画像データ又は記録画像処理部804で処理されて画像選択部805で選択された画像データにおける特徴を検出する。この特徴は、対象物特徴と動画特徴とを含む。対象物特徴は、画像データ中の対象物の特徴である。対象物特徴は、例えば対象物の位置、形状、大きさ、対象物の種別、対象物の背景の種別といった情報を含む。これらの対象物特徴は、パターンマッチング、エッジ検出、色分布検出等の技術を利用して検出される。動画特徴は、後で説明する静止画撮影に伴って記録される動画の特徴である。動画特徴は、動画中の代表画像の撮影時間、動画中の対象物の移動方向、動画中の対象物の移動速度、動画の撮影日付、動画の撮影場所、動画の撮影シーン、撮像装置1の機種種別、動画撮影時の撮像部10の焦点距離、絞り、シャッタ速度、撮像装置1のユーザ情報といった情報を含む。これらの情報の詳細については後で説明する。これらの動画特徴は、撮像装置1に設定されている情報から検出されたりする。
静止画処理部808は、記録画像処理部804で処理されて画像選択部805で選択された画像データに対して静止画圧縮処理を行う。静止画圧縮処理は、例えばJPEG圧縮処理であるが、これに限定されない。動画処理部809は、記録画像処理部804で処理されて画像選択部805で選択された画像データに対して動画圧縮処理を行う。動画圧縮処理は、例えばMPEG圧縮処理であるが、これに限定されない。
記録制御部810は、静止画処理部808で圧縮された画像データ及び動画処理部809で圧縮された画像データを記録媒体40に記録する処理を行う。例えば、記録制御部810は、静止画処理部808で圧縮された画像データに基づいて静止画ファイルを生成し、生成した静止画ファイルを記録媒体40に記録する。また、記録制御部810は、動画処理部809で圧縮された画像データに基づいて動画ファイルを生成し、生成した動画ファイルを記録媒体40に記録する。さらに、記録制御部810は、必要に応じて特徴検出部807で検出された対象物特徴及び動画特徴の情報を生成したファイルに関連付けて記録媒体40に記録する。
通信制御部811は、通信部70を用いての通信を制御する。例えば、通信制御部811は、記録媒体40に記録されている画像データや画像データに関連付けられている特徴情報を外部サーバ3に送信する。また、通信制御部811は、外部サーバ3から各種の情報を受信する。
以下、本実施形態の撮像装置1の動作について説明する。図2A及び図2Bは、撮像装置1の基本的な動作を示すフローチャートである。図2A及び図2Bのフローチャートの動作は、信号処理部80によって制御される。
ステップS1において、信号処理部80は、現在の撮像装置1の動作モードが撮影モードであるか否かを判定する。撮像装置1は、動作モードとして撮影モードと、再生モードと、通信モードとを有している。撮影モードは、静止画又は動画を記録する処理を行う動作モードである。再生モードは、記録媒体40に記録されている画像ファイル等を表示部30に再生する処理を行う動作モードである。通信モードは、外部サーバ3との通信によって種々の情報の授受をするためのモードである。動作モードは、例えばユーザによる操作部50の操作よって設定される。ステップS1において、現在の撮像装置1の動作モードが撮影モードであると判定されたときには、処理はステップS2に移行する。ステップS1において、現在の撮像装置1の動作モードが撮影モードでないと判定されたときには、処理はステップS18に移行する。
ステップS2において、信号処理部80は、撮像制御部801により、ライブビュー表示のための撮像動作を開始させる。ライブビュー表示のための撮像動作として、撮像制御部801は、撮像素子103による撮像動作を所定のフレームレートで実行させる。
ステップS3において、信号処理部80は、読み取り部802により、撮像素子103において逐次に生成される画像データを読み出し、読み出した画像データを記憶部20に記憶させる。記憶部20は、ライブビュー表示のための撮像動作で得られた画像データをコピーして記憶している。すなわち、ステップS3の後の処理においてライブビュー表示のための撮像動作で得られた画像データが使用される場合であっても、記憶部20に記憶される画像データは残される。なお、記憶部20は、コピーの画像データを所定コマ数分だけ記憶するように構成されていてもよい。この場合、記憶部20は、古いコマの画像データを順次削除して新規のコマの画像データを記憶する。もちろん、ライブビュー表示のための画像でないものを含んでもよく、ライブビュー表示用画像とは画像処理や画像サイズ等が異なっていてもよい。近年、撮像素子の高速化が進んでいるが、ユーザが、撮像素子で得られた画像のすべてを見る必要はない。つまり、動画像は、人間の目にも止まらぬ速さのものを捉えることができるが、それだけ膨大な情報を有することになる。このため、ユーザが視認して捉えた結果の画像から対象物やその動きの特徴を特定する方が、ユーザが後で見たい画像に対するニーズを確実に捉えていると考えられる。
ステップS4において、信号処理部80は、特徴検出部807により、ライブビュー表示のための撮像動作によって得られる画像データの特徴を検出する。その後、処理はステップS5に移行する。例えば、特徴検出部807は、画像データの特徴として、パターンマッチング、輝度分布の認識、色分布の認識等を利用した顔検出技術を用いて、画像データ中の顔の有無、位置、大きさを検出する。さらに、特徴検出部807は、検出した顔の表情の認識を行ったり、検出した顔を予め登録されている顔のデータと照合することによって個人を特定したりするように構成されていてもよい。また、特徴検出部807は、対象物の検出として、顔以外の各種の対象物の種別を特定するように構成されていてもよい。また、特徴検出部807は、画像の輝度分布、色分布等を利用して対象物の背景の種別を特定する。対象物又は背景を特定するためのデータベースは、特徴検出部807に設けられていてもよいし、外部サーバ3等に設けられていてもよい。さらに、背景の種別の特定に、撮像装置1の現在位置、文字認識の認識結果等が併用されてもよい。このあたりは、シーンに応じて様々な不具合が画像に生じることがあり、必要に応じて教師画像を深層学習させた人工知能の技術を併用してもよい。
ステップS5において、信号処理部80は、姿勢検出部60によって検出された撮像装置1の姿勢の情報を取得する。
ステップS6において、信号処理部80は、表示制御部806により、撮像素子103の撮像動作によって得られた画像データに基づく画像をリアルタイムで表示部30に表示させることでライブビュー表示を行う。より詳しくは、ライブビュー処理部803は、記憶部20から画像データを読み出し、読み出した画像データに対してライブビュー表示のために必要な画像処理を施す。画像選択部805は、ライブビュー処理部803で得られたライブビュー表示のための画像データを表示制御部806に出力する。表示制御部806は、入力された画像データに基づいて表示部30を駆動してライブビュー表示を行う。
ステップS7において、信号処理部80は、撮像制御部801により、撮影用制御を行うか否かを判定する。撮影用制御は、静止画撮影に先立つ自動露出制御(AE)、自動合焦制御(AF)、画角制御等を含む。例えば撮像装置1が自動露出制御と自動合焦制御の何れかを行うように設定されているときには、撮影用制御を行うと判定される。これらの設定は、例えば設定画面においてなされる。また、ユーザの操作部50の操作によって、露出調節の指示、焦点調節の指示、画角調節の指示がされた場合も撮影制御を行うと判定される。ステップS7において、撮影用制御を行うと判定されたときには、処理はステップS8に移行する。ステップS7において、撮影用制御を行わないと判定されたときには、処理はステップS9に移行する。
ステップS8において、信号処理部80は、撮像制御部801により、撮影用制御を行う。その後、処理はステップS9に移行する。例えば、自動露出制御を行うときには、撮像制御部801は、ライブビュー用の撮像動作で得られた画像データから算出される被写体輝度に基づいて静止画撮影時において適正露出を得るために必要な絞り値及びシャッタ速度を算出する。また、例えば、自動合焦制御を行うときには、撮像制御部801は、被写体のコントラスト値を評価してフォーカスレンズを駆動したり、位相検出画素の出力から算出される位相差情報に基づいてフォーカスレンズを駆動したりする。さらに、例えば、画角調整の指示がされたときには、撮像制御部801は、ユーザの指示に従ってズームレンズを駆動する。このように、ユーザがよく確認した画像は、ユーザがこだわりを持って見つめていたと考えられ、それにふさわしい価値があると考えられる。
ステップS9において、信号処理部80は、ユーザによる撮影操作がなされたか否かを判定する。撮影操作は、例えばユーザによるレリーズボタンの操作である。ステップS9において、ユーザによる撮影操作がなされたと判定されたときには、処理はステップS10に移行する。ステップS9において、ユーザによる撮影操作がなされていないと判定されたときには、処理はステップS17に移行する。
ステップS10において、信号処理部80は、撮像制御部801により、静止画記録のための撮像動作を開始させる。その後、処理はステップS11に移行する。ステップS11の撮像動作として、撮像制御部801は、例えばステップS8の自動露出制御によって設定された絞り値及びシャッタ速度に従って撮像素子103の撮像動作を制御する。記憶部20は、撮像動作によって得られた画像データを記憶する。
ステップS11において、信号処理部80は、記録制御部810により、静止画記録のための撮像動作によって得られた画像データを記録媒体40に記録させる。その後、処理はステップS12に移行する。より詳しくは、記録画像処理部804は、記憶部20から画像データを読み出し、読み出した画像データに対して静止画記録のために必要な画像処理を施す。画像選択部805は、記録画像処理部804で得られた記録のための画像データを静止画処理部808に出力する。静止画処理部808は、入力された画像データに対して静止画圧縮を施す。そして、記録制御部810は、静止画圧縮された画像データに所定のヘッダ情報を付与して静止画ファイルを生成し、生成した静止画ファイルを記録媒体40に記録する。
ステップS12において、信号処理部80は、撮像制御部801により、所定のコマ数の画像データが記憶部20に記憶されるように、撮像素子103による撮像動作を所定のフレームレートで実行させる。
ステップS13において、信号処理部80は、表示制御部806により、記憶部20に記憶されている画像データの一覧を表示部30に表示させる。図3A及び図3Bは、一覧表示の例である。ここで、図3A及び図3Bにおいて、左上の画像が最も古い時刻に撮像された画像データであり、そこから右に向かうほど、また、下に向かうほど新しい時刻に撮像された画像データであるとする。また、図3A及び図3Bにおける撮影の対象物は鳥であり、ユーザは鳥の飛び立つ瞬間を撮影しようとしていたとする。図3Aは、ユーザによる撮像装置1の動きが飛び立とうとしている鳥の動きに追従できているときの一覧表示の例である。この場合、一覧表示されている画像データにおける鳥の位置は殆ど変化しない。一方、図3Bは、ユーザによる撮像装置1の動きが飛び立とうとしている鳥の動きに追従できていないときの一覧表示の例である。この場合、一覧表示されている画像データにおける鳥の位置は時々刻々に変化して安定しない。図3Aも図3Bも、同様にユーザのフレーミングによって取得されたものであるが、ユーザがどちらの例で、対象物を確認できていたかと言うと、図3Aの方であるから、こちらの動画が有する貴重な情報は、撮影の時点で使われるだけでなく、後でも有効利用できるようにしておいた方がよい。
ステップS14において、信号処理部80は、一覧表示されている中から画像データがユーザによって選択されたか否かを判定する。ステップS14において、画像データがユーザによって選択されたと判定されたときには、処理はステップS15に移行する。ステップS14において、画像データがユーザによって選択されていないと判定されたときには、処理はステップS16に移行する。このように、ユーザが選択したかどうかという情報も非常に貴重である。このような選択動作があるかないかで、ユーザがどのような画像を必要としていたか、ユーザの嗜好などが情報として取得できるかどうかが決まる。特に、動画には目まぐるしく変化する対象物を記録できるという特徴があるから、情報量が膨大化する傾向があるが、このようなユーザ嗜好による絞り込みによって、その膨大な情報の中から、何が本当に重要かの絞り込みが可能となる。こうしたユーザ嗜好を蓄積して学習するようなシステムとしてもよく、この場合、画像とユーザの選択によって、学習時の教師情報となる。
ステップS15において、信号処理部80は、画像選択部805により、選択処理を行う。選択処理は、ステップS14におけるユーザの画像データの選択に応じてさらに画像データの選択を行う処理である。選択処理の詳細については後で説明するが、選択処理によって画像データの選択がされると、前述した画像データの特徴(対象物特徴及び動画特徴)が検出される。そして、検出された画像データの特徴は選択された画像データと関連付けて記録される。選択処理の終了後、処理はステップS16に移行する。
ステップS16において、信号処理部80は、画像データの選択を終了するか否かを判定する。ステップS16においては、例えば一覧表示とともに表示された終了ボタンがユーザによって選択されたときには、画像データの選択を終了すると判定される。ステップS16において、画像データの選択を終了しないと判定されたときには、処理はステップS13に戻る。ステップS16において、画像データの選択を終了すると判定されたときには、処理はステップS17に移行する。
ステップS17において、信号処理部80は、撮像装置1の電源がオフされたか否かを判定する。ステップS17において、撮像装置1の電源がオフされたと判定されたときには、図2A及び図2Bの処理は終了する。ステップS17において、撮像装置1の電源がオフされていないと判定されたときには、処理はステップS1に戻る。
ステップS1において現在の撮像装置1の動作モードが撮影モードでないと判定されたときのステップS18において、信号処理部80は、現在の撮像装置1の動作モードが再生モードであるか否かを判定する。ステップS18において、現在の撮像装置1の動作モードが再生モードであると判定されたときには、処理はステップS19に移行する。ステップS18において、現在の撮像装置1の動作モードが再生モードでないと判定されたときには、処理はステップS29に移行する。再生モードで、画像の確認をすることもあるが、これもまた、上述のステップS14と同様の処理で、貴重な情報を取得することができる。
ステップS19において、信号処理部80は、表示制御部806により、記録媒体40に記録されている画像ファイルの一覧を表示部30に表示させる。その後、処理はステップS20に移行する。
ステップS20において、信号処理部80は、ユーザによって画像ファイルが選択されたか否かを判定する。ステップS20において、ユーザによって画像ファイルが選択されたと判定されたときには、処理はステップS21に移行する。ステップS20において、ユーザによって画像ファイルが選択されていないと判定されたときには、処理はステップS28に移行する。
ステップS21において、信号処理部80は、表示制御部806により、選択された画像ファイルを表示部30に再生する。なお、後で説明する選択処理を経て記録される動画ファイルには、動画と代表画像との2種類の画像が記録される。このため、信号処理部80は、動画と代表画像の何れを再生するのかをユーザによって選択させ、この選択に応じて画像ファイルを再生する。
ステップS22において、信号処理部80は、再生する画像ファイルを変更するか否かを判定する。ステップS22においては、再生する画像ファイルを変更するための操作部50の操作がユーザによってなされたときには、再生する画像ファイルを変更すると判定される。ステップS22において、再生する画像ファイルを変更すると判定されたときには、処理はステップS23に移行する。ステップS22において、再生する画像ファイルを変更しないと判定されたときには、処理はステップS24に移行する。
ステップS23において、信号処理部80は、ユーザの操作部50の操作に応じて、再生する画像ファイルを変更する。その後、処理はステップS21に戻る。この場合、変更後の画像ファイルが再生される。このようなユーザ操作も、ユーザがよく再生する画像がわかるので、学習機能を有する場合には有効情報にすることが可能であることは言うまでもない。
ステップS24において、信号処理部80は、再生中の画像データを用いての検索を行うか否かを判定する。ステップS24においては、例えば、画像データの再生とともに表示部30に表示される検索ボタンがユーザによる操作部50の操作によって選択されたとき、再生中の画像データを用いての検索処理を行うと判定される。ステップS24において、検索を行うと判定されたときには、処理はステップS25に移行する。ステップS24において、検索を行わないと判定されたときには、処理はステップS27に移行する。
ステップS25において、信号処理部80は、通信制御部811により、再生中の画像データの特徴(対象物特徴及び動画特徴)を外部サーバ3に送信する。その後、処理はステップS26に移行する。画像データの特徴を受信した外部サーバ3は、例えば再生中の画像データの特徴と類似する特徴を有する画像データを検索し、検索した画像データを撮像装置1に対して送信する。なお、画像データは、外部サーバ3を経由して他のサーバ等から検索されてもよい。また、再生中の画像データの特徴は、必ずしも他の画像データの検索に用いられる必要はない。再生中の画像データの特徴は、例えば画像データ以外の情報の検索に使用されてもよい。また、再生中の画像データの特徴は、例えば、各種のIoT機器における制御のために使用されてもよい。
ステップS26において、信号処理部80は、表示制御部806により、外部サーバ3から受信した検索結果(例えば特徴が類似する画像データを示す表示)を表示部30に表示させる。例えば、特徴が類似する画像データを示す表示がされることで、ユーザは、このような表示を手本としてさらなる撮影スキルの向上を図ることができる。この特徴が類似する手本画像は、単に、対象物が似ているといった情報のみならず、対象物の動きの特徴やユーザがどのような代表画像を選択したかといった情報までが加味されて表示されるので、ユーザは、思った通りの手本を利用することができる。手本が正しくないと、無駄な情報ばかりを見る事になり、電池が消耗したり、撮影のチャンスを逃したりする等の問題につながる。
ステップS27において、信号処理部80は、画像ファイルの再生を終了するか否かを判定する。ステップS27においては、例えばユーザによる操作部50の操作によって画像ファイルの再生の終了が指示されたときに、画像ファイルの再生を終了すると判定される。ステップS27において、画像ファイルの再生を終了しないと判定されたときには、処理はステップS21に戻る。この場合には、画像ファイルの再生は継続される。ステップS27において、画像ファイルの再生を終了すると判定されたときには、処理はステップS28に移行する。
ステップS28において、信号処理部80は、再生モードの処理を終了するか否かを判定する。ステップS28において、再生モードの処理を終了しないと判定されたときには処理はステップS19に戻る。ステップS28において、再生モードの処理を終了すると判定されたときには処理はステップS17に移行する。
ステップS18において、現在の撮像装置1の動作モードが再生モードでないと判定されたときのステップS29において、信号処理部80は、通信モードの処理を行う。通信モードにおいては、信号処理部80は、通信制御部811により、ユーザによって指定された画像ファイルを外部機器に送信したり、外部機器から画像ファイル等を受信したりする処理を行う。通信モードの処理の終了後、処理はステップS17に移行する。
次に、選択処理について説明する。図4は、選択処理について示すフローチャートである。ここで、選択処理に先立って、ユーザにより、図3Aに示す画像データS1又は図3Bに示す画像データS2が選択されていたとする。この選択に応じて、画像選択部805の第1の選択部805aは、選択画像データを特定する。
ステップS101において、信号処理部80は、選択画像データにおける対象物を検出する。対象物は、特徴検出部807によって検出されている特徴から検出される。信号処理部80は、例えば、中央に存在する対象物、動きのある対象物といった対象物を検出する。
ステップS102において、信号処理部80は、選択画像データの前に記憶部20に記憶された複数の画像データを取得する。記憶部20から読み出された画像データ(前画像データ)は、画像選択部805に入力される。
ステップS103において、信号処理部80は、第2の選択部805bにより、選択画像データと前画像データとで背景が同等であるか否かを判定する。背景が同等であるか否かは例えば選択画像データと前画像データとの背景部分(対象物を除く部分)の差分によって判定される。例えば、図3Aにおいては、選択画像データS1と前画像データB1の背景は空であるので、背景は同等であると判定される。同様に、図3Bにおいては、選択画像データS2と前画像データB2の背景は空であるので、背景は同等であると判定される。なお、ステップS103における同等とは、完全一致を意味していない。例えば、背景が同等の前画像データの数が所定コマ以上あれば同等であるとみなすようにしてもよい。ステップS103において、選択画像データと前画像データとで背景が同等であると判定されたときには、処理はステップS104に移行する。ステップS103において、選択画像データと前画像データとで背景が同等でないと判定されたときには、処理はステップS106に移行する。つまり、ここでは、ユーザの選択動作を基準にして、その嗜好を反映させて、膨大な画像データの中で、意味があるものを推測するような考え方が含まれている。構図的に、図3Aは、ユーザの嗜好に近い画像が続き、図3Bはそうではない。したがって、どちらかと言えば、ユーザの嗜好に近いのは、図3Aの方であることなどが判定可能で、こうした選択と解析、推論によって、構図の切り口で有用な情報が得られることを示している。ユーザが行う事は単純な選択にすぎないが、本願の考え方の技術がそこから様々な有用情報を引き出している。これはユーザの嗜好の確定に使われたり、検索に使われたりする。
ステップS104において、信号処理部80は、第2の選択部805bにより、選択画像データと前画像データとで撮影品質が同等であるか否かを判定する。ここでの撮影品質とは、対象物に対する合焦状態、対象物に対する露出状態、撮像部10の画角状態の少なくとも何れかである。この他に、手振れの有無等も撮影品質として用いられ得る。合焦状態の判定は、例えば選択画像データと前画像データとのコントラスト値を比較することで行われる。露出状態の判定は、例えば選択画像データと前画像データとの輝度値を比較することで行われる。画角状態の判定は、例えば対象物の位置及び大きさと撮像装置1の姿勢とに基づいて行われる。例えば、図3Aにおいては、選択画像データS1と前画像データB1とで合焦状態、露出状態、画角状態の何れも同等であるので、撮影品質が同等であると判定される。一方、図3Bにおいては、選択画像データS2と前画像データB2とでは少なくとも画角状態が異なっているので、撮影品質は同等でないと判定される。なお、ステップS104における同等とは、完全一致を意味していない。例えば、撮影品質が同等の前画像データの数が所定コマ以上あれば同等であるとみなすようにしてもよい。また、例えば、幾つかの撮影品質が同等であれば比較した画像データ同士の撮影品質は同等であるとみなすようにしてもよい。ここでも、ユーザの選択動作を基準にして、その嗜好を反映させて、膨大な画像データの中で、意味があるものを推測するような考え方が含まれているが、その確認の仕方がさらに厳格化された例を示している。図3Aは、画質的にもユーザの嗜好に近い画像が続き、図3Bはそうではない。したがって、どちらかと言えば、ユーザの嗜好に近いのは、図3Aの方であることなどが判定可能で、こうした選択と解析、推論によって、画質の切り口でのユーザの嗜好や動画全体としてのユーザの満足度など有用な情報が得られることを示している。ステップS104において、選択画像データと前画像データとで撮影品質が同等であると判定されたときには、処理はステップS105に移行する。ステップS105において、選択画像データと前画像データとで撮影品質が同等でないと判定されたときには、処理はステップS106に移行する。
ステップS105において、信号処理部80は、記録制御部810により、第2の画像データとしての前画像データと選択画像データとを動画像として記録媒体40に記録する。このとき、動画処理部809は、前画像データ及び選択画像データを動画圧縮して記録制御部810に入力する。記録制御部810は、動画圧縮された前画像データ及び選択画像データを例えば動画ファイルの形式で記録媒体40に記録する。ステップS105で記録される動画ファイルについては後で説明する。
ステップS106において、信号処理部80は、選択画像データの後に記憶部20に記憶された複数の画像データを取得する。記憶部20から読み出された画像データ(後画像データ)は、画像選択部805に入力される。
ステップS107において、信号処理部80は、第2の選択部805bにより、選択画像データと後画像データとで背景が同等であるか否かを判定する。背景が同等であるか否かの判定は、前画像データのときと同様に行われる。ステップS107において、選択画像データと後画像データとで背景が同等であると判定されたときには、処理はステップS108に移行する。ステップS107において、選択画像データと後画像データとで背景が同等でないと判定されたときには、処理はステップS110に移行する。
ステップS108において、信号処理部80は、第2の選択部805bにより、選択画像データと後画像データとで撮影品質が同等であるか否かを判定する。撮影品質が同等であるかの判定は、前画像データのときと同様に行われる。ステップS108において、選択画像データと後画像データとで撮影品質が同等であると判定されたときには、処理はステップS109に移行する。ステップS108において、選択画像データと後画像データとで撮影品質が同等でないと判定されたときには、処理はステップS110に移行する。
ステップS109において、信号処理部80は、記録制御部810により、第2の画像データとしての後画像データと選択画像データとを動画像として記録媒体40に記録する。このとき、動画処理部809は、後画像データ及び選択画像データを動画圧縮して記録制御部810に入力する。記録制御部810は、動画圧縮された後画像データ及び選択画像データを例えば動画ファイルの形式で記録媒体40に記録する。なお、ステップS105で既に動画ファイルが生成されているときには、記録制御部810は、生成されている動画ファイルに後画像データを追記する。
ステップS110において、信号処理部80は、動画が記録されているか否かを判定する。ステップS110においては、ステップS105とステップS109の少なくとも何れかの処理が行われたときには、動画が記録されていると判定される。ステップS110において、動画が記録されていると判定されたときには、処理はステップS111に移行する。ステップS110において、動画が記録されていないと判定されたときには、図4の処理は終了する。
ステップS111において、信号処理部80は、記録制御部810により、代表画像を動画ファイルに追記する。このとき、静止画処理部808は、代表画像データを静止画圧縮して記録制御部810に入力する。ここで、代表画像は、先に記録した動画の特徴を示す画像であって、ユーザによって選択された選択画像(代表画像1)、動画の特定のタイミングの画像(例えば最初のコマの画像(代表画像2))等を含む。代表画像の記録後、処理はステップS112に移行する。
ステップS112において、信号処理部80は、特徴検出部807により、対象物特徴及び動画特徴を検出する。対象物特徴及び動画特徴の検出後、信号処理部80は、検出した対象物特徴及び動画特徴を動画ファイルに追記する。その後、図4の処理は終了する。
特徴検出部807は、対象物特徴として、例えば、選択画像データの対象物の位置、大きさ、形状(エッジ形状)、色(色分布)を検出する。なお、対象物の位置、大きさ、形状(エッジ形状)、色(色分布)の情報は、コマ毎に検出されてよい。さらに、特徴検出部807は、対象物及び背景の種別を特定する。種別の特定は、対象物及び背景を特定するためのデータベースを参照することで行われる。前述したように、このデータベースは、必ずしも撮像装置1の内部にある必要はない。
また、特徴検出部807は、動画特徴として、例えば、代表画像1及び代表画像2の撮影時間を取得する。また、特徴検出部807は、コマ間の対象物の動きから対象物の移動方向時間及び移動速度(1コマ当たりの移動量)を検出する。また、動画の撮影日付、撮影場所、撮影シーン(静止画撮影時のシーンモード、背景の分析等から判定される)、撮像装置1のカメラ機種種別を取得する。また、特徴検出部807は、前画像データ及び後画像データの撮像時の焦点距離、絞り、シャッタ速度を取得する。また、特徴検出部807は、撮像装置1のユーザ情報の登録がされている場合には、ユーザ情報を取得する。
図5は、選択処理を経て記録される動画ファイルの一例を示す図である。図5に示すように、動画ファイルには、動画、サムネイル画像、代表画像1、代表画像2、対象物特徴、動画特徴が記録される。
動画は、ユーザによって選択された選択画像の前後に取得された複数の画像データを動画の形式で記録した動画データである。撮影開始前に取得される画像データ(前画像データ)は、ユーザが対象物を追いかけて撮像装置1を動かしていたり、画角調節を行ったりといった撮影に至るまでの過程を表している画像データと考えることができる。このような過程を表す画像データをユーザの選択した画像データとともに動画データとして記録しておけば、この動画データは、ユーザの選択した画像データに関連した有益な情報となり得る。しかしながら、図3Bのような変化が大きすぎる前画像は、動画として鑑賞するのには余りふさわしくはない。したがって、本実施形態では、背景及び撮影品質が選択画像データと同等の画像データのみが動画として記録される。なお、動画の鑑賞よりも、撮影に至るまでの過程を記録するという意味においては、図3Bのような動画も記録できるように構成されていてもよい。同じような対象物の画像をその動画を構成する複数コマの中に含みながらも、ユーザの選択によって同じ対象物を得るにせよ、両方の動画を記録しておくことで、例えば図3Aの動画の方がよく、図3Bの方の動画は劣るといった判定が可能である。こうした成功、失敗の情報も記録、学習等によって、良い教師情報、反面教師情報として、手本画像などアドバイスの精度を上げたり、ありがちな失敗例を示したりもすることができる。つまり、ユーザが満足しそうな構図や画質のコマが全体にどれだけ含まれるかをコマ数の比や、或いは数値化した特徴量の差異の比(あるいはそれらの加算や加重平均)等を、満足度の情報として記録しておけば、どの動画が嗜好を満たすものかがわかり、さらに動画の善し悪し情報にもすることができる。つまり、対象物を繰り返して撮像された複数の画像データを取得し、この複数の画像データのうちユーザが第1の画像データを選択すると、それを反映して複数の画像データの満足度を判定することができる。もちろん、この複数の画像データは、動画全体でなく一部でもよい。この選択された第1の画像データを含む動画データと満足度の情報とを記録媒体に記録することによって、ユーザの嗜好が反映された1枚(あるいは複数枚を選べるようにしてもよい)と、それに準拠した前後の画像がどれだけあるかがわかりやすく記録でき、表示や検索に有用な情報となる。
サムネイル画像は、再生モード時の一覧表示の際などで用いられる動画ファイル中の代表画像の縮小画像である。サムネイル画像は、代表画像1又は代表画像2の縮小画像であってもよいし、これらとは別の画像の縮小画像であってもよい。
代表画像1は、選択画像データである。代表画像2は、例えば最初のコマの画像データである。代表画像1及び代表画像2は、静止画として記録される。すなわち、本実施形態では、静止画撮影時において、ユーザによって撮影操作がなされることで記録される撮影画像と、その後にユーザによって選択された代表画像1と、別の代表画像2の3種類の画像が記録される。撮影画像、代表画像1、代表画像2のすべてが記録される必要はない。例えば撮影画像は、動画ファイルの記録後に削除されるように構成されていてもよい。
前述したように、対象物特徴は、選択画像データ(代表画像1)の対象物の特徴情報である。また、動画特徴は、選択画像データの取得の前後の画像データによって構成される動画の特徴情報である。ユーザが画像データを選択するという行為は、様々な情報を含むと考えることができる。例えば、ユーザは他の画像データよりも代表画像1を好んだという情報である。また、一連の画像は代表画像1を撮影するための準備であったという情報である。ユーザによって選ばれなかった画像データのうち、合焦状態、露出状態、画角状態等は、基本的には選択時においてユーザによって確認されているはずである。これらが同一であれば、それ以外の何らかの不満があることがわかる。こういったユーザの撮影の過程を表す画像を動画として記録するとともに、その動画の対象物の特徴及び動画自体の特徴を分析し、他の画像データの検索等に用いればよりユーザの嗜好、意図を反映した検索等が行われることが期待される。
ここで、図5で示したファイルの形式は一例である。図5で示した形式以外に例えば動画は動画コンテナファイルの形式で記録されてもよい。また、図5で示した動画と代表画像とは別のファイルに記録されてもよい。この場合には、両者を関連付けるための情報も併せて記録することが望ましい。
以上説明したように本実施形態によれば、ユーザの撮影操作の前に画像データを取得しておき、その中からユーザによって画像データを選択できるようにしている。これにより、ユーザは、高速で移動する被写体等を撮影する際であっても望む画像を取得できる。また、選択画像データの前後の画像データを動画として記録することにより、撮影の過程を示す動画を記録することができ、選択画像の鑑賞価値をより高めることができる。撮りっぱなしの動画では、ユーザが満足したかどうかがわからずに情報ばかりが蓄積されて行く。一方で、本願のように、ユーザの選択した画像を基準に、その嗜好情報を蓄積したり利用したりすることは、ユーザの画像撮影のスキルアップや他のユーザとの相互参照などの時の迅速性、正確さ、好ましさにつながる。
さらに、対象物特徴及び動画特徴を記録しておくことにより、撮影の過程におけるユーザの意図を情報として記録することができる。このような情報を用いて画像データの検索等を行うことで、よりユーザの意図を反映した検索等が行われ得る。なお、このような検索に際して、対象物の特定やユーザの嗜好、意図の分析等をするために機械学習等が用いられてもよい。
ここで、前述した実施形態では、選択画像データの選択がされなければ、動画が記録されない。これに対し、選択画像データの選択にかかわらずに図5で示したような動画ファイルが記録されるように構成されていてもよい。どの画像も選択されないという情報も、ユーザが最初に撮影された撮影画像で満足した等の情報を得ることができると考えられる。また、前述した実施形態では、選択画像データの前後の画像データを動画として記録しているが、例えば選択画像データの前の画像データだけを動画として記録してもよい。
以上実施形態に基づいて本発明を説明したが、本発明は前述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、本実施形態の技術は、セキュリティ用途、監視カメラ、車載カメラ等にも適用され得る。動画は、静止画のような決定的瞬間の記録という目的の他、その瞬間に到るまで、あるいはその瞬間から、あるいは対象物の動きそのものを記録できるという特徴があるので、こうした変化や過程を記録する医療用、科学用、産業用の記録用途にも、本発明は活用することが可能となっていることは言うまでもない。
また、前述の各動作フローチャートの説明において、便宜上「まず」、「次に」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。
また、上述した実施形態による各処理は、コンピュータである信号処理部80に実行させることができるプログラムとして記憶させておくこともできる。この他、磁気ディスク、光ディスク、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、信号処理部80は、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。また、フローチャートで一律に示した分岐や判定のプロセスは、人工知能によって、より多くの変数を処理した複雑な分岐にしてもよく、ユーザの手動の操作の結果を蓄積した機械学習や深層学習を組み合わせることによって、判断、判定、決定のプロセスを高精度化することが可能となる。また、こうした人工知能の併用は、対象物特徴や画像判定の性能を高度化することが可能となる。つまり、特徴検出部807において、このような技術を使って、対象物特徴及び動画特徴の情報をより正確、詳細なものにしてもよい。
本発明は、前記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。さらに、前記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
例えば、本願出願の当初の特許請求の範囲に記載された発明の他に以下の発明が抽出され得る。
[1] 対象物を繰り返して撮像された複数の画像データを取得することと、
複数の前記画像データのうちの第1の画像データをユーザの操作に応じて選択することと、
前記第1の画像データに基づいて前記撮像された複数の画像データの満足度を判定することと、
前記第1の画像データを含む動画データと、前記満足度の情報とを記録媒体に記録することと、
を具備する撮像方法。
本発明は、前記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。さらに、前記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
例えば、本願出願の当初の特許請求の範囲に記載された発明の他に以下の発明が抽出され得る。
[1] 対象物を繰り返して撮像された複数の画像データを取得することと、
複数の前記画像データのうちの第1の画像データをユーザの操作に応じて選択することと、
前記第1の画像データに基づいて前記撮像された複数の画像データの満足度を判定することと、
前記第1の画像データを含む動画データと、前記満足度の情報とを記録媒体に記録することと、
を具備する撮像方法。
1 撮像装置、2 ネットワーク、3 外部サーバ、10 撮像部、20 記憶部、30 表示部、40 記録媒体、50 操作部、60 姿勢検出部、70 通信部、80 信号処理部、101 撮影レンズ、102 絞り、103 撮像素子、801 撮像制御部、802 読み取り部、803 ライブビュー処理部、804 記録画像処理部、805 画像選択部、805a 第1の選択部、805b 第2の選択部、806 表示制御部、807 特徴検出部、808 静止画処理部、809 動画処理部、810 記録制御部、811 通信制御部。
Claims (7)
- 対象物を繰り返して撮像して複数の画像データを取得する撮像部と、
複数の前記画像データのうちの第1の画像データをユーザの操作に応じて選択する第1の選択部と、
前記第1の画像データに基づいて複数の前記画像データのうちの複数の第2の画像データを選択する第2の選択部と、
前記第1の画像データと、複数の前記第2の画像データを含む動画データと、前記第1の画像データの特徴情報と、前記動画データの特徴情報とを記録媒体に記録する記録制御部と、
を具備する撮像装置。 - 前記第2の選択部は、複数の前記画像データのうちの前記第1の画像データと撮影品質が同等の複数の画像データを前記第2の画像データとして選択する請求項1に記載の撮像装置。
- 前記撮影品質は、前記対象物に対する前記撮像部の合焦状態、前記対象物に対する前記撮像部の露出状態、前記撮像部の画角状態の少なくとも何れかを含む請求項2に記載の撮像装置。
- 前記第1の画像データの特徴情報は、前記第1の画像データにおける前記対象物の情報を含む請求項1乃至3の何れか1項に記載の撮像装置。
- 前記対象物の情報は、前記第1の画像データにおける前記対象物の位置、大きさ、形状、色、種別、及び前記第1の画像データの背景の情報の少なくとも何れかを含む請求項1乃至4の何れか1項に記載の撮像装置。
- 前記動画データの特徴情報は、前記対象物を含むコマの撮影時間、前記対象物の移動方向、移動速度の情報の少なくとも何れかを含む請求項1乃至5の何れか1項に記載の撮像装置。
- 撮像部により、対象物を繰り返して撮像して複数の画像データを取得することと、
複数の前記画像データのうちの第1の画像データをユーザの操作に応じて選択することと、
前記第1の画像データに基づいて複数の前記画像データのうちの複数の第2の画像データを選択することと、
前記第1の画像データと、複数の前記第2の画像データを含む動画データと、前記第1の画像データの特徴情報と、前記動画データの特徴情報とを記録媒体に記録することと、
を具備する撮像方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017043735A JP2018148483A (ja) | 2017-03-08 | 2017-03-08 | 撮像装置及び撮像方法 |
US15/912,536 US20180260650A1 (en) | 2017-03-08 | 2018-03-05 | Imaging device and imaging method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017043735A JP2018148483A (ja) | 2017-03-08 | 2017-03-08 | 撮像装置及び撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018148483A true JP2018148483A (ja) | 2018-09-20 |
Family
ID=63444799
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017043735A Pending JP2018148483A (ja) | 2017-03-08 | 2017-03-08 | 撮像装置及び撮像方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20180260650A1 (ja) |
JP (1) | JP2018148483A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021220892A1 (ja) * | 2020-04-27 | 2021-11-04 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、及びプログラム |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111788544A (zh) * | 2018-02-19 | 2020-10-16 | 株式会社村上开明堂 | 操作检测装置和操作检测方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006166208A (ja) * | 2004-12-09 | 2006-06-22 | Fuji Photo Film Co Ltd | コマ分類情報付与装置及びプログラム |
US8059865B2 (en) * | 2007-11-09 | 2011-11-15 | The Nielsen Company (Us), Llc | Methods and apparatus to specify regions of interest in video frames |
US8452794B2 (en) * | 2009-02-11 | 2013-05-28 | Microsoft Corporation | Visual and textual query suggestion |
US9025817B2 (en) * | 2012-09-05 | 2015-05-05 | Critical Imaging, LLC | System and method for leak detection |
US9753959B2 (en) * | 2013-10-16 | 2017-09-05 | University Of Tennessee Research Foundation | Method and apparatus for constructing a neuroscience-inspired artificial neural network with visualization of neural pathways |
-
2017
- 2017-03-08 JP JP2017043735A patent/JP2018148483A/ja active Pending
-
2018
- 2018-03-05 US US15/912,536 patent/US20180260650A1/en not_active Abandoned
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021220892A1 (ja) * | 2020-04-27 | 2021-11-04 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20180260650A1 (en) | 2018-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8570422B2 (en) | Apparatus, method, and recording medium containing program for photographing | |
JP4957943B2 (ja) | 撮像装置及びそのプログラム | |
JP4518131B2 (ja) | 撮像方法及び装置 | |
CN101990067B (zh) | 照相机和照相机的控制方法 | |
JP4787180B2 (ja) | 撮影装置及び撮影方法 | |
KR101692399B1 (ko) | 감성 기반의 영상을 얻을 수 있는 디지털 영상 처리 장치 및 디지털 영상 처리 방법 | |
US8913150B2 (en) | Dynamic image capture utilizing prior capture settings and user behaviors | |
JP2011182252A (ja) | 撮像装置および画像撮影方法 | |
WO2011058675A1 (ja) | 電子カメラ及び電子カメラ用の半導体集積回路装置 | |
JP2015005860A (ja) | 撮像装置、撮像方法及びプログラム | |
JP6506036B2 (ja) | 撮像機器 | |
US7796163B2 (en) | System for and method of taking image based on objective body in a taken image | |
JP4683337B2 (ja) | 画像表示装置及び画像表示方法 | |
JP4870503B2 (ja) | カメラ、ブログ管理システム | |
JP2018148483A (ja) | 撮像装置及び撮像方法 | |
JP2009290819A (ja) | 撮影装置、撮影制御プログラム、並びに画像再生装置、画像再生プログラム | |
KR20150088200A (ko) | 촬상 장치, 촬상 제어 방법 및 프로그램 | |
JP2018125674A (ja) | 撮影機器及び撮影方法 | |
JP4965361B2 (ja) | カメラ、撮影情報表示方法、およびサーバー | |
JP5368614B2 (ja) | 画像検索装置および画像検索方法 | |
JP2013210572A (ja) | 撮像装置および撮像装置の制御プログラム | |
JP5213285B2 (ja) | カメラおよび撮影方法 | |
JP2012029119A (ja) | 表示制御装置、カメラ、および、表示装置 | |
JP2013081136A (ja) | 画像処理装置および制御プログラム | |
JP7175772B2 (ja) | 撮像装置及び撮像方法 |