JP6425534B2 - 画像処理装置及びその制御方法、並びにプログラム - Google Patents

画像処理装置及びその制御方法、並びにプログラム Download PDF

Info

Publication number
JP6425534B2
JP6425534B2 JP2014262420A JP2014262420A JP6425534B2 JP 6425534 B2 JP6425534 B2 JP 6425534B2 JP 2014262420 A JP2014262420 A JP 2014262420A JP 2014262420 A JP2014262420 A JP 2014262420A JP 6425534 B2 JP6425534 B2 JP 6425534B2
Authority
JP
Japan
Prior art keywords
image
subject
information
processing apparatus
distance information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014262420A
Other languages
English (en)
Other versions
JP2016123003A (ja
Inventor
宏美 古徳
宏美 古徳
晃彦 佐藤
晃彦 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014262420A priority Critical patent/JP6425534B2/ja
Priority to US14/970,899 priority patent/US10382743B2/en
Publication of JP2016123003A publication Critical patent/JP2016123003A/ja
Application granted granted Critical
Publication of JP6425534B2 publication Critical patent/JP6425534B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0085Motion estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置及びその制御方法、並びにプログラムに関し、特に、立体印刷処理に用いられる印刷データを生成する画像処理装置及びその制御方法、並びにプログラムに関する。
デジタルカメラ等の画像処理装置は撮影した画像を印刷するための印刷データを生成し、プリンタ等の印刷装置は生成された印刷データに基づいて印刷処理を行う。また、画像処理装置は、撮影した画像の立体印刷処理を行う際、当該立体印刷処理を行うための印刷データ(以下、「立体印刷データ」という。)を生成する。立体印刷データを生成する技術として、例えば、撮影された画像と、当該画像における被写体の測距情報とに基づいて立体印刷データを生成する技術が知られている(例えば、特許文献1参照)。立体印刷処理を行う専用の印刷装置は、生成された立体印刷データに基づいて立体印刷処理を行い、立体印刷データに基づいた立体的な印刷結果物を出力する。
特開2008−244831号公報
しかしながら、立体印刷データの生成において、被写体の測距情報に基づいて被写体の凹凸を示す情報は容易に取得可能であるが、動く被写体(以下、「動体」という。)の動きの軌跡を示す情報を測距情報から直接的に取得することは困難である。そのため、従来の画像処理装置は印刷結果物から動体の動きの躍動感が伝わる立体印刷データを生成することができないという問題がある。
本発明の目的は、印刷結果物から動体の動きの躍動感が伝わる立体印刷データを生成することができる画像処理装置及びその制御方法、並びにプログラムを提供することにある。
上記目的を達成するために、本発明の画像処理装置は、撮影された時間が異なり且つ被写体画像を夫々含む第1の画像及び第2の画像を取得し、前記取得された第2の画像の立体印刷処理に用いる立体印刷データを生成する画像処理装置であって、前記第1の画像及び前記第2の画像の各々に含まれる被写体画像に対応する距離情報を取得する距離情報取得手段と、前記第1の画像及び前記第2の画像に基づいて前記第2の画像に含まれる被写体画像の移動ベクトルを算出する算出手段と、前記第2の画像、前記第2の画像に含まれる被写体画像に対応する距離情報、及び前記移動ベクトルに基づいて前記立体印刷データを生成する生成手段とを備えることを特徴とする。
本発明によれば、印刷結果物から被写体の動きの躍動感が伝わる立体印刷データを生成することができる。
本発明の実施の形態に係る画像処理装置としてのデジタルカメラの構成を概略的に示すブロック図である。 図1における動き情報算出部で算出される動き情報を説明するための図である。 図1におけるデジタルカメラで実行される動き情報算出処理を説明するためのフローチャートである。 図3の動き情報算出処理で用いられる動き情報を説明するための図であり、図4(a)はn枚目の画像情報を示し、図4(b)は複数のブロックに分割された画像情報を示し、図4(c)は撮影部から被写体までの距離を示し、図4(d)は被写体領域を示し、図4(e)はn−1枚目の画像情報の重心位置情報g1を示し、図4(f)はn枚目の画像情報の重心位置情報g2を示し、図4(g)は被写体の動き情報を示す。 図1におけるデジタルカメラで実行される立体情報算出処理を説明するためのフローチャートである。 図5の立体情報算出処理で用いられる立体情報を説明するための図である。 図1のデジタルカメラの変形例の構成を概略的に示すブロック図である。 図3の動き情報算出処理の変形例を説明するためのフローチャートである。 図8の変形例で用いられる動き情報を説明するための図である。
以下、本発明の実施の形態を図面を参照しながら詳述する。
本実施の形態では、画像処理装置としてのデジタルカメラに本発明を適用した場合について説明するが、本発明の適用先はデジタルカメラに限られず、立体印刷処理を行うための立体印刷データを生成可能な画像処理装置であれば本発明を適用することができる。
図1は、本発明の実施の形態に係る画像処理装置としてのデジタルカメラ100の構成を概略的に示すブロック図である。
図1において、デジタルカメラ100は、撮影部101、画像処理部106、メモリ制御部107、システム制御部108、メモリ109、不揮発性メモリ110、表示部111、操作部112、外部I/F113、記録媒体I/F114、測距部116、距離情報算出部117、動き情報算出部118、立体情報生成部119、印刷データ生成部120を備える。これらはバス105を介して互いに接続されている。また、記録媒体115は記録媒体I/F114と互いに接続されている。撮影部101は、撮影レンズ102、撮像センサ103、及びA/D変換部104を備える。
撮影部101は被写体の画像情報を取得する。具体的に、撮影部101では、撮影レンズ102が被写体の光学像を取り込み、撮像センサ103が取得した画像情報をアナログ画像信号に変換し、A/D変換部104が変換されたアナログ画像信号をデジタル画像信号に変換する。撮影部101はA/D変換部104によって変換されたデジタル画像信号をメモリ109や記録媒体115に送信し、メモリ109及び記録媒体115は受信したデジタル画像信号を画像データとして格納する。本実施の形態では、デジタルカメラ100が撮影モードに設定されると、撮影を開始する前にプレビュー処理を行って異なる時間に撮影部101から複数の画像情報を取得する。
画像処理部106は、メモリ109から画像データを取得し、取得した画像データにリサイズ処理や色変換処理を行う。また、画像処理部106は撮影部101で取得した画像情報を用いて演算処理を行い、システム制御部108に演算結果を送信する。メモリ制御部107はメモリ109に格納された各種データを管理する。システム制御部108は不揮発性メモリ110に格納された各種プログラムを実行してデジタルカメラ100全体を統括的に制御する。例えば、システム制御部108は画像処理部106から受信した演算結果に基づいて撮影部101に露光制御、測距制御、及び光学制御を実行するための制御信号を送信する。メモリ109は撮影部101から送信されたデジタル画像信号を画像データとして格納する。不揮発性メモリ110には、例えば、EEPROMが用いられ、各種プログラムや各種設定情報が格納される。表示部111は、例えば、プレビュー処理で取得した画像情報を表示する。操作部112はユーザの操作によって設定された各種設定情報をシステム制御部108に送信する。外部I/F113は、例えば、図示しないUSBコネクタを介して接続された各種機器とデータ通信を行う。記録媒体I/F114は記録媒体115とデータ通信を行う。記録媒体115は半導体メモリや磁気ディスク等で構成される。メモリ109及び記録媒体115は後述する図3に示す動き情報算出処理及び図5に示す立体情報算出処理で用いられる各種データを格納する。
測距部116は撮影部101で異なる時間に取得された複数の画像情報に対して夫々測距処理を行い、測距処理によって取得した測距情報を距離情報算出部117に送信する。測距処理では、例えば、アクティブ方式やパッシブ方式が用いられる。アクティブ方式では、例えば、測距部116は、当該測距部116が被写体に対して赤外線等の光を照射し、照射した光が反射して測距部116に戻るまでの時間等に基づいて測距情報を算出する。一方、パッシブ方式では、赤外線等の光を用いずに撮影部101で取得した画像情報に基づいて測距情報を算出する。距離情報算出部117は各画像情報及び当該画像情報に対応する測距情報に基づいて撮影部101から被写体までの距離情報を夫々算出する。距離情報は、例えば、撮影部101で取得した画像情報を所定の大きさの複数のブロックに分割し、分割された各ブロックで算出される。動き情報算出部118は、距離情報算出部117で算出された各画像情報に対応する距離情報の差分に基づいて動く被写体である動体の動き情報を算出する。動き情報はX,Y,Z方向の3次元の移動量からなり、図2に示す水平ベクトルp、垂直ベクトルq、奥行きベクトルrで示される。立体情報生成部119は距離情報及び動き情報に基づいて印刷結果物における被写体画像の厚さを示す立体情報を算出する。立体印刷データ生成部121は画像情報及び立体情報に基づいて立体印刷データを生成する。立体印刷データでは、例えば、STL(StandardTriangle Language)やVRML(Virtual Reality Modeling Language)の形式が用いられる。
次に、本実施の形態における動き情報算出処理及び立体情報算出処理について図3及び図5を用いて説明する。
立体印刷データの生成において、被写体までの距離情報に基づいて被写体の凹凸を示す情報は容易に取得可能であるが、動体の動きの軌跡を示す情報を距離情報から直接的に取得することは困難である。そのため、従来の画像処理装置は印刷結果物から動体の動きの躍動感が伝わる立体印刷データを生成することができない。
これに対応して、本実施の形態では、取得した画像情報、被写体までの距離情報、及び動体の動き情報に基づいて立体印刷データを生成する。
図3は、図1におけるデジタルカメラ100で実行される動き情報算出処理を説明するためのフローチャートである。
図3の処理は、システム制御部108が不揮発性メモリ110に格納された各種プログラムを実行することによって行われる。また、図3の処理は、画像情報及び動き情報がメモリ109や記録媒体115に格納されていると、当該画像情報及び動き情報を取得していつでも実行可能であるが、本実施の形態では、一例として、デジタルカメラ100による撮影前のプレビュー処理から撮影が行われるまでの間に実行される場合を示す。
図3において、まず、システム制御部108はプレビュー処理によって異なる時間に撮影部101で複数の画像情報を取得する(ステップS301)。次いで、システム制御部108は距離情報算出部117を制御してステップS301で取得した各画像情報を用いて撮影部101から被写体までの距離情報を算出する(ステップS302)。具体的に、例えば、距離情報算出部117は、図4(a)に示す画像情報を取得した際、図4(b)に示すように、取得した画像情報をX軸方向に関して8等分し、Y軸方向に関して6等分して複数のブロックに分割する。その後、距離情報算出部117は、分割された各ブロックに対応する測距情報を測距部116から取得し、取得した測距情報に基づいて各ブロックにおける撮影部101から被写体までの距離情報を夫々算出する。距離情報は図2のZ軸方向に関する距離である。本実施の形態では、図4(c)に示すように、距離Cは撮影部101から最も遠い距離を示し、距離Bは撮影部101に最も近い距離を示し、距離Aは距離Cと距離Bの間の距離を示す。なお、例えば、図4(b)における各ブロックに付される「A」、「B」、「C」はそれぞれ各ブロックの距離情報A、B、Cを示す。
次いで、システム制御部108は、画像情報及び距離情報を取得し(距離情報取得手段)、取得した画像情報及び距離情報から動体の動き情報を算出する(ステップS303)(算出手段)。具体的に、動き情報算出部118は、まず、ステップS301で取得した各画像情報から被写体の少なくとも一部が存在するブロックからなる被写体領域を夫々特定する。被写体領域の特定において、例えば、動き情報算出部118は各ブロックのうちステップS302で算出された距離情報が所定の範囲内に収まるブロックを同一の被写体領域を構成すると判断する。さらに、動き情報算出部118は距離情報が所定の範囲内に収まる各ブロックによって構成される領域を被写体領域と特定する。本実施の形態では、図4(d)において、ステップS301で取得した画像情報のうちステップS302で算出された距離情報が所定の範囲内に収まるブロックからなる図4(d)の斜線で示す領域、すなわち、距離情報が「A」又は「B」のブロックからなる領域を被写体領域401として特定する。
その後、動き情報算出部118は、特定された被写体領域401の重心位置情報g(g,g,g)を特定する(特定手段)。重心位置情報gの特定において、異なる時間に取得された各画像情報、例えば、n−1枚目の画像情報(図4(e))に含まれる被写体領域401の重心位置情報g(g1x,g1y,g1z)及びn枚目の画像情報(図4(f))に含まれる被写体領域401の重心位置情報g(g2x,g2y,g2z)が夫々特定される。動き情報は、時間的に連続する画像情報における特定された重心位置情報gの差、例えば、特定された重心位置情報g(g1x,g1y,g1z)及び重心位置情報g(g2x,g2y,g2z)の差で算出される。動き情報の水平ベクトルpはg2x及びg1xの差分であり、垂直ベクトルqはg2y及びg1yの差分であり、奥行きベクトルrはg2z及びg1zの差分である。本実施の形態では、重心位置情報g及びgの差がある場合、被写体領域401が動体を示す領域(以下、「動体領域」という。)であると判断し、重心位置情報g及びgの差がない場合、被写体領域401が動体を示す領域でないと判断する。なお、本実施の形態では、時間的に連続する3枚以上の画像情報に含まれる被写体領域の重心位置情報gを加算平均して動き情報を算出してもよい。
次いで、システム制御部108は、n枚目の画像情報、当該画像情報に対応する距離情報及び動き情報の関連性を示す情報を含む管理データの生成指示が行われたか否かを判別する(ステップS304)。
ステップS304の判別の結果、管理データの生成指示が行われたとき、システム制御部108は管理データを生成する(ステップS305)。次いで、システム制御部108は、上記画像情報、距離情報、動き情報、及び管理データをメモリ109又は記録媒体115に格納し(ステップS306)、本処理を終了する。
ステップS304の判別の結果、管理データの生成指示が行われないとき、システム制御部108はステップS301の処理に戻る。
上述した図3の処理によれば、n−1枚目の画像及びn枚目の画像の各々に含まれる被写体領域401の重心位置情報g(g1x,g1y,g1z)、g(g2x,g2y,g2z)の差に基づいて動き情報が算出される。これにより、動き情報の算出処理に用いる情報を必要最小限にすることができ、もって、動き情報の算出処理の負荷を軽減することができる。
なお、上述した図3の処理では、n枚目の画像情報はプレビュー処理において最後に取得された画像情報に対応するが、図3の処理を用いて動き情報が算出される画像情報はn枚目の画像情報に限られない。例えば、当該画像情報はプレビュー処理において任意のタイミングで取得された画像情報であってもよい。
図5は、図1におけるデジタルカメラ100で実行される立体情報算出処理を説明するためのフローチャートである。
図5の処理は、システム制御部108が不揮発性メモリ110に格納された各種プログラムを実行することによって行われる。なお、図5の処理は図3の処理が終了してから立体印刷処理が開始されるまでに行われる。
図5において、まず、システム制御部108は、図3のステップS306で格納された画像情報、距離情報、動き情報、及び管理データを取得する(ステップS501)。次いで、システム制御部108は、立体情報生成部119によってステップS501で取得した距離情報、動き情報、及び管理データに基づいて動体の動きが加味された立体情報Bを算出する(ステップS502)。具体的に、システム制御部108は、まず、取得した距離情報に基づいて被写体の凹凸を示す情報である立体情報Aを算出する。立体情報AはX軸,Y軸,Z軸のそれぞれに関する3次元の位置情報(すなわち、位置ベクトルのX成分、Y成分、Z成分)からなる。また、システム制御部108は、取得した動き情報の水平ベクトルp、垂直ベクトルq、奥行きベクトルrを用いて立体情報Aに動体の動きの躍動感が伝わるような情報を付与する。具体的には、動き情報の水平ベクトルpや垂直ベクトルqのスカラ量が大きくなるほど立体情報AのZ成分を増加させる(Z軸に関する位置情報をオフセットさせる)ように決定して(決定手段)立体情報Bを生成する。すなわち、本実施の形態では、動体の2次元の動き(動体のX軸に関する動きやY軸に関する動き)を被写体画像の厚みに換算する。例えば、図6において、動体領域である被写体領域401の各ブロックの距離情報は動体の2次元の動きに応じて厚みが付与された「h1」となり、被写体領域401以外の各ブロックの距離情報は厚みが付与されない「h0」となる。なお、本実施の形態では、動き情報の水平ベクトルpと垂直ベクトルqのスカラ量のみに応じて立体情報AのZ成分が増加されたが、動き情報の水平ベクトルpと垂直ベクトルqのスカラ量だけでなく奥行きベクトルrのスカラ量にも応じて立体情報AのZ成分を増加させてもよい。
次いで、システム制御部108は、印刷データ生成部120を制御してステップS501で取得した画像情報及びステップS502で算出された立体情報Bに基づいて立体印刷データを生成する(ステップS503)(生成手段)。次いで、システム制御部108は、生成した立体印刷データをメモリ109又は記録媒体115に格納して(ステップS504)、本処理を終了する。
上述した図3及び図5の処理によれば、画像情報、距離情報、及び動き情報に基づいて立体印刷データが生成される。これにより、被写体までの距離情報に基づいて生成された立体情報Aを動体の動きを示す動き情報に基づいて加工することができるので、加工された立体情報Bに基づいて動体の動きが加味された立体印刷データを生成することができる。すなわち、印刷結果物から被写体の動きの躍動感が伝わる立体印刷データを生成することができる。
また、上述した図3及び図5の処理によれば、動き情報の各ベクトルのスカラ量が大きいほど、立体情報AのZ成分が増加されて被写体画像の厚みが増す。これにより、動体の動きが速いほど印刷結果物において観者に被写体画像が迫るため、視覚的に動体の動きの速さを容易に認識可能な立体印刷データを生成することができる。
上述した図5の処理では、動き情報の水平ベクトルp、垂直ベクトルq、奥行きベクトルrのうち被写体の動作を強調したい少なくともいずれか一つのベクトルに基づく立体情報AのZ成分の増加代を他のベクトルに基づく立体情報Aの増加代より大きく規定してもよい。これにより、例えば、立体情報の各ベクトルのうち水平ベクトルpに基づく立体情報AのZ成分の増加代を他のベクトルに基づく立体情報Aの増加代より大きくすると、動体のX方向の動きを強調した立体印刷データを生成することができる。
以上、本発明について実施の形態を用いて説明したが、本発明は上述した実施の形態に限定されるものではない。
例えば、上述した本実施の形態では、複数の画像情報における被写体領域の重心位置情報の差に基づいて被写体の動き情報が算出されたが、各画像情報の分割された各ブロックにおける被写体の一部の距離情報の差に基づいて被写体の動き情報を算出してもよい。
図7は、図1のデジタルカメラ100の変形例の構成を概略的に示すブロック図である。
本変形例は、その構成、作用が上述した実施の形態と基本的に同じであるので、重複した構成、作用については説明を省略し、以下、上述した実施の形態と異なる構成、作用についてのみ詳細に説明する。
図7において、デジタルカメラ700は、デジタルカメラ100に設けられた各構成要素の他に、面内移動量算出部701を備える。面内移動量算出部701もバス105を介して他の構成要素に接続されている。
面内移動量算出部701は、撮影部101で異なる時間に取得した複数の画像情報から面内移動ベクトルを算出する。具体的に、取得した各画像情報を複数のブロックに分割し、ブロックマッチング法を用いて、分割された各ブロックにおける被写体の所定の部分の面内移動ベクトルを算出する。
図8は、図3の動き情報算出処理の変形例を説明するためのフローチャートである。
図8の処理は、システム制御部108が不揮発性メモリ110に格納された各種プログラムを実行することによって行われる。また、図8の処理においても、一例として、デジタルカメラ100による撮影前のプレビュー処理から撮影が行われるまでの間に実行される場合が示される。
図8において、まず、図3のステップS301及びS302と同様の処理を行う。次いで、システム制御部108は、面内移動量算出部701を制御して画像情報における各ブロックの面内移動ベクトルを夫々算出する(ステップS801)。具体的に、面内移動量算出部701は、n−1枚目の画像情報の各ブロック、例えば、図9(a)に示すブロックDにおける被写体の一部分Eの位置情報F(F1x,F1y)を検出する。位置情報F(F1x,F1y)は図9のX軸、Y軸で示す2次元の位置情報からなる。その後、面内移動量算出部701は、n枚目の画像情報のブロックDにおける被写体の一部分Eの位置情報F(F2x,F2y)を検出し、位置情報F及びFの差からブロックDの面内移動ベクトルを算出する。他のブロックでも同様の処理を行って各ブロックの面内移動ベクトルが算出される。
次いで、システム制御部108は、ステップS801で算出した面内移動ベクトル及びステップS302で取得した距離情報に基づいて被写体の動き情報を算出する(ステップS802)。ステップS802において、ステップS801で算出した面内移動ベクトルのX,Y成分と距離情報におけるX,Y軸方向の位置情報のX,Y成分とを合成することで、動き情報のX,Y成分(水平ベクトルp及び垂直ベクトルq)を算出する。また、距離情報におけるZ軸方向の位置情報が動き情報のZ成分(奥行きベクトルr)となる。
次いで、システム制御部108は、図3のステップS304〜S306と同様の処理を行って、本処理を終了する。なお、被写体の一部分Eが存在しないブロックでは面内移動ベクトルが算出されず、結果として動き情報も算出されない。
また、上述した図8の処理でも、n枚目の画像情報はプレビュー処理において最後に取得された画像情報に対応するが、図8の処理を用いて動き情報が算出される画像情報はn枚目の画像情報に限られない。例えば、当該画像情報はプレビュー処理において任意のタイミングで取得された画像情報であってもよい。
上述した図8の処理によれば、プレビュー処理において取得されたn−1枚目の画像情報及びn枚目の画像情報の各々が複数のブロックに夫々分割される。さらに、n−1枚目の画像情報及びn枚目の画像情報において、分割された各ブロックにおける被写体の一部分Eの位置情報F及びFの差に基づいてn枚目の画像情報に含まれる分割された各ブロックの面内移動ベクトルが算出される。これにより、各ブロックで面内移動ベクトルが夫々算出されるので、各面内移動ベクトルに応じて立体印刷データを部分的に加工することにより、各ブロックに対応する被写体の一部の動きを印刷結果物に個別に反映することができ、もって、被写体の各部の動きにメリハリをつけることができる。その結果、印刷結果物から被写体の動きの躍動感がより伝わる立体印刷データを生成することができる。
具体的には、被写体の一部分Eが存在する各ブロックにおいて、当該ブロックの動き情報に基づいて被写体の一部分Eの立体情報を生成する。すなわち、各ブロックの動き情報の水平ベクトルpや垂直ベクトルqのスカラ量が大きくなるほど被写体の一部分Eの立体情報のZ成分を増加させ、ブロック毎に被写体の一部分Eの2次元の動きを被写体画像の部分的な厚みに換算する。例えば、図9(b)において、被写体の一部分Eが存在するブロックの距離情報は当該ブロックにおける被写体の一部分Eの2次元の動きに応じて厚みが付与された「h1」となる。また、被写体の一部分Eが存在する他のブロックの距離情報は当該他のブロックにおける被写体の一部分Eの2次元の動きに応じて厚みが付与された「h2」となる。
上述した図8の処理では、被写体の動き情報を算出する際、距離情報を用いて動き情報のZ成分を取得したが、面内移動ベクトルのみを用いて被写体の動き情報を算出してもよい。すなわち、動き情報のZ成分を取得しなくてもよい。これにより、例えば、撮影条件に起因して、被写体の距離情報が取得できない場合や、距離情報の算出精度が低い場合であっても、被写体の動き情報を算出することができ、もって、印刷結果物から被写体の動きの躍動感がより伝わる立体印刷データを生成することができる。
本発明は、上述の実施の形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ
108 システム制御部
118 動き情報算出部
119 立体情報生成部
120 印刷データ生成部
701 面内移動量算出部

Claims (8)

  1. 撮影された時間が異なり且つ被写体画像を夫々含む第1の画像及び第2の画像を取得し、前記取得された第2の画像の立体印刷処理に用いる立体印刷データを生成する画像処理装置であって、
    前記第1の画像及び前記第2の画像の各々に含まれる被写体画像に対応する距離情報を取得する距離情報取得手段と、
    前記第1の画像及び前記第2の画像に基づいて前記第2の画像に含まれる被写体画像の移動ベクトルを算出する算出手段と、
    前記第2の画像、前記第2の画像に含まれる被写体画像に対応する距離情報、及び前記移動ベクトルに基づいて前記立体印刷データを生成する生成手段とを備えることを特徴とする画像処理装置。
  2. 前記被写体画像の重心位置を特定する特定手段をさらに備え、
    前記算出手段は、前記第1の画像及び前記第2の画像の各々に含まれる被写体画像の重心位置の差に基づいて前記移動ベクトルを算出することを特徴とする請求項1記載の画像処理装置。
  3. 前記算出手段は、前記第1の画像及び前記第2の画像の各々を複数のブロックに夫々分割し、前記第1の画像及び前記第2の画像において、各前記ブロックに対応する被写体画像の一部の位置の差に基づいて前記第2の画像に含まれる被写体画像の移動ベクトルを算出することを特徴とする請求項1記載の画像処理装置。
  4. 前記移動ベクトルに応じて前記被写体画像の厚さを決定する決定手段をさらに備え、
    前記生成手段は、前記第2の画像、前記第2の画像に含まれる被写体画像に対応する距離情報、及び前記決定された被写体画像の厚さに基づいて前記立体印刷データを生成することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記決定手段は、前記移動ベクトルのスカラ量が大きくなるにつれて、前記被写体画像の厚さを大きくすることを特徴とする請求項4記載の画像処理装置。
  6. 前記移動ベクトルは、X,Y,Z方向に関するベクトルを有し、
    前記決定手段は、前記X方向に関するベクトル及び前記Y方向に関するベクトルに基づいて前記被写体画像の厚さを決定することを特徴とする請求項4又は5記載の画像処理装置。
  7. 撮影された時間が異なり且つ被写体画像を夫々含む第1の画像及び第2の画像を取得し、前記取得された第2の画像の立体印刷処理に用いる立体印刷データを生成する画像処理装置の制御方法であって、
    前記第1の画像及び前記第2の画像の各々に含まれる被写体画像に対応する距離情報を取得する距離情報取得ステップと、
    前記第1の画像及び前記第2の画像に基づいて前記第2の画像に含まれる被写体画像の移動ベクトルを算出する算出ステップと、
    前記第2の画像、前記第2の画像に含まれる被写体画像に対応する距離情報、及び前記移動ベクトルに基づいて前記立体印刷データを生成する生成ステップとを有することを特徴とする画像処理装置の制御方法。
  8. 撮影された時間が異なり且つ被写体画像を夫々含む第1の画像及び第2の画像を取得し、前記取得された第2の画像の立体印刷処理に用いる立体印刷データを生成する画像処理装置の制御方法をコンピュータに実行させるプログラムであって、
    前記画像処理装置の制御方法は、
    前記第1の画像及び前記第2の画像の各々に含まれる被写体画像に対応する距離情報を取得する距離情報取得ステップと、
    前記第1の画像及び前記第2の画像に基づいて前記第2の画像に含まれる被写体画像の移動ベクトルを算出する算出ステップと、
    前記第2の画像、前記第2の画像に含まれる被写体画像に対応する距離情報、及び前記移動ベクトルに基づいて前記立体印刷データを生成する生成ステップとを有することを特徴とするプログラム。
JP2014262420A 2014-12-25 2014-12-25 画像処理装置及びその制御方法、並びにプログラム Expired - Fee Related JP6425534B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014262420A JP6425534B2 (ja) 2014-12-25 2014-12-25 画像処理装置及びその制御方法、並びにプログラム
US14/970,899 US10382743B2 (en) 2014-12-25 2015-12-16 Image processing apparatus that generates stereoscopic print data, method of controlling the image processing apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014262420A JP6425534B2 (ja) 2014-12-25 2014-12-25 画像処理装置及びその制御方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2016123003A JP2016123003A (ja) 2016-07-07
JP6425534B2 true JP6425534B2 (ja) 2018-11-21

Family

ID=56165860

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014262420A Expired - Fee Related JP6425534B2 (ja) 2014-12-25 2014-12-25 画像処理装置及びその制御方法、並びにプログラム

Country Status (2)

Country Link
US (1) US10382743B2 (ja)
JP (1) JP6425534B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11461907B2 (en) * 2019-02-15 2022-10-04 EchoPixel, Inc. Glasses-free determination of absolute motion

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007020570A2 (en) * 2005-08-17 2007-02-22 Nxp B.V. Video processing method and device for depth extraction
JP4882823B2 (ja) * 2007-03-27 2012-02-22 カシオ計算機株式会社 印刷データ生成装置及びプログラム
US9256789B2 (en) * 2008-03-21 2016-02-09 Intel Corporation Estimating motion of an event captured using a digital video camera
WO2009157895A1 (en) * 2008-06-24 2009-12-30 Thomson Licensing System and method for depth extraction of images with motion compensation
CN102124745A (zh) * 2008-08-26 2011-07-13 升级芯片技术公司 用于将二维图像信号转换为三维图像信号的装置及方法
JP5066244B2 (ja) * 2010-10-29 2012-11-07 株式会社東芝 映像再生装置及び映像再生方法
US9185388B2 (en) * 2010-11-03 2015-11-10 3Dmedia Corporation Methods, systems, and computer program products for creating three-dimensional video sequences
JP5594477B2 (ja) * 2011-01-26 2014-09-24 Nltテクノロジー株式会社 画像表示装置、画像表示方法、及びプログラム
TWI478575B (zh) * 2011-06-22 2015-03-21 Realtek Semiconductor Corp 3d影像處理裝置
JP5333534B2 (ja) * 2011-07-19 2013-11-06 カシオ計算機株式会社 画像処理装置及び画像処理方法
JP2015019204A (ja) * 2013-07-10 2015-01-29 ソニー株式会社 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US10382743B2 (en) 2019-08-13
US20160191894A1 (en) 2016-06-30
JP2016123003A (ja) 2016-07-07

Similar Documents

Publication Publication Date Title
JP5327339B2 (ja) 画像処理システム、画像処理方法、およびプログラム
US20130136302A1 (en) Apparatus and method for calculating three dimensional (3d) positions of feature points
KR102387891B1 (ko) 화상 처리장치, 화상 처리장치의 제어방법, 및 컴퓨터 판독가능한 기억매체
CN111373748A (zh) 用于外部校准相机和衍射光学元件的系统和方法
WO2019093457A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP6723720B2 (ja) 表示システム、情報処理方法及びプログラム
CN110969706B (zh) 增强现实设备及其图像处理方法、系统以及存储介质
JP2019102907A (ja) 設定装置、設定方法、及びプログラム
JP2022058770A5 (ja) 画像処理システム、画像処理方法及びプログラム
JP6425534B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
US10218920B2 (en) Image processing apparatus and control method for generating an image by viewpoint information
CN111742352A (zh) 3d对象建模方法以及相关设备和计算机程序产品
JP5808004B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP4871315B2 (ja) 複眼撮影装置およびその制御方法並びにプログラム
US20220383586A1 (en) Image processing apparatus, method for controlling the same, and non-transitory computer-readable storage medium
TWI694719B (zh) 影像處理方法,電子裝置及非暫態電腦可讀取儲存媒體
JP6929037B2 (ja) 情報処理装置、情報処理方法、プログラム
KR101915844B1 (ko) 3차원 열상 정보 생성 장치 및 방법
JP2009186369A (ja) 奥行き情報取得方法、奥行き情報取得装置、プログラムおよび記録媒体
WO2019244200A1 (ja) 学習装置、画像生成装置、学習方法、画像生成方法及びプログラム
JP2020160756A5 (ja)
JP2015121892A (ja) 画像処理装置、画像処理方法
JP7418981B2 (ja) 画像処理装置、制御方法、およびプログラム
JP2011048545A (ja) 画像合成装置及びプログラム
JP2017056607A (ja) データ処理装置、データ処理方法、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180925

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181023

R151 Written notification of patent or utility model registration

Ref document number: 6425534

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees