JP2014192794A - 奥行き制作支援装置、奥行き制作方法、及びプログラム - Google Patents

奥行き制作支援装置、奥行き制作方法、及びプログラム Download PDF

Info

Publication number
JP2014192794A
JP2014192794A JP2013068165A JP2013068165A JP2014192794A JP 2014192794 A JP2014192794 A JP 2014192794A JP 2013068165 A JP2013068165 A JP 2013068165A JP 2013068165 A JP2013068165 A JP 2013068165A JP 2014192794 A JP2014192794 A JP 2014192794A
Authority
JP
Japan
Prior art keywords
depth
depth value
frames
frame
adjacent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013068165A
Other languages
English (en)
Other versions
JP6182930B2 (ja
Inventor
Akihiro Sasaki
晃洋 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP2013068165A priority Critical patent/JP6182930B2/ja
Publication of JP2014192794A publication Critical patent/JP2014192794A/ja
Application granted granted Critical
Publication of JP6182930B2 publication Critical patent/JP6182930B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】被写体全体がカメラに向かって前進・後退する動画中の被写体輪郭線の奥行き設定を簡単な操作で行える奥行き制作支援装置を提供する。
【解決手段】複数のフレームで構成される動画像の、少数のキーフレームのマスク画像の輪郭線に全体に一律の奥行きであるベース奥行き値を設定し、隣り合うキーフレーム間の輪郭線のベース奥行き値を補間処理により求める。次に、少数のキーフレームの輪郭線上の局所的な凹凸を示す位置にアンカーポイントを設け、アンカーポイントの奥行き値を設定する。アンカーポイントの奥行き値とベース奥行き値を加算することにより最終奥行き値を求めるとともに、キーフレーム以外の全フレームの最終奥行き値を補間処理により求め、奥行き画像を制作する。
【選択図】図3

Description

本発明は、立体視を実現するための視差画像を生成する視差画像生成装置が利用する奥行き画像を制作する奥行き制作支援装置等に関する。
従来、3次元映像表示システムでは、大別して、2視差方式のものと、3以上の視差を持つ多視差方式のものがある。いずれの方式も、必要な視点数からシーンを見た映像を準備する必要がある。
最も直接的な映像の制作方法としては、必要な視差数分のカメラを用意し、同一シーンを所定の間隔に配置された複数のカメラで撮影する方法が考えられる。最近では2視差を直接撮影できるカメラが市販されているが、多視差を直接撮影できるカメラは一般的でない。
また、3次元CG(Computer Graphics)画像を作成し、複数のカメラ位置を設定してレンダリングする方法も考えられる。3次元CG画像には奥行き情報が含まれており、3次元画像から多視差方式に対応した視差画像を作成することは可能である。しかし、カメラ位置の数が多い場合、レンダリング回数が多くなり、時間とコストがかかるという問題がある。さらに、ほとんどの映像はCG画像ではなく実写であり、実写から3次元映像を作成することが求められている。
実写映像による多視差映像を制作する為に、平面(2D)映像を基にして多視差映像に変換する手法(いわゆる2次元/3次元変換の手法)は、いくつか存在する。しかし、多視差映像に変換する手法では、奥行き情報がない。そのため全てのシーン(フレーム)において手作業で1枚ずつ奥行き情報を作成する必要が生じ、非常に作業負荷が高かった。
そこで、奥行き値を設定するための手法として、例えば、特許文献1には、ユーザ指示に応じてメッシュ形状を変形させ、奥行き値を設定する技術が提案されている。また、特許文献2には、ユーザ指示に応じて等高線を描き、その等高線に奥行き値を設定する技術が提案されている。また、非特許文献1には、3次元空間内において、映像の選択部分をユーザが移動・回転させ、奥行き値を設定する技術が提案されている。
しかしながら、特許文献1に記載の技術は、操作すべき項目が多く、1フレーム分の奥行き情報を設定するために長時間を要し、設定した奥行き値が確認し難いという課題があった。また、特許文献2に記載の技術は、等高線を描き、奥行き情報を設定するために長時間を要するだけでなく、被写体が複雑な形状をしている場合、等高線の描写が困難になるという課題があった。また、非特許文献1に記載の技術は、設定方法は簡略化されているものの、異なるフレームにおける奥行き値の比較ができないため、位置関係の矛盾が生じやすいという課題があった。
そこで、本発明者らは、特許文献3において、(1)グラフとスライドバーを使用して奥行き値を設定する技術、(2)グラフとプレビュー画面を使用して奥行き値を確認する技術、(3)キーフレーム間の奥行き値を補間する技術、(4)前述の技術に基づいて奥行き画像及びラベル画像を生成する技術、を提案している。
さらに、本出願人は、特許文献4及び特許文献5において、局所的な凹凸を表現した奥行き画像を制作する技術を提案している。
特表2010−516155号公報 特表2011−523323号公報 特願2011−168920号 特願2012−069923号 特願2012−222840号
DepthDirector: A System for Adding Depth to Movies
しかしながら、特許文献1及び特許文献2に記載の技術では、操作すべき項目が多く、1フレーム分の奥行き情報を設定するために長時間を要するという従来からの課題がある。また、特許文献3に記載の技術では、マスク領域の局所的な出っ張りを表現できないという課題が残されているが、その課題を特許文献4に記載の技術で解決している。
しかしながら、特許文献4に記載の技術では、静止画像の局所的な凹凸を表現した奥行き画像を制作するものである。そこで、特許文献4に記載の技術を動画像に対応させることも可能であるが、1フレームずつ手作業で奥行き情報を設定するために多くの時間を要し、非常に作業負荷が高くなる課題があった。この課題を、特許文献5に記載の技術で解決している。
特許文献5に記載の技術では、動画像の各フレームの被写体に設定した一筆書きの輪郭線へ奥行き値を設定する際、輪郭線の少数の代表点(以下、アンカーポイントと記載する)への奥行き値を入力し、それらの間を補間することにより奥行き設定を行う。
図16は、特許文献5に記載の技術による奥行き設定を説明する図である。
図16(a)のフレームaから図16(b)のフレームbにかけて、被写体がカメラに向かって前進してくるような画像に対してアンカーポイントを設置した状況を示している。
奥行き値の範囲は1〜255であり、フレームaからフレームbにかけて、奥行き値を+50増加させるように設定されている。すなわち、指先に設置したアンカーポイントの奥行き値はフレームaでは150、フレームbでは200に設定されている。ここで、フレームbにおいて被写体全体をより飛びださせるように更に+50奥行き値を増加させる設定をする場合、フレームbのすべてのアンカーポイントの奥行き値を1つ1つ変更する必要があり、手間と時間がかかるという問題がある。
本発明は、前述した問題点に鑑みてなされたものであり、その目的とするところは、被写体全体がカメラに向かって前進・後退する動画中の被写体輪郭線の奥行き設定を簡単な操作で行える奥行き制作支援装置等を提供することである。
前述した目的を達成するために、第1の発明は、立体視を実現するための視差画像の生成処理に利用する奥行き画像の制作を支援する奥行き制作支援装置であって、元の動画像の各フレーム内に描画されている特定の被写体を識別するために2値化された複数のフレームのマスク画像を読み込むマスク画像入力手段と、前記マスク画像に対して輪郭線を設定する輪郭線設定手段と、前記複数のフレームのマスク画像に対して、キーとなる第1のフレームを少なくとも2つ設定し、前記第1のフレーム毎に、輪郭線全体に一律の値である第1の奥行き値を設定するベース奥行き値設定手段と、隣り合う2つの前記第1のフレーム間にあるフレームの前記第1の奥行き値を、隣り合う2つの前記第1のフレームに設定された前記第1の奥行き値から補間により求めるベース奥行き値補間手段と、前記複数のフレームのマスク画像に対して、キーとなる第2のフレームを少なくとも2つ設定し、各前記第2のフレームの輪郭線上の対応する位置に複数の第1の点を設定し、前記第1の点に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するアンカーポイント設定手段と、前記第2のフレームの前記第1の点に設定された前記第2の奥行き値と、当該第2のフレームの前記第1の奥行き値を加算し、前記第2のフレームの前記第1の点の最終奥行き値を決定し、前記第2のフレームの隣り合う前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記隣り合う前記第1の点の前記最終奥行き値から補間により求める奥行き決定手段と、を具備することを特徴とする奥行き制作支援装置である。
第1の発明によって、動画中の被写体輪郭線の奥行き設定を簡単な操作で行うことが可能になる。
例えば、被写体全体がカメラに向かって前進したり、カメラから遠ざかるよう後退する動画について、ベース奥行き値設定手段により、被写体の輪郭線に一律の第1の奥行き値を設定し、アンカーポイント設定手段により、輪郭線上の特定の点(第1の点)に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するという簡単な操作により、前記奥行き決定手段が、前記第1の奥行き値と前記第2の奥行き値を加算して第1の点の最終的な奥行き値を求め、この値を元に輪郭線上の各位置の最終奥行き値を補間により求めることが可能になる。
前記輪郭線は、1ストロークで描画される閉曲線であることが好ましい。
また、前記第1のフレームは、前記複数のフレームのマスク画像のうちの最初のフレームと最後のフレームを含むことが望ましい。
前記ベース奥行き値補間手段は、前記隣り合う2つの第1のフレームに設定された前記第1の奥行き値を、前記隣り合う2つの第1のフレーム間にあるフレームと、前記隣り合う2つの第1のフレームとの間隔の比率によって線形補間することにより、前記隣り合う2つの第1のフレーム間にあるフレームの前記第1の奥行き値を決定する。
また、前記奥行き決定手段は、前記第2のフレームの前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記第1の点と前記輪郭線上の各位置の距離の比率によって前記第1の点の最終奥行き値を線形補間することにより求める。
前記奥行き決定手段は、隣り合う前記第2のフレーム間の各フレームの、前記第2のフレームに設定された前記第1の点に対応する第2の点の位置情報を、前記隣り合う第2のフレームの前記第1の点の位置情報を、前記隣り合う2つの第2のフレーム間にあるフレームと、前記隣り合う2つの第2のフレームとの間隔の比率によって線形補間することにより求め、前記第2の点の最終奥行き値を、前記隣り合う第2のフレームの前記第1の点の前記最終奥行き値を、前記隣り合う2つの第2のフレーム間にあるフレームと、前記隣り合う2つの第2のフレームとの間隔の比率によって線形補間することにより求める。
前記奥行き決定手段は、隣り合う2つの前記第2の点間の輪郭線上の各位置の最終奥行き値を、前記第2の点と前記輪郭線上の各位置の距離の比率によって前記第2の点の最終奥行き値を線形補間することにより求める。
これにより、全フレームのマスク画像の輪郭線上の全ての位置の最終奥行き値が決定可能になる。
前記奥行き決定手段は、前記最終奥行き値に基づき、前記輪郭線の内部領域が滑らかな平面となるように前記マスク画像の各画素の奥行き値を算出し、前記奥行き画像を作成する。
これにより、全フレームのマスク画像の全画素の最終奥行き値が求まり、奥行き画像の制作が可能になる。
第1の発明によって、被写体全体がカメラに向かって前進したり、カメラから遠ざかるよう後退する動画において、被写体全体の動きについて第1の奥行き値を設定し、輪郭線上の局所的な凹凸について第2の奥行き値を設定することにより、被写体全体の動きと、局所的な凹凸の奥行きを分けて設定可能になり、各フレームの輪郭線上の点の奥行き値を被写体全体の動きと局所的な凹凸を考慮していちいち入力する手間を省き、簡単な操作による奥行き画像制作が可能になる。
第2の発明は、立体視を実現するための視差画像の生成処理に利用する奥行き画像を制作する奥行き制作方法であって、コンピュータが、元の動画像の各フレーム内に描画されている特定の被写体を識別するために2値化された複数のフレームのマスク画像を読み込むマスク画像入力ステップと、前記マスク画像に対して輪郭線を設定する輪郭線設定ステップと、前記複数のフレームのマスク画像に対して、キーとなる第1のフレームを少なくとも2つ設定し、前記第1のフレーム毎に、輪郭線全体に一律の値である第1の奥行き値を設定するベース奥行き値設定ステップと、隣り合う2つの前記第1のフレーム間にあるフレームの前記第1の奥行き値を、隣り合う2つの前記第1のフレームに設定された前記第1の奥行き値から補間により求めるベース奥行き値補間ステップと、前記複数のフレームのマスク画像に対して、キーとなる第2のフレームを少なくとも2つ設定し、各前記第2のフレームの輪郭線上の対応する位置に複数の第1の点を設定し、前記第1の点に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するアンカーポイント設定ステップと、前記第2のフレームの前記第1の点に設定された前記第2の奥行き値と、当該第2のフレームの前記第1の奥行き値を加算し、前記第2のフレームの前記点の最終奥行き値を決定し、前記第2のフレームの隣り合う前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記隣り合う前記第1の点の前記最終奥行き値から補間により求める奥行き決定ステップと、を実行することを特徴とする奥行き制作方法である。
第3の発明は、コンピュータを、立体視を実現するための視差画像の生成処理に利用する奥行き画像の制作を支援する奥行き制作支援装置として機能させるためのプログラムであって、コンピュータを、元の動画像の各フレーム内に描画されている特定の被写体を識別するために2値化された複数のフレームのマスク画像を読み込むマスク画像入力手段、前記マスク画像に対して輪郭線を設定する輪郭線設定手と、前記複数のフレームのマスク画像に対して、キーとなる第1のフレームを少なくとも2つ設定し、前記第1のフレーム毎に、輪郭線全体に一律の値である第1の奥行き値を設定するベース奥行き値設定手段、隣り合う2つの前記第1のフレーム間にあるフレームの前記第1の奥行き値を、隣り合う2つの前記第1のフレームに設定された前記第1の奥行き値から補間により求めるベース奥行き値補間手段、前記複数のフレームのマスク画像に対して、キーとなる第2のフレームを少なくとも2つ設定し、各前記第2のフレームの輪郭線上の対応する位置に複数の第1の点を設定し、前記第1の点に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するアンカーポイント設定手段、前記第2のフレームの前記第1の点に設定された前記第2の奥行き値と、当該第2のフレームの前記第1の奥行き値を加算し、前記第2のフレームの前記第1の点の最終奥行き値を決定し、前記第2のフレームの隣り合う前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記隣り合う前記第1の点の前記最終奥行き値から補間により求める奥行き決定手段、として機能させるためのプログラムである。
本発明により、被写体全体がカメラに向かって前進・後退する動画中の被写体輪郭線の奥行き設定を簡単な操作で行える奥行き制作支援装置等を提供することが可能になる。
本発明の実施の形態に係る奥行き制作支援装置1のハードウエアの構成例を示す図 奥行き制作支援装置1及び視差画像生成装置の入出力データを示す図 動画像の奥行き制作支援処理の流れを示すフローチャート 奥行き制作支援装置1への入力データを示す図 奥行き制作支援装置1の処理の対象となる2次元画像31の一例を示す図 2次元画像31から作成されるマスク画像51の一例を示す図 マスク画像51に設定された輪郭線61の一例を示す図 カメラに向かって前進する被写体のマスク画像の説明図 ベース奥行き値設定画面70の一例を示す図 ベース奥行き値の設定方法を説明する図 ベース奥行き値設定データ80の一例を示す図 ベース奥行き値データ85の一例を示す図 アンカーポイント設定画面90の一例を示す図 本実施形態の奥行き制作支援装置1による奥行き値設定方法を説明する図 奥行き決定処理(図3のステップ6)の処理の詳細を示すフローチャート 従来の奥行き値設定方法を説明する図
以下、添付図面に基づいて、本発明に係るエッチングレート測定装置の好適な実施形態について詳細に説明する。
図1は、本発明の実施形態に係る輪郭線対応点決定支援装置1のハードウエア構成図である。尚、図1のハードウエア構成は一例であり、用途、目的に応じて様々な構成を採ることが可能である。
輪郭線対応点決定支援装置1は、制御部11、記憶部12、メディア入出力部13、通信制御部14、入力部15、表示部16、周辺機器I/F部17等が、バス18を介して接続される。
制御部11は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等で構成される。
CPUは、記憶部12、ROM、記録媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス18を介して接続された各装置を駆動制御し、輪郭線対応点決定支援装置1が行う後述する処理を実行する。ROMは、不揮発性メモリであり、輪郭対応点決定支援装置1のブートプログラムやBIOS等のプログラム、データ等を恒久的に保持している。RAMは、揮発性メモリであり、記憶部12、ROM、記録媒体等からロードしたプログラム、データ等を一時的に保持するとともに、制御部11が各種処理を行う為に使用するワークエリアを備える。
記憶部12は、HDD(ハードディスクドライブ)等であり、制御部11が実行するプログラム、プログラム実行に必要なデータ、OS(オペレーティングシステム)等が格納される。プログラムに関しては、OS(オペレーティングシステム)に相当する制御プログラムや、後述する処理を輪郭線対応点決定支援装置1に実行させるためのアプリケーションプログラムが格納されている。これらの各プログラムコードは、制御部11により必要に応じて読み出されてRAMに移され、CPUに読み出されて各種の手段として実行される。
メディア入出力部13(ドライブ装置)は、データの入出力を行い、例えば、CDドライブ(−ROM、−R、−RW等)、DVDドライブ(−ROM、−R、−RW等)等のメディア入出力装置を有する。
通信制御部14は、通信制御装置、通信ポート等を有し、輪郭線対応点決定支援装置1とネットワーク間の通信を媒介する通信インタフェースであり、ネットワークを介して、他の装置間との通信制御を行う。ネットワークは、有線、無線を問わない。
入力部15は、データの入力を行い、例えば、キーボード、マウス等のポインティングデバイス、テンキー等の入力装置を有する。入力部15を介して、輪郭線対応点決定支援装置1に対して、操作指示、動作指示、データ入力等を行うことができる。
表示部16は、CRTモニタ、液晶パネル等のディスプレイ装置、ディスプレイ装置と連携して輪郭線対応点決定支援装置1のビデオ機能を実現するための論理回路等(ビデオアダプタ等)を有する。
周辺機器I/F(インタフェース)部17は、輪郭線対応点決定支援装置1に周辺機器を接続させるためのポートであり、周辺機器I/F部17を介して輪郭線対応点決定支援装置1は周辺機器とのデータの送受信を行う。周辺機器I/F部17は、USBやIEEE1394やRS−232C等で構成されており、通常複数の周辺機器I/Fを有する。周辺機器との接続携帯は有線、無線を問わない。
バス18は、各装置間の制御信号、データ信号等の授受を媒介する経路である。
図2は、奥行き制作支援装置1および視差画像生成装置2の入出力データを示す図である。図2に示すように、奥行き制作支援装置1は、2次元画像3、背景画像4、マスク画像5、輪郭線6、および奥行き値7を入力データとし、奥行き画像8、およびラベル画像9を出力データとする。視差画像生成装置2は、2次元画像3、奥行き画像8、およびラベル画像9を入力データとし、視差画像10を出力データとする。
2次元画像3、背景画像4、マスク画像5、輪郭線6は、奥行き制作支援装置1の制御部11(以下、「制御部11」と略記する。)が生成してもよいし、メディア入出力部13、通信制御部14等を介して外部から取得してもよい。
また、本実施の携帯の奥行き制作支援装置1では、奥行き値7については、少数のフレーム及び少数の輪郭線上の点についての奥行き値7を入力部15を介して入力することにより、奥行き制作支援装置1がその他のフレーム及びその他の輪郭線上の点についての奥行き値7を生成する。詳細については後述する。
2次元画像3は、動画像(平面映像)の1枚分のフレーム画像または静止画像である。動画像(平面映像)には、例えば、単位時間当たり所定のフレーム数(通常、1秒間に30フレーム)のカラー静止画像が含まれており、各画素がRGB各256段階の階調を持つ。
背景画像4は、背景の奥行き感を示す画像である。背景画像4は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、別途ソフトウエアを用いて自動的に生成してもよい。
マスク画像5は、特定の被写体を識別するための2値化画像である。マスク画像5は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、別途ソフトウエアを用いて自動的に生成してもよい。
輪郭線6は、マスク画像5の2値の境界を示す線である。輪郭線6は、制御部11が輪郭線検出処理を行って生成するようにしてもよいし、ユーザがマウス等を使用して入力してもよい。
奥行き値7は、被写体の奥行き方向の位置を定義する値である。本発明では、奥行き値7の画素値の範囲を0〜255の256階調として表現する。0が黒、255が白、1〜254がグレー(中間調)に対応する。ユーザの入力操作によって、マスク画像の少数のフレームに設定されるベース奥行き値と、輪郭線6に沿っていくつかの点(以下、アンカーポイントと呼ぶ)について設定される局所的な凹凸の奥行き値が入力されると、制御部11によって輪郭線6の内部領域の各画素の奥行き値7が算出され、設定される。
奥行き制作支援装置1は、2次元画像3、背景画像4、マスク画像5、輪郭線6、および奥行き値7に基づいて、奥行き画像8の制作を支援するものである。特に、本発明の実施の形態における奥行き制作支援装置1は、カメラに向かって前進したりカメラから遠ざかるように後退する立体物(被写体)の奥行き値の設定を簡単に行えるようにする方法に特徴がある。
奥行き画像8は、2次元画像3に係るカメラから被写体までの奥行き値を画素値に置き換えた画像である。ここで、カメラとは、視差画像生成装置2の内部処理において定義される仮想的なカメラを意味する。
奥行き画像8は、例えば、画素値の範囲が0〜255(8ビット)のグレースケールであり、0(黒)が最も奥、255(白)が最も手前を意味する場合が多いが、逆であってもよい。以下では、説明を分かり易くするために、奥行き画像8は、画素値の範囲が0〜255であり、0(黒)が最も奥、255(白)が最も手前を意味するものとする。
ラベル画像9は、それぞれの2次元画像3に対応付けて、2次元画像3に記録されたシーンを構成する被写体を識別する固有の数値(ラベル値)によって領域分けし、このラベル値を画素値に置き換えた(ラベリングされた)画像である。例えば、背景、建物、および人物から構成されるシーンにおいて、背景、建物、および人物に相当するラベル値として、それぞれL0、L1、L2を割り当て、対応する2次元画像3の各画素がどの被写体に属しているかを、L0、L1、L2の画素値に置き換えることによって表現する。
ラベル画像9は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、本発明のように、奥行き制作支援装置1が自動的に生成してもよい。
視差画像10は、立体視を実現するための画像である。本発明の実施の形態では、視差画像10は、特に、両目視差(約60mm〜70mm程度)を利用し、裸眼観察によって立体視を実現するための画像である。
尚、本発明の実施の形態では詳細に述べないが、複数の視差画像10をディスプレイの仕様に合わせて合成し、ディスプレイに表示することによって、裸眼観察による立体視を実現することが可能となる。複数の視差画像10の合成処理については、公知の技術を利用すればよい。
視差画像生成装置2は、2次元画像3、奥行き画像8、およびラベル画像9に基づいて視差画像10を生成するものである。視差画像生成装置2の詳細は、本出願人が先に出願した、特願2010−176864号、および特願2011−55878号に記載されている。
図3は、奥行き制作支援装置1が実行する動画像の奥行き制作支援処理の流れを説明するフローチャートである。
ステップ1において、奥行き制作支援装置1の制御部11(以下、制御部11ともいう。)は、ユーザからの指示に基づいて入力画像群(動画像)を読み込む。
ステップ2において、制御部11は、ユーザによって輪郭抽出が指示されると、マスク画像5の輪郭を検出し、マスク画像上に輪郭線6を描画する。輪郭線6は、1ストロークで描画される閉曲線である。尚、輪郭線6の検出方法は、例えば、画素値の変化に基づいてエッジ(境界)を認識するといった一般的な手法を用いればよい。また、輪郭線6は、ユーザがマウス等の入力部15を用いて入力したり、軌跡の形状を変形して得るようにしてもよい。
次に、制御部11は、ステップ3において、ベース奥行き値83の設定を行う。
ベース奥行き値83の設定(ステップ3)は、本実施形態の奥行き制作支援装置1の特徴的な処理構成である。
ベース奥行き値83は、一旦、被写体の輪郭線6に一律に設定される奥行き値であり、被写体全体の奥行き方向の位置を決定するものである。制御部11は、少数のフレームについてのベース奥行き値83の設定を支援する画面を表示部16に表示し、ユーザに入力させる。
ベース奥行き値83の設定については、後述する。
次に、制御部11は、ステップ4において、ステップ3で設定された少数のフレームについてのベース奥行き値83を元に、全てのフレームのベース奥行き値83を補間により求める。
次に、制御部11は、ステップ5において、少数のフレーム上に対応する点(以下、アンカーポイントと呼ぶ)を設定し、マスク画像の輪郭線の局所的な凹凸を表す奥行き値を設定する。制御部11は、アンカーポイントと、アンカーポイントの奥行き値の入力を支援する画面を表示部16に表示し、ユーザに入力させる。
次に、制御部11は、ステップ6において、ステップ4のベース奥行き値補間処理及びステップ5のアンカーポイントの設定処理によって求まった、ベース奥行き値83及び局所的な凹凸を表す奥行き値を元に、全てのフレームについて、輪郭線上の全ての点の最終奥行き値を算出し、奥行き画像を作成する。
以下、図3に示した動画像の奥行き制作支援処理について詳細に説明する。
図4は、奥行き制作支援装置1が扱う入力画像群を説明するための図である。
図4に示すように、入力画像群は、フレームごとに、2次元画像、被写体1から被写体nのn枚のマスク画像、及び背景画像が1組になっている。マスク画像の枚数nは、動画像に現れる立体物(被写体)の数に対応する。背景画像は、2次元画像のなかの立体物(被写体)を除いた部分の画像である。
例えば、フレーム数が1000枚の場合、2次元画像は1000枚、マスク画像はn×1000枚、背景画像は1000枚準備される。
図5は、図3のステップ1によって奥行き制作支援装置1に入力させる1フレーム分の2次元画像31の一例を示す図である。
図5に示す2次元画像31には1つの立体物(被写体)からなるので、1フレームの入力画像群は、二次元画像と1枚のマスク画像と、背景画像で構成される。
図5に示す二次元画像31は、男性の被写体が左手でカメラ方向に腕を伸ばして指を指している。
図6は、図3のステップ1によって奥行き制作支援装置1に入力させる図5に示した二次元画像31のマスク画像51を示す図である。
マスク画像51は奥行きについての情報を持たないため、被写体の向きや指を指している方向は不明である。そのため、奥行き画像制作支援装置1は、マスク画像51の奥行き値7を設定して奥行き画像8を作成する処理を後述のように行うのである。
図7は、図3のステップ2によって、制御部11がマスク画像51について検出した輪郭線61を示している。輪郭線61は、マスク画像51の画素値が変化するエッジ部分を認識する一般的な手法を用いて求めることができ、1ストロークで描画される閉曲線である。
制御部11は、図3のステップ2によって、同一の被写体の全てのフレームについて輪郭線を得る。
図8は、図6、図7に示したマスク画像51と同一の被写体の異なる2つのフレーム(フレームaとフレームb)の輪郭線の例を示す図である。
図8の輪郭線は、図5に示した腕を前に出して前方を指差している男性が、フレームaのカメラから遠い位置から、フレームbのカメラ方向に前進している例を示している。
このような場合、被写体は同じように腕を前に出して前方を指差しているが、被写体全体は、フレームaではカメラから遠い、奥行きの深い奥の位置にあり、フレームbでは、奥行きの浅い手前の位置にある。
次に、制御部11は、図3のステップ3において、ベース奥行き値の設定を行う。
ベース奥行き値は、図8に示したような、被写体全体の奥行きを表す値である。
制御部11は、図3のステップ3において、まず、ベース奥行き値を設定するための画面を表示部16に表示す。
図9は、ベース奥行き値設定画面例70を示す図である。
図9に示すように、ベース奥行き値設定画面70は、例えば、マスク選択用プルダウン71、画像表示領域72、ベース奥行き値の設定領域73、キーフレーム設定ボタン77、キーフレーム選択ボタン78、キーフレーム削除ボタン79、ベース奥行き値設定ボタン65、終了ボタン66等で構成される。
また、ベース奥行き値設定領域73は、ベース奥行き値表示領域76、フレーム選択用スライダ74、ベース奥行き値設定用スライダ75等で構成される。
ベース奥行き値表示領域76は、横軸をフレーム番号、縦軸をベース奥行き値として設定されたベース奥行き値を表示する。
縦軸のベース奥行き値は、1〜255の値を採ることが可能で、1が最も奥、255が最も手前であることを表す。
マスク選択用プルダウン71は、ベース奥行き値を設定するマスク画像5を選択するためのプルダウンメニューであり、現在処理中の動画像についてのマスク画像に付された識別番号等が表示され、その中から、選択することが可能である。
図4のように、処理する動画像の二次元画像にn個の被写体が含まれ、n個のマスク画像がある場合、マスク選択用プルダウン71にはn個のマスク画像の識別番号等が表示され、その中の一つをユーザに選択させるようにする。
画像表示領域72には、マスク選択用プルダウン71で選択されたマスク画像の、フレーム選択用スライダ74で選択されたフレームのマスク画像が表示される。
ユーザは、フレーム選択用スライダ74をスライドさせて画像表示領域72に表示されるマスク画像を見ながら、ベース奥行き値を設定するフレーム(以降、ベース奥行き値設定キーフレームと呼ぶ)を決定することが可能である。
フレーム選択用スライダ74を所望の位置にスライドさせて、キーフレーム設定ボタン77をマウス等でクリックすることにより、ベース奥行き値設定キーフレームを決定することが可能である。
次に、決定したベース奥行き値設定キーフレームのベース奥行き値を、ベース奥行き値設定用スライダ75を所望の位置にスライドさせて、ベース奥行き値設定ボタン65をマウス等でクリックすることによりベース奥行き値を決定することが可能である。
既に設定してあるキーフレームのマスク画像を画像表示領域72に表示させたい場合には、キーフレーム選択ボタン78を操作する。また、ベース奥行き値設定キーフレームを削除したい場合には、フレーム選択用スライダ74を削除したいキーフレームの位置にスライドさせるか、キーフレーム選択ボタン78してベース奥行き値設定キーフレームの位置に合わせて、キーフレーム削除ボタン79をクリックすればよい。
図9のベース奥行き値設定画面70は一例であり、画面の構成はこれに限ることはない。
図10は、図8の2つのフレーム(フレームa及びフレームb)のベース奥行き値を設定する場合のベース奥行き値設定領域73の部分を、図11は、ベース奥行き値の設定データ80の例を示している。
図10(a)に示すように、被写体が奥にあるフレームa(フレーム番号22)のベース奥行き値を例えば100に設定し、被写体が手前に前進しているフレームb(フレーム番号32)では、図10(b)に示すように、ベース奥行き値を例えば150に設定する。
設定されたベース奥行き値は、ベース奥行き設定キーフレームの番号とともに記憶部12に格納される。
すなわち、図11に示すように、ベース奥行き値は、ベース奥行き値設定データ80として記憶部12に格納される。
ベース奥行き値設定データ80は、例えば、マスク画像の識別番号81、ベース奥行き値設定キーフレームの番号82、及び、ベース奥行き値83で構成される。
図11の例では、マスク画像1について、6つのベース奥行き値設定キーフレーム82についてベース奥行き値83が設定されたことを示している。
以上、図3のステップ3のベース奥行き値の設定処理により、被写体全体の奥行き方向の位置が、少数のベース奥行き値設定キーフレーム82について決定される。
次に、制御部11は、図3のステップ4のベース奥行き値補間処理により、記憶部12に格納されているベース奥行き値設定データ80を元に、当該マスク画像の全フレームについてのベース奥行き値を求める。
すなわち、隣り合う2つのベース奥行き値設定キーフレーム82間の各フレーム84についてのベース奥行き値83を、隣り合う2つのベース奥行き値設定キーフレーム82で設定されたベース奥行き値83を用いて補間により求める。
例えば、図11の例では、隣り合う2つのベース奥行き値設定キーフレーム82番号「22」と「32」の間にあるフレーム番号23〜31についてのベース奥行き値83を求める場合には、ベース奥行き値設定キーフレーム「22」と「32」のベース奥行き値83の値である「100」と「150」を用いて、求めるフレーム番号と両ベース奥行き値設定キーフレームの番号の比率に応じて線形補間して求めればよい。
図3のステップ4のベース奥行き値補間処理により、ベース奥行き値設定データ80として記憶部12に格納されたベース奥行き値設定キーフレーム間の全フレームについてのベース奥行き値83が求められ、ベース奥行き値データ85として記憶部12に格納される。
図12に示すように、ベース奥行き値データ85は、マスク画像の識別番号81、フレーム番号84、及びベース奥行き値83で構成される。
ベース奥行き値補間処理(図3のステップ4)により、特定の被写体のマスク画像が含まれる全フレームについてベース奥行き値83が求まる。
次に、制御部11は、図3のステップ5のアンカーポイントの設定処理を実行する。すなわち、表示部16に、アンカーポイント設定画面90を表示させ、ユーザにアンカーポイントを設定させる。
図13は、アンカーポイント設定画面90の一例を示す図である。
図13に示す例では、アンカーポイント設定画面90は、マスク選択用プルダウン91、画像表示領域92、アンカーポイントの設定領域93、フレーム選択用スライダ94、キーフレーム設定ボタン96、キーフレーム削除ボタン97、キーフレーム選択ボタン98、終了ボタン99等で構成される。
また、アンカーポイントの設定領域93は、アンカーポイントの奥行き設定用スライダ86、奥行き値表示部87、設定ボタン88、削除ボタン89等で構成される。
図13のアンカーポイント設定画面90は一例であり、画面の構成はこれに限ることはない。
マスク選択用プルダウン91は、アンカーポイントを設定するマスク画像5を選択するためのプルダウンメニューであり、現在処理中の動画像についてのマスク画像に付された識別番号等が表示され、その中から、選択することが可能である。
画像表示領域92には、マスク選択用プルダウン91で選択されたマスク画像5の、フレーム選択用スライダ94で選択されたフレームのマスク画像が表示される。
ユーザは、フレーム選択用スライダ94をスライドさせて画像表示領域92に表示されるマスク画像を見ながら、アンカーポイントを設定するフレーム(以降、アンカーポイント設定キーフレームと呼ぶ)を決定することが可能である。
フレーム選択用スライダ94を所望の位置にスライドさせて、キーフレーム設定ボタン96をマウス等でクリックすることにより、アンカーポイント設定キーフレームを決定することが可能である。
図13の例では、フレーム選択用スライダ94をスライドさせて、フレーム32をアンカーポイント設定キーフレームとしている。
決定したアンカーポイント設定キーフレームを決定すると、画像表示領域92には、アンカーポイント設定キーフレームのマスク画像が輪郭線とともに表示される。
次に、制御部11は、この輪郭線上に、局所的な凹凸を表すためのアンカーポイントを設定させる。すなわち、輪郭線上の局所的な凹凸の部分にマウス等によりカーソルを合わせクリックすることにより、アンカーポイントを設定する。
アンカーポイントは、画像表示領域92において、例えば、図13に示すように、○印で表示される。
図13の例では、輪郭線の右下端から左回りに、腕の下の部分、手の甲の小指側の部分、人差し指の先、親指の付け根、首の付け根、反対側の首の付け根にアンカーポイントが設定されている。
次に、各アンカーポイントの奥行き値を、アンカーポイントの設定領域93のアンカーポイントの奥行き設定用スライダ86を使用して入力させる。
アンカーポイントの奥行き値は、−255〜+255の値をとり、先に決定した輪郭線に一律に与えられたベース奥行き値に対する凹凸の程度を表す。
画像表示領域92に表示されている輪郭線上のアンカーポイントの位置を決定した後、アンカーポイントの奥行き設定用スライダ86を所望の位置にスライドして、設定ボタン88をクリックすることにより奥行き値を設定するようにすればよい。奥行き値表示部87には、アンカーポイントの奥行き設定用スライダ86のスライド位置の奥行き値が表示される。
図13の例では、先に位置を設定したアンカーポイントに対してアンカーポイントの奥行き値が設定され、輪郭線の右下端から左回りに、腕の下の部分のアンカーポイントに「0」、手の甲の小指側のアンカーポイントに「80」、人差し指の先のアンカーポイントに「100」、親指の付け根のアンカーポイントに「80」、首の付け根のアンカーポイントに「0」、反対側の首の付け根のアンカーポイントに「0」の奥行き値が設定されている。
制御部11は、設定されたアンカーポイントの位置情報とアンカーポイントの奥行き値は、マスク画像の識別番号、アンカーポイントのキーフレームのフレーム番号とともに、アンカーポイント情報として記憶部12に格納する。
キーフレーム削除ボタン97は、既に設定されているアンカーポイント設定キーフレームを削除する際にクリックする。
キーフレーム選択ボタン98は、既に設定されているアンカーポイント設定キーフレームを選択する際に、クリックする。
アンカーポイントは、少なくとも2つのキーフレームの輪郭線上の対応する位置に設けられる。
図14は、図8の、フレームaからフレームbにかけて、被写体がカメラ方向に前進するマスク画像対するアンカーポイントの奥行き値設定を示す図である。
図14(a)のフレームaついては先に設定したベース奥行き値「100」が既に設定されており、アンカーポイントの設定処理(図3のステップ5)により、輪郭線の右下端から左回りに、腕の下の部分のアンカーポイントに「0」、手の甲の小指側のアンカーポイントに「80」、人差し指の先のアンカーポイントに「100」、親指の付け根のアンカーポイントに「80」、首の付け根のアンカーポイントに「0」、反対側の首の付け根のアンカーポイントに「0」の奥行き値が設定されている。
被写体がカメラ方向に前進した図14(b)のフレームbにおいても、フレームaのアンカーポイントの位置と対応する位置にアンカーポイントが設定され、フレーム(a)と同様に、腕の下の部分のアンカーポイントに「0」、手の甲の小指側のアンカーポイントに「80」、人差し指の先のアンカーポイントに「100」、親指の付け根のアンカーポイントに「80」、首の付け根のアンカーポイントに「0」、反対側の首の付け根のアンカーポイントに「0」の奥行き値が設定されている。
図14(b)のフレームbでは、先に設定したベース奥行き値「150」が既に設定されている。
図14の場合、フレームaからフレームbにかけて、腕を上げて指す輪郭線の形状は変わっていないので、図14(a)のフレームaと図14(b)のフレームbにおけるアンカーポイントの位置、奥行き値は同一になっている。
フレームの経過に従って、輪郭線の形状が変化するような場合には、アンカーポイントの位置はキーフレームの輪郭線上の対応する位置に設定され、アンカーポイントの奥行き値も異なる値に設定してもよい。
以上に示すように、アンカーポイントの設定処理(図3のステップ5)により、複数のアンカーポイントのキーフレームの輪郭線上の対応する複数の位置にアンカーポイントが設定され、アンカーポイントの奥行き値が設定される。
次に、制御部11は、図3のステップ6において、ステップ3〜5で設定されたベース奥行き値とアンカーポイントの奥行き値を元に、最終的な奥行き値を求め、奥行き画像8を生成する。
図15は、図3のステップ6の奥行き決定処理の流れを示すフローチャートである。
まず、制御部11は、各アンカーポイントのキーフレームに設定されたアンカーポイントについて、最終奥行き値を求める(ステップ61)。
すなわち、図12に示すようなベース奥行き値データ85を参照し、アンカーポイントのキーフレームのフレーム84についてベース奥行き値83を読み出し、ステップ5のアンカーポイントの設定処理において設定された各アンカーポイントの奥行き値と加算し、各アンカーポイントの最終奥行き値を算出する。
これによって、各アンカーポイントのキーフレームの、各アンカーポイントの最終奥行き値が求まる。
次に、ステップ62において、制御部11は、各アンカーポイントのキーフレームについて、隣り合うアンカーポイント間の輪郭線上の各点の最終奥行き値を、隣り合うアンカーポイントの最終奥行き値から補間処理により算出する。
これにより、各アンカーポイントのキーフレームの輪郭線の最終奥行き値が確定する。
次に、ステップ63において、制御部11は、隣り合うアンカーポイントのキーフレーム間の各フレームについて、輪郭線上の各点の奥行き値を算出する。
すなわち、まず、各フレームの輪郭線上に、アンカーポイントに対応する点の位置を求める。これは、当該フレームの両側にあるアンカーポイントのキーフレームにおけるアンカーポイントの位置情報を、対象フレームから両キーフレームまでのフレーム数の比率により補間することで求めることができる。
次に、アンカーポイントに対応する点の最終奥行き値を求める。これは、当該フレームの両側のアンカーポイントのキーフレームの対応するアンカーポイントの最終奥行き値を、対象フレームから両キーフレームまでのフレーム数の比率により補間することで求めることができる。
最後に、隣り合うアンカーポイントに対応する点の最終奥行き値を元に、その間の輪郭線上の点の最終奥行き値を求める。
ステップ63により、全フレームについて、輪郭線上の点の最終奥行き値が求まる。
次に、ステップ64において、制御部11は、各フレームについて、輪郭線(閉曲線)内部の奥行き値を算出する。例えば、輪郭線内部の奥行き値は、輪郭線上の各点の最終奥行き値を用いて、輪郭線の内部領域が滑らかな平面を描くように計算される。
次に、ステップ65において、制御部11は、各フレームについて、輪郭線上の最終奥行き値及び輪郭線内部の奥行き値から、奥行き画像を作成し、出力する。
これにより、本実施の形態の奥行き制作支援装置1の動画像の奥行き制作支援処理が完了する。
以上のように、本発明の奥行き制作支援装置1により、被写体全体がカメラ方向に前進する動画像や、被写体がカメラ方向から後退する動画像について、マスク画像の輪郭線に与える奥行き値を簡単な操作で設定することが可能となり、立体視を実現する動画像処理を容易に行えるようになる。
以上、添付図を参照しながら、本発明の実施の形態を説明したが、本発明の技術的範囲は、前述した実施の形態に左右されない。当業者であれば、特許請求の範囲に記載された技術的思想の範疇内において各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
1………奥行き制作支援装置
2………視差画像生成装置
3、31………2次元画像
5、51、81………マスク画像
6、61………輪郭線
7………奥行き値
8………奥行き画像
70………ベース奥行き値設定画面
80………ベース奥行き値設定データ
82………ベース奥行き値設定キーフレーム
83………ベース奥行き値
85………ベース奥行き値データ
90………アンカーポイント設定画面

Claims (10)

  1. 立体視を実現するための視差画像の生成処理に利用する奥行き画像の制作を支援する奥行き制作支援装置であって、
    元の動画像の各フレーム内に描画されている特定の被写体を識別するために2値化された複数のフレームのマスク画像を読み込むマスク画像入力手段と、
    前記マスク画像に対して輪郭線を設定する輪郭線設定手段と、
    前記複数のフレームのマスク画像に対して、キーとなる第1のフレームを少なくとも2つ設定し、前記第1のフレーム毎に、輪郭線全体に一律の値である第1の奥行き値を設定するベース奥行き値設定手段と、
    隣り合う2つの前記第1のフレーム間にあるフレームの前記第1の奥行き値を、隣り合う2つの前記第1のフレームに設定された前記第1の奥行き値から補間により求めるベース奥行き値補間手段と、
    前記複数のフレームのマスク画像に対して、キーとなる第2のフレームを少なくとも2つ設定し、各前記第2のフレームの輪郭線上の対応する位置に複数の第1の点を設定し、前記第1の点に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するアンカーポイント設定手段と、
    前記第2のフレームの前記第1の点に設定された前記第2の奥行き値と、当該第2のフレームの前記第1の奥行き値を加算し、前記第2のフレームの前記第1の点の最終奥行き値を決定し、前記第2のフレームの隣り合う前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記隣り合う前記第1の点の前記最終奥行き値から補間により求める奥行き決定手段と、
    を具備することを特徴とする奥行き制作支援装置。
  2. 前記輪郭線は、1ストロークで描画される閉曲線である
    ことを特徴とする請求項1に記載の奥行き制作支援装置。
  3. 前記第1のフレームは、前記複数のフレームのマスク画像のうちの最初のフレームと最後のフレームを含む
    ことを特徴とする請求項1に記載の奥行き制作支援装置。
  4. 前記ベース奥行き値補間手段は、前記隣り合う2つの第1のフレームに設定された前記第1の奥行き値を、前記隣り合う2つの第1のフレーム間にあるフレームと、前記隣り合う2つの第1のフレームとの間隔の比率によって線形補間することにより、前記隣り合う2つの第1のフレーム間にあるフレームの前記第1の奥行き値を決定する
    ことを特徴とする請求項1又は請求項3に記載の奥行き制作支援装置。
  5. 前記奥行き決定手段は、前記第2のフレームの前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記第1の点と前記輪郭線上の各位置の距離の比率によって前記第1の点の最終奥行き値を線形補間することにより求める
    ことを特徴とする請求項1又は請求項2に記載の奥行き制作支援装置。
  6. 前記奥行き決定手段は、隣り合う前記第2のフレーム間の各フレームの、前記第2のフレームに設定された前記第1の点に対応する第2の点の位置情報を、前記隣り合う第2のフレームの前記第1の点の位置情報を、前記隣り合う2つの第2のフレーム間にあるフレームと、前記隣り合う2つの第2のフレームとの間隔の比率によって線形補間することにより求め、前記第2の点の最終奥行き値を、前記隣り合う第2のフレームの前記第1の点の前記最終奥行き値を、前記隣り合う2つの第2のフレーム間にあるフレームと、前記隣り合う2つの第2のフレームとの間隔の比率によって線形補間することにより求める
    ことを特徴とする請求項1に記載の奥行き制作支援装置。
  7. 前記奥行き決定手段は、隣り合う2つの前記第2の点間の輪郭線上の各位置の最終奥行き値を、前記第2の点と前記輪郭線上の各位置の距離の比率によって前記第2の点の最終奥行き値を線形補間することにより求める
    ことを特徴とする請求項6に記載の奥行き制作支援装置。
  8. 前記奥行き決定手段は、前記最終奥行き値に基づき、前記輪郭線の内部領域が滑らかな平面となるように前記マスク画像の各画素の奥行き値を算出し、前記奥行き画像を作成する
    ことを特徴とする請求項1乃至請求項7のいずれかに記載の奥行き制作支援装置。
  9. 立体視を実現するための視差画像の生成処理に利用する奥行き画像を制作する奥行き制作方法であって、
    コンピュータが、
    元の動画像の各フレーム内に描画されている特定の被写体を識別するために2値化された複数のフレームのマスク画像を読み込むマスク画像入力ステップと、
    前記マスク画像に対して輪郭線を設定する輪郭線設定ステップと、
    前記複数のフレームのマスク画像に対して、キーとなる第1のフレームを少なくとも2つ設定し、前記第1のフレーム毎に、輪郭線全体に一律の値である第1の奥行き値を設定するベース奥行き値設定ステップと、
    隣り合う2つの前記第1のフレーム間にあるフレームの前記第1の奥行き値を、隣り合う2つの前記第1のフレームに設定された前記第1の奥行き値から補間により求めるベース奥行き値補間ステップと、
    前記複数のフレームのマスク画像に対して、キーとなる第2のフレームを少なくとも2つ設定し、各前記第2のフレームの輪郭線上の対応する位置に複数の第1の点を設定し、前記第1の点に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するアンカーポイント設定ステップと、
    前記第2のフレームの前記第1の点に設定された前記第2の奥行き値と、当該第2のフレームの前記第1の奥行き値を加算し、前記第2のフレームの前記第1の点の最終奥行き値を決定し、前記第2のフレームの隣り合う前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記隣り合う前記第1の点の前記最終奥行き値から補間により求める奥行き決定ステップと、
    を実行することを特徴とする奥行き制作方法。
  10. コンピュータを、立体視を実現するための視差画像の生成処理に利用する奥行き画像の制作を支援する奥行き制作支援装置として機能させるためのプログラムであって、
    コンピュータを、
    元の動画像の各フレーム内に描画されている特定の被写体を識別するために2値化された複数のフレームのマスク画像を読み込むマスク画像入力手段、
    前記マスク画像に対して輪郭線を設定する輪郭線設定手と、
    前記複数のフレームのマスク画像に対して、キーとなる第1のフレームを少なくとも2つ設定し、前記第1のフレーム毎に、輪郭線全体に一律の値である第1の奥行き値を設定するベース奥行き値設定手段、
    隣り合う2つの前記第1のフレーム間にあるフレームの前記第1の奥行き値を、隣り合う2つの前記第1のフレームに設定された前記第1の奥行き値から補間により求めるベース奥行き値補間手段、
    前記複数のフレームのマスク画像に対して、キーとなる第2のフレームを少なくとも2つ設定し、各前記第2のフレームの輪郭線上の対応する位置に複数の第1の点を設定し、前記第1の点に輪郭線上の局所的な凹凸を表す第2の奥行き値を設定するアンカーポイント設定手段、
    前記第2のフレームの前記第1の点に設定された前記第2の奥行き値と、当該第2のフレームの前記第1の奥行き値を加算し、前記第2のフレームの前記第1の点の最終奥行き値を決定し、前記第2のフレームの隣り合う前記第1の点間の輪郭線上の各位置の最終奥行き値を、前記隣り合う前記第1の点の前記最終奥行き値から補間により求める奥行き決定手段、
    として機能させるためのプログラム。
JP2013068165A 2013-03-28 2013-03-28 奥行き制作支援装置、奥行き制作方法、及びプログラム Expired - Fee Related JP6182930B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013068165A JP6182930B2 (ja) 2013-03-28 2013-03-28 奥行き制作支援装置、奥行き制作方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013068165A JP6182930B2 (ja) 2013-03-28 2013-03-28 奥行き制作支援装置、奥行き制作方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2014192794A true JP2014192794A (ja) 2014-10-06
JP6182930B2 JP6182930B2 (ja) 2017-08-23

Family

ID=51838673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013068165A Expired - Fee Related JP6182930B2 (ja) 2013-03-28 2013-03-28 奥行き制作支援装置、奥行き制作方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6182930B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5920858B1 (ja) * 2015-07-01 2016-05-18 株式会社Live2D プログラム、情報処理装置、深度定義方法及び記録媒体
WO2024057902A1 (ja) * 2022-09-12 2024-03-21 ソニーグループ株式会社 情報処理装置および方法、並びにプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009211561A (ja) * 2008-03-05 2009-09-17 Ntt Comware Corp 奥行きデータ生成装置及び奥行きデータ生成方法ならびにそのプログラム
JP2010079899A (ja) * 2008-09-25 2010-04-08 Samsung Electronics Co Ltd 深さマップ生成を用いた変換方法および装置
WO2012056686A1 (ja) * 2010-10-27 2012-05-03 パナソニック株式会社 3次元画像補間装置、3次元撮像装置および3次元画像補間方法
JP2012120080A (ja) * 2010-12-03 2012-06-21 Chuo Univ 立体写真撮影装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009211561A (ja) * 2008-03-05 2009-09-17 Ntt Comware Corp 奥行きデータ生成装置及び奥行きデータ生成方法ならびにそのプログラム
JP2010079899A (ja) * 2008-09-25 2010-04-08 Samsung Electronics Co Ltd 深さマップ生成を用いた変換方法および装置
WO2012056686A1 (ja) * 2010-10-27 2012-05-03 パナソニック株式会社 3次元画像補間装置、3次元撮像装置および3次元画像補間方法
JP2012120080A (ja) * 2010-12-03 2012-06-21 Chuo Univ 立体写真撮影装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5920858B1 (ja) * 2015-07-01 2016-05-18 株式会社Live2D プログラム、情報処理装置、深度定義方法及び記録媒体
WO2017002483A1 (ja) * 2015-07-01 2017-01-05 株式会社Live2D プログラム、情報処理装置、深度定義方法及び記録媒体
US10297036B2 (en) 2015-07-01 2019-05-21 Live2D Inc. Recording medium, information processing apparatus, and depth definition method
WO2024057902A1 (ja) * 2022-09-12 2024-03-21 ソニーグループ株式会社 情報処理装置および方法、並びにプログラム

Also Published As

Publication number Publication date
JP6182930B2 (ja) 2017-08-23

Similar Documents

Publication Publication Date Title
KR102638526B1 (ko) 파라미터를 갖는 마커를 사용한 증강 현실의 장면 수정
US10154246B2 (en) Systems and methods for 3D capturing of objects and motion sequences using multiple range and RGB cameras
JP6627861B2 (ja) 画像処理システムおよび画像処理方法、並びにプログラム
CN110070556A (zh) 使用深度传感器的结构建模
JP7368707B2 (ja) 画像処理方法、プログラム、画像処理装置および画像処理システム
AU2016262789A1 (en) 3d modeling by tracing 2d image ui
JP5809607B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
TW201610916A (zh) 根據依時一致性超像素為圖框序列產生分段遮罩之方法和裝置,以及電腦可讀式儲存媒體
US20190066734A1 (en) Image processing apparatus, image processing method, and storage medium
JP6182930B2 (ja) 奥行き制作支援装置、奥行き制作方法、及びプログラム
CN110267079B (zh) 待播放视频中人脸的替换方法和装置
JP6376591B2 (ja) データ出力装置、データ出力方法及び3次元物体製造システム
JP2011258036A (ja) 3次元形状検索装置、3次元形状検索方法、及びプログラム
CN106169187A (zh) 用于对视频中的物体设界的方法和设备
CN105046748B (zh) 一种三维地质体场景中可形成图像的3d相框装置
JP5994320B2 (ja) 奥行き制作支援装置、奥行き制作支援方法、及びプログラム
JP5857606B2 (ja) 奥行き製作支援装置、奥行き製作支援方法、およびプログラム
KR20120118462A (ko) 이미지 기반의 비주얼 헐에서의 오목 표면 모델링
Saran et al. Augmented annotations: Indoor dataset generation with augmented reality
JP5817300B2 (ja) 奥行き製作支援装置、奥行き製作支援方法、およびプログラム
JP5966837B2 (ja) 奥行き制作支援装置、奥行き制作支援方法、およびプログラム
JP7179633B2 (ja) 計測方法、計測装置、およびプログラム
US10289289B2 (en) Techniques for authoring view points, view paths, and view surfaces for 3D models
JP7119854B2 (ja) 変更画素領域抽出装置、画像処理システム、変更画素領域抽出方法、画像処理方法及びプログラム
JP2022054254A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170710

R150 Certificate of patent or registration of utility model

Ref document number: 6182930

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees