JP2014515153A - コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 - Google Patents
コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 Download PDFInfo
- Publication number
- JP2014515153A JP2014515153A JP2014511287A JP2014511287A JP2014515153A JP 2014515153 A JP2014515153 A JP 2014515153A JP 2014511287 A JP2014511287 A JP 2014511287A JP 2014511287 A JP2014511287 A JP 2014511287A JP 2014515153 A JP2014515153 A JP 2014515153A
- Authority
- JP
- Japan
- Prior art keywords
- conversion
- content
- quality
- processes
- user input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/139—Format conversion, e.g. of frame-rate or size
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/39—Control of the bit-mapped memory
- G09G5/391—Resolution modifying circuits, e.g. variable screen formats
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
使用者の好みに合う多様な品質の3次元コンテンツを提供することができる、2次元コンテンツを3次元コンテンツに変換するコンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体を提供する。
コンテンツ変換方法は、映像コンテンツである複数のフレームを含む2次元コンテンツから変換される3次元コンテンツの品質を決定する段階と、前期複数のフレームの中で少なくとも一つに対してオブジェクトを抽出する段階と、抽出された前記オブジェクトに対して深さを割り当てる段階と、深さが割り当てられた前記フレームに対して3次元コンテンツへの変換のためのレンダリングを遂行する段階と、を含めて、前記オブジェクトを抽出する段階、前記深さを割り当てる段階及び前記レンダリングを遂行する段階の中少なくとも一つは、決定された前記3次元コンテンツの品質に基づいて遂行される。
コンテンツ変換方法は、映像コンテンツである複数のフレームを含む2次元コンテンツから変換される3次元コンテンツの品質を決定する段階と、前期複数のフレームの中で少なくとも一つに対してオブジェクトを抽出する段階と、抽出された前記オブジェクトに対して深さを割り当てる段階と、深さが割り当てられた前記フレームに対して3次元コンテンツへの変換のためのレンダリングを遂行する段階と、を含めて、前記オブジェクトを抽出する段階、前記深さを割り当てる段階及び前記レンダリングを遂行する段階の中少なくとも一つは、決定された前記3次元コンテンツの品質に基づいて遂行される。
Description
本発明は、コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体に関し、より詳しくは、2次元コンテンツを3次元コンテンツに変換するコンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体に関するものである。
映画、ドラマ、スポーツなどのような映像コンテンツ(以下、簡単に、‘コンテンツ’と言う)はTV,PC,スマートフォーン、スマートパット、PMP(portable multimedia player),MP3プレーヤーなどのようにコンテンツ再生機能を持つディスプレー装置によって再生される。
一方、近来3次元映像のディスプレー技術の発展で、このようなコンテンツが3次元コンテンツに作られて、3次元映像のディスプレーすることができるディスプレー装置によって再生されることが可能になっている。
しかし、このような3次元コンテンツを作るために、通常莫大な規模の装置と、開発人力が必要で、相当大きい費用と、時間が掛かるので、まだ優秀な品質の3次元コンテンツが多くない実情である。
また、提供されている3次元コンテンツの場合にも、先に決められた品質の3次元コンテンツを利用する程度の状態で、使用者の好みに合う多様さ品質の3次元コンテンツを利用することはできない。
故に、本発明の目的は、使用者の好みに合う多様な品質の3次元コンテンツを提供することができるコンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体を提供することである。
本発明の前記目的は、コンテンツ変換装置を利用して2次元コンテンツを3次元コンテンツに変換するコンテンツ変換方法にあって、映像コンテンツである複数のフレームを含む2次元コンテンツから変換される3次元コンテンツの品質を決定する段階と、前記複数のフレームの中少なくとも一つに対してオブジェクトを抽出する段階と、抽出された前記オブジェクトに対して深さ(depth)を割り当てる段階と、深さが割り当てられた前記フレームに対して3次元コンテンツへの変換のためのレンダリングを遂行する段階と、を含めて、前記オブジェクトを抽出する段階、前記深さを割り当てる段階及び前記レンダリングを遂行する段階の中少なくとも一つは、決定された前記3次元コンテンツの品質に基づいて遂行されるコンテンツ変換方法によって達成することができる。
前記オブジェクトを抽出する段階、前記深さを割り当てる段階及び前記レンダリングを遂行する段階の中少なくとも一つは、先に決められた基準情報に基づいて遂行される自動プロセスを遂行する段階と、使用者の入力に基づいて遂行される手動プロセスを遂行する段階と、を含めて、前記3次元コンテンツの品質を決定する段階は、該当前記少なくとも一つの段階で前記自動プロセス及び前記手動プロセスがどのくらい遂行されるかを表す遂行程度を決定する段階を含むことができる。
前記遂行程度を決定する段階は、前記遂行程度によって分類された複数の品質モードの中ある一つを選択する段階を含むことができる。
前記手動プロセスを遂行する段階は、前記手動プロセスで前記使用者の入力を受信するためのGUI項目として、選択された前記品質モードによって選択的に活性化される少なくとも一つのGUI項目を表示する段階を含むことができる。
前記オブジェクトを抽出する段階及び前記深さを割り当てる段階の中少なくとも一つは、処理される前記フレームの場面の内容及び展開過程に関する情報に基づいて遂行されることができる。
前記コンテンツ変換方法は、前記複数のフレームの中でキーフレームを選定する段階を更に含めて、前記オブジェクトを抽出する段階及び前記深さを割り当てる段階は、選定された前記キーフレームに対して遂行されて、前記複数のフレームの中で前記キーフレームを除いた余りのフレームに対してトラッキングを遂行する段階を更に含むことができる。
前記コンテンツ変換方法は、前記レンダリングが遂行された前記フレームに対して3次元画質処理を遂行する段階を更に含むことができる。
本発明の前記目的は、2次元コンテンツを3次元コンテンツに変換するコンテンツ変換装置にあって、映像コンテンツである2次元コンテンツの複数のフレームの中少なくとも一つに対してオブジェクトを抽出して、抽出された前記オブジェクト対して深さを割り当てて、深さが割り当てられた前記フレームに対して3次元コンテンツへの変換のためのレンダリングを遂行する変換部を含み、前記変換部は、変換される前記3次元コンテンツの品質を決定して、決定された前記3次元コンテンツの品質に基づいて前記オブジェクトの抽出、前記深さの割り当て及び前記レンダリングの中少なくとも一つを遂行するコンテンツ変換装置によっても達成することができる。
前記コンテンツ変換装置は、使用者の入力を受信する使用者入力部を更に含めて、前記変換部は、先に決められた基準情報に基づいて自動プロセスと、前記使用者の入力に基づく手動プロセスと、を遂行することで、前記オブジェクトの抽出、前記深さの割り当て及び前記レンダリングの中少なくとも一つを遂行して、前記変換部は、該当前記少なくとも一つのプロセスから前記自動プロセス及び前記手動プロセスがどのぐらい遂行されるかを表す遂行程度を決定することで前記3次元コンテンツの品質を決定することができる。
前記変換部は、前記遂行程度によって分類された複数の品質モードの中ある一つを選択することで前記遂行程度を決定することができる。前記変換部は、前記手動プロセスで前記使用者の入力を受信するためのGUI項目として、選択された前記品質モードによって選択的に活性化される少なくとも一つのGUI項目を表示することができる。
前記変換部は、処理される前記フレームの場面の内容及び展開過程に関する情報に基づいて前記オブジェクトの抽出及び前記深さの割り当ての中少なくとも一つを遂行することができる。
のフレームの中でキーフレームを選定して、選定された前記キーフレームに対して前記オブジェクトの抽出及び前記深さの割り当てを遂行し、前記複数のフレームの中で前記キーフレームを除いた余りのフレームに対してトラッキングを遂行することができる。前記変換部は、前記レンダリングが遂行された前記フレームに対して3次元画質処理を遂行することができる。
のフレームの中でキーフレームを選定して、選定された前記キーフレームに対して前記オブジェクトの抽出及び前記深さの割り当てを遂行し、前記複数のフレームの中で前記キーフレームを除いた余りのフレームに対してトラッキングを遂行することができる。前記変換部は、前記レンダリングが遂行された前記フレームに対して3次元画質処理を遂行することができる。
本発明の前記目的は、コンピューターで実行することができる命令(instructions)を持つコンピューターで判読することができる貯蔵媒体にあって、前記コンピューターのプロセスによって前記命令が遂行される時、前記命令は2次元コンテンツを3次元コンテンツに変換するコンテンツ変換方法を遂行するもので、前記コンテンツ変換方法は、映像コンテンツである複数のフレームを含む2次元コンテンツから変換される3次元コンテンツの品質を決定する段階と、前記複数のフレームの中少なくとも一つに対してオブジェクトを抽出する段階と、抽出された前記オブジェクトに対して深さを割り当てる段階と、深さが割り当てられた前記フレームに対して3次元コンテンツへの変換のためのレンダリングを遂行する段階と、を含めて、前記オブジェクトを抽出する段階、前記深さを割り当てる段階及び前記レンダリングを遂行する段階の中少なくとも一つは、決定された前記3次元コンテンツの品質に基づいて遂行されるコンピューターで判読することができる貯蔵媒体によっても達成することができる。
前記オブジェクトを抽出する段階、前記深さを割り当てる段階及び前記レンダリングを遂行する段階の中少なくとも一つは、先に決められた基準情報に基づいて遂行される自動プロセスを遂行する段階と、使用者の入力に基づいて遂行される手動プロセスを遂行する段階と、を含めて、前記3次元コンテンツの品質を決定する段階は、該当前記少なくとも一つの段階で前記自動プロセス及び前記手動プロセスがどのぐらい遂行されるかを表す遂行程度を決定する段階を含むことができる。
前記遂行の程度を決定する段階は、前記遂行程度によって分類された複数の品質モードの中ある一つを選択する段階を含むことができる。
前記手動プロセスを遂行する段階は、前記手動プロセスで前記使用者の入力を受信するためのGUI項目として、選択された前記品質モードによって選択的に活性化される少なくとも一つのGUI項目を表示する段階を含むことができる。
前記オブジェクトを抽出する段階及び前記深さを割り当てる段階の中少なくとも一つは、処理される前記フレームの場面の内容及び展開過程に関する情報に基づいて遂行されることができる。
前記コンテンツ変換方法は、前記複数のフレームの中でキーフレームを選定する段階を更に含めて、前記オブジェクトを抽出する段階及び前記深さを割り当てる段階は、選定された前記キーフレームに対して遂行されて、前記複数のフレームの中で前記キーフレームを除いた余りのフレームに対してトラッキングを遂行する段階を更に含むことができる。
前記コンテンツ変換方法は、前記レンダリングが遂行された前記フレームに対して3次元画質処理を遂行する段階を更に含むことができる。
本発明の上記目的は、コンテンツ変換装置を用いて2次元コンテンツを3次元コンテンツに変換するコンテンツ変換方法であって、互いに異なる複数の変換プロセスのそれぞれの遂行程度を決定する段階と、前記決定された遂行程度に基づいて2次元コンテンツの複数のフレームを、前記複数の変換プロセスのそれぞれに対応する複数のフレーム群に分類する段階と、前記分類された複数のフレーム群のそれぞれに対して対応する前記複数の変換プロセスを行う段階と、前記複数のフレーム群に対する前記複数の変換プロセスの遂行結果を併合する段階と、を含むコンテンツ変換方法によっても達成可能である。
前記決定する段階は、前記複数の変換プロセスのそれぞれの遂行程度に関する使用者の入力を受信する段階と、前記受信した使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する段階と、を含むことができる。前記決定する段階は、前記複数の変換プロセスのそれぞれの遂行程度を指定するためのメニュー項目を含むGUIを表示する段階と、前記メニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する段階と、を含むことができる。
前記決定する段階は、前記複数の変換プロセスのそれぞれの遂行程度に対応する変換品質に関する情報を表示する段階を更に含むことができる。前記決定する段階は、変換品質に関するメニュー項目を含むGUIを表示する段階と、前記変換品質に関するメニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する段階と、を更に含むことができる。
前記複数の変換プロセスは、第1変換プロセスと、該第1変換プロセスよりも低い変換品質に対応する第2変換プロセスと、を含むことができる。
前記第1変換プロセスは、使用者の入力によって行われるオブジェクトの抽出及び深さの割り当てのうち少なくとも一つを含み、前記第2変換プロセスは、前記第1変換プロセスの遂行結果を用いた補間及びトラッキングのうち少なくとも一つを含むことができる。
前記分類する段階は、前記決定された第1変換プロセスの遂行程度に対応するサンプリングレートで前記複数のフレームをダウンサンプリングすることで、前記第1変換プロセスを適用する前記フレーム群を決定する段階を含むことができる。前記分類する段階は、前記決定された第1変換プロセスの遂行程度に対応する重要度に基づいて、前記複数のフレームの中から、前記第1変換プロセスを適用する前記フレーム群を決定する段階を含むことができる。
本発明の上記目的は、2次元コンテンツを3次元コンテンツに変換するコンテンツ変換装置であって、互いに異なる複数の変換プロセスのそれぞれの遂行程度を決定し、該決定された遂行程度に基づいて2次元コンテンツの複数のフレームを、前記複数の変換プロセスのそれぞれに対応する複数のフレーム群に分類し、該分類された複数のフレーム群のそれぞれに対して対応の前記複数の変換プロセスを行い、前記複数のフレーム群に対する前記複数の変換プロセスの遂行結果を併合する変換部を備える、コンテンツ変換装置によっても達成可能である。
前記コンテンツ変換装置は、前記複数の変換プロセスのそれぞれの遂行程度に関する使用者の入力を受信する使用者入力部を更に備え、前記変換部は、前記受信された使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定することができる。前記コンテンツ変換装置は、ディスプレー部を更に備え、前記変換部は、前記複数の変換プロセスのそれぞれの遂行程度を指定するためのメニュー項目を含むGUIを前記ディスプレー部に表示し、前記メニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定することができる。
前記変換部は、前記複数の変換プロセスのそれぞれの遂行程度に対応する変換品質に関する情報を前記ディスプレー部に表示することができる。前記変換部は、変換品質に関するメニュー項目を含むGUIを前記ディスプレー部に表示し、前記変換品質に関するメニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定することができる。
前記複数の変換プロセスは、第1変換プロセスと、前記第1変換プロセスよりも低い変換品質に対応する第2変換プロセスと、を含んでもよい。前記第1変換プロセスは、使用者の入力によって行われるオブジェクトの抽出及び深さの割り当てのうち少なくとも一つを含み、前記第2変換プロセスは、前記第1変換プロセスの遂行結果を用いた補間及びトラッキングのうち少なくとも一つを含むことができる。
前記変換部は、前記決定された第1変換プロセスの遂行程度に対応するサンプリングレートで前記複数のフレームをダウンサンプリングすることで、前記第1変換プロセスを適用する前記フレーム群を決定することができる。前記変換部は、前記決定された第1変換プロセスの遂行程度に対応する重要度に基づいて、前記複数のフレームの中から、前記第1変換プロセスを適用する前記フレーム群を決定することができる。
上述の通り、本発明によると、使用者の好みに合う多様な品質の3次元コンテンツを提供することができる。
以下、本発明の一実施例に関して詳しく説明する。
図1は、本発明の一実施例によるコンテンツ変換装置の構成を図示したブロック図である。コンテンツ変換装置1は2次元のコンテンツ(以下、‘2次元コンテンツ’と言う)を3次元コンテンツに変換する。本実施例のコンテンツは、動画コンテンツとして、例えば映画、ドラマ、スポーツなどのコンテンツを含む。
コンテンツ変換装置1は所定の2次元コンテンツ提供装置(図示せず)から3次元コンテンツに変換する2次元コンテンツを提供されることができる。コンテンツ変換装置1は所定のネットワーク(図示せず)を通じて2次元コンテンツ提供装置から2次元コンテンツを提供されることができる。2次元コンテンツ提供装置は、例えば、ネットワークサーバとして、2次元コンテンツを貯蔵して、コンテンツ変換装置1の要請によって2次元コンテンツをコンテンツ変換装置1に転送することができる。
他の実施例として、コンテンツ変換装置1は、ネットワークではない他のデータの転送手段を通じて2次元コンテンツ提供装置から2次元コンテンツを提供されることもできる。例えば、2次元コンテンツ提供装置は2次元コンテンツを貯蔵するハードディスク、フラッシュメモリーなどのような貯蔵手段を具備する装置として、コンテンツ変換装置1にローカル装置として連結されてコンテンツ変換装置1の要請によって2次元コンテンツをコンテンツ変換装置1に転送することができる。この場合、2次元コンテンツのデータの転送のためなら、コンテンツ変換装置1と、2次元コンテンツ提供装置との間のローカル連結方式には制限がなくて、例えば、USB方式などを含む。
また他の実施例として、コンテンツ変換装置1は、3次元コンテンツ提供装置(図示せず)から2次元コンテンツを提供されることもできる。例えば、3次元コンテンツ提供装置は2次元コンテンツをコンテンツ変換装置1に伝達して、コンテンツ変換装置1によって変換された3次元コンテンツを受信して、これを所定の使用者端末機(図示せず)に提供することができる。使用者端末機はコンテンツ変換装置1から提供された提供された3次元コンテンツを3次元の立体映像にディスプレーすることができる機能を持って、例えば、TV,PC,スマート電話、スマートパッド、PMP、MP3プレーなどである。
また他の実施例として、コンテンツ変換装置1は、変換された3次元コンテンツを3次元の立体映像にディスプレーすることができる機能を持つ使用者端末機に転送することができる。コンテンツ変換装置1は、例えば、ネットワークを通じて使用者端末機に3次元コンテンツを提供することができる。
本実施例のネットワークにあって、2次元コンテンツ及び/又は3次元コンテンツの転送のためのデータ通信は、有線及び/又は無線通信方式などネットワークの通信方式には制限がなくて、知られた通信方式を全て含む。
コンテンツ変換装置1は、図1に図示されたように、変換部11及び通信部14を含むことができる。変換部11は2次元コンテンツを3次元コンテンツに変換する。2次元コンテンツは複数の映像フレーム(以下、‘フレーム’と言う)を含む。3次元コンテンツは視聴者の両眼の視差を利用することで、複数の左眼フレーム及び複数の右眼フレームを含むことができる。複数の左眼フレーム及び複数の右眼フレームの中一対の左眼フレームと、右眼フレームは、2次元コンテンツの複数のフレームの中で対応する少なくともある一つから各々変換されることである。変換部11によって遂行される2次元コンテンツから3次元コンテンツへの変換(以下、‘2次元−3次元変換’と言う)に関しては下記にまた詳述する。
通信部14は、2次元コンテンツ提供装置とコンテンツ変換装置1との間のデータ通信、3次元コンテンツ提供装置とコンテンツ変換装置1との間のデータ通信、又は使用者端末機とコンテンツ変換装置1との間のデータ通信を遂行することができる。
変換部11は、貯蔵部111、RAM112及びCPU113を含むことができる。貯蔵部111は2次元−3次元変換を遂行するための変換プログラム114、変換する2次元コンテンツ115及び2次元コンテンツから変換される3次元コンテンツ116を貯蔵することができる。貯蔵部111はハードディスク、フラッシュメモリーなどの不揮発性のメモリーに具現されることができる。RAM112には変換部11の動作するとき変換プログラム114の少なくとも一部がローディングされて、CPU113はRAM112にローディングされた変換プログラム114を実行する。変換プログラム114はCPU113によって実行できる命令を持つ。貯蔵部111はコンピューターで判読することができる貯蔵媒体の一例である。
図2は図1に図示されたコンテンツ変換装置1の動作を図示した流れ図である。図2に図示されたコンテンツ変換装置1の動作(以下、‘2次元−3次元変換プロセス’と言う)は、変換プログラム114の命令によって遂行されるコンテンツ変換方法に対応する。本実施例の2次元−3次元変換プロセスは、3次元コンテンツの品質決定201、オブジェクトの抽出202、深さの割り当て203及びレンダリング(rendering)204を含むことができる。
3次元コンテンツの品質決定201では、変換しようとする3次元コンテンツの品質が決定される。本実施例の2次元―3次元変換プロセスは、3次元コンテンツの品質に対応して遂行されることができる。つまり、オブジェクトの抽出202、深さの割り当て203及びレンダリング204の中少なくとも一つのプロセスは決定された3次元コンテンツの品質に基づいて遂行されることができる。3次元コンテンツの品質決定201は下記にまた詳しく説明する。
オブジェクトの抽出202では、処理されるフレームの映像に対して3次元の効果が反映されるオブジェクトが抽出される。オブジェクトは各フレームの場面の中で含まれた主要なイメージとして、例えば、主人公が登場する場面で主人公である人物のイメージ、車両が走る場面で該当車両のイメージなどを挙げることができる。オブジェクトの抽出202では、該当フレームの映像を分割(segmentation)して、その結果からオブジェクトの境界(boundary)を抽出することができる。
深さの割り当て203では、オブジェクトの抽出202のプロセスで抽出されたオブジェクトに対して深さが割り当てられる。深さは3次元の視覚効果を出すためのパラメーターで、対応して生成される左眼フレーム及び右眼フレームでオブジェクトを割り当てられたパラメーターの値だけ各々左側及び右側方向に移動(shift)させることに利用される。深さの割り当て203では、先に決められた定型化されたテンプレート(template)を利用して深さが割り当てられることができる。
レンダリング204では深さの割り当て203が遂行された左眼のフレーム及び右眼のフレームに対して完成された3次元の映像のためのイメージ処理が遂行される。例えば、レンダリング204ではフレームの映像でオブジェクトの移動によって発生した空いた領域を満たす処理、いわゆる、インペインティング(inpainting)などが遂行されることができる。
以下、3次元コンテンツの品質決定201のプロセスに対して詳しく説明する。本実施例の2次元―3次元変換プロセスの中少なくとも一つのプロセスは、使用者の入力によって遂行される手動プロセス及び先に決められた基準情報によって遂行される自動プロセスを含むことができる。例えば、オブジェクトの抽出202、深さの割り当て203などのプロセスで、一部のフレームは手動プロセスによって処理され、余りのフレームに対しては自動プロセスによって処理されることができる。
手動プロセスでは、使用者(コンテンツ変換作業を遂行する開発者)の入力によって変換処理が遂行されることができる。コンテンツ変換装置1は使用者の入力のためにキーボード、マウス、タブレットなどのような使用者入力部12を更に含むことができる。また、コンテンツ変換装置1は使用者が変換処理状況を確認することができるように、変換処理される映像をディスプレーするモニターのようなコンディスプレー部13を更に含むことができる。コンテンツ変換装置1は効果的に使用者の入力を受信するために、ディスプレー部13に処理されるフレームの映像と、所定入力メニューなどを含むGUI(図示せず)を表示することができる。使用者はディスプレー部13に表示されるフレームの映像を確認しながら、GUIの入力メニューなどを利用して変換処理のための入力をすることができる。例えば、使用者はフレームの映像に含まれたオブジェクトを確認しながら、GUIの入力メニューなどを利用して該当オブジェクトが抽出されるように入力の操作をすることができる。
自動プロセスでは、先に決められた基準情報によってプロセスが遂行される。例えばオブジェクトの抽出202にあって、コンテンツ変換装置1はフレームの映像を分析して、映像内のあるオブジェクトの境界で画素値の変化が所定の閾値以上のオブジェクトを抽出するオブジェクトに選択することができる。ここで基準情報は抽出するオブジェクトに選択するようにする、オブジェクトの境界での画素値の変化の閾値である。
3次元コンテンツの品質は、ある2次元―3次元変換プロセスにあって、手動プロセス及び自動プロセスが各々どのくらい遂行されるかを表すことができる。例えば、オブジェクトの抽出202にあって、手動プロセスと、自動プロセスが各々半分ずつ設けられる場合などを挙げることができる。3次元コンテンツの品質は、ある2次元―3次元変換プロセス全体の中で自動プロセス(若しくは手動プロセス)が遂行される比率(以下、‘組合比率’若しくは‘遂行程度’と言う)で表すことができる。
図3は図1に図示されたコンテンツ変換装置1の動作の他の例を説明する流れ図である。先ず、コンテンツ変換装置1は、3次元コンテンツの品質を考えて自動プロセス(若しくは手動プロセス)の遂行程度を決定する301。次に、ある2次元―3次元変換プロセスにあって、決定された遂行程度に基づいて自動プロセスに処理するかまたは、手動プロセスに処理するかを決定する302。動作302にあって、自動プロセス若しくは手動プロセスに処理するかを区分する決定は、例えば、フレーム単位に設けられることがある。もし、自動プロセスに処理することに決定した場合、該当2次元―3次元変換プロセスを自動プロセスに処理する303。もし、手動プロセスに処理することに決定した場合、該当2次元―3次元変換プロセスを手動プロセスに処理する304の各動作が順次遂行される。
3次元コンテンツの品質は、複数の品質モードを含めて、複数の品質モードの中選択されたある一つに対応して2次元―3次元変換プロセスが遂行されることがある。図4は複数の品質モードの一例を図示するテーブルである。図4のテーブルに図示された通り、複数の品質モードは、例えば、品質が高くなる順に、‘簡易(Simple)モード’、基本(Basic)モード’、向上された(Advanced)モード’及び‘専門家(Expert)モード’を含むことができる。この品質モードにあって、各々の自動プロセスの遂行程度は、該当プロセス全体の中で、例えば、85%超過、85%、70%及び50%であることがある。また、複数の品質モードは3次元コンテンツを製作する側面で費用(Cost)も対応する(図4のテーブルで、‘とても低い(Very Low)’、‘低い(Low)’、‘中間(Medium)’及び‘中間+(Medium+)’参照)となる。
3次元コンテンツの品質は、2次元コンテンツの種類若しくは属性によって決定されることがある。2次元コンテンツは最新作である映画の場合、相対的に高い品質に決定されて、製作された時期が古いほど映画は相対的に低い品質に決定されることができる。他の例で、ブロックバスタのようなスケールが大きい映画の場合、相対的に高い品質に決定されて、ストーリー展開主の映画は相対的に低い品質に決定されることがある。また他の例で、スポーツ、映画、ドラマなどのようなコンテンツのジャンルによって3次元コンテンツの品質が決定されることもある。
3次元コンテンツの品質は使用者の入力によって決定されることができる。3次元コンテンツの品質の決定のための使用者の入力は、例えば、使用者入力部12から受信されることもある。この場合、使用者は、例えば、該当コンテンツを変換する開発者であることがある。選択的な実施例として、ディスプレー部13には3次元コンテンツの品質の決定のためのGUIとしての入力メニューが表示されることができる。3次元コンテンツの品質の決定のための入力メニューは、例えば、‘簡易(Simple)モード’、基本(Basic)モード’、向上された(Advanced)モード’及び‘専門家(Expert)モード’に各々対応するGUI項目を含むプルダウンメニュー(図示せず)を含むことができる。プルダウンメニューの複数のGUI項目の中ある一つが選択されると、各2次元―3次元変換プロセスに対応するGUI入力メニューに含まれた複数の機能のGUI項目の中で、選択された品質モードによって必要な機能のGUI項目だけ活性化されて、不必要な機能のGUI項目は非活性化されることができる。
他の例として、3次元コンテンツの品質の決定のための使用者の入力は、通信部14を通じて他の装置から、例えば、3次元コンテンツの変換を要請する使用者端末機(図示せず)から受信されることもある。この場合の使用者は、例えば、該当コンテンツの変換を要請して返還された3次元コンテンツを利用しようとする使用者であることもある。
以上の如く、本実施例によると、変換される3次元コンテンツの品質を多様にすることで、費用対比効果的な品質のコンテンツを提供する一方、使用者の多様な好みを充足させることができる。
図5は図1の図示されたコンテンツ変換装置1の動作のまた他の例を図示した流れ図である。図5に図示されたコンテンツ変換装置1に関して図1乃至図4を参照して説明したコンテンツ変換装置1と同一乃至類似な構成に対しては説明を省略する。
本実施例の2次元―3次元変換プロセスは、3次元コンテンツの品質決定501、キーフレームの選定502、オブジェクトの抽出503、深さの割り当て504、トラッキング505、レンダリング506及び3次元画質処理507を含むことができる。3次元コンテンツの品質の決定501では、変換しようとする3次元コンテンツの品質が決定される。
キーフレームの選定502では、2次元コンテンツの複数のフレームの中で任意のキーフレームが選定される。キーフレームとしては、2次元コンテンツの複数のフレームの中で映像の内容を代表することができるフレームが選定されることができる。例えば、キーフレームは、場面が展開されるフレーム、場面の主人公がクローズアップされるフレームなどであることがある。キーフレームは該当フレームの映像のモーションに基づいて選定されることができる。例えば、映像のモーションが所定値以上であるフレームをキーフレームを選定することができる。
オブジェクトの抽出503では、選定されたキーフレームに対して3次元の効果が反映されるオブジェクトが抽出される。深さの割り当て504では、オブジェクト抽出のプロセス503で抽出されたオブジェクトに対して深さが割り当てられる。
トラッキング505では、キーフレームではない余りのフレームに対して対応する左眼のフレーム及び右眼のフレームが生成される。トラッキング505はキーフレームに遂行されたオブジェクトの抽出503及び深さの割り当て504を参照して遂行されることができる。このように、主要なキーフレームに対してオブジェクトの抽出、深さの割り当てなどを遂行して、余りのフレームに対してキーフレームを参照してトラッキングを遂行することで、品質の優秀さを維持しながら、費用及び時間の面に効率的な変換処理を遂行することができる。
レンダリング506では深さの割り当て504及びトラッキング505が遂行された左眼のフレーム及び右眼のフレームに対して完成された3次元の映像のためのイメージ処理が遂行される。
3次元画質処理507では、レンダリング506が遂行されたフレームに対して3次元画質処理が遂行される。3次元画質処理406は、コントラスト向上(contrast enhancement)、ディテール向上(detail enhancement)、などを含むことができる。3次元画質処理507によって、3次元コンテンツの実際ディスプレー時、画質の側面でディスプレーする装置に最適化されるように画質改善することができる。
追加的な実施例として、本実施例の2次元−3次元変換プロセスの中少なくとも一つは、処理されるフレームの内容及び展開過程に関する情報(以下、‘ストーリーテリング(storytelling)情報’とも言う)に基づいて遂行されることができる。ストーリーテリング情報は、コンテンツの製作者が意図したところによってコンテンツのストーリー展開に合わせて、3次元の視覚効果が対応的に起きるように利用される情報である。本実施例では、オブジェクトの抽出503、深さの割り当て504などのプロセスがストーリーテリング情報に基づいて遂行されることができる。ストーリーテリング情報を利用する例は、二人の人物が話し会う場面で、話し会う二人の後ろを他の主要人物が通る場合、他の主要人物を該当フレームのオブジェクトに抽出するようにしたり、抽出された他の主要人物のオブジェクトに深さを十分適用するようにするなどの例を挙げることができる。このような例で、ストーリーテリング情報は、オブジェクトの抽出のための他の主要人物のイメージに関する情報や、深さの割り当てのためのストーリー展開上の主要な程度を表す値などを含むことができて、該当フレームに対応して先に設けられて貯蔵部111に貯蔵されることができる。変換部11は、該当フレームに対するプロセスの遂行するとき貯蔵部111に貯蔵されたストーリーテリングの情報を参照してプロセスを遂行することができる。
図6は、図1に示されたコンテンツ変換装置1の動作の他の実施例を示す流れ図である。図6を参照して説明されるコンテンツ変換装置1の構成のうち、図1乃至図5を参照して説明したコンテンツ変換装置1と同一又は類似の事項についての説明は省略する。まず、動作601において、コンテンツ変換装置1は、2次元−3次元変換に適用する複数の変換プロセスのそれぞれの遂行程度を決定する。
本実施例における複数の変換プロセスは、変換される3次元コンテンツの品質(以下、‘変換品質’という)が相対的に高い第1変換プロセスと、第1変換プロセスに比べて変換品質が相対的に低い第2変換プロセスと、を含むとする。第1変換プロセスは、例えば、使用者の入力によって、オブジェクトを抽出したり、深さを割り当てるプロセスを含む。第2変換プロセスは、第1変換プロセスの遂行結果を利用してフレームを補間したり、トラッキングを行うプロセスを含む。ただし、第1変換プロセス及び第2変換プロセスはこの例示に限定されず、変換品質が互いに異なる多様な形態の変換プロセスを含んでもよい。更に、複数の変換プロセスは、2個の変換プロセスに限定されず、3以上の変換プロセスを含んでもよい。
動作601において、コンテンツ変換装置1は、複数の変換プロセスのそれぞれの遂行程度を使用者の入力によって決定できる。例えば、コンテンツ変換装置1は、使用者入力部12を介して複数の変換プロセスのそれぞれの遂行程度に関する使用者の入力を受信し、受信した使用者の入力によって複数の変換プロセスのそれぞれの遂行程度を決定するとよい。
コンテンツ変換装置1は、複数の変換プロセスのそれぞれの遂行程度を指定するためのメニュー項目を含むGUIを表示し、メニュー項目を用いた使用者の入力によって複数の変換プロセスのそれぞれの遂行程度を決定するとよい。図7には、メニュー項目を含むGUIの一例を示す。GUI71は、複数の変換プロセス(第1変換プロセス、第2変換プロセスなど)のそれぞれの遂行程度を指定するためのメニュー項目72,73を含む。メニュー項目72,73は、同図ではスライドバーの形態になっている。使用者は、メニュー項目72,73を用いて複数の変換プロセス(第1変換プロセス、第2変換プロセスなど)のそれぞれの遂行程度を指定できる。ただし、複数の変換プロセスのそれぞれの遂行程度を指定するためのインターフェースの形態は、図示の例に限定されず、使用者の入力によって遂行程度を指定できる多様な形態のインターフェース、例えば、直接入力、選択アイコンなどにしてもよい。
使用者は変換品質を考慮して複数の変換プロセス(第1変換プロセス、第2変換プロセスなど)のそれぞれの遂行程度を指定できる。第1変換プロセスが高い変換品質に対応し、第2変換プロセスが第1変換プロセスに比べて低い変換品質に対応する場合に、変換品質を上げたければ、第1変換プロセスの遂行程度を第2変換プロセスの遂行程度よりも大きく指定する(第2変換プロセスの遂行程度を第1変換プロセスの遂行程度よりも小さく指定する)。例えば、第1変換プロセスを60%に指定し、第2変換プロセスを30%に指定するとよい。逆に、変換品質を下げたければ、第1変換プロセスの遂行程度を第2変換プロセスの遂行程度よりも小さく指定する(第2変換プロセスの遂行程度を第1変換プロセスの遂行程度よりも大きく指定する)。例えば、第1変換プロセスを30%に指定し、第2変換プロセスを60%に指定するとよい。
コンテンツ変換装置1は、指定された複数の変換プロセス(第1変換プロセス、第2変換プロセスなど)のそれぞれの遂行程度に対応して、予想される変換品質を表す情報を表示してもよい。変換品質を表す情報は、例えば、図7に示すように、複数の品質モードを表すメニュー項目74の形態で表示されるとよい。複数の品質モードは、‘品質A’、‘品質B’,…のように品質の高い順に整列可能である。コンテンツ変換装置1は、複数の変換プロセスの遂行程度に対する指定に対応して、予想される変換品質のメニュー項目74をハイライトさせる。図7では、現在の指定によれば、予想される変換品質は、最も品質の高い‘品質A’に該当することを示している。
他の実施例として、コンテンツ変換装置1は、メニュー項目74が使用者の入力によって選択されるようにしてもよい。使用者は、メニュー項目72,73の代わりにメニュー項目74を利用して変換品質を選択し、コンテンツ変換装置1は、選択された変換品質に対応して複数の変換プロセスのそれぞれの遂行程度を決定してもよい。例えば、使用者が‘品質B’に該当するメニュー項目74を選択した場合に、コンテンツ変換装置1は、2番目に変換品質が高い場合と判断し、第1変換プロセスを40%に指定し、第2変換プロセスを50%に決定するとよい。本実施例における遂行程度の数値は一例に過ぎず、実際具現では様々に変更されてもよい。
再び図6を参照すると、動作601で複数の変換プロセスのそれぞれの遂行程度が決定されると、動作602において、コンテンツ変換装置1は、決定された遂行程度に基づいて、変換しようとする2次元コンテンツの複数のフレームを、複数の変換プロセスのそれぞれに対応する複数のフレーム群に分類する。複数の変換プロセスが第1変換プロセスと第2変換プロセスを含む場合に、コンテンツ変換装置1は、2次元コンテンツの複数のフレームを、第1変換プロセスを適用する第1フレーム群と、第2変換プロセスを適用する第2フレーム群とに分類すればよい。コンテンツ変換装置1は、2次元コンテンツの複数のフレームを分類するとき、動作601で決定された複数の変換プロセスのそれぞれの遂行程度を考慮する。例えば、第1変換プロセスの遂行程度が70%、第2変換プロセスの遂行程度が30%に決定された場合に、2次元コンテンツの全体フレームの中で70%を第1フレーム群に、30%を第2フレームに分類すればよい。
続いて、コンテンツ変換装置1は、分類された複数のフレーム群のそれぞれに対応の複数の変換プロセスを行う。すなわち、第1フレーム群に第1変換プロセスが行われ(動作603)、第2フレーム群に第2変換プロセスが行われる(動作604)。
続いて、動作605において、コンテンツ変換装置1は、各フレーム群に対する変換プロセスの遂行結果を併合する。併合により3次元コンテンツの変換が完了することもあり、追加の変換過程が更に行われることもある。
図8は、図6及び図7を参照して説明したコンテンツ変換装置1の具体的な動作の一例を示す流れ図である。コンテンツ変換装置1は、相対的に高い変換品質に対応する第1変換プロセスを適用する第1フレーム群を所定の基準により選別するとよい。動作801で、コンテンツ変換装置1は、動作601で決定された第1変換プロセスの遂行程度に対応するサンプリングレートで複数のフレームをダウンサンプリングして第1フレーム群を決定できる。ダウンサンプリングは、全体フレームに対して1/n(n=1,2,3,…)のサンプリングレートで行えばよい。例えば、第1変換プロセスが50%である場合に、1/2のサンプリングレートでダウンサンプリングを行い、第1フレーム群を決定できる。この場合、第1フレーム群は全体フレームの中の半分が選別されるとよい。
続いて、動作802において、コンテンツ変換装置1は、決定された第1フレーム群に対して使用者の入力によってオブジェクトの抽出及び深さの割り当てを行うことができる。コンテンツ変換装置1は、第1フレーム群として選別されたフレームを順次に表示し、オブジェクトの抽出及び深さの割り当てのためのGUIを提供すればよい。コンテンツ変換装置1は、GUIを用いた使用者の入力によってオブジェクトの抽出及び深さの割り当てを行うとよい。図9に、使用者の入力によってオブジェクトを抽出する例を示す。使用者は、表示されたフレーム91内のオブジェクト93を抽出するために、GUI 92を用いた使用者入力部12の入力によってオブジェクト93の境界を表す線94を引けばよい。コンテンツ変換装置1は、使用者の入力による線94を参照してこれを境界にするオブジェクト93を抽出できる。図10には、使用者の入力によって深さを割り当てる例を示している。図10を参照すると、使用者は、フレーム101内のオブジェクト103に対して、GUI 102を用いてオブジェクト103に割り当てる深さを表す値104を指定している。コンテンツ変換装置1は、使用者の入力による値104を参照してオブジェクト103に深さを割り当てている。コンテンツ変換装置1は、第1フレーム群として選別された全てのフレームに対してオブジェクトの抽出及び深さの割り当てが完了すると、動作802を終了する。
一方、動作803において、コンテンツ変換装置1は、第1変換プロセス(動作802)の遂行結果を用いた補間と、アップサンプリングを行う。2次元コンテンツの一部フレーム(第1フレーム)に対してのみオブジェクトの抽出及び深さの割り当てが行われたたため、残りのフレームにも当該処理が必要である。コンテンツ変換装置1は、動作802で第1フレーム群に行われたオブジェクトの抽出及び深さの割り当ての結果を利用して、残りのフレームに対するオブジェクトの抽出及び深さの割り当てを行う。動作803におけるアップサンプリングは、動作801で行われたダウンサンプリングに対応するサンプリングレートで行われる。例えば、動作801でダウンサンプリングが1/2のサンプリングレートで行われた場合に、動作803におけるアップサンプリングは2倍のサンプリングレートで行われる。アップサンプリングされたフレームに対するオブジェクトの抽出及び深さの割り当ては、処理しようとするフレームに隣接した第1フレーム群の少なくとも一つのフレームに対するオブジェクトの抽出及び深さの割り当ての結果を補間して行われる。コンテンツ変換装置1は、アップサンプリングされた全てのフレームに対して補間が完了すると、動作803を終了する。
続いて、動作804において、コンテンツ変換装置1は、動作802でオブジェクトの抽出及び深さの割り当てが行われた第1フレーム群と、動作803で補間及びアップサンプリングが行われたフレームとを併合する。併合されたフレームに対してレンダリングなどの追加プロセスが行われてもよいことは、図1乃至5を参照して上述した通りである。
図11は、図6及び図7を参照して説明したコンテンツ変換装置1の具体的な動作の他の例を示す流れ図である。コンテンツ変換装置1は、相対的に高い変換品質に対応する第1変換プロセスを適用する第1フレーム群を他の基準により選別してもよい。動作1101において、コンテンツ変換装置1は、2次元コンテンツの複数のフレームの中で、動作601で決定された第1変換プロセスの遂行程度に対応する重要度以上を持つ第1フレーム群を決定できる。重要度は、複数のフレームの中で映像の内容を代表する程度に対応する。例えば、場面が切り替わるフレーム、場面の主人公がクローズアップされるフレームなどは重要度が高い。重要度は、例えば、該当フレームの映像のモーション変化程度によって決定されるとよい。コンテンツ変換装置1は、該当フレームの映像のモーションが、動作601で決定された第1変換プロセスの遂行程度に対応する値以上であるフレームを第1フレーム群と決定可能である。例えば、第1変換プロセスが50%に指定された場合に、全体フレームの中で重要度の順で上位1/2に該当するフレームが第1フレーム群と決定されるとよい。
次いで、動作1102において、コンテンツ変換装置1は、決定された第1フレーム群に対して使用者の入力によってオブジェクトの抽出及び深さの割り当てを行うことができる。コンテンツ変換装置1は、第1フレーム群として選別されたフレームを順次に表示し、使用者の入力によってオブジェクトの抽出及び深さの割り当てを行うとよい。動作1102は、上述した動作802と同様に行えばよい。コンテンツ変換装置1は、第1フレーム群として選別された全てのフレームに対してオブジェクトの抽出及び深さの割り当てが完了すると、動作1102を終了する。
一方、動作1103において、コンテンツ変換装置1は、第1変換プロセス動作1102の遂行結果を利用してトラッキングを行う。2次元コンテンツの一部のフレーム(第1フレーム)に対してのみオブジェクトの抽出及び深さの割り当てが行われたので、残りフレームにも当該処理が必要である。コンテンツ変換装置1は、動作1102で第1フレーム群に対して行われたオブジェクトの抽出及び深さの割り当ての結果を用いたトラッキングを実行することによって、残りフレームに対するオブジェクトの抽出及び深さの割り当てを行う。動作1103でのトラッキングは、前述した動作505でのトラッキングと同様に行えばよい。コンテンツ変換装置1は、2次元コンテンツの全体フレームの中で、第1フレーム群を除く残りのフレームの全てに対してトラッキングが完了すると、動作1103を終了する。
続いて、動作1104において、コンテンツ変換装置1は、動作1102でオブジェクトの抽出及び深さの割り当てが行われた第1フレーム群と、動作1103でトラッキングが行われたフレームとを併合する。併合されたフレームに対してレンダリングなどの追加プロセスが行われてもよいことは、図1乃至5を参照して説明した通りである。
以上、好ましい実施例を通じて本発明に関して詳しく説明したが、本発明はこれに限定される事ではなく特許請求範囲内で多様に実施されることができる。例えば、前記実施例では、オブジェクトの抽出202、深さの割り当て203などのプロセスに対して3次元コンテンツの品質を多様にすることを説明したが、これは一つの例示に過ぎないで、他のプロセスであるキーフレームの選定502、レンダリング506などのプロセスも3次元コンテンツの品質に基づいて遂行されることができる。
1 コンテンツ変換装置
11 変換部
12 使用者の入力部
13 ディスプレー部
14 通信部
11 変換部
12 使用者の入力部
13 ディスプレー部
14 通信部
Claims (18)
- コンテンツ変換装置を用いて2次元コンテンツを3次元コンテンツに変換するコンテンツ変換方法であって、
互いに異なる複数の変換プロセスのそれぞれの遂行程度を決定する段階と、
前記決定された遂行程度に基づいて2次元コンテンツの複数のフレームを、前記複数の変換プロセスのそれぞれに対応する複数のフレーム群に分類する段階と、
前記分類された複数のフレーム群のそれぞれに対して対応する前記複数の変換プロセスを行う段階と、
前記複数のフレーム群に対する前記複数の変換プロセスの遂行結果を併合する段階と、を含むコンテンツ変換方法。 - 前記決定する段階は、
前記複数の変換プロセスのそれぞれの遂行程度に関する使用者の入力を受信する段階と、
前記受信した使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する段階と、
を含む、請求項1に記載のコンテンツ変換方法。 - 前記決定する段階は、
前記複数の変換プロセスのそれぞれの遂行程度を指定するためのメニュー項目を含むGUIを表示する段階と、
前記メニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する段階と、
を含む、請求項2に記載のコンテンツ変換方法。 - 前記決定する段階は、
前記複数の変換プロセスのそれぞれの遂行程度に対応する変換品質に関する情報を表示する段階を更に含む、請求項1に記載のコンテンツ変換方法。 - 前記決定する段階は、
変換品質に関するメニュー項目を含むGUIを表示する段階と、
前記変換品質に関するメニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する段階と、
を更に含む、請求項4に記載のコンテンツ変換方法。 - 前記複数の変換プロセスは、第1変換プロセスと、該第1変換プロセスよりも低い変換品質に対応する第2変換プロセスと、を含む、請求項1に記載のコンテンツ変換方法。
- 前記第1変換プロセスは、使用者の入力によって行われるオブジェクトの抽出及び深さの割り当てのうち少なくとも一つを含み、
前記第2変換プロセスは、前記第1変換プロセスの遂行結果を用いた補間及びトラッキングのうち少なくとも一つを含む、請求項6に記載のコンテンツ変換方法。 - 前記分類する段階は、
前記決定された第1変換プロセスの遂行程度に対応するサンプリングレートで前記複数のフレームをダウンサンプリングし、前記第1変換プロセスを適用する前記フレーム群を決定する段階を含む、請求項6に記載のコンテンツ変換方法。 - 前記分類する段階は、
前記決定された第1変換プロセスの遂行程度に対応する重要度に基づいて、前記複数のフレームの中から、前記第1変換プロセスを適用する前記フレーム群を決定する段階を含む、請求項6に記載のコンテンツ変換方法。 - 2次元コンテンツを3次元コンテンツに変換するコンテンツ変換装置であって、
互いに異なる複数の変換プロセスのそれぞれの遂行程度を決定し、該決定された遂行程度に基づいて2次元コンテンツの複数のフレームを、前記複数の変換プロセスのそれぞれに対応する複数のフレーム群に分類し、該分類された複数のフレーム群のそれぞれに対して対応の前記複数の変換プロセスを行い、前記複数のフレーム群に対する前記複数の変換プロセスの遂行結果を併合する変換部を備える、コンテンツ変換装置。 - 前記複数の変換プロセスのそれぞれの遂行程度に関する使用者の入力を受信する使用者入力部を更に備え、
前記変換部は、前記受信された使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する、請求項10に記載のコンテンツ変換装置。 - ディスプレー部を更に備え、
前記変換部は、前記複数の変換プロセスのそれぞれの遂行程度を指定するためのメニュー項目を含むGUIを前記ディスプレー部に表示し、前記メニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する、請求項11に記載のコンテンツ変換装置。 - 前記変換部は、前記複数の変換プロセスのそれぞれの遂行程度に対応する変換品質に関する情報を前記ディスプレー部に表示する、請求項10に記載のコンテンツ変換装置。
- 前記変換部は、変換品質に関するメニュー項目を含むGUIを前記ディスプレー部に表示し、前記変換品質に関するメニュー項目を用いた使用者の入力によって前記複数の変換プロセスのそれぞれの遂行程度を決定する、請求項13に記載のコンテンツ変換装置。
- 前記複数の変換プロセスは、第1変換プロセスと、前記第1変換プロセスよりも低い変換品質に対応する第2変換プロセスと、を含む、請求項10に記載のコンテンツ変換装置。
- 前記第1変換プロセスは、使用者の入力によって行われるオブジェクトの抽出及び深さの割り当てのうち少なくとも一つを含み、
前記第2変換プロセスは、前記第1変換プロセスの遂行結果を用いた補間及びトラッキングのうち少なくとも一つを含む、請求項15に記載のコンテンツ変換装置。 - 前記変換部は、前記決定された第1変換プロセスの遂行程度に対応するサンプリングレートで前記複数のフレームをダウンサンプリングし、前記第1変換プロセスを適用する前記フレーム群を決定する、請求項15に記載のコンテンツ変換装置。
- 前記変換部は、前記決定された第1変換プロセスの遂行程度に対応する重要度に基づいて、前記複数のフレームの中から、前記第1変換プロセスを適用する前記フレーム群を決定する、請求項15に記載のコンテンツ変換装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2011-0046349 | 2011-05-17 | ||
KR20110046349 | 2011-05-17 | ||
PCT/KR2012/003643 WO2012157886A2 (en) | 2011-05-17 | 2012-05-09 | Apparatus and method for converting 2d content into 3d content, and computer-readable storage medium thereof |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014515153A true JP2014515153A (ja) | 2014-06-26 |
Family
ID=45002768
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012025202A Pending JP2012244622A (ja) | 2011-05-17 | 2012-02-08 | コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 |
JP2014511287A Pending JP2014515153A (ja) | 2011-05-17 | 2012-05-09 | コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012025202A Pending JP2012244622A (ja) | 2011-05-17 | 2012-02-08 | コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 |
Country Status (6)
Country | Link |
---|---|
US (2) | US20120293616A1 (ja) |
EP (2) | EP2525581A3 (ja) |
JP (2) | JP2012244622A (ja) |
KR (1) | KR20140037069A (ja) |
CN (2) | CN102789648A (ja) |
WO (1) | WO2012157886A2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201428684A (zh) * | 2013-01-10 | 2014-07-16 | Calin Technology Co Ltd | 影像仿真補正之方法 |
KR101503691B1 (ko) * | 2013-02-07 | 2015-03-19 | 주식회사 로커스 | 입체영상 제작 시 인터레이스 이미지 처리 방법, 이를 이용하는 이미지 처리 장치 및 이를 포함하는 기록 매체 |
KR20150066883A (ko) * | 2013-12-09 | 2015-06-17 | 삼성전자주식회사 | 이미지 처리 방법 및 장치 |
US9979952B2 (en) * | 2013-12-13 | 2018-05-22 | Htc Corporation | Method of creating a parallax video from a still image |
CN104967893B (zh) * | 2014-07-10 | 2019-03-29 | 腾讯科技(北京)有限公司 | 便携电子设备的视频生成方法和装置 |
KR102264591B1 (ko) | 2015-02-27 | 2021-06-15 | 삼성전자주식회사 | 영상 처리 방법 및 이를 지원하는 전자 장치 |
KR101926463B1 (ko) * | 2016-12-22 | 2018-12-10 | 주식회사 디지털아이디어 | 영상 처리를 위한 공정 관리장치 및 그 동작 방법 |
US11610059B2 (en) * | 2018-12-07 | 2023-03-21 | Interject Data System, Inc. | Systems and methods for a visual interface for grid-based programs |
IT201900000082A1 (it) * | 2019-01-04 | 2020-07-04 | St Microelectronics Srl | Dispositivo, sistema, metodo e prodotto informatico di rilevamento e valutazione di grandezze ambientali ed eventi ad approccio modulare e complessita' variabile |
CN111212278B (zh) * | 2020-01-07 | 2021-08-03 | 电子科技大学 | 一种预测位移帧的方法与系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004505393A (ja) * | 2000-08-09 | 2004-02-19 | ダイナミック ディジタル デプス リサーチ プロプライエタリー リミテッド | イメージ変換および符号化技術 |
JP2010515303A (ja) * | 2006-12-22 | 2010-05-06 | クゥアルコム・インコーポレイテッド | 複雑適応2D−to−3Dビデオシーケンス変換 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ATE278298T1 (de) * | 1999-11-26 | 2004-10-15 | Sanyo Electric Co | Verfahren zur 2d/3d videoumwandlung |
KR100461339B1 (ko) * | 2002-05-14 | 2004-12-10 | 주식회사 포디컬쳐 | 영상데이터 전송장치 및 방법 |
JP4100195B2 (ja) * | 2003-02-26 | 2008-06-11 | ソニー株式会社 | 3次元オブジェクトの表示処理装置、表示処理方法、およびコンピュータプログラム |
JP2004259063A (ja) * | 2003-02-26 | 2004-09-16 | Sony Corp | 3次元オブジェクトの表示処理装置、表示処理方法およびコンピュータプログラム |
US8213711B2 (en) * | 2007-04-03 | 2012-07-03 | Her Majesty The Queen In Right Of Canada As Represented By The Minister Of Industry, Through The Communications Research Centre Canada | Method and graphical user interface for modifying depth maps |
KR101387212B1 (ko) * | 2007-06-12 | 2014-04-21 | 삼성전자주식회사 | 2d 영상 미디어 표준을 기반으로 3d 입체영상 파일을생성 및 재생하기 위한 시스템 및 방법 |
KR100947265B1 (ko) * | 2008-10-10 | 2010-03-12 | (주)플렛디스 | Pmp용 3d 영상 디스플레이 모듈 |
US8345956B2 (en) * | 2008-11-03 | 2013-01-01 | Microsoft Corporation | Converting 2D video into stereo video |
KR101506926B1 (ko) * | 2008-12-04 | 2015-03-30 | 삼성전자주식회사 | 깊이 추정 장치 및 방법, 및 3d 영상 변환 장치 및 방법 |
WO2011017308A1 (en) * | 2009-08-04 | 2011-02-10 | Shenzhen Tcl New Technology Ltd. | Systems and methods for three-dimensional video generation |
US8878912B2 (en) * | 2009-08-06 | 2014-11-04 | Qualcomm Incorporated | Encapsulating three-dimensional video data in accordance with transport protocols |
US9083958B2 (en) * | 2009-08-06 | 2015-07-14 | Qualcomm Incorporated | Transforming video data in accordance with three dimensional input formats |
EP2474167A4 (en) * | 2009-09-01 | 2014-12-10 | Prime Focus Vfx Services Ii Inc | SYSTEM AND PROCESS FOR TRANSFORMING TWO-DIMENSIONAL IMAGES TO THREE-DIMENSIONAL IMAGES |
US8537200B2 (en) * | 2009-10-23 | 2013-09-17 | Qualcomm Incorporated | Depth map generation techniques for conversion of 2D video data to 3D video data |
KR20120005328A (ko) * | 2010-07-08 | 2012-01-16 | 삼성전자주식회사 | 입체 안경 및 이를 포함하는 디스플레이장치 |
US8918715B2 (en) * | 2010-11-16 | 2014-12-23 | Magix Ag | System and method for generating stereoscopic 3D multimedia works from 2D input material |
KR101028342B1 (ko) * | 2011-01-20 | 2011-04-11 | (주)디지탈아리아 | 2차원 플래시 애니메이션을 입체 3차원 플래시 애니메이션으로 변환하는 방법 |
KR20120133640A (ko) * | 2011-05-31 | 2012-12-11 | 삼성전자주식회사 | 3d 영상변환장치 그 구현방법 및 그 저장매체 |
US20130162625A1 (en) * | 2011-12-23 | 2013-06-27 | Michael L. Schmit | Displayed Image Improvement |
CA2861868A1 (en) * | 2012-01-25 | 2013-08-01 | Lumenco, Llc | Conversion of a digital stereo image into multiple views with parallax for 3d viewing without glasses |
-
2011
- 2011-11-21 EP EP11189968.8A patent/EP2525581A3/en not_active Withdrawn
-
2012
- 2012-02-08 JP JP2012025202A patent/JP2012244622A/ja active Pending
- 2012-02-10 CN CN2012100323992A patent/CN102789648A/zh active Pending
- 2012-03-23 US US13/428,988 patent/US20120293616A1/en not_active Abandoned
- 2012-05-09 EP EP12785679.7A patent/EP2695384A4/en not_active Withdrawn
- 2012-05-09 CN CN201280024045.1A patent/CN103548343A/zh active Pending
- 2012-05-09 JP JP2014511287A patent/JP2014515153A/ja active Pending
- 2012-05-09 WO PCT/KR2012/003643 patent/WO2012157886A2/en active Application Filing
- 2012-05-09 US US14/118,415 patent/US20140115473A1/en not_active Abandoned
- 2012-05-09 KR KR1020137028592A patent/KR20140037069A/ko active Search and Examination
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004505393A (ja) * | 2000-08-09 | 2004-02-19 | ダイナミック ディジタル デプス リサーチ プロプライエタリー リミテッド | イメージ変換および符号化技術 |
JP2010515303A (ja) * | 2006-12-22 | 2010-05-06 | クゥアルコム・インコーポレイテッド | 複雑適応2D−to−3Dビデオシーケンス変換 |
Also Published As
Publication number | Publication date |
---|---|
US20120293616A1 (en) | 2012-11-22 |
EP2525581A3 (en) | 2013-10-23 |
US20140115473A1 (en) | 2014-04-24 |
CN102789648A (zh) | 2012-11-21 |
KR20140037069A (ko) | 2014-03-26 |
WO2012157886A3 (en) | 2013-03-21 |
JP2012244622A (ja) | 2012-12-10 |
EP2695384A2 (en) | 2014-02-12 |
CN103548343A (zh) | 2014-01-29 |
EP2695384A4 (en) | 2014-10-08 |
WO2012157886A2 (en) | 2012-11-22 |
EP2525581A2 (en) | 2012-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014515153A (ja) | コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 | |
EP3473311B1 (en) | Providing apparatus, providing method and computer program | |
KR102546016B1 (ko) | 개인화된 비디오를 제공하기 위한 시스템들 및 방법들 | |
US9154772B2 (en) | Method and apparatus for converting 2D content into 3D content | |
KR102658961B1 (ko) | 다수의 사람들이 등장하는 개인화된 비디오를 제공하기 위한 시스템들 및 방법들 | |
US20120293638A1 (en) | Apparatus and method for providing 3d content | |
KR101791917B1 (ko) | 일반 영상을 가상 현실 영상으로 자동 변환하는 방법 및 이를 이용한 장치 | |
US20130057647A1 (en) | Apparatus and method for converting 2d content into 3d content | |
JP2012244623A (ja) | コンテンツ変換装置、コンテンツ変換方法及びその貯蔵媒体 | |
KR101859412B1 (ko) | 컨텐츠변환장치 및 컨텐츠변환방법 | |
KR20190004570A (ko) | 웹 브라우저에 표시된 검색 결과 페이지로부터 이미지를 제공하는 장치 및 방법 | |
JP2011254232A (ja) | 情報処理装置、情報処理方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150508 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160301 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20161011 |