JP2004193795A - Stereoscopic image edit apparatus and stereoscopic image edit program - Google Patents

Stereoscopic image edit apparatus and stereoscopic image edit program Download PDF

Info

Publication number
JP2004193795A
JP2004193795A JP2002357239A JP2002357239A JP2004193795A JP 2004193795 A JP2004193795 A JP 2004193795A JP 2002357239 A JP2002357239 A JP 2002357239A JP 2002357239 A JP2002357239 A JP 2002357239A JP 2004193795 A JP2004193795 A JP 2004193795A
Authority
JP
Japan
Prior art keywords
image
images
stereoscopic image
stereoscopic
thumbnail
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002357239A
Other languages
Japanese (ja)
Other versions
JP4184061B2 (en
Inventor
Katsuyuki Toyoda
勝之 豊田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IO Data Device Inc
Original Assignee
IO Data Device Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IO Data Device Inc filed Critical IO Data Device Inc
Priority to JP2002357239A priority Critical patent/JP4184061B2/en
Publication of JP2004193795A publication Critical patent/JP2004193795A/en
Application granted granted Critical
Publication of JP4184061B2 publication Critical patent/JP4184061B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To attain appreciation of many stereoscopic images at once by a naked eye parallel method or a naked eye crossing method. <P>SOLUTION: A thumbnail list display section 440 in a stereoscopic image edit section 4 displays a plurality of stereoscopic images in a designated folder on one screen as a list by arranging the images by means of thumbnail images in a lateral direction according to a stereoscopic vision form by the naked eye parallel method or the naked eye crossing method. The display section 440 uses scroll bars to display images protruded in a longitudinal direction or a lateral direction within the screen. Further, a mouse or the like is used to adjust an interval of the images in the lateral direction. <P>COPYRIGHT: (C)2004,JPO&NCIPI

Description

【0001】
【発明の属する技術分野】
本発明は、編集画面上に2つ以上の平面画像を左右にずらして表示することにより立体視画像を生成し、この立体視画像を編集可能にした立体視画像編集装置、及び立体視画像編集プログラムに関する。
【0002】
【従来の技術】
インターネットを用いた商取引、いわゆるEコマースにおいては、実際に商品を手に取ってみることができないために、画面上で商品を立体視させることが非常に有効である。しかし、様々なコンテンツをパソコンの画面上で立体視画像として提供するためには、ディジタルカメラ等で取得した平面画像を迅速に且つ容易に編集できる装置が必要となってくる。
【0003】
そこで、従来は、立体視画像を生成するのに必要な左右平面画像をディジタルカメラ等で容易に得るための撮影アダプタや、得られた画像が右画像であるのか左画像であるのかを編集画面上で容易に識別できる機能を持った立体視画像編集装置について提案されている(たとえば、特許文献1参照)。
【0004】
また、1枚の平面画像から、両眼視差に対応する奥行き値(「ズレ量」や「高さ」ともいう)、及び透明感等のパラメータが付与された2つの平面画像を作成し、この2つの平面画像により立体視画像を生成する立体視画像編集装置についても提案されている(たとえば、特許文献2参照)。
【0005】
【特許文献1】
特開2002−12546号公報
【0006】
【特許文献2】
特開2002−123842号公報
【0007】
【発明が解決しようとする課題】
しかしながら、上記の先行技術に示される立体視画像編集装置は、編集機能としていずれも十分ではなく、ディジタルカメラ等で撮像された平面画像を読み込んで容易に立体視画像を作成したり、その編集作業を素早く行うには、更なる改良が要請されていた。
【0008】
本発明の目的は、上記に鑑み、平面画像から立体視画像を容易に生成し、その編集も容易且つ迅速にできる立体視画像編集装置を提供することにある。
【0009】
【課題を解決するための手段】
本発明に係る立体視画像編集装置は次の構成を備えている。
【0010】
(1)左右にずらした2つ以上の平面画像を編集画面上に表示して立体視画像を生成し、この立体視画像を編集画面上で編集可能にした立体視画像編集装置において、
1つ以上の立体視画像ファイルが指定されたときに、各立体視画像を構成する左右の複数の平面画像を所定の大きさのサムネイル画像に変換するサムネイル画像作成部と、これを裸眼交差法又は裸眼平行法のいずれかの立体視形式に従って立体視画像毎に横方向に並べて表示部に一覧表示する立体視画像一覧表示処理部を設けたことを特徴とする。
【0011】
本発明に係る立体視画像は、典型的には、左画像(以下、L画像)と右画像(以下、R画像)のLR画像を左右にずらして配置することによって形成される。通常は、編集画面上でこのLR画像が立体視画像として表示されるが、この編集画面は、多数組の立体視画像を同時に鑑賞可能にする機能は持っていない。そこで、本発明に係る立体視画像編集装置では、複数の立体視画像ファイルが指定された時に、各立体視画像を構成するLR画像をサムネイル画像に変換し、これを横方向に並べて表示部に一覧表示する処理部を設けている。立体視画像ファイルが全部一度に表示できない場合には、画面上で、縦スクロール及び横スクロールが可能となる。
【0012】
本発明では、このように多数の立体視画像が指定された時に、1つの表示画面上に各立体視画像毎に左右の複数のサムネイル画像が表示され、且つ、これらのサムネイル画像は裸眼交差法又は裸眼平行法のいずれかの立体視形式に従って横方向に並べられるため、ユーザは、この画面を見ることによって、複数の立体視画像を裸眼交差法又は裸眼平行法によって立体鑑賞をすることができる。
【0013】
また、ユーザの能力に従い、上記裸眼交差法又は裸眼平行法のいずれかの形式に従って表示されている左右のサムネイル画像の間隔を調整可能とすることで、立体視鑑賞がより容易となる。
【0014】
(2)左右にずらした2つの平面画像を編集画面上に表示して立体視画像を生成し、この立体視画像を編集画面上で編集可能にした立体視画像編集プログラムにおいて、
前記2つの平面画像の奥行き値が一定値以上のときに、各画像の左右端部分を表示されないようにトリミングするトリミング機能をコンピュータに実現させることを特徴とする。
【0015】
通常、編集画面上で2つの左右の平面画像(L画像とR画像)を立体視画像として表示する時に、左右画像の高さ(奥行き値)がある程度以上に大きくなると、LR画像が重ならなくなった左右端部分については、立体とならない。特に、背景画像がある時には、その左右端部分については左右どちらかの眼に、当該画像とは関係のない背景画像が入ってくるために、不自然な立体視画像となる。そこで、本発明では、2つのLR画像の高さ(奥行き値)が一定値以上の時に、各画像の左右端部分が表示されないようにトリミングする。トリミングされた部分については、背景画像がある時にはその背景画像が表示される。このように処理することで、正常な立体視鑑賞をすることができる。
【0016】
(3)左右にずらした2つの平面画像を編集画面上に表示して立体視画像を生成し、この立体視画像を編集画面上で編集可能にした立体視画像編集プログラムにおいて、
前記2つの左右の平面画像を比較して画像の異なる領域を検出する機能と、その領域を左右置き換えた後、両眼視差に対応する奥行き値が置き換えた後の画像の奥行き値と同一となるように該置き換えた画像の奥行き値を自動調整する機能と、をコンピュータに実現させることを特徴とする。
【0017】
立体視画像を生成するための平面画像を1台のディジタルカメラで取得する際、撮像範囲に動く被写体が存在していると、撮像時間差により、L画像とR画像とで被写体の位置が異なってくる。また、2台のディジタルカメラで同じ時間に同期して同一被写体を撮像しても、撮像範囲内に遠距離にある被写体と近距離にある被写体が混在する場合、各ディジタルカメラ間の距離によっては、近距離にある被写体の位置が大きく異なってくる場合がある。
【0018】
上記のような場合、立体視鑑賞時にはLR画像間において位置の異なる被写体について非常に見にくくなるため、通常は、このようなことが生じないように撮影時に時間、場所、被写体となる対象、機材等について細かな調整をする必要があった。
【0019】
そこで、本発明では、2つのLR画像を比較して、画像の異なる領域を自動的に抽出する。また、その抽出した領域をLR画像において左右置き換え、さらに、両眼視差に対応する高さ(奥行き値)が置き換えた後の画像の奥行き値と同一となるように該置き換えた画像の奥行き値を自動調整する。前記検出した領域を左右置き換えることについては、自動であってもよいし手動であってもよい。
【0020】
本発明では上記のように構成することで、LR画像において位置の異なった被写体があっても、その部分については左右入れ換えて且つ奥行き値が自動調整されるため、立体視鑑賞で自然な映像とすることができる。また、従来のように、撮影時間、撮影場所、撮影機材等を考慮しなくてもよい利点がある。
【0021】
【発明の実施の形態】
図1は、本発明に係る立体視画像編集装置の機能ブロック図である。この立体視画像編集装置は、通常は、パソコンで構成される。したがって、編集処理を行うに際して必要な機能は、立体視画像編集プログラムによって提供される。
【0022】
図1において、ディジタルカメラ1と2は、それぞれL画像(左側平面画像)とR画像(右側平面画像)を撮像する。この図では、2つのディジタルカメラ1、2を示してそれぞれL画像とR画像を撮像するようにしているが、1つのディジタルカメラを使用して、時間を異にしてL画像とR画像を撮像するようにしてもよい。また、1台の多眼カメラで同時にL画像とR画像を撮像するようにしてもよい。
【0023】
L画像とR画像は画像入力部3に入力し、直接、又はファイル保存部を介して間接的に立体視画像編集部4に渡される。具体的には、立体視画像編集部4の中の立体視形式設定部42に入力される。この立体視形式設定部42は、画像入力部3からのLR画像の立体視形式を設定する部分である。立体視形式には、裸眼平行法、裸眼交差法、赤色青色2色メガネ立体法、液晶メガネ立体法等による形式があり、これらの形式に従った画像処理を行う。なお、立体視画像編集部4内のファイル入力処理部40は、画像入力部3に対する制御を行う。
【0024】
ファイル保存処理部41は、画像メモリ5に記憶されている立体視画像ファイルを画像ファイル部6に保存したり、画像ファイル部6に保存されている立体視画像ファイルを画像メモリ5に読み出す時の処理を行う。
【0025】
立体視画像編集部4のLR画像自動作成部43は、文字画像等の輪郭が明確な画像に対してLR画像を自動作成し、これを立体視画像として画像メモリ5に記憶する。このLR画像自動作成部43には、文字入力部8からの文字情報が入力する。また、文字入力部8にはキーボード7から入力された文字が入力する。設定により、このLR画像自動作成部43に、画像入力部3からの画像を入力するようにすることも可能である。なお、LR画像移動作成部43において、LR画像を自動作成する方法については、たとえば、特開2002−123842号公報に示されている。LR画像を自動作成する方法の一例として、文字入力部8から入力された文字に対して画像をもう1枚作成し、これらの2つの文字画像をL画像とR画像とし、各画像の透明度や高さ(ズレ量)のパラメータを色相、彩度、明度等の値によって自動設定する。
画像編集処理部44は、サムネイル一覧表示部440と、左右画像端処理部441と、左右画像入れ換え処理部442とを備えている。サムネイル一覧表示部440は、画面上で、立体視画像ファイルが収納されているフォルダが指定された時に、そのフォルダ内にある各立体視画像を構成するLR画像を所定の大きさのサムネイル画像に変換し、これを裸眼交差法又は裸眼平行法のいずれかの立体視形式に従って立体視画像毎に横方向に並べて表示部に一覧表示する処理を行う。
【0026】
また、左右画像端処理部441は、編集画面上に表示されているLR画像の高さ(奥行き値)が一定値以上の時に、各画像の左右端部分をトリミングして表示されないようにする処理を行う。さらに、左右画像入れ換え処理部442は、LR画像を比較して画像の異なる領域を検出し、その領域を左右置き換えた後に、「高さ」(奥行き値)が置き換えた後の画像の「高さ」(奥行き値)と同一となるように該置き換えた画像の「高さ」(奥行き値)を自動調整する。
【0027】
画像メモリ5には、JPEG形式で記憶されるLR画像からなる立体視画像とパラメータとが対になって記憶される。編集ウインドウ上に複数の立体視画像が表示される時には、この画像メモリ内には、各立体視画像に対応する画像データが記憶される。具体的には、画像入力部3からLR画像が入力される毎に、同LR画像が立体視形式設定部42を通過した後、立体視画像としてパラメータとともに順次記憶されていく。また、文字入力部8から文字データが入力される毎に、LR画像自動作成部43を通過した後、立体視画像としてパラメータとともに記憶されていく。画像メモリ5上の画像データは、パラメータ情報に従ってグラフィックメモリ10上に展開され、モニタ画面に表示される。なお、各立体視画像と対になって記憶されるパラメータは、高さ(奥行き値)、透明度、貼り付け位置、各パラメータの時間軸変化度合い等の値を含んでいる。
【0028】
以下、各機能について説明する。
【0029】
(A)サムネイル一覧表示部440の機能について
編集ウインドウ上では、多数の立体視画像を一度に鑑賞することができないため、本実施形態では、複数の立体視画像が収納されているフォルダを指定することによって、そのフォルダ内に収納されている立体視画像をLRのサムネイル画像にして一覧表示する。立体視画像の形式は、裸眼平行法または裸眼交差法のいずれかとする。また、サムネイル画像の大きさは任意に変更することが可能である。さらに、L画像とR画像の間隔は、任意に調整可能とする。
【0030】
これにより、ユーザは、裸眼交差法または裸眼平行法のいずれかにより、多数の立体視画像を一覧に鑑賞することができる。なお、縦方向および横方向へのスクロール機能により、画面をはみ出した立体視画像であっても容易に鑑賞することが可能である。
【0031】
図2(A)は、サムネイル一覧表示を行う時の操作方法を示す図である。ファイル指定部20においてファイルの属性を指定する。例えば、LR画像を立体視画像として統合した画像の属性(図では、.ios)やJPEG等の編集前の平面画像の属性を指定する。続いて、フォルダ21とサムネイル画像の大きさ22とを指定し、立体視形式として裸眼平行法23または裸眼交差法24を指定する。
【0032】
上記の操作を行うと、裸眼平行法23が指定された時には図2(B)のように表示され、裸眼交差法24が指定された時には、図2(C)のように表示される。図2(B)および(C)の表示状態では、マウスにより左右の画像間隔を変更することができる。この画像間隔を調整することにより、鑑賞者の立体視能力に適した最適な間隔に配置することが可能である。なお、縦スクロールバー25により、縦方向にはみ出している画像を容易に画面上に表示させることが可能である。
【0033】
上記図2においては、2つの平面画像について示したが、これ以上の平面画像についても同様にサムネイル一覧表示を行うことが可能である。図3はこの表示例を示している。この場合、縦スクロールバー25に加えて横スクロールバー26を使用することにより、縦方向だけではなく横方向にはみ出した画像についても容易に画面上に表示させることが可能である。また、各画像の間隔については、図2に示す場合と同様に、マウスで変更することが容易である。
【0034】
図4は、サムネイル一覧表示部440の概略の動作を示すフローチャートである。
【0035】
ファイル種類、フォルダ、サムネイル画像のサイズ、表示形式(裸眼平行法か裸眼交差法)の指定を行うと(ST1)、立体視形式が裸眼平行法か裸眼交差法かに応じて(ST2)、画像の横方向への設定順を決める。すなわち、図2(B)に示すように裸眼平行法が指定された時にはL画像とR画像は、左側からL画像、R画像の順に表示され、図2(C)に示すように裸眼交差法が指定された時には、左側からR画像、L画像の順に表示されるように設定される(ST3、ST4)。続いて、指定されたファイル種類に該当する指定フォルダ内のすべての画像についてサムネイル一覧表示が行われる(ST5)。この時、縦スクロールバー25によって画面からはみ出した画像を画面上に表示させることが可能であり、また、マウスによって画像間隔を変更することができる。画像間隔を変更するのは、裸眼平行法または裸眼交差法によって表示された画像を、ユーザが、容易に立体鑑賞できるようにするためである。
【0036】
なお、LR画像が3つ以上で構成されている時には、図3に示すように横方向に各画像が表示されるが、裸眼平行法が指定された時には、上記ST3において、左から右方向に順に撮像した画像を同じく左端から右方向に順に表示するように設定される。また、裸眼交差法が指定された時には、上記ST4において、左から右方向に順に撮像された画像を右端から左方向に向けて順に表示するように設定される。
【0037】
なお、上記ST5においてサムネイル一覧表示を行う時の画像間隔等のデフォルト値は、サムネイル一覧表示部440内において適当な値に設定されている。
【0038】
本実施形態のサムネイル一覧表示部440においては、以上のように画面上に多数のサムネイル画像を一覧表示することにより、裸眼平行法または裸眼交差法により立体視画像を一覧で鑑賞することが可能である。なお、一覧表示されたサムネイル画像を所定のレイアウトで印刷可能にすることも可能である。
【0039】
(B)左右画像端処理部441の機能について
編集ウインドウ上では、LR画像の高さを変えることによって、立体視空間での画像の奥行きを設定するようにしているために、鑑賞時の奥行きを深くするためには、LR画像の高さを大きくすることが必要である。しかし、高さをある程度以上大きくすると、LR画像が重ならなくなった左右端部分において立体視鑑賞することができなくなる。特に、当該画像が背景画像に対する貼り付け画像の時には、左右端部分については背景画像が眼に入ってくるために不自然な立体視鑑賞となる。
【0040】
本実施形態では、上記の不都合を解消するために、LR画像の高さ(奥行き値)が一定値以上の時には、該画像の左右端部分をトリミングして表示されないように処理する。
【0041】
図5は、左右画像端処理部441の機能を説明するための図である。
【0042】
図に示す実施例では、編集ウインドウW1上に、立体視画像であるP1画像と、その上に貼り付けられている立体視画像の画像P2が表示されている。画像P1とP2とはそれぞれレイヤ管理され、レイヤウインドウW2上にそれぞれの画像がサムネイル表示されている。また、サムネイル画像の右側には設定ボタンBが配置されており、サムネイル画像を選択してこのボタンBを操作すると、パラメータ変更のためのレイヤ設定ダイアログW5が表示される。
【0043】
図5(B)は上記レイヤ設定ダイアログを示している。このダイアログは上記レイヤウインドウW2上で選択された画像の「濃さ」と「高さ」を調整することができる。また、「領域外を暗く表示」のチェックボックスを備えている。この「領域外を暗く表示」の機能は、レイヤウインドウW2上で特定の画像を選択した時に、W1上でのその画像以外のすべての画像を暗く表示し、選択された特定画像に対するパラメータ設定が容易になるようにしている。
【0044】
上記図5(A)に示す状態では、画像P2の高さが一定値以上になっていないために、その画像の左右端部分に対するトリミング処理は行われていない。しかし、図5(B)において、「高さ」調整用のバーを左方向に移動してその値を一定値以上にすると、図5(C)に示すようにその左右端部分では立体視表示ができないためにトリミング処理して背景画像が表示されるようにしている、
図6は、上記左右画像端処理部441の機能を示すフローチャートである。
【0045】
まず、編集ウインドウW1上に立体視画像を表示する。図5(A)に示すように、今、編集ウインドウW1上に2つの立体視画像P1、P2が表示されているものとする。この段階で、いずれかの画像が選択されてその画像に対する「高さ」が変更されると(ST11)、その「高さ」の値が一定値以上であることを条件に(ST12)、当該画像の左右端をトリミング処理する(ST13)。
【0046】
なお、図5(B)に示すレイヤ設定ダイアログW5上で「高さ」を調整する時、その調整した値はリアルタイムで編集ウインドウW1上の画像に反映される。
【0047】
以上の処理により、「高さ」を一定値以上にして画像の奥行き感を大きくした場合であっても、それによって生じやすくなる画像左右端部分での不自然さをなくすことができ、「高さ」の値に影響されることなく自然な立体視画像を保証することができる。
【0048】
【発明の効果】
本発明の立体視画像編集装置及びプログラムでは、編集効率が非常に良くなる。具体的には、次の効果がある。
【0049】
(1)多数の立体視画像を画面上で裸眼交差法または裸眼平行法によって容易に立体鑑賞することができる。また、上記裸眼交差法または裸眼平行法のいずれかの立体視形式に従って表示されている左右のサムネイル画像の間隔を調整可能にすることにより、ユーザの立体視能力に応じた画像間隔を設定できる利点がある。
【0050】
(2)2つのLR画像の高さ(奥行き値)が一定値以上の場合にその画像の左右端部分が自動的にトリミングされるため、「高さ」が大きく設定されている場合であっても、その左右端部分において正常な立体視鑑賞をすることができる。
【図面の簡単な説明】
【図1】本発明の実施形態である立体視画像編集装置の機能ブロック図である。
【図2】サムネイル一覧表示部440の機能について説明するための図である。
【図3】サムネイル一覧表示部440の機能について説明するための図である。
【図4】サムネイル一覧表示部440の機能を実現するためのプログラムの概略フローチャートを示す。
【図5】左右画像端処理部441の機能について説明するための図である。
【図6】左右画像端処理部441の機能を実現するためのプログラムの概略フローチャートを示す。
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention provides a stereoscopic image editing apparatus that generates a stereoscopic image by displaying two or more planar images shifted left and right on an editing screen, enables the stereoscopic image to be edited, and a stereoscopic image editing device. About the program.
[0002]
[Prior art]
In commercial transactions using the Internet, so-called E-commerce, it is very effective to stereoscopically view a product on a screen because the product cannot be actually picked up. However, in order to provide various contents as a stereoscopic image on the screen of a personal computer, a device that can quickly and easily edit a planar image acquired by a digital camera or the like is required.
[0003]
Therefore, conventionally, a shooting adapter for easily obtaining a right and left plane image necessary for generating a stereoscopic image with a digital camera or the like, and an editing screen for determining whether the obtained image is a right image or a left image. There has been proposed a stereoscopic image editing apparatus having a function that can be easily identified above (for example, see Patent Document 1).
[0004]
In addition, two plane images to which depth values (also referred to as “amount of deviation” and “height”) corresponding to binocular parallax and parameters such as a sense of transparency are added from one plane image are created. A stereoscopic image editing apparatus that generates a stereoscopic image from two planar images has also been proposed (for example, see Patent Document 2).
[0005]
[Patent Document 1]
JP 2002-12546 A
[Patent Document 2]
JP 2002-123842 A
[Problems to be solved by the invention]
However, the stereoscopic image editing apparatus shown in the above prior art is not sufficient as an editing function, and a stereoscopic image can be easily created by reading a planar image captured by a digital camera or the like, and the editing work can be easily performed. In order to be able to do it quickly, further improvements were required.
[0008]
SUMMARY OF THE INVENTION In view of the above, an object of the present invention is to provide a stereoscopic image editing apparatus that can easily generate a stereoscopic image from a planar image and can easily and quickly edit the stereoscopic image.
[0009]
[Means for Solving the Problems]
The stereoscopic image editing apparatus according to the present invention has the following configuration.
[0010]
(1) In a stereoscopic image editing apparatus in which two or more plane images shifted left and right are displayed on an editing screen to generate a stereoscopic image, and the stereoscopic image can be edited on the editing screen,
When one or more stereoscopic image files are specified, a thumbnail image creating unit that converts a plurality of left and right planar images constituting each stereoscopic image into thumbnail images of a predetermined size, Alternatively, there is provided a stereoscopic image list display processing unit for arranging the stereoscopic images in the horizontal direction for each stereoscopic image according to one of the stereoscopic formats of the naked-eye parallel method and displaying the list on the display unit.
[0011]
The stereoscopic image according to the present invention is typically formed by displacing left and right LR images (hereinafter, L images) of a left image (hereinafter, L images) and left and right images (hereinafter, R images). Normally, the LR image is displayed as a stereoscopic image on the editing screen, but the editing screen does not have a function of allowing multiple sets of stereoscopic images to be viewed at the same time. Therefore, in the stereoscopic image editing apparatus according to the present invention, when a plurality of stereoscopic image files are designated, the LR images constituting each stereoscopic image are converted into thumbnail images, which are arranged in the horizontal direction and displayed on the display unit. A processing unit for displaying a list is provided. If all of the stereoscopic image files cannot be displayed at once, vertical scrolling and horizontal scrolling can be performed on the screen.
[0012]
In the present invention, when a large number of stereoscopic images are designated in this way, a plurality of left and right thumbnail images are displayed for each stereoscopic image on one display screen, and these thumbnail images are displayed by the naked eye intersection method. Alternatively, since the images are arranged in the horizontal direction according to any of the stereoscopic formats of the naked-eye parallel method, the user can view a plurality of stereoscopic images by the naked-eye crossing method or the naked-eye parallel method by viewing this screen. .
[0013]
In addition, according to the ability of the user, the interval between the left and right thumbnail images displayed according to one of the above-mentioned naked eye crossing method and naked eye parallel method can be adjusted, so that stereoscopic viewing becomes easier.
[0014]
(2) In a stereoscopic image editing program which generates two-dimensional images by displaying two plane images shifted left and right on an editing screen, and makes the three-dimensional images editable on the editing screen,
When a depth value of the two plane images is equal to or more than a predetermined value, a computer is provided with a trimming function for trimming left and right end portions of each image so as not to be displayed.
[0015]
Normally, when two left and right plane images (L image and R image) are displayed as a stereoscopic image on the editing screen, if the heights (depth values) of the left and right images become larger than a certain level, the LR images do not overlap. The left and right ends are not three-dimensional. In particular, when there is a background image, an unnatural stereoscopic image is obtained because the left and right ends of the left and right eyes receive a background image unrelated to the image. Therefore, in the present invention, when the height (depth value) of two LR images is equal to or more than a certain value, trimming is performed so that the left and right end portions of each image are not displayed. For the trimmed portion, when there is a background image, the background image is displayed. By performing such processing, normal stereoscopic viewing can be performed.
[0016]
(3) In a stereoscopic image editing program that generates two-dimensional images by displaying two plane images shifted to the left and right on an editing screen and enables the three-dimensional images to be edited on the editing screen,
A function of comparing the two left and right plane images to detect a different region of the image, and a depth value corresponding to the binocular disparity after the left and right replacement of the region becomes the same as the depth value of the replaced image. The function of automatically adjusting the depth value of the replaced image as described above is realized by a computer.
[0017]
When a planar image for generating a stereoscopic image is acquired by one digital camera, if there is a moving subject in the imaging range, the position of the subject differs between the L image and the R image due to the imaging time difference. come. Also, even if two digital cameras capture the same subject synchronously at the same time, if a long-range subject and a short-range subject coexist in the imaging range, depending on the distance between the digital cameras, In some cases, the position of a subject at a short distance may differ greatly.
[0018]
In such a case, it is very difficult to see a subject at a different position between the LR images during stereoscopic viewing. Therefore, usually, the time, place, subject, equipment, and the like at the time of shooting are set so that this does not occur. Had to be finely adjusted.
[0019]
Therefore, in the present invention, two LR images are compared, and different regions of the images are automatically extracted. Further, the extracted area is left and right replaced in the LR image, and the depth value of the replaced image is changed so that the height (depth value) corresponding to the binocular disparity becomes the same as the depth value of the replaced image. Adjust automatically. The left and right replacement of the detected area may be automatic or manual.
[0020]
In the present invention, by configuring as described above, even if there is a subject at a different position in the LR image, the portion is switched right and left and the depth value is automatically adjusted, so that a natural image can be obtained by stereoscopic viewing. can do. In addition, there is an advantage that it is not necessary to consider a photographing time, a photographing place, photographing equipment, and the like as in the related art.
[0021]
BEST MODE FOR CARRYING OUT THE INVENTION
FIG. 1 is a functional block diagram of a stereoscopic image editing apparatus according to the present invention. This stereoscopic image editing apparatus is usually composed of a personal computer. Therefore, functions necessary for performing the editing process are provided by the stereoscopic image editing program.
[0022]
In FIG. 1, digital cameras 1 and 2 capture an L image (left plane image) and an R image (right plane image), respectively. In this figure, two digital cameras 1 and 2 are shown to capture an L image and an R image, respectively. However, one digital camera is used to capture an L image and an R image at different times. You may make it. Further, the L image and the R image may be simultaneously captured by one multi-lens camera.
[0023]
The L image and the R image are input to the image input unit 3 and passed to the stereoscopic image editing unit 4 directly or indirectly via a file storage unit. Specifically, it is input to the stereoscopic view format setting section 42 in the stereoscopic image editing section 4. The stereoscopic view format setting section 42 is a section for setting the stereoscopic view format of the LR image from the image input section 3. Stereoscopic formats include a naked-eye parallel method, a naked-eye crossing method, a red-blue two-color glasses three-dimensional method, a liquid crystal glasses three-dimensional method, and the like, and image processing is performed according to these formats. Note that the file input processing unit 40 in the stereoscopic image editing unit 4 controls the image input unit 3.
[0024]
The file storage processing unit 41 stores a stereoscopic image file stored in the image memory 5 in the image file unit 6 and reads a stereoscopic image file stored in the image file unit 6 into the image memory 5. Perform processing.
[0025]
The LR image automatic creation unit 43 of the stereoscopic image editing unit 4 automatically creates an LR image for an image having a clear contour such as a character image and stores the LR image in the image memory 5 as a stereoscopic image. The character information from the character input unit 8 is input to the LR image automatic creation unit 43. In addition, a character input from the keyboard 7 is input to the character input unit 8. It is also possible to input an image from the image input unit 3 to the LR image automatic creation unit 43 by setting. The method of automatically creating an LR image in the LR image movement creating unit 43 is disclosed in, for example, JP-A-2002-123842. As an example of a method of automatically creating an LR image, another image is created for a character input from the character input unit 8, and these two character images are defined as an L image and an R image. The parameter of the height (shift amount) is automatically set according to values such as hue, saturation, and lightness.
The image editing processing unit 44 includes a thumbnail list display unit 440, a left and right image end processing unit 441, and a left and right image exchange processing unit 442. When a folder in which a stereoscopic image file is stored is designated on the screen, the thumbnail list display unit 440 converts the LR images constituting each stereoscopic image in the folder into a thumbnail image of a predetermined size. The conversion is performed, and a process of displaying the list on the display unit side by side in a horizontal direction for each stereoscopic image according to the stereoscopic format of either the naked-eye crossing method or the naked-eye parallel method is performed.
[0026]
Further, the left and right image edge processing unit 441 trims the left and right edge portions of each image so that the LR image displayed on the editing screen is not displayed when the height (depth value) of the LR image is equal to or more than a certain value. I do. Further, the left and right image exchange processing unit 442 compares the LR images to detect a different area of the image, and after replacing the area, the “height” (depth value) of the image after the “height” (depth value) is replaced. (Depth value) is automatically adjusted to be the same as the “height” (depth value) of the replaced image.
[0027]
The image memory 5 stores a stereoscopic image composed of LR images stored in the JPEG format and parameters in pairs. When a plurality of stereoscopic images are displayed on the editing window, image data corresponding to each stereoscopic image is stored in the image memory. Specifically, every time an LR image is input from the image input unit 3, the LR image passes through the stereoscopic format setting unit 42, and is sequentially stored as a stereoscopic image together with parameters. Each time character data is input from the character input unit 8, the data passes through the LR image automatic creation unit 43 and is stored as a stereoscopic image together with parameters. The image data on the image memory 5 is developed on the graphic memory 10 according to the parameter information and displayed on the monitor screen. The parameters stored as a pair with each stereoscopic image include values such as a height (depth value), transparency, a pasting position, and a time axis change degree of each parameter.
[0028]
Hereinafter, each function will be described.
[0029]
(A) Regarding the Function of the Thumbnail List Display Unit 440 Since a large number of stereoscopic images cannot be viewed at a time on the editing window, in the present embodiment, a folder in which a plurality of stereoscopic images are stored is specified. Accordingly, the stereoscopic images stored in the folder are displayed as a list as LR thumbnail images. The format of the stereoscopic image is either the naked-eye parallel method or the naked-eye crossing method. Further, the size of the thumbnail image can be arbitrarily changed. Further, the interval between the L image and the R image can be arbitrarily adjusted.
[0030]
This allows the user to view a large number of stereoscopic images in a list by either the naked-eye crossing method or the naked-eye parallel method. It should be noted that the scroll function in the vertical direction and the horizontal direction makes it possible to easily view even a stereoscopic image that extends off the screen.
[0031]
FIG. 2A is a diagram showing an operation method for displaying a thumbnail list. The attribute of the file is designated in the file designation unit 20. For example, the attribute of the image (.ios in the figure) obtained by integrating the LR image as the stereoscopic image and the attribute of the planar image before editing such as JPEG are designated. Subsequently, a folder 21 and a size 22 of the thumbnail image are designated, and a naked-eye parallel method 23 or a naked-eye intersection method 24 is designated as a stereoscopic format.
[0032]
By performing the above operation, when the naked-eye parallel method 23 is designated, the display is as shown in FIG. 2B, and when the naked-eye intersection method 24 is designated, the display is as shown in FIG. 2C. In the display states of FIGS. 2B and 2C, the left and right image intervals can be changed with the mouse. By adjusting the image interval, it is possible to arrange the images at an optimal interval suitable for the stereoscopic ability of the viewer. Note that the vertical scroll bar 25 can easily display an image protruding in the vertical direction on the screen.
[0033]
In FIG. 2, two planar images are shown, but a thumbnail list can be displayed for more planar images in the same manner. FIG. 3 shows an example of this display. In this case, by using the horizontal scroll bar 26 in addition to the vertical scroll bar 25, it is possible to easily display not only the image in the vertical direction but also the image protruding in the horizontal direction on the screen. Further, the interval between the images can be easily changed with a mouse, as in the case shown in FIG.
[0034]
FIG. 4 is a flowchart showing a schematic operation of the thumbnail list display unit 440.
[0035]
When the file type, the folder, the size of the thumbnail image, and the display format (autostereoscopic method or autostereoscopic method) are specified (ST1), the image is determined according to whether the stereoscopic format is autostereoscopic method or autostereoscopic method (ST2). Determine the order of setting in the horizontal direction. That is, when the naked-eye parallel method is designated as shown in FIG. 2B, the L image and the R image are displayed in the order of the L image and the R image from the left side, and as shown in FIG. Is set so that the R image and the L image are displayed in this order from the left (ST3, ST4). Subsequently, a thumbnail list is displayed for all the images in the designated folder corresponding to the designated file type (ST5). At this time, an image that extends off the screen can be displayed on the screen using the vertical scroll bar 25, and the image interval can be changed using a mouse. The reason for changing the image interval is to allow the user to easily stereoscopically view an image displayed by the naked-eye parallel method or the naked-eye crossing method.
[0036]
Note that when three or more LR images are configured, each image is displayed in the horizontal direction as shown in FIG. 3, but when the naked-eye parallel method is specified, in ST3, from left to right in the above ST3. It is set so that images taken in order are displayed sequentially from the left end to the right. Further, when the naked-eye crossing method is designated, in the above ST4, it is set so that the images taken in order from the left to the right are sequentially displayed from the right end to the left.
[0037]
The default values such as the image interval when the thumbnail list is displayed in ST5 are set to appropriate values in the thumbnail list display section 440.
[0038]
In the thumbnail list display section 440 of the present embodiment, by listing a large number of thumbnail images on the screen as described above, stereoscopic images can be viewed in a list by the naked eye parallel method or the naked eye intersection method. is there. Note that the thumbnail images displayed in a list can be printed in a predetermined layout.
[0039]
(B) Regarding the function of the left and right image edge processing unit 441 In the editing window, the depth of the image in the stereoscopic space is set by changing the height of the LR image. In order to increase the depth, it is necessary to increase the height of the LR image. However, if the height is increased to a certain degree or more, stereoscopic viewing cannot be performed at the left and right end portions where the LR images are no longer overlapped. In particular, when the image is a pasted image with respect to the background image, the left and right end portions are unnatural stereoscopically viewed because the background image enters the eyes.
[0040]
In the present embodiment, in order to solve the above-described inconvenience, when the height (depth value) of the LR image is equal to or more than a certain value, processing is performed so that the left and right end portions of the image are not displayed after being trimmed.
[0041]
FIG. 5 is a diagram for explaining the function of the left and right image edge processing unit 441.
[0042]
In the embodiment shown in the figure, a P1 image, which is a stereoscopic image, and an image P2 of a stereoscopic image pasted thereon are displayed on the editing window W1. The images P1 and P2 are layer-managed, and the images are displayed as thumbnails on the layer window W2. A setting button B is arranged on the right side of the thumbnail image. When a thumbnail image is selected and operated, a layer setting dialog W5 for changing parameters is displayed.
[0043]
FIG. 5B shows the layer setting dialog. This dialog can adjust the "darkness" and "height" of the image selected on the layer window W2. In addition, a check box for “display outside area darkened” is provided. The function of "display outside the area darkly" is that, when a specific image is selected on the layer window W2, all the images other than the image on the layer window W1 are displayed dark, and the parameter setting for the selected specific image is performed. Try to make it easier.
[0044]
In the state shown in FIG. 5A, since the height of the image P2 does not exceed a certain value, the trimming process on the left and right end portions of the image is not performed. However, in FIG. 5B, when the bar for “height” adjustment is moved to the left to make the value equal to or greater than a certain value, the left and right end portions are stereoscopically displayed as shown in FIG. 5C. Because it cannot be trimmed, the background image is displayed.
FIG. 6 is a flowchart showing the function of the left and right image edge processing unit 441.
[0045]
First, a stereoscopic image is displayed on the editing window W1. As shown in FIG. 5A, it is assumed that two stereoscopic images P1 and P2 are currently displayed on the editing window W1. At this stage, when one of the images is selected and the “height” of the image is changed (ST11), the condition is determined on the condition that the value of the “height” is equal to or more than a certain value (ST12). The left and right edges of the image are trimmed (ST13).
[0046]
When the “height” is adjusted on the layer setting dialog W5 shown in FIG. 5B, the adjusted value is reflected in real time on the image on the edit window W1.
[0047]
By the above-described processing, even when the height of the image is increased by setting the “height” to a certain value or more, it is possible to eliminate the unnaturalness at the left and right end portions of the image, which is likely to be caused by the depth. A natural stereoscopic image can be guaranteed without being affected by the value of “sa”.
[0048]
【The invention's effect】
According to the stereoscopic image editing apparatus and program of the present invention, the editing efficiency is extremely improved. Specifically, the following effects are obtained.
[0049]
(1) A large number of stereoscopic images can be easily stereoscopically viewed on a screen by the naked-eye crossing method or the naked-eye parallel method. In addition, by enabling adjustment of the interval between the left and right thumbnail images displayed in accordance with either the above-mentioned autostereoscopic method or the autostereoscopic method, an image interval according to the stereoscopic ability of the user can be set. There is.
[0050]
(2) When the height (depth value) of two LR images is equal to or more than a certain value, the left and right end portions of the images are automatically trimmed, so that the “height” is set to be large. Also, normal stereoscopic viewing can be performed at the left and right end portions.
[Brief description of the drawings]
FIG. 1 is a functional block diagram of a stereoscopic image editing apparatus according to an embodiment of the present invention.
FIG. 2 is a diagram for explaining a function of a thumbnail list display unit 440.
FIG. 3 is a diagram for explaining a function of a thumbnail list display unit 440;
FIG. 4 shows a schematic flowchart of a program for realizing the function of a thumbnail list display unit 440.
FIG. 5 is a diagram for explaining a function of a left and right image edge processing unit 441;
FIG. 6 shows a schematic flowchart of a program for realizing the function of the left and right image edge processing unit 441.

Claims (4)

左右にずらした2つ以上の平面画像を編集画面上に表示して立体視画像を生成し、この立体視画像を編集画面上で編集可能にした立体視画像編集装置において、
1つ以上の立体視画像ファイルが指定されたときに、各立体視画像を構成する左右の複数の平面画像を所定の大きさのサムネイル画像に変換するサムネイル画像作成部と、これを裸眼交差法又は裸眼平行法のいずれかの立体視形式に従って立体視画像毎に横方向に並べて表示部に一覧表示する立体視画像一覧表示処理部を設けたことを特徴とする立体視画像編集装置。
In a stereoscopic image editing apparatus that generates two-dimensional images by displaying two or more two-dimensional images shifted to the left and right on an edit screen and enables the three-dimensional images to be edited on the edit screen,
When one or more stereoscopic image files are specified, a thumbnail image creating unit that converts a plurality of left and right planar images constituting each stereoscopic image into thumbnail images of a predetermined size, A stereoscopic image editing apparatus, further comprising a stereoscopic image list display processing unit for arranging the stereoscopic images in the horizontal direction in accordance with one of the stereoscopic formats of the naked eye parallel method and displaying the list on a display unit.
前記立体視画像一覧表示処理部は、横方向に並べた前記サムネイル画像の間隔を調整可能にする、請求項1記載の立体視画像編集装置。The stereoscopic image editing apparatus according to claim 1, wherein the stereoscopic image list display processing unit is capable of adjusting an interval between the thumbnail images arranged in a horizontal direction. 左右にずらした2つ以上の平面画像を編集画面上に表示して立体視画像を生成し、この立体視画像を編集画面上で編集可能にした立体視画像編集プログラムにおいて、
1つ以上の立体視画像ファイルが指定されたときに、各立体視画像を構成する左右の複数の平面画像を所定の大きさのサムネイル画像に変換するサムネイル画像作成機能と、これを裸眼交差法又は裸眼平行法のいずれかの立体視形式に従って立体視画像毎に横方向に並べて表示部に一覧表示する立体視画像一覧表示処理機能を、コンピュータに実現させることを特徴とする立体視画像編集プログラム。
In a stereoscopic image editing program that generates two-dimensional images by displaying two or more two-dimensional images shifted to the left and right on an editing screen and enables the three-dimensional images to be edited on the editing screen,
When one or more stereoscopic image files are designated, a thumbnail image creating function for converting a plurality of left and right planar images constituting each stereoscopic image into a thumbnail image of a predetermined size, A stereoscopic image editing program, which causes a computer to realize a stereoscopic image list display processing function of horizontally arranging each stereoscopic image according to a stereoscopic format of the naked eye parallel method and displaying the list on a display unit. .
前記立体視画像一覧表示処理機能は、横方向に並べた前記サムネイル画像の間隔を調整可能にする、請求項3記載の立体視画像編集プログラム。The stereoscopic image editing program according to claim 3, wherein the stereoscopic image list display processing function enables adjustment of an interval between the thumbnail images arranged in a horizontal direction.
JP2002357239A 2002-12-09 2002-12-09 Stereoscopic image editing apparatus and stereoscopic image editing program Expired - Fee Related JP4184061B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002357239A JP4184061B2 (en) 2002-12-09 2002-12-09 Stereoscopic image editing apparatus and stereoscopic image editing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002357239A JP4184061B2 (en) 2002-12-09 2002-12-09 Stereoscopic image editing apparatus and stereoscopic image editing program

Publications (2)

Publication Number Publication Date
JP2004193795A true JP2004193795A (en) 2004-07-08
JP4184061B2 JP4184061B2 (en) 2008-11-19

Family

ID=32757330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002357239A Expired - Fee Related JP4184061B2 (en) 2002-12-09 2002-12-09 Stereoscopic image editing apparatus and stereoscopic image editing program

Country Status (1)

Country Link
JP (1) JP4184061B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008278425A (en) * 2007-05-07 2008-11-13 Fujifilm Corp Image recording apparatus, method and program
US8072487B2 (en) 2007-04-25 2011-12-06 Fujifilm Corporation Picture processing apparatus, picture recording apparatus, method and program thereof
JP2012064076A (en) * 2010-09-17 2012-03-29 Fujifilm Corp Electronic album generation device, stereoscopic image pasting device, operation control methods for them, and programs for them
JP2012070299A (en) * 2010-09-27 2012-04-05 Fujifilm Corp Three-dimensional image display controller, operation control method of the same, and operation control program of the same
US8429555B2 (en) 2007-03-08 2013-04-23 Samsung Electronics Co., Ltd. Apparatus and method of providing items based on scrolling

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8429555B2 (en) 2007-03-08 2013-04-23 Samsung Electronics Co., Ltd. Apparatus and method of providing items based on scrolling
US9727223B2 (en) 2007-03-08 2017-08-08 Samsung Electronics Co., Ltd. Apparatus and method of providing items based on scrolling
US8072487B2 (en) 2007-04-25 2011-12-06 Fujifilm Corporation Picture processing apparatus, picture recording apparatus, method and program thereof
JP2008278425A (en) * 2007-05-07 2008-11-13 Fujifilm Corp Image recording apparatus, method and program
JP4632060B2 (en) * 2007-05-07 2011-02-16 富士フイルム株式会社 Image recording apparatus, method and program
JP2012064076A (en) * 2010-09-17 2012-03-29 Fujifilm Corp Electronic album generation device, stereoscopic image pasting device, operation control methods for them, and programs for them
JP2012070299A (en) * 2010-09-27 2012-04-05 Fujifilm Corp Three-dimensional image display controller, operation control method of the same, and operation control program of the same
US8878902B2 (en) 2010-09-27 2014-11-04 Fujifilm Corporation Stereoscopic image display control apparatus, and method and program for controlling operation of same

Also Published As

Publication number Publication date
JP4184061B2 (en) 2008-11-19

Similar Documents

Publication Publication Date Title
US9060170B2 (en) Image display device and method, as well as program
JP5250070B2 (en) Image processing apparatus, image processing method, and image processing system
US9219906B2 (en) Image display device and method as well as program
JP4879326B2 (en) System and method for synthesizing a three-dimensional image
EP2107816A2 (en) Stereoscopic display apparatus, stereoscopic display method, and program
JP2004104330A (en) Image processor, image processing method, recording medium, and program
JP2005073013A (en) Device and method for stereo image display, program for making computer execute the method, and recording medium recording the program
CN105635566A (en) Terminal shooting method and terminal shooting device
JP2009053539A (en) Information display device, information display method, and program
JP2011082829A (en) Image generation apparatus, image generation method, and program
JP5550791B2 (en) Image processing apparatus, imaging apparatus, and parallax adjustment method
JP2009258726A (en) Method and apparatus for forming multiple viewpoint image, computer readable medium and video apparatus
JP5396877B2 (en) Image processing apparatus, program, image processing method, and recording method
WO2013108285A1 (en) Image recording device, three-dimensional image reproduction device, image recording method, and three-dimensional image reproduction method
US9369699B2 (en) Stereoscopic image display device, stereoscopic imaging device, and methods
JP4307212B2 (en) Display data editing device, display device, display data editing method, program, and recording medium
JP2008124963A (en) Image file generating apparatus for image file for three-dimensional image data and image reproducing device
JP4184061B2 (en) Stereoscopic image editing apparatus and stereoscopic image editing program
JP2006013760A (en) Electronic equipment for generating management file, electronic equipment for generating three dimensional image data, management file generating method, three dimensional image data generating method, and file structure of management file
JP2011085868A (en) Image generating device, image generating method and program
JP4516188B2 (en) Image display device
JP5462119B2 (en) Stereoscopic image display control device, operation control method thereof, and operation control program thereof
JP2004104329A (en) Image processor, image processing method, recording medium, and program
JP5428723B2 (en) Image generating apparatus, image generating method, and program
JP4184056B2 (en) Stereoscopic image editing apparatus and stereoscopic image editing program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080826

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080903

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140912

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees