JP4589651B2 - 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法 - Google Patents

画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法 Download PDF

Info

Publication number
JP4589651B2
JP4589651B2 JP2004130127A JP2004130127A JP4589651B2 JP 4589651 B2 JP4589651 B2 JP 4589651B2 JP 2004130127 A JP2004130127 A JP 2004130127A JP 2004130127 A JP2004130127 A JP 2004130127A JP 4589651 B2 JP4589651 B2 JP 4589651B2
Authority
JP
Japan
Prior art keywords
image
date
time
data
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004130127A
Other languages
English (en)
Other versions
JP2005311984A (ja
Inventor
英明 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2004130127A priority Critical patent/JP4589651B2/ja
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to EP11009596.5A priority patent/EP2442576A3/en
Priority to PCT/JP2005/007866 priority patent/WO2005115016A1/ja
Priority to CN200580013159.6A priority patent/CN1947431B/zh
Priority to EP05737293.0A priority patent/EP1742488B1/en
Publication of JP2005311984A publication Critical patent/JP2005311984A/ja
Priority to US11/586,079 priority patent/US8155431B2/en
Application granted granted Critical
Publication of JP4589651B2 publication Critical patent/JP4589651B2/ja
Priority to US13/412,082 priority patent/US8693764B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、ステレオ画像の撮像及び編集等に好適な画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法に関する。
画像を立体的情報を含んで撮影記録し、これを再生観察する方式には多種多様な提案がある。その中でも、左右両眼の視点に対応する視差を持った2画像を記録し、これを左右両眼に対してそれぞれ提示するいわゆる2眼式ステレオ方式は、構成が最も簡単で安価な割に効果が大きいため、旧くから今日に至るまで利用されている。
この2眼式ステレオ方式において、いわゆるパーソナルユースに対しては、同時には1人しか観察できないという制約はあるものの、最も基本的かつ古典的な方法であるステレオペア画像を用いる方式が、極めて安価にまた鮮明な画像を観察できる方式として、今日、なお広く使用されている。
そして、ステレオアダプタを用いたステレオ撮像装置としては、例えば、特許文献1に開示されたものがある。特許文献1では、システムコントローラに、ステレオアダプタの装着を検出するステレオアダプタ検出部、測光エリアに関する被写体画像信号を解析して露出制御に必要な測光情報を算出するための自動露出(AE)制御部、及び上述の測光エリアの設定を行う測光エリア設定部を設けて、測光エリア設定部が、通常撮影モード時とステレオ撮影モードとでそれぞれ異なる測光エリアを設定する機能を有しており、通常撮影モード及びステレオ撮影モードそれぞれに最適な測光エリアを設定する技術を開示している。
このように、2眼式ステレオ方式では、1枚の画枠の中の左右に、視差に応じて相互にずれた同一被写体の2つの画像(以下、モノキュラ画像という)を映し出す方法を採用する。即ち、2眼式ステレオ方式では、左右にモノキュラ画像が配置された1枚の画像(以下、統合画像という)から立体感を得るために、統合画像中の左右のモノキュラ画像を夫々右目又は左目で観察する。左右の目で観察した2つの画像を、1つの画像として融合させることによって、立体感を有する画像を認識することができる。この認識上の画像(以下、融合画像という)は、左右のモノキュラ画像の各部のずれ量に応じて、各部に遠近感を生じさせる。
ところで、電子カメラで扱う画像データとしては、Exif規格のデータ形式のものが普及している。Exif規格は、JPEG規格のファイル(JPEGファイル)形式に従ったものである。即ち、画像データそのものについてはJPEG規格の画像データとして扱い、JPEGファイルのヘッダ部に、Exifデータ(メタデータ)を配置したものである。Exif規格のメタデータは、TIFF形式で記述され、撮影日付やサムネイル等の情報を含む。
このメタデータ中に、ステレオ画像に関する情報を記述することができる。例えば、ステレオアダプタを用いて撮像された左右のモノキュラ画像は、実際には境界部にケラレが生じていたり、或いは結像位置にずれが生じていたりする。このケラレ及び位置ずれ等を補正すべく、左右の各領域中の所定部分をトリミングして有効なモノキュラ画像の範囲(以下、画枠という)を設定する。画枠の範囲は、立体画像の奥行き感に影響を与えることから、立体画像の加工・編集を行う場合には、画枠を適切に設定する必要がある。メタデータ中に、トリミングに関する情報等を記述することで画枠を適切に設定して、融合画像に適正な奥行き感を与えることが可能となる。
特開2002−218506号公報
ところで、画像の加工・編集ソフトウェアを用いて、立体画像の加工・編集を行うことが考えられる。この場合において、立体画像に対応した加工・編集ソフトウェア(以下、3D対応ソフトという)を用いて加工・編集が行われるとは限らず、立体画像に非対応の加工・編集ソフトウェア(以下、3D非対応ソフトという)を用いて加工・編集が行われることも考えられる。
一般的な加工・編集ソフトウェアにおいては、Exif規格に対応している。このため、3D非対応ソフトにおいて、立体画像の加工・編集を行った場合でも、メタデータ部分を破壊することなく、画像データの処理が可能である。しかし、3D非対応ソフトにおいては、立体画像に関するメタデータ部分を編集することはできない。
従って、3D非対応ソフトにおいて画像データの加工・編集を行った場合には、立体画像の加工・編集が行われているにも拘わらず、対応するメタデータは編集されずに元のままとなる。即ち、この場合には、立体画像とメタデータの相関関係にずれが生じるという問題があった。
この場合でも、加工・編集された立体画像を3D非対応の装置又はソフトウェアによって再生する場合には特には問題は生じない。ところが、加工・編集された立体画像を3D対応の装置又はソフトウェアで処理する場合には、これらの装置又はソフトウェアがメタデータの情報に基づいて処理を行うことから、適正な融合画像が得られないこともある。
例えば、3D非対応ソフトによって、立体画像を拡大したにも拘わらず、トリミングに関するメタデータが修正されなければ、3D対応ソフトでは、拡大前の立体画像に適したトリミングを実施することから、融合画像の奥行き感は大きくなり、実際と認識画像との違和感が増大する。
本発明は立体画像非対応の加工・編集機又はソフトウェアによって立体画像が処理された場合でも、融合画像の適正な認識を可能にすることができる画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法を提供することを目的とする。
本発明の請求項1に係る画像処理装置は、所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データを生成するステレオ画像データ生成手段と、前記ステレオ画像データに関する付随データを生成する付随データ生成手段と、前記付随データの生成又は更新を行った日時に関する情報を生成する付随データ日時情報生成手段と、前記ステレオ画像データ生成手段で生成されたステレオ画像データと、前記付随データ生成手段にて生成された付随データとを合成して画像ファイルを生成する画像ファイル生成手段であって、前記付随データ日時情報生成手段で生成された前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して画像ファイルを生成する画像ファイル生成手段と、有するものであ、り、
本発明の請求項3に係る画像加工・編集装置は、所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データと前記ステレオ画像データに関する付随データとを合成し、かつ、前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して生成された画像ファイル内のステレオ画像データに基づいて画像加工・編集を行う画像加工・編集手段と、前記画像加工・編集が行われる前の前記付随データに対して、画像加工・編集の内容に基づいてこの付随データを更新する付随データ更新手段と、前記付随データの更新が行われた日時に関する情報を生成する付随データ更新日時情報生成手段と、前記画像加工・編集手段で画像加工・編集されたステレオ画像データと、前記付随データ更新手段にて更新された付随データとを合成して画像ファイルを生成する画像ファイル生成手段であって、前記付随データ更新日時情報生成手段で生成された前記付随データの更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して画像ファイルを生成する画像ファイル生成手段と、有するものであり、
本発明の請求項5に係る画像ファイル再生装置は、所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データと前記ステレオ画像データに関する付随データとを合成し、かつ、前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して生成された画像ファイルを再生する再生手段と、前記再生手段によって再生された前記付随データの生成又は更新を行った日時に関する情報と当該画像ファイルの生成又は更新を行った日時に関する情報との一致を判定する判定手段と、前記判定手段によって不一致と判定された場合には、前記再生手段による再生動作の継続を禁止する制御手段と、有するものである。
本発明の請求項1において、付随データ生成手段は、所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像の画像データに関する付随データを生成する。この付随データの作成又は更新に伴って、付随データ日時情報生成手段は、その作成又は更新日時の情報を設定する。画像ファイル生成手段は、画像データと付随データとを合成し、付随データの作成又は更新日時の情報とファイルの作成又は更新日時の情報とを付加して、所定のファイルフォーマットに変換して画像ファイルを生成する。
本発明の請求項3において、画像加工・編集手段は、所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像の画像データを与えられ、この画像データを加工・編集する。加工・編集前の画像データに関する付随データは、付随データ更新手段において、加工・編集後の画像データに基づいて更新される。付随データの更新に伴って、その更新日時の情報が付随データ更新日時情報生成手段によって設定される。画像データ、付随データ、付随データの更新日時の情報及びファイルの更新日時の情報によって、所定のファイルフォーマットの画像ファイルが生成される。
本発明の請求項5において、判定手段は、付随データの作成又は更新日時の情報とファイルの作成又は更新日時の情報とに基づいて、画像データと付随データとの相関の有無を判定する。再生手段は、画像ファイルから分離された画像データに対して、付随データを利用した所定の再生処理を実施する。この場合には、判定手段によって画像データと付随データとの相関がないものと判定された場合には、再生手段による再生動作の継続が禁止される。
なお、装置に係る本発明は方法に係る発明としても成立する。
本発明によれば、立体画像非対応の加工・編集機又はソフトウェアによって立体画像が処理された場合でも、融合画像の適正な認識を可能にすることができるという効果を有する。
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は本発明の第1の実施の形態に係る画像処理装置が組込まれた電子カメラを示すブロック図である。本実施の形態は画像ファイルの記録装置に適用したものである。
(第1の実施形態)
図1において、電子カメラは、カメラ本体1と、レンズ鏡筒を有するレンズユニット5と、ステレオ画像撮影用のステレオアダプタ10とによって構成されている。電子カメラは、レンズユニット5にミラー式のステレオアダプタ10が着脱自在に取り付けられている。ステレオアダプタ10は、視差程度離れた位置にミラー11、12がそれぞれ配置され、更にこれらのミラー11、12によって反射された光をカメラ側に導くためのミラー13、14が配置された構成となっている。
ステレオアダプタ10内のミラー11、13及びミラー12、14を通過した光は、それぞれレンズユニット5内の撮影レンズ群21を介して露出制御機構22、更にはカメラ本体1内のハーフミラー31に導かれる。
レンズユニット5は、撮影レンズ群21と、露出制御機構22と、レンズ駆動機構23と、レンズドライバ24と、露出制御ドライバ25とを有して構成されている。
撮影レンズ群21は、ステレオアダプタ10が装着していない状態では通常の単眼視の撮像(モノキュラ撮像)が可能な主撮像光学系であり、レンズ駆動機構23によって駆動されてフォーカシングやズーミングの調節が行われるようになっている。レンズ駆動機構23は、レンズドライバ24によって制御される。露出制御機構22は、撮影レンズ群21の絞り及びシャッタ装置(図示せず)を制御するようになっている。露出制御機構22は、露出制御ドライバ25によって制御される。
レンズユニット5からカメラ本体1に導かれた光は、ハーフミラー31を通過して、ローパス及び赤外カット用のフィルタ系32を介してCCDカラー撮像素子34に導かれて結像されるようになっている。CCDカラー撮像素子34は、CCDドライバ35によって駆動制御されて、被写体の光学像を電気信号に変換する。なお、CCDカラー撮像素子34としては、例えば、縦型オーバフロードレイン構造のインターライン型で、プログレッシブ(順次)走査型のものが採用される。
ステレオアダプタ10の左眼視用ミラー11に入射された光は、ミラー13及び撮影レンズ群21を介してCCDカラー撮像素子34の図示しない撮像面の領域Lに結像される。同様に、右眼視用ミラー12に入射された光は、ミラー14及び撮影レンズ群21を介してCCDカラー撮像素子34の図示しない撮像面の領域Rに結像されるようになっている。
CCDカラー撮像素子34によって光電変換された信号は、A/D変換器等を含むプリプロセス回路36を介して、色信号生成処理、マトリックス変換処理、その他各種のデジタル処理を行うためのデジタルプロセス回路39に与えられる。このデジタルプロセス回路39において、デジタル化された画像信号を処理することにより、カラー画像データが生成される。
デジタルプロセス回路39には、LCD表示部40が接続されると共に、カードインターフェース(IF)41を介してCF(Compact Flash Memory Card)やスマートメディア等のメモリカード42が接続される。LCD表示部40はカラー画像データに基づく表示を行うものであり、メモリカード42はカラー画像データを格納するものである。
なお、メモリカード42は、外部のパーソナルコンピュータ60に装填が可能である。そして、メモリカード42に記録された画像は、パーソナルコンピュータ60上で表示、画像処理等が可能である。更に、メモリカード42に記録された画像を、図示しないプリンタによってプリントアウトすることも可能である。
ハーフミラー31は、入射される被写体像が一部反射されるように構成されているもので、反射光をAFセンサモジュール45に導くようになっている。AFセンサモジュール45は、撮影レンズ群21を通って入射された光線に基づいて焦点検出を行うためのものである。AFセンサモジュール45は、瞳分割用のセパレータレンズ46と、ラインセンサで構成されるAFセンサ47を有して構成されている。
CPU等によって構成されるシステムコントローラ50は、カメラ本体1及びレンズユニット5内の各部を統括的に制御するためのものである。システムコントローラ50には、上述したレンズドライバ24と、露出制御ドライバ25と、CCDドライバ35と、プリプロセス回路36と、デジタルプロセス回路39と、AFセンサモジュール45の他、操作スイッチ部52と、操作表示部53と、不揮発性メモリ(EEPROM)51と、ステレオ切り替えスイッチ(SW)54とが接続されている。
操作スイッチ部52は、レリーズスイッチや撮影モード設定等の各種スイッチから構成される。操作表示部53は、カメラの操作状態及びモード状態等を表示するための表示部である。
EEPROM51は、各種設定情報等を記憶するためのメモリである。そして、ステレオ切り替えスイッチ54は、ステレオアダプタ10がレンズユニット5に装着される際にモードを切り替えるための切り替えスイッチである。なお、ここでは、撮影モード切り替えはステレオ切り替えスイッチ54を操作して行うようにしているが、これに限られるものではない。例えば、ステレオアダプタ10内に検出機能を設けて自動的に撮影モードの切り替えが行われるようにしてもよい。
システムコントローラ50は、露出制御機構22とCCDドライバ35によるCCDカラー撮像素子34の駆動を制御して、露光(電荷蓄積)及び信号の読み出しを行う。システムコントローラ50は、CCD34の出力をプリプロセス回路36を介してデジタルプロセス回路39に与えて各種信号処理を施し、カードインターフェース41を介してメモリカード42に記録させるようになっている。
ストロボ57は、閃光を発光するもので、レンズユニット5内の露出制御ドライバ25を介して、システムコントローラ50によって制御されるようになっている。
システムコントローラ50は、更に、露出制御部50d及び測光エリア設定部50eを有している。露出制御部50dは、測光エリアに関する被写体画像信号を解析して露出制御に必要な露光情報を算出するためのものである。また、測光エリア設定部50eは、露出制御部50dに対して、測光エリアの設定を行うようになっている。
本実施の形態においては、システムコントローラ50は、更に、メタデータ生成部50a、ステレオ画像生成部50b及び画像ファイル生成部50cを有している。
付随データ生成手段としてのメタデータ生成部50aは、撮影画像に関する各種の付随データ(以下、メタデータという)を生成して画像ファイル生成部50cに与える。例えば、メタデータ生成部50aは、撮影日時の情報や、撮影画像が立体画像である場合には、立体画像に関する各種情報(立体画像情報)を生成する。立体画像情報としては、例えば、トリミング情報がある。トリミング情報は、各モノキュラ画像の有効な画枠を示す情報であり、再生時に融合画像の認識に用いる領域を示している。
ステレオ画像生成部50bは、入力された複数のモノキュラ画像に基づいてステレオ画像を生成するようになっている。例えば、CCD34の撮像面に複数のモノキュラ画像が配置された1枚の画像が結像した場合には、ステレオ画像生成部50bは、入力された画像をそのまま用いてステレオ画像を生成する。また、複数のモノキュラ画像が例えば別々に撮像されて入力された場合には、ステレオ画像生成部50bは入力された各モノキュラ画像に基づいてステレオ画像を生成する。
画像ファイル生成部50cは、ステレオ画像生成部50bが生成したステレオ画像を、所定フォーマットの電子画像ファイルに変換して出力することができるようになっている。画像ファイル生成部50cは、ステレオ画像が統合画像である場合には、1枚の統合画像を例えばJPEG規格又はTIFF規格の画像フォーマットに変換して1画像ファイルとする。また、画像ファイル生成部50cは、ステレオ画像が複数のモノキュラ画像によって構成される場合には、例えば各モノキュラ画像をTIFF形式の各ページに割り当てて、1画像ファイルを構成する。
この場合には、画像ファイル生成部50cは、ステレオ画像を必要に応じて圧縮処理し、付随データ(メタデータ)を付加した所定フォーマットのデジタル画像ファイルに変換する。
図2は図1中の画像ファイル生成部50cの具体的な構成を示すブロック図である。また、図3は画像ファイル生成部50cによって生成される画像ファイルの一例を示す説明図である。
画像ファイル生成部50cの圧縮部71にはステレオ画像の画像データが入力される。圧縮部71は、ステレオ画像の画像データに所定の圧縮処理を施してデータ合成部72に出力する。データ合成部72には、メタデータも入力され、データ合成部72は画像データとメタデータとを合成する。
本実施の形態においては、画像ファイル生成部50cは、メタデータ日時設定部73及び画像ファイル日時設定部74を備えている。メタデータ日時設定部73は、各種立体画像情報に関するメタデータの作成日時の情報をデータ合成部72に出力することができるようになっている。また、画像ファイル日時設定部74は、画像ファイルの作成日時の情報をデータ合成部72に出力することができるようになっている。なお、メタデータ日時設定部73及び画像ファイル日時設定部74は、いずれも画像ファイルの最終更新時の日時、即ちこの場合は、同一の日時を設定するようになっている。
データ合成部72は、入力された各データを合成してフォーマット部75に与える。フォーマット部75は、入力された各データを所定の画像フォーマットに従って配列して、1画像ファイルとして出力するようになっている。
図3に示すように、画像ファイルは、ヘッダ部と画像データ部とを有している。画像データ部には、圧縮部71によって圧縮された画像データが配置される。ヘッダ部には、画像ファイルのファイル名、ファイル作成(更新)日時が配置されると共にメタデータも配置される。ファイル作成(更新)日時の情報は、画像ファイル日時設定部74により設定されたものである。
メタデータは、メタデータ識別情報、画像の撮影日時の情報及び立体画像に関する情報を含む。なお、撮影日時の情報は、メタデータ生成部50aによって生成され、データ合成部72に入力されるメタデータに含まれている情報である。
立体画像情報は、画像データ部に配置された画像データが立体画像である場合において、その立体画像に関する種々の情報を含んでいる。トリミング情報は、メタデータ生成部50aによって生成され、データ合成部72に入力されるメタデータに含まれている。メタデータ作成(更新)日時は、メタデータ日時設定部73によって設定された情報であり、各種立体画像情報に関するメタデータの作成日時を内容とする。
なお、図3のファイルフォーマットは画像ファイルの一例であり、図3ではメタデータ作成(更新)日時を立体画像情報の一部として配置する例を説明したが、メタデータ内の他の領域に配置するようにしてもよい。
また、本実施の形態においては、コントローラ50は、3D対応であるものとして説明したが、仮に、コントローラ50が3D非対応である場合には、メタデータ領域中の立体画像情報の記述領域には、例えば、所定の初期値が設定されるか又は何らの情報も記述されない。
次に、このように構成された実施の形態の作用について図4を参照して説明する。図4は画像ファイル生成部50cの動作フローを示すフローチャートである。
いま、ステレオ切り替えスイッチ54によって、ステレオ撮影モードが指示されているものとする。ステレオアダプタ10を介して入射した被写体光学像は、撮影レンズ群21、露出制御機構22、ハーフミラー31及びフィルタ系32を介してCCDカラー撮像素子34の撮像面に結像する。CCDカラー撮像素子34は、左右のモノキュラ画像L,Rを含む1枚の画像のデータを出力する。CCDカラー撮像素子34からの画像信号はプリプロセス回路36を介してコントローラ50に入力される。
ステレオ画像生成部50bは入力された画像信号に基づいて、左右にモノキュラ画像を配置した統合画像を生成する。メタデータ生成部50aは、生成された統合画像に関する撮影日時の情報や、立体画像情報を生成する。
画像ファイル生成部50cは、図4のステップS1 において、生成された統合画像(ステレオ画像)に対して所定の圧縮処理を施す。次のステップS2 において、画像ファイル生成部50c中のメタデータ日時設定部73は、メタデータ生成部50aによって生成される立体画像情報に関するメタデータの作成日時の情報を生成する。なお、メタデータ日時設定部73は、現在時刻をメタデータ作成日時としてもよい。ステップS3 では、画像ファイル生成部50c中の画像ファイル日時設定部74は、メタデータの作成日時と同一の日時を画像ファイルの作成日時の情報として生成する。
画像ファイル生成部50cは、データ合成部72によって、ステレオ画像、メタデータ、メタデータ作成日時及び画像ファイル作成日時の情報を合成し(ステップS4 )、フォーマット部75によって、図3に示すデータフォーマットの画像ファイルを生成する(ステップS5 )。
画像ファイル生成部50cによって生成された画像ファイルは、デジタルプロセス回路39に与えられる。デジタルプロセス回路39は、入力された電子画像ファイルに基づいて、統合画像をLCD40の表示画面に表示させることができる。また、デジタルプロセス回路39は、入力された電子画像ファイルをカードIF41を介してメモリカード42に与えて、記録させることもできる。
なお、本実施の形態においては画像ファイルの作成日時の情報をメタデータの作成日時の情報に一致させたが、メタデータの作成日時の情報を画像ファイルの作成日時の情報に一致させるようにしてもよいことは明らかである。
このように、本実施の形態においては、画像ファイル生成部によって生成される画像ファイルには、画像ファイル自体の作成(更新)日時の情報の他に、立体画像情報に関するメタデータの作成(更新)日時の情報が配置される。立体画像情報に関するメタデータの作成(更新)日時の情報が画像ファイルの作成(更新)日時の情報に別個に配置されており、画像ファイルの作成(更新)と立体画像情報に関するメタデータの作成(更新)とを別々に管理することができる。3D非対応機器又はソフトウェアによって、画像ファイルが作成(更新)される場合には、立体画像情報に関するメタデータの作成(更新)日時は、生成又は更新されないことから、これらの日時の情報を比較することで、画像ファイルが3D非対応機器又はソフトウェアによって作成(更新)されたか否かを判定することを可能にすることができる。
なお、上記実施の形態においては、メタデータの作成(更新)日時と画像ファイルの作成(更新)日時とを一致させる例について説明したが、一般的には、実際のメタデータの作成(更新)日時と画像ファイルの作成(更新)日時とは、略一致しているか又はその時間差は比較的小さいので、実際の作成(更新)日時を設定するようにしてもよい。この場合には、これらの日時同士の差が閾値よりも小さいことによって、画像ファイルが3D非対応機器又はソフトウェアによって作成(更新)されたか否かを判定することができる。
また、上記実施の形態においては、画像ファイル生成部を備えた画像処理装置によって画像ファイルを生成する例について説明したが、画像ファイル生成部を同様の機能を呈するソフトウェアによっても実現可能であることは明らかである。即ち、図4のフローチャートと同様の機能を呈するプログラムを実行可能なコンピュータを用いることで、図2と同様の画像ファイルを生成することができる。
なお、画像ファイル生成部50cがソフトウェアによって構成される場合には、例えば画像ファイル日時設定部74は、コンピュータのオペレーションシステム等によって構成され、画像ファイルの作成(更新)日時はファイルの作成(更新)時に自動的に記述されることが一般的である。
本実施の形態において、ファイル名やファイル作成(更新)日時等のデータは画像ファイルのヘッダ部内に配置される例として説明を行っているが、これらはコンピュータのOSが直接的に配置・管理しているディレクトリエントリ領域に配置する構成としてもよい。
なお、第1の実施の形態においては、電子カメラに適用した例を説明したが、電子カメラによって撮像された画像を処理する単独の画像処理装置にも適用することができ、また、撮像画像を処理するパーソナルコンピュータ等のプログラムによって、同様の機能を達成することも可能である。
また、上記実施の形態においては、左右にモノキュラ画像が配置された1枚の画像をカメラによって取得し、この画像に基づくステレオ画像を生成する例について説明したが、例えば2台のカメラで別々に撮影して得られた各モノキュラ画像が別々に入力され、これらの各モノキュラ画像から1枚のステレオ画像を生成するものに適用することができることは明らかである。
(第2の実施の形態)
図5は本発明の第2の実施の形態に係る画像加工・編集装置を示すブロック図であり、図6は画像ファイル生成の処理フローを示すフローチャートである。本実施の形態は画像ファイルの編集装置に適用したものである。なお、本実施の形態においても、図5の装置と同様の機能を有するソフトウェアによって実現可能である。
デコード部81には、図3のデータフォーマットを有する画像ファイルが入力される。デコード部81は、入力された画像ファイルをデコードして、画像ファイル中に含まれる各種データを取り出す。デコード部81は、画像ファイル中の画像データについては、画像伸張部82に与え、メタデータについてはメタデータ処理部84に与える。
画像伸張部82は、入力された画像データを伸張して、圧縮前の画像データを得る。この画像データは画像加工・編集部83に与えられる。
画像加工・編集部83は、ユーザの加工・編集操作に応じて、入力された画像に対して加工・編集を施し(ステップS11)、加工・編集後の画像を画像ファイル生成部86に出力する。なお、画像加工・編集部83は、加工・編集する画像についてのメタデータを参照して、加工・編集処理に利用することができる。
メタデータ処理部84は、画像加工・編集部83の加工・編集処理に基づいて、メタデータを更新する。例えば、メタデータ処理部84は、画像加工・編集部83の加工・編集処理が、立体画像に対する拡大処理であった場合には、この拡大処理に対応させて最適な切り出し範囲を示すトリミング情報を更新する。
画像ファイル生成部86は、画像加工・編集部83からの画像データとメタデータ処理部84からのメタデータとを合成し、図3のファイルフォーマットの画像ファイルを生成する。画像ファイル生成部86中の日時更新部87は、タイマー88から現在時刻の情報が与えられており、ファイルの更新日時の情報を設定する(ステップS12)。画像ファイル生成部86は、ファイルフォーマット中のファイル作成(更新)日時(図3参照)を、この更新日時の情報に書き換える。更に、画像ファイル生成部86は、ファイルフォーマット中のメタデータ作成(更新)日時(図3参照)を、ファイル作成(更新)日時と同一の日時の情報に書き換える(ステップS13)。こうして、画像ファイル生成部86は、ファイルの作成(更新)日時及びメタデータの作成(更新)日時を同一の日時に変更した画像ファイルを生成して出力する(ステップS14)。
このように本実施の形態においては、画像の加工・編集に伴って、メタデータを更新すると共に、その更新日時を画像ファイルの作成(更新)日時と同一の現在日時に変更する。これにより、本実施の形態に係る編集装置を用いて画像の加工・編集を行う限り、画像ファイルの作成(更新)日時と、メタデータの作成(更新)日時の情報は一致することになる。
なお、メタデータの更新日時及び画像ファイルの更新日時の情報は、同一日時であれば必ずしも実際の更新日時に基づくものとしなくてもよい。
(第3の実施の形態)
図7は本発明の第3の実施の形態に係る画像ファイル再生装置を示すブロック図であり、図8は画像ファイルの処理フローを示すフローチャートである。本実施の形態は画像ファイルの再生装置に適用したものである。なお、本実施の形態においても、図7の装置と同様の機能をするソフトウェアによって実現可能である。
デコード部91には、図3のファイルフォーマットを有する画像ファイルが入力される。デコード部91は、入力された画像ファイルをデコードして、画像ファイル中に含まれる各種データを取り出す。デコード部91は、画像ファイル中の画像データについては、画像伸張部92に与え、メタデータについては切換部96、メタデータ無効化部95及び日時判定部94に与える。
画像伸張部92は、入力された画像データを伸張して、圧縮前の画像データを得る。この画像データは再生処理部93に与えられる。
日時判定部94は、ファイルの作成(更新)日時(図3参照)の情報及びメタデータ作成(更新)日時の情報を取得する(ステップS21)。日時判定部94は取得したファイルの作成(更新)日時とメタデータ作成(更新)日時との一致,不一致を判定する(ステップS22)。日時判定部94は判定結果を切換部96及び警告部97に出力する。
なお、日時判定部94は、メタデータ作成(更新)日時とファイル作成(更新)日時とが所定の閾値以内であれば、両日時の情報が一致しているものと判定してもよい。ただし閾値の設定によっては誤判定が発生することを考慮すれば、全く同一の場合にのみ一致していると判定するのが原則である。
メタデータ無効化部95は、入力されたメタデータを無効化する(ステップS24)。例えば、メタデータ無効化部95は、立体画像に関するメタデータについては、そのパラメータを削除するか又は初期値に設定することで無効化を行う。
切換部96は日時判定部94の判定結果に基づいて、デコード部91からのメタデータか又はメタデータ無効化部95からのメタデータの一方を選択的に再生処理部93に与える。例えば、切換部96は日時が一致していることを示す判定結果が与えられた場合には、デコード部91からのメタデータを再生処理部93に与え、日時が不一致であることを示す判定結果が与えられた場合には、再生処理を禁止する(ステップS24)。
再生処理部93は切換部96からのメタデータを用いて画像データに所定の再生処理を施す(ステップS25)。また、再生処理部93は、日時判定部94から日時が不一致であることを示す判定結果が与えられた場合には、メタデータ無効化部95によって設定されたメタデータ情報を再生処理部93に与えてもよい。
警告部97は、日時判定部94からの判定結果によって日時が不一致であることが示された場合には、例えば警告表示等によって、例えばユーザに警告を発するようになっている。
このように、本実施の形態においては、ファイルとメタデータの作成(更新)日時が独立に記述された画像ファイルに対して、両日時が不一致である場合には、画像データとメタデータとの相関がないものとして再生処理を禁止し、或いは無効化されたメタデータを用いた再生処理を実施する。これにより、3D非対応の機器又はソフトウェアによって画像が加工・編集された場合等において、画像データと相関がとれていないメタデータを用いて再生処理が行われることを防止することができる。
なお、上記各実施の形態においては、ステレオ方式として、左右両眼に対応する2眼式として説明したが、3眼以上の一般の多眼式ステレオ方式に対しても同様に適用可能であることはもちろんである。
更に、本発明を動画に適用することができることも明らかである。
本発明の第1の実施の形態に係る画像処理装置が組込まれた電子カメラを示すブロック図。 図1中の画像ファイル生成部50cの具体的な構成を示すブロック図。 画像ファイル生成部50cによって生成される画像ファイルの一例を示す説明図。 画像ファイル生成部50cの動作フローを示すフローチャート。 図5は本発明の第2の実施の形態に係る画像加工・編集装置を示すブロック図。 画像ファイル生成の処理フローを示すフローチャート。 本発明の第3の実施の形態に係る画像ファイル再生装置を示すブロック図。 画像ファイルの処理フローを示すフローチャート。
符号の説明
1…カメラ本体、5…レンズユニット、10…ステレオアダプタ、11、12、13、14…ミラー、21…撮影レンズ群、22…露出制御機構、25…露出制御ドライバ、31…ハーフミラー、32…フィルタ、34…CCDカラー撮像素子、35…CCDドライバ、36…プリプロセス回路、39…デジタルプロセス回路、40…LCD表示部、41…カードインターフェース(IF)、42…メモリカード、45…AFセンサモジュール、46…セパレータレンズ、47…AFセンサ、50…システムコントローラ(CPU)、50a…メタデータ生成部、50b…ステレオ画像生成部、50c…画像ファイル生成部、50d…露出制御部、50e…測光エリア設定部、51…不揮発性メモリ(EEPROM)、52…操作スイッチ(SW)、53…操作表示部、54…ステレオ切り替えスイッチ、60…パーソナルコンピュータ。
代理人 弁理士 伊 藤 進

Claims (10)

  1. 所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データを生成するステレオ画像データ生成手段と、
    前記ステレオ画像データに関する付随データを生成する付随データ生成手段と、
    前記付随データの生成又は更新を行った日時に関する情報を生成する付随データ日時情報生成手段と、
    前記ステレオ画像データ生成手段で生成されたステレオ画像データと、前記付随データ生成手段にて生成された付随データとを合成して画像ファイルを生成する画像ファイル生成手段であって、前記付随データ日時情報生成手段で生成された前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して画像ファイルを生成する画像ファイル生成手段と、
    を有する画像処理装置。
  2. 前記生成又は更新を行った日時は相互に同一日時に設定されて生成される請求項1に記載の画像処理装置。
  3. 所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データと前記ステレオ画像データに関する付随データとを合成し、かつ、前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して生成された画像ファイル内のステレオ画像データに基づいて画像加工・編集を行う画像加工・編集手段と、
    前記画像加工・編集が行われる前の前記付随データに対して、画像加工・編集の内容に基づいてこの付随データを更新する付随データ更新手段と、
    前記付随データの更新が行われた日時に関する情報を生成する付随データ更新日時情報生成手段と、
    前記画像加工・編集手段で画像加工・編集されたステレオ画像データと、前記付随データ更新手段にて更新された付随データとを合成して画像ファイルを生成する画像ファイル生成手段であって、前記付随データ更新日時情報生成手段で生成された前記付随データの更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して画像ファイルを生成する画像ファイル生成手段と、
    を有する画像加工・編集装置。
  4. 前記更新を行った日時は相互に同一日時に設定されて生成される請求項3に記載の画像加工・編集装置。
  5. 所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データと前記ステレオ画像データに関する付随データとを合成し、かつ、前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して生成された画像ファイルを再生する再生手段と、
    前記再生手段によって再生された前記付随データの生成又は更新を行った日時に関する情報と当該画像ファイルの生成又は更新を行った日時に関する情報との一致を判定する判定手段と、
    前記判定手段によって不一致と判定された場合には、前記再生手段による再生動作の継続を禁止する制御手段と、
    を有する画像ファイル再生装置。
  6. 前記判定手段によって不一致と判定された場合には、前記再生動作の継続の禁止に代えて、付随データを無効化するよう制御する制御手段と、
    を有する請求項5に記載の画像ファイル再生装置。
  7. 前記判定手段によって不一致と判定された場合には、警告を行う警告手段を更に有する
    請求項5又は6のいずれか一方に記載の画像ファイル再生装置。
  8. 所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データを生成するステレオ画像データ生成ステップと、
    前記ステレオ画像データに関する付随データを生成する付随データ生成ステップと、
    前記付随データの生成又は更新を行った日時に関する情報を生成する付随データ日時情報生成ステップと、
    前記ステレオ画像生成手段で生成されたステレオ画像データと、前記付随データ生成手段にて生成された付随データとを合成して画像ファイルを生成する画像ファイル生成ステップであって、前記付随データ日時情報生成手段で生成された前記付随データの作成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して画像ファイルを生成する画像ファイル生成ステップと、
    を有する画像処理方法。
  9. 所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データと前記ステレオ画像データに関する付随データとを合成し、かつ、前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して生成された画像ファイル内のステレオ画像データに基づいて画像加工・編集を行う画像加工・編集ステップと、
    前記画像加工・編集が行われる前の前記付随データに対して、画像加工・編集の内容に基づいてこの付随データを更新する付随データ更新ステップと、
    前記付随データの更新が行われた日時に関する情報を生成する付随データ更新日時情報生成ステップと、
    前記画像加工・編集手段で画像加工・編集されたステレオ画像データと、前記付随データ更新手段にて更新された付随データとを合成して画像ファイルを生成する画像ファイル生成ステップであって、前記付随データ更新日時情報生成手段で生成された前記付随データの更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して画像ファイルを生成する画像ファイル生成ステップと、
    を有する画像加工・編集方法。
  10. 所定の視差を有して得られた同一被写体の複数のモノキュラ画像に基づくステレオ画像データと前記ステレオ画像データに関する付随データとを合成し、かつ、前記付随データの生成又は更新を行った日時に関する情報と、当該画像ファイルの生成又は更新を行った日時に関する情報とをさらに付加して、所定のファイルフォーマットに変換して生成された画像ファイルを再生する再生ステップと、
    前記再生手段によって再生された前記付随データの生成又は更新を行った日時に関する情報と当該画像ファイルの生成又は更新を行った日時に関する情報との一致を判定する判定ステップと、
    前記判定手段によって不一致と判定された場合には、前記再生動作の継続を禁止、付随データを無効化、警告の少なくとも1つを行うステップと、
    を有する画像ファイル再生方法。
JP2004130127A 2004-04-26 2004-04-26 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法 Expired - Fee Related JP4589651B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2004130127A JP4589651B2 (ja) 2004-04-26 2004-04-26 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法
PCT/JP2005/007866 WO2005115016A1 (ja) 2004-04-26 2005-04-26 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法
CN200580013159.6A CN1947431B (zh) 2004-04-26 2005-04-26 图像处理装置、图像加工/编辑装置、图像文件再现装置、图像处理方法、图像加工/编辑方法及图像文件再现方法
EP05737293.0A EP1742488B1 (en) 2004-04-26 2005-04-26 Image file reproducing apparatus and method
EP11009596.5A EP2442576A3 (en) 2004-04-26 2005-04-26 Generating, editing and updating data of a stereoscopic image file, generating a stereoscopic image file and reproducing data therefrom
US11/586,079 US8155431B2 (en) 2004-04-26 2006-10-24 Image file processing apparatus which generates an image file to include stereo image data, collateral data related to the stereo image data, information of a date and time at which the collateral data is updated, and information of a date and time at which the image file is generated or updated, and corresponding image file processing method
US13/412,082 US8693764B2 (en) 2004-04-26 2012-03-05 Image file processing apparatus which generates an image file to include stereo image data and collateral data related to the stereo image data, and information related to an image size of the stereo image data, and corresponding image file processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004130127A JP4589651B2 (ja) 2004-04-26 2004-04-26 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法

Publications (2)

Publication Number Publication Date
JP2005311984A JP2005311984A (ja) 2005-11-04
JP4589651B2 true JP4589651B2 (ja) 2010-12-01

Family

ID=35440189

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004130127A Expired - Fee Related JP4589651B2 (ja) 2004-04-26 2004-04-26 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法

Country Status (2)

Country Link
JP (1) JP4589651B2 (ja)
CN (1) CN1947431B (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4662071B2 (ja) 2006-12-27 2011-03-30 富士フイルム株式会社 画像再生方法
JP4671053B2 (ja) * 2007-01-30 2011-04-13 富士フイルム株式会社 画像記録装置及び画像記録方法
KR100962696B1 (ko) * 2007-06-07 2010-06-11 주식회사 이시티 부호화된 스테레오스코픽 영상 데이터 파일의 구성방법
JP4861302B2 (ja) * 2007-12-26 2012-01-25 オリンパスイメージング株式会社 画像ファイル作成装置、画像ファイル作成方法
KR101176065B1 (ko) * 2008-12-22 2012-08-24 한국전자통신연구원 스테레오스코픽 영상에 관한 데이터를 전송하는 방법, 스테레오스코픽 영상을 재생하는 방법, 및 스테레오스코픽 영상 데이터의 파일 생성 방법
JP5397190B2 (ja) * 2009-11-27 2014-01-22 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
JP2013046324A (ja) * 2011-08-26 2013-03-04 Hitachi Consumer Electronics Co Ltd 記録装置/方法/媒体、再生装置/方法
CN117195338B (zh) * 2023-09-11 2024-05-28 广州水纹厨房工程设计有限公司 产品设计图自动生成方法、装置、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001160068A (ja) * 1999-11-12 2001-06-12 Ricoh Co Ltd 文書管理システムにおいて問い合わせを処理するための方法及び装置
JP2002077943A (ja) * 2000-08-29 2002-03-15 Olympus Optical Co Ltd 画像取り扱い装置
JP2002165210A (ja) * 2000-08-04 2002-06-07 Matsushita Electric Ind Co Ltd データ送信端末及びデータ送受信装置
JP2002218506A (ja) * 2001-01-18 2002-08-02 Olympus Optical Co Ltd 撮像装置
JP2002229826A (ja) * 2000-12-27 2002-08-16 Microsoft Corp ファイル中にバージョン固有プロパティを作成し保持する方法およびシステム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020014456A (ko) * 2000-08-18 2002-02-25 윤병이 입체영상의 변형보정방법 및 시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001160068A (ja) * 1999-11-12 2001-06-12 Ricoh Co Ltd 文書管理システムにおいて問い合わせを処理するための方法及び装置
JP2002165210A (ja) * 2000-08-04 2002-06-07 Matsushita Electric Ind Co Ltd データ送信端末及びデータ送受信装置
JP2002077943A (ja) * 2000-08-29 2002-03-15 Olympus Optical Co Ltd 画像取り扱い装置
JP2002229826A (ja) * 2000-12-27 2002-08-16 Microsoft Corp ファイル中にバージョン固有プロパティを作成し保持する方法およびシステム
JP2002218506A (ja) * 2001-01-18 2002-08-02 Olympus Optical Co Ltd 撮像装置

Also Published As

Publication number Publication date
CN1947431A (zh) 2007-04-11
CN1947431B (zh) 2010-06-02
JP2005311984A (ja) 2005-11-04

Similar Documents

Publication Publication Date Title
JP4993578B2 (ja) 画像ファイル再生装置,画像ファイル加工編集装置
WO2005115016A1 (ja) 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法
JP4720785B2 (ja) 撮像装置、画像再生装置、撮像方法及びプログラム
JP3841630B2 (ja) 画像取り扱い装置
US8743175B2 (en) 3D image file, photographing apparatus, image reproducing apparatus, and image processing apparatus
JP6324063B2 (ja) 画像再生装置及びその制御方法
US8836763B2 (en) Imaging apparatus and control method therefor, and 3D information obtaining system
US20130113892A1 (en) Three-dimensional image display device, three-dimensional image display method and recording medium
WO2005112475A9 (ja) 画像処理装置
CN1947431B (zh) 图像处理装置、图像加工/编辑装置、图像文件再现装置、图像处理方法、图像加工/编辑方法及图像文件再现方法
JP2008288798A (ja) 撮像装置
JP2007318490A (ja) 画像処理装置、カメラ、及び画像処理プログラム
JP4642375B2 (ja) 画像処理装置、画像加工・編集装置、画像ファイル再生装置、画像処理方法、画像加工・編集方法及び画像ファイル再生方法
JP2002077942A (ja) 撮像装置
JP4668602B2 (ja) 立体視画像生成装置および方法並びにプログラム
US20130120374A1 (en) Image processing device, image processing method, and image processing program
JP4874923B2 (ja) 画像記録装置及び画像記録方法
JP5144782B2 (ja) 撮像装置、画像再生装置、撮像方法及びプログラム
JP6702698B2 (ja) 撮像装置及び情報処理方法
JP2002330450A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100817

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100910

R151 Written notification of patent or utility model registration

Ref document number: 4589651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130917

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees