JP2004208318A - アーカイブ像の中の重要領域を決定する撮像装置と方法 - Google Patents

アーカイブ像の中の重要領域を決定する撮像装置と方法 Download PDF

Info

Publication number
JP2004208318A
JP2004208318A JP2003425111A JP2003425111A JP2004208318A JP 2004208318 A JP2004208318 A JP 2004208318A JP 2003425111 A JP2003425111 A JP 2003425111A JP 2003425111 A JP2003425111 A JP 2003425111A JP 2004208318 A JP2004208318 A JP 2004208318A
Authority
JP
Japan
Prior art keywords
image
evaluation
archive
important
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003425111A
Other languages
English (en)
Other versions
JP4177750B2 (ja
Inventor
John R Fredlund
ジョン・アール・フレッドランド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eastman Kodak Co
Original Assignee
Eastman Kodak Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Eastman Kodak Co filed Critical Eastman Kodak Co
Publication of JP2004208318A publication Critical patent/JP2004208318A/ja
Application granted granted Critical
Publication of JP4177750B2 publication Critical patent/JP4177750B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image

Abstract

【課題】 像を撮影するとき、その中の適切な重要領域を決定する。
【解決手段】 アーカイブ像における重要領域を決定する方法。この方法によれば、評価像が、アーカイブ像の構図の間に得られ、そのアーカイブ像が得られる。評価像をアーカイブ像と比較して、共通の像の要素を決定し、この共通の像の要素を同定する重要領域のデータが得られる。この共通の像の要素がアーカイブ像と関連付けられる。
【選択図】図5

Description

この発明は、アーカイブ像の中の重要領域を決定する撮像装置と方法に関する。
ディジタル像は、情報撮影(infoimaging)において益々人気のある形式になってきている。この人気の1つの理由は、使用者がそのようなディジタル像を操作し、編集し、変更し、強調できる容易さにある。たとえば、ディジタル像の外観を改良するため、使用者は、しばしば、米国のイーストマンコダック社により市販されているKodak Picture CDソフトウェアの中に提供されているクロップ(不要部削除)、ズームなどのツール、などの手動のディジタル撮像ツールやディジタル編集ツールを使用する。使用者は、これらの像編集ツールを用いて、1つの像の大きさを制限して、像の中の重要な要素を強調する。また、他の像編集ツールを、使用者が重要と考える像の部分に適用できる。しかし、手動の編集ツールでは、編集される各々の像の中で重要である領域を使用者が手動で指定する必要がある。多くの使用者にとって、この処理は時間がかかり、選んだ像のみを、このようにして編集する。
自動的または半自動的な像処理および像編集のアルゴリズムが知られている。これらのアルゴリズムはディジタル像の外観を高めるために使用できるが、使用者の入力をほとんど要求しない。これらの自動的または半自動的な像処理および像編集のアルゴリズムは、像の内容を解析し、像の重要な要素と使用者が思うことについて種々の仮定を適用する。たとえば、既知の肌色に近い色を有する大きな楕円形状のものは使用者にとって重要であると仮定できる。仮定された重要さの程度は、たとえば、その大きな楕円形状のものが像の中心近くにあるときに、高くできる。たとえば1998年12月31日にLuoらにより出願された米国特許第6,282,317号("Method For Automatic Determination of Main Subjects in Photographic Images")参照。他のアルゴリズムでは、ディジタル像を形成するディジタルデータの頻度解析を用いて、より重要であると考えられる像の要素を同定する。そのようなアルゴリズムは、撮影された像の可視的要素の解析に基づいて、像の中での重要なものについて仮定をする。たとえば、1998年10月22日にErkkileaらにより出願された米国特許出願第07/176,805号("Determining Portions of a Digital Image Which are In Focus")参照。
像の中での重要なものの知識は、他の目的にも有用である。たとえば、像を探しているとき、使用者は、手動で像を分類し、手動で像の記述に基づいてテキストを入力して、層の探索を可能にする。もちろん、好ましいのは、1例の見本像を使用者が提示して、それから同様な像を同定できる。たとえば、1998年6月29日にZhuらにより出願された米国特許第6,345,274号("Method and Computer Program Product for Subjective Image Content Similarity-based Retrieval")参照。この特許に説明される画像処理アルゴリズムでは、見本に似た像を同定することにより像の探索が可能になる。しかし、写真は、典型的には、多くの物体、形状、色調、色および他の可視要素を含み、それらは、像の探索において重要であることもあり、重要でないこともある。したがって、見本に基づいて像を探索するアルゴリズムは、アルゴリズムにより探索者に重要でない可視的要素の存在に基づき見本に似ているとして同定される可能性を減らすため、像のどの要素が重要であるかについて仮定する必要がある。
像のどの部分が最も重要な像の要素を含むかについて、明確な指示があると、そのような像の強調、探索および他の像を用いるアルゴリズムの有効性が大きくなる。したがって、像の中のどの可視的要素がより重要であるかを決定する自動的な方法が必要である。
像の中で何が重要であるかの指標を得る1つの方法は、その像が撮影されたときにその指標を得ることである。シーンの像のどの領域がカメラの使用者が注目しているかを見分ける試みが種々のカメラにおいて知られている。たとえば、Takagiらにより1995年6月7日に出願された米国特許第5,765,045号("Camera Capable of Detecting Eye-Gaze")と、1999年10月12日に大和田により出願された特開2001−116985号公報(「被写体認識機能を有するカメラおよび被写体認識方法」)は、カメラのビューファインダにおける注視監視装置の使用を議論している。これらの刊行物に記載されたカメラは、自動焦点カメラであり、1つの撮影シーンを複数のスポットすなわち領域に分割してカメラから各スポットへの距離を決定する多スポット距離測定技術を用いる。注視監視装置の出力を用いて、どのスポットが像の主題を最も含むかをカメラが決定するのを助け、そのスポットに関連する距離で像を撮影するようにカメラの焦点を合わせる。カメラの焦点は、カメラから、その主題を最も含むとして同定されるスポットまでの距離で合わされる。
注視の監視は、また、ディジタル撮像システムにおける像圧縮の文脈でも議論されてきた。たとえば、1997年12月23日にGeisslerにより出願された米国特許第6,252,989号("Foveated Image Coding System and Method for Image Bandwidth Reduction")は、「foveated imaging」という技術を議論する。その技術では、観察者の注視の位置は、リアルタイムで監視され、リアルタイム撮影システムに通信される。リアルタイム撮影システムは、その像を圧縮して、観察者の注視位置の近くの高周波情報を保持し、観察者の注視位置の近くでない領域における高周波情報を捨てる。
このように、カメラには、注視を監視して注視監視装置からの情報を用いて写真撮影処理またはビデオ撮影処理について決定をするものがある。しかし、この決定を導く情報は、像の撮影の後で捨てられる。生理学研究の非類似的技術において注視位置を記録することは知られている。そのような研究は、典型的には、たとえば、観察される像から離れているビデオテープまたはデータファイルなどの媒体上で観察者の注視の移動の記録をする。これは、データと像を関連づけるのに困難を生じ、像の有用な寿命にわたって像とそのようなデータとの関連付けを維持することに困難を生じる。
さらに、多くの状況では、注視の監視が、像の中のどの要素が使用者にとって重要であるかを示すが、他の状況では、注視の監視は、像の中のどの要素が使用者にとって重要であるかを直接的には示さない。たとえば、像の中の被写体の出現を減らすように像が構図されることを確実にするため、使用者は、構図の間、被写体の上で凝視できる。従って、撮影において決定をするため注視方向を信頼するカメラは、像のどの要素が重要であるかについて誤った仮定に基づいて決定をすることがある。撮影後の処理では、使用者、シーンおよび/または注目要素についてより多い情報が利用でき、また、より多くの時間やより複雑なアルゴリズムが注視情報をよりよく解釈するために使用できるので、よりよい決定が可能になる。
2002年11月25日にMillerらにより出願された米国特許出願第10/303,978号("Digital Imaging System With Eye Monitoring")は、目監視装置を備える撮影システムを記載する。この目監視装置は、撮影シーケンスの間の注視方向を含む目情報を記憶し、その目情報を、撮影シーケンスの間に撮影された像と関連づける。ある実施形態では、状況の情報が目情報とともに得られる。この状況情報は像とも関連づけられる。この目監視装置は、その目的には有用であり、広く応用されている。しかし、使用者の中には、目監視装置の使用を好まない人もある。
米国特許第6,282,317号 米国特許第6,345,274号 米国特許第6,252,989号 特開2001−116985号公報 Kodak Picture CDソフトウェア(イーストマンコダック社)
したがって、必要なことは、撮影された像において何が重要であるかを決定し、撮影された像のどの部分が重要であるかを示す情報を撮影された像と関連付けるより簡単なカメラと方法である。
本発明の目的は、像を撮影するとき、その中の適切な重要領域を決定する撮像装置と方法を提供することである。
本発明の1つの見地では、像の中の重要領域を決定する方法が提供される。その方法によれば、像の構図の間に評価像を撮影する。評価像を像と比較して、共通の像の要素を同定し、共通の像の要素を特徴づける重要領域のデータを決定する。そして、重要領域のデータを像と関連づける。この「像」は、構図の結果として最終的に得られるディジタル像であり、以下ではアーカイブ像という。アーカイブ像の構図の間に一時的に記憶する「評価像」を用いてアーカイブ像の中の重要領域が決定される。
本発明の他の見地では、アーカイブ像の中の重要領域を決定する方法が提供される。その方法によれば、1組の評価像をアーカイブ像の構図の間に撮影する。次に、アーカイブ像を撮影し、予備的な重要領域のデータを評価像の上に形成する。1組の評価像の像に対応しない重要領域の像の部分を、予備的な重要領域の像から抽出し、予備的な重要領域の像の残りの部分を重要領域のデータとして格納する。そして、重要領域の像とアーカイブ像とを関連づける。
本発明の別の見地では、注目領域の像を形成する方法が提供される。その方法によれば、アーカイブ像を構図し、構図の間に1組の評価像を撮影する。次に、アーカイブ像を撮影する。さらに、アーカイブ像に対応する1つの評価像を得る。この評価像を、前記の1組の評価像と比較して、評価像の中の共通の部分を同定する。この評価像の中の共通の部分に対応するアーカイブ像の部分を示す重要領域のデータを作成する。そして、重要領域のデータを格納し、アーカイブ像と関連づける。
本発明のさらに他の見地では、撮像システムが提供される。この撮影システムは、評価像とアーカイブ像を得るために操作可能な撮像部を備える。制御部は、この撮像部に、1組の評価像とアーカイブ像を得させる。信号処理部は、評価像とアーカイブ像を比較して、すべての撮影された像に共通のアーカイブ像の部分を同定する。信号処理部は、この共通部分に対応するアーカイブ像の部分を同定する重要領域のデータを格納し、重要領域のデータをアーカイブ像と関連づける。
本発明のさらに別の見地では、撮像システムが提供される。この撮影システムは、構図信号を発生する構図トリガーとアーカイブ像撮影信号を発生する撮影トリガーとを備える。撮像システムは、構図信号が発生されたときに評価像(複数)を撮影し、アーカイブ像撮影信号が発生されたときにアーカイブ像を撮影する。処理部は、アーカイブ像を評価像と比較し、各々の評価像の中の像部分に対応するアーカイブ像の中の像の部分を同定する。さらに、この処理部は、アーカイブ像の中の上記の対応部分を同定する重要領域のデータをアーカイブ像と関連づける。
本発明の異なる見地では、撮像システムが提供される。この撮影システムは、アーカイブ像の構図の間に少なくとも1つの評価像を撮影するアーカイブ像撮影手段を備える。比較手段は、撮影された像を比較して、共通の像の要素を同定する。関連手段は、この共通の像の要素を同定するデータをアーカイブ像と関連づける。
本発明の効果は、アーカイブ像を撮影するとき、その中の適切な重要領域を決定して撮影できることである。
以下、添付の図面を参照して発明の実施の形態を説明する。
図1は、ディジタルスチル画像を撮影する撮像システム20の1実施形態のブロック図である。図1に示されるように、撮像システム20は撮影レンズユニット22を含み、撮影レンズユニット22は、(図示しない)題材(すなわち被写体)から光を導いて、イメージセンサ24に像を形成する。
撮影レンズユニット22は、単純に構成でき、たとえば、手動焦点または固定焦点の1つの焦点距離を持つ。図1に示される実施形態では、手動レンズユニット22は、モータで駆動される2xズームレンズユニットであり、レンズ駆動装置30により1つの静止素子または1組の複数の静止素子28に対して1つの可動素子または複数の素子の組み合わせ26が駆動される。レンズ駆動装置30は、レンズの焦点距離と焦点位置の両方を制御する。距離測定システム32は、イメージセンサ24により得られた像を使用者4に提示して、使用者が像を構図するのを助ける。距離測定システム32の動作は、後でより詳細に説明される。
種々の方法が、撮影レンズユニット22の焦点設定を決定するために使用できる。好ましい実施形態では、イメージセンサ24は、いわゆる"through focus"アプローチまたは"whole way scanning"アプローチを用いる多スポット自動焦点を提供するために使用される。シーンは、領域すなわちスポットの格子に分割され、最適な焦点距離は、各像領域に対して決定される。各領域に対する焦点距離は、一連の複数の焦点距離位置を、近い焦点距離から無限遠まで、像を撮影しつつ撮影レンズユニット22を移動することにより決定される。カメラの設計によるが、4と32の間の数の像が、異なる焦点距離で撮影されねばならない。典型的には、8つの異なる距離で像を撮影することにより適当な正確さが得られる。
次に、撮影された像のデータを解析して、各像領域についての最適焦点距離を決定する。この解析では、まず、1995年12月11日にXieらにより出願された米国特許第5,874,994号("Filter Employing Arithmetic Operations for an Electronic Synchronized Digital Camera")に説明されているように、1以上のフィルタを用いるバンドパスフィルタでセンサ信号を処理する。次に、各像領域についてのバンドパスフィルタの出力の絶対値のピークを、その像領域についての焦点距離を決定するために、その焦点距離で検出する。各像領域についての焦点距離を各々の撮影された焦点位置について決定した後で、各々の像領域についての最適焦点値を、最大の焦点値を与える撮影された焦点距離を選択することにより、または、種々の補間技術を用いて、2つの最大焦点値を与える2つの測定された焦点距離の間で中間距離値を推定することにより、決定する。
いま、最終的な高分解能のスチル像を撮影するために使用されるレンズ焦点距離が決定できる。好ましい実施形態では、狙いの被写体(たとえば撮影される人)に対応する像領域(複数)を決定する。次に、焦点位置を、これらの像領域のための最適焦点を与えるために設定する。たとえば、シーンの像を、複数の副分割部分に分割する。1996年10月15日にOmataらにより出願された米国特許第5,877,809号("Method Of Automatic Object Detection In An Image")に説明されているように、像の各副分割部分に含まれる高周波成分を表わす焦点評価値を決定でき、その焦点評価値を、被写体の距離を決定するために使用できる。狙いの被写体が動いているときは、1996年10月26日にOmataらにより出願された米国特許第6,067,114号("Detecting Compositional Change In Image")に説明されているように、被写体の追跡を行う。別の実施の形態では、1998年10月11日にOmataらにより出願された米国特許第5,715,483号("Automatic Focusing Apparatus and Method")に説明されているように、"whole way scanning"により決定される焦点距離を、粗い焦点位置として使用する。
1つの実施の形態では、撮像システム20において自動焦点のために使用されるバンドパスフィルタや他の計算を、ディジタル・シグナル・プロセッサ40で置き換える。この実施の形態では、1994年12月30日にParulskiらにより出願された米国特許第5,688,597号("Electronic Camera With Rapid Autofocus Upon An Interline Image Sensor")に説明されているように、撮像システム20は、特別に適合されたイメージセンサ24を用いて、レンズの焦点位置を自動的に設定する。この特許に説明されているように、センサの感光素子の複数のラインのうちの一部(たとえば1/4)だけを、焦点を決定するために使用する。他のラインは、センサの読み出し処理では省かれる。これはセンサの読み出し時間を短くし、撮影レンズユニット22の焦点を合わせるのに要する時間を短くする。
別の実施の形態では、撮像システム20は、別の光学型または他の型の距離計48を使用して、像の主題(被写体)を同定し、その主題への距離に適当な撮影レンズユニット22の位置を選択する。距離計48は、レンズドライバ30を直接に操作でき、または、図1の実施形態に示されるように、距離計48は、データをマイクロプロセッサ50に提供して、撮影レンズユニット22の1以上の可動素子26を動かす。距離計48は、受動的、能動的またはその両方である。当業者に知られている広い範囲の適当な多センサの距離計が使用に適している。たとえば、1993年11月30日にTabataらにより出願された米国特許第5,400,369号("Compact Camera With Automatic Focal Length Dependent Exposure Adjustments")がそのような距離計を開示している。
図1の実施の形態において、フィードバックループが、マイクロプロセッサ50が撮影レンズ22の焦点位置を正確に設定できるように、レンズドライバ30とマイクロプロセッサ50の間に確立される。距離計48により提供される焦点の決定は、1スポット型でも多スポット型でもよい。好ましくは、焦点の決定は多スポット型を用いる。多スポットの焦点決定では、シーンは領域すなわちスポットの格子に分割され、光学的焦点距離は各スポットについて決定される。
イメージセンサ24は、2次元に配列される複数の感光素子を備える。感光素子24の中の個々の感光位置は、撮影されたディジタル像(ここでは、初期像という)の1画素に対応する。イメージセンサ24は、たとえば通常のCCDセンサ、CMOSイメージセンサ及び/または電荷注入素子である。1例では、イメージセンサ24は、1280×960の配列の感光素子を備える。イメージセンサ24の感光素子すなわち感光位置は、シーンからの光量子を電荷のパケットに変換する。各感光位置は、たとえば、1975年3月7日にBayerにより出願された米国特許第3,971,065("Color Imaging Array")に記載されているバイヤー色フィルター配列などの、色フィルタ配列がかぶされている。バイヤー色フィルタ配列は、チェッカーボードのモザイクにおける50%の緑画素と、赤と青の列の間で交互に配列される残りの画素とからなる。感光位置は、色がついた入射光の照明に応答して、感光位置に入射する照明の強度に対応するアナログ信号を出力する。種々の他の色フィルタが使用できる。イメージセンサがグレースケールすなわちいわゆる白と黒の像を撮像するために使用されるときは、色フィルタは省略できる。
各画素のアナログ入力は、アナログ増幅器(図示しない)により増幅され、アナログ・シグナル・プロセッサ34によりアナログ処理されて、イメージセンサの出力増幅器の雑音を減少する。アナログ・シグナル・プロセッサ34の出力は、アナログディジタル(A/D)変換器36(たとえばバイヤー色フィルタ配列のシーケンスにおける10ビット信号を出力する10ビットA/D変換器)によりディジタルイメージ信号に変換される。
ディジタル化されたイメージ信号は、フレームメモリに一時的に格納され、次に、1989年5月9日にSassonらにより出願された米国特許第5,016,107号("Electronic Still Camera Utilizing Image Compression and Digital Storage")に記載されるようなプログラマブル・ディジタル・シグナル・プロセッサ40を用いて処理される。この画像処理は、たとえば、1993年6月30日にLaRocheらにより出願された米国特許第5,373,322号("Apparatus and Method for Adaptively Interpolating a Full Color Image Utilizing Chrominance Gradients")や、1986年2月3日にCokらにより出願された米国特許第4,642,678号("Signal Processing Method for Producing Interpolated Chrominance Values in a Sampled Image Signal")に説明されている方法を用いて、色フィルタ配列の値から全解像度の色の像を再構成するための補間アルゴリズムを含む。中性の(すなわち白またはグレー)にとって緑に等しくなるように赤と緑の信号を修正因子で乗算することにより、シーンの発光体を修正するホワイトバランスが行われる。好ましくは、色修正は、カメラの分光感度を修正する3×3の行列を用いる。しかし、他の色修正スキームも使用できる。色調の修正では、1組のルックアップテーブルを用いて、国際電気通信連合の規格ITU-R BT.709に定義されている光・電気変換特性を出力する。空間フィルタにより達成されるイメージのシャープ化は、レンズのぼけを補償し、主観的によりシャープな像を出力する。輝度とクロミナンスとは、ITU-R BT.709において定義された方程式を用いて処理された赤、緑及び青の信号から形成される。
ディジタル・シグナル・プロセッサ40は、初期像を用いてそのシーンのアーカイブ像を生成する。アーカイブ像は、たとえば、JPEG ISO 10918-1 (ITU-T.81)標準を用いて圧縮され、メモリに格納される。JPEG圧縮標準は、周知の離散コサイン変換を用いて、輝度信号とクロミナンス信号の8×8ブロックを空間周波数ドメインに変換する。次に、離散コサイン変換係数は、量子化され、エントロピーコード化されて、JPEG圧縮画像データを生成する。このJPEG圧縮画像データは、日本電子情報技術産業協会のCP-3451により刊行されたExchangeable Image File Format version 2.2において規格されているいわゆる「Exif」フォーマットを用いて格納される。また、Exifフォーマットのアーカイブ像は、メモリカード52にも格納できる。図1に示される実施形態では、撮像システム20は、リムーバブルのメモリカード52を保持するスロット54を備え、また、メモリカード52と通信をするためのメモリカード・インタフェース56を備える。Exifフォーマットのアーカイブ像や他のディジタル像は、ホストコンピュータ(図示されない)に送信することもできる。ホストコンピュータは、ホストコンピュータ・インタフェース46を介して撮像システム20に接続される。ホストコンピュータ・インタフェース46は、たとえば、光、無線または他の変換器であって、画像データまたは他のデータを、光信号、無線信号または他の形の信号によりホストコンピュータまたはネットワーク(図示されない)に運ぶことができる形式に変換する。
ディジタル・シグナル・プロセッサ40は、また、初期像に基づいて、より小さいサイズのディジタル像を生成する。これらのより小さいサイズのディジタル像をここでは評価像という。典型的には、評価像は、ビューファインダの表示装置33または外部の表示装置42での表示に適合される、より低解像度の像である。ビューファインダの表示装置33と外部の表示装置42は、たとえば、カラーまたはグレースケールの液晶表示装置(LCD)、有機LED(OLED)(有機エレクトロルミネッセンス表示装置(OELD)ともいう)または他の種類のビデオ表示装置である。
撮影シーケンスにおいて、ディジタル・シグナル・プロセッサ40は、初期像を用いて、評価像、アーカイブ像、または両方を生成する。ここでは、「撮影シーケンス」は、少なくとも、構図段階と撮影段階からなり、最適には、さらに検証段階を含む。
構図の間、マイクロプロセッサ50は、像が撮影されることを示すタイミング発生器66に信号を送る。タイミング発生器66は、一般に、図1に示されるように、イメージ信号のディジタル変換、圧縮及び格納を制御するために、撮像システム20の中の素子に接続される。イメージセンサ24は、センサドライバ68を介してタイミング発生器66により駆動される。マイクロプロセッサ50、タイミング発生器66及びセンサドライバ68は、固定または可変の積分時間の間、シーンから光の形でイメージセンサ24が電荷を集めるのに協力する。積分時間が終わった後で、イメージ信号は、アナログ・シグナル・プロセッサ34に送られ、初期像に変換され、この初期像は、先に一般的に説明したように、評価像またはアーカイブ像として使用できる。初期像のストリームがこうして撮影され、ディジタル・シグナル・プロセッサ40は、初期像に基づいて評価像のストリームを生成する。評価像のストリームは、ビューファインダの表示装置33または外部の表示装置42に提示される。使用者4は、評価像のストリームを観察して、その像を構図するために評価像を使用する。1990年3月15日にKuchtaらにより出願された米国特許第5,164,831号("Electronic Still Camera Providing Multi-Format Storage Of Full And Reduced Resolution Images")に説明されているような再サンプル技術を用いて、評価像を生成できる。また、評価像は、データメモリ4に格納できる。
撮影システム20は、典型的には、使用者4がトリガーボタン60を押したときに撮影段階に入る。しかし、撮影段階には、他の方法で、たとえば、マイクロプロセッサ50からのタイマー信号またはリモートから受けた信号に応答して、入ることもできる。撮影段階の間、マイクロプロセッサ50は、撮影信号を送って、ディジタル・シグナル・プロセッサ40に、1つの初期像を選択させ、その初期像を処理してアーカイブ像を形成させる。検証段階の間、対応する評価像も形成され、その評価像がビューファインダの表示装置33または外部の表示装置42に送られ、ある期間提示される。これにより、使用者4は、撮影されたアーカイブ像が許容できることを検証できる。
別の実施の形態では、イメージセンサ24により撮影された初期像は、アーカイブ像の形で撮影され、次に、評価像として使用するために変形される。また、他の実施の形態では、撮影システム20は、複数の像を撮影するために2以上のシステムを備える。たとえば、図1において、オプションとして、追加の像撮影システム69が示される。この追加の像撮影システム69は、アーカイブ像を撮影するために使用できる。追加の像撮影システム69は、たとえば、高解像度のディジタルイメージ装置または高解像度のフィルムまたはプレートなどの撮影素子を用いて画像を記録する画像撮影システムである。追加の像撮影システム69が使用されるとき、イメージセンサ24により撮影される像は、評価像として使用でき、そのアーカイブ像に対応する1つの評価像が得られ、像の構図の間に得られた評価像と比較される。
撮像システム20は、使用者の制御部58により制御される。制御部48の一部は、図2により詳細に示される。制御部58は、使用者4から入力を受け取り、撮像システム20において動作中のマイクロプロセッサ50が使用できる形式に変換するいずれかの変換器または他の装置を備える。たとえば、制御部48は、タッチスクリーン、6方向、6方向、8方向のロッカースイッチ、ジョイスティック、スタイラス、トラックボール、音声認識システム、動作認識システム及び他の同様な装置からなる。図2に示される実施の形態では、制御部48は、像を撮影するという使用者4の希望を示す信号をマイクロプロセッサ50に送ることにより撮影動作を開始するためのシャッタートリガーボタンを含む。マイクロプロセッサ50は、この信号に応答して、先に一般的に説明したように、ディジタル・シグナル・プロセッサ50に、得られた信号を送る。「広(W)」ズームレンズボタン62と、「遠(T)」ズームレンズボタン64は、2:1光学的ズームと2:1ディジタルズームを制御する。光学的ズームは、撮影レンズユニットにより行われ、イメージセンサ24により得られる焦点面の像の視野を変更するため、倍率を調節する。ディジタルズームは、ディジタル・シグナル・プロセッサ40により行われ、フレームメモリ38に記憶された、得られた像を切り取り(crop)、再サンプルする。使用者4が撮像システム20を起動すると、ズームレンズは1:1位置に設定されるので、すべてのセンサの感光素子は、撮影された像を提供し、撮影レンズユニット22は、広角位置に設定される。好ましい実施の形態では、この広角位置は、35mmフィルムカメラの40mmレンズと同等である。これは、最大の広角位置に対応する。
使用者が次に「遠」ズームレンズボタン64を押すと、撮影レンズユニット22は、マイクロプロセッサ50によりレンズドライバ30を介して調節されて、撮影レンズユニット22をより望遠の焦点距離の方へ動かす。使用者4が「遠」ズームレンズボタン64を押し続けると、撮影レンズユニット22は最大限の光学的2:1ズーム位置に動く。好ましい実施の形態では、この最大限の光学的2:1ズーム位置は、35mmフィルムカメラの40mmレンズと同等である。使用者4がさらに「遠」ズームレンズボタン64を押し続けると、撮影レンズユニット22は最大限の光学的2:1ズーム位置にとどまるが、ディジタル・シグナル・プロセッサ50は、像の中央領域を切り取ることにより(好ましくは再サンプルすることにより)、ディジタルズームを作動し始める。これは、カメラの見かけの倍率を増加する一方、アーカイブ像を作るときセンサの外側にあるいくつかの感光素子を放棄するので、シャープさを減少する。しかし、このシャープさの減少は、比較的小さいビューファインダ33や外部ディスプレイ42では通常は見えない。
たとえば、図1の撮像システム20において、撮影された像は、たとえば約1.25メガピクセルに対応する1280×960画素位置の高解像度のイメージセンサ24から得られる。分解能の用語は、ここでは、像を提示するために使用される画素の数を示すために使用される。しかし、外部の表示装置42は、たとえば約0.8メガピクセルに対応する320×240画素を提供するより低い解像度を備える。こうして、センサ素子の数は表示素子よりも16倍多い。したがって、初期像を、ビューファインダ33または外部ディスプレイ42に適切に合うような適当な小さい寸法の評価画像に再サンプルする必要がある。低域通過フィルタとそれに続くサブサンプリングにより、または、適当なアンチエイリアス調整を用いる双1次補間技法を用いて、この再サンプリングが行える。その代わりに、比較的低い解像度のディスプレイのために高解像度の像に適合する当業者に知られている他の技法も使用できる。
撮影された像よりも少ない画素(すなわち低い解像度)の評価像を作るための撮影された像の再サンプリングは、ディジタル・シグナル・プロセッサ40により行われる。前に述べたように、ディジタル・シグナル・プロセッサ40は、ディジタルズームも行う。最大の2:1の設定において、ディジタル・シグナル・プロセッサ40は、中央の640×480のセンサ領域を用いて、1280×960サンプルまでのこの中央領域を補間することによりアーカイブ像を提供する。
また、ディジタル・シグナル・プロセッサ40は、ビューファインダ33や外部ディスプレイ42で見たときにアーカイブ像の外観に適合するように、評価像を別の方法で変更できる。この変更は、評価像がビューファインダ33や外部ディスプレイ42で提示されるときに、評価像の色が対応するアーカイブ像の色に合って見えるように、評価像を校正する色を含む。これら及び他の変更は、対応するアーカイブ像に提示される色、フォーマット、シーンのコンテンツ及び照明条件を使用者4に正確に提示するのを助ける。
上に述べたように、対応するアーカイブ像より低い解像度の電子ディスプレイを用いて、評価像が表示されるので、評価像は、ビューファインダ33または外部ディスプレイ42で見たとき、印刷などがより高解像度で行われるときより、もっとシャープに見えることがある。こうして、1つの選択としての実施の形態では、対応するアーカイブ像において焦点がずれて見える領域が外部のディスプレイ42などの電子ディスプレイで見るとき焦点がずれて見えるように、各々の評価画像が変更される。さらに、ディジタルズームが動作しているとき、全体の像はソフトになるが、しかし、このソフト化は、外部のディスプレイ42では通常は見えない。図1の撮像システム20の例について、外部のディスプレイ42は、320×240画素のディスプレイであるが、アーカイブ像は、最大のディジタルズーム設定において640×480画素のセンサ領域を用いて提供される。こうして、通常のサイズ変更の後で外部のディスプレイ42に表示される評価像は、適当にシャープに見える。しかし、アーカイブ像は、許容できるシャープなプリントを作らない。したがって、320×240画素の評価像を生成する再サンプル技術が使用できるが、しかし、評価像は、最大のディジタルズーム設定が使用されるとき、見かけのシャープさを減少している。
理解されるように、アーカイブ像から作られる印刷出力または他の有形の出力の見かけのシャープさは、描かれる像の寸法の関数でもある。2001年12月21日にBelzらにより出願された米国出願第10/028,644号("Method and Imaging System for Blurring Portions of a Verification Image To Show Out of Focus Areas in a Captured Archival Image")に説明されているように、撮像システム20は、出力の予想される寸法を示す信号を受け取るための入力(図示しない)をオプションで備えていて、評価像の見かけのシャープさを調整でき、および/または、警告を生じる。
アーカイブ像の中の重要領域を決定するために撮像システム20を使用することが、図3、図4A〜4F、図5及び図6を用いて説明される。図3は本発明による方法の第1の実施の形態におけるフローチャートを示す。図3に示されるように、撮像システム20は、像構図モードに入ると(ステップ70)、アーカイブ像を撮影する処理を開始する。撮像システム20は、種々の方法で像構図モードに入る。たとえば、シャッタートリガーボタン60が半押位置または他の完全には押されていない位置に動かされたことをマイクロプロセッサ50が検出したときに、像構図モードに入る。別の方法では、モード選択スイッチ(図示しない)の位置に応答して、撮影モードに入るためのフラグをマイクロプロセッサ50が検出できる信号を検出器(図示しない)が生成できる。また、別の方法では、撮像システム20は、撮像システム20が像構図に関連されるように保持されていることを検出するセンサ(図示しない)を備える。別の実施の形態では、撮像システム20は、ビューファインダシステム32において像を見るために使用者4の目2が存在することを検出器(図示しない)が検出するときはいつでも、像構図モードに入ることができる。
図4A〜図4Eに示されているように、主題102を含むシーン100の構図の間に、評価像が撮影される(ステップ72)。先に説明したように、初期像が、アーカイブ像を構図するときに使用者4を助けるために、撮影され、ビューファインダのディスプレイ33または外部のディスプレイ42に表示されるが、この初期像から評価像が得られる。評価像は、たとえば、フレームメモリ38、データメモリ44またはメモリカード52に格納される。構図の間に格納される評価象の数は、1以上である(ステップ74)。
1つの実施の形態では、予め決められた数の評価像を構図の間に格納する。他の実施の形態では、フレームメモリ38などのメモリが、構図の間に撮影される予め決められた数の評価像のシーケンスを含むファースト・イン・ラスト・アウトのバッファとして使用される。この実施の形態では、像構図処理が始まると、このバッファは、格納された評価像で満たされる。バッファが満たされて後でも構図処理が続くと、新しく得られた評価像は、最も古く得られた評価像と置き換わる。この処理は、アーカイブ像が格納されるまで続く。こうして、バッファは、アーカイブ像の撮影に達するまでの期間にわたって撮影された連続した評価像を含む。別の実施の形態では、アーカイブ像の撮影の前の予め決めけられた期間の間に撮影された評価像のみを記憶する。また、他の有用な評価像格納戦略を採用できる。
図4A〜図4Eと図5に示されるように、撮影された評価像は、一般的に上で説明したように、評価像110、112、114、116、118を含む。1より多い任意の数の評価像を使用できる。
次に、アーカイブ像を得る(ステップ76)。典型的には、上に述べたように、シャッタートリガーボタン60が半押位置または他の完全には押されていない位置に動かされたことをマイクロプロセッサ50が検出したときに、アーカイブ像が得られる。アーカイブ像は、撮影され、たとえば、フレームメモリ38、データメモリ44またはメモリカード52に格納される(ステップ78)。
ディジタル・シグナル・プロセッサ40は、アーカイブ像を、少なくとも1つの評価像と比較して、撮影された評価像に共通する像要素を含むアーカイブ像の領域を同定する(ステップ80)。アーカイブ像の解像度は、比較を容易にするように調整できる。すなわち、評価像の解像度に整合する像が生成できる。このアーカイブ像は、格納されている複数のアーカイブ像のすべてまたは1つのサンプルと比較できる。種々のサンプル方法が採用できる。たとえば、アーカイブ像の撮像の前の最後の数秒間に撮影された評価像のみが使用できる。別の方法では、2つごと、または、4つごとの評価像が比較されるか、または、別の同様な基準が使用される。他の意味のある統計的サンプルパターン、たとえば、評価像のグループから選択されたサンプルの重みを使用したサンプルパターンも使用できる。
他の例では、最大のしきい値より小さくアーカイブ像の撮影に最も時間的に近い評価像(複数)の視野におけるシフト(複数)を検出するため、評価像が、比較のために使用される条件にある評価像のみと比較される。このアプローチは、間違った読取りの数を減少するという効果がある。その間違った読取りは、アーカイブ像の初期段階においてしばしば生じる撮像システム20の視野における大きなシフトのため、及び/または、ズームレンズ設定の調整の結果として、生じることがある。
評価像とアーカイブ像とを比較して、同じ像要素を含む像の中の領域を決定する(ステップ80)。この比較では、また、実質的に同じであるが同一でない要素を含む像における領域を決定できる。これは、構図段階の間の題材の動きにより必要となることがある。別の方法では、アーカイブ像における被写体を表わすキー(key)要素または要素のパターンを、同定でき、共通の領域を、キー要素または要素のパターンを探すことにより決定する。通常の像比較アルゴリズムがこの目的のために使用できる。たとえば、比較される像の間でのカメラの相対的移動の決定は、MPEG2圧縮ビデオストリームを生成するときに使用される像比較アルゴリズムを用いて決定できる。
図5と図6は、そのような比較の結果を示す。この実施の形態では、アーカイブ像120を、1組の評価像110、112、114、116、118と比較する。各評価像とアーカイブ像とに共通の像要素は、重要領域122に含まれる。この重要領域122は、各評価像110、112、114、116、118とアーカイブ像120とに共通の像情報を含む領域として決定される。
次に、この共通の像要素を特徴づける重要領域のデータを決定する(ステップ82)。重要領域のデータは、重要領域を含むアーカイブ像の領域を決定する。第1の実施の形態では、重要領域のデータは、アーカイブ像の中の共通の像要素の位置を同定する1組の座標を含む像メタデータからなる。他の実施の形態では、アーカイブ像は、複数の領域に分割され、重要領域は、それらの領域の1つに関連づけられる。この実施の形態では、重要領域のデータは、領域の指定を含む。別の実施の形態では、重要領域のデータは重要領域の中にあるアーカイブ像の中の1以上の対象物を同定する情報を含む。たとえば、図5と図6に示されるように、題材112は、共通の像の要素の中に位置される。この図示では、重要領域のメタデータは、人のように見える、像の中の物体が像の題材であることを示す指標を含む。
他の実施の形態では、重要領域のデータは、重要領域の像を含む。重要領域の像は多くの形をとる。たとえば、重要領域の像は重要領域をアーカイブ像の他の像と分離するためアーカイブ像にマップできる端部の像を含む。別の実施の形態では、重要領域の像は、重要領域を含むアーカイブ像の複製を含む。また、重要領域のデータは、アーカイブ像の中の重要領域の外観を有するが、異なった方法で処理または格納された像を含む。この方法は、たとえば、像の記憶容量を小さくするために、より低い解像度、より高い圧縮比及び/又は縮小された色域を持つようにすることである。さらに別の実施の形態では、重要領域の像は、アーカイブ像の外観と対照的な特有の外観を有するように処理される。
図5と図6では長方形で示されているけれども、共通領域の要素は、任意の形の重要領域112の中に含まれていてもよいことがわかる。
重要領域のデータを、アーカイブ像と関連付ける(ステップ84)。1つの実施の形態では、重要領域のデータをアーカイブ像と関連付けるステップは、また、アーカイブ像の残りの部分が格納される像の解像度より高い解像度を持つ形式でアーカイブ像を格納するステップを含む。他の別の実施の形態では、重要領域のデータをアーカイブ像と関連付けるステップは、また、アーカイブ像の残りの部分を格納するのに使用される圧縮比より低い圧縮比で、同定された重要領域を格納するステップを含む。
この種のさらに別の実施の形態では、重要領域のデータをアーカイブ像と関連付けるステップは、重要領域を表わす像データを、像の他の領域において使用された色、色域又は他の色の設定とは異なる設定を用いて記録するステップを含む。この観点で、ディジタル像解析アルゴリズムを用いて容易に検出されるが像が記録されたときには直ちには観察できないような多くの小さな形の色調節がディジタル像の中の像情報に対して可能である。1つの単純な例では、重要領域の外側の領域における像情報を記録するのに使用されるビット数、たとえば30ビットより多いディジタルビット、たとえば48ビットが、ディジタル像の中の重要領域データ内の像情報を記憶するために用いられる。これらのレベルで、ビット深さの違いは、像を見る人にとってもともと明白でないが、ディジタル像プロセッサにとっては直ちに明らかである。別の方法では、色調節は、アーカイブ像を見る人にとって明白なように行える。たとえば、重要領域の外側にあるアーカイブ像とともに色情報データにより表わされる重要領域の中にあるアーカイブ像の部分は、黒と白の像情報で表わすことができる。
別の実施の形態では、注目領域のデータは、見てわかるマーク、見て分かる情報の形でアーカイブ像の中で記録でき、及び/又は、像を見る人にとって直ちには明らかでないが、適当な画像処理部により像から抽出できる形で、アーカイブ像の中に符号化される情報を含む光学的透かしの形で符号化できる。
他の実施の形態では、重要領域のデータは、データベースに、または、サーバーまたは他の形のメモリに、重要領域のデータに記録された情報とともに格納できる。この情報は、その注目領域のデータがあるアーカイブ像に関連することを示すものである。別の実施の形態では、重要領域のデータの情報は、格納でき、アーカイブ像と関連づけて記録されて、重要領域のデータの位置を示す
感光材料のうえに像を記録する化学的感光撮影システムなどの追加の撮影システム69を用いてアーカイブ像が得られるとき、重要領域のデータは、従来行われてきたように可視または不可視の形のデータに重要領域のデータを光学的に符号化することにより、アーカイブ像と関連づけられる。別の方法では、重要領域のデータは、情報を受け取ることが可能な磁気的層を備える感光材料に記録できる。そのような感光材料は、たとえば、米国ニューヨーク州ロチェスターのイーストマンコダック社により販売されているアドバンテック(商標)フィルムなどの、アドバンスト写真システム(Advanced Photographic System)の要求に応えるフィルムである。別の形態では、重要領域のデータは、感光材料と関連づけられる電子メモリに記憶される。他の形態では、感光同定番号、像フレーム番号などの感光材料同定情報がフィルムから抽出され、重要領域の情報とともに格納され、データベースまたは他の格納装置に転送される。
図7は、本発明の方法の他の実施の形態のフローチャートを示す。この方法は、像の構図を開始したとき(ステップ130)に始まる。図8A〜8Eに示されるように、像構図の間、評価像151、152、154、156、158を、アーカイブ像162の撮影に先立つある期間の間に続けて撮影し(ステップ132)、格納する(ステップ134)。次に、アーカイブ像160を撮影し(ステップ136)、格納する(ステップ138)。次に、このアーカイブ像に対応する重要領域の像を得る(ステップS140)。次に、重要領域のデータを一連の評価像と比較する(ステップ142)。この実施の形態では、重要領域のデータは、アーカイブ像の撮影の直前に撮影された評価像158からはじまり逆の順番で続く評価像156、154、152などを含む一連の評価像の中の個々の評価像と比較される。各々の比較において、重要領域の改良された像を作成する(ステップ143)。この重要領域の改良された像を、しきい条件と比較する(ステップ144)。このしきい条件に適う場合、重要領域の改良された像を注目領域のデータとして記憶する(ステップ145)。次に、より多くの評価像が比較のために利用できるか否かを決定する(ステップ146)。重要領域の改良された像を、重要領域のデータとして記憶し、この比較処理を、前記の同定された共通の像要素がしきい条件に適わなくなるまで(ステップ148)、または、アーカイブ像が上述の一連の評価像の各々と比較されるまで(ステップ146)、続ける。
しきい条件は、前記の比較により決定される重要領域が重要領域の意味のある指示を与えることを確実にすることを意図する多くの条件の1つとして使用できる。予め決められる条件の1例は、重要領域の像の大きさである。しきい条件は他の形であってもよい。たとえば、しきい条件は、重要領域についての最小の水平方向の空間、重要領域についての最小の縦方向の空間またはその両方を定義する。また、しきい条件は、重要領域の像の全体の像空間の予め決められた部分、予め決められた形状または予め決められた分布パターンの形をとる。さらに、しきい条件は、アーカイブ像の取得の前の時間、または、アーカイブ像の撮影のすぐ前に撮影された評価像の数により定量化できる。
図8に示されるように、1つの実施の形態では、アーカイブ像を、アーカイブ像の撮影のすぐ前の時間t−1に撮影された評価像で始まる一連の評価像と比較する。この比較は、重要領域(注目領域)の予備的な像を生じる。この予備的な像は、他の評価像と逆の順序で比較される。各々の比較では、重要領域の予備的な像と比較されている評価像内に見出されない、予備的な像の像要素は、重要領域の予備的な像から抽出されて、重要領域の改良された像を生じる。この重要領域の改良された像の大きさは監視される。重要領域の改良された像がしきい値より小さいと決定されると、その重要領域の改良された像は捨てられ、比較において使用された重要領域の予備的な像が重要領域の像として決定される。
図8A〜図8Fに示されるように、時間tに、撮影されたアーカイブ像160に対応する重要領域の像162を得る(ステップ140)。重要領域の像162を、時間t−1に、アーカイブ像160の撮影のすぐ前に撮影された評価像158と比較する(ステップ142)。この比較の結果、重要領域の像162と評価像158の両方に共通でない像要素を同定する。共通でない要素を、重要領域の像162から抽出して、改良された重要領域の像164を生じる(ステップ143)。次に、この重要領域の改良された像164が最小の大きさのしきい条件170として示されるしきい条件に適うか否かを決定する(ステップ144)。重要領域の改良された像164が最小の大きさのしきい条件170に適うとき、重要領域の改良された像164を重要領域の像として記憶する(ステップ145)。もし、より多くの評価像が比較のために利用できるならば(ステップ146)、別の評価像を得る(ステップ150)。そして、この処理は、重要領域の像162を、時間t−2に撮影された次の評価像156と比較するステップ(ステップ142)に戻る。
次に、重要領域の像(今は像162)を、評価像156と比較して(ステップ142)、重要領域の像162と評価像156の両方に共通でない像要素を同定する。共通でない要素を、重要領域の像162から抽出して、図8Dに示す、次の改良された重要領域の像164を生じる(ステップ143)。次に、この重要領域の改良された像164が最小の大きさのしきい条件170に適うか否かを決定する(ステップ144)。重要領域の改良された像164を重要領域の像として記憶する(ステップ145)。もし、さらに評価像が比較のために利用できるならば(ステップ146)、別の評価像を得て(ステップ150)、改良された重要領域の像162を、時間t−3に撮影された次の評価像154と比較するステップ(ステップ142)に戻る。
この比較の結果、重要領域の像162と評価像154の両方に共通でない像要素を同定する。共通でない要素を、改良された重要領域の像162から抽出して、図8Dに示す、次の改良された重要領域の像166(図8C)を生じる(ステップ143)。次に、この重要領域の改良された像166が最小の大きさのしきい条件170に適うか否かを決定する(ステップ144)。重要領域の改良された像166を重要領域の像として記憶する(ステップ145)。もし、より多くの評価像が比較のために利用できるならば(ステップ146)、別の評価像を得る(ステップ150)。そして、この処理は、改良された予備的重要領域の像162を、時間t−4に撮影された次の評価像152と比較するステップ(ステップ142)に戻る。
次に、重要領域の像(今は像166)を、時間t−4に撮影された評価像152と比較して(ステップ142)、共通でない要素を、重要領域の像166から抽出して、図8Bに示す、次の改良された重要領域の像168を生じる(ステップ143)。次に、この重要領域の改良された像168が最小の大きさのしきい条件170に適うか否かを決定する(ステップ144)。ここで、最小の大きさのしきい条件に適わないと決定される。
しきい条件の1つが適わないとき、または、アーカイブ像がすべての評価像と比較されたとき、オプションとして実行できる検証ステップ(ステップS147)を行える。このステップでは、使用者4に、注目領域の像を示す。アーカイブ像を表示し、共通の要素を含む重要領域を示す。使用者4は、図2に示されているような承認ボタン61を使用して、示された重要領域の自動的な提示を受け入れるか、または、図2に示されるような拒絶ボタン63を押して、自動的な提示を拒絶するか、または、制御部58を用いて、決定された重要領域を拒絶する。使用者4が自動的な提示を拒絶すると、重要領域の像を削除できる(ステップ148)。使用者4が自動的な提示を受け入れると、重要領域の像をアーカイブ像とともに格納する(ステップS149)。
発明の1つの実施の形態では、撮像システム20の使用者4は、その評価像が重要領域を定義するために使用されるかについて、入力できる。たとえば、評価像が撮影され重要領域を決定するために使用されるときに、シャッタートリガーボタン60を、重要領域を定義するために使用できる。この例では、シャッタートリガーボタン60が半押し位置に動かされたとき、評価像が撮影される。シャッタートリガーボタン60が十分に押すことなく放されるとき、アーカイブ像は撮影されず、評価像は捨てられる。シャッタートリガーボタン60が十分に押されたとき、シャッタートリガーボタン60が半押し位置から十分に押された位置まで動かされる間に撮影された評価像が格納され、重要領域を決定するために使用される。
このようにして、使用者4は、重要領域の決定において使用されるべき1組の像を決定できる。この処理は図9A〜図9Eに示されていて、図9A〜図9Eは、それぞれ、人202を含む撮影シーン200を示す。この図示において、使用者4は、シャッタートリガーボタン60を半押し位置に動かすことにより、シーン200のアーカイブ像の構図を開始する。使用者が撮像システム20で狙いをつけると、構図が始まり、図9Aに図示されるように、人202の端が切り取られた視野の像を撮影する。この視野の評価像210が提示され、使用者4は、これを修正しようとして、撮像システムを動かす。しかし、評価像212は、この調整も人202の端を切り取ることを表わしている。この点で、使用者4は、シャッタートリガーボタン60を離して評価像210,212を捨てることもできる。次に、使用者4は、シャッタートリガーボタン60を半押し位置に戻し、図9Cと図9Dに示すように、評価像214,216を撮影する。最後に、使用者4は、シャッタートリガーボタン60を全押し位置に動かして、図9Eに示されるアーカイブ像を撮影する。像214、216、218に共通の像要素は、図9Fに示される重要領域220として同定される。
この種の別の実施の形態では、シャッタートリガーボタン60は、第1押し位置、第2押し位置及び全押し位置の間で移動可能である。シャッタートリガーボタン60が第1押し位置に動かされるとき、カメラシステムは、撮影と評価像の提示を開始する。しかし、評価像は、重要領域の決定に使用するためには格納されていない。シャッタートリガーボタン60が第2押し位置に動かされるとき、マイクロプロセッサ50は、評価像を、重要領域の決定に使用するために格納させる。マイクロプロセッサ50は、シャッタートリガーボタン60が第1押し位置に戻るまで、または、全押し位置まで押されるまで、評価像の格納を続ける。シャッタートリガーボタン60が第1押し位置に戻ると、格納されている評価像は捨てられる。シャッタートリガーボタン60が全押し位置まで押されると、格納されている評価像が、アーカイブ像における重要領域を決定するために使用される。なお、重要領域を決定するためにどの評価像または他の形の重要領域のデータが格納されるべきであるかを使用者が決定するために使用する他の制御部58を提供するようにしてもよい。
上述の実施の形態では、撮像システム20は、スチルイメージ撮影システムを備えるカメラからなるものとして説明した。しかし、他の実施の形態では、撮像システム20は、スチルイメージを表わすタグ特徴部を備えるビデオカメラ、パーソナルコンピュータ、米国ニューヨーク州ロチェスターのイーストマンコダック社により製造されたコダックImage Maker(TM)キオスク、別のイメージ撮影装置により撮影された評価像とアーカイブ像を得るように、また、それらの像をマイクロプロセッサ50に提供するように適合されたメモリまたは通信インタフェースなどの画像ソースを備える画像設備または同様な装置などの像処理システムを備えていてもよい。
本発明の撮像システムの1実施形態のブロック図 図1の撮像システムの背面図 本発明の方法の1実施形態のフローチャート 図4fに示されるアーカイブ像の構図の間の一連の評価像により撮影されたシーン像情報の図 図4fに示されるアーカイブ像の構図の間の一連の評価像により撮影されたシーン像情報の図 図4fに示されるアーカイブ像の構図の間の一連の評価像により撮影されたシーン像情報の図 図4fに示されるアーカイブ像の構図の間の一連の評価像により撮影されたシーン像情報の図 図4fに示されるアーカイブ像の構図の間の一連の評価像により撮影されたシーン像情報の図 アーカイブ像の図 撮像された評価像、アーカイブ像および重要領域を表わしたシーンの図、 重要領域および影線で示された評価像を含むアーカイブ像の図 本発明の方法の他の実施形態のフローチャート 図8fに示されるアーカイブ像の構図の間の一連の評価像の中の1つの評価像の図 図8fに示されるアーカイブ像の構図の間の一連の評価像の中の1つの評価像の図 図8fに示されるアーカイブ像の構図の間の一連の評価像の中の1つの評価像の図 図8fに示されるアーカイブ像の構図の間の一連の評価像の中の1つの評価像の図 図8fに示されるアーカイブ像の構図の間の一連の評価像の中の1つの評価像の図 アーカイブ像の図 図9fに示される重要領域を得るため処理される構図の間に撮影される1つの評価像を含む撮影シーンの図 図9fに示される重要領域を得るため処理される構図の間に撮影される1つの評価像を含む撮影シーンの図 図9fに示される重要領域を得るため処理される構図の間に撮影される1つの評価像を含む撮影シーンの図 図9fに示される重要領域を得るため処理される構図の間に撮影される1つの評価像を含む撮影シーンの図 図9fに示される重要領域を得るため処理される構図の間に撮影される1つの評価像を含む撮影シーンの図 重要領域の図
符号の説明
4 使用者、 20 撮像システム、 40 ディジタル・シグナル・プロセッサ、 50 マイクロプロセッサ、 100 シーン、 110、112、114、116、118 評価像、 120 アーカイブ像、 122 重要領域、 151、152、154、156、158 評価像、 160,162 アーカイブ像、 164、166 重要領域の像、 170 しきい条件、 200 シーン、 202 人、 210,212,214,216 評価像、 218 アーカイブ像、 220 重要領域。

Claims (3)

  1. 1つのアーカイブ像における重要領域を決定する方法であって、
    アーカイブ像の構図の間に撮影される評価像を得て、
    前記のアーカイブ像を得て、
    前記の評価像を前記のアーカイブ像と比較して共通の像の要素を決定し、
    この共通の像の要素を特徴づける重要領域のデータを決定し、
    この重要領域のデータを前記のアーカイブ像と関連付ける
    方法。
  2. 請求項1に記載された方法において、
    一連の複数の評価像を構図の間に撮影し、共通の像の要素を決定する前記のステップでは、前記のアーカイブ像を、前記の一連の複数の評価像と比較することにより共通の像の要素を決定し、この比較は、前記のアーカイブ像の撮影のすぐ前に撮影される評価像から開始され、前記の共通の像の要素が、前記のアーカイブ像の前記の像の要素の予め決定された最小の像空間を決定するまで、順次その前の評価像について続けられる
    方法。
  3. 評価像とアーカイブ像を得るために操作可能な像取得手段と、
    評価像をアーカイブ像と比較して、すべての評価像とアーカイブ像とに共通なアーカイブ像の中の部分を同定する信号処理器とからなり、
    前記の信号処理器は、前記の共通部分に対応する前記のアーカイブ像の中の部分を同定する重要データの領域を記憶し、この重要領域のデータを前記のアーカイブ像と関連付ける
    撮像システム。
JP2003425111A 2002-12-20 2003-12-22 アーカイブ像の中の重要領域を決定する撮像装置と方法 Expired - Fee Related JP4177750B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/324,489 US7327890B2 (en) 2002-12-20 2002-12-20 Imaging method and system for determining an area of importance in an archival image

Publications (2)

Publication Number Publication Date
JP2004208318A true JP2004208318A (ja) 2004-07-22
JP4177750B2 JP4177750B2 (ja) 2008-11-05

Family

ID=32393069

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003425111A Expired - Fee Related JP4177750B2 (ja) 2002-12-20 2003-12-22 アーカイブ像の中の重要領域を決定する撮像装置と方法

Country Status (4)

Country Link
US (1) US7327890B2 (ja)
EP (1) EP1431912B1 (ja)
JP (1) JP4177750B2 (ja)
DE (1) DE60306737T2 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7454707B2 (en) * 2002-09-30 2008-11-18 Canon Kabushiki Kaisha Image editing method, image editing apparatus, program for implementing image editing method, and recording medium recording program
GB0229625D0 (en) * 2002-12-19 2003-01-22 British Telecomm Searching images
US7327890B2 (en) 2002-12-20 2008-02-05 Eastman Kodak Company Imaging method and system for determining an area of importance in an archival image
US7519236B2 (en) * 2003-04-09 2009-04-14 Arcsoft, Inc. Image retrieval
US20040212695A1 (en) * 2003-04-28 2004-10-28 Stavely Donald J. Method and apparatus for automatic post-processing of a digital image
US8339462B2 (en) 2008-01-28 2012-12-25 DigitalOptics Corporation Europe Limited Methods and apparatuses for addressing chromatic abberations and purple fringing
US7705908B2 (en) * 2003-12-16 2010-04-27 Eastman Kodak Company Imaging method and system for determining camera operating parameter
US20050134719A1 (en) * 2003-12-23 2005-06-23 Eastman Kodak Company Display device with automatic area of importance display
US7656429B2 (en) * 2004-02-04 2010-02-02 Hewlett-Packard Development Company, L.P. Digital camera and method for in creating still panoramas and composite photographs
US8659619B2 (en) * 2004-03-26 2014-02-25 Intellectual Ventures Fund 83 Llc Display device and method for determining an area of importance in an original image
US7483059B2 (en) * 2004-04-30 2009-01-27 Hewlett-Packard Development Company, L.P. Systems and methods for sampling an image sensor
US7548259B2 (en) * 2004-08-12 2009-06-16 Microsoft Corporation System and method for producing a higher resolution still image from video information
US7693306B2 (en) * 2005-03-08 2010-04-06 Konami Gaming, Inc. System and method for capturing images from mobile devices for use with patron tracking system
US8849068B2 (en) * 2005-04-08 2014-09-30 Canon Kabushiki Kaisha Image management system, image management method, and program
US7751622B2 (en) * 2005-08-22 2010-07-06 Carestream Health, Inc. Method and system for detection of undesirable images
GB0520829D0 (en) * 2005-10-13 2005-11-23 Univ Cambridge Tech Image processing methods and apparatus
US7697827B2 (en) 2005-10-17 2010-04-13 Konicek Jeffrey C User-friendlier interfaces for a camera
FI20060028L (fi) * 2006-01-13 2007-07-14 Teknillinen Korkeakoulu Tulostettuun kuvaan liittyvä metatieto
US7970763B2 (en) * 2006-02-21 2011-06-28 Microsoft Corporation Searching and indexing of photos based on ink annotations
US8330830B2 (en) * 2006-04-13 2012-12-11 Eastman Kodak Company Camera user input based image value index
JP2008187591A (ja) * 2007-01-31 2008-08-14 Fujifilm Corp 撮像装置及び撮像方法
US8154625B2 (en) * 2007-04-02 2012-04-10 Research In Motion Limited Camera with multiple viewfinders
EP1981262A1 (en) 2007-04-02 2008-10-15 Research In Motion Limited Camera with multiple viewfinders
US20090128644A1 (en) * 2007-11-15 2009-05-21 Camp Jr William O System and method for generating a photograph
JP5419403B2 (ja) * 2008-09-04 2014-02-19 キヤノン株式会社 画像処理装置
US8170310B2 (en) * 2009-02-23 2012-05-01 General Electric Company Automatic outcome analysis using radiological images
JP4730569B2 (ja) * 2009-03-27 2011-07-20 カシオ計算機株式会社 撮影装置、撮像方法、及びプログラム
KR101725888B1 (ko) * 2009-11-13 2017-04-13 삼성전자주식회사 카메라 또는 원격 제어 장치에서의 이미지 제공 방법 및 그 장치
US8366099B2 (en) * 2011-02-16 2013-02-05 Lexmark International, Inc. Media retractor and recycler system for automatic document feeders and duplexers and method for using same
JP2014215604A (ja) * 2013-04-30 2014-11-17 ソニー株式会社 画像処理装置および画像処理方法
JP6249825B2 (ja) * 2014-03-05 2017-12-20 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP2016046642A (ja) * 2014-08-21 2016-04-04 キヤノン株式会社 情報処理システム、情報処理方法及びプログラム
US10091414B2 (en) * 2016-06-24 2018-10-02 International Business Machines Corporation Methods and systems to obtain desired self-pictures with an image capture device
US10424097B2 (en) 2017-04-01 2019-09-24 Intel Corporation Predictive viewport renderer and foveated color compressor
CN108076384B (zh) * 2018-01-02 2019-12-06 京东方科技集团股份有限公司 一种基于虚拟现实的图像处理方法、装置、设备和介质
CN110493512B (zh) * 2019-07-31 2021-08-27 上海甜里智能科技有限公司 摄影构图方法、装置、摄影设备、电子装置及存储介质

Family Cites Families (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
EP0227640B1 (de) 1982-09-30 1993-05-26 Ciba-Geigy Ag Mit Bis-(polyalkylpiperidinyl-amino)-1,3,5-triazinen stabilisierte Polyolefine
DE3313620C1 (de) 1983-04-12 1984-10-04 Gerhard Dr.-Ing. 1000 Berlin Lechler Kraftmesseinrichtung
IT1176613B (it) 1984-08-14 1987-08-18 Ravizza Spa Derivati piperazinici farmacologicamente attivi e processo per la loro preparazione
US4642678A (en) * 1984-09-10 1987-02-10 Eastman Kodak Company Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal
US4685143A (en) 1985-03-21 1987-08-04 Texas Instruments Incorporated Method and apparatus for detecting edge spectral features
US4812912A (en) 1986-05-26 1989-03-14 Minolta Camera Kabushiki Kaisha Focus detection condition display device for camera
JP2556484B2 (ja) 1986-10-20 1996-11-20 キヤノン株式会社 図形輪郭抽出装置
US4969202A (en) 1988-03-31 1990-11-06 Honeywell Inc. Image recognition edge detection method and system
US5081689A (en) 1989-03-27 1992-01-14 Hughes Aircraft Company Apparatus and method for extracting edges and lines
US5016107A (en) * 1989-05-09 1991-05-14 Eastman Kodak Company Electronic still camera utilizing image compression and digital storage
US5142380A (en) 1989-10-23 1992-08-25 Ricoh Company, Ltd. Image data processing apparatus
US5164831A (en) * 1990-03-15 1992-11-17 Eastman Kodak Company Electronic still camera providing multi-format storage of full and reduced resolution images
US5103254A (en) 1990-05-29 1992-04-07 Eastman Kodak Company Camera with subject highlighting and motion detection
US5333029A (en) * 1990-10-12 1994-07-26 Nikon Corporation Camera capable of detecting eye-gaze
US5361119A (en) 1991-01-08 1994-11-01 Nikon Corporation Focus state display device for camera
JP2585874B2 (ja) 1991-03-18 1997-02-26 富士通株式会社 カラー画像のエッジ検出方式
US5892991A (en) 1991-04-30 1999-04-06 Minolta Co., Ltd. Camera capable of displaying the level of visual effect
JP3070624B2 (ja) 1991-05-02 2000-07-31 キヤノン株式会社 自動焦点検出装置
JP2763211B2 (ja) 1991-08-07 1998-06-11 富士写真フイルム株式会社 カメラ
US5557358A (en) 1991-10-11 1996-09-17 Minolta Camera Kabushiki Kaisha Camera having an electronic viewfinder for displaying an object image under different photographic conditions
JPH05260352A (ja) 1992-03-11 1993-10-08 Sony Corp ビデオカメラ
DE4340729A1 (de) * 1992-11-30 1994-06-01 Asahi Optical Co Ltd Kompaktkamera mit automatischen, brennweitenabhängigen Belichtungseinstellungen
US5373322A (en) * 1993-06-30 1994-12-13 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
US5563718A (en) 1993-11-30 1996-10-08 Polaroid Corporation Image coding by use of discrete cosine transforms
JPH07226911A (ja) * 1994-02-15 1995-08-22 Eastman Kodak Japan Kk 電子スチルカメラ
US5710954A (en) 1994-02-17 1998-01-20 Olympus Optical Co., Ltd. Camera system having function for photographing image linked to electronic image
JPH07261279A (ja) * 1994-02-25 1995-10-13 Eastman Kodak Co 写真画像の選択システム及び方法
US5477264A (en) * 1994-03-29 1995-12-19 Eastman Kodak Company Electronic imaging system using a removable software-enhanced storage device
US5446804A (en) 1994-04-14 1995-08-29 Hewlett-Packard Company Magnifying digital image using edge mapping
KR100322249B1 (ko) 1994-06-10 2002-06-20 이중구 멀티자동초점조절기능을가지는카메라및그제어방법
JPH08110564A (ja) 1994-10-13 1996-04-30 Canon Inc ファインダ表示装置を有する光学機器
US5496106A (en) 1994-12-13 1996-03-05 Apple Computer, Inc. System and method for generating a contrast overlay as a focus assist for an imaging device
KR0135815B1 (ko) 1994-12-19 1998-06-15 김광호 오버레이 기능을 가진 데이타 통신방법 및 그 방법을 수행하는 장치
US5668597A (en) * 1994-12-30 1997-09-16 Eastman Kodak Company Electronic camera with rapid automatic focus of an image upon a progressive scan image sensor
US6172706B1 (en) 1995-04-19 2001-01-09 Canon Kabushiki Kaisha Video camera with automatic zoom adjustment based on distance between user's eyes
US5791692A (en) * 1995-05-31 1998-08-11 Eastman Kodak Company Dual sided photographic album leaf and method of making
US5874994A (en) * 1995-06-30 1999-02-23 Eastman Kodak Company Filter employing arithmetic operations for an electronic sychronized digital camera
JP3733392B2 (ja) * 1996-03-05 2006-01-11 イーストマン コダック カンパニー 画像の構図変化検出方法
JPH09243906A (ja) * 1996-03-05 1997-09-19 Eastman Kodak Japan Kk 自動焦点合わせ装置および自動焦点合わせ方法
JP3752510B2 (ja) * 1996-04-15 2006-03-08 イーストマン コダック カンパニー 画像の自動被写体検出方法
US5697001A (en) 1996-04-24 1997-12-09 Eastman Kodak Company Camera for generating and recording object data with the recorded image
US5760917A (en) * 1996-09-16 1998-06-02 Eastman Kodak Company Image distribution method and system
US5822542A (en) * 1996-10-31 1998-10-13 Sensormatic Electronics Corporation Electronic and structural components of an intelligent video information management apparatus
US6252989B1 (en) * 1997-01-07 2001-06-26 Board Of The Regents, The University Of Texas System Foveated image coding system and method for image bandwidth reduction
US5742233A (en) * 1997-01-21 1998-04-21 Hoffman Resources, Llc Personal security and tracking system
US6522354B1 (en) 1997-06-09 2003-02-18 Nikon Corporation Electronic camera and method of operating an electronic camera
JP4233624B2 (ja) 1997-12-26 2009-03-04 カシオ計算機株式会社 電子カメラ装置
US6345274B1 (en) * 1998-06-29 2002-02-05 Eastman Kodak Company Method and computer program product for subjective image content similarity-based retrieval
US6282317B1 (en) * 1998-12-31 2001-08-28 Eastman Kodak Company Method for automatic determination of main subjects in photographic images
US6287252B1 (en) * 1999-06-30 2001-09-11 Monitrak Patient monitor
US6294993B1 (en) * 1999-07-06 2001-09-25 Gregory A. Calaman System for providing personal security via event detection
JP2001116985A (ja) 1999-10-21 2001-04-27 Canon Inc 被写体認識機能を有するカメラおよび被写体認識方法
US6782395B2 (en) 1999-12-03 2004-08-24 Canon Kabushiki Kaisha Method and devices for indexing and seeking digital images taking into account the definition of regions of interest
US6282231B1 (en) * 1999-12-14 2001-08-28 Sirf Technology, Inc. Strong signal cancellation to enhance processing of weak spread spectrum signal
JP2001211351A (ja) 2000-01-27 2001-08-03 Fuji Photo Film Co Ltd 画像撮像装置およびその動作制御方法
US6893396B2 (en) * 2000-03-01 2005-05-17 I-Medik, Inc. Wireless internet bio-telemetry monitoring system and interface
US6438323B1 (en) * 2000-06-15 2002-08-20 Eastman Kodak Company Camera film loading with delayed culling of defective cameras
US6697502B2 (en) * 2000-12-14 2004-02-24 Eastman Kodak Company Image processing method for detecting human figures in a digital image
GB2370438A (en) 2000-12-22 2002-06-26 Hewlett Packard Co Automated image cropping using selected compositional rules.
JP2004526179A (ja) 2000-12-22 2004-08-26 ヒューレット・パッカード・カンパニー 画像構図評価方法および装置
JP4370726B2 (ja) 2001-02-15 2009-11-25 株式会社ニコン 電子カメラ、および画像処理プログラム
GB0116877D0 (en) 2001-07-10 2001-09-05 Hewlett Packard Co Intelligent feature selection and pan zoom control
GB2380888A (en) 2001-10-13 2003-04-16 Hewlett Packard Co Automatic determination of regions of interest in an image
JP3534101B2 (ja) 2001-10-18 2004-06-07 ミノルタ株式会社 デジタルカメラ
US7053953B2 (en) 2001-12-21 2006-05-30 Eastman Kodak Company Method and camera system for blurring portions of a verification image to show out of focus areas in a captured archival image
US20030146997A1 (en) 2002-02-01 2003-08-07 Eastman Kodak Company System and method of processing a digital image for user assessment of an output image product
JP4000293B2 (ja) 2002-10-22 2007-10-31 富士フイルム株式会社 デジタルカメラ
US7327890B2 (en) 2002-12-20 2008-02-05 Eastman Kodak Company Imaging method and system for determining an area of importance in an archival image
US20040246360A1 (en) 2003-06-05 2004-12-09 Stavely Donald J. System and method for displaying preview images to a camera user

Also Published As

Publication number Publication date
DE60306737D1 (de) 2006-08-24
US20040120606A1 (en) 2004-06-24
EP1431912A2 (en) 2004-06-23
JP4177750B2 (ja) 2008-11-05
DE60306737T2 (de) 2007-08-02
EP1431912B1 (en) 2006-07-12
EP1431912A3 (en) 2004-11-17
US7327890B2 (en) 2008-02-05

Similar Documents

Publication Publication Date Title
JP4177750B2 (ja) アーカイブ像の中の重要領域を決定する撮像装置と方法
US7705908B2 (en) Imaging method and system for determining camera operating parameter
JP4511821B2 (ja) 画像中の重要領域決定方法、プログラムおよび装置
US7053953B2 (en) Method and camera system for blurring portions of a verification image to show out of focus areas in a captured archival image
US7483061B2 (en) Image and audio capture with mode selection
JP2004180298A (ja) アイモニタリング機能を備えるカメラシステム
US8659619B2 (en) Display device and method for determining an area of importance in an original image
JP4787180B2 (ja) 撮影装置及び撮影方法
US8111321B2 (en) Imaging device and method for its image processing, with face region and focus degree information
US20050134719A1 (en) Display device with automatic area of importance display
EP1432232A1 (en) Image metadata processing system and method
JP4126721B2 (ja) 顔領域抽出方法及び装置
JP2009060195A (ja) 撮像装置および方法並びにプログラム
JP2008252713A (ja) 撮像装置
US7301562B2 (en) Imaging system with delayed verification image presentation
JP2005033255A (ja) デジタル画像の画像処理方法、デジタルカメラ及びプリントシステム
JP4049291B2 (ja) デジタルスチルカメラ
JP4200575B2 (ja) デジタルカメラ
JP2004266669A (ja) 監視カメラ並びに撮像方法
JP2002290794A (ja) 電子カメラ装置及び画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060622

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080805

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080822

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees