JP6137936B2 - 撮影機器,画像処理装置及び画像補正方法 - Google Patents

撮影機器,画像処理装置及び画像補正方法 Download PDF

Info

Publication number
JP6137936B2
JP6137936B2 JP2013100344A JP2013100344A JP6137936B2 JP 6137936 B2 JP6137936 B2 JP 6137936B2 JP 2013100344 A JP2013100344 A JP 2013100344A JP 2013100344 A JP2013100344 A JP 2013100344A JP 6137936 B2 JP6137936 B2 JP 6137936B2
Authority
JP
Japan
Prior art keywords
image
unit
correction
signal
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013100344A
Other languages
English (en)
Other versions
JP2014220749A5 (ja
JP2014220749A (ja
Inventor
宏明 岩崎
宏明 岩崎
学 市川
学 市川
野中 修
修 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013100344A priority Critical patent/JP6137936B2/ja
Priority to US14/274,382 priority patent/US9420192B2/en
Priority to CN201410195609.9A priority patent/CN104144294B/zh
Publication of JP2014220749A publication Critical patent/JP2014220749A/ja
Publication of JP2014220749A5 publication Critical patent/JP2014220749A5/ja
Priority to US15/208,729 priority patent/US9565357B2/en
Application granted granted Critical
Publication of JP6137936B2 publication Critical patent/JP6137936B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Exposure Control For Cameras (AREA)

Description

この発明は、暗い環境下での撮影において適正な黒バランス補正が可能な撮影機器,画像処理装置及び画像補正方法に関するものである。
従来、撮影光学系により結像された光学像を光電変換素子等によって順次画像信号に変換し、これにより得られた画像信号を所定の形態の画像データとして記録媒体に記録し得ると共に、この記録媒体に記録された画像データを画像として再生表示する画像表示装置、例えば液晶表示装置(LCD)等を備えて構成された撮影機器、例えばデジタルカメラやビデオカメラ等(以下、これらを総称してカメラという)が一般に実用化され、広く普及している。
この種のカメラを用いて、例えば長時間露出による夜景撮影を行った場合、露出時間が長くなると、例えば街灯やネオン等の人工光が画面全体に影響を及ぼしてしまうことがある。例えば、画面内において本来暗黒となるべき領域、例えば夜空の領域が黒くならず、人工光等の影響を受けて見た目よりも明るく写ってしまったり、星像等の淡い光像が消されてしまうということがある。また、人工光に限らず、意図しない環境光の回り込みによって、暗所における対象物の本来の色が再現できないことがあった。
そこで、このような環境下での撮影においても、人工光等による有害光の影響を考慮して、人間の見え方に近い画像を取得するための画像補正処理技術については、例えば特開2005−45558号公報等によって、従来種々の提案が行なわれている。
上記特開2005−45558号公報によって開示されている撮影機器は、画像中の最暗点が無彩軸からずれている場合にも、人間の眼の見え方の黒への順応効果(黒順応率)を考慮して無彩軸方向に補正する黒バランス制御を行なうというものである。
特開2005−45558号公報
ところが、上記特開2005−45558号公報によって開示されている撮影機器では、最暗点を検出し、検出された最暗点を基準として黒バランス補正を行なうようにしているので、例えば撮影環境によっては有害光等の影響を受けると適切な補正を行なうことができないという問題点がある。
本発明は、上述した点に鑑みてなされたものであって、その目的とするところは、暗い環境下における撮影時に周囲環境光からの影響を排除して自然な描写の暗所画像等を簡単な構成によって取得し得る撮影機器,画像処理装置及び画像補正方法を提供することである。
上記目的を達成するために、本発明の一態様の撮影機器は、被写体を撮像して画像信号を取得する撮像部と、上記撮像部が取得した上記画像信号を逐次蓄積する蓄積部と、上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、画像上の位置を指示する指示部と、上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部とを有し、上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置の画像信号を下げるように諧調特性を変更する。
また、本発明の他の一態様の撮影機器は、被写体を撮像して画像信号を取得する撮像部と、上記撮像部が取得した上記画像信号を逐次蓄積する蓄積部と、上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、画像上の位置を指示する指示部と、上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部とを有し、上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置を含む領域の蓄積画像信号を減算する減算処理である。
本発明の一態様の画像処理装置は、画像信号を逐次蓄積する蓄積部と、上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、画像上の位置を指示する指示部と、上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部とを有し、上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置の画像信号を下げるように諧調特性を変更する。
本発明の他の一態様の画像処理装置は、上記撮像部が取得した上記画像信号を逐次蓄積する蓄積部と、上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、画像上の位置を指示する指示部と、上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部とを有し、上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置を含む領域の蓄積画像信号を減算する減算処理である。
本発明の一態様の画像補正方法は、像信号を逐次蓄積する蓄積ステップと、逐次蓄積された蓄積画像信号を画像として視認可能に表示する表示ステップと、表示された画像上の位置を指示する指示ステップと、指示された画像上の位置の画素値を判定する位置判定ステップと、記判定結果に従って蓄積画像信号についての補正処理を行なう補正ステップと、
有し、上記補正ステップの補正処理は、上記判定された画像上の位置の上記蓄積画像信号を下げるように諧調特性を変更する。
本発明の他の一態様の画像補正方法は、画像信号を逐次蓄積する蓄積ステップと、逐次蓄積された蓄積画像信号を画像として視認可能に表示する表示ステップと、表示された画像上の位置を指示する指示ステップと、指示された画像上の位置の画素値を判定する位置判定ステップと、上記判定結果に従って蓄積画像信号についての補正処理を行なう補正ステップとを有し、上記補正ステップの補正処理は、上記判定された画像上の位置を含む領域の蓄積画像信号を減算する減算処理を行う。
本発明によれば、暗い環境下における撮影時に周囲環境光からの影響を排除して自然な描写の暗所画像等を簡単な構成によって取得し得る撮影機器,画像処理装置及び画像補正方法を提供することができる。
本発明の一実施形態の撮影機器(カメラ)の内部主要構成を概略的に示すブロック構成図 図1の撮影機器(カメラ)を用いて撮影者が所望の被写体の撮影を行なう様子を説明する概念図であって、撮影対象とする風景を含む撮影範囲の概要を示す図 図1の撮影機器(カメラ)を用いて図2の撮影対象を撮影している際のようすを示す概念図 図1の撮影機器(カメラ)を用いて撮影された撮影結果(画像)を表示部に表示したようすを示す概念図 図1の撮影機器(カメラ)を用いて撮影された撮影画像におけるRGB信号の電荷蓄積量の経時変化を表わす概念図 図1の撮影機器(カメラ)の処理シーケンスの一例(長時間露出撮影)を示すフローチャート 図1の撮影機器(カメラ)を用いて別の撮影状況下にて撮影者が所望の被写体の撮影を行なう様子を説明する概念図であって、撮影対象とする風景及び主要被写体(人物)を含む撮影範囲の概要(取得予想画像)を示す図 図1の撮影機器(カメラ)を用いて図7の撮影対象を撮影している際のようすを示す概念図 図1の撮影機器(カメラ)を用いて撮影された撮影結果(画像)を表示部に表示したようすを示す概念図 図1の撮影機器(カメラ)の処理シーケンスの別の例(スローシンクロ撮影)を示すフローチャート 本発明の別の実施形態を説明する図であって、図1の撮影機器(カメラ)を用いて撮影された撮影画像におけるRGB信号の電荷蓄積量の経時変化を表わす概念図(A)と、この状態から色空間変換を行なった場合の電荷蓄積量の概念図(B) 図11の別の実施形態において、タッチ位置の明るさに対する補正係数αの関係の例を示すグラフ 図11の別の実施形態において、蓄積電荷量と出力の関係(ガンマテーブル)の一例を示すグラフ 本発明の他の実施形態を説明する図であって、撮影機器(カメラ)を用いて撮影対象とする風景を含む撮影範囲の概要を示す図 図14の直線ab(タッチ点Tを含む垂直線V)上におけるグラデーション変化の例を示す概念図 図14の実施形態において、タッチ点Tの明るさと点Cの明るさの比(C/T)と補正量の関係の一例を示すグラフ
以下、図示の実施の形態によって本発明を説明する。以下の説明に用いる各図面においては、各構成要素を図面上で認識可能な程度の大きさとするため、各構成要素毎に縮尺を異ならせて示している場合がある。したがって、本発明は、これらの図面に記載された構成要素の数量,構成要素の形状,構成要素の大きさの比率及び各構成要素の相対的な位置関係は、図示の形態のみに限定されるものではない。
以下に説明する本発明の各実施形態は、本発明を適用する撮影機器として、例えば光学レンズにより形成される光学像を固体撮像素子を用いて光電変換し、これによって得られる画像信号を静止画像や動画像を表わすデジタルデータとして記録媒体に記録し、また記録媒体に記録されたデジタル画像データに基いて静止画像や動画像を表示装置に再生表示し得るように構成される撮像機器(以下、単にカメラという)を例示するものである。
まず、本発明の一実施形態の撮影機器であるカメラの概略的な構成について以下に説明する。図1は、本発明の一実施形態の撮影機器(カメラ)の内部主要構成を概略的に示すブロック構成図である。
本実施形態の撮影機器であるカメラ1は、図1に示すように、カメラボディ10とレンズ鏡筒20とによって構成されている。本カメラ1は、カメラボディ10に対してレンズ鏡筒20が着脱自在に構成されるいわゆるレンズ交換式カメラである。なお、本実施形態では、レンズ交換式カメラを例に挙げて説明するものであるが、本発明を適用し得るカメラとしては、この形態に限られることはなく、例えばカメラボディ10とレンズ鏡筒20とが一体に構成された形態のカメラであっても全く同様に適用することができる。
カメラボディ10は、信号処理制御部11と、ボディ側通信部12と、撮像素子13と、記録部14と、操作部15と、一時記録部16と、加速度角速度センサ17と、表示部18と、タッチパネル18bと、時計部19と、回動判定部30と、顔検出部31と、アクセサリ通信部32等を有して構成されている。
信号処理制御部11は、本カメラ1の全体の動作を統括的に制御する制御部としての機能を備え、各種構成ユニットを制御する制御信号を処理すると共に、撮像素子13によって取得した画像信号(画像データ)についての画像信号処理等を行う信号処理部としての機能を備えた回路部である。
信号処理制御部11の内部には、蓄積部11aと、画像処理部11bと、タッチ判定部11cと、表示制御部11d等の各種の回路部が具備されている。
このうち、蓄積部11aは、撮像素子13から出力される画像信号を受けて蓄積する画像処理を行なう画像信号処理回路部である。
画像処理部11bは、撮像素子13によって取得された画像データに基いて各種の画像処理を施す信号処理回路部である。
タッチ判定部11cは、タッチパネル18bからの指示入力信号を受けて、その指示内容を判定する信号処理回路である。例えば、タッチパネル18bへのタッチ操作がなされたとき、そのタッチ位置と表示部18の表示画像上の座標等を判定したり、表示部18の表示画像上に指示アイコン表示等が表示されている時、そのアイコン表示等に対応する位置(座標)を判定する等の判定処理を行なう。このようにタッチ判定部11cは、位置判定部として機能する。タッチ判定部11cによる判定結果に基いて、信号処理制御部11内における各種の制御が実行される。
表示制御部11dは、表示部18を駆動制御する制御回路部である。表示制御部11dは、撮像素子13及びレンズ26等(後述する)からなる撮像部によって生成され取得された画像データを受けて、これを表示部18の表示パネル上に画像として表示させるための制御を行う。
ここで、上記撮像部は、撮影対象とする対象物(被写体)からの光を透過させて被写体の光学像を結像させる撮影光学系であるレンズ26等(後述する)と、このレンズ26によって結像された被写体像を受けて光電変換処理を行う撮像素子13とを含んで構成されるユニットである。
撮像素子13は、例えばCCD(Charge Coupled Device;電荷結合素子)等の回路素子を用いたCCDイメージセンサー若しくはMOS(Metal Oxide Semiconductor;金属酸化膜半導体)等を用いたMOS型イメージセンサー等の固体撮像素子である光電変換素子等が適用される。撮像素子13によって生成されたアナログ画像信号は、信号処理制御部11の蓄積部11aへと出力されて蓄積され、ここから画像処理部11bへと出力されて各種の画像信号処理が行なわれる。
記録部14は、撮像素子13から出力され上記画像処理部11bにて処理済みの画像信号を受けて、これを所定の形態に変換する信号処理回路部と、この信号処理回路部によって生成された画像データを記録する記録媒体と、この記録媒体を駆動制御する制御部等を含んで構成される構成部である。ここで行われる画像信号の変換処理としては、例えば信号圧縮処理等を行って記録形態の画像データ変換する処理や、記録媒体に記録済みの画像データを読み込んで伸長処理等を施して画像信号を復元させる信号処理等である。なお、この種の圧縮伸長処理については、記録部14に含まれる信号処理回路部で行なう形態に限られることはなく、例えば信号処理制御部11内に同様の信号処理回路部を設け、それによって実行するような形態としてもよい。
一時記録部16は、撮像素子13によって取得された画像データ等を一時的に記録しておく回路部であって、例えばEEPROM(Electrically Erasable Programmable Read-Only Memory),RAM(Random Access Memory)等の半導体メモリ素子等が適用される。
操作部15は、カメラ1のカメラボディ10の外装部分に設けられる通常の押しボタン式若しくはスライド式,ダイヤル式等の形態の各種の操作部材であって、例えばシャッターリリースボタン(特に図示せず)等、各種の一般的な操作部材を含めた操作用の構成部を指すものである。なお、操作部15に含まれる操作部材として、例えばいわゆる四方向操作部材等もある。この四方向操作部材は、例えば表示部18上に表示されるメニュー画面の項目選択を行なったり、表示画像上の位置を指示するような場合にも用いられる。四方向操作部材は、後述のタッチパネル18bに代わる操作部材として機能する。四方向操作部材からの指示信号は信号処理制御部11へと出力され、この信号処理制御部11内の制御回路によって位置判定などが行われる。したがって、この場合には、信号処理制御部11は、例えば表示部18に表示された画像上の位置を判定する位置判定部として機能する。
また、本実施形態のカメラ1においては、上記操作部15とは別の操作用の操作部材として、タッチパネル18bを有している。このタッチパネル18bは、表示部18の表示面上に配置されており、撮影者が表示パネル上に表示中の画像に対応する所定領域に対してタッチ操作やスライド操作等を行うことによって、各種の操作指示信号が発生するように構成された操作部材である。このタッチパネル18bからの指示入力信号は、信号処理制御部11のタッチ判定部11cに送られて、その操作入力が判定される。
表示部18は、撮像素子13から出力された画像データ等若しくは記録部14により伸長処理された画像データ等に基いて、上記表示制御部11dの制御下において画像表示を行う構成部である。表示部18としては、例えば液晶ディスプレイ(LCD;Liquid Crystal Display),プラズマディスプレイ(PDP;Plasma Display),有機エレクトロルミネッセンスディスプレイ(OEL;Organic Electro-Luminescence Display)等の表示パネルが適用される。この表示部18は、撮影記録済みの画像データに基く画像を再生表示する機能を備えると共に、撮像素子13から出力された画像データを画像処理部11bを介して順次連続的に受けて画像を表示し続けることで、撮影動作時の撮影範囲を観察,確認を行なうファインダとしても機能する。なお、表示部18としては、機器背面に設けた表示パネルのほかに、電子ビューファインダ(EVF;Electric View Finder)として利用する小型パネルを設けてもよい。
なお、通常のカメラの場合、ファインダを用いて観察し得る範囲をファインダ視野というが、上述したように、本実施形態のカメラ1においては、ファインダとして撮像素子13から出力された画像データに基く画像を表示させる表示装置を用いている。このことから、本実施形態のカメラ1によるファインダである表示部18で観察し得る観察像は、画像データに基く表示画像であ。したがって、以下の説明においては、ファインダとしての表示部18に表示される画像をファインダ画像というものとする。
時計部19は、いわゆるリアルタイムクロック(Real-Time Clock;RTC)と言われるコンピュータの内部時計である。時計部19は、例えばデータファイル等の日時情報の付与を行ったり、制御処理中における計時や時間制御等の際に利用される。
加速度角速度センサ17は、カメラ1の水平垂直を基準とした姿勢、即ち撮影光学系の光軸の垂直方向に対する傾き状態(例えば仰角)を検出したり、カメラ1の構え方、即ち縦位置,横位置等の構え方についての姿勢状態、換言すれば画像の上下方向を判定したり(加速度センサ)、光軸に直交する軸周りのカメラ1の回転量を測定する角速度センサ等を含む検出信号処理回路部である。加速度角速度センサ17としては、例えば角速度センサとしてのジャイロセンサ等が適用される。
回動判定部30は、上記加速度角速度センサ17等によって検出されるカメラ1の姿勢変化情報に基いて、カメラ1が光軸周りに回動されたか否か、回動された場合にその回動方向等を判定する判定回路部である。この回動判定部30による判定結果を受けて、画像処理部11bにおいて、表示部18の表示パネル上に表示中の画像の上下左右関係を適正に表示させるための表示画像回転処理が行なわれる。
顔検出部31は、撮像素子13によって取得され画像処理部11bにて画像処理がなされて出力される画像データに基いて表される画像中において、人間の顔若しくは特定種類の動植物等(例えば犬,猫,鳥,花等)の被写体に対応する画像が存在するかどうかを検出するための被写体検出部としての画像信号処理回路部である。顔検出部31としては、顔画像を検出するだけでなく、これに加えて、例えば色検出やパターン検出等を行なうものも含めてよい。そして、信号処理制御部11は、顔検出部31によって検出された被写体に対しては、自動的に画像内での動体追尾を行なって、常に追尾被写体にピントを合わせ続けるといった制御を行う。
アクセサリ通信部32は、カメラボディ10に装着されたアクセサリ40との間で通信を行なう回路部である。信号処理制御部11は、アクセサリ通信部32を介してアクセサリ40の制御を行なう。ここで、アクセサリ40は、カメラボディ10の外表面(例えば上面等)に配設されたアクセサリ取付部(いわゆるアクセサリシュー,ホットシュー等と呼ばれる部位;不図示)に対して択一的に装着されて、カメラ1と連動して使用される各種機器である。
そのために、上記アクセサリ取付部には、アクセサリ通信部32に電気的に接続される接続端子(不図示)が設けられている。これに対応して、アクセサリ40側には内部電気回路と電気的に接続される接続端子が設けられている。この構成により、上記アクセサリ取付部にアクセサリ40を装着すると、装着されたアクセサリ40は、カメラ1のアクセサリ通信部32との間で電気的に接続されるように構成されている。そして、カメラボディ10側の信号処理制御部11は、アクセサリ通信部32を介して装着されたアクセサリ40の情報記録部40aから固有情報等を読み込み、適宜対応する駆動制御処理を実行する。
なお、アクセサリ40の具体例としては、例えば閃光発光装置,光源装置,電子ビューファインダー(EVF),マイクロフォン接続機器,外部通信機器等がある。アクセサリ40の内部には、図1に示すように、当該アクセサリ40の固有情報等を記録した情報記録部40aを有している。このほか図1においては図示していないが、アクセサリ40の内部には、書く機器に対応する固有の構成ユニットや制御回路等が設けられている。なお、アクセサリ40としての個々の機器の詳細については、本発明に直接関わる部分ではないので、それらの詳細説明は省略する。
ボディ側通信部12は、後述するレンズ側通信部22との間で電気的に接続することによって、カメラボディ10とレンズ鏡筒20との間で制御信号,情報信号等をやり取りするカメラボディ10側の通信用信号処理回路部である。
次に、レンズ鏡筒20は、レンズ制御部21と、レンズ側通信部22と、レンズ側操作部23と、ズーム駆動部24aと、フォーカス駆動部24bと、ズームレンズ位置検出部25aと、フォーカスレンズ位置検出部25bと、撮影光学系であるレンズ26と、レンズ側記録部27等によって主に構成されている。
レンズ制御部21は、上記カメラボディ10側の信号処理制御部11の制御下においてレンズ鏡筒20側の各構成ユニットの動作を制御する制御部である。
操作部23は、レンズ側の切り換え操作、例えば通常撮影モードと近接撮影モードとの切り換えや、自動焦点調節動作(オートフォーカス(AF)動作)と手動焦点調節動作(マニュアルフォーカス(MF)動作)等の操作や、焦点調節操作を行なうピントリング,ズーム操作を行なうズームリング等、若しくは電動用ズームスイッチ等の複数の操作部材等を含む総体をいう。
ズーム駆動部24aは、上記レンズ26のうちズーム動作に関与するズーム光学系の駆動を行うための駆動モータ及びその駆動力を伝達する駆動機構等を含む駆動ユニットである。また、フォーカス駆動部24bは、上記レンズ26のうちフォーカス動作に関与するフォーカス光学系の駆動を行うための駆動モータ及びその駆動力を伝達する駆動機構等を含む駆動ユニットである。
ズームレンズ位置検出部25aは、ズーム光学系の光軸上の位置を検出する位置検出回路である。また、フォーカスレンズ位置検出部25bは、フォーカス光学系の光軸上の位置を検出する位置検出回路である。
レンズ側記録部27は、本レンズ鏡筒20に関する各種の情報等を予め記録させた記録媒体を含む記録用回路部である。この記録部27に記録されている各種情報は、レンズ制御部21から各通信部22,12を介してカメラボディ10側へと伝達されて、適宜必要に応じて利用されるものである。このレンズ側記録部27としては、例えばEEPROM,ROM(Read Only Memory),フラッシュメモリ等の不揮発性半導体メモリ素子等が適用される。
レンズ26の内部には、複数の光学レンズ等によって構成され被写体の光学像を結像させる撮影光学系や、この撮影光学系の個々の光学レンズをそれぞれ保持する複数の鏡筒部材や、これら複数の鏡筒部材をそれぞれ個別に光軸方向に進退させる駆動用鏡筒等のほか、撮影光学系のうちの一部であるズーム光学系を制御するズーム制御部26aと、撮影光学系のうちの一部であるフォーカス光学系を制御するピント制御部26bと、撮影光学系を透過する光束の光量を調整する絞り機構と、この絞り機構を駆動制御する絞り制御部26c等が具備されている。上述したように、上記レンズ26とカメラボディ10の撮像素子13とによって撮像部が構成される。なお、レンズ鏡筒20の具体的な構成については、従来のカメラに適用される一般的な構成のズームレンズ鏡筒と略同様の構成からなるものとして、詳細説明及び図示は省略する。ここで、レンズ鏡筒20の例示として、ズームレンズ光学系を備えたレンズ鏡筒を例に挙げているが、この形態に限られることはなく、通常の形態の単焦点レンズ光学系を備えたレンズ鏡筒であってもよい。
レンズ側通信部22は、上記ボディ側通信部12との間で電気的に接続することによって、レンズ鏡筒20とカメラボディ10との間で制御信号,情報信号等をやり取りするレンズ鏡筒20側の通信用信号処理回路部である。
なお、カメラボディ10,レンズ鏡筒20は、上述した構成部以外にもその他の各種構成ユニット等を有して構成されているものであるが、それらの各種構成ユニット等は、本発明に直接関連しない構成であるので、従来の一般的なカメラと同様の構成を具備するものとして、その詳細説明及び図示を省略している。
例えば、撮影光学系の光路を開閉し、撮影動作の際に撮影光学系を透過する光束の光量を調整するためのシャッター機構については図示及び説明を省略しているが、本実施形態のカメラ1においても、従来のカメラと同様の通常のシャッター機構を有している。このシャッター機構は、カメラボディ10側に配設するフォーカルプレーンシャッターでもよいし、レンズ鏡筒20側に配設するレンズシャッターでもよい。シャッター機構がカメラボディ10側に配設されている場合には、シャッター機構は主にボディー側の制御部によって制御される。また、シャッター機構がレンズ鏡筒20側に配設されている場合には、シャッター機構は主にボディー側の制御部の制御下においてレンズ制御部21を介して制御される。
このように構成された本実施形態のカメラ1を用いて撮影を行なう際の作用の概略を以下に説明する。図2〜図4は、本実施形態のカメラ1を用いて撮影者が所望の被写体の撮影を行なう様子を説明する概念図である。このうち図2は撮影対象とする風景を含む撮影範囲の概要を示す図である。図3は、本実施形態のカメラ1を用いて図2の撮影対象を撮影している際のようすを示す概念図である。図4は、本実施形態のカメラ1を用いて撮影された撮影結果(画像)を表示部に表示したようすを示す概念図である。
図2に示すような撮影対象200、例えば周囲の環境が比較的暗いシーン、具体的な例として人工光等を含む街中夜景等を撮影の対象とするような場合、通常は、カメラを三脚等を用いて固定した状態とし、その状態でカメラのシャッター機構を所定の時間だけ開放状態とする長時間露出撮影(いわゆるバルブ撮影若しくはタイム撮影)が行われる。このような長時間露出撮影が行なわれた場合、撮像素子は露出時間に応じて電荷を蓄積する。これによって、暗いシーンにおいても蓄積した電荷量に応じた画像を形成することができるので、例えば、極めて低輝度の被写体である夜空に輝く星像等であっても、長時間露出を行うことによって画像として定着させることができるのは周知である。
ところが、暗いシーンであっても、多くの人工光を含む街中夜景等のような撮影環境下においては、例えば人工光が空中に浮遊している塵埃や雲等に反射し散乱すること等に起因して、次のような問題が生じることがある。例えば本来暗黒となるべき夜空等の領域を含めて画面全体が色カブリしてしまったり、撮影画像全体が撮影者の意図に反して明るくなってしまったり、淡い光を放つ星像等が人工光に消されてしまい表示されなかったり、忠実な色再現ができない等、人工光が画像全体に悪影響を及ぼす可能性がある。例えば、図2は、実際に人間の眼に見える状況を概略的に図示するものであるが、この場合、人間の眼には空領域には星像等が見えていることを図示している。ところが、この状況下で長時間露出撮影を行なうと、図3の表示部18の表示として図示するように、空領域は有害光成分の蓄積によって実際よりも明るく写ってしまい、表示画像上から星像等が消されてしまう状態になる。本発明は、撮影画像に悪影響を及ぼす人工光等の有害光成分を排除して、人間の見え方に近い画像を取得する画像補正処理を行なうというものである。
そのために、本実施形態のカメラ1を用いて図2に示すような撮影対象について、長時間露出にて撮影を行なうものとする。なお、カメラ1は、シャッター機構が開放状態にあっても撮像素子13によって取得されつつある画像データの蓄積状況、即ち撮影画像の状況を予め設定した一定の間隔で表示部18を用いて確認できる機能、即ちライブバルブ機能若しくはライブタイム機能を有している。この機能は、露出の途中経過を表示部18の表示で確認できるので、撮影終了のタイミングを決めるのに役立つというものである。
まず、撮影者は、カメラ1を用いて所望の撮影対象(図2参照)についての長時間露出撮影を行なう。このときライブバルブ機能若しくはライブタイム機能を用いて撮影を開始する。すると表示部18には撮影画像状況が一定間隔で表示される。撮影者は、表示部18に表示される撮影画像状況を見ながら所望のタイミングで露出動作を終了させる。露出動作の終了操作は、例えば表示部18の表示画面上に配設したタッチパネル18bへのタッチ操作でもよいし、シャッターリリースボタンの押圧操作等でもよい。
図3に示す例では、撮影画像状況の表示画面のうち任意の位置を撮影者がタッチ操作することで露出動作の終了操作とする。同時に、このときのタッチ位置を、撮影者が手等100を用いて「黒」領域としたい位置として指定する指定位置とする。
ここで、図5は、撮影画像におけるRGB信号の電荷蓄積量の経時変化を表わす概念図である。図5に示す(a)は、撮影者による「黒」領域指定操作にて指定された指定点の電荷蓄積量の経時変化を示し、同図5に示す(b)は、「黒」領域指定画素以外の領域における電荷蓄積量の経時変化を示している。
上述したように撮影者が図3に示すように「黒」領域指定操作を行なうと、カメラ1の信号処理制御部11は、指定点のRGB信号の蓄積結果(図5の(4−a))を用いてその他の領域の蓄積結果(図5の(4−b))を減算処理(補正処理)を実行する。これにより、周囲の有害光による悪影響を排除した信号(b′)が残される。この演算結果によって取得される画像は、図4に示すように、カメラ1の表示部18に表示される。ここで、撮影者は、表示部18の表示結果を受け入れる場合には、例えばOKボタン(不図示)等の操作部材を用いて操作を行なうと、カメラ1の信号処理制御部11は、表示中の画像に基く画像データの記録動作を実行する。
なお、上述の例では、露出終了操作と「黒」領域指定操作を、一度のタッチ操作としているが、このような操作例に限ることはない。例えば、シャッターリリースボタンの押圧操作等によって露出を終了させると、通常、その直後に表示部18には、直前の露出動作によって取得された画像データに基く画像が所定の時間の間、表示部18に表示される(プレビュー画像という)。撮影者は、このプレビュー画像の表示中に「黒」領域指定操作を行なうようにしてもよい。
また、上記の説明においては、カメラ1はライブバルブ機能若しくはライブタイム機能を有するものとしているが、これらの機能は必ずしも必須の構成要件ではない。カメラ1がライブバルブ機能若しくはライブタイム機能を有していなくても、長時間露出撮影を行なうことができ、その場合の適正露出時間は、経験により若しくは複数回の試行によって容易に設定できる。そして、撮影者は、露出動作終了操作後のプレビュー画像に表示中に「黒」領域指定操作をタッチ操作で行なってもよい。このような操作でも、上述の作用と全く同じ結果を得ることができる。
次に、上述したような本実施形態のカメラ1による作用を、図6のフローチャートを用いて以下に説明する。図6は、本実施形態のカメラの処理シーケンスの一例(長時間露出撮影)を示すフローチャートである。
まず、本実施形態のカメラ1が電源オン状態とされて動作可能な起動状態にあるものとする。この状態にあるとき、ステップS101において、信号処理制御部11は、現在設定されている動作モードが撮影モードにあるか否かの確認を行なう。ここで、撮影モードに設定されていることが確認された場合には、次のステップS102の処理に進む。また、撮影モード以外に設定されていることが確認された場合には、ステップS141の処理に進む。
ステップS102において、信号処理制御部11は、アクセサリ通信部32を制御してアクセサリ通信処理を実行する。このアクセサリ通信処理は、カメラ1にアクセサリ40が装着されているか否かの確認処理や、アクセサリ40が装着されている場合には、装着されているアクセサリ40の種類等の確認処理(固有情報の取得処理等)と、その制御の開始処理等である。その具体的な処理については、本発明に直接関連しない部分であるので、その詳細説明は省略する。
続いて、ステップS103において、信号処理制御部11は、ボディ側通信部12を制御して、カメラボディ10にレンズ鏡筒20が装着されているか否かの確認やレンズ交換操作が行なわれたか否かの確認を行なう。ここで、カメラボディ10にレンズ鏡筒20が装着されていて、レンズ交換操作が行なわれていないことが確認されると、次のステップS105の処理に進む。また、レンズ交換操作が行なわれたことが確認されると、ステップS104の処理に進む。
なお、上記ステップS103の処理にて、カメラボディ10にレンズ鏡筒20が装着されていないことが確認された場合には、信号処理制御部11は、表示部18を制御して、その旨の警告表示を表示させる等を行なって、撮影者にレンズ鏡筒20の装着を促す。そして、レンズ装着の確認を待って、次のステップS104のレンズ通信処理を実行する。
ステップS104において、信号処理制御部11は、ボディ側通信部12,レンズ側通信部22を介してレンズ鏡筒20のレンズ制御部21との間でレンズ通信処理を行なう。このレンズ通信処理においては、装着されているレンズ鏡筒20の種類等の情報の取得等が行われる。その後、ステップS105の処理に進む。
ステップS105において、信号処理制御部11は、撮像素子13及びレンズ26等からなる撮像部,表示部18等を制御して画像データの取得処理及びライブビュー画像表示処理を実行する。これと同時に、信号処理制御部11は、蓄積部11aの初期化処理を実行する。その後、ステップS106の処理に進む。
ステップS106において、信号処理制御部11は、両通信部12,22を介してレンズ制御部21からの信号を監視してレンズ側操作部23が操作されることにより生じる操作指示信号が発生したか否か、即ちレンズ鏡筒20の操作、例えばズーム操作,ピント調整操作等が行なわれたか否かを確認する。ここで、何らかのレンズ操作が確認された場合には、ステップS107の処理に進む。また、レンズ操作が確認されない場合には、ステップS108の処理に進む。
ステップS107において、信号処理制御部11は、確認されたレンズ操作結果を反映させる所定の処理、例えばズーム動作,ピント調整動作等を実行する。その後、ステップS108の処理に進む。
ステップS108において、信号処理制御部11は、カメラボディ10側の操作部15からの指示信号を監視してカメラボディ10の操作、例えばメニュー操作,モード切換操作等が行なわれたか否かの確認を行なう。ここで、何らかのボディ操作が確認された場合には、ステップS109の処理に進む。また、ボディ操作が確認されない場合には、ステップS110の処理に進む。
ステップS109において、信号処理制御部11は、確認されたボディ操作結果を反映させる所定の処理、例えばメニュー表示とそれに係わる各種設定変更動作,モード切換動作等を実行する。その後、ステップS110の処理に進む。
ステップS110において、信号処理制御部11は、操作部15,タッチパネル18b等からの指示信号を監視して撮影動作を開始させるための指示信号の発生が確認されたか否かの確認を行なう。撮影動作を開始させる指示信号は、例えば操作部15に含まれるシャッターリリースボタンからの指示信号若しくはタッチパネル18bからの指示信号等である。ここで、撮影開始指示が確認された場合には、ステップテS111の処理に進む。また、撮影開始指示が確認されない場合には、上述のステップテS101の処理に戻る。
ステップS111において、信号処理制御部11は、撮像素子13からの出力を受けて蓄積部11aによる電荷蓄積処理を開始する。
続いて、ステップS113において、信号処理制御部11は、時計部19を監視して、撮影開始時点から所定の時間が経過したか否かの確認を行なう。ここで、所定時間の経過が確認された場合には、ステップS114の処理に進む。また、所定時間の経過が確認されない場合には、ステップS121の処理に進む。
ステップS114において、信号処理制御部11は、蓄積部11a,画像処理部11b,表示制御部11d等を制御して蓄積された画像データに基いて表示用画像信号を生成し表示部18を用いて経過画像を表示させる。その後、ステップS121の処理に進む。この処理を繰り返すことにより、本カメラ1において、バルブ撮影中若しくはタイム撮影中には一定の時間毎に撮影状況が表示部18で確認できる。
ステップS121において、信号処理制御部11は、タッチパネル18bからの指示信号を監視してタッチ操作がなされたか否かの確認、及びなされた場合はタッチ判定部11cによるタッチ位置判定を行なう。ここで、タッチ操作が確認されない場合には、上述のステップS113の処理に戻り、以降の処理を繰り返す。また、タッチ操作が確認された場合には、タッチ位置判定がなされ後、次のステップS122の処理に進む。
ステップS122において、信号処理制御部11は、蓄積部11a,画像処理部11b,表示制御部11d等を制御して、上述のステップS121の処理にて確認及び判定されたタッチ位置に対応する電荷蓄積結果を全体画像の電荷蓄積結果から減算する補正演算処理を行なうと共に、その処理結果に基く画像を表示部18に表示させる処理を実行する。ここで、上記画像補正処理は、補正部として機能する画像処理部11bによって実行される。さらに、表示部18の所定領域に「OK」アイコン等の表示を行なう。この「OK」アイコン等は、例えば記録部14若しくは一時記録部16等に予め記録されているアイコンデータ等が利用される。撮影者は、この「OK」アイコン表示に対応する部位をタッチ操作することにより、表示部18に現在表示中の画像(上記減算処理結果を反映した画像)についての可否をカメラ1に伝える。ここで、画像の可否とは、記録するか否かの確認である。なお、「OK」アイコン表示のタッチ操作に変えて、カメラボディ10の操作部15に含まれる「OK」ボタン等の操作部材(不図示)の操作によるものとしてもよい。
ステップS123において、信号処理制御部11は、タッチパネル18b若しくは操作部15等からの指示信号を監視して「OK」アイコン表示に対応する指示信号の確認を行なう。ここで、「OK」指示が確認された場合には、次のステップS126の処理に進む。また、「OK」指示が確認されない場合には、ステップS124の処理に進む。
ステップS124において、信号処理制御部11は、蓄積部11a,画像処理部11b,表示制御部11d等を制御して、上述のステップS122の処理における減算処理以前の蓄積結果を表示する処理を実行する。その後、ステップS125の処理に進む。
ステップS125において、信号処理制御部11は、蓄積部11aによる電荷蓄積動作の継続、即ちバルブ撮影若しくはタイム撮影の継続を行なうか否かの確認を行なう。ここで、電荷蓄積動作(撮影)を継続する場合には、上述のステップS111の処理に戻り、以降の処理を繰り返す。また、電荷蓄積動作(撮影)を継続しない場合には、上述のステップS121の処理に戻り、以降の処理を繰り返す。
一方、上述のステップS123の処理にて「OK」指示が確認されて、ステップS126の処理に進むと、このステップS126において、信号処理制御部11は、現在表示部18に表示中の画像、即ち減算処理済みの画像に相当する画像データ(一時記録部16に一時記録されている)についての圧縮記録処理を実行する。その後、ステップS101の処理に戻る。
他方、上述のステップS101の処理にて、カメラ1に設定されている動作モードが撮影モード以外であることが確認されて、ステップS141の処理に進むと、このステップS141において、信号処理制御部11は、現在設定されている動作モードが再生モードであるか否かの確認を行なう。ここで、再生モードに設定されていることが確認された場合には、所定の再生処理シーケンスへ移行するものとし、ステップS142の処理に進む。
ステップS142において、信号処理制御部11は、記録部14を制御して記録媒体に記録済みの画像データのうち最新画像データを読み出して、所定の信号処理を施した後、表示部18を制御して画像再生処理を実行する。
続いて、ステップS143において、信号処理制御部11は、操作部15若しくはタッチパネル18bからの指示信号を監視して、表示画像の変更指示が発生したか否かの確認を行なう。ここで、表示画像変更指示の発生を確認した場合には、次のステップS144の処理に進む。また、表示画像変更指示が確認されない場合には、上述のステップS101の処理に戻り、以降の処理を繰り返す。なお、本実施形態のカメラ1における上記の再生処理シーケンスは、従来一般的な形態のカメラと同様であるものとする。
一方、上述のステップS141の処理にて再生モード以外に設定されていることが確認された場合には、他の動作モード、例えば画像通信モードの処理シーケンスへ移行する。なお、上記画像通信モードを含む他の動作モードについては、本発明に直接関係しないので、その詳細説明は省略する。その後、ステップS101の処理に戻り、以降の処理を繰り返す。
なお、本実施形態のカメラ1の信号処理制御部11は、常に操作部15若しくはタッチパネル18b等からの指示信号を監視している。そして、上記処理シーケンス中のいずれの時点においても、操作部15若しくはタッチパネル18b等からの指示信号が確認された場合には、確認した指示信号に対応する処理を割り込ませるように構成している。したがって、カメラ1の動作状況に関らず、所定の割り込み信号(例えば電源オフ信号,リセット信号,動作切換信号等)が確認された場合には、実行中の処理を中断させ、若しくは実行中の処理の終了を待って、割り込み指示に応じた処理(例えば電源オフ処理,リセット処理,動作切換処理等)を実行する。
次に、上記の例とは異なる撮影状況(図2)を想定した場合において、本実施形態のカメラ1を用いて撮影を行なう際の作用を以下に説明する。次に説明する撮影状況は、上述の撮影状況例では、周囲の環境が比較的暗いシーンであって、人工光等を含む街中夜景等を撮影対象とする状況を説明している。以下に説明する撮影状況例では、上記の撮影状況例と同様の状況下において、さらにカメラ1から比較的近距離(例えばカメラ1の位置から約5m以内等)に主要被写体としての人物等を配した状況を想定する。
図7〜図9は、本実施形態のカメラ1を用いて別の撮影状況下にて撮影者が所望の被写体の撮影を行なう様子を説明する概念図である。このうち図7は撮影対象とする風景及び主要被写体(人物)を含む撮影範囲の概要(取得予想画像)を示す図である。図8は、本実施形態のカメラ1を用いて図7の撮影対象を撮影している際のようすを示す概念図である。図9は、本実施形態のカメラ1を用いて撮影された撮影結果(画像)を表示部に表示したようすを示す概念図である。
図7に示す撮影状況においては、上記の例で示す図2の状況下の撮影対象200に、主要被写体としての人物を加えた撮影対象201としている。このような状況下での撮影は、長時間露出撮影に加えて、撮影開始直後若しくは長時間露出の中途又は終了直前等、所定のタイミングで閃光発光装置(アクセサリ40)を発光させる制御が行なわれる(いわゆるスローシンクロ撮影)。これによって近距離にある主要被写体(人物)を閃光発光装置を用いて明るく明瞭に写し込むことができると同時に、背景の風景(暗いシーン)は長時間露出撮影によって明るく写し込むことができる。この場合において、閃光発光装置の発光後は主要被写体(人物)は移動しても構わない。このような撮影状況においても、本実施形態のカメラ1によれば、空領域等の有害光成分を排除した画像補正処理を行なって自然な夜景画像を取得することができる。
つまり、上述の例(図3)と同様に、撮影者が手等100を用いて図8に示すようにタッチ操作により「黒」領域指定操作を行なうと、カメラ1の信号処理制御部11は、指定点のRGB信号の蓄積結果を用いてその他の領域の蓄積結果を減算処理を実行し、これによって、周囲の有害光による悪影響を排除することができる。この演算結果によって取得される画像は、図9に示すように、カメラ1の表示部18に表示される。
この場合のカメラ1の作用を図10のフローチャートを用いて以下に説明する。図10は、本実施形態のカメラの処理シーケンスの別の例(スローシンクロ撮影)を示すフローチャートである。なお、図10のフローチャートは、上記図6のフローチャートと略同様の処理シーケンスであり、一部の処理ステップが異なるのみである。したがって、以下の説明においては、異なる処理ステップのみを詳述し、同じ処理ステップには同じステップ番号を附して、その説明を書略する。
まず、本実施形態のカメラ1が電源オン状態とされて動作可能な起動状態にあるものとする。この状態にあるとき、ステップS101において、信号処理制御部11は、現在設定されている動作モードが撮影モードにあるか否かの確認を行なう。以下、ステップS101〜S110の各処理は、上記図6のフローチャートと全く同様である。
ステップS110において撮影動作が開始すると、次のステップS111Aにおいて、信号処理制御部11は、撮像素子13から出力を受けて蓄積部11aによる電荷蓄積処理を開始する。これと同時に、信号処理制御部11は、カメラボディ10の装着されているアクセサリ40としての閃光発光装置の制御をアクセサリ通信部32を介して行なって、主要被写体までの距離に応じた閃光発光動作を実行する。閃光発光動作自体の制御は、従来一般のカメラにおいて行われる通常の発光制御である。
続いて、ステップS112において、信号処理制御部11は、蓄積部11aによる電荷蓄積処理を継続する。この場合における電荷蓄積処理は、発光変化点以外の領域について主に行われる。ここで発光変化点とは、上述のステップS111Aにおいて実行した閃光発光の結果、画像領域内において明確に変化が生じた点(画像領域)である。即ち、上記の閃光発光を行うことによって近距離にある主要被写体(本例では人物等)が明るく写し込まれることになる。その領域を発光変化点とする。その発光変化点の判定は次のように行なう。即ち、閃光発光を行なった際の所定の時間の電荷蓄積量と、閃光発光を行なわなかった際の所定の時間の電荷蓄積量とを比較し、前者の方が大であった場合に、発光変化点として判定する。その後、ステップS113の処理に進む。以下、ステップS113,S114,S121の各処理は上記図6のフローチャートと全く同様である。
ステップS121の処理にてタッチ操作が確認されタッチ位置の判定がなされて、次のステップS122Aの処理に進むと、このステップS122Aにおいて、信号処理制御部11は、蓄積部11a,画像処理部11b,表示制御部11d等を制御して、上述のステップS121の処理にて確認及び判定されたタッチ位置に対応する電荷蓄積結果を全体画像の発光変化点以外の領域の電荷蓄積結果から減算処理を行なうと共に、その処理結果に基く画像を表示部18に表示させる処理を実行する。さらに、表示部18の所定領域に「OK」アイコン等の表示を行なう。その後、ステップS123の処理に進む。以下、ステップS123〜S126の各処理上記図6のフローチャートと全く同様である。
なお、上述のステップS101の処理にてカメラ1に設定されている動作モードが撮影モード以外であることが確認されて、ステップS141の処理に進んだ場合におけるステップS141〜S145の各処理は上述の図6のフローチャートと全く同様である。
以上説明したように上記一実施形態によれば、長時間露出による撮影時には、撮像素子13は露出時間に応じて電荷を蓄積する。その場合、RGB信号のそれぞれを独立して蓄積処理を行なうようにしている。そして、撮影者が、撮影画像状況を観察しながら表示画面内の任意の位置をタッチ操作することによって「黒」領域としたい位置を指定すると、これを受けてカメラ1は、上記「黒」領域指定位置を含む領域についての有害光による悪影響を排除して、星空写真や暗所での写真撮影を、簡単な構成で容易に行なうことができる。
なお、上記一実施形態では、黒領域の画像の見えを引き締めるためにR,G,B値から減算する処理を行なうようにしているが、この手段に限られることはない。例えば、別の実施形態として、タッチした点を黒くするために、そのタッチ点の輝度値のみを変更するようにしてもよい。この場合には、タッチ点の画像領域の色空間、例えばR,G,B信号をY(輝度信号),Cb及びCr(色差信号)に変換し、そのうちのY(輝度信号)のみについて電荷蓄積結果の減算処理を行なう。その後、再度、色空間変換を行なって、R,G,Bに戻す。
上述の一実施形態と同様に、例えば、カメラ1を用いて所望の撮影対象(図2参照)についての長時間露出撮影を行なう。これにより、撮像素子13は、電荷量の蓄積を開始する。この長時間露出撮影の実行中に、撮影者が表示部18の表示画面中の任意の領域をタッチ操作する。このときのタッチ位置は、撮影者が「黒」領域として指定する位置である。図11(A)は、上述の一実施形態における図5と同様に、撮影画像におけるRGB信号の電荷蓄積量の経時変化を表わす概念図を示している。ここで、図11に示す(a)は、撮影者による「黒」領域指定操作にて指定された指定点の電荷蓄積量の経時変化を示し、同図11に示す(b)は、「黒」領域指定画素以外の領域における電荷蓄積量の経時変化を示している(図5と同様)。図11(B)は、図11(A)の状態から色空間変換を行なった場合の電荷蓄積量の概念を示す図である。
上述の一実施形態においては、カメラ1の信号処理制御部11は、「黒」領域指定操作を行なった時点の指定点のRGB信号の蓄積結果(図5の(4−a))を用いて、同時点のその他の領域の蓄積結果(図5の(4−b))を減算処理(補正処理)を実行するようにした。これにより、周囲の有害光による悪影響を排除した信号(b′)を得ることで有害光を排除した画像を取得する処理を行なっている。
これに対し、本実施形態では、カメラ1の信号処理制御部11は、「黒」領域指定操作を行なった時点の指定点のRGB信号の蓄積結果(図11の(4−a))と、同時点のその他の領域の蓄積結果(図11の(4−b))とのR,G,B信号から、Y,Cb,Cr信号へと変換する(図11の(5−b)参照)する。このY,Cb,Cr信号に基いて「黒」領域指定点の蓄積結果と、その他の領域の蓄積結果との差分信号(図11の5(b)における斜線領域)を算出する(図11の6参照)。ここで行なう減算処理は、例えばY(輝度信号)のみについて行なう。その後、再度、色空間変換を行なってR,G,B信号戻す(図11の7参照)。
このような実施形態によっても、上記一実施形態と同様の結果を得ることが可能である。また、この手段の場合には、輝度信号Yのみを減算処理するので、色信号への影響が無く、よって画像内の色バランスを崩すことなく明るさのみを暗くする補正処理を行なうことが可能である。
また、撮影者がタッチ操作により指定した点に対して、どの程度の明るさ補正処理を行なうかについては、以下のような点を考慮すればよい。例えば、タッチ点の明るさに応じた係数αを求める。この係数αは、例えば図12に示すように、明るいほど大きい値となるように設定する。ここで、図12は、タッチ位置の明るさに対する補正係数αの関係の例を示すグラフである。
そして、補正係数αが大きい程、暗部をより抑えるようにしたガンマテーブル(階調補正表)等を用意し、これを用いて明るさ(輝度)補正処理を行なうようにすればよい。例えば、図13は、蓄積電荷量と出力の関係(ガンマテーブル)の一例を示すグラフである。ここで、図13において実線で示す直線は、補正前の蓄積電荷量を示している。この直線に対して補正係数αを用いて補正処理を行なうと、暗部寄りの領域ほど出力を抑えた補正(テーブル変換)が行われる。この場合には、RGB信号についての補正処理でもよいし、Y,Cb,Cr信号に変換した後、Y信号のみについての補正処理としてもよい。
このような補正処理を行なうことによって、画像全体から一律に輝度の減算処理等を行なう場合と比べて、色バランスが崩れてしまうこともなく、有害光等の影響で不自然に明るくなりかけた領域の明るさを抑えることができ、より自然な印象の画像とすることができる。
一方、撮影者がタッチ操作により指定した点に対して、どの程度の領域の範囲で輝度の補正処理を行なうかについては、以下のような点を考慮すればよい。
例えば、タッチ指定点(輝度補正を行ないたい領域。具体的には空等の領域)と、それ以外の領域(星,建物等の領域)とを判別し、前者(空等の領域)に対してのみ輝度補正処理を行なうのが望ましい。
そのためには、タッチ指定点を含む領域と比較して輝度差が小さい領域、即ち滑らかに輝度変化している領域(グラデーションのある領域)を空等の領域として判定する一方、輝度差が大きい領域、即ち急激な輝度変化がある領域(例えばネオン等の人工光部分や、空等のグラデーション領域中の星等の明るい部分)をそれ以外の領域として判定する。このようにして画像内において空領域であるか、それ以外の領域であるかの判定を行ない、そのうちタッチ指定点を含む空等の領域について、輝度補正処理を施すようにすればよい。
他方、電荷蓄積結果についての画像補正処理の他の実施形態として、次のような例も考えられる。通常の場合、街中夜景等のシーンでは、例えば図14(図3と同様、撮影対象の概念図)に示すように、画像(矩形状)の範囲内において、タッチ指定点Tを通り、水平線から垂直方向に沿う垂直線V、即ち図14においてタッチ点Tを通り点aと点bを結ぶ画面内垂直線ab上においては、グラデーションが徐々に変化するような状況が見られることが多い(直線ab上に人工光等が存在しない場合)。そこで、画面内における高さ方向の位置、つまり垂直線ab上における位置に応じて明るさ補正を行なうようにしてもよい。
ここで、画面の垂直方向(高さ方向)は、カメラ1の内部に設けられる周知の電子水準器、例えば加速度角速度センサ17等の出力に基いてカメラ1の姿勢を検出し得る機能を用いて、図14の直線abを規定することで規定することができる。また、画面内におけるタッチ指定点(図14の符号T)の座標は、タッチパネル18bによって判定することが可能である。
そこで、画面の垂直方向の位置(直線ab上の位置)におけるグラデーション変化の補正係数を設定し、その補正係数を用いてタッチ指定点Tにおける補正処理を行なうようにする。この場合において、上記補正係数は次のようにして求めることができる。
図15は、図14の直線ab(タッチ点Tを含む垂直線V)上におけるグラデーション変化の例を示す概念図である。図15において、縦軸を明るさとし、横軸を直線abとしている。ここで、直線ab上においては、点aから点bへ移動するにつれて徐々にグラデーションが変化するように、徐々に明るさが暗くなるように変化するものとする。
この場合において、例えば、直線ab上におけるタッチ点Tの明るさは、図15に示す符号Tbrで表される。また、図14における符号Cxで示される任意の点の明るさは、次のようにして求める。図14において符号Cxの座標点から直線abに向けて垂線を下ろすと図14の符号Cで示す点が得られる。ここで、図14に示す撮影対象例において、画面上における空領域のグラデーション変化は、直線abに沿う変化に対応するものと考えているので、画面上の任意の点Cxにおける明るさは、直線ab上の点Cの明るさに略等しいと考えることができる。したがって、直線ab上における点Cの明るさは、図15に示す符号Cbrとして求めることができる。
そして、タッチ点Tの明るさと、点Cの明るさの比(C/T)を求める。図16は、タッチ点Tの明るさと点Cの明るさの比(C/T)と補正量の関係の一例を示すグラフである。
図16に示すように、タッチ点Tと点Cの明るさ比(C/T)=1である場合は、タッチ点Tと点Cの位置が略同位置(C=T)であると考えられる。ここで、タッチ点Tは、撮影者が黒くしたいと望む領域であることから、このタッチ点Tの補正量を最大として設定する。このときの補正処理は、上述の一実施形態や、その他の例示で示すような補正処理を行なえばよい。
一方、点Cの明るさがタッチ点Tより小さい場合((C<T)又は(C/T<1))には、点Cの位置はタッチ点Tよりも画面上寄り(主に空等の領域)であると考えられる。したがって、タッチ点Tから画面上寄りになるほど、本来の明るさは暗くなる傾向にある。そこで、C=Tの位置より画面上寄り領域では、タッチ点Tから画面上縁の点bに向けて徐々に暗くなるような補正を行なう。即ち、図16に示すように、タッチ点Tから点bに向けて、補正量が徐々に少なくなるように設定される。
他方、点Cの明るさがタッチ点Tより大きい場合((C>T)又は(C/T>1))には、点Cの位置はタッチ点Tよりも画面下寄りの領域)となる。したがって、タッチ点Tから画面下寄りになるほど、本来の明るさは明るくなる傾向にある。そこで、C=Tの位置より画面下寄り領域では、図16に示すように、タッチ点Tから点bまでの領域では、タッチ点Tと同等の補正量として設定する。
この実施形態によれば、タッチ指定点Tの明るさに応じて補正量を設定するようにしたので、補正し過ぎることがなく、常に適切な補正処理を行なうことができる。なお、上述の各例では、画像補正処理について減算処理等と表現しているが、実際の演算処理においては、減算処理に限られることはなく、例えば除算や乗算等を行なうようにしてもよい。
なお、本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
上述の各実施形態で説明した各処理シーケンスは、その性質に反しない限り、手順の変更を許容し得る。したがって、上述の処理シーケンスに対して、例えば各処理ステップの実行順序を変更したり、複数の処理ステップを同時に実行させたり、一連の処理シーケンスを実行する毎に、各処理ステップの順序が異なるようにしてもよい。
即ち、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。
また、ここで説明した技術のうち、主にフローチャートで説明した制御や機能は、多くがプログラムにより設定可能であり、そのプログラムをコンピュータが読み取り実行することで上述した制御や機能を実現することができる。そのプログラムは、コンピュータプログラム製品として、フレキシブルディスク、CD−ROM等、不揮発性メモリ等の可搬媒体や、ハードディスク、揮発性メモリ等の記憶媒体に、その全体あるいは一部を記録又は記憶することができ、製品出荷時又は可搬媒体或いは通信回線を介して流通又は提供可能である。利用者は、通信ネットワークを介してそのプログラムをダウンロードしてコンピュータにインストリールしたり、あるいは記録媒体からコンピュータにインストールすることで、容易に本実施の形態の撮影機器を実現することができる。
本発明は、デジタルカメラ等の撮影機能に特化した電子機器である撮影機器に限られることはなく、撮影機能を備えた他の形態の電子機器、例えば携帯電話,録音機器,電子手帳,パーソナルコンピュータ,ゲーム機器,テレビ,時計,GPS(Global Positioning System)を利用したナビゲーション機器等、各種の撮影機能付き電子機器にも適用することができる。また、特に暗部での正確な観察を必要とする産業用機器や医療機器にも応用可能なことは言うまでもない。
1……カメラ,
10……カメラボディ,11……信号処理制御部,11a……蓄積部,11b……画像処理部,11c……タッチ判定部,11d……表示制御部,12……ボディ側通信部,13……撮像素子,14……記録部,15……操作部,16……一時記録部,17……加速度角速度センサ,18……表示部,18b……タッチパネル,19……時計部,
20……レンズ鏡筒,21……レンズ制御部,22……レンズ側通信部,23……レンズ側操作部,24a……ズーム駆動部,24b……フォーカス駆動部,25a……ズームレンズ位置検出部,25b……フォーカスレンズ位置検出部,26……レンズ,26a……ズーム制御部,26b……ピント制御部,26c……絞り制御部,27……レンズ側記録部,
30……回動判定部,31……顔検出部,32……アクセサリ通信部,
40……アクセサリ,40a……情報記録部

Claims (10)

  1. 被写体を撮像して画像信号を取得する撮像部と、
    上記撮像部が取得した上記画像信号を逐次蓄積する蓄積部と、
    上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、
    画像上の位置を指示する指示部と、
    上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、
    上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部と、
    有し、
    上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置の画像信号を下げるように諧調特性を変更することを特徴とする撮影機器。
  2. 被写体を撮像して画像信号を取得する撮像部と、
    上記撮像部が取得した上記画像信号を逐次蓄積する蓄積部と、
    上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、
    画像上の位置を指示する指示部と、
    上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、
    上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部と、
    を有し、
    上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置を含む領域の蓄積画像信号を減算する減算処理であることを特徴とする撮影機器。
  3. 上記補正部による画像補正処理は、蓄積画像信号についてのRGB信号に基いて演算することを特徴とする請求項1又は請求項2に記載の撮影機器。
  4. 上記補正部による画像補正処理は、蓄積画像信号についての輝度信号に基いて演算することを特徴とする請求項1又は請求項2に記載の撮影機器。
  5. 画像信号を逐次蓄積する蓄積部と、
    上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、
    画像上の位置を指示する指示部と、
    上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、
    上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部と、
    を有し、
    上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置の画像信号を下げるように諧調特性を変更することを特徴とする画像処理装置。
  6. 画像信号を逐次蓄積する蓄積部と、
    上記蓄積部による蓄積画像信号を視認可能に表示する表示部と、
    画像上の位置を指示する指示部と、
    上記表示部に表示された上記画像上の上記指示部により指示された位置の上記画像の画素値を判定する位置判定部と、
    上記位置判定部による判定結果に従って上記蓄積部による蓄積画像信号についての画像補正処理を行なう補正部と、
    を有し、
    上記補正部による画像補正処理は、上記位置判定部によって判定された画像上の位置を含む領域の蓄積画像信号を減算する減算処理であることを特徴とする画像処理装置。
  7. 上記補正部による画像補正処理は、蓄積画像信号についてのRGB信号に基いて演算することを特徴とする請求項5又は請求項6に記載の画像処理装置。
  8. 上記補正部による画像補正処理は、蓄積画像信号についての輝度信号に基いて演算することを特徴とする請求項5又は請求項6に記載の画像処理装置。
  9. 画像信号を逐次蓄積する蓄積ステップと、
    逐次蓄積された蓄積画像信号を画像として視認可能に表示する表示ステップと、
    表示された画像上の位置を指示する指示ステップと、
    指示された画像上の位置の画素値を判定する位置判定ステップと、
    上記判定結果に従って蓄積画像信号についての補正処理を行なう補正ステップと、
    を有し、
    上記補正ステップの補正処理は、上記判定された画像上の位置の上記蓄積画像信号を下げるように諧調特性を変更することを特徴とする画像補正方法。
  10. 画像信号を逐次蓄積する蓄積ステップと、
    逐次蓄積された蓄積画像信号を画像として視認可能に表示する表示ステップと、
    表示された画像上の位置を指示する指示ステップと、
    指示された画像上の位置の画素値を判定する位置判定ステップと、
    上記判定結果に従って蓄積画像信号についての補正処理を行なう補正ステップと、
    を有し、
    上記補正ステップの補正処理は、上記判定された画像上の位置を含む領域の蓄積画像信号を減算する減算処理を行うことを特徴とする画像補正方法。
JP2013100344A 2013-05-10 2013-05-10 撮影機器,画像処理装置及び画像補正方法 Active JP6137936B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013100344A JP6137936B2 (ja) 2013-05-10 2013-05-10 撮影機器,画像処理装置及び画像補正方法
US14/274,382 US9420192B2 (en) 2013-05-10 2014-05-09 Image pickup apparatus, and image correction method
CN201410195609.9A CN104144294B (zh) 2013-05-10 2014-05-09 拍摄设备以及图像校正方法
US15/208,729 US9565357B2 (en) 2013-05-10 2016-07-13 Image pickup apparatus, and image correction method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013100344A JP6137936B2 (ja) 2013-05-10 2013-05-10 撮影機器,画像処理装置及び画像補正方法

Publications (3)

Publication Number Publication Date
JP2014220749A JP2014220749A (ja) 2014-11-20
JP2014220749A5 JP2014220749A5 (ja) 2016-06-23
JP6137936B2 true JP6137936B2 (ja) 2017-05-31

Family

ID=51853357

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013100344A Active JP6137936B2 (ja) 2013-05-10 2013-05-10 撮影機器,画像処理装置及び画像補正方法

Country Status (3)

Country Link
US (2) US9420192B2 (ja)
JP (1) JP6137936B2 (ja)
CN (1) CN104144294B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140089672A (ko) * 2013-01-04 2014-07-16 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 기록매체
JP6788518B2 (ja) * 2016-03-22 2020-11-25 キヤノン株式会社 電子機器およびその制御方法、ならびに撮像装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4624513B2 (ja) * 1999-01-19 2011-02-02 オリンパス株式会社 顕微鏡用撮像装置
JP2005045558A (ja) 2003-07-22 2005-02-17 Sony Corp 撮像装置
JP4882956B2 (ja) * 2007-10-22 2012-02-22 ソニー株式会社 画像処理装置および画像処理方法
US20090135295A1 (en) * 2007-11-20 2009-05-28 Keiji Kunishige Imaging device and control method for imaging device
JP2009232275A (ja) * 2008-03-24 2009-10-08 Olympus Imaging Corp 撮像装置
KR20100055947A (ko) * 2008-11-18 2010-05-27 삼성전자주식회사 디지털 촬영장치, 그 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체
JP5509750B2 (ja) * 2009-01-15 2014-06-04 カシオ計算機株式会社 画像処理装置、及びプログラム
JP5395512B2 (ja) * 2009-05-26 2014-01-22 オリンパスイメージング株式会社 撮影装置
US20110157089A1 (en) * 2009-12-28 2011-06-30 Nokia Corporation Method and apparatus for managing image exposure setting in a touch screen device
CN102972020B (zh) * 2010-06-30 2016-08-03 Lg伊诺特有限公司 相机模块和驱动相机模块的方法
CN103109523B (zh) * 2010-09-14 2016-06-15 富士胶片株式会社 成像装置和成像方法
JP2012095094A (ja) * 2010-10-27 2012-05-17 Olympus Imaging Corp 撮像装置および撮像方法
JP5717453B2 (ja) * 2011-01-14 2015-05-13 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP5743679B2 (ja) * 2011-04-26 2015-07-01 京セラ株式会社 携帯端末、無効領域設定プログラムおよび無効領域設定方法
JP2013066157A (ja) * 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US8891866B2 (en) * 2011-08-31 2014-11-18 Sony Corporation Image processing apparatus, image processing method, and program
JP2013058923A (ja) * 2011-09-08 2013-03-28 Olympus Imaging Corp 撮影機器
KR101805629B1 (ko) * 2013-05-07 2017-12-07 삼성전자주식회사 영상의 상태에 따라 적응적인 영상 처리를 위한 방법 및 장치

Also Published As

Publication number Publication date
US20160323502A1 (en) 2016-11-03
CN104144294A (zh) 2014-11-12
US20140333798A1 (en) 2014-11-13
US9420192B2 (en) 2016-08-16
CN104144294B (zh) 2018-01-23
US9565357B2 (en) 2017-02-07
JP2014220749A (ja) 2014-11-20

Similar Documents

Publication Publication Date Title
JP3896505B2 (ja) 電子カメラ
CN107181915A (zh) 摄像装置及其控制方法
JP6257377B2 (ja) 撮像装置および撮像装置の制御方法
JP4509081B2 (ja) デジタルカメラ及びデジタルカメラのプログラム
JP6284408B2 (ja) 画像処理装置、撮像装置、判定方法、駆動方法、撮像方法およびプログラム
JP2016076869A (ja) 撮像装置、撮影方法、およびプログラム
JPWO2019087928A1 (ja) 撮像装置、ファインダ装置、撮像装置の制御方法、ファインダ装置の制御方法、撮像装置の制御プログラム及びファインダ装置の制御プログラム
JP2019144401A (ja) 撮像装置および撮像方法
JP6137936B2 (ja) 撮影機器,画像処理装置及び画像補正方法
JP6758950B2 (ja) 撮像装置、その制御方法とプログラム
JP2009130470A (ja) 撮像装置および撮像装置の制御方法
JP6300569B2 (ja) 撮像装置及びその制御方法
US9538097B2 (en) Image pickup apparatus including a plurality of image pickup units and method of controlling the same
JP6231814B2 (ja) 露出決定装置、撮像装置、制御方法、及びプログラム
JP2020129753A (ja) 撮像装置および撮像方法
JP2016019231A (ja) 撮像装置および撮像装置の制御方法
JP2018098585A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2013127548A (ja) 表示装置、および表示制御プログラム
JP2009171006A (ja) 撮像装置および撮像装置の制御方法
JP5448391B2 (ja) 撮像装置及び赤目補正方法
JP2007173985A (ja) 撮像装置及び撮像方法及びプログラム及び記憶媒体
JP6320251B2 (ja) 撮像装置、撮像方法、およびプログラム
JP6344910B2 (ja) 撮像装置、制御方法およびそのプログラム
JP6024098B2 (ja) 撮像装置及び撮像システム
JP6478481B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160428

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170425

R151 Written notification of patent or utility model registration

Ref document number: 6137936

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250