JP5359337B2 - 電子スチルカメラ - Google Patents

電子スチルカメラ Download PDF

Info

Publication number
JP5359337B2
JP5359337B2 JP2009028776A JP2009028776A JP5359337B2 JP 5359337 B2 JP5359337 B2 JP 5359337B2 JP 2009028776 A JP2009028776 A JP 2009028776A JP 2009028776 A JP2009028776 A JP 2009028776A JP 5359337 B2 JP5359337 B2 JP 5359337B2
Authority
JP
Japan
Prior art keywords
facial expression
level
unit
smile
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009028776A
Other languages
English (en)
Other versions
JP2010187110A (ja
Inventor
洋介 河野
正永 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2009028776A priority Critical patent/JP5359337B2/ja
Publication of JP2010187110A publication Critical patent/JP2010187110A/ja
Application granted granted Critical
Publication of JP5359337B2 publication Critical patent/JP5359337B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、被写体画像中の人物の顔表情を検出して自動撮影を行う電子スチルカメラに関する。
従来、被写体人物の笑顔の度合い(スマイルレベル)を検出してレリーズ動作を行うカメラが知られている。このカメラは、ユーザーがマニュアルで3段階のスマイルレベルを設定し、被写体人物の笑顔がその設定したスマイルレベルであることを検出した時に撮影するというものである。
しかしながら、上記のカメラにおいては、撮影者が撮影環境や撮影状況に応じてマニュアルでスマイルレベルを設定しなければならず、非常に面倒であるという問題がある。
求項1の発明による電子スチルカメラは、被写体を撮像して被写体画像データを出力する撮像手段と、前記被写体画像データ中の被写体人物の顔表情が所定の顔表情レベルになったことを検出すると、検出信号を発する顔表情検出手段と、前記顔表情検出手段の前記検出信号に基づき、自動的に撮影動作を実行する自動撮影手段と、GPSの位置情報から撮影を行う地域を特定する撮影地域特定手段と、前記撮影地域特定手段により特定された撮影地域に基づいて前記所定の顔表情レベルを自動的に設定するレベル設定手段と、を備えることを特徴とする。
本発明の電子スチルカメラによれば、顔表情レベルを検出して自動撮影を行う際に、撮影地域に応じて被写体に適した顔表情レベルを設定できるので、ユーザーは煩わしい設定操作から解放される。
本発明の第1の実施の形態に係る電子スチルカメラの構成を示すブロック図である。 本発明の第2の実施の形態に係る電子スチルカメラの構成を示すブロック図である。
以下、本発明の実施の形態による電子スチルカメラについて、図面を参照しながら説明する。
−第1の実施の形態−
図1は、本発明の第1の実施の形態による電子スチルカメラの構成を示すブロック図である。
図1に示されるように、電子スチルカメラは、撮影レンズ11、絞り12、撮像素子13、バッファメモリ14および画像処理部15を備える。また、電子スチルカメラは、画像記録部16、CPU(Central Processing Unit)17、ROM(Read Only Memory)18、バス19、撮影モード選択部28、顔表情設定部32、表示制御部41およびディスプレイ42を備える。
画像処理部15、画像記録部16、CPU17、ROM18、撮影モード選択部28、顔表情設定部32および表示制御部41は、バス19を介して互いに接続されている。
CPU17は、顔検出部21、顔表情検出部23、自動撮影部27、レベル自動設定部30および撮影条件設定部31として機能する。
ROM18は、顔データ記憶部22、顔表情データ記憶部24および顔表情レベルデータ記憶部26として機能する。
撮影レンズ11は、ズームレンズやフォーカスレンズを含む複数のレンズで構成され、被写体像を撮像素子13上に結像する。図1では簡単のため、撮影レンズ11は1枚のレンズで示されている。撮像素子13は、撮影レンズ11からの被写体光L1を光電変換することにより画像信号を生成する。
撮像素子13から出力される画像信号は、バッファメモリ14を介して画像処理部15に送られ、ここで所定の種々の画像処理が施される。撮影開始前の段階では、撮像素子13からの画像信号は、バッファメモリ14、画像処理部15を経てバス19を介してディスプレイ42に送られ、スルー画像として表示される。撮影段階では、撮像素子13からの画像信号は、バッファメモリ14、画像処理部15を経てバス19を介して画像記録部16にて記録される。
画像記録部16は、画像データとその画像データに関する属性データ(タグ情報)とを関連付けて不揮発性のメモリ(記憶媒体)16aに記録する。画像データには、被写体を撮影レンズ11、絞り12、撮像素子13によって撮影した被写体画像や、外部機器から画像記録部16に入力された被写体画像が含まれる。
顔検出部21は、被写体画像データを入力し、これを顔データ記憶部22に予め記憶されている顔データと比較することにより、画像中の被写体人物の顔を検出する。被写体人物が複数人の場合は各人の顔を検出する。顔データ記憶部22は、例えば、眉、眼、鼻、唇の形状に関する特徴点のデータを記憶している。
顔検出には、例えば、特開2001−16573号公報に開示されている検出手法を用いることができる。この検出手法は、入力画像中から特徴点を抽出して被写体の顔領域、顔の大きさ等を検出するものである。特徴点としては、眉、眼、鼻、唇の各端点、および顔の輪郭点、例えば頭頂点や顎の下端点が挙げられる。
他の顔検出としては、例えば、特開2005−157679号公報に開示されている検出手法を用いることができる。この検出手法は、先ず、入力画像中の2画素間の輝度差を特徴量として学習しておき、その特徴量に基づいて入力画像中の所定領域に顔が存在するか否かを示す推定値を算出し、推定値が1以上のときにその所定領域に顔が存在すると判別するものである。
顔表情検出部23は、顔検出部21により検出された顔領域の画像の顔表情を顔表情データ記憶部24に予め記憶されている所定の顔表情データと比較することにより、被写体画像データ中の被写体人物の顔表情が所定の顔表情に対応することを検出する。
顔表情には、笑顔、泣き顔、怒り顔、驚き顔、寝顔などの様々な種類があり、顔表情データ記憶部24は、これらの複数の顔表情データを記憶している。
顔表情検出部23が顔領域の画像の顔表情を検出する場合には、特開2008−42319号公報に開示されている検出手法を用いることができる。この検出手法は、例えば笑顔であることを検出するには、検出された画像の顔が笑顔と通常時の顔という2つの顔表情のいずれに近いかに基づいて表情の種類を判断するものである。
また、顔表情検出部23は、顔表情の検出だけではなく、顔表情の度合い(顔表情レベル)を検出する。すなわち、顔表情検出部23は、顔検出部21により検出された顔領域の画像の表情の度合いを顔表情レベルデータ記憶部26に予め記憶されている所定の顔表情レベルデータと比較することにより、顔領域の画像中の被写体人物の顔の表情レベルが所定の顔表情レベルデータのいずれに対応するかを判定することができる。顔表情検出部23は、被写体人物の顔表情の度合いが所定の顔表情レベルに対応すると判定されると検出信号を発生する。
顔表情レベルデータ記憶部26は、顔表情の種類毎に表情の度合い(顔表情レベル)を表すデータ記憶している。例えば、笑顔であれば、微笑、中位の笑い、大笑いという3段階の笑顔レベルデータを記憶している。
笑顔の度合いを判定する手法には、例えば、特開2004−46591号公報に開示されている手法を用いることができる。この判定手法は、入力された部分画像の笑顔について笑顔の度合いの評価を行い、笑顔評価値を算出する。笑顔評価の際は、予め記憶されている笑顔データを参照して眉、瞳孔、唇の各要素の形状の評価ポイントを算出し、各評価ポイントを係数により重み付けした上で合算した値を笑顔評価値としている。
自動撮影部27は、顔表情検出部23からの検出信号に応じて撮影レンズ11、絞り12および撮像素子13に動作信号を出力して被写体の自動撮影を行う。この自動撮影は、顔表情検出部23が検出した被写体人物の顔表情レベルが所定の顔表情レベル、例えば笑顔レベルが中笑いであるとき、1枚の画像を撮像する。
撮影モード選択部28は、ROM18にプログラムされているいくつかの撮影モードのうちから、外部操作により任意の撮影モードを選択するための操作部である。撮影モードとしては、「ポートレートモード」、「パーティーモード」、「お見合い写真モード」、「美肌モード」、「夜景モード」、「夕暮モード」、「風景モード」、「スポーツモード」、「花火モード」、「逆光モード」、「水中モード」、「クローズアップモード」などがある。これらの撮影モードのいずれかが選択されると、その選択された撮影モードに応じて、絞り値、シャッタタイム(露出時間)、撮像素子の感度、ホワイトバランス、フラッシュ(ストロボ)使用の要否、画像処理などの撮影条件が検定される。
例えば、ポートレートモードでは、背景をぼかして人物を浮かび上がらせるために、絞りを開放に設定する。パーティーモードでは、フラッシュ発光を禁止とし、手振れの影響を抑えつつ部屋の人工照明下でも自然な色合いを出すために、高感度に設定する。お見合い写真モードでは、優しい雰囲気を表現しつつ肌色を奇麗に見せるために、デジタル的なソフトフォーカス画像処理を実行する。
レベル自動設定部30は、自動撮影部27が自動撮影を行うための所定の顔表情レベルを自動設定する。レベル自動設定部30は、撮影モード選択部28によって選択した撮影モードに基づいてこの自動設定を行う。例えば、ポートレートモードが選択された場合は、レベル自動設定部30は、微笑、中笑い、大笑いという3段階の笑顔レベルのうち、中笑いを設定する。
また、パーティーモードが選択された場合は、大笑いを設定する。これは、パーティー会場では和やかな雰囲気の中で人物の笑顔レベルも必然的に上昇すると予想されるからである。
更に、お見合い写真モードが選択された場合は、微笑みを設定する。お見合い写真を撮影するときに、中笑いや大笑いを検出して撮影することは意図に沿わないからである。
撮影条件設定部31は、撮影モード選択部28によって選択した撮影モードに基づいて撮影条件を自動的に設定する。
したがって、自動撮影部27は、撮影条件設定部31によって自動設定された撮影条件で、顔表情検出部23からの検出信号に応じて被写体の自動撮影を行う。
顔表情設定部32は、被写体人物の顔表情の種類を外部から設定する操作部であり、笑顔を含む複数の顔表情の設定ができる。例えば、顔表情の設定が笑顔であれば、顔表情検出部23は、所定の笑顔レベルを検出して検出信号を発生する。
表示制御部41は、ディスプレイ42による表示を制御する。すなわち、表示制御部41は、ディスプレイ42がスルー画像の表示、バッファメモリ14に一時的に記録されている被写体画像の表示、画像記録部16のメモリ16aに保存された被写体画像の再生表示を行なう時の表示態様を制御する。
ディスプレイ42は、表示制御部41の指令により、スルー画像、バッファメモリ14に一時的に記録されている被写体画像、メモリ16aに保存された被写体画像の表示を行い、被写体画像に関連する属性情報の表示を行う。また、ディスプレイ42は、表示制御部41の指令により、撮影モード選択用の画面を表示する。
以上のように構成された電子スチルカメラは次のように動作する。
先ず、撮影モード選択部28によって撮影モードとして上述した「パーティーモード」を選択し、顔表情設定部32によって所定の顔表情として「笑顔」を設定する。レベル自動設定部30は、このパーティーモードに基づいて所定の笑顔レベルを大笑いに自動設定する。一方、撮影条件設定部31は、このパーティーモードに基づいてフラッシュ発光禁止及び高感度などの撮影条件を設定する。
なお、パーティーモードで大笑いを選択することにより、パーティー会場で頻繁に見られる微笑みや中笑いを検出して撮影することがなくなるので、無駄な撮影画像を削除する手間を省くことができる。
顔検出部21は、スルー画像を顔データ記憶部22の顔データと比較することにより、スルー画像中の被写体人物の顔を検出する。
顔表情検出部23は、顔検出部21により検出された顔領域の画像の顔表情を顔表情データ記憶部24に予め記憶されている所定の顔表情データと比較することにより、スルー画像中の被写体人物の顔表情が笑顔であることを検出する。顔表情検出部23は、更に、笑顔レベルを検出する。すなわち、上記の顔領域の画像の顔表情を顔表情レベルデータ記憶部26に記憶された笑顔レベルデータと比較して、被写体人物の笑顔レベルを検出し、笑顔レベルが大笑いであると判定すると、大笑いを表す検出信号を出力する。
自動撮影部27は、この検出信号に応じて、笑顔レベルが大笑いであることが検出された被写体人物の自動撮影を行う。この自動撮影は、撮影条件設定部31によって設定された撮影条件の下で行われる。自動撮影によって得られた被写体画像データは、大笑いの笑顔が検出された画像データであることを示す属性データとともにメモリ16aに記録される。属性データには、撮影モードがパーティーモードであるとの情報を付加してもよい。
本実施の形態による電子スチルカメラは以下の作用効果を奏する。
(1)選択した撮影モードに応じて自動撮影を行うための笑顔レベルを設定するので、被写体の環境、状況に適した笑顔レベルを設定できる。
(2)被写体の環境、状況に適した笑顔レベルの人物だけが撮影対象となるので、ユーザーが意図しない自動撮影は行われなくなる。
(3)笑顔レベルが自動的に設定されるので、ユーザーは顔表情レベルの設定操作から解放される。
本実施の形態では、撮影モードとして「パーティーモード」、所定の顔表情として「笑顔」を設定した場合の動作を説明したが、他の撮影モード、他の顔表情を設定することも可能である。
−第2の実施の形態−
図2は、本発明の第2の実施の形態による電子スチルカメラの構成を示すブロック図である。図2に示す電子スチルカメラも、図1の電子スチルカメラと基本構成は同じであるので、相違する構成について説明する。図1と図2では、同じ構成要素には同一の符号を付す。
図1に示す第1の実施形態の電子スチルカメラでは、撮影モードを設定するための撮影モード選択部28を備えていたが、これに代えて、図2に示す第2の実施形態の電子スチルカメラでは、撮影地域特定部29及びGPSアンテナ33を備えている。また、第2の実施形態の電子スチルカメラでは、第1の実施形態の電子スチルカメラと異なり、撮影条件設定部31は備えていない。
撮影地域特定部29は、CPU17に設けられており、GPSアンテナ33が受信した位置情報に基づいて撮影場所がどのような環境であるかを特定する。撮影地域特定部29は、例えば、撮影場所が山の斜面、海辺などの自然環境であったり、遊園地、教会などの人工施設であることを特定すると、その旨の信号を発生する。撮影モードの場合と同様に、レベル自動設定部30は、その信号に応じて特定された撮影場所に適した顔表情レベルの自動設定を行う。
本実施の形態による電子スチルカメラは次のように動作する。
先ず、顔表情設定部32によって所定の顔表情として「笑顔」を設定する。撮影地域特定部29は、GPSアンテナ33が受信した位置情報に基づいて撮影場所がA遊園地であると特定し、レベル自動設定部30は、笑顔レベルを大笑いに設定する。これは、A遊園地では楽しい雰囲気の中で人物の笑顔レベルも必然的に上昇すると予想されるからである。
顔検出部21は、スルー画像を顔データ記憶部22の顔データと比較することにより、スルー画像中の被写体人物の顔を検出する。
顔表情検出部23は、顔検出部21により検出された顔領域の画像の顔表情を顔表情データ記憶部24に予め記憶されている所定の顔表情データと比較することにより、スルー画像中の被写体人物の顔表情が笑顔であることを検出する。顔表情検出部23は、更に、笑顔レベルを検出する。すなわち、上記の顔領域の画像の顔表情を顔表情レベルデータ記憶部26に記憶された笑顔レベルデータと比較して、被写体人物の笑顔レベルを検出し、笑顔レベルが大笑いであると判定すると、大笑いを表す検出信号を出力する。
自動撮影部27は、この検出信号に応じて笑顔レベルが大笑いであることが検出された被写体人物の自動撮影を行う。自動撮影によって得られた被写体画像データは、大笑いの笑顔が検出された画像データであることを示す属性データとともにメモリ16aに記録される。属性データには、地域情報としてA遊園地であるとの情報を付加してもよい。
本実施の形態による電子スチルカメラも第1の実施の形態による電子スチルカメラと同様の作用効果を奏する。
(1)GPS位置情報に基づいて撮影場所を特定し、その場所に応じて自動撮影を行うための笑顔レベルを設定するので、被写体の環境、状況に適した笑顔レベルを設定できる。
(2)被写体の環境、状況に適した笑顔レベルの人物だけが撮影対象となるので、ユーザーが意図しない自動撮影は行われなくなる。
(3)笑顔レベルが自動的に設定されるので、ユーザーは顔表情レベルの設定操作から解放される。
上記の第2の実施の形態では、GPS位置情報に基づいて撮影場所を特定しているが、更に、時間情報(季節、日時など)を加えることにより、撮影場所のシチュエーションがより一層明確になる。例えば、夏の海辺の海水浴場や日曜日の遊園地であれば、所定の顔表情レベルとしての笑顔レベルの設定は当然に高くなる。
上記の第1,2の実施の形態では、顔表情検出部23は、被写体人物の顔表情が笑顔であることを検出し、更にその被写体人物の笑顔レベルを検出するものとして説明したが、顔表情検出部23は、このような段階を踏まずに被写体人物の笑顔レベルを一挙に検出するものであってもよい。
以上の説明では、顔表情レベルは、撮影モードまたは撮影場所に応じて自動設定されたが、自動設定された顔表情レベルをマニュアルで調整可能としてもよい。例えば、撮影モードとしてポートレートモードを選択した場合、笑顔レベルを中笑いに自動設定し、それをディスプレイ42に表示して、撮影者が中笑いのレベルを微笑のレベルまたは大笑いのレベルに手動で変更することもできる。
また、第1の実施の形態で説明した機能と第2の実施の形態で説明した機能を併せ持つ電子スチルカメラも本発明に含まれる。
本発明は、その特徴を損なわない限り、以上説明した実施の形態に何ら限定されない。
16:画像記録部 16a:メモリ
23:顔表情検出部 24:顔表情データ記憶部
26:顔表情レベルデータ記憶部 27:自動撮影部
28:撮影モード選択部 29:撮影地域特定部
30:レベル自動設定部 31:撮影条件設定部
32:顔表情設定部

Claims (2)

  1. 被写体を撮像して被写体画像データを出力する撮像手段と、
    前記被写体画像データ中の被写体人物の顔表情が所定の顔表情レベルになったことを検出すると、検出信号を発する顔表情検出手段と、
    前記顔表情検出手段の前記検出信号に基づき、自動的に撮影動作を実行する自動撮影手段と、
    GPSの位置情報から撮影を行う地域を特定する撮影地域特定手段と、
    前記撮影地域特定手段により特定された撮影地域に基づいて前記所定の顔表情レベルを自動的に設定するレベル設定手段と、を備えること
    を特徴とする電子スチルカメラ。
  2. 請求項1に記載の電子スチルカメラにおいて、
    前記レベル設定手段は、前記被写体人物の顔表情が前記所定の顔表情レベルに達し易い撮影地域が特定された場合は、前記所定の顔表情レベルに達し易い撮影地域とは異なる撮影地域に対応する前記所定の顔表情レベルに比して高い前記所定の顔表情レベルを設定すること
    を特徴とする電子スチルカメラ。
JP2009028776A 2009-02-10 2009-02-10 電子スチルカメラ Expired - Fee Related JP5359337B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009028776A JP5359337B2 (ja) 2009-02-10 2009-02-10 電子スチルカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009028776A JP5359337B2 (ja) 2009-02-10 2009-02-10 電子スチルカメラ

Publications (2)

Publication Number Publication Date
JP2010187110A JP2010187110A (ja) 2010-08-26
JP5359337B2 true JP5359337B2 (ja) 2013-12-04

Family

ID=42767506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009028776A Expired - Fee Related JP5359337B2 (ja) 2009-02-10 2009-02-10 電子スチルカメラ

Country Status (1)

Country Link
JP (1) JP5359337B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014030407A1 (ja) * 2012-08-23 2014-02-27 ソニー株式会社 制御装置および記憶媒体
JP2019036907A (ja) 2017-08-21 2019-03-07 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び機器

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4218712B2 (ja) * 2006-08-04 2009-02-04 ソニー株式会社 顔検出装置、撮像装置および顔検出方法
JP2010081562A (ja) * 2008-09-29 2010-04-08 Fujifilm Corp 撮像装置、方法およびプログラム

Also Published As

Publication number Publication date
JP2010187110A (ja) 2010-08-26

Similar Documents

Publication Publication Date Title
KR101342477B1 (ko) 동영상을 촬영하는 촬상 장치, 및 촬상 처리 방법
US20140153900A1 (en) Video processing apparatus and method
KR101475427B1 (ko) 다수의 촬영 조건을 가지는 간격 촬영 방법 및 이를 적용한촬영 장치
US8593566B2 (en) Method and apparatus for controlling light emission of flash and digital photographing apparatus using the method and apparatus
JP5228354B2 (ja) ディジタルカメラ
JP5966778B2 (ja) 撮像装置、撮像方法及びプログラム
JP2009272740A (ja) 撮像装置、画像選択方法及び画像選択プログラム
JP5952975B2 (ja) 撮像装置および撮像方法
JP2010068190A (ja) デジタルカメラ、画像処理装置およびデジタルカメラシステム
JP5359337B2 (ja) 電子スチルカメラ
JP5298887B2 (ja) デジタルカメラ
JP4182864B2 (ja) 電子カメラ
JP5157704B2 (ja) 電子スチルカメラ
JP6231814B2 (ja) 露出決定装置、撮像装置、制御方法、及びプログラム
JP2013062711A (ja) 撮影装置、撮影画像処理方法、およびプログラム
JP2006303967A (ja) 撮像装置および撮像装置の制御方法
JP2013207471A (ja) デジタルカメラ
JP6980449B2 (ja) 画像処理装置、画像処理装置の制御方法及びプログラム
KR20100112788A (ko) 손떨림 방지 기능과 플래쉬 기능의 제어 방법, 이를 이용한 촬영 방법 및 디지털 카메라 모듈
JP2006295708A (ja) 撮像装置及びその制御方法
JP6360409B2 (ja) 撮像装置、撮像方法
JP6721075B2 (ja) 学習方法
JP5453820B2 (ja) デジタルカメラ
JP2010226485A (ja) 画像加工装置およびデジタルカメラ
JP2018190257A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120921

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130819

R150 Certificate of patent or registration of utility model

Ref document number: 5359337

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees