JP2009267733A - 撮像装置および撮像制御方法 - Google Patents

撮像装置および撮像制御方法 Download PDF

Info

Publication number
JP2009267733A
JP2009267733A JP2008114449A JP2008114449A JP2009267733A JP 2009267733 A JP2009267733 A JP 2009267733A JP 2008114449 A JP2008114449 A JP 2008114449A JP 2008114449 A JP2008114449 A JP 2008114449A JP 2009267733 A JP2009267733 A JP 2009267733A
Authority
JP
Japan
Prior art keywords
opening
eyes
eye
imaging
closing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008114449A
Other languages
English (en)
Inventor
Hirotake Kono
広岳 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2008114449A priority Critical patent/JP2009267733A/ja
Publication of JP2009267733A publication Critical patent/JP2009267733A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Details Of Cameras Including Film Mechanisms (AREA)
  • Studio Devices (AREA)

Abstract

【課題】被撮影者が姿勢や表情を大きく変えずに合図を送ることができる撮像装置を提供する。
【解決手段】撮像手段(11)と、前記撮像手段によって得られた画像において人物の目の位置情報を取得する目の位置情報取得手段(12)と、前記目の位置情報取得手段によって得られた目の位置情報に基づいて目の開閉状態を認識する目の開閉状態認識手段(13)と、前記目の開閉状態認識手段が認識した目の開閉状態が所定の開閉パターンを生じたかどうかを判定する開閉パターン認識手段(14)と、前記開閉パターン認識手段において予め決められた開閉パターンが認識された場合、所定の処理を行う制御手段(15)とを備える。
【選択図】図1

Description

本発明は、撮像装置に関する。本発明は、さらに、撮像制御方法にも関する。
今日、被写界を撮像素子によって撮像し、撮像された動画像や静止画像を処理して、磁気ディスクや不揮発性メモリなどの情報記録媒体に記録するムービーカメラやスチルカメラが知られている。
例えば、撮影者と被撮影者が同一の場合、シャッターボタンを押下してから実際にシャッタが切れて撮影が行われるまでの時間を設定することができるセルフタイマを用いて撮影することができる。しかしながら、セルフタイマを用いる場合、設定時間が短いと準備ができず、撮影時間が長いと待ち時間が長くなってしまうという課題があった。
被撮影者の意図するタイミングで撮影を行うためには、ケーブルレリーズ、エアレリーズ、電磁レリーズなどのレリーズ装置が用いられる。しかしながら、これらのレリーズ装置は、カメラとは別に持ち運ぶ必要があることや、撮影するまでのセッティングに時間がかかることなどから、利便性に課題があった。
そこで、特別なレリーズ装置等を使わずに、被撮影者が意図するタイミングで撮影できるようにすることが望まれている。
特許文献1および2では、被写体の動作や姿勢、表情などによって撮像装置を制御する方法が記載されている。
特開2001−111881号公報 特開2005−57416号公報
しかしながら、特許文献1および2に記載の方法では、撮像装置を制御するためにユーザが姿勢を大きく変えたり、表情が制限されるといった課題があった。また、これらの方法を実現するために、撮像装置の構成を大きく変える必要があるという課題もあった。構成を大きく変えずにソフトウェアだけで実現しようとすれば、処理時間が長くなってしまうという課題もあった。
本発明は、このような実情に鑑みてなされたものであり、被撮影者が姿勢や表情を大きく変えずに合図を送ることができる撮像装置を提供する。
本発明の撮像装置は、撮像手段と、前記撮像手段によって得られた画像において人物の目の位置情報を取得する目の位置情報取得手段と、前記目の位置情報取得手段によって得られた目の位置情報に基づいて目の開閉状態を認識する目の開閉状態認識手段と、前記目の開閉状態認識手段が認識した目の開閉状態が所定の開閉パターンを生じたかどうかを判定する開閉パターン認識手段と、前記開閉パターン認識手段において予め決められた開閉パターンが認識された場合、所定の処理を行う制御手段とを備えることを特徴とする。
前記所定の処理は撮影であってもよい。
前記所定の処理は認証であってもよい。
前記認証は、顔認証を行って認証された人物において行われてもよい。
前記目の開閉状態認識手段は、目を中心とした一定の領域において空間周波数を抽出してコントラストを判別し、コントラストの強弱によって目の開閉状態を認識してもよい。
本発明の撮像装置によれば、被撮影者が姿勢や表情を大きく変える必要がなく合図を送ることができる。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
図1は、本発明の撮像装置の構成の一例を示すブロック図である。撮像装置1は、例えば、デジタルスチルカメラまたはデジタルビデオカメラである。撮像装置1は、レンズによって結像される光を電気信号に変換して画像データを得るCCD(Charge-Coupled Device)、CMOS(Complementary Metal-Oxide Silicon)等の撮像素子を備える撮像部11と、撮像部11が得た画像データにおいて人物の目の位置情報を取得する目の位置情報取得部12と、目の位置情報取得部12が取得した目の位置情報に基づいて目の開閉状態を認識する目の開閉状態認識部13と、目の開閉状態認識部13が認識した目の開閉状態のパターンを認識する開閉パターン認識部14と、開閉パターン認識部14が認識した開閉パターンが予め決められたパターンであるかどうかを判定し、予め決められたパターンである場合、撮像装置1のシャッタ等を制御して撮影用の画像データを生成する制御部15と、撮影された画像データを不揮発性メモリ等に記憶する記憶部16とを備える。
目の位置情報は、例えば、従来の撮像装置に搭載されている顔認識機能を利用して取得することができる。顔認識機能は、被写体人物の顔を自動的に認識し、認識された顔に露出やフォーカスを合わせる機能である。顔認識機能は、肌の色、輪郭、各パーツの位置関係などの情報から顔の位置を推定する。これまで、用途によって様々な顔認識アルゴリズムが提案されているが、現在主流となっているそのほとんどは目の位置関係を重要な情報として検出している。したがって、顔認識機能を搭載している従来の撮像装置の構成を大きく変更することなく、目の位置情報を取得することが可能である。このような従来の顔認識機能において目の位置情報を検出する方法としては、例えば、山本浩也他「顔を用いたバイオメトリクス認証」(http://www.mil.se.ritsumei.ac.jp/public/2006-03-09-yamamoto.pdf)に記載のものがある。この方法では、入力として与えられたRGB 成分から輝度成分に変換した画像に、人間の共通かつ安定した顔の特徴を利用して眉間候補領域を算出する6分割矩形フィルター(Six Segment Rectangle Filter : SSRを使用し、得られた眉間候補領域からラベルリング処理により重心を算出し、その座標を眉間候補点とする。次に、眉間候補点から真の眉間を算出するため、平均顔テンプレート(モデル顔)とのマッチングを行い、真の眉間を検出する。そして、眉間候補点周辺から瞳を検出する。
図2は、顔認識機能において抽出される顔領域における目の領域を示す図である。目を閉じている場合は、図3のようになる。
本発明の撮像装置は、被写体となる人物の目の開閉を認識し、予め決められた目の開閉パターンを検出した場合、撮影を行う。すなわち、被写体となる人物が合図を送ると撮影が行われる。合図として送られる目の開閉パターンは、撮像装置において予め決められておいてもよく、ユーザが設定可能であってもよい。このような開閉パターンは、例えば、素早く(所定の時間以内に)所定の回数(例えば3回)まばたきをする、所定の時間(例えば1秒)以上目を閉じる、所定の時間(例えば1秒)以上目を閉じた後所定の回数(例えば2回)まばたきをする、一方の目を開いたまま他方の目でまばたきをする、左右の目を交互に閉じる等であってもよい。
現在、多くの撮像装置にオートフォーカス機能が備わっている。撮像データにおいて空間周波数を抽出し、この空間周波数の高低によってコントラストの強弱を判別する手法が知られている。コントラスト検出式のオートフォーカス機能は、撮像データのコントラストの強弱を判別し、撮像画像の特定領域をフォーカス制御用の信号取得領域(空間周波数抽出領域)として設定し、その領域内のコントラストの強弱を評価してオートフォーカスを行う。例えば、特開平10−213737号公報には、ビデオカメラの画像信号を入力する入力手段と、該画像信号の特定領域の高周波成分を抽出して評価値を生成する評価値算出手段と、該評価値に応じて上記ビデオカメラのフォーカスレンズ駆動部に与える指令値を算出する信号処理手段と、該指令値を該フォーカスレンズの駆動部に送出する出力手段とを備えたビデオカメラのオートフォーカス装置において、評価値ピークを探索する際に、上記評価値が連続的に低下したか否かを判定する逆走判定手段を設け、該逆走判定手段により逆走と判定されたとき探索方向を反転させることを特徴とする、ビデオカメラのオートフォーカス装置が開示されている。
このようなオートフォーカス機能によるコントラスト評価を、目の開閉状態の認識に利用することができる。被写体の目が閉じている状態では、図4(a)に示すように、目の領域内に存在するのは、大部分は肌と閉じたときのまつ毛である。したがってこの状態では、肌とまつ毛の境界でのコントラストが全体の大部分を占める。
図4(b)のように目を開いている状態においても肌とまつ毛の境界は存在するが、さらに白目、黒目も存在し、コントラストはより複雑になる。白目と黒目の境界でのコントラスト値は肌とまつ毛の境界でのコントラスト値より大きくなることが推測されるため、全体のコントラスト値は目を閉じている状態よりも目を開いている状態のほうが大きくなる。したがって、コントラスト値の変化によって目の開閉状態を認識することができる。
まばたきを1回するときの時間に対するコントラストの変化の一例を図5のグラフに示す。図中51が目を開いている状態であり、上述したように他の状態よりコントラスト値が大きい。その後の53が目を閉じている状態であり、目を開いている状態51よりもコントラスト値が小さくなる。
目を開いている状態51から目を閉じている状態53にかけての目を閉じようとしている状態52では、まぶたが高速で動くことにより目の周辺でブレが生じるため、コントラスト値は最も小さくなる。フレームレートが高い場合のまばたきを1回するときの時間に対するコントラストの変化の一例を図6のグラフに示す。この場合、目を閉じようとしている瞬間も止まって捉えるため、ブレは生じず、図6のようになるが、少なくとも目を閉じている状態53のコントラスト値が目を開いている状態51のコントラスト値より大きくなることはない。
その後、目を閉じている状態53から目を開こうとしている状態54を経て目を開いた状態55を認識する。このような一連のパターンを認識することによって、まばたきが生じたことを認識することができる。
図7は、本発明の撮像装置における合図による撮影の処理を説明するフローチャートである。ステップS101において、目の位置情報取得部12は、撮像部11が取得した画像データにおいて被写体の目の位置情報を取得し、目の開閉状態認識部13に通知する。ステップS102において、目の開閉状態認識部13は、被写体の目の開閉状態を認識し、開閉パターン認識部14に通知する。開閉パターン認識部14は、定められた合図、すなわち、被写体の目において所定の開閉パターンがあったかどうかを判定し、あった場合は制御部15に通知してステップS104に進み、なかった場合はステップS102に戻って新たな目の開閉状態を認識する。ステップS104において、制御部15は、撮像部11が取得した画像データを記憶部16に記憶し、処理を終了する。
本発明の撮像装置における目の開閉パターンの認識を、撮影の合図として用いるだけでなく、他の目的、例えば、認証にも用いることができる。人物の顔を認識し、認証に用いる技術が現在知られている。しかしながら、このような顔認証では、写真による成り済ましが問題となっている。目の開閉パターンによる認証を顔認証と組み合わせれば、認証の精度を上げることができる。
図8は、本発明の撮像装置における認証処理の一例を説明するフローチャートである。予め、認証されるべき人物の顔と合図となる眼の開閉パターンとを関連付けて撮像装置に登録しておく。ステップS201において、撮像部が撮像した画像データにおいて従来の技術により顔認識を行う。ステップS202において、認識された顔の中に認証すべき該当の人物がいるかどうかを判定し、いる場合はステップS203に進み、いない場合はステップS206に進む。ステップS203において、図5のフローチャートのステップS101、ステップS102と同様に、目の位置情報取得部が認識された人物の目の位置情報を取得し、取得した目の位置情報に基づいて目の開閉状態認識部が目の開閉状態を認識する。ステップS204において、開閉パターン認識部は、所定の時間内に予め登録された目の開閉パターンがあったかどうかを判定し、あった場合はステップS205において認証を行い処理を終了し、なかった場合はステップS206において認証エラーとして処理し、ステップS201に戻り、新たな認証処理を繰り返す。
以上説明したように、本発明によれば、画像において人物の目の位置を検出し、目の開閉状態を認識し、所定の目の開閉パターンの認識に応じて撮影を行うため、特別なレリーズ装置等を使わずに、被撮影者が姿勢や表情を大きく変える必要なく、被撮影者が意図するタイミングで撮影することができる。
また、目の開閉パターンによる合図を認証にも利用することができ、特に、顔認証と組み合わせることで、認証の精度を高めることができる。例えば、この認証によって特定の人物のみを撮影するようにすることができる。また、他の目的の認証に使用することもできる。
また、人物の目の位置の検出には従来の顔認識技術を、目の開閉状態の認識には従来のオートフォーカス技術を適用することができるため、従来の撮像装置の構成を大幅に変更することなく、本発明の撮像装置を実現することができる。
本発明の撮像装置を携帯電話として実施することもできる。図9は、携帯電話として実施した本発明の撮像装置の外観を示す図である。本例の携帯電話は、第1の筐体21と第2の筐体22をヒンジ部23で連結した一般的なクラムシェル型のものであり、第1の筐体21と第2の筐体22を閉じた状態で内側になる面に操作部24と表示部25が配置され、表示部25と反対側の面にレンズ26が配置される。操作部24は、さらに第1の筐体21、第2の筐体22の側面にも配置されていてもよい。携帯電話には、図1を参照して説明した各部が内蔵されているものとする。
撮影を行う際、ユーザは、操作部24における撮影機能の起動ボタンを押下し、第1の筐体21と第2の筐体22を開いた状態で、レンズ26を被写体の方に向け、表示部25に表示される画面を見て構図などを確認しながら、操作部24におけるシャッタボタンを押下することによって撮影を行う。
このように携帯電話として実施した場合でも、目の開閉パターンによる合図によって、撮影、又は認証を行うことが可能である。
また、本例では本発明の撮像装置をクラムシェル型の携帯電話として実施した場合について説明したが、例えばストレートバー型等の他の形状の携帯電話として実施することももちろん可能である。
本発明は、撮像装置に利用可能である。
本発明の撮像装置の構成の一例を示すブロック図である。 顔認識機能において抽出される顔領域における目の領域を示す図である。 顔認識機能において抽出される顔領域における目の領域を示す図である。 (a)は目を閉じた状態を示す図であり、(b)は目を開いた状態を示す図である。 まばたきを1回するときの時間に対するコントラストの変化の一例を示すグラフである。 まばたきを1回するときの時間に対するコントラストの変化の一例を示すグラフである。 本発明の撮像装置における合図による撮影の処理を説明するフローチャートである。 本発明の撮像装置における認証処理の一例を説明するフローチャートである。 携帯電話として実施した本発明の撮像装置の外観を示す図である。
符号の説明
1 撮像装置
11 撮像部
12 目の位置情報取得部
13 目の開閉状態認識部
14 開閉パターン認識部
15 制御部
16 記憶部
21 第1の筐体
22 第2の筐体
23 ヒンジ部
24 操作部
25 表示部
26 レンズ

Claims (5)

  1. 撮像手段と、
    前記撮像手段によって得られた画像において人物の目の位置情報を取得する目の位置情報取得手段と、
    前記目の位置情報取得手段によって得られた目の位置情報に基づいて目の開閉状態を認識する目の開閉状態認識手段と、
    前記目の開閉状態認識手段が認識した目の開閉状態が所定の開閉パターンを生じたかどうかを判定する開閉パターン認識手段と、
    前記開閉パターン認識手段において予め決められた開閉パターンが認識された場合、所定の処理を行う制御手段とを備えることを特徴とする撮像装置。
  2. 前記所定の処理は撮影であることを特徴とする請求項1に記載の撮像装置。
  3. 前記所定の処理は認証であることを特徴とする請求項1に記載の撮像装置。
  4. 前記認証は、顔認証を行って認証された人物において行われることを特徴とする請求項3に記載の撮像装置。
  5. 前記目の開閉状態認識手段は、目を中心とした一定の領域において空間周波数を抽出してコントラストを判別し、コントラストの強弱によって目の開閉状態を認識することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
JP2008114449A 2008-04-24 2008-04-24 撮像装置および撮像制御方法 Pending JP2009267733A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008114449A JP2009267733A (ja) 2008-04-24 2008-04-24 撮像装置および撮像制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008114449A JP2009267733A (ja) 2008-04-24 2008-04-24 撮像装置および撮像制御方法

Publications (1)

Publication Number Publication Date
JP2009267733A true JP2009267733A (ja) 2009-11-12

Family

ID=41393025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008114449A Pending JP2009267733A (ja) 2008-04-24 2008-04-24 撮像装置および撮像制御方法

Country Status (1)

Country Link
JP (1) JP2009267733A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019510412A (ja) * 2016-03-04 2019-04-11 マジック リープ, インコーポレイテッドMagic Leap,Inc. Ar/vrディスプレイシステムにおける電流ドレイン低減
US11966055B2 (en) 2018-07-19 2024-04-23 Magic Leap, Inc. Content interaction driven by eye metrics
US11966059B2 (en) 2016-03-25 2024-04-23 Magic Leap, Inc. Virtual and augmented reality systems and methods

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0883344A (ja) * 1994-09-14 1996-03-26 Mitsubishi Electric Corp 画像処理装置及び人物状態判定装置
JPH11242744A (ja) * 1998-02-24 1999-09-07 Sharp Corp 瞬き検出方法及び瞬き促進装置
JP2006209582A (ja) * 2005-01-31 2006-08-10 Konica Minolta Holdings Inc 開眼度推定装置および開眼度推定方法
JP2006212185A (ja) * 2005-02-03 2006-08-17 Matsushita Electric Ind Co Ltd 生体判別装置および認証装置ならびに生体判別方法
JP2008072183A (ja) * 2006-09-12 2008-03-27 Matsushita Electric Ind Co Ltd 撮像装置および撮像方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0883344A (ja) * 1994-09-14 1996-03-26 Mitsubishi Electric Corp 画像処理装置及び人物状態判定装置
JPH11242744A (ja) * 1998-02-24 1999-09-07 Sharp Corp 瞬き検出方法及び瞬き促進装置
JP2006209582A (ja) * 2005-01-31 2006-08-10 Konica Minolta Holdings Inc 開眼度推定装置および開眼度推定方法
JP2006212185A (ja) * 2005-02-03 2006-08-17 Matsushita Electric Ind Co Ltd 生体判別装置および認証装置ならびに生体判別方法
JP2008072183A (ja) * 2006-09-12 2008-03-27 Matsushita Electric Ind Co Ltd 撮像装置および撮像方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019510412A (ja) * 2016-03-04 2019-04-11 マジック リープ, インコーポレイテッドMagic Leap,Inc. Ar/vrディスプレイシステムにおける電流ドレイン低減
JP2020109522A (ja) * 2016-03-04 2020-07-16 マジック リープ, インコーポレイテッドMagic Leap,Inc. Ar/vrディスプレイシステムにおける電流ドレイン低減
JP2021185409A (ja) * 2016-03-04 2021-12-09 マジック リープ, インコーポレイテッドMagic Leap, Inc. Ar/vrディスプレイシステムにおける電流ドレイン低減
US11320900B2 (en) 2016-03-04 2022-05-03 Magic Leap, Inc. Current drain reduction in AR/VR display systems
US11402898B2 (en) 2016-03-04 2022-08-02 Magic Leap, Inc. Current drain reduction in AR/VR display systems
JP7190903B2 (ja) 2016-03-04 2022-12-16 マジック リープ, インコーポレイテッド Ar/vrディスプレイシステムにおける電流ドレイン低減
JP7274435B2 (ja) 2016-03-04 2023-05-16 マジック リープ, インコーポレイテッド Ar/vrディスプレイシステムにおける電流ドレイン低減
JP7280922B2 (ja) 2016-03-04 2023-05-24 マジック リープ, インコーポレイテッド Ar/vrディスプレイシステムにおける電流ドレイン低減
US11775062B2 (en) 2016-03-04 2023-10-03 Magic Leap, Inc. Current drain reduction in AR/VR display systems
US11966059B2 (en) 2016-03-25 2024-04-23 Magic Leap, Inc. Virtual and augmented reality systems and methods
US11966055B2 (en) 2018-07-19 2024-04-23 Magic Leap, Inc. Content interaction driven by eye metrics

Similar Documents

Publication Publication Date Title
JP4639869B2 (ja) 撮像装置およびタイマー撮影方法
JP4898475B2 (ja) 撮影制御装置、撮影装置、及び撮影制御方法
US20100123816A1 (en) Method and apparatus for generating a thumbnail of a moving picture
JP5704905B2 (ja) 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP5736796B2 (ja) 電子カメラ、プログラム及び記録媒体
JP6184189B2 (ja) 被写体検出装置およびその制御方法、撮像装置、被写体検出装置の制御プログラムおよび記憶媒体
US9402020B2 (en) Focus detection apparatus and control method for the same
US8350918B2 (en) Image capturing apparatus and control method therefor
KR101537948B1 (ko) 얼굴 포즈 추정을 이용한 촬영 방법 및 장치
US8786749B2 (en) Digital photographing apparatus for displaying an icon corresponding to a subject feature and method of controlling the same
GB2452364A (en) Capturing multiple focus areas based on facial recognition
KR20100048600A (ko) 인물 구도 제안 영상 촬영 장치 및 방법
US20140368695A1 (en) Control device and storage medium
WO2009089142A2 (en) Digital camera focusing using stored object recognition
US8988545B2 (en) Digital photographing apparatus and method of controlling the same
JP5384273B2 (ja) カメラ及びカメラの記録方法
JP5030022B2 (ja) 撮像装置及びそのプログラム
JP6149854B2 (ja) 撮像装置、撮像制御方法及びプログラム
KR101325002B1 (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
JP2000188713A (ja) 自動焦点制御装置及びその合焦動作決定方法
JP2013183185A (ja) 撮像装置、撮影制御方法及びプログラム
CN105959563A (zh) 图像存储方法和图像存储装置
KR20090083108A (ko) 특정 영역이 확대된 영상을 촬영된 영상에 부가하는촬영방법 및 이를 적용한 촬영장치
JP2009267733A (ja) 撮像装置および撮像制御方法
JP6033006B2 (ja) 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100826

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120301

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120731

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121127