JP6270854B2 - 情報処理装置、情報処理方法、及び、プログラム - Google Patents

情報処理装置、情報処理方法、及び、プログラム Download PDF

Info

Publication number
JP6270854B2
JP6270854B2 JP2015533877A JP2015533877A JP6270854B2 JP 6270854 B2 JP6270854 B2 JP 6270854B2 JP 2015533877 A JP2015533877 A JP 2015533877A JP 2015533877 A JP2015533877 A JP 2015533877A JP 6270854 B2 JP6270854 B2 JP 6270854B2
Authority
JP
Japan
Prior art keywords
area
video information
display unit
imaging unit
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015533877A
Other languages
English (en)
Other versions
JPWO2015029199A1 (ja
Inventor
益岡 信夫
信夫 益岡
正幸 平林
正幸 平林
西島 英男
英男 西島
吉澤 和彦
和彦 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Maxell Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Ltd filed Critical Maxell Ltd
Publication of JPWO2015029199A1 publication Critical patent/JPWO2015029199A1/ja
Application granted granted Critical
Publication of JP6270854B2 publication Critical patent/JP6270854B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)

Description

本発明は、情報処理装置、情報処理方法、及び、プログラムに関する。
本技術分野の背景技術として、特許文献1がある。特許文献1には、「カメラ(撮像部)と表示装置を備えたカメラ付情報端末において、撮影時に、表示装置に白100%の信号に基づく表示をさせることにより補助光として点灯させる」旨記載されている。
特開2005−286440号公報
上記特許文献1に記載の情報処理装置においては、暗い環境においても良好な撮影を行えるようにしたものである。しかし、撮影前の撮影映像の確認時については、何ら考慮されていない。情報処理装置にて撮影する際は、撮像部で撮影している映像が表示部に表示され、ユーザーは表示部に表示されている映像情報を確認し、所望の映像が撮影できるように、情報処理装置の位置を調整している。上記特許文献1に記載の情報処理装置においては、暗い環境下で撮影する時は、表示部が補助光として作用し、良好な映像を撮影することができる。しかし、撮影前の確認時は、表示部には暗い映像が表示されるため、あまりにも暗い環境下においては、表示される映像が暗すぎて確認できない可能性があった。
本発明は、上記課題を解決し、より使い勝手のよい情報処理装置、情報処理方法並びにこれを実現するプログラムを提供するものである。
本願において開示される発明のうち代表的なものの概要を簡単に説明すれば次の通りである。
(1)情報処理装置であって、撮像部と、表示部と、照度センサと、を備え、前記撮像部と前記表示部とは、前記情報処理装置の第一の面側に配置されており、前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の少なくとも一部を補助光として用いるモードを備えることを特徴とする情報処理装置である。
(2)(1)記載の情報処理装置であって、前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の第一の領域には前記撮像部により取り込んだ映像情報を表示し、前記表示部の第二の領域には前記映像情報とは異なる映像情報を前記第一の領域よりも高い輝度で表示することを特徴とする情報処理装置である。
(3)撮像部と、表示部と、照度センサと、を備えた情報処理装置を用いた情報処理方法であって、前記照度センサにより照度を検出するステップと、前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の少なくとも一部を補助光として用いるモードに設定するステップと、を有することを特徴とする情報処理方法である。
(4)撮像部と、表示部と、照度センサと、を備えた情報処理装置に、前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の少なくとも一部を補助光として用いるモードに設定するステップを実行させるためのプログラムである。
本発明によれば、上記課題を解決し、より使い勝手のよい情報処理装置、情報処理方法並びにこれを実現するプログラムを提供することができる。
情報処理装置の内部構成例を示すブロック図である。 情報処理装置の外観図である ユーザーが自分自身を撮影している様子を示す図である。 第2撮像部における映像取り込みのモード選択の動作を示すフローチャートである。 通常モードにおける映像取り込み処理の動作を示すフローチャートである。 通常モード時における表示部の表示例を示した図である。 暗所モードにおける映像取り込み処理の動作を示すフローチャートである。 暗所モードにおける表示部の表示例を示した図である。 暗所モードにおいて、照度センサにて検出した値と、第1の領域の補助光表示の輝度の関係例を示した図である。 暗所モードにおいて、照度センサにて検出した値と、第1の領域の補助光表示の輝度の別の関係例を示した図である。 暗所モードにおける表示部の別の表示例を示した図である。 暗所モードにおける表示部の別の表示例を示した図である。 第2の領域からの距離と第1の領域の輝度の関係を示した図である。 実施例2における暗所モード時の映像取り込み処理の動作を示すフローチャートである。 実施例3における暗所モード時の映像取り込み処理の動作を示すフローチャートである。 処理を開始してからの時間と第1の領域の輝度の関係を示した図である。 実施例4における暗所モード時の映像取り込み処理の動作を示すフローチャートである。 実施例5における暗所モード時の映像取り込み処理の動作を示すフローチャートである。 光量増加処理特性の一例を示した図である。 表示部の状態を示す図である。 光量増加処理特性の別の例を示した図である。
以下、実施例を図面を用いて説明する。
図1は、実施例1における情報処理装置100の内部構成例を示すブロック図である。
ここでは、スマートフォンの場合を例にして説明する。情報処理装置100は、基地局通信部101、CPU102、メモリ103、ストレージ104、GPS(Global Positioning System)受信部105、地磁気センサ106、加速度センサ107、ジャイロセンサ108、照度センサ109、入出力I/F110、無線通信部111、マイク112、音声処理部113、スピーカ114、操作入力部115、表示部116、タッチパネル117、画像処理部118、第1撮像部119、第2撮像部120、操作ボタン121を適宜用いて構成され、それぞれはバス150を介して相互に接続されている。
基地局通信部101は、W−CDMA(Wideband Code Division Multiple Access)やGSM(登録商標)(Global System for Mobile communications)などの基地局(図示せず)と遠距離の無線通信を行う通信インターフェイスである。
CPU102は、メモリ103に記憶したプログラムを実行することによって、各構成部を制御し、各種の処理を行っている。
メモリ103は、例えばフラッシュメモリなどであり、プログラム、データなどを記憶している。メモリ103に記憶されるプログラムは、基地局通信部101が基地局と無線通信を行い、図示しない外部サーバーなどからダウンロードすることにより、随時更新・追加することが可能である。また、情報処理装置100は例えばメモリーカードなどのストレージ104を取り付け可能であり、ストレージ104にもデータなどを保存することができる。
GPS受信部105は、上空にあるGPS衛星からの信号を受信するものである。これにより、情報処理装置100の現在の位置情報を検出することができる。
地磁気センサ106は情報処理装置100の向いている方向を検出するセンサである。
加速度センサ107は情報処理装置100の加速度を検出するセンサであり、ジャイロセンサ108は、情報処理装置100の角速度を検出するセンサである。これらにより、情報処理装置100の傾き、動きを詳細に検出することができる。
照度センサ109は、明るさを検出するセンサであり、これにより情報処理装置100の周囲の明るさを知ることができる。
入出力I/F110は、例えばUSB(Universal Serial Bus)などであり、外部機器(図示せず)とデータの送受信を行うインターフェイスである。
無線通信部111は、IEEE802.11a/b/nなどの無線LANによる無線通信を行う通信インターフェイスである。
マイク112は、外部の音声を入力するものであり、スピーカ114は、外部に対して音声を出力するものである。入出力される音声は、音声処理部113にて音声処理される。
タッチパネル117は、操作入力部115、表示部116を適宜用いて構成される。表示部116は液晶パネルなどであり、映像や画像を表示するものであり、その表示面にはタッチパッドのような操作入力部115を有する。
操作入力部115は、例えば静電容量式などのタッチパッドであり、指やタッチペンなどによる接触操作(以降、タッチという)を操作入力として検出するものである。例えば、表示部116にコマンド(機能)のメニュー等を表示し、使用者が所望のコマンドをタッチして選択することで、そのタッチ位置を検出し、そのタッチ位置に表示されているコマンドを受け付けるものである。操作入力部115にて受け付けたタッチあるいはタッチ動作はCPU102に入力され処理される。
第1撮像部119、第2撮像部120は、例えばカメラなどである。表示部116に表示される映像や、第1撮像部119や第2撮像部120から入力された映像は、画像処理部118にて処理される。なお、本実施例では、情報処理装置100の背面側に配置されたものを第1撮像部119、正面側(表示面側)に配置されたものを第2撮像部120とする。
操作ボタン121は、プッシュボタンスイッチなどであり、操作ボタン121が押されたことを検出すると、CPU102に入力され、その操作ボタン121に対応した動作を実行する。情報処理装置100が第1撮像部119又は第2撮像部120にて撮影するモードの場合は、操作ボタン121がシャッターボタンとして機能することが可能となっている。
図2は、実施例1における情報処理装置100の外観図である。図2(a)は正面側から見た図、図2(b)は背面側から見た図である。
図2に示すように、情報処理装置100の正面側に、照度センサ109、マイク112、スピーカ114、タッチパネル117、第2撮像部120が配置されている。また、情報処理装置100の背面側には、第1撮像部119が配置され、情報処理装置100の側面に操作ボタン121が配置されている。第1撮像部119は、情報処理装置100の背面側の映像を撮影するものであり、第2撮像部120は正面側の映像を撮影するものである。撮影する場合は、第1撮像部119あるいは第2撮像部120により取り込まれる映像情報を表示部116に表示されるようになっており、表示部116をファインダーとして使用することができる。以降、取り込まれた映像情報をそのまま表示することをスルー表示という。
図3は、ユーザーが自分自身を撮影している様子を示した図である。ユーザーが自分自身(例えば顔)を撮影する場合は、図3(a)に示すように、自分の顔の前に情報処理装置100を配置する。このとき、表示部116、第2撮像部120が配置された面(正面)側をユーザーの方に向けて配置する。これは、ファインダーとして機能する表示部116をユーザー自身が見るためである。したがって、撮影は第2撮像部120にて行うことになる。上記したように、撮影時は図3(b)に示すように第2撮像部120に取り込まれている映像情報が表示部116にスルー表示される。ユーザーは、表示部116にて、第2撮像部120にて撮影される構図を確認することができる。しかし、暗い環境下において撮影する場合、表示部116にスルー表示される映像が暗い映像となり、構図を確認しにくい場合がある。よって、本実施例における情報処理装置100においては、これに対応すべく、暗所モードを設けている。暗所モードの詳細については、後述する。
図4は、第2撮像部120における映像取り込みのモード選択の動作を示すフローチャートである。本処理は、ユーザーがタッチパネル117にてメニュー操作等を行い、第2撮像部120により撮影する処理(映像取り込み処理)を選択した時に、本処理を開始する。
本処理が開始されると、照度センサ109を起動させ、情報処理装置100の周囲環境の照度を検出する(S401)。照度センサ109による検出値が所定値以上の場合(S402−Yes)、すなわち、周囲の明るさが所定以上の場合は、通常モードによる映像取り込み処理を行う(S403)。また、上記照度センサ109による検出値が所定値以下の場合(S402−No)、すなわち周囲の明るさが所定以下の場合は、暗所モードによる映像取り込み処理を行う(S404)。それぞれのモードにおける映像取り込み処理について、以下詳細に説明する。なお、ここでは、第2撮像部120により撮影する処理を選択した時に照度センサ109を起動する場合を例に示すが、既に照度センサが起動している状態で第2撮像部120により撮影する処理を選択した時にはS402から開始すればよい。
図5は、通常モードにおける映像取り込み処理(図4−S403)の動作を示すフローチャートである。
第2撮像部120を起動させ(S501)、第2撮像部120による映像情報の取り込みを行う(S502)。第2撮像部120にて取り込んだ映像情報を表示部116にスルー表示させる(S503)。これにより、表示部116がファインダーとして機能し、ユーザーは、第2撮像部120で撮影する構図を確認することができる。図6は、通常モード時における表示部116の表示例を示した図である。図6に示すように、表示部116全体に第2撮像部120にて取り込んでいる映像情報をスルー表示している。ユーザーは、表示部116を確認し、所望の構図になるように情報処理装置100の位置を調整し、シャッターボタンとして機能する操作ボタン121を押す。情報処理装置100は、操作ボタン121が押されたことを検出すると(S504−Yes)、第2撮像部にて映像情報を取り込み(S505)、画像処理部118にて所定の処理を行った後に、映像情報を例えばストレージ104に記録し(S506)、処理を終了する。
操作ボタン121が押されたことを検出するステップS504にて、検出できなかった場合は(S504−No)、映像情報を取り込むステップ(S502)と、取り込んだ映像情報を表示するステップ(S503)を繰り返す。すなわち、操作ボタン121が押されるまで、第2得撮像部120にて取り込んでいる映像情報が表示部116にスルー表示される。
図7は、暗所モードにおける映像取り込み処理(図4−S404)の動作を示すフローチャートである。
第2撮像部120を起動させ(S701)、表示部116の第1の領域161を略同一色(例えば白色など)で表示する補助光表示とする(S702)。補助光表示の詳細については、後述する。次に、第2撮像部120にて映像情報の取り込みを行い(S703)、第2撮像部120にて取り込んだ映像情報を表示部116の第2の領域162にスルー表示させる(S704)。
ここで、上記第1の領域161と第2の領域162について説明する。図8は、暗所モードにおける表示部116の表示例を示した図である。図8に示すように、表示部116を複数の領域(ここでは2つ)に分割している。第1の領域161の補助光表示は、上記したように、領域全体を略同一色で表示するものであり、補助光として機能する。補助光表示は、例えば表示部116が液晶パネルのようにR、G、Bの3色の画素で構成されるデバイスの場合は、R、G、Bの各画素のそれぞれが所定の階調の映像信号となるようにする。例えば白色を表示する場合は、R、G、Bのそれぞれの階調がほぼ同一とする。また、第2の領域162には、第2撮像部120にて取り込んでいる映像情報をスルー表示することで、ファインダーとして機能する。なお、ここでは補助光表示する第1の領域を表示部の上方としスルー表示する第2の領域を表示部の下方とする例を示すが、これに限られず、例えば第2の領域を囲むように第1の領域を設けてもよく、また、第2の領域の上下又は左右に第1の領域を設けるようにしても構わない。また、スルー画像からの被写体認識結果に応じてより被写体が鮮明に撮影出来るように適宜補助光表示するエリアを調整するようにしてもよい。
次に、補助光表示の輝度について説明する。図9は、暗所モードにおいて、照度センサ109にて検出した値と、第1の領域161の補助光表示の輝度の関係例を示した図である。照度センサ109の値が所定値(ここではE)以下の場合は、暗所モードとなり、第1の領域161を輝度Lにて補助光表示とする。輝度Lの値は、表示部116の表示可能な輝度の最大値である。例えば表示部116がR、G、Bの3色の画素で構成される液晶などのデバイスの場合は、R、G、Bの各画素の階調を最大とした状態である。情報処理装置100は、表示部116の輝度を調整設定する機能を有している。表示部116の輝度設定を最大で使用すると明るすぎるため、通常使用時は、輝度をある程度抑えた設定値(ここでは、L)としている場合が多い。第1の領域161を、輝度を抑えた設定値Lにて補助光表示を行った場合、被写体を照らす光量が不足し、鮮明な映像情報を取り込むことができない場合がある。これにより、表示部116の輝度を抑えた設定の場合においても、被写体を明るく照らすことができ、第2撮像部120にて鮮明に撮影することができる。なお、照度センサ109の値が所定値E以上の場合は、通常モードとなるため、第1の領域161の輝度はE以下のみとなる。
ユーザーは、第2の領域162にスルー表示される映像情報を確認し、所望の構図になるように情報処理装置100の位置を調整し、シャッターボタンとして機能する操作ボタン121を押す。情報処理装置100は、操作ボタン121が押されたことを検出すると(S705−Yes)、第2撮像部にて映像情報を取り込み(S706)、画像処理部118にて所定の処理を行った後に、映像情報を例えばストレージ104に記録し(S707)、処理を終了する。
操作ボタン121が押されたことを検出するステップS705にて、検出できなかった場合は(S705−No)、映像情報を取り込むステップ(S703)と、取り込んだ映像情報を第1の領域161に表示するステップ(S704)を繰り返す。すなわち、操作ボタン121が押されるまで、第2得撮像部120にて取り込んでいる映像情報が表示部116にスルー表示される。
以上により、暗い環境下においては、第1の領域161の補助光表示が照明として機能し、被写体を明るく照らすので、第2撮像部120にて取り込んでいる映像情報の構図を確認することができる。
また、上記においては、第1の領域161の輝度を一定とした例を示したが、これに限定されるものではない。例えば、図10(a)に示すように、第1の領域161の輝度の設定値を複数個(ここでは、L、L、Lの3個)持つようにし、輝度センサ109の値に応じて段階的に変化させるようにしてもよい。また、図10(b)に示すように、輝度センサ109の値に応じて、第1の領域161の輝度の値をLからLに変化させるようにしてもよい。このように、輝度センサ109の値に応じて第1の領域161の輝度を変化さることで、第1の領域161を補助光表示とすることによる電力消費量の増加を抑えることができる。さらには、第1の領域161の輝度を下げることにより、ユーザーへの眩しさを低減することができる。また、照度センサ109に応じた輝度制御のほか、スルー画像からの被写体認識結果に応じて輝度を制御するようにしてもよい。
なお、上記実施の形態においては、第1の領域161の輝度Lの値を、表示部116の輝度の最大値としているが、これに限定されるものではない。第2撮像部120にて撮影するのに必要な光量が得られれば良い。
図11は、暗所モードにおける表示部116の別の表示例を示した図である。上記実施例においては、第1の領域161と第2の領域162の面積を略等しくした例を説明したが、図11に示すように、第1の領域161と第2の領域の面積を異ならせてもよい。図11に示すように、第1の領域161の面積を第2の領域162よりも大きくすることにより、第1の領域161の光量を大きくすることができ、より明るい映像情報を取り込むことができる。
また、図11に示すように、表示部116にボタン122を表示させ、シャッターボタンとしてもよい。このときは、ユーザーが、ボタン122をタッチすると、タッチした時の映像情報がストレージ104に記録される。
図12は、暗所モードにおける表示部116の別の表示例を示した図である。図13は、第2の領域162からの距離と第1の領域161の輝度の関係を示した図である。上記実施の形態においては、第1の領域161内を同一輝度として例を説明したが、これに限定されるものではない。図12、図13に示すように、第1の領域161において、第2の領域162から離れた側の輝度Lに対して、第2の領域に近い側の輝度Lを小さくし、表示部116の長辺方向に輝度の傾斜を持たせてもよい。第2の領域162に表示される映像情報は、暗い環境下で取り込まれた映像であるため、輝度の低い映像である。図に示すように、第1の領域161と第2の領域162は隣接している。第2の領域162に近い方を暗くするよう輝度傾斜を持たせると、第1の領域161と第2の領域162の境界部分の輝度差が小さくなるため、第2の領域162にスルー表示される映像情報が視認し易くなる。
以上により、暗い環境下においても、第2撮像部120にて明るい映像情報を撮影することができる。さらには、表示部116に第2撮像部120にて取り込んだ映像情報を表示する際も、第1の領域161が被写体を照らす照明として機能するため、容易に構図の確認を行うことができる。
尚、本実施例で示した各変形例は適宜組み合わせて実施するようにしてもよく、後述する他の実施例と組み合わせても構わない。
実施例2における情報処理装置100について説明する。
情報処理装置100の内部構成、外観などは、上記実施例1と同等であるため、これを援用するものとして適宜説明は省略する。また、第2撮像部120における映像取り込みのモード選択の動作、通常モード時における映像取り込み処理についても実施例1と同等であるため、これを援用するものとして適宜説明は省略する。
図14は、実施例2における暗所モード時の映像取り込み処理の動作を示すフローチャートである。第2撮像部120を起動させ(S1201)、表示部116の第1の領域161を補助光表示とする(S1202)。次に、第2撮像部120にて映像情報の取り込みを行い(S1203)、第2撮像部120にて取り込んだ映像情報を表示部116の第2の領域162にスルー表示させる(S1204)。ユーザーは、第2の領域162を確認し、所望の構図になるように情報処理装置100の位置を調整し、シャッターボタンとして機能する操作ボタン121を押す。情報処理装置100は、操作ボタン121が押されたことを検出すると(S1205−Yes)、表示部116全体を補助光表示とする(S1206)。第2撮像部にて映像情報を取り込み(S1207)、画像処理部118にて所定の処理を行った後に、映像情報をストレージ104に記録し(S1208)、処理を終了する。操作ボタン121が押されたことを検出できなかった場合は(S1205−No)、映像情報を取り込むステップ(S1203)と、取り込んだ映像情報を第1の領域161に表示するステップ(S1204)を繰り返す。すなわち、操作ボタン121が押されるまで、第2得撮像部120にて取り込んでいる映像情報が表示部116にスルー表示される。
本実施例2が上記実施例1の動作と異なるのは、シャッターボタンとして機能する操作ボタン121が押されたことを検出すると(S1205−Yes)、表示部116全体を補助光表示とし(S1206)、第2撮像部120にて映像情報を取り込んでいる(S1207)点である。ストレージ104に記録する映像情報を取り込む際は、構図の確認の必要がないため、表示部116全体を補助光表示としても問題ない。補助光表示の面積を大きくすることにより、映像情報を取り込む際(S1207)、被写体を照らす光量を大きくすることができるため、より鮮明な映像情報を記録することができる。
以上により、暗い環境下においては、第1の領域161の補助光表示が照明として機能し、被写体を明るく照らすので、第2撮像部120にて取り込んでいる映像情報の構図を確認することができる。また、ストレージ104に記録する映像情報を取り込む際は、表示部116全体を補助光表示とすることで、より鮮明な映像情報を記録することができる。
実施例3における情報処理装置100について説明する。
情報処理装置100の内部構成、外観などは、上記実施例1と同等であるため、これを援用するものとして、適宜説明は省略する。また、第2撮像部120における映像取り込みのモード選択の動作、通常モード時における映像取り込み処理についても実施例1、実施例2と同等であるため、これを援用するものとして、適宜説明は省略する。
図15は、実施例3における暗所モード時の映像取り込み処理の動作を示すフローチャートである。第2撮像部120を起動させ(S1301)、表示部116の第1の領域161を第1の輝度Lにて補助光表示とする(S1302)。次に、第2撮像部120にて映像情報の取り込みを行い(S1303)、第2撮像部120にて取り込んだ映像情報を表示部116の第2の領域162にスルー表示させる(S1304)。ユーザーは、第2の領域162を確認し、所望の構図になるように情報処理装置100の位置を調整し、シャッターボタンとして機能する操作ボタン121を押す。情報処理装置100は、操作ボタン121が押されたことを検出すると(S1305−Yes)、表示部116の第1の領域161を第2の輝度Lにて補助光表示とする(S1306)。第2撮像部にて映像情報を取り込み(S1307)、画像処理部118にて所定の処理を行った後に、映像情報をストレージ104に記録し(S1308)、処理を終了する。操作ボタン121が押されたことを検出できなかった場合は(S1305−No)、映像情報を取り込むステップ(S1303)と、取り込んだ映像情報を第1の領域161に表示するステップ(S1304)を繰り返す。すなわち、操作ボタン121が押されるまで、第2得撮像部120にて取り込んでいる映像情報が表示部116にスルー表示される。
次に、上記第1の輝度Lと第2の輝度Lについて説明する。図16は、本処理を開始してからの時間と第1の領域161の輝度の関係を示した図である。時間Tは、第1の領域161を第1の輝度Lにて補助光表示とするステップ(S1302)が行われた時間である。時間Tは、第1の領域161を第2の輝度Lにて補助光表示とするステップ(S1306)が行われた時間である。時間Tは、本処理を終了した時間である。
図に示すように、第2の輝度Lは、上記実施例1の輝度Lに相当し、表示部116の輝度の最大値である。第1の輝度Lは、第2の輝度Lに対して小さい値に設定されている。第1の領域161の輝度は第1の輝度Lである時間T〜Tの間は、ユーザーが第2の領域162にスルー表示された映像情報にて、第2撮像部120にて取り込まれている映像情報の構図を確認する処理を行っている時である。このときは、構図を確認するだけなので、多少暗い映像情報でも特に問題はない。
また、ストレージ104に記録する映像情報を取り込むステップ(S1307)のときは、第1の領域161の輝度は、第2の輝度Lである。よって、ストレージ104に記録する映像情報を取り込む時は、第1の領域161の輝度は高いため、被写体を明るく照らすことができ、実施例1と同様に鮮明な映像情報を記録することができる。
以上により、暗い環境下においては、第1の領域161の補助光表示が照明として機能し、被写体を明るく照らすので、第2撮像部120にて取り込んでいる映像情報の構図を確認することができる。また、構図の確認中は、第1の領域161の輝度を下げることにより、ユーザーへの眩しさを低減することができ、輝度Lで光らせる時間を小さくすることで、第1の領域161を補助光表示とすることによる電力消費量の増加を抑えることができる。
実施例4における情報処理装置100について説明する。
情報処理装置100の内部構成、外観などは、上記実施例1と同等であるため、これを援用するものとして、適宜説明は省略する。また、第2撮像部120における映像取り込みのモード選択の動作、通常モード時における映像取り込み処理についても実施例1乃至実施例3と同等であるため、これを援用するものとして、適宜説明は省略する。
図17は、実施例4における暗所モード時の映像取り込み処理の動作を示すフローチャートである。第2撮像部120を起動させ(S1501)、表示部116の第1の領域161を第1の輝度Lにて補助光表示とする(S1502)。次に、第2撮像部120にて映像情報の取り込みを行い(S1503)、第2撮像部120にて取り込んだ映像情報を表示部116の第2の領域162にスルー表示させる(S1504)。ユーザーは、第2の領域162を確認し、所望の構図になるように情報処理装置100の位置を調整し、シャッターボタンとして機能する操作ボタン121を押す。情報処理装置100は、操作ボタン121が押されたことを検出すると(S1505−Yes)、表示部116全体を第2の輝度Lにて補助光表示とする(S1506)。第2撮像部にて映像情報を取り込み(S1507)、画像処理部118にて所定の処理を行った後に、映像情報をストレージ104に記録し(S1508)、処理を終了する。操作ボタン121が押されたことを検出できなかった場合は(S1505−No)、映像情報を取り込むステップ(S1503)と、取り込んだ映像情報を第1の領域161に表示するステップ(S1504)を繰り返す。すなわち、操作ボタン121が押されるまで、第2得撮像部120にて取り込んでいる映像情報が表示部116にスルー表示される。
上記実施例3の動作と異なるのは、シャッターボタンである操作ボタン121が押されたことを検出すると(S1505−Yes)、表示部116全体を補助光表示とし(S1506)、第2撮像部120にて映像情報を取り込んでいる(S1507)点である。ストレージ104に記録する映像情報を取り込む際は、構図の確認の必要がないため、表示部116全体を補助光表示としても問題ない。補助光表示の面積を大きくすることにより、映像情報を取り込む際(S1507)、被写体を照らす光量を大きくすることができるため、より鮮明な映像情報を記録することができる。
以上により、暗い環境下においては、第1の領域161の補助光表示が照明として機能し、被写体を明るく照らすので、第2撮像部120にて取り込んでいる映像情報の構図を確認することができる。また、構図の確認中は、第1の領域161の輝度を下げることにより、ユーザーへの眩しさを低減することができ、輝度Lで光らせる時間を小さくすることで、第1の領域161を補助光表示とすることによる電力消費量の増加を抑えることができる。さらには、ストレージ104に記録する映像情報を取り込む際は、表示部116全体を補助光表示とすることで、被写体を照らす照明の光量を大きくすることができるので、より鮮明な映像情報を記録することができる。
実施例5における情報処理装置100について説明する。
情報処理装置100の内部構成、外観などは、上記実施例1と同等であるため、これを援用するものとして、適宜説明は省略する。また、第2撮像部120における映像取り込みのモード選択の動作、通常モード時における映像取り込み処理についても実施例1乃至実施例4と同等であるため、これを援用するものとして、適宜説明は省略する。
図18は、実施例5における暗所モード時の映像取り込み処理の動作を示すフローチャートである。第2撮像部120を起動させ(S1801)、第2撮像部120にて映像情報の取り込みを行う(S1802)。次に、画像処理部118により取り込んだ映像情報の光量増加処理を行い(S1803)、表示部116に表示する(S1804)。光量増加処理とは、表示部116より出射する総光量を増加させる処理である。
図19は、光量増加処理特性の一例を示した図である。光量増加処理を行わない入力信号=出力信号の特性(一点鎖線200)に対して、光量増加処理を行った特性(実線201)は、低域から高域までGo大きくなるようシフトさせる。本処理により、表示部116に表示される映像情報は、各画素の輝度が大きくなった状態で表示されるため、出射する光量が増加し、被写体を照らす照明として機能する。
図20は、上記表示するステップ(S1804)における表示部116の状態を示す図である。図に示すように、第2撮像部120より取り込んだ映像情報に対して光量増加処理を行い、表示部116全体に表示させている。表示部116の領域内にて画素ごとに輝度、色が異なるため、被写体を照らす照明としてはムラになるが、ここでは、構図(被写体の位置)を確認するだけなので、特に影響はない。
ユーザーは、表示部116を確認し、所望の構図になるように情報処理装置100の位置を調整し、シャッターボタンである操作ボタン121を押す。情報処理装置100は、操作ボタン121が押されたことを検出すると(S1805−Yes)、表示部116を補助光表示とし(S1806)、第2撮像部にて映像情報を取り込む(S1807)。取り込んだ映像情報を画像処理部118にて所定の処理を行った後に、ストレージ104に記録し(S1808)、処理を終了する。このように、ストレージ104に記録する映像情報を取り込む際、表示部116全体を補助光表示としているため、均一な照明で被写体を照らすことができ、鮮明な映像情報を記録することができる。
上記シャッターボタンである操作ボタン121が押されたことを検出するステップ(S1805)にて、検出できなかった場合は(S1805−No)、映像情報を取り込むステップ(S1802)に戻る。すなわち、操作ボタン121が押されるまで、第2得撮像部120にて取り込んだ映像情報の光量増加処理を行い、表示部116に表示する処理を繰り返す。
図21は、光量増加処理特性の別の例を示した図である。上記光量増加処理においては、低域から高域に対して一律Goだけ大きくなるようシフトさせていたが、本光量増加処理においては、高域に行くに従って、シフト量を減少するようにしている。上記光量増加処理に比べて、光量増加量は減るが、表現できる階調を多くとることができるため、視認しやすい利点がある。また、照度センサ109による検出値に応じて、光量増加処理のシフト量を変化させてもよい。
本実施例の動作が、上記実施例1乃至実施例4の動作と異なるのは、表示部116に光量増加処理した映像情報を表示している点である。これにより、表示部116が被写体を照らす照明として機能するため、容易に構図の確認をすることができる。また、操作ボタン121が押されたことを検出すると、表示部116全体を補助光表示とし、第2撮像部120にて映像情報を取り込んでいる。これにより、表示部116全体を補助光表示として均一な照明で被写体を照らした状態で映像情報を取り込んでいるため、鮮明な映像情報を記録することができる。
上記実施例1乃至実施例5においては、第2撮像部120にて取り込んだ映像情報をストレージ104に記録するモードに適用した例を説明したが、これに限定されるものではない。表示部116が搭載されている面側に配置された撮像部(ここでは、第2撮像部120)にて撮影するモードであれば適用できる。例えば、顔認証にてキーロック機能を解除するときの顔を撮影するモードにも適用することができる。
また、補助光表示時の輝度や、光量増加処理のシフト量を徐々に大きくしていき、第2撮像部120にて取り込んだ映像情報が所定の明るさを得られた時点で、ストレージ104に記録したり、顔認証を行ってもよい。
また、上記実施例においては、スマートフォンを例に説明したが、これに限定されるものではなく、例えばタブレット、ノートパソコン、デスクトップパソコンなどに用いてもよい。
また、各実施例において、暗所モードにおける動作フローを複数示したが、情報処理装置における暗所モードでの動作はこのうちいずれか一つに限定されるものではなく、各動作フローに対応した複数の暗所モードを備え、予めユーザがいずれかの暗所モードを設定出来るようにしても構わない。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。また、各実施例で示した構成を組み合わせても用いても構わない。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、フラッシュメモリなどのメモリ、または、メモリーカードなどのストレージに置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
100 情報処理装置
109 照度センサ
116 表示部
119 第1撮像部
120 第2撮像部
161 第1の領域
162 第2の領域

Claims (8)

  1. 情報処理装置であって、
    撮像部と、表示部と、照度センサと、を備え、
    前記撮像部と前記表示部とは、前記情報処理装置の第一の面側に配置されており、
    前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の少なくとも一部を補助光として用いるモードを備えており、
    前記撮像部により取り込んだ映像情報から得られた被写体認識結果に応じて、前記表示部における前記補助光を表示するエリアを調整し、
    前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、
    前記表示部の第一の領域には前記撮像部により取り込んだ映像情報を表示し、
    前記表示部の第二の領域には前記映像情報とは異なる映像情報を前記第一の領域よりも高い輝度で表示し、
    前記表示部の第二の領域のうち、前記第一の領域に近い領域の輝度が、前記第一の領域より遠い領域の輝度よりも低いことを特徴とする情報処理装置。
  2. 請求項記載の情報処理装置であって、
    前記表示部の第二の領域内は略同一の輝度であることを特徴とする情報処理装置。
  3. 請求項1または2記載の情報処理装置であって、
    前記表示部の第二の領域の輝度は、前記照度センサの検出値に応じて変化することを特徴とする情報処理装置。
  4. 請求項1乃至3のいずれかに記載の情報処理装置であって、
    前記表示部の第二の領域は前記第一の領域の上下又は左右にあることを特徴とする情報処理装置。
  5. 請求項1記載の情報処理装置であって、
    前記表示部は、
    前記撮像部により取り込まれた映像情報に対して光量増加処理を施した映像情報をスルー表示し、
    前記スルー表示した状態で、前記撮像部により取り込まれた映像情報を記録するようにユーザからの指示を受け付けた場合には、補助光表示として前記映像情報よりも高い輝度の表示に切り替わることを特徴とする情報処理装置。
  6. 撮像部と、表示部と、照度センサと、を備えた情報処理装置を用いた情報処理方法であって、
    前記照度センサにより照度を検出するステップと、
    前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の少なくとも一部を補助光として用いるモードに設定するステップと、
    前記モードが設定されると、前記表示部の第一の領域には前記撮像部により取り込んだ映像情報を表示し、前記表示部の第二の領域には前記映像情報とは異なる映像情報を前記第一の領域よりも高い輝度で表示するステップと、
    を有し、
    前記補助光として用いるモードに設定するステップは、前記撮像部により取り込んだ映像情報から得られた被写体認識結果に応じて、前記表示部における前記補助光を表示するエリアを調整し、
    前記表示部の第二の領域のうち、前記第一の領域に近い領域の輝度が、前記第一の領域より遠い領域の輝度よりも低いことを特徴とする情報処理方法。
  7. 請求項記載の情報処理方法であって、
    前記モードが設定されると、前記表示部は、前記撮像部により取り込まれた映像情報に対して光量増加処理を施した映像情報をスルー表示し、前記スルー表示した状態で、前記撮像部により取り込まれた映像情報を記録するようにユーザからの指示を受け付けた場合には、補助光表示として前記映像情報よりも高い輝度の表示に切り替わるステップを有することを特徴とする情報処理方法。
  8. 撮像部と、表示部と、照度センサと、を備えた情報処理装置に実行させるプログラムであって、
    前記プログラムは、前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、前記表示部の少なくとも一部を補助光として用いるモードに設定するステップを有し、
    前記補助光として用いるモードに設定するステップにおいて、前記撮像部により取り込んだ映像情報から得られた被写体認識結果に応じて、前記表示部における前記補助光を表示するエリアを調整し、
    前記照度センサの検出値が所定値以下で前記撮像部により撮像する場合に、
    前記表示部の第一の領域には前記撮像部により取り込んだ映像情報を表示し、
    前記表示部の第二の領域には前記映像情報とは異なる映像情報を前記第一の領域よりも高い輝度で表示し、
    前記表示部の第二の領域のうち、前記第一の領域に近い領域の輝度が、前記第一の領域より遠い領域の輝度よりも低い、プログラム。
JP2015533877A 2013-08-30 2013-08-30 情報処理装置、情報処理方法、及び、プログラム Active JP6270854B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/073241 WO2015029199A1 (ja) 2013-08-30 2013-08-30 情報処理装置、情報処理方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JPWO2015029199A1 JPWO2015029199A1 (ja) 2017-03-02
JP6270854B2 true JP6270854B2 (ja) 2018-01-31

Family

ID=52585815

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015533877A Active JP6270854B2 (ja) 2013-08-30 2013-08-30 情報処理装置、情報処理方法、及び、プログラム

Country Status (4)

Country Link
US (1) US9942483B2 (ja)
JP (1) JP6270854B2 (ja)
CN (1) CN105493494B (ja)
WO (1) WO2015029199A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150163410A1 (en) * 2013-12-10 2015-06-11 Semiconductor Energy Laboratory Co., Ltd. Display Device and Electronic Device
US20170134625A1 (en) * 2015-11-09 2017-05-11 Qualcomm Incorporated Dedicated illumination element and display based flash illumination for image capture
US9762807B1 (en) * 2016-03-10 2017-09-12 Intel Corporation Using display light to improve front facing camera performance
KR20180024299A (ko) * 2016-08-29 2018-03-08 삼성전자주식회사 조도를 측정하는 방법 및 그 전자 장치
CN107222664B (zh) * 2017-05-03 2020-03-06 Oppo广东移动通信有限公司 相机模组及电子装置
WO2019243955A1 (ja) * 2018-06-22 2019-12-26 株式会社半導体エネルギー研究所 情報処理方法、画像表示方法、情報処理装置、及び画像表示装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004180245A (ja) * 2002-11-29 2004-06-24 Casio Comput Co Ltd 携帯端末機器、撮像装置、撮像方法及びプログラム
JP2004187154A (ja) * 2002-12-05 2004-07-02 Sharp Corp カメラ搭載携帯端末
JP4281353B2 (ja) * 2002-12-27 2009-06-17 カシオ計算機株式会社 撮像機能付き携帯電子機器
JP2005286440A (ja) 2004-03-29 2005-10-13 Fuji Photo Film Co Ltd カメラ付情報端末
JP2006024193A (ja) * 2004-06-07 2006-01-26 Fuji Photo Film Co Ltd 画像補正装置、画像補正プログラム、画像補正方法、および画像補正システム
JP2006050337A (ja) * 2004-08-05 2006-02-16 Sony Corp 撮像装置、撮像方法および撮像制御プログラム
JP2006119264A (ja) * 2004-10-20 2006-05-11 Fuji Photo Film Co Ltd 撮影装置
US7663691B2 (en) * 2005-10-11 2010-02-16 Apple Inc. Image capture using display device as light source
JP4910627B2 (ja) * 2006-10-24 2012-04-04 オムロン株式会社 なりすまし検知装置
US20090115880A1 (en) * 2007-11-02 2009-05-07 Canon Kabushiki Kaisha Image pickup apparatus and display controlling method therefor
US20090160945A1 (en) * 2007-12-21 2009-06-25 Dell Products L.P. Systems and Methods for Enhancing Image Quality of a Web Camera Image
US8922672B2 (en) * 2008-01-03 2014-12-30 Apple Inc. Illumination systems and methods for imagers
JP2009177272A (ja) * 2008-01-22 2009-08-06 Sony Corp 撮像装置、その制御方法およびプログラム
US7903143B2 (en) * 2008-03-13 2011-03-08 Dell Products L.P. Systems and methods for document scanning using a variable intensity display of an information handling system
US8446450B2 (en) * 2008-04-30 2013-05-21 Cisco Technology, Inc. Method of lighting
US20090322889A1 (en) * 2008-06-27 2009-12-31 Motorola, Inc. Method and apparatus for illuminating users of video communication devices
US8797441B2 (en) * 2009-01-30 2014-08-05 Apple Inc. Continuous illumination of backlit display and of subject for image capture
JP5493512B2 (ja) * 2009-07-02 2014-05-14 パナソニック株式会社 撮像装置、及びこれを搭載した携帯電話機
JP5434513B2 (ja) * 2009-11-18 2014-03-05 富士通株式会社 携帯端末および輝度調整プログラム
US8605205B2 (en) * 2011-08-15 2013-12-10 Microsoft Corporation Display as lighting for photos or video
CN103152523A (zh) * 2013-02-27 2013-06-12 华为终端有限公司 电子设备拍摄方法及装置和电子设备
JP5751270B2 (ja) * 2013-03-21 2015-07-22 カシオ計算機株式会社 撮像装置、撮像制御方法及びプログラム
US9525811B2 (en) * 2013-07-01 2016-12-20 Qualcomm Incorporated Display device configured as an illumination source

Also Published As

Publication number Publication date
US9942483B2 (en) 2018-04-10
JPWO2015029199A1 (ja) 2017-03-02
CN105493494A (zh) 2016-04-13
WO2015029199A1 (ja) 2015-03-05
US20160212318A1 (en) 2016-07-21
CN105493494B (zh) 2019-08-06

Similar Documents

Publication Publication Date Title
JP6270854B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
US9436979B2 (en) Image processing device, imaging device, image processing method, and non-transitory computer readable medium
EP2770724B1 (en) Apparatus and method for positioning image area using image sensor location
JP4450783B2 (ja) 撮影装置
US10165243B2 (en) Image processing device, imaging device, image processing method, and program
US20150026632A1 (en) Portable electronic device and display control method
CN111479054B (zh) 用于处理装置中的图像的设备和方法
KR20160016068A (ko) 이미지 생성 방법 및 그 전자 장치
US10205868B2 (en) Live view control device, live view control method, live view system, and program
US11032483B2 (en) Imaging apparatus, imaging method, and program
WO2014188951A1 (ja) 画素混合装置およびその動作制御方法
JP6374535B2 (ja) 操作装置、追尾システム、操作方法、及びプログラム
WO2013136602A1 (ja) プロジェクタ付き撮影装置及びその撮影制御方法
KR102150905B1 (ko) 와이파이 다이렉트 기반의 촬영 방법 및 이를 수행하는 전자 장치
JP7060703B2 (ja) 撮影装置、撮影方法、及びプログラム
WO2020209097A1 (ja) 画像表示装置、画像表示方法、及びプログラム
US9524702B2 (en) Display control device, display control method, and recording medium
KR102241840B1 (ko) 이미지 촬영장치 및 방법
JP7150053B2 (ja) 撮像装置、撮像方法、及びプログラム
WO2020003944A1 (ja) 撮像装置、撮像方法、及びプログラム
JPWO2020174911A1 (ja) 画像表示装置、画像表示方法、及びプログラム
JPWO2020066332A1 (ja) 撮影装置、撮影方法、及びプログラム
KR20140089134A (ko) 듀얼 카메라를 구비하는 장치의 이미지 처리 장치 및 방법

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170725

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170920

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20171102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171226

R150 Certificate of patent or registration of utility model

Ref document number: 6270854

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250