JP6347056B2 - 撮像装置および静止画像生成方法 - Google Patents

撮像装置および静止画像生成方法 Download PDF

Info

Publication number
JP6347056B2
JP6347056B2 JP2016567699A JP2016567699A JP6347056B2 JP 6347056 B2 JP6347056 B2 JP 6347056B2 JP 2016567699 A JP2016567699 A JP 2016567699A JP 2016567699 A JP2016567699 A JP 2016567699A JP 6347056 B2 JP6347056 B2 JP 6347056B2
Authority
JP
Japan
Prior art keywords
image
frame
focus
area
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016567699A
Other languages
English (en)
Other versions
JPWO2017006538A1 (ja
Inventor
西山 明雄
明雄 西山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2017006538A1 publication Critical patent/JPWO2017006538A1/ja
Application granted granted Critical
Publication of JP6347056B2 publication Critical patent/JP6347056B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor

Description

本開示は、ユーザが指定した画像領域に合焦した画像を記録可能な撮像装置および静止画像生成方法に関する。
デジタルカメラの機能において、焦点位置を移動させながら連続撮影を行うフォーカスブラケット機能がある。この機能によれば、ユーザは画像撮影後に所望の合焦状態の画像を選択することができる。
特許文献1は、フォーカスブラケット機能を有するデジタルカメラを開示する。このデジタルカメラは、算出手段と、制御手段と、を有する。算出手段は、フォーカスブラケット撮影機能による撮影で連続撮影された複数の画像各々の合焦状態を表す合焦評価値を算出する。制御手段は、算出手段により算出された複数の画像各々の合焦評価値に基づいて、合焦状態が良好な画像を選択し、当該選択した画像を表す画像データを記録媒体に記録するように記録手段の動作を制御する。これにより、撮影された複数の画像から合焦状態が良好な画像を選択して記録することを可能にしている。
特開2004−135029号公報
本開示は、所望の画像領域(被写体)にピントがあった静止画像をユーザが容易に取得することができる撮像装置および静止画像生成方法を提供する。
本開示の第一の態様において撮像装置が提供される。撮像装置は、光学系と、撮像素子と、画像処理部と、入力部と、制御部と、を備える。光学系は、フォーカスレンズを含む。撮像素子は、光学系を介して入力した光学情報から画像信号を生成する。画像処理部は、撮像素子により生成された画像信号に所定の処理を行い、複数のフレーム画像を含む動画データを生成する。入力部は、ユーザによる画像上の指定領域の入力を受け付ける。制御部は、光学系のフォーカス位置を移動させながら画像処理部に動画データを生成させ、動画データに含まれる複数のフレーム画像の中から指定領域にピントが合った静止画像を抽出する。
本開示の第二の態様において、撮像装置における静止画像生成方法が提供される。その静止画像生成方法は、フォーカス位置を移動させながら複数のフレーム画像を含む動画データを生成するステップと、ユーザによる画像上の指定領域の入力を受け付けるステップと、動画データに含まれる複数のフレーム画像の中から、指定領域にピントが合った静止画像を抽出するステップと、を含む。
図1は、本開示に係るデジタルカメラの構成を示す図である。 図2は、デジタルカメラの背面図である。 図3Aは、ブラケット動作におけるフォーカスレンズの移動を説明した図である。 図3Bは、画像においてユーザによる合焦領域の指定を説明した図である。 図4は、動画データからの静止画の切り出しを説明した図である。 図5は、複数に分割された画像の領域を説明した図である。 図6Aは、合焦情報テーブルを説明した図である。 図6Bは、動画データのヘッダを説明した図である。 図7は、フォーカスブラケット動作を示すフローチャートである。 図8は、フォーカスブラケット撮影における動画記録動作を示すフローチャートである。 図9は、フォーカスブラケット撮影におけるフォーカスレンズの移動範囲を説明した図である。 図10は、動画データからの静止画生成処理を示すフローチャートである。 図11は、動画データの記録後に表示される画面を示す図である。 図12Aは、ユーザによる所望の合焦領域を指定する操作を説明した図である。 図12Bは、ユーザによる所望の合焦領域を指定する操作を説明した図である。 図13は、ユーザにより指定された領域に合焦した画像の表示例を示す図である。 図14は、コマ送り/コマ戻しによる画像の切替え原理を説明するための図である。 図15は、コマ送り/コマ戻しによる画像の切替え(コマ送り)処理を示すフローチャートである。 図16は、合焦フレーム(合焦位置)が明確でない分割領域に対する合焦フレームの決定処理を示すフローチャートである。 図17は、合焦フレーム(合焦位置)が明確でない分割領域に対する合焦フレームの決定方法を説明するための図である。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって請求の範囲に記載の主題を限定することを意図するものではない。
以下、図面を用いて本開示に係る撮像装置の実施の形態を説明する。
(第1の実施の形態)
1.デジタルカメラの構成
第1の実施の形態に係るデジタルカメラの電気的構成例について図1を用いて説明する。図1は、デジタルカメラ100の構成を示すブロック図である。デジタルカメラ100は、1又は複数のレンズからなる光学系110により形成された被写体像をCCD140で撮像する撮像装置である。CCD140で生成された画像データは、画像処理部160で各種処理が施され、メモリカード200に格納される。以下、デジタルカメラ100の構成を詳細に説明する。
光学系110は、ズームレンズやフォーカスレンズ111を含む。ズームレンズを光軸に沿って移動させることにより、被写体像の拡大、又は縮小をすることができる。また、フォーカスレンズ111を光軸に沿って移動させることにより、被写体像のピント(合焦状態)を調整することができる。
レンズ駆動部120は、光学系110に含まれる各種レンズを駆動させる。レンズ駆動部120は、例えばズームレンズを駆動するズームモータや、フォーカスレンズ111を駆動するフォーカスモータを含む。
絞り部300は、ユーザの設定に応じて又は自動で開口部の大きさを調整し、開口部を透過する光の量を調整する。
シャッタ130は、CCD140に透過させる光を遮光するための手段である。シャッタ130は、光学系110及び絞り部300とともに、被写体像を示す光学情報を制御する光学系部を構成する。また、光学系110及び絞り部300はレンズ鏡筒(図示せず)内に収納される。
CCD140は、光学系110で形成された被写体像を撮像して、画像データを生成する。CCD140は、カラーフィルタと、受光素子と、AGC(Auto Gain Controller)とを含む。受光素子は、光学系110によって集光された光学的信号を電気信号に変換し、画像情報を生成する。AGCは、受光素子から出力された電気信号を増幅する。CCD140はさらに、露光、転送、電子シャッタなどの各種動作を行うための駆動回路等を含む。詳細については、後述する。
ADC(A/Dコンバータ:アナログ−デジタル変換器)150は、CCD140で生成されたアナログ画像データをデジタル画像データに変換する。
画像処理部160は、CCD140で生成され、変換されたデジタル画像データに対して、コントローラ180の制御を受け、各種処理を施す。画像処理部160は、表示モニタ220に表示するための画像データを生成したり、メモリカード200に格納するための画像データを生成したりする。例えば、画像処理部160は、CCD140で生成された画像データに対して、ガンマ補正、ホワイトバランス補正、傷補正などの各種処理を行う。また、画像処理部160は、CCD140で生成された画像データを、H.264規格やMPEG2規格に準拠した圧縮形式等により圧縮する。画像処理部160は、DSP(Digital Signal Processor)やマイコンなどで実現可能である。また、画像処理部160は、CCD140で生成された画像データに基づいて、例えば、画素数4000×2000前後の動画の画像データ(4K動画データ)を生成することができる。画像処理部160は、生成した4K動画データに対して後述する種々の処理を行うことができる。
コントローラ180は、デジタルカメラ100の全体を制御する制御手段である。画像処理部160やコントローラ180は、半導体素子などで実現可能である。コントローラ180は、ハードウェアのみで構成してもよいし、ハードウェアとソフトウェアとを組み合わせることにより実現してもよい。画像処理部160やコントローラ180は、マイコン、CPU、MPU、DSP、ASIC、FPGAなどで実現できる。
バッファ170は、画像処理部160及びコントローラ180のワークメモリとして機能する。バッファ170は、例えば、DRAM(Dynamic Random Access Memory)、強誘電体メモリなどで実現できる。
カードスロット190は、メモリカード200をデジタルカメラ100に装着するための手段である。カードスロット190は、機械的及び電気的にメモリカード200とデジタルカメラ100を接続可能である。
メモリカード200は、フラッシュメモリや強誘電体メモリなどを内部に含み、画像処理部160で生成された画像ファイル等のデータを格納可能である。
内蔵メモリ240は、フラッシュメモリや強誘電体メモリなどで構成される。内蔵メモリ240は、デジタルカメラ100全体を制御するための制御プログラムやデータ等を記憶している。
操作部材210は、ユーザからの操作を受け付けるユーザーインターフェースの総称である。操作部材210は、ユーザからの操作を受け付けるボタン、レバー、ダイヤル、タッチパネル、スイッチ等を含む。また、操作部材210は、レンズ鏡筒の外周に設けられたフォーカスリングを含む。フォーカスリングは、フォーカスレンズ111を移動させるためにユーザにより回転操作される部材である。
表示モニタ220は、CCD140で生成した画像データが示す画像(スルー画像)や、メモリカード200から読み出した画像データが示す画像を表示可能である。また、表示モニタ220は、デジタルカメラ100の各種設定を行うための各種メニュー画面等も表示可能である。表示モニタ220は、液晶表示デバイスや有機EL表示デバイスで構成される。
図2は、デジタルカメラ100の背面を示した図である。図2では、操作部材210の例として、レリーズボタン211、選択ボタン213、決定ボタン214、タッチパネル222が示されている。操作部材210は、ユーザによる操作を受け付けると、コントローラ180に種々の指示信号を送信する。
ユーザによる画像上の指定領域の入力は、タッチパネル222等の操作部材210を用いて、受け付けることができる。なお、ユーザによる画像上の指定領域の入力は、操作部材210を用いて受け付けることに代えて、図示しないWi−Fi等の無線通信部の無線通信機能を利用してデジタルカメラ100の外部から受け付けてもよい。この場合、無線通信部の受信部が、画像上の指定領域の入力を受信する。ユーザによる画像上の指定領域の入力を受け付ける、これらのタッチパネル222等の操作部材210とWi−Fi等の無線通信部を総称して入力部と呼ぶ。
レリーズボタン211は、二段押下式の押下式ボタンである。レリーズボタン211がユーザにより半押し操作されると、コントローラ180はオートフォーカス制御(AF制御)やオート露出制御(AE制御)などを実行する。また、レリーズボタン211がユーザにより全押し操作されると、コントローラ180は、押下操作のタイミングに撮像された画像データを記録画像としてメモリカード200等に記録する。また、レリーズボタン211がユーザにより半押し操作された後、全押し操作を行わず、レリーズボタン211の押下を解除することで、操作を取りやめることも出来る。
選択ボタン213は、上下左右方向に設けられた押下式ボタンである。ユーザは、上下左右方向のいずれかの選択ボタン213を押下することにより、カーソルを移動したり、表示モニタ220に表示される各種条件項目を選択したりすることができる。
決定ボタン214は、押下式ボタンである。デジタルカメラ100が撮影モードあるいは再生モードにあるときに、決定ボタン214がユーザにより押下されると、コントローラ180は表示モニタ220にメニュー画面を表示する。メニュー画面は、撮影/再生のための各種条件を設定するための画面である。決定ボタン214が各種条件の設定項目が選択されているときに押下されると、コントローラ180は、選択された項目の設定を確定する。
タッチパネル222は、表示モニタ220の表示画面と重畳して配置され、ユーザの指による表示画面上へのタッチ操作を検出する。これにより、ユーザは、表示モニタ220に表示された画像に対する領域の指定等の操作を行える。
1.1 ブラケットフォーカス機能
本実施形態のデジタルカメラ100は、合焦位置を変化させながら動画を撮影し、撮影した動画を構成する複数フレームの画像の中から1つのフレームを選択して記録するブラケットフォーカス機能を有する。ブラケットフォーカス機能では、例えば、画素数4000×2000前後の4K動画が記録される。このように4Kで記録された動画から、ユーザの指定に基づき選択された1つのフレーム画像を切り出して静止画を得る。
具体的には、ブラケットフォーカス機能では、図3Aに示すように至近端側から無限端側(またはその逆)に向かってフォーカスレンズ111を移動させながら、すなわち、合焦位置を変化させながら動画撮影を行う。その後、図3Bに示すように、ユーザ50は、撮影された画像においてピントを合わせたい被写体52(すなわち領域)を指定する。デジタルカメラ100は、図4に示すように、動画を構成する複数フレーム画像の中から、ユーザの指定に基づき1つのフレーム画像を選択して、静止画として切り出して記録する。これにより、ユーザが指定した被写体(領域)に合焦した高画質の静止画を得ることができる。
以上のようなブラケットフォーカスのために、本実施形態では、画像領域400を図5に示すような複数の領域に分割する。そして、分割した領域毎に、動画を構成する複数フレームの中から、その領域にピントが合っているフレーム(以下「合焦フレーム」という)を求め、求めた合焦フレームに関する情報を合焦情報テーブルに記録する。なお、デジタルカメラ100は、ブラケットフォーカス動作において動画を記録(撮影)する前にプリスキャン動作を行い、分割した各領域の合焦フレームを検出して合焦情報テーブルを生成する。
図6Aは、合焦情報テーブルのデータ構造を示した図である。合焦情報テーブル60は、プリスキャン動作において最も至近端側でピントがあったときのフォーカスレンズ位置(Pnear)と、最も無限端側でピントがあったときのフォーカスレンズ位置(Pfar)と、分割した各領域に対する合焦フレームのフレーム番号とを格納する。合焦情報テーブル60は、図6Bに示すように、動画撮影により得られた動画データ65のヘッダ部63に格納される。
2.ブラケットフォーカス動作
以上のような構成を有するデジタルカメラ100のブラケットフォーカス動作を以下に説明する。
図7のフローチャートを参照して、デジタルカメラ100のブラケットフォーカス動作における動画記録動作を説明する。デジタルカメラ100において予めフォーカスブラケット機能が有効に設定された状態で、ユーザによりレリーズボタン211が全押しされると、フォーカスブラケット動作が開始される。フォーカスブラケット動作は、動画記録動作(S01)と、静止画生成動作(S02)とを含む。動画記録動作では、フォーカスレンズ111を移動させながら動画を記録(撮影)する。静止画生成動作では、動画記録動作にて記録した動画データから、ユーザが指定する被写体(領域)に合焦された静止画を生成する。以下、それぞれの動作について詳細を説明する。
2.1 動画記録動作
図8は、動画記録動作(ステップS01)を説明したフローチャートである。コントローラ180はまず、画像における分割した領域のそれぞれについて合焦位置を検出して合焦情報テーブルを作成するためのプリスキャン動作を行う(S11)。
プリスキャン動作では、コントローラ180は、フォーカスレンズ111を至近端から無限端に(またはその逆に)移動させながら、画像の分割した領域毎にコントラスト値を検出する(図5参照)。
そして、コントローラ180は、プリスキャンの結果に基づき合焦情報テーブル60を作成する。具体的には、コントローラ180は、フォーカスレンズ111を至近端から無限端に移動させたときに、領域毎に、得られる複数のフレーム画像においてコントラスト値が最大となるフレームを合焦フレームとして求める。そして、コントローラ180は、その合焦フレームを示すフレーム番号を合焦情報テーブル60に記録する。なお、一の領域について、いずれのフレームのコントラスト値も所定の閾値よりも低い場合、当該領域については、合焦フレーム(すなわち合焦位置)が定まらないとし、合焦情報テーブル60には、合焦位置が不明であることを示す所定の値を記録する。
コントローラ180はさらに、フォーカスレンズ111を至近端から無限端に移動させたときの、最も至近端側のフォーカスレンズ111の合焦位置(Pnear)と、最も無限端側のフォーカスレンズ111の合焦位置(Pfar)とを求める。そして、コントローラ180は、それらの値を合焦情報テーブル60に記録する。
プリスキャン動作終了後、コントローラ180は、フォーカスレンズ111を至近端側に戻し、フォーカスレンズ111を所定の範囲内を移動させながら動画記録を行う(S12)。ここで、所定の範囲とは、図9に示すように、最も至近端側のフォーカスレンズ111の合焦位置(Pnear)から、最も無限端側のフォーカスレンズ111の合焦位置(Pfar)までの範囲である。フォーカスレンズ111の移動範囲をこのような範囲に制限することにより、合焦が得られない範囲においての動画記録が行われなくなり、動画記録の時間を低減できる。なお、動画記録は、動画データ用の所定のフォーマットに従い動画が記録される。例えば、MP4規格(H.264/MPEG−4 AVC方式)に従い動画が記録される。
動画記録が終了すると、ヘッダ部63に合焦情報テーブル60を記録した動画データ65をメモリカード200に記録して(S13)、動画記録動作を終了する。
2.2 動画データからの静止画生成
図10のフローチャートを用いて、静止画生成動作(ステップS02)について説明する。静止画生成動作では、動画記録動作にて撮影した動画から、ユーザが指定する被写体(領域)に合焦された静止画が生成される。
コントローラ180は、直前に記録した動画を表示モニタ220に表示する(S21)。例えば、図11に示すように、直前に記録した動画が表示モニタ220に表示される。このとき、記録した動画を構成する複数のフレーム画像の中の1つ(静止画)を表示してもよい。
ユーザは、カメラ背面に設けられたタッチパネル222を操作して、表示されている画像上で、ピントを合わせたい被写体(すなわち領域)を指定する。例えば、図12Aに示すように、ユーザ50は被写体52をタッチすることで、合焦させたい対象(領域)として被写体52を指定する。
ユーザにより被写体(すなわち領域)が指定されると(S22でYES)、コントローラ180は、合焦情報テーブル60を参照して、ユーザにより指定された領域に対する合焦フレームを特定する(S23)。例えば、図12Aに示すように、被写体52がユーザにより指定された場合、図12Bに示すように、コントローラ180は被写体52に対応する領域42を特定し、合焦情報テーブル60を参照して、その領域42に対する合焦フレームのフレーム番号を取得する。
そして、コントローラ180は、特定したフレーム番号のフレーム画像を表示モニタ220に表示する(S24)。例えば、図13の(A)に示す画像において被写体52がユーザ50により指定されると、図13の(B)に示すように、指定された被写体52に合焦した画像が表示される。
ユーザは、表示モニタ220に表示された画像が所望のものである場合、決定ボタン214の押下により、その画像を記録すべき静止画として確定することができる。一方、ユーザは表示モニタ220に表示された画像が所望のものでない場合、選択ボタン213やフォーカスリングの操作により、表示モニタ220に表示させる画像を切り替えることができる。
ユーザによる画像を切り替える操作がなされると(S27)、コントローラ180は、表示モニタ220に表示される画像を操作に応じて切り替える(S28)。ユーザは、切り替え操作を適宜行うことで所望の画像を表示モニタ220に表示させることができる。この表示画像の切り替え動作の詳細は後述する。
ユーザにより決定ボタン214が押下されると(S25)、表示中の画像(フレーム画像)が静止画として切り出されて、メモリカード200に記録される(S26)。例えば、決定ボタン214が押下されると、表示モニタ220にユーザに対する確認メッセージが表示されるようにしてもよい。そして、確認メッセージに対してユーザの指示(「はい」)が入力されると、コントローラ180は、動画データから表示中のフレーム画像のデータを抽出し、静止画としてメモリカード200に記録するようにしてもよい。なお、静止画データは、メモリカード200に代えて又はそれに加えて、内蔵メモリ240や他の記録媒体に記録されてもよい。また、静止画データは、メモリカード200等の記録媒体に記録されることに代えて又はそれに加えて、図示しないWi−Fi等の無線通信部の無線通信機能を利用してデジタルカメラ100の外部に送信されてもよい。この場合、静止画データは、無線通信部の送信部からデジタルカメラ100の外部に送信される。
動画データは動画用コーデック(H.264やH.265など)により記録されており、フレーム間圧縮が行われている。このため、動画データのフレームを切り出して静止画として切り出す際に、コントローラ180は、フレーム画像のデータを静止画用のフォーマット(例えば、JPEG)に変換して記録する。
以上のようにして、ユーザが指定した領域にピントが合った静止画データを動画データから切り出すことができる。すなわち、ユーザは所望の被写体に合焦した画像を得ることができる。
2.2.1 画像の切り替え(コマ送り)
図10のフローチャートにおけるステップS27〜S28の表示画像の切り替え(コマ送り)動作について説明する。
ユーザによる合焦領域の指定後、表示モニタ220に表示された画像がユーザの所望のものでない場合、ユーザは選択ボタン213やフォーカスリングの操作により、表示モニタ220に表示させる画像を切り替えることができる(S27〜S28)。例えば、フォーカスリングを時計回りに回転させることで表示画像を時間的に前後のフレームの画像に切り替える、すなわち、コマ送りすることができる。
特に、本実施形態では、図14に示すように、順方向に(時間的に後に)コマ送りする場合は、1フレームずつコマ送りするが、逆方向に(時間的に前に)コマ送りする場合は、直前のIピクチャ(Intra Picture)まで戻る。すなわち、順方向のコマ送り操作がなされた場合、表示モニタ220上には、現在表示されているフレーム画像の一つ後のフレームの画像が表示される。一方、逆方向のコマ送り操作がなされた場合、表示モニタ220上には、現在表示されているフレーム画像よりも時間的に前にあるIピクチャのうち、現在表示されているフレーム画像に最も近いIピクチャの画像が表示される。
このようなコマ送り制御を行うのは、次に表示される画像がPピクチャ(Predictive Picture)の場合に、順方向のコマ送りと逆方向のコマ送りの場合とで処理時間が大きく異なるからである。すなわち、次に表示される画像がPピクチャである場合、順方向にコマ送りする場合、現在のフレームの画像情報に、現フレームの直後のフレームの画像情報を加算することで生成することができる。しかし、逆方向にコマ送りする場合、次に表示される画像は、現在のフレームよりも前にあるIピクチャから現在のフレームの直前のフレームまでの画像情報を積算して生成する必要があり、処理時間を要する。このため、逆方向にコマ送りする場合は、直前のIピクチャまで戻ることにし、表示に要する処理時間を短縮している。
図15は、表示画像の切り替え(コマ送り)動作を示すフローチャートである。ユーザにより指定された領域に合焦された画像が表示モニタ220に表示された状態において、ユーザにより順方向のコマ送り操作があった場合(S51でYES)、コントローラ180は、現フレームの1フレーム後のフレーム画像を表示する(S52)。
一方、ユーザにより逆方向のコマ送り操作があった場合(S53でYES)、コントローラ180は、現フレームよりも前にあるIピクチャの中で現フレームに最も近いIピクチャの画像を表示する(S54)。この場合、例えば、ユーザに直前のフレームではないフレームに切り替わったことを通知するための表示を表示モニタ220に表示してもよい。
なお、コマ送りさせるための操作部材として、フォーカスリングや選択ボタンの他にジョグダイヤルを用いてもよい。また、表示モニタ220上にコマ送りボタンを表示させてもよい。ユーザはこのコマ送りボタンを操作することで、表示されている画像を時間的に前後に移動させることができる。
また、上記の説明では、動画データのGOP(Group Of Picture)をIピクチャとPピクチャのみで構成する例を説明したが、さらに、Bピクチャ(Bidirectionally Predictive Picture)を含めても良い。
2.2.2 合焦フレーム(合焦位置)不明時の処理
前述のように、合焦情報テーブル60の作成時において、一の領域について、いずれのフレームのコントラスト値も所定の閾値よりも低い場合、当該領域については、合焦フレーム(すなわち合焦位置)が定まらないとし、合焦情報テーブル60には、合焦位置が不明であることを示す所定の値が記録される。
図10のフローチャートにおけるステップS23において、ユーザにより指定された領域に対して合焦情報テーブル60を参照して合焦フレームを特定する場合に、その領域に対する合焦位置が不明であった場合は、以下の処理を行い合焦フレーム(すなわち合焦位置)を決定する。
図16は、合焦位置が不明である領域に対して合焦フレームを決定する処理を示すフローチャートである。ユーザが指定した被写体の領域に対する合焦位置が不明である場合(S71)、コントローラ180は、その領域の周囲にある領域であって、且つ合焦位置が不明である領域を検出する(S72)。例えば、図17に示すように、コントローラ180は、合焦位置が不明である領域45の周囲にある、合焦位置が不明な他の領域群46を検出する。
次に、コントローラ180は、合焦位置が不明な領域群45、46の周囲にあり、且つ、合焦位置(すなわち、合焦フレーム)が明確な領域群47を検出する(S73)。コントローラ180は、検出した合焦位置(すなわち、合焦フレーム)が明確な領域群47のそれぞれに対する合焦フレームにおいて最も多い数の合焦フレームを、合焦位置が不明な領域45に対する合焦フレームに決定する(S74)。
以上のようにして、合焦位置が不明である領域に対して合焦フレームを決定することができる。
3.効果、等
本実施形態のデジタルカメラ100は、光学系110と、CCD140(撮像素子の一例)と、画像処理部160と、操作部材210(入力部の一例)と、コントローラ180と、を備える。光学系110は、フォーカスレンズ111を含む。CCD140は、光学系110を介して入力した光学情報から画像信号を生成する。画像処理部160は、CCD140により生成された画像信号に所定の処理を行い、複数のフレーム画像を含む動画データを生成する。操作部材210は、ユーザによる画像上の指定領域の入力を受け付ける。コントローラ180は、光学系110のフォーカス位置を移動させながら画像処理部160に動画データを生成させ、動画データに含まれる複数のフレーム画像の中から指定領域にピントが合った静止画像を抽出する。コントローラ180が、抽出した静止画像をメモリカード200(所定の記録媒体の一例)に記録してもよい。
以上のように、本実施形態のデジタルカメラ100は、フォーカス位置を変更しながら撮像した動画データから、ユーザにより指定された領域にピントが合った静止画像(フレーム画像または合焦フレーム)を抽出する。よって、ユーザは、画像の領域をタッチにより指定することで、所望の画像領域(被写体)にピントが合った静止画を容易に得ることができる。また、連続的にフォーカス位置を変化させながら撮影した動画から静止画を生成するため、動画撮影時の画角内に含まれる任意の被写体に対してピントがあった画像を得ることが出来る。
また、デジタルカメラ100は、画像データの画像領域を分割して得られる複数の領域の各々と、各領域にピントが合ったフレーム画像を示す情報とを関連づけて管理する合焦情報テーブル60(テーブルの一例)を格納してもよい。コントローラ180は、合焦情報テーブル60を参照して、ユーザにより指定された領域にピントが合ったフレーム画像を特定できる。
また、コントローラ180は、動画記録の動作よりも前に、フォーカスレンズを移動しながら各領域に対する合焦状態を検出して合焦情報テーブル60を生成するプリスキャン動作を行ってもよい。
また、コントローラ180は、プリスキャン動作の結果得られた、至近端に最も近い合焦位置(Pnear)と無限端に最も近い合焦位置(Pfar)との間で、フォーカスレンズを移動しながら動画の記録を行ってもよい。これにより、合焦がないフォーカスレンズ位置の範囲での動画記録がなされないため、効率よく動画の記録ができる。
コントローラ180は、一の領域について、ピントがあったフレーム画像が得られなかったときは、一の領域の周囲にある領域群であってかつそれぞれの領域にピントが合ったフレーム画像が得られている領域群に対するフレーム画像から、一の領域にピントが合ったフレーム画像を求めてもよい。これにより、合焦が得られなかった領域が選択された場合でも、その領域の付近の領域でピントが合った画像が静止画として記録される。
デジタルカメラ100は、ユーザが領域を指定するためのフレーム画像を表示する表示モニタ220(表示部の一例)をさらに備えてもよい。動画データは、他のフレーム画像の情報を参照せずに生成されるIピクチャ(第1の画像の一例)と、Iピクチャを参照して生成されるPピクチャ(第2の画像の一例)とを含む。コントローラ180は、表示モニタ220に表示されたフレーム画像に対して、ユーザにより順方向への画像切替え操作がなされたときは、現在表示中のフレーム画像から時間的に1つ後のフレーム画像を表示させるようにしてもよい。これに対し、コントローラ180は、表示モニタ220に表示されたフレーム画像に対して、ユーザにより逆方向への画像切替え操作がなされたときは、現在表示中のフレーム画像の時間的に前にあるIピクチャのうち、現在表示中のフレーム画像に最も近いIピクチャを表示させるようにしてもよい。これにより、迅速な画像の表示切り替えが可能となり、ユーザの利便性を確保できる。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、第1の実施の形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施の形態にも適用可能である。また、上記第1の実施の形態で説明した構成要素と他の要素を組み合わせて、新たな実施の形態とすることも可能である。そこで、以下、他の実施の形態を例示する。
(1)上記の実施形態では、フォーカスブラケット動作において、動画記録の前にプリスキャン動作を行って合焦情報テーブル60を作成した。プリスキャン動作により合焦が得られる境界の合焦位置を認識できるため、動画記録時にフォーカスレンズを移動させる有効な範囲を設定できるので、効率良く動画記録ができるというメリットがある。しかし、プリスキャン動作は必須ではなく、動画記録時に同時に合焦情報テーブル60を作成してもよい。この方法の場合、動画記録時と合焦情報生成時の画角が変化しないというメリットがある。
(2)上記の実施形態では、合焦情報テーブル60は、最も至近端側の合焦位置(Pnear)と最も無限端側の合焦位置(Pfar)とを格納した。しかし、これらの合焦位置(Pnear、Pfar)は、必ずしも合焦情報テーブル60に格納される必要はなく、合焦情報テーブル60とは独立して保持されてもよい。
(3)上記の実施形態では、合焦情報テーブル60は、画像の領域毎に、その領域に合焦したフレーム(合焦フレーム)を示す情報(フレーム番号)を格納した。しかし、合焦情報テーブル60の構成はこれに限定されない。合焦情報テーブルは、画像の領域毎に、各領域にピントがあったときのフォーカスレンズ111の位置を格納してもよい。この場合は、さらに、動画記録時にフォーカスレンズ位置と、各フレームとの関係を示す第2のテーブルを作成すればよい。静止画切り出し時には、合焦情報テーブルと第2のテーブルとを参照することで、動画から切り出すフレーム画像を特定できる。
(4)上記の実施形態では、オートフォーカス方式としてコントラストAFを用いたが、位相差AFを用いてもよい。
(5)上記の実施形態に開示したフォーカスブラケット機能は、レンズ交換式カメラ及びレンズ一体型カメラの双方の種類のデジタルカメラに対して適用できる。
(6)上記の実施形態では、撮像装置の一例としてデジタルカメラを用いて説明したが、撮像装置はこれに限定されない。本開示の思想は、デジタルビデオカメラ、スマートフォン、ウェアラブルカメラ等の動画が撮影できる種々の撮像装置に対して適用することができる。
(7)上記の実施形態では、撮像素子をCCDで構成したが、撮像素子はこれに限定されない。撮像素子はNMOSイメージセンサやCMOSイメージセンサで構成してもよい。
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。また、上述の実施の形態は、本開示における技術を例示するためのものであるから、請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
本開示は、動画を撮影できる撮像装置および静止画像生成方法に対して適用可能である。具体的には、デジタルビデオカメラ、スマートフォン、ウェアラブルカメラ等の動画が撮影できる種々の撮像装置および静止画像生成方法に対して適用することができる。
100 デジタルカメラ(撮像装置)
110 光学系
111 フォーカスレンズ
120 レンズ駆動部
130 シャッタ
140 CCD(撮像素子)
150 A/Dコンバータ
160 画像処理部
170 バッファ
180 コントローラ(制御部)
190 カードスロット
200 メモリカード
210 操作部材(入力部)
220 表示モニタ
240 内蔵メモリ
300 絞り部

Claims (6)

  1. 光学系を介して入力した光学情報から画像信号を生成する撮像素子と、
    前記撮像素子により生成された画像信号に所定の処理を行い、複数のフレーム画像を含む動画データを生成する画像処理部と、
    ユーザによる画像上の指定領域の入力を受け付ける入力部と、
    前記光学系のフォーカス位置を移動させながら前記画像処理部に前記動画データを生成させ、前記動画データに含まれる前記複数のフレーム画像の中から前記指定領域にピントが合った静止画像を抽出する制御部と、を備え、
    前記制御部は、前記複数のフレーム画像の画像領域を分割することによって得られた複数の領域に対して前記複数のフレーム画像のうちピントが合ったフレーム画像を示す情報を含むテーブルを作成し、前記テーブルを参照して、前記指定領域にピントが合ったフレーム画像を前記静止画像として特定し、
    前記制御部は、前記動画データを生成させるよりも前に、前記光学系のフォーカス位置を移動させながら前記複数の領域の各領域に対する合焦状態にあるフレーム画像を検出するスキャン動作を行い、至端に最も近い前記光学系の合焦状態にある位置と無限端に最も近い光学系の合焦状態にある位置を決定し、前記スキャン動作の結果を前記テーブルの生成に用い、
    前記制御部は、前記スキャン動作の結果得られた、至近端に最も近い合焦位置と無限端に最も近い合焦位置との間で、前記光学系のフォーカス位置を移動させながら動画データの生成を行う、
    撮像装置。
  2. 前記制御部は、一の領域について、ピントがあったフレーム画像が得られなかったときは、前記一の領域の周囲にある領域群であってかつそれぞれの領域にピントが合ったフレーム画像が得られている領域群に対するフレーム画像から、前記一の領域にピントが合ったフレーム画像を求める、
    請求項1記載の撮像装置。
  3. 前記指定領域を入力するためのフレーム画像を表示する表示部をさらに備え、
    前記動画データは、他のフレーム画像の情報を参照せずに生成される第1のフレーム画像と、前記第1のフレーム画像を参照して生成される第2のフレーム画像とを含み、
    前記制御部は、前記表示部に表示されたフレーム画像に対して、ユーザにより順方向への画像切替え操作がなされたときは、現在表示中のフレーム画像から時間的に1つ後のフレーム画像を表示し、逆方向への画像切替え操作がなされたときは、現在表示中のフレーム画像の時間的に前にある第1のフレーム画像のうち、現在表示中のフレーム画像に最も近い第1のフレーム画像を表示させる、
    請求項1記載の撮像装置。
  4. 前記制御部は、抽出した前記静止画像を記録媒体に記録する、
    請求項1ないし3のいずれかに記載の撮像装置。
  5. 前記制御部は、前記抽出された前記指定領域にピントが合った静止画像を記録媒体に記録する、
    請求項1記載の撮像装置。
  6. 前記テーブルは、分割した領域に対する合焦フレームがある場合、前記分割した領域に対する合焦フレームのフレーム番号を格納する、
    請求項1記載の撮像装置。
JP2016567699A 2015-07-07 2016-06-28 撮像装置および静止画像生成方法 Active JP6347056B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015135967 2015-07-07
JP2015135967 2015-07-07
PCT/JP2016/003096 WO2017006538A1 (ja) 2015-07-07 2016-06-28 撮像装置および静止画像生成方法

Publications (2)

Publication Number Publication Date
JPWO2017006538A1 JPWO2017006538A1 (ja) 2017-07-06
JP6347056B2 true JP6347056B2 (ja) 2018-06-27

Family

ID=57685366

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016567699A Active JP6347056B2 (ja) 2015-07-07 2016-06-28 撮像装置および静止画像生成方法

Country Status (4)

Country Link
US (1) US10038835B2 (ja)
EP (1) EP3145172B1 (ja)
JP (1) JP6347056B2 (ja)
WO (1) WO2017006538A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6668570B2 (ja) 2018-05-22 2020-03-18 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、移動体、制御方法、及びプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4507392B2 (ja) * 2000-11-15 2010-07-21 株式会社ニコン 電子カメラ
JP2004015212A (ja) * 2002-06-04 2004-01-15 Canon Inc 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP2004135029A (ja) 2002-10-10 2004-04-30 Fuji Photo Film Co Ltd デジタルカメラ
JP4241460B2 (ja) * 2004-03-25 2009-03-18 キヤノン株式会社 電子撮像装置
JP5094070B2 (ja) * 2006-07-25 2012-12-12 キヤノン株式会社 撮像装置、撮像方法、プログラム、及び記憶媒体
WO2008031263A1 (en) * 2006-09-07 2008-03-20 Thomson Licensing Method and apparatus for encoding groups of pictures of a video sequence, each of said groups including an intra encoded picture and more than two predicted encoded pictures
JP4771986B2 (ja) * 2007-03-30 2011-09-14 三洋電機株式会社 画像符号化装置およびそれを用いた撮像装置
JP2010097167A (ja) * 2008-09-22 2010-04-30 Fujinon Corp オートフォーカス装置
JP5163446B2 (ja) * 2008-11-25 2013-03-13 ソニー株式会社 撮像装置、撮像方法及びプログラム
JP5387949B2 (ja) * 2009-03-03 2014-01-15 株式会社リコー 撮像装置、再生表示装置、撮像記録方法および再生表示方法
JP2013088579A (ja) * 2011-10-17 2013-05-13 Olympus Imaging Corp 撮像装置
KR20140007529A (ko) * 2012-07-09 2014-01-20 삼성전자주식회사 카메라의 이미지 촬영장치 및 방법
KR101952684B1 (ko) * 2012-08-16 2019-02-27 엘지전자 주식회사 이동 단말기 및 이의 제어 방법, 이를 위한 기록 매체
JP6204660B2 (ja) * 2012-12-21 2017-09-27 キヤノン株式会社 撮像装置及びその制御方法
JP6307803B2 (ja) * 2013-07-22 2018-04-11 株式会社ニコン 画像処理装置、画像表示装置、撮像装置

Also Published As

Publication number Publication date
US10038835B2 (en) 2018-07-31
WO2017006538A1 (ja) 2017-01-12
JPWO2017006538A1 (ja) 2017-07-06
EP3145172A1 (en) 2017-03-22
EP3145172A4 (en) 2017-08-02
EP3145172B1 (en) 2021-06-09
US20170048448A1 (en) 2017-02-16

Similar Documents

Publication Publication Date Title
US10234653B2 (en) Imaging device with focus lens stopped at each of focus positions during video capturing
WO2016017138A1 (ja) 撮像装置
WO2013088917A1 (ja) 画像処理装置、画像処理方法、及び記録媒体
US9912877B2 (en) Imaging apparatus for continuously shooting plural images to generate a still image
JP6300076B2 (ja) 撮像装置、撮像方法及びプログラム
JP6435527B2 (ja) 撮像装置
US20170264819A1 (en) Imaging device
JP6445831B2 (ja) 撮像装置及びその制御方法ならびにプログラム
JP6347056B2 (ja) 撮像装置および静止画像生成方法
JP6865395B2 (ja) 撮像装置
US10425577B2 (en) Image processing apparatus and imaging apparatus
JP6603892B2 (ja) 撮像装置
JP5195663B2 (ja) 撮像装置、合焦方法及びプログラム
JP4985716B2 (ja) 撮像装置、合焦評価領域の設定方法、及び、プログラム
JP2016218106A (ja) 撮像装置
WO2013065642A1 (ja) 画像処理装置
JP2018098764A (ja) 撮像装置および画像合成方法
JP5561392B2 (ja) 撮像装置、合焦方法及びプログラム
JP2011242796A (ja) 撮像装置、合焦方法及びプログラム
JP2017152759A (ja) 撮像装置
JP2017167518A (ja) 撮像装置
JP2018046542A (ja) 画像処理装置及び撮像装置
JP2018160881A (ja) 撮像装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180417

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180430

R151 Written notification of patent or utility model registration

Ref document number: 6347056

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151