JP2017034474A - 撮像装置およびその制御方法 - Google Patents
撮像装置およびその制御方法 Download PDFInfo
- Publication number
- JP2017034474A JP2017034474A JP2015152454A JP2015152454A JP2017034474A JP 2017034474 A JP2017034474 A JP 2017034474A JP 2015152454 A JP2015152454 A JP 2015152454A JP 2015152454 A JP2015152454 A JP 2015152454A JP 2017034474 A JP2017034474 A JP 2017034474A
- Authority
- JP
- Japan
- Prior art keywords
- subject
- refocusable
- image
- refocusing
- refocus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 141
- 238000000034 method Methods 0.000 title claims description 87
- 210000001747 pupil Anatomy 0.000 claims abstract description 48
- 238000001514 detection method Methods 0.000 claims abstract description 30
- 230000003287 optical effect Effects 0.000 claims abstract description 26
- 238000006243 chemical reaction Methods 0.000 claims description 39
- 239000011159 matrix material Substances 0.000 claims description 39
- 230000008569 process Effects 0.000 description 35
- 238000004364 calculation method Methods 0.000 description 29
- 238000010586 diagram Methods 0.000 description 20
- 230000008859 change Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- CNQCVBJFEGMYDW-UHFFFAOYSA-N lawrencium atom Chemical compound [Lr] CNQCVBJFEGMYDW-UHFFFAOYSA-N 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/675—Focus control based on electronic image sensor signals comprising setting of focusing regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
Description
リフォーカス技術を用いた従来の撮像装置として、リフォーカス画像を再構成する際に使用するパラメータを、撮影時の光学系の撮影情報に基づいて、画像データのメタデータとして生成するものが特許文献1において提案されている。また、リフォーカス画像を再構成する際に、どの被写体がリフォーカス可能な奥行き距離範囲内に位置しているのかをユーザに知らせる画像処理装置が特許文献2において提案されている。
撮影した画像を、リフォーカス技術を用いてリフォーカスする場合、被写体の画角位置によっては、リフォーカスができない可能性がある。これは、画像をリフォーカスするために撮像面を仮想的に前後移動すると、リフォーカス可能な撮影画角範囲(以下、「リフォーカス可能画角範囲」と呼ぶ)が縮小するためである。
特許文献1、2に開示された従来技術では、撮影画像の奥行き方向のリフォーカス可能な距離範囲に基づいて、リフォーカス画像を再構成している。しかし、撮影画像上の複数の被写体に対してリフォーカス可否を素早く判定することが困難であるという課題があった。本発明は、このような課題を解決するものであり、撮影画像上の複数の被写体に対するリフォーカス可否を素早く判定することが可能な撮像装置およびその制御方法を提供することを目的とする。
本実施形態による撮像装置を、図1から図8を用いて説明する。上述の特許文献1、2に開示された従来技術では、撮影画像の奥行き方向のリフォーカス可能な距離範囲に基づいてリフォーカス画像を再構成している。しかしながら、リフォーカス可能画角範囲の縮小と、画角内の被写体位置との関係については考慮されていない。この結果として、特許文献1、2では、撮影画像上の複数の被写体に対するリフォーカス可否を素早く判定することが困難であるという課題があった。そこで、本実施形態では、撮影画像上の複数の被写体に対するリフォーカス可否を素早く判定してユーザに明示する方法について説明する。なお、以下の説明では、本発明の撮像装置100を適用したデジタルカメラで撮影した画像に対してリフォーカス処理を行う編集モードを想定するが、本発明は必ずしもこのような編集モードに限定されるものではない。
光学系101は、複数枚のレンズ及び、レンズ群及び、絞りから構成される。複数枚のレンズの中には、可動なフォーカスレンズを含み、制御部115は、フォーカスレンズを駆動させることにより、撮像装置100の焦点調節を行うことができる。また、制御部115は、絞りを駆動させることにより、光学系101を通過する光量を調節する。通過する光量の指標としては、F値が用いられ、F値は制御部115が算出を行う。
この画像データ領域とメタデータ領域に書き込まれるデータは、ユーザから静止画撮影の指示があった時に、記憶媒体114に記録される。なお、変換マトリクスは比較的データ量が大きいため、変換マトリクスの代わりに、変換マトリクス生成のために必要となる仮想結像面(詳細は後述する)までの移動距離を記憶しても良い。
リフォーカス可否判定部110は、リフォーカス可能画角範囲と、被写体位置検出部108が算出した被写体領域との包含関係から、被写体がリフォーカス可能かどうかを判定する。詳細なリフォーカス可能画角範囲の算出方法については後述する。
図3(b)は、図3(a)のA−A’における断面図であり、図1の光学系101を通過した光線が、マイクロレンズ301を通過して、撮像素子102上に結像している様子を示している。図3(b)に例示する撮像素子102は、水平方向に11の画素310〜320を並べて構成されている。ここで、画素310、311、319、320は通常画素領域の画素であり、画素312〜318は瞳分割画素領域の画素である。なお、図3(b)には、リフォーカス画像を再構成するための仮想的結像面の移動方向をz方向として示している。
また、同様に、図3(c)で画素318のA像領域303に入射する光線は、図3(b)に示す実結像面においては、瞳分割されていない画素319に入射する。このため、実際には、仮想結像面の画素318のA像領域303におけるA像に相当する情報は取得できないので、画素318においてはリフォーカス画像を再構成することはできない。この結果として、結像面から距離Dだけ離れた仮想結像面におけるリフォーカス可能画角範囲は、X0からXDに縮小してしまう。仮想結像面が、実結像面からさらに離れると、リフォーカス可能画角範囲はさらに縮小する。このように、リフォーカス可能画角範囲は、リフォーカス対象の被写体までの被写体距離に応じて変化する。また、光学系101のF値に応じて入射光の入射角が変化した場合も変化する。
S313=A4+B2 ・・・(1)
同様に、図3(c)に示すz=Dにおける画素310〜320の仮想的な出力値S310〜S320は、上式(1)を一般化した下式(2)で表される。
A1≦B1 かつ B2≦A2 ・・・(4)
C1≦D1 かつ D2≦C2 ・・・(5)
ここで、A1とは、端点A1のx座標とy座標の両方を指すものとする。本実施形態では、上式(4)は満たすが、上式(5)は満たさないので、被写体404はリフォーカス可能と判定され、被写体406はリフォーカス不可能と判定される。判定後、ステップS608へ進む。
例えば、本実施形態の図5(c)では、被写体406に対してはリフォーカス不可と判定したので、被写体406のリフォーカス画像を再構成する際に使用する図2に示す変換マトリクスM3には、リフォーカス画像が再構成されないように空行列を適用する。
ステップS610において、記憶媒体制御部113は、撮影により取得した画像データに対して、リフォーカス画像を再構成するためのパラメータ(ステップS608にて生成したメタデータ)を付与して、記憶媒体114に記録する。更に、画像処理部104は、撮影により取得した画像データから表示用画像データを生成して記憶媒体114に記録する。その後、ステップS611において、静止画記録動作を終了する。
ステップS710において、画像処理部104は、再構成したリフォーカス画像に対して画像処理を行うことにより、表示用画像データを生成する。そして、リフォーカス画像と表示用画像データを記憶媒体114に保存する。その後、ステップS703へ戻る。
ステップS711において、制御部115は、操作部107に含まれる電源ボタンが押下されて、ユーザによる終了要求があった場合には、ステップS712へ進んで、本実施形態の静止画再生動作を終了する。終了要求が無い場合はステップS703へ戻る。
以上、本発明の撮像装置100としてデジタルカメラを例にして説明したが、これに限られるものではない。例えば、カメラから画像データとメタデータを外部に出力して記録する構成であってもよい。
本実施形態による撮像装置を、図4、図6および図9を用いて説明する。先の実施形態1では、フォーカス不可と判断された被写体に対しては、リフォーカス処理を行わなかった。例えば、図4(a)に示すリフォーカス可能画角範囲407よりも外側で、瞳分割画素領域の撮影画角408より内側にいるような被写体に対しては、ユーザからリフォーカス要求があった場合でも、リフォーカス処理は行わないようにした。これに対し、本実施形態では、リフォーカス可能画角範囲外の被写体に対してユーザからのリフォーカス要求があった場合には、合焦には至らないが、可能な限りでリフォーカス画像の再構成を行う方法について説明する。
本実施形態による撮像装置を、図10から図12を用いて説明する。本実施形態では、被写体の中から選択された主要被写体に対して焦点を調整する際に、フォーカスレンズを駆動する手段と、画像をリフォーカスする手段とを切り替えて用いる方法について説明する。図10は、本発明の実施形態3に係る撮像装置100bの構成を示すブロック図である。図10に示す本実施形態の撮像装置100bは、図1に示す先の実施形態1の撮像装置100と比較して、パラメータ生成部117を備えておらず、焦点調整部111を備えている点が異なっている。その他の構成については先の実施形態1と同じであるので説明は省略する。
焦点調整部111は、被写体位置検出部108が検出した被写体から選択した主要被写体に対して、焦点を調節する方法を、リフォーカス可否判定部110の判定結果に応じて切り替える。具体的には、焦点調整部111は、主要被写体がリフォーカス可能被写体であればリフォーカスして合焦し、リフォーカス不可被写体であれば光学系101を制御して合焦する。ここで、主要被写体としては、被写体のうちで一番大きなものを選択してもよいし、画角の中央よりに位置するものを選択してもよい。また、ユーザが任意で選択してもよい。
ステップS1101において、制御部115は、撮像素子102の駆動タイミングに合わせて撮像処理をおこなう。撮像処理により得られたデジタル画像信号は、一度揮発性メモリ105に記録してから、画像処理部104で任意の画像処理をしてもよいし、バス116経由で画像処理部104に送って任意の画像処理をしてもよい。画像処理部104によって処理された画像データは、揮発性メモリ105に保存される。
ステップS1102において、制御部115は、撮像装置100bが動画記録中かどうかを判定する。ユーザが操作部107を操作して、動画記録が開始されていれば、ステップS1103に進み、撮像装置100bが、動画記録待機中や静止画ライブビュー中であれば、ステップS1104に進む。ステップS1103において、被写体位置検出部108、被写体距離算出部109、リフォーカス可否判定部110、焦点調整部111は、主要被写体の位置に応じた焦点調整をおこない、ステップS1101に戻る。このステップS1103の詳細については、後述する。
ステップS1104において、制御部115は、光学系101を制御することで、主要被写体への合焦処理をおこない、ステップS1105に進む。ここでは、コントラストAFなどの手法により、合焦処理をおこなうものとする。ステップS1105において、制御部115は、撮像装置100bの電源が入っているかどうかを判定する。撮像装置100bの電源が入っていれば、ステップS1101に戻り、撮像装置100bの電源が入っていなければ、フローを終了する。
ステップS1202において、被写体位置検出部108は、被写体の位置情報が取得できたかどうかを判定する。被写体の位置情報が取得できた場合はステップS1203に進み、取得できなかった場合はステップS1209に進む。ステップS1203において、被写体距離算出部109は、検出した被写体のうち任意の被写体を主要被写体として選択し、主要被写体のデフォーカス量を算出する。ここで、被写体のうち一番大きな被写体を主要被写体としてもよいし、画角の中央の被写体を主要被写体としてもよい。また、ユーザが任意で選択した被写体を主要被写体としてもよい。
ステップS1204において、被写体距離算出部109は、主要被写体のデフォーカス量が算出できたかどうかを判定する。主要被写体のデフォーカス量が算出できた場合はステップS1205に進み、算出できなかった場合はステップS1209に進む。ステップS1205において、被写体距離算出部109は、算出された主要被写体のデフォーカス量が0か否かを判定する。主要被写体のデフォーカス量が0でない場合はステップS1206に進み、デフォーカス量が0である場合は、主要被写体にすでに合焦済みであるため、フローを終了する。
ステップS1207において、リフォーカス可否判定部110は、ステップS1201で取得した主要被写体の被写体領域が、ステップS1206で算出したリフォーカス可能画角範囲内か否かを判定する。リフォーカス可能画角範囲内であれば、リフォーカス可能被写体と判定し、リフォーカス可能画角範囲外であれば、リフォーカス不可被写体と判定する。焦点調整部111は、主要被写体がリフォーカス可能被写体であれば、リフォーカスによる合焦をすると決定してステップS1208に進むよう制御する。また、主要被写体がリフォーカス不可被写体であれば、光学系101の制御による合焦をすると判定してステップS1209に進むよう制御する。
ステップS1208において、画像処理部104は、制御部115からのリフォーカスによる合焦処理を指示により、主要被写体に焦点の合ったリフォーカス画像を生成し、揮発性メモリ105に記録する。ステップS1209において、制御部115は、光学系101を制御することで主要被写体への合焦処理をおこなう。ここでは、コントラストAFなどの手法により、合焦処理をおこなうものとする。
本実施形態による撮像装置を、図13から図15を用いて説明する。従来のフォーカスレンズを駆動して主要被写体に合焦する撮像装置では、フォーカスレンズ駆動によって主要被写体の距離と撮影画角内位置が変化すると、被写体のリフォーカス可否が変わってしまう可能性があった。この結果、主要被写体以外の被写体に後からリフォーカスしようと思ったときに、実際にはリフォーカスできない被写体であると判明することがあり、ユーザにとっては不便であった。そこで、本実施形態では、主要被写体へ合焦する際に、リフォーカス可能画角範囲が変化する場合でも、撮影画像上の画角位置が異なる被写体ごとのリフォーカス可否を判定して、ユーザに明示できるようにする方法について説明する。
図13は、本発明の実施形態4に係る撮像方法のフローチャートである。図13に示す本実施形態のフローチャートは、図11に示す先の実施形態3のフローチャートと比較して、ステップS1304およびステップS1305を更に備えている点が異なっている。その他のステップの動作については、先の実施形態3と同じであるので説明は省略する。
ステップS1304において、リフォーカス可否判定部110は、主要被写体以外の被写体がリフォーカス可能か否かを判定する。このステップS1304の詳細については、後述する。ステップS1305において、制御部115は、撮影画角の画像に対して、リフォーカス可否判定部110によりリフォーカス可能と判定された被写体に枠を重畳して、表示部106に表示する。
ステップS1402において、被写体距離算出部109は、ステップS1401において位置情報が取得できた被写体のうち、リフォーカス可否判定部110によってリフォーカス可否を判定していない被写体について、デフォーカス量を算出する。ステップS1403において、リフォーカス可否判定部110は、ステップS1402で算出した被写体のデフォーカス量から、被写体の距離におけるリフォーカス可能画角範囲を算出する。
ここで、被写体位置検出部108で検出された被写体領域の全領域が、リフォーカス可能画角範囲内であればリフォーカス可能被写体として判定してもよい。あるいは、被写体の顔領域の全領域が、リフォーカス可能画角範囲内であればリフォーカス可能被写体として判定するのでも構わない。さらに、被写体領域のうち、ユーザがあらかじめ指定した割合や領域がリフォーカス可能画角範囲内であれば、リフォーカス可能被写体として判定するなどしても構わない。
以上のように、本実施形態では、リフォーカス可否判定手段による判定結果に基づいて、被写体へのリフォーカス可否を画像とともに表示する表示手段(表示部)を備えている。これにより、主要被写体へ合焦する際に、リフォーカス可能画角範囲が変化する場合でも、主要被写体以外の、撮影画像上の画角位置が異なる被写体ごとのリフォーカス可否を判定して、ユーザに明示することができる。なお、本実施形態4は先の実施形態1〜3と組み合わせることも可能である。
本実施形態による撮像装置を、図16および図17を用いて説明する。先の実施形態4では、リフォーカス可能な被写体の表示方法について説明したが、本実施形態5では、リフォーカス不可能な被写体の表示方法について説明する。
図16は、本発明の実施形態5に係る撮像方法のフローチャートである。図16に示す本実施形態のフローチャートは、図13に示す先の実施形態4のフローチャートと比較して、ステップS1305(ステップS1605)の処理のみが異なっている。その他のステップの動作については先の実施形態4と同じであるので説明は省略する。
ステップS1604において、リフォーカス可否判定部110は、主要被写体以外の被写体についてのリフォーカス可否を判定する。ここでは、ステップS1604における詳細フローは、図14と同じであるとし、詳細の説明は省略する。ステップS1605において、制御部115は、撮影画角の画像に対して、リフォーカス可否判定部110によりリフォーカス不可と判定された被写体に枠を重畳して、表示部106に表示する。
これにより、主要被写体に対する合焦がおこなわれた結果、主要被写体以外でリフォーカスによる合焦が不可能な被写体をユーザに通知することが可能となる。ここでは動画待機中や静止画ライブビュー中は光学系101の制御による合焦をし、動画記録中のみ主要被写体の画角内の位置に応じた焦点調節手段の選択をするとしたが、動画待機中や静止画ライブビュー中に適用しても構わない。以上のように、本実施形態でも、先の実施形態4と同様の効果を得ることができる。なお、本実施形態5は先の実施形態1〜4と組み合わせることも可能である。
本実施形態による撮像装置を、図18から図20を用いて説明する。先述のように、リフォーカス可能距離範囲とリフォーカス可能画角範囲は、お互いにトレードオフの関係にある。そこで、本実施形態では、まず、リフォーカス可能距離範囲をリフォーカス可能画角範囲に優先させて、リフォーカス可否を判定する方法について説明する。
図18は、本発明の実施形態6に係る撮像装置における、リフォーカス可能画角範囲について説明するための図である。図18には、リフォーカス可能画角範囲1800と、リフォーカス可能画角範囲外1801を示している。なお、本実施形態における撮像装置の構成は、図10に示す先の実施形態4の撮像装置100bと同じである。図18に示すように、リフォーカス可能距離範囲を大きくすると、リフォーカス可能画角範囲1800は、画面端から中央方向に横方向に縮小する。なお、リフォーカス可能画角範囲1800の中心位置および変化方向は、瞳分割素子の配置および分割方向によって異なる。また、F値によって入射光の入射角が変化すると、リフォーカス可能距離範囲に対するリフォーカス可能画角範囲1800の増減率も変化する。
焦点調整部111は、動画を連続したフレーム画像の集まりであるとし、フレーム画像に対してリフォーカスするか、あるいはフォーカスレンズを駆動するかを、リフォーカス可否判定部110による判定結果に基づいて決定する。具体的には、リフォーカス可能であればリフォーカスを行い、リフォーカス不可能であれば光学系101を制御して焦点調節を行う。そして、焦点調節手段の切り替えが必要ないと判断した場合にはフローを終了する。以下、図19に示すフローチャートをステップ毎に説明する。
ステップS1902において、被写体距離算出部109は、被写体位置情報を基に、揮発性メモリ105に記録されている瞳分割領域ごとの画像の位相差を算出し、合焦撮影距離位置からのデフォーカス量に変換する。そして、合焦撮影距離位置とデフォーカス量を加算して、主要被写体の被写体距離情報を算出する。
ステップS1904において、制御部115は、ステップS1902において算出した被写体距離情報が、合焦撮影距離と一致するか否かを判定する。被写体距離情報が合焦撮影距離と一致した場合は、焦点調節をする必要がないため、フローを終了する。被写体距離情報が合焦撮影距離と一致しない場合は、ステップS1905へ進む。ステップS1905において、リフォーカス可否判定部110は、被写体位置情報、被写体距離情報、合焦撮影距離、およびF値から、主要被写体のリフォーカス可能距離範囲と、リフォーカス可能画角範囲を算出する。そして、リフォーカスの可否を判定する。リフォーカス可否判定方法の詳細については、図20および図22を用いて後述する。
ステップS1906において、焦点調整部111は、ステップS1905の判定結果に応じて、焦点調節手段を切り替える。例えば、リフォーカス可能であればリフォーカスを行うことを決定し、リフォーカス不可能であれば光学系101の制御による焦点調節を行うことを決定する。なお、本フローチャートにおいては、主要被写体を人物に限定したが、物体検出部を設け、物や動物を主要被写体としてもよい。
本実施形態による撮像装置を、図22および図23を用いて説明する。先の実施形態6では、リフォーカス可能距離範囲をリフォーカス可能画角範囲に優先させて、リフォーカス可否を判定する方法について説明した。これに対し、本実施形態7では、リフォーカス可能画角範囲をリフォーカス可能距離範囲に優先させて、リフォーカス可否を判定する方法について説明する。
先の実施形態6の図19のステップS1905における、本実施形態のリフォーカス可否判定方法について、図22および、図23を用いて説明する。図22は、本発明の実施形態7に係る撮像方法における、リフォーカス可能画角範囲を優先させてリフォーカス可否を判定する方法のフローチャートである。また、図23は、本発明の実施形態7に係る撮像方法における、リフォーカス可能画角範囲の算出について説明するための図である。先の実施形態6では、主要被写体の距離の変化を優先してリフォーカス可能範囲を算出したのに対して、本実施形態では、主要被写体の撮影画角内の位置の変化を優先してリフォーカス可能範囲を算出する。
なお、本実施形態における焦点調節のフローチャートは、図19で示した先の実施形態6と同じであるため、説明は省略する。また、本フローチャートにおいて先の実施形態6と同じ処理を行うものに関しても、説明は省略する。
本実施形態による撮像装置を、図24を用いて説明する。先の実施形態1〜7では、撮像素子102の瞳分割素子が水平方向に分割されていることを想定した。これに対し、本実施形態8では、撮像素子102の瞳分割素子が水平方向以外に分割されている場合について説明する。
先の実施形態6の図19のステップS1905における、本実施形態のリフォーカス可否判定方法について、図24を用いて説明する。図24は、本発明の実施形態8に係る撮像方法における、瞳分割の方向に応じてリフォーカス可能画角範囲を算出する方法のフローチャートである。本実施形態では、撮像素子102の瞳分割の方向を考慮してリフォーカス可能画角範囲を算出する。
なお、本実施形態における焦点調節のフローチャートは、図19で示した先の実施形態6と同じであるため、説明は省略する。また、本フローチャートにおいて先の実施形態6と同じ処理を行うものに関しても、説明は省略する。ステップS2401において、リフォーカス可否判定部110は、先の実施形態6と同様にリフォーカス可能距離範囲を算出する。ステップS2402において、リフォーカス可否判定部110は、先の実施形態6と同様にリフォーカス可能画角範囲を算出する。
特に、瞳分割の方向が複数ある場合には、主要被写体の撮影画角内の位置に応じてリフォーカス可能画角範囲を変更することができる。例えば、主要被写体が左右端にいる場合には、縦方向の瞳分割によるリフォーカス可能画角範囲を算出する。一方、主要被写体が上下端にいる場合には、横方向の瞳分割によるリフォーカス可能画角範囲を算出する。
101:光学系
102:撮像素子
103:A/D変換部
104:画像処理部
105:揮発性メモリ
106:表示部
107:操作部
108:被写体位置検出部
109:被写体距離算出部
110:リフォーカス可否判定部
111:焦点調整部
112:不揮発性メモリ
113:記憶媒体制御部
114:記憶媒体
115:制御部
116:バス
117:パラメータ生成部
Claims (25)
- リフォーカス画像を再構成する撮像装置において、
瞳分割画素領域を有する撮像素子を用いて撮影した画像を、撮影時の光学系の撮影情報とともに取得する取得手段と、
前記画像上の少なくとも1つの被写体を検出して、前記被写体の被写体領域を算出するとともに、前記被写体領域におけるデフォーカス量から、前記被写体までの奥行き距離である被写体距離を算出する被写体検出手段と、
前記被写体距離、前記被写体領域、および前記撮影情報から、リフォーカス可能画角範囲を算出し、前記被写体領域が前記リフォーカス可能画角範囲に含まれるか否かを比較することにより、前記被写体へのリフォーカス可否を判定するリフォーカス可否判定手段と、
を備えることを特徴とする撮像装置。 - 前記画像を前記被写体にリフォーカスするために必要なパラメータを、前記撮影情報に基づいて、前記被写体に関連づけて生成するパラメータ生成手段と、
前記リフォーカス可否判定手段による判定結果および前記パラメータを、前記画像のメタデータとして、前記画像とともに記憶媒体に記録する記録手段と、
前記記憶媒体に記録された前記画像および前記メタデータを読み出して、前記画像を前記被写体にリフォーカスする再生手段と、を更に備える
ことを特徴とする請求項1に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記リフォーカス可能画角範囲を、前記被写体ごとに算出する
ことを特徴とする請求項2に記載の撮像装置。 - 前記パラメータ生成手段は、前記リフォーカス可否判定手段によってリフォーカス不可と判定された被写体に対しては、空行列の変換マトリクスを前記パラメータとして生成し、前記リフォーカス可否判定手段によってリフォーカス可能と判定された被写体に対しては、前記被写体の前記被写体距離に対応する変換マトリクスを前記パラメータとして生成する
ことを特徴とする請求項2または3に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記少なくとも1つの被写体の中から選択された主要被写体へのリフォーカスが不可であると判定した場合には、前記主要被写体の前記被写体領域が含まれるように、前記リフォーカス可能画角範囲を変更したうえで、前記主要被写体へのリフォーカスが可能であると判定し、
前記パラメータ生成手段は、変更された前記リフォーカス可能画角範囲と同じ画角を再構成するパラメータを、前記主要被写体に関連づけて生成する
ことを特徴とする請求項2から4のいずれか1項に記載の撮像装置。 - 前記少なくとも1つの被写体の中から選択された主要被写体に焦点を調整する際に、前記画像をリフォーカスするか、あるいはフォーカスレンズを駆動するかを、前記リフォーカス可否判定手段による前記主要被写体へのリフォーカス可否の判定結果に基づいて決定する焦点調整手段を更に備える
ことを特徴とする請求項1または2に記載の撮像装置。 - 前記焦点調整手段は、前記リフォーカス可否判定手段が、前記主要被写体へのリフォーカス可能と判定したときには、リフォーカスして焦点を調整し、前記主要被写体へのリフォーカス不可と判定したときには、フォーカスレンズを駆動して焦点を調整する
ことを特徴とする請求項6に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記主要被写体の前記被写体距離が含まれるようにリフォーカス可能距離範囲を調整し、調整されたリフォーカス可能距離範囲から算出されるリフォーカス可能画角範囲と、前記主要被写体の前記被写体領域との比較により、前記主要被写体へのリフォーカス可否を判定する
ことを特徴とする請求項6または7に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記主要被写体の前記被写体領域が含まれるようにリフォーカス可能画角範囲を調整し、調整されたリフォーカス可能画角範囲から算出されるリフォーカス可能距離範囲と、前記主要被写体の前記被写体距離との比較により、前記主要被写体へのリフォーカス可否を判定する
ことを特徴とする請求項6または7に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記被写体の前記被写体領域が、前記リフォーカス可能画角範囲に含まれる場合には、前記被写体へのリフォーカスが可能であると判定し、前記被写体の前記被写体領域が、前記リフォーカス可能画角範囲に含まれない場合には、前記被写体へのリフォーカスが不可であると判定する
ことを特徴とする請求項1から9のいずれか1項に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記被写体の前記被写体領域の全領域が、前記リフォーカス可能画角範囲に含まれる場合に、前記被写体へのリフォーカスが可能であると判定する
ことを特徴とする請求項10に記載の撮像装置。 - 前記被写体検出手段は、前記被写体の顔領域を、前記被写体の前記被写体領域として検出する
ことを特徴とする請求項1から11のいずれか1項に記載の撮像装置。 - 前記メタデータに基づいて、前記被写体へのリフォーカス可否を前記画像とともに表示する表示手段を更に備える
ことを特徴とする請求項2に記載の撮像装置。 - 前記リフォーカス可否判定手段による判定結果に基づいて、前記被写体へのリフォーカス可否を前記画像とともに表示する表示手段を更に備える
ことを特徴とする請求項6に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段によってリフォーカス不可と判定された被写体に対しては、前記リフォーカス可否判定手段によってリフォーカス可能と判定された被写体とは異なる表示を行う
ことを特徴とする請求項13または14に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段によるリフォーカス可否の判定結果を、前記画像上に文字や記号を重畳して表示する
ことを特徴とする請求項13から15のいずれか1項に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段がリフォーカス可能と判定した被写体に対しては、リフォーカス可能である旨を前記画像上に重畳して表示する
ことを特徴とする請求項13から16のいずれか1項に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段がリフォーカス不可と判定した被写体に対しては、リフォーカス不可である旨を前記画像上に重畳して表示する
ことを特徴とする請求項13から17のいずれか1項に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段によるリフォーカス可否の判定結果を、前記画像上の前記被写体領域に枠を重畳して表示する
ことを特徴とする請求項13から18のいずれか1項に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段によるリフォーカス可否の判定結果を、前記画像上の前記被写体の輪郭を強調させて表示する
ことを特徴とする請求項13から19のいずれか1項に記載の撮像装置。 - 前記表示手段は、前記リフォーカス可否判定手段によるリフォーカス可否の判定結果を、前記画像上の前記被写体領域に、テクスチャまたは単色を重畳して表示する
ことを特徴とする請求項13から20のいずれか1項に記載の撮像装置。 - 前記リフォーカス可否判定手段は、前記撮像素子の前記瞳分割画素領域の瞳分割方向に応じて前記リフォーカス可能画角範囲を算出する
ことを特徴とする請求項1から21のいずれか1項に記載の撮像装置。 - リフォーカス画像を再構成する撮像装置の制御方法であって、
瞳分割画素領域を有する撮像素子を用いて撮影した画像を、撮影時の光学系の撮影情報とともに取得する取得ステップと、
前記画像上の少なくとも1つの被写体を検出して、前記被写体の被写体領域を算出するとともに、前記被写体領域におけるデフォーカス量から、前記被写体までの奥行き距離である被写体距離を算出する被写体検出ステップと、
前記被写体距離、前記被写体領域、および前記撮影情報から、リフォーカス可能画角範囲を算出し、前記被写体領域が前記リフォーカス可能画角範囲に含まれるか否かを比較することにより、前記被写体へのリフォーカス可否を判定するリフォーカス可否判定ステップと、
を有することを特徴とする撮像装置の制御方法。 - リフォーカス画像を再構成する撮像装置において、
コンピュータを、
瞳分割画素領域を有する撮像素子を用いて撮影した画像を、撮影時の光学系の撮影情報とともに取得する取得手段と、
前記画像上の少なくとも1つの被写体を検出して、前記被写体の被写体領域を算出するとともに、前記被写体領域におけるデフォーカス量から、前記被写体までの奥行き距離である被写体距離を算出する被写体検出手段と、
前記被写体距離、前記被写体領域、および前記撮影情報から、リフォーカス可能画角範囲を算出し、前記被写体領域が前記リフォーカス可能画角範囲に含まれるか否かを比較することにより、前記被写体へのリフォーカス可否を判定するリフォーカス可否判定手段と、
して機能させるプログラム。 - 請求項24のプログラムを記録した、コンピュータが読み取り可能な記憶媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015152454A JP6546474B2 (ja) | 2015-07-31 | 2015-07-31 | 撮像装置およびその制御方法 |
US15/202,706 US10200590B2 (en) | 2015-07-31 | 2016-07-06 | Image pickup apparatus and method of controlling the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015152454A JP6546474B2 (ja) | 2015-07-31 | 2015-07-31 | 撮像装置およびその制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017034474A true JP2017034474A (ja) | 2017-02-09 |
JP6546474B2 JP6546474B2 (ja) | 2019-07-17 |
Family
ID=57883282
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015152454A Active JP6546474B2 (ja) | 2015-07-31 | 2015-07-31 | 撮像装置およびその制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10200590B2 (ja) |
JP (1) | JP6546474B2 (ja) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020085967A (ja) * | 2018-11-16 | 2020-06-04 | キヤノン株式会社 | 画像処理装置およびその制御方法ならびにプログラム |
JP2021051751A (ja) * | 2019-05-06 | 2021-04-01 | アップル インコーポレイテッドApple Inc. | 視覚メディアのキャプチャ及び管理用ユーザインタフェース |
US11112964B2 (en) | 2018-02-09 | 2021-09-07 | Apple Inc. | Media capture lock affordance for graphical user interface |
US11128792B2 (en) | 2018-09-28 | 2021-09-21 | Apple Inc. | Capturing and displaying images with multiple focal planes |
US11165949B2 (en) | 2016-06-12 | 2021-11-02 | Apple Inc. | User interface for capturing photos with different camera magnifications |
US11178335B2 (en) | 2018-05-07 | 2021-11-16 | Apple Inc. | Creative camera |
US11204692B2 (en) | 2017-06-04 | 2021-12-21 | Apple Inc. | User interface camera effects |
US11212449B1 (en) | 2020-09-25 | 2021-12-28 | Apple Inc. | User interfaces for media capture and management |
US11223771B2 (en) | 2019-05-06 | 2022-01-11 | Apple Inc. | User interfaces for capturing and managing visual media |
US11321857B2 (en) | 2018-09-28 | 2022-05-03 | Apple Inc. | Displaying and editing images with depth information |
US11330184B2 (en) | 2020-06-01 | 2022-05-10 | Apple Inc. | User interfaces for managing media |
US11350026B1 (en) | 2021-04-30 | 2022-05-31 | Apple Inc. | User interfaces for altering visual media |
US11490017B2 (en) | 2015-04-23 | 2022-11-01 | Apple Inc. | Digital viewfinder user interface for multiple cameras |
US11706521B2 (en) | 2019-05-06 | 2023-07-18 | Apple Inc. | User interfaces for capturing and managing visual media |
US11722764B2 (en) | 2018-05-07 | 2023-08-08 | Apple Inc. | Creative camera |
US11770601B2 (en) | 2019-05-06 | 2023-09-26 | Apple Inc. | User interfaces for capturing and managing visual media |
US11778339B2 (en) | 2021-04-30 | 2023-10-03 | Apple Inc. | User interfaces for altering visual media |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6626257B2 (ja) * | 2015-03-03 | 2019-12-25 | キヤノン株式会社 | 画像表示装置、撮像装置、画像表示方法、プログラム、記憶媒体 |
JP6700813B2 (ja) * | 2016-01-29 | 2020-05-27 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
CN106851104B (zh) * | 2017-02-28 | 2019-11-22 | 努比亚技术有限公司 | 一种根据用户视角进行拍摄的方法及装置 |
US11985420B2 (en) * | 2019-03-27 | 2024-05-14 | Sony Group Corporation | Image processing device, image processing method, program, and imaging device |
CN110944114B (zh) * | 2019-11-28 | 2021-06-08 | 维沃移动通信有限公司 | 拍照方法及电子设备 |
JP7324160B2 (ja) * | 2020-02-19 | 2023-08-09 | キヤノン株式会社 | 撮影制御装置、撮像装置、撮影制御方法、及びプログラム |
JP2021175133A (ja) * | 2020-04-28 | 2021-11-01 | キヤノン株式会社 | 焦点調節装置、撮像装置、焦点調節方法、及びプログラム |
JP2021179527A (ja) * | 2020-05-13 | 2021-11-18 | キヤノン株式会社 | 撮影制御装置、撮像装置、撮影制御方法、及びプログラム |
KR20210149542A (ko) * | 2020-06-02 | 2021-12-09 | 삼성에스디에스 주식회사 | 이미지 촬영 및 판독 방법, 이를 위한 장치 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012524467A (ja) * | 2009-04-18 | 2012-10-11 | リフォーカス イマジング,インコーポレイテッド | ライト・フィールド・カメラ画像、ファイルおよび構成データ、および、これらを使用、保存および伝達する方法 |
JP2014017543A (ja) * | 2012-07-05 | 2014-01-30 | Canon Inc | 画像処理装置およびその制御方法、並びにプログラム |
JP2014158258A (ja) * | 2013-01-15 | 2014-08-28 | Canon Inc | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
JP2015026880A (ja) * | 2013-07-24 | 2015-02-05 | 株式会社ニコン | 撮像装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS58188921A (ja) | 1982-04-28 | 1983-11-04 | Canon Inc | 時間軸変換装置 |
JPS58194478A (ja) | 1982-05-08 | 1983-11-12 | Canon Inc | 映像信号処理方法 |
JPS6262671A (ja) | 1985-09-12 | 1987-03-19 | Canon Inc | 固体撮像素子の信号処理回路 |
US4897734A (en) | 1985-10-28 | 1990-01-30 | Canon Kabushiki Kaisha | Image processing apparatus |
US4797945A (en) | 1985-12-13 | 1989-01-10 | Canon Kabushiki Kaisha | Image data coding apparatus |
DE69132486T2 (de) | 1990-09-04 | 2001-05-10 | Canon Kk | Dreidimensionales Modellierungsgerät-und Verfahren |
JP2817856B2 (ja) | 1990-11-29 | 1998-10-30 | キヤノン株式会社 | 画像処理装置 |
US6384935B1 (en) | 1997-02-28 | 2002-05-07 | Canon Kabushiki Kaisha | Image process apparatus, image process method and storage medium |
JP3976969B2 (ja) | 1999-12-02 | 2007-09-19 | キヤノン株式会社 | 画像処理装置、画像処理方法及び記憶媒体 |
JP4136696B2 (ja) | 2003-02-12 | 2008-08-20 | キヤノン株式会社 | 画像形成装置および画像形成方法 |
JP5968102B2 (ja) | 2012-06-15 | 2016-08-10 | キヤノン株式会社 | 画像記録装置および画像再生装置 |
JP6214236B2 (ja) | 2013-03-05 | 2017-10-18 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
-
2015
- 2015-07-31 JP JP2015152454A patent/JP6546474B2/ja active Active
-
2016
- 2016-07-06 US US15/202,706 patent/US10200590B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012524467A (ja) * | 2009-04-18 | 2012-10-11 | リフォーカス イマジング,インコーポレイテッド | ライト・フィールド・カメラ画像、ファイルおよび構成データ、および、これらを使用、保存および伝達する方法 |
JP2014017543A (ja) * | 2012-07-05 | 2014-01-30 | Canon Inc | 画像処理装置およびその制御方法、並びにプログラム |
JP2014158258A (ja) * | 2013-01-15 | 2014-08-28 | Canon Inc | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
JP2015026880A (ja) * | 2013-07-24 | 2015-02-05 | 株式会社ニコン | 撮像装置 |
Cited By (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11711614B2 (en) | 2015-04-23 | 2023-07-25 | Apple Inc. | Digital viewfinder user interface for multiple cameras |
US11490017B2 (en) | 2015-04-23 | 2022-11-01 | Apple Inc. | Digital viewfinder user interface for multiple cameras |
US11245837B2 (en) | 2016-06-12 | 2022-02-08 | Apple Inc. | User interface for camera effects |
US11641517B2 (en) | 2016-06-12 | 2023-05-02 | Apple Inc. | User interface for camera effects |
US11165949B2 (en) | 2016-06-12 | 2021-11-02 | Apple Inc. | User interface for capturing photos with different camera magnifications |
US11962889B2 (en) | 2016-06-12 | 2024-04-16 | Apple Inc. | User interface for camera effects |
US11687224B2 (en) | 2017-06-04 | 2023-06-27 | Apple Inc. | User interface camera effects |
US11204692B2 (en) | 2017-06-04 | 2021-12-21 | Apple Inc. | User interface camera effects |
US11977731B2 (en) | 2018-02-09 | 2024-05-07 | Apple Inc. | Media capture lock affordance for graphical user interface |
US11112964B2 (en) | 2018-02-09 | 2021-09-07 | Apple Inc. | Media capture lock affordance for graphical user interface |
US11178335B2 (en) | 2018-05-07 | 2021-11-16 | Apple Inc. | Creative camera |
US11722764B2 (en) | 2018-05-07 | 2023-08-08 | Apple Inc. | Creative camera |
US11669985B2 (en) | 2018-09-28 | 2023-06-06 | Apple Inc. | Displaying and editing images with depth information |
US11895391B2 (en) | 2018-09-28 | 2024-02-06 | Apple Inc. | Capturing and displaying images with multiple focal planes |
US11128792B2 (en) | 2018-09-28 | 2021-09-21 | Apple Inc. | Capturing and displaying images with multiple focal planes |
US11321857B2 (en) | 2018-09-28 | 2022-05-03 | Apple Inc. | Displaying and editing images with depth information |
JP2020085967A (ja) * | 2018-11-16 | 2020-06-04 | キヤノン株式会社 | 画像処理装置およびその制御方法ならびにプログラム |
JP7198055B2 (ja) | 2018-11-16 | 2022-12-28 | キヤノン株式会社 | 画像処理装置およびその制御方法ならびにプログラム |
US11223771B2 (en) | 2019-05-06 | 2022-01-11 | Apple Inc. | User interfaces for capturing and managing visual media |
US11770601B2 (en) | 2019-05-06 | 2023-09-26 | Apple Inc. | User interfaces for capturing and managing visual media |
US11706521B2 (en) | 2019-05-06 | 2023-07-18 | Apple Inc. | User interfaces for capturing and managing visual media |
JP2021051751A (ja) * | 2019-05-06 | 2021-04-01 | アップル インコーポレイテッドApple Inc. | 視覚メディアのキャプチャ及び管理用ユーザインタフェース |
US11617022B2 (en) | 2020-06-01 | 2023-03-28 | Apple Inc. | User interfaces for managing media |
US11330184B2 (en) | 2020-06-01 | 2022-05-10 | Apple Inc. | User interfaces for managing media |
US11212449B1 (en) | 2020-09-25 | 2021-12-28 | Apple Inc. | User interfaces for media capture and management |
US11539876B2 (en) | 2021-04-30 | 2022-12-27 | Apple Inc. | User interfaces for altering visual media |
US11778339B2 (en) | 2021-04-30 | 2023-10-03 | Apple Inc. | User interfaces for altering visual media |
US11416134B1 (en) | 2021-04-30 | 2022-08-16 | Apple Inc. | User interfaces for altering visual media |
US11418699B1 (en) | 2021-04-30 | 2022-08-16 | Apple Inc. | User interfaces for altering visual media |
US11350026B1 (en) | 2021-04-30 | 2022-05-31 | Apple Inc. | User interfaces for altering visual media |
Also Published As
Publication number | Publication date |
---|---|
US10200590B2 (en) | 2019-02-05 |
US20170034421A1 (en) | 2017-02-02 |
JP6546474B2 (ja) | 2019-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6546474B2 (ja) | 撮像装置およびその制御方法 | |
CN107087099B (zh) | 摄像装置、图像再现装置及其控制方法 | |
JP5517746B2 (ja) | 画像処理装置およびその方法 | |
KR102209066B1 (ko) | 다수의 초점거리를 이용한 이미지 합성 방법 및 장치 | |
US10587860B2 (en) | Imaging apparatus and method for controlling same | |
JP6202910B2 (ja) | 映像処理装置およびその制御方法、プログラム | |
JP6323022B2 (ja) | 画像処理装置 | |
US20120212640A1 (en) | Electronic device | |
JP6700813B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP6056551B2 (ja) | 画像処理プログラムおよびデジタルカメラ | |
JP7163228B2 (ja) | 撮像装置、画像合成方法、及び画像合成プログラム | |
KR101837688B1 (ko) | 디지털 촬영장치, 그 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 | |
JP5924943B2 (ja) | 撮像装置および撮像装置の制御方法 | |
JP6210836B2 (ja) | 撮像装置、撮像制御装置、その制御方法およびプログラム | |
JP2017184007A (ja) | 画像処理装置、撮像装置、制御方法およびプログラム | |
JP6516410B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2013081105A (ja) | 撮像装置およびその制御方法 | |
JP2014110442A (ja) | 撮像装置 | |
WO2024053522A1 (ja) | 画像処理装置および画像処理方法 | |
JP6366793B2 (ja) | 画像処理装置およびその制御方法、撮像装置 | |
JP2014217008A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6177305B2 (ja) | 撮像装置およびその制御方法、並びに画像処理装置およびその制御方法 | |
JP6828423B2 (ja) | 再生装置および再生プログラム | |
JP6433474B2 (ja) | 撮像装置およびその制御方法 | |
JP6298494B2 (ja) | 画像再生装置及びその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20171214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20180126 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190422 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190523 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190621 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6546474 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |