JP7014221B2 - 撮像装置、および画像撮影制御方法、並びにプログラム - Google Patents
撮像装置、および画像撮影制御方法、並びにプログラム Download PDFInfo
- Publication number
- JP7014221B2 JP7014221B2 JP2019508608A JP2019508608A JP7014221B2 JP 7014221 B2 JP7014221 B2 JP 7014221B2 JP 2019508608 A JP2019508608 A JP 2019508608A JP 2019508608 A JP2019508608 A JP 2019508608A JP 7014221 B2 JP7014221 B2 JP 7014221B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- synchronization signal
- exposure
- processing
- image pickup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 204
- 238000012545 processing Methods 0.000 claims description 220
- 230000008569 process Effects 0.000 claims description 188
- 238000006243 chemical reaction Methods 0.000 claims description 87
- 238000002360 preparation method Methods 0.000 claims description 66
- 230000004044 response Effects 0.000 claims description 38
- 238000003384 imaging method Methods 0.000 claims description 12
- 238000001514 detection method Methods 0.000 claims description 3
- 238000001454 recorded image Methods 0.000 description 15
- 238000003825 pressing Methods 0.000 description 13
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 230000010365 information processing Effects 0.000 description 2
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 2
- 230000002730 additional effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/665—Control of cameras or camera modules involving internal camera communication with the image sensor, e.g. synchronising or multiplexing SSIS control signals
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Studio Devices (AREA)
Description
このタイムラグは、レリーズタイムラグ、あるいはレリーズラグと呼ばれる。
レリーズラグは、カメラによって多少の差はあるが、多くのカメラにおいて、レリーズラグは、約15msec~30msecの時間範囲にある。
なお、レリーズラグについて開示した従来技術として、例えば特許文献1(特開2008-141236号公報)がある。
しかし、例えば、高速で移動する被写体を撮影する場合、レリーズボタン(シャッターボタン)を押下したタイミングの被写体と、レリーズラグ経過後の被写体は、大きく異なる場合がある。このような場合には、撮影者が意図した被写体画像と異なる画像がカメラのメモリに記録されることになる。
ところが、実際には、レリーズラグの時間は、レリーズボタンの押下タイミングによって異なってしまう場合がある。
これは、例えば撮像素子の処理タイミングが、一定間隔の同期信号によって規定されてしまうことに起因する。
すなわち、レリーズボタン(シャッターボタン)の押下タイミングから一定の固定期間経過後に露光処理を確実に開始させる撮像装置、および画像撮影制御方法、並びにプログラムを提供することを目的とする。
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記制御部は、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始する撮像装置にある。
撮像装置において実行する画像撮影制御方法であり、
前記撮像装置は、
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記制御部が、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始する画像撮影制御方法にある。
撮像装置において画像撮影制御処理を実行させるプログラムであり、
前記撮像装置は、
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記プログラムは、前記制御部に、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行わせ、
前記撮像素子に、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始させるプログラムにある。
具体的には、例えば、撮像素子と、撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、制御部は、撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を撮像素子に出力する。撮像素子は、第1追加同期信号の入力に応じて、撮影操作に対応する撮影画像の露光処理を開始する。さらに、制御部は、記撮影画像の露光処理の露光期間の終了タイミングにおいて、第2追加同期信号を撮像素子に出力し、撮像素子は、第2追加同期信号の入力に応じて、露光処理によって得られる光電変換信号の出力を開始する。
これらの処理により、レリーズタイムラグを一定として、撮影操作のタイミングに応じた画像の撮影を可能とした装置、方法が実現される。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
1.撮像装置における画像の撮影、表示処理、および記録処理の概要について
2.撮影タイミングによりレリーズラグが変化してしまう問題について
3.撮影実行タイミングに応じた撮影画像を取得可能とした実施例について
4.撮像装置の実行する処理のシーケンスについて
5.その他の実施例について
6.本開示の構成のまとめ
まず、図1以下を参照して、撮像装置における画像の撮影、表示処理、および記録処理の概要について説明する。
図1には、撮像装置における以下の処理例を示している。
(1)撮影処理非実行時(ライブビュー画像(LV)表示処理実行時)のデータ処理例
(2)撮影処理実行時(キャプチャ画像(CAP)記録処理実行時)のデータ処理例
一方、キャプチャ画像(CAP)とは、撮影者が、撮像装置のレリーズボタン(シャッターボタン)を操作することで撮影される画像である。キャプチャ画像(CAP)は、撮像措置の記録部(メディア)に記録される。
すなわち、ライブビュー画像(LV)は、キャプチャ画像(CAP)より低画素の画像となる。
光学レンズ11を介して入射される光は撮像部、例えばCMOSイメージセンサなどによって構成される撮像素子12に入射し、光電変換による画像データを出力する。なお、この場合の出力画像は、表示部21に表示するための表示用画像(LV画像)である。
撮影処理が実行された場合には、高画素数の記録用画像を生成する必要があるため、撮像素子のほぼ全画素データの出力を行う。
AD変換部13は、入力信号のA/D変換、すなわちアナログ信号をデジタル信号に変換する処理を実行して、変換後のデジタル値を信号処理部(信号処理LSI)14に入力する。
表示部21は、例えばLCDやEVF等によって構成され、撮影者が確認することができる。
撮影者が、レリーズボタン(シャッターボタン)を操作(押下)すると、この(2)の処理が行われることになる。
前述したように、レリーズラグは、カメラによって多少の差はあるが、多くのカメラにおいて、約15msec~30msecの時間となる。
図1では、(1)に示すLV画像の矢印を細く、(2)に示すCAP画像の矢印を太く示し、画素数の高低を矢印の太さで示している。
この場合、信号処理部14は、記録部22に格納するための高画素の記録用画像(CAP画像)を生成するとともに、さらに、表示部21に表示するための表示用画像(LV画像)も併せて生成してメモリ15に格納する。
一方、表示部21は、メモリ15に格納された低画素の表示用画像(LV画像)を表示する。
以上が、撮像装置における撮影実行時と非実行時の処理の概要である。
図2は、撮像装置の表示部に表示用画像(LV画像)を表示し、その間に、撮影処理を行い、記録用画像(CAP画像)の記録処理を行った場合の処理シーケンスを説明するタイミングチャートである。
左から右に時間が経過する。
(a)撮像素子入力同期信号
(b)露光処理
(c)AD変換処理
(d)表示画像生成処理
(e)記録画像生成処理
(f)表示部入力同期信号
(g)表示部表示画像
撮像素子12は、この同期信号の入力に応じて、様々な処理の開始や、処理の切り換え等の実行処理の更新を行う。例えば、同期信号は、撮像素子12における表示用画像(LV画像)の露光処理開始、または終了処理のトリガとなり、さらにAD変換処理開始や、表示画像生成処理開始のトリガとなる。
なお、図2に示す例では、撮像素子12における表示用画像(LV画像)の露光処理は、同期信号(ta2,ta4,・・・)の入力時に開始する設定ではなく、同期信号入力から所定クロック経過後に開始する設定である。
各三角形の左端が露光開始時間、右端が露光終了時間に相当する。
(d)表示画像生成処理は、AD変換部13におけるAD変換処理結果としてのデジタル信号を入力する信号処理部14が実行する表示用画像(LV画像)の生成処理である。
例えばLV1に対する処理ボックスとして2つのボックスを同一のタイミングに並べて示してある。
これは、AD変換部13においてAD変換されたデータが、順次、信号処理部14に入力され、信号処理部14においてAD変換部13からの入力データについて、順次、表示画像生成が実行されることを示しているものである。実際は、(c)AD変換処理が、やや先行して開始され、(d)表示画像生成処理がやや遅れて開始され、終了する。
図2には、(a)撮像素子入力同期信号=ta5以降に横長の矩形ボックスとして示している。
これは、高画素の記録画像(CAP画像)の生成に時間を要することを意味するものである。
表示部21は、この同期信号の入力に応じて、表示画像の切り換え等の処理を行う。
(g)表示部表示画像は、表示部21に表示される画像を示したものである。
(b)露光処理は、撮像素子12における露光処理である。
撮影者によるレリーズボタンが押下されず、撮影処理が実行されていない場合は、撮像素子12は、表示部21に表示するための表示用画像(LV画像)の露光処理を行う。
図の(b)露光処理に示す各三角形のLV1、LV2、LV3・・が、表示部21に表示する表示用画像(LV画像)の各画像フレームの露光処理を示している。
なお、図に示す例では、同期信号(ta5)入力時に記録用画像(CAP画像)の露光が完了する設定となっている。
これは、撮影者によるレリーズボタンの押下によって行われる処理であり、撮影者によるレリーズボタン押下がない場合は、この同期信号(ta5)入力時にも表示用画像(LV3)の露光が完了する設定となる。
一例として、図2に示す第2の表示用画像フレーム(LV2)に示す点線に従って処理シーケンスを説明する。
図2の(b)露光処理に示すように、第2の表示用画像フレーム(LV2)は、撮像素子12において、(a)撮像素子入力同期信号(ta3)の入力までに完了する。
撮像素子12は、(a)撮像素子入力同期信号(ta3)の入力に応じて、撮像素子12の露光結果として得られる光電変換信号をAD変換部13に出力する。
先に説明したように、表示部21は、(f)表示部入力同期信号の入力に応じて表示画像を更新する。
図から理解されるように、(d)表示画像生成処理に示す表示用画像(LV2)の生成処理の完了後の最も早い(f)表示部入力同期信号は、同期信号(tb2)である。
(a)撮像素子入力同期信号(ta5)入力時に露光処理が完了する記録用画像(CAP画像)は、1つ前の撮像素子入力同期信号(ta4)以前のレリーズボタンの操作によって行われる記録用画像(CAP画像)の露光処理である。
この処理タイミングについては、図3を参照して後段で説明する。
記録用画像(CAP画像)については、図2に示すように、(b)露光処理が、(a)撮像素子入力同期信号(ta5)入力までに完了する。
AD変換部13における(c)AD変換処理(capAD)は、高画素の記録用画像(CAP画像)に対する処理となり、低画素の表示用画像(LV画像)より、処理時間が長くなる。
この処理が、図2に示す(a)撮像素子入力同期信号(ta5~ta6)の間の処理である。
(d)表示画像生成処理として示す(LV3)、
(e)記録画像生成処理として示す(CAP)
これらの処理である。
また、(d)表示画像生成処理として示す(LV3)は、AD変換部13におけるAD変換結果データである高画素の記録用画像(CAP画像)から、画素間引き等の処理を行い、表示用の低画素の画像を生成する処理として実行される。
この処理は、図から理解されるように、表示部入力同期信号(tb3)までに完了する設定とされ、16.6msec間隔の表示画像のフレーム切り換えに間に合うように処理が行われる。
次に、撮影タイミングによりレリーズラグが変化してしまう問題について説明するる。
図3を参照して、この問題点について説明する。
図3は、先に説明した図2と同様、撮像装置の表示部に表示用画像(LV画像)を表示し、その間に、撮影処理を行い、記録用画像(CAP画像)の記録処理を行った場合の処理シーケンスにおけるタイミングチャートである。
左から右に時間が経過する。
(a)撮像素子入力同期信号
(b)露光処理
(c)AD変換処理
(d)表示画像生成処理
(e)記録画像生成処理
撮影操作1(レリーズ操作1)(ts1)、
撮影操作2(レリーズ操作2)(ts2)、
これら異なるタイミングの2つの撮影操作を示している。
これは、撮影者がレリーズボタンを押下したタイミングに相当する。
撮影者は、それぞれのタイミングに応じた異なるタイミングの異なる画像が撮影、記録できていると考える。
この要因について、図3を参照して説明する。
前述したように、レリーズラグは、カメラによって多少の差はあるが、多くのカメラにおいて、約15msec~30msecの時間となる。
しかし、このようにレリーズボタン(シャッターボタン)の押下タイミングを制御して、撮影者の想定した画像を撮影するためには、レリーズラグが常に一定であるということが条件となる。
これは、例えば撮像素子の処理タイミングが、一定間隔の同期信号によって規定されてしまうことに起因する。
この具体例について、図3を参照して説明する。
この露光準備処理は、例えば制御部から、撮像素子や信号処理部に対する制御信号の出力処理や、撮像素子や信号処理部における制御信号に基づく設定処理等に要する時間であり、ほぼ一定の時間である。
本実施例では、この露光準備処理時間を20msecとする。
図3に示す[露光準備処理1(20msec)]のボックスの右端に示す時間(ts1e)に露光準備処理が終了する。
撮像素子12は、(a)撮像素子入力同期信号の入力をトリガとして処理の開始、切り換えを行う構成であり、[露光準備処理1(20msec)]の終了時点(ts1e)以後の最初の(a)撮像素子入力同期信号である同期信号(ta4)の入力以後に露光処理が開始される。
なお、撮像素子12は、同期信号(ta4)の次の(ta5)までに露光処理を完了させるように露光期間を設定する。
露光期間は、例えば、ユーザ(撮影者)の設定したシャッタースピード等に基づいて決定される。
図3に示す例では、(b)露光処理に示す(CAP)、すなわち同期信号(ta5)において露光完了となるように露光期間が設定されて撮影画像201の露光処理が行われることになる。
時間(ts2)において撮影操作2(レリーズ操作2)が実行されると、露光準備処理が開始され、時間(ts2)から20msec経過後に露光準備処理が終了する。
図3に示す[露光準備処理2(20msec)]のボックスの右端に示す時間(ts2e)に露光準備処理が終了する。
前述したように、撮像素子12は、(a)撮像素子入力同期信号の入力をトリガとして処理の開始、切り換えを行う構成であり、[露光準備処理2(20msec)]の終了時点(ts2e)以後の最初の(a)撮像素子入力同期信号である同期信号(ta4)の入力以後に露光処理が開始される。
前述したと同様、撮像素子12は、同期信号(ta4)の次の(ta5)までに露光処理を完了させるように露光期間を設定する。
露光期間は、例えば、ユーザ(撮影者)の設定したシャッタースピード等に基づいて決定される。
図3に示す例では、(b)露光処理に示す(CAP)、すなわち同期信号(ta5)において露光完了となるように露光期間が設定されて撮影画像201の露光処理が行われることになる。
次に、上述した問題点を解決し、撮影実行タイミングに応じた撮影画像を取得可能とした実施例について説明する。
図4に示す撮像装置100は、光学レンズ101、撮像素子102、AD変換部103、信号処理部(信号処理LSI)104、メモリ105、表示部(LCD/EVF)106、記録部107、操作部108、制御部110を有する。
なお、表示部106をタッチパネル形式としてユーザ操作部として利用することも可能である。
例えば、撮像素子102の処理タイミングを規定する同期信号の出力制御や、表示部106の表示画像の切り換えタイミングを規定する同期信号の出力制御等を実行する。
制御部110は、具体的には、図示しない記憶部に格納されたプログラムに従った処理を実行するCPU等によって構成される。
プログラムは、例えば、画像撮影、画像記録、画像表示処理の制御プログラム、同期信号出力制御プログラム等によって構成される。
AD変換部103は、入力信号のA/D変換、すなわちアナログ信号をデジタル信号に変換する処理を実行して、変換後のデジタル値を信号処理部(信号処理LSI)104に入力する。
表示部106は、例えばLCDやEVF等によって構成され、撮影者が確認することができる。
また、記録部107は、メモリ105に格納された記録用画像(CAP画像)を格納する。
図5、図6は、先に図3を参照して説明した2つの異なる撮影操作を行った場合に記録される画像の露光処理を説明する図である。
図5は、図3を参照して説明した時間(ts1)の撮影操作1(レリーズ操作1)を行った場合の記録画像(CAP画像)の露光処理と記録画像生成処理を説明する図である。
図6は、図3を参照して説明した時間(ts2)の撮影操作2(レリーズ操作2)を行った場合の記録画像(CAP画像)の露光処理と記録画像生成処理を説明する図である。
図5は、先に説明した図3と同様、撮像装置の表示部に表示用画像(LV画像)を表示し、その間に、撮影処理を行い、記録用画像(CAP画像)の記録処理を行った場合の処理シーケンスにおけるタイミングチャートである。
左から右に時間が経過する。
(a)撮像素子入力同期信号
(b)露光処理
(c)AD変換処理
(d)表示画像生成処理
(e)記録画像生成処理
すなわち、時間ts1は、撮影者がレリーズボタンを押下したタイミングである。
前述したように、露光準備処理は、例えば制御部から、撮像素子や信号処理部に対する制御信号の出力処理や、撮像素子や信号処理部における制御信号に基づく設定処理等に要する時間であり、ほぼ一定の時間であり、本実施例では、この露光準備処理時間を20msecとする。
この露光準備処理時間を20msecは、レリーズラグの最小値に相当し、レリーズラグは露光準備処理時間(20msec)以下にすることはできない。
図5に示す[露光準備処理1(20msec)]のボックスの右端に示す時間(ts1e)に露光準備処理が終了する。
即座に撮像素子102における露光処理を開始させるため、制御部110は、撮像素子102に対して第1追加同期信号(ta-x4)211を出力する。
露光期間は、例えば、ユーザ(撮影者)の設定したシャッタースピード等に基づいて決定される。
制御部110は、このユーザ(撮影者)の設定したシャッタースピード等に基づいて決定される露光期間に応じて露光期間の終了タイミングを判定し、この露光期間の終了タイミングで、さらに、第2追加同期信号(ta-x5)212を撮像素子102に出力する。
第1追加同期信号(ta-x4)211から、第2追加同期信号(ta-x5)212の期間が、時間(ts1)における撮影操作1(レリーズ操作1)に応じた撮影画像の露光期間、すなわち、図に示す撮影画像露光期間210となる。
この撮影画像露光期間210の開始位置である第1追加同期信号(ta-x4)211は、撮影操作1(レリーズ操作1)の実行時間(ts1)から露光処理準備期間である20msec経過後の時間となる。
その後、第2追加同期信号(ta-x5)212以後において、
AD変換部103におけるAD変換処理、
信号処理部104における記録用画像(CAP画像)生成処理と、表示用画像(LV画像)生成処理が実行される。
なお、信号処理部104における表示用画像(LV画像)生成処理は、第2追加同期信号(ta-x5)212から規定の同期信号間隔(8.3msec)後の同期信号(ta-x6)までの間に完了する設定とされる。
時間(ts1)において撮影操作1(レリーズ操作1)が実行されると、露光準備処理が開始され、時間(ts1)から20msec経過後に露光準備処理が終了し、この[露光準備処理1(20msec)]の終了時点(ts1e)で、制御部110が、第1追加同期信号(ta-x4)211を撮像素子102に出力する。
この処理により、撮像素子102は即座に露光処理を開始させることか可能となる。
すなわち、本構成により、レリーズタイムラグは露光準備処理時間20msecに一致した最短時間となる。
(a)撮像素子入力同期信号
(b)露光処理
(c)AD変換処理
(d)表示画像生成処理
(e)記録画像生成処理
なお、撮影操作2(レリーズ操作2)(ts2)の実行タイミング(ts2)は、図5を参照して説明した撮影操作1(レリーズ操作1)(ts1)の実行タイミング(ts1)より遅いタイミングである。
これらの操作時間ts1,ts2は、図3を参照して説明した操作時間ts1,ts2と同じである。
図5を参照して説明した処理の場合と同様、露光準備処理時間を20msecとする。
この露光準備処理時間を20msecは、レリーズラグの最小値に相当し、レリーズラグは露光準備処理時間(20msec)以下にすることはできない。
図6に示す[露光準備処理2(20msec)]のボックスの右端に示す時間(ts2e)に露光準備処理が終了する。
即座に撮像素子102における露光処理を開始させるため、制御部110は、撮像素子102に対して第1追加同期信号(ta-y4)221を出力する。
この時間差は、図6に示す撮影操作2(レリーズ操作2)と、図5に示す撮影操作1(レリーズ操作1)の時間差、すなわちts2-ts1に等しくなる。
すなわち、撮影操作のタイミングのずれに応じて、露光期間もずれて設定されることになる。
露光期間は、例えば、ユーザ(撮影者)の設定したシャッタースピード等に基づいて決定される。
制御部110は、このユーザ(撮影者)の設定したシャッタースピード等に基づいて決定される露光期間に応じて、この露光期間の終了タイミングで、さらに、第2追加同期信号(ta-y5)222を撮像素子102に出力する。
第1追加同期信号(ta-y4)221から、第2追加同期信号(ta-y5)222の期間が、時間(ts2)における撮影操作2(レリーズ操作2)に応じた撮影画像の露光期間、すなわち、図に示す撮影画像露光期間220となる。
この撮影画像露光期間220の開始位置である第1追加同期信号(ta-y4)221は、撮影操作2(レリーズ操作2)の実行時間(ts2)から露光処理準備期間である20msec経過後の時間となる。
その後、第2追加同期信号(ta-y5)222以後において、
AD変換部103におけるAD変換処理、
信号処理部104における記録用画像(CAP画像)生成処理と、表示用画像(LV画像)生成処理が実行される。
なお、信号処理部104における表示用画像(LV画像)生成処理は、第2追加同期信号(ta-y5)222から規定の同期信号間隔(8.3msec)後の同期信号(ta-y6)までの間に完了する設定とされる。
撮像素子102における記録用画像(CAP画像)の露光開始時間を、撮影操作(レリーズ操作)が実行されてから、一定期間の露光準備処理(20msec)が終了した時間に制御する構成としている。
この結果、撮影操作(レリーズ操作)のタイミングが、わずかでも異なれば、その撮影操作対応の記録用画像(CAP画像)の露光開始時間も異なることになる。
撮影者は、一定のレリーズラグ(本例では20msec)を考慮する撮影を行うことで、目的のタイミングの画像を確実に撮影し記録することが可能となる。
撮像素子102は、第2追加同期信号(ta-x5)212の入力に応じて、撮像素子102の露光結果として得られる光電変換信号をAD変換部103に出力する。
その後、第2追加同期信号(ta-x5)212以後において、
AD変換部103におけるAD変換処理、
信号処理部104における記録用画像(CAP画像)生成処理と、表示用画像(LV画像)生成処理が実行される。
図7から理解されるように、(a)撮像素子同期信号(ta-x6)は、(f)表示部入力同期信号(tb3)より以前のタイミングであり、表示部106における表示用画像(LV2)の表示終了タイミングである(tb3)以前に、信号処理部104は、次の表示用画像(LV3)の生成を完了している。
従って、表示部106は、時間(tb3)において表示用画像をLV2からLV3に更新することができ、通常の画像表示シーケンス、すなわち16.6msecごとの表示画像フレームの切り換えによる動画像表示を支障なく行うことができる。
撮像素子102は、第2追加同期信号(ta-y5)222の入力に応じて、撮像素子102の露光結果として得られる光電変換信号をAD変換部103に出力する。
その後、第2追加同期信号(ta-y5)222以後において、
AD変換部103におけるAD変換処理、
信号処理部104における記録用画像(CAP画像)生成処理と、表示用画像(LV画像)生成処理が実行される。
図8から理解されるように、(a)撮像素子同期信号(ta-y6)は、(f)表示部入力同期信号(tb3)より以前のタイミングであり、表示部106における表示用画像(LV2)の表示終了タイミングである(tb3)以前に、信号処理部104は、次の表示用画像(LV3)の生成を完了している。
従って、表示部106は、時間(tb3)において表示用画像をLV2からLV3に更新することができ、通常の画像表示シーケンス、すなわち16.6msecごとの表示画像フレームの切り換えによる動画像表示を支障なく行うことができる。
(a)撮像素子入力同期信号
(f)表示部入力同期信号
これら2つの同期信号のタイミングが、記録用画像(CAP画像)の撮影前と撮影後で、ずれが発生している。
(a)撮像素子入力同期信号(ta2)と、(f)表示部入力同期信号(tb1)のタイミングが一致しているが、
記録用画像(CAP画像)の撮影後では、
(a)撮像素子入力同期信号(ta10)と、(f)表示部入力同期信号(tb5)とタイミングが一致していない。
表示用画像(LV画像)の撮影から表示部への表示までの時間の間隔に差が発生していることを意味する。
このように、表示用画像(LV画像)の撮影、生成処理から実際に表示部において表示画像が表示されるまでの時間が異なるとユーザに対して違和感を与える可能性がある。
このような問題を発生させないためには、例えば、記録用画像(CAP画像)の生成処理が完了した後に、(a)撮像素子入力同期信号と、(f)表示部入力同期信号を、元の関係に戻す制御を行うことが好ましい。
図9は、図7に対応する処理、すなわち、時間(ts1)において撮影操作1(レリーズ操作1)が実行された場合の処理を示す図である。
図9に示すように、記録用画像(CAP画像)の生成処理が完了した後の、(a)撮像素子入力同期信号(ta-x10)を、(f)表示部入力同期信号(tb5)に一致させるように変更する。
図9に示す同期信号(ta-x10)251である。
図10に示すように、記録用画像(CAP画像)の生成処理が完了した後の、(a)撮像素子入力同期信号(ta-y10)を、(f)表示部入力同期信号(tb5)に一致させるように変更する。
図10に示す同期信号(ta-y10)261である。
このような処理を行うことで、(a)撮像素子入力同期信号と、(f)表示部入力同期信号のタイミングが、記録用画像(CAP画像)の撮影前と同様の関係に維持されることになる。
また、同期信号の制御タイミングは、記録用画像(CAP画像)生成処理完了後に限らず、記録用画像(CAP画像)生成処理の途中であっても、記録用画像(CAP画像)の露光完了後であれば、どのタイミングで行ってもよい。
次に、図11に示すフローチャートを参照して、撮像装置の制御部において実行する撮像素子に対する同期信号出力制御シーケンスについて説明する。
例えば撮像装置100のメモリに予め格納されたプログラムを、プログラム実行機能を持つプロセッサを有する制御部110が実行してフローに従った処理を実行する。
以下、順次、各ステップの処理について説明する。
まず、ステップS101において、撮像装置100の制御部110は、撮影処理が実行されたか、すなわちユーザ(撮影者)によってレリーズボタンが押下されたか否かを判定する。これは、制御部110における操作部108からの入力検出処理として行われる。
ステップS101において、撮影処理(レリーズボタン押下)が実行されたと判定した場合、ステップS102に進み、ステップS102において、制御部110は、露光準備処理を実行する。
本実施例では、この露光準備処理時間を20msecである。
次に、ステップS103において、制御部110は、露光準備処理終了時点で、撮像素子102に第1追加同期信号を出力する。
この第1追加同期信号は、図5、図6を参照して説明した第1追加同期信号(ta-x4)(ta-y4)に相当する。
次に、ステップS104において、制御部110は、ユーザ設定シャッタースピード対応の露光時間の露光処理終了後に、撮像素子に第2追加同期信号を出力し、その後、規定出力間隔(例えば8.3msec)の同期信号を、撮像素子に出力する。
その後、第2追加同期信号出力後の処理として、
AD変換部103におけるAD変換処理、
信号処理部104における記録用画像(CAP画像)生成処理と、表示用画像(LV画像)生成処理が実行される。
一方、ステップS101において、撮影処理(レリーズボタン押下)が実行されていないと判定した場合f、ステップS105に進む。
ステップS105において、制御部110は、規定出力間隔(例えば8.3msec)の同期信号を、撮像素子に継続的に出力する。
撮像素子102における記録用画像(CAP画像)の露光開始時間は、撮影操作(レリーズ操作)後、一定期間の露光準備処理(20msec)終了時点に設定されることになる。
従って、撮影者は、一定のレリーズラグ(本例では20msec)を考慮する撮影を行うことで、目的のタイミングの画像を確実に撮影し記録することが可能となる。
次に、その他の実施例について説明する。
先に図4を参照して本開示の処理を実行する撮像装置の一例について説明した。
本開示の処理は、図4に示す撮像装置100の構成と異なる構成を有する撮像装置においても適用可能である。
図12に示す撮像装置200は、光学レンズ101、撮像素子デバイス210、信号処理部(信号処理LSI)104、メモリ105、表示部(LCD/EVF)106、記録部107、操作部108、制御部110を有する。
撮像素子デバイス210以外の構成は、先に図4を参照して説明した構成と同様である。
光学レンズ101を介して入射される光は撮像素子デバイス210の撮像素子211、例えばCMOSイメージセンサなどによって構成される撮像素子211に入射し、撮像素子211は、光電変換による画像データを同じ撮像デバイス210内に構成されたAD変換部212に出力する。
以下の処理は、先に図4を参照して説明した撮像装置100の処理と同様の処理となる。
この撮像デバイス210には、制御部110から制御信号、同期信号が入力され、同期信号に基づいて処理の開始、変更、終了等、更新処理が行われる。
図5~図8に示すタイミングチャートの(b)露光処理は、図12に示す撮像デバイス210の撮像素子211の実行する処理となる。
また、(c)AD変換処理は、図12に示す撮像デバイス210のAD変換部212の実行する処理となる。
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
(1) 撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記制御部は、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始する撮像装置。
前記撮影画像の露光処理の露光期間の終了タイミングにおいて、第2追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第2追加同期信号の入力に応じて、露光処理によって得られる光電変換信号の出力を開始する(1)に記載の撮像装置。
前記第1追加同期信号の出力前は、前記撮像素子に対して規定出力間隔で前記同期信号を出力する制御を行う(1)または(2)に記載の撮像装置。
前記第2追加同期信号の出力後は、前記撮像素子に対して規定出力間隔で前記同期信号を出力する制御を行う(2)に記載の撮像装置。
ユーザの設定情報に基づいて、前記露光期間の終了タイミングを判定する(1)~(4)いずれかに記載の撮像装置。
前記第2追加同期信号の入力に応じて、露光処理によって得られる光電変換信号をAD変換部に出力する処理を開始する(2)~(6)いずれかに記載の撮像装置。
操作部に対する撮影操作の検出に応じて、前記露光準備処理を開始し、該露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行う(1)~(7)いずれかに記載の撮像装置。
前記撮像素子の出力信号に基づいて記録用画像、および表示部に対する表示用画像を生成する信号処理部を有し、
前記信号処理部は、
前記撮影操作が実行されていない場合は、前記表示用画像の生成処理を実行し、
前記撮影操作が実行された場合に、前記記録用画像と前記表示用画像の生成処理を実行する(1)~(8)いずれかに記載の撮像装置。
前記撮像素子の出力信号に基づく表示画像を表示する表示部を有し、
前記制御部は、
前記表示部に対して、表示画像切り換えタイミングを規定する同期信号の出力制御を行う(1)~(9)いずれかに記載の撮像装置。
前記撮影画像の露光処理の露光期間の終了後に、
前記撮像素子の処理タイミングを規定する撮像素子入力同期信号と、
表示部の表示画像切り換えタイミングを規定する表示部入力同期信号との入力タイミングの関係性を、前記撮影画像の撮影処理前の関係性に戻す制御を行う(1)~(10)いずれかに記載の撮像装置。
前記撮像素子の出力信号に対するAD変換処理を実行するAD変換部と、
前記AD変換部の生成したデジタル信号を格納するメモリを構成要素とする撮像デバイス内に構成されている(1)~(11)いずれかに記載の撮像装置。
前記撮像装置は、
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記制御部が、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始する画像撮影制御方法。
前記撮像装置は、
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記プログラムは、前記制御部に、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行わせ、
前記撮像素子に、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始させるプログラム。
具体的には、例えば、撮像素子と、撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、制御部は、撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を撮像素子に出力する。撮像素子は、第1追加同期信号の入力に応じて、撮影操作に対応する撮影画像の露光処理を開始する。さらに、制御部は、記撮影画像の露光処理の露光期間の終了タイミングにおいて、第2追加同期信号を撮像素子に出力し、撮像素子は、第2追加同期信号の入力に応じて、露光処理によって得られる光電変換信号の出力を開始する。
これらの処理により、レリーズタイムラグを一定として、撮影操作のタイミングに応じた画像の撮影を可能とした装置、方法が実現される。
12 撮像素子
13 AD変換部
14 信号処理部
15 メモリ
21 表示部
22 記録部
101 光学レンズ
102 撮像素子
103 AD変換部
104 信号処理部
105 メモリ
106 表示部
107 記録部
108 操作部
110 制御部
200 撮像装置
210 撮像デバイス
211 撮像素子
212 AD変換部
213 メモリ
Claims (13)
- 撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記制御部は、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始し、
前記撮影画像の露光処理の露光期間の終了後に、
前記撮像素子の処理タイミングを規定する撮像素子入力同期信号と、
表示部の表示画像切り換えタイミングを規定する表示部入力同期信号との入力タイミングの関係性を、前記撮影画像の撮影処理前の関係性に戻す制御を行う撮像装置。 - 前記制御部は、
前記撮影画像の露光処理の露光期間の終了タイミングにおいて、第2追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第2追加同期信号の入力に応じて、露光処理によって得られる光電変換信号の出力を開始する請求項1に記載の撮像装置。 - 前記制御部は、
前記第1追加同期信号の出力前は、前記撮像素子に対して規定出力間隔で前記同期信号を出力する制御を行う請求項1または2に記載の撮像装置。 - 前記制御部は、
前記第2追加同期信号の出力後は、前記撮像素子に対して規定出力間隔で前記同期信号を出力する制御を行う請求項2に記載の撮像装置。 - 前記制御部は、
ユーザの設定情報に基づいて、露光期間の終了タイミングを判定する請求項1~4いずれかに記載の撮像装置。 - 前記設定情報は、シャッタースピードを設定する情報を含む請求項5に記載の撮像装置。
- 前記撮像素子は、
前記第2追加同期信号の入力に応じて、露光処理によって得られる光電変換信号をAD変換部に出力する処理を開始する請求項2または4に記載の撮像装置。 - 前記制御部は、
操作部に対する撮影操作の検出に応じて、前記露光準備処理を開始し、該露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行う請求項1~7いずれかに記載の撮像装置。 - 前記撮像装置は、
前記撮像素子の出力信号に基づいて記録用画像、および表示部に対する表示用画像を生成する信号処理部を有し、
前記信号処理部は、
前記撮影操作が実行されていない場合は、前記表示用画像の生成処理を実行し、
前記撮影操作が実行された場合に、前記記録用画像と前記表示用画像の生成処理を実行する請求項1~8いずれかに記載の撮像装置。 - 前記撮像装置は、
前記撮像素子の出力信号に基づく表示画像を表示する表示部を有し、
前記制御部は、
前記表示部に対して、表示画像切り換えタイミングを規定する同期信号の出力制御を行う請求項1~9いずれかに記載の撮像装置。 - 前記撮像素子は、
前記撮像素子の出力信号に対するAD変換処理を実行するAD変換部と、
前記AD変換部の生成したデジタル信号を格納するメモリを構成要素とする撮像デバイス内に構成されている請求項1~10いずれかに記載の撮像装置。 - 撮像装置において実行する画像撮影制御方法であり、
前記撮像装置は、
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記制御部が、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行い、
前記撮像素子は、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始し、
前記撮影画像の露光処理の露光期間の終了後に、
前記撮像素子の処理タイミングを規定する撮像素子入力同期信号と、
表示部の表示画像切り換えタイミングを規定する表示部入力同期信号との入力タイミングの関係性を、前記撮影画像の撮影処理前の関係性に戻す制御を行う画像撮影制御方法。 - 撮像装置において画像撮影制御処理を実行させるプログラムであり、
前記撮像装置は、
撮像素子と、
前記撮像素子の処理タイミングを規定する同期信号の出力制御を行う制御部を有し、
前記プログラムは、前記制御部に、
撮影操作に応じて開始される露光準備処理の終了タイミングにおいて、第1追加同期信号を前記撮像素子に出力する制御を行わせ、
前記撮像素子に、前記第1追加同期信号の入力に応じて、前記撮影操作に対応する撮影画像の露光処理を開始させ、
前記撮影画像の露光処理の露光期間の終了後に、
前記撮像素子の処理タイミングを規定する撮像素子入力同期信号と、
表示部の表示画像切り換えタイミングを規定する表示部入力同期信号との入力タイミングの関係性を、前記撮影画像の撮影処理前の関係性に戻す制御を行わせるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017067661 | 2017-03-30 | ||
JP2017067661 | 2017-03-30 | ||
PCT/JP2018/001783 WO2018179710A1 (ja) | 2017-03-30 | 2018-01-22 | 撮像装置、および画像撮影制御方法、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018179710A1 JPWO2018179710A1 (ja) | 2020-02-06 |
JP7014221B2 true JP7014221B2 (ja) | 2022-02-01 |
Family
ID=63674723
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019508608A Active JP7014221B2 (ja) | 2017-03-30 | 2018-01-22 | 撮像装置、および画像撮影制御方法、並びにプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11095811B2 (ja) |
JP (1) | JP7014221B2 (ja) |
CN (1) | CN110431836A (ja) |
WO (1) | WO2018179710A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022158202A1 (ja) * | 2021-01-25 | 2022-07-28 | ソニーグループ株式会社 | 撮像装置、撮像制御方法、プログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002199288A (ja) | 2000-12-26 | 2002-07-12 | Olympus Optical Co Ltd | 撮像装置 |
JP2007300410A (ja) | 2006-04-28 | 2007-11-15 | Samsung Techwin Co Ltd | 撮像装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0275281A (ja) * | 1988-09-09 | 1990-03-14 | Nikon Corp | 電子スチルカメラ |
JP4328260B2 (ja) * | 2004-04-21 | 2009-09-09 | オリンパス株式会社 | デジタル一眼レフレックスカメラ |
JP5855862B2 (ja) * | 2011-07-07 | 2016-02-09 | オリンパス株式会社 | 撮像装置、撮像方法およびプログラム |
JP6082274B2 (ja) * | 2012-06-08 | 2017-02-15 | キヤノン株式会社 | 撮像装置、及びその制御方法 |
JP6399843B2 (ja) * | 2014-07-28 | 2018-10-03 | キヤノン株式会社 | 撮像装置及びその制御方法 |
-
2018
- 2018-01-22 US US16/495,155 patent/US11095811B2/en active Active
- 2018-01-22 JP JP2019508608A patent/JP7014221B2/ja active Active
- 2018-01-22 WO PCT/JP2018/001783 patent/WO2018179710A1/ja active Application Filing
- 2018-01-22 CN CN201880020139.9A patent/CN110431836A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002199288A (ja) | 2000-12-26 | 2002-07-12 | Olympus Optical Co Ltd | 撮像装置 |
JP2007300410A (ja) | 2006-04-28 | 2007-11-15 | Samsung Techwin Co Ltd | 撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2018179710A1 (ja) | 2020-02-06 |
WO2018179710A1 (ja) | 2018-10-04 |
US11095811B2 (en) | 2021-08-17 |
CN110431836A (zh) | 2019-11-08 |
US20200021735A1 (en) | 2020-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7014222B2 (ja) | 撮像装置、および画像処理方法、並びにプログラム | |
US10839497B2 (en) | Image processing apparatus and method | |
JP5909997B2 (ja) | 撮像装置および撮像装置の制御方法 | |
JP6578677B2 (ja) | 撮影装置 | |
JP2018148512A (ja) | 撮像装置と撮像装置の制御方法、及びプログラム | |
US11153516B2 (en) | Image capture apparatus and control method therefor | |
JP7014221B2 (ja) | 撮像装置、および画像撮影制御方法、並びにプログラム | |
JP7176518B2 (ja) | 撮像装置、および画像処理方法、並びにプログラム | |
JP2009089037A (ja) | 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置 | |
US11974058B2 (en) | Image capturing apparatus and control method thereof | |
US11356603B2 (en) | Image capturing apparatus and control method therefor | |
JP7319873B2 (ja) | 撮像装置およびその制御方法 | |
JP5321108B2 (ja) | カメラ、レンズ収差補正プログラム、およびレンズ収差補正プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
US11496683B2 (en) | Image capturing apparatus and control method thereof, and image capturing system | |
JP7523914B2 (ja) | 撮像装置及びその制御方法 | |
WO2022255318A1 (ja) | 撮像装置および画像処理装置 | |
JP7325266B2 (ja) | 撮像制御装置、撮像装置、制御方法、及びプログラム | |
JP6486132B2 (ja) | 撮像装置およびその制御方法、並びにプログラム | |
JP2014150313A (ja) | 撮像装置 | |
JP2022128832A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP5760662B2 (ja) | 電子機器 | |
JP2020184697A (ja) | 撮像装置およびその制御方法 | |
JP2017022542A (ja) | 撮像装置、撮像装置の制御方法 | |
JP2015015622A (ja) | 撮像装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201105 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201105 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211012 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220103 |