JP2020187065A - 電子機器及びその制御方法、プログラム - Google Patents

電子機器及びその制御方法、プログラム Download PDF

Info

Publication number
JP2020187065A
JP2020187065A JP2019093132A JP2019093132A JP2020187065A JP 2020187065 A JP2020187065 A JP 2020187065A JP 2019093132 A JP2019093132 A JP 2019093132A JP 2019093132 A JP2019093132 A JP 2019093132A JP 2020187065 A JP2020187065 A JP 2020187065A
Authority
JP
Japan
Prior art keywords
image
projection
electronic device
distance
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019093132A
Other languages
English (en)
Other versions
JP2020187065A5 (ja
Inventor
賢治 小貫
Kenji Konuki
賢治 小貫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019093132A priority Critical patent/JP2020187065A/ja
Priority to US15/930,868 priority patent/US11209262B2/en
Publication of JP2020187065A publication Critical patent/JP2020187065A/ja
Priority to US17/531,889 priority patent/US11808561B2/en
Publication of JP2020187065A5 publication Critical patent/JP2020187065A5/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/026Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring distance between sensor and object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/02Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems using reflection of acoustic waves
    • G01S15/06Systems determining the position data of a target
    • G01S15/46Indirect determination of position data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/46Indirect determination of position data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/14Details
    • G03B21/53Means for automatic focusing, e.g. to compensate thermal effects

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Abstract

【課題】物体を直に目視しているユーザが、その物体の長さを把握することを可能にする電子機器及びその制御方法、プログラムを提供する。【解決手段】電子機器100は、像を投影する投影部108と、物体20までの距離を測定する測定部11と、測定部により測定された物体までの距離に基づいて、物体に投影された像が実寸長を有するように、投影部による像の投影を制御する投影制御部12と、を備える。【選択図】図1

Description

本発明は、電子機器及びその制御方法、プログラムに関する。
一般に、2つの撮像部により視差を有する画像を撮像するステレオカメラが知られている。ステレオカメラでは、2つの撮像部によって同一の被写体を同時に撮像し、視差を有する第1の画像と第2の画像との2種類の画像を取得する。このようなステレオカメラによって撮像された2種類の画像からは、被写体の奥行き方向の長さを算出することができる。
特許文献1には、視差画像を撮像できる撮像装置を用いて、被写体上のユーザが指定した2点間の3次元空間上の長さを測定する技術が開示されている。特許文献1は、表示パネルに表示された撮像画像上でユーザが指定した被写体の3次元位置情報に基づいて、実質的に実際の寸法を表すスケール画像を生成し、生成したスケール画像を撮像画像に合成して表示する。
特開2001−209827号公報
特許文献1によれば、表示画面上の任意の位置に実寸を測ることのできるスケール画像が重畳して表示され、ユーザは被写体の長さを測定することができる。しかしながら、スケール画像が表示画面に表示されるため、表示画面を見ていない非撮影者(例えば被写体の近くにいるユーザ)はその測定結果を確認することができない。すなわち、ユーザは、被写体を直に目視しながら(表示画面を見ずに)、物体の長さ、周囲の物体との位置関係(距離)などを把握することはできない。
本発明は、物体を直に目視しているユーザが、その物体の長さを把握することを可能にする技術を提供する。
本発明の一態様による電子機器は以下の構成を備える。すなわち、
像を投影する投影手段と、
物体までの距離を測定する測定手段と、
前記測定手段により測定された前記物体までの距離に基づいて、前記物体に投影された前記像が実寸長を有するように、前記投影手段による前記像の投影を制御する投影制御手段と、を備える。
本発明によれば、物体を直に目視しているユーザが、その物体の長さを把握することが可能になる。
(a)は実施形態における電子機器の機能構成例を示すブロック図、(b)は電子機器のハードウェア構成例を示すブロック図。 (a)、(b)は、実施形態における撮像部の構成例を示すブロック図。 実施形態における画像処理部の機能構成例を示すブロック図。 実施形態による電子機器の動作を示すフローチャート。 実施形態の電子機器による被写体の撮像、表示状態の一例を示す図。 (a)は、距離データを説明する図、(b)は、スケール画像の一例を示す図、(c)は、ブロック積分方法を説明する図。 被写体へスケール像を投影した状態を示す図。 第2実施形態による電子機器の動作を示すフローチャート。 第2実施形態による投影位置の制御を示すフローチャート。 第2実施形態におけるブロック積分方法を説明する図。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
<第1実施形態>
図1(a)は、第1実施形態の電子機器100の主要な機能構成を示すブロック図である。像を投影する投影部108を有する電子機器100は、機能構成としての距離測定部11、投影制御部12を備える。距離測定部11は、物体20までの距離を測定する。投影制御部12は、距離測定部11により測定された物体20までの距離に基づいて、物体20に投影された像21が所定の実寸長を有するように、投影部108による像の投影を制御する。以下、距離測定部11、投影制御部12を実現する構成例について詳細に説明する。
第1実施形態では、デジタルカメラなどの撮像装置を用いて撮像した物体(以下、被写体)までの距離および長さを測定し、その結果を用いて所定の実寸長を有する像を当該被写体に所定の実寸長の像として投影する構成について説明する。以下では、電子機器100の一例として、投影機能を有する撮像装置(例えば、デジタルカメラのアクセサリシューに投影部が装着された形態)を説明するが、本実施形態の電子機器はそのような撮像装置に限定されない。例えば、撮像部を有する投影装置であってもよいし、撮像装置と投影装置が接続されたパーソナルコンピュータ(PC)などであってもよい。
図1は、第1実施形態による電子機器100の構成例を示すブロック図である。図1(b)において、光学系101は、ズームレンズやフォーカスレンズから構成されるレンズ群、絞り調整装置、および、シャッター装置を備えている。光学系101は、撮像部102に到達する被写体像の倍率やピント位置、あるいは、光量を調整している。撮像部102は、光学系101を通過した被写体の光束を光電変換し電気信号に変換するCCDやCMOSセンサ等の光電変換素子と、入力された映像信号をデジタルの画像に変換するA/D変換部とを備える。
制御部103は、例えば1つまたは複数のプロセッサ(CPU)とメモリとを備え、1つまたは複数のプロセッサがメモリに格納されている所定のプログラムを実行することで、電子機器100における各種動作を制御する。例えば、適正な明るさを持つ入力画像を得る為の撮像時の露光量を算出し、それを実現する為に光学系101(絞り、シャッタスピードなど)と撮像部102(センサのアナログゲインなど)などを制御する。画像処理部104は、通常の画像処理の他に、被写体の画像から各種の特徴量を算出する処理を行う。画像処理部104は制御部103から出力された画像のみでなく、記録部105から読み出した画像に対しても同様の画像処理を行うことができる。なお、画像処理部104の機能の一部あるいはすべてが制御部103により実現されてもよい。
記録部105は、各種処理に用いる一時的なデータを記憶したり、画像や記録したりする機能を有する。記録部105は、たとえばDRAM(Dynamic Random Access Memory)、半導体メモリが搭載されたメモリカード、光磁気ディスク等の回転記録体を収容したパッケージ、などを用いた情報記録媒体を含み得る。
設定部106は、撮像・測定に際してユーザが任意に設定した各種の値を取得する機能を有する。表示部107は、画像処理部104から出力される画像をLCDなどの表示用部材に逐次表示することにより、電子ビューファインダ(EVF)として機能する。投影部108は、画像を任意のサイズに拡縮しながら投影したり、任意の長さや色を有する光を投影したりする。
図2(a)は、撮像部102における画素202の配列の一部を示す図である。図2(b)は1つの画素202を拡大して示した図である。撮像部102では画素202が二次元的に規則的に配列されている。画素202は、マイクロレンズ201と一対の光電変換部203A、203Bを有した、いわゆるデュアルピクセル撮像素子である。
図3は制御部103と画像処理部104の機能構成例を示すブロック図である。図3において、信号処理部301は、ノイズ低減処理や現像処理など通常の信号処理を行う。また、信号処理部301は、ガンマ変換などによる階調圧縮処理を用いて処理対象の画像に対して所定の出力レンジに階調圧縮する処理などを行う。撮像情報取得部302は、撮像時にユーザが設定した撮像モードや、焦点距離、絞り値、露光時間などの各種情報を取得する。
特徴抽出部303は、信号処理部301が出力した画像から輝度、色、エッジなどの各種特徴量を算出する。距離算出部304は、光学系101の瞳の異なる領域から到来する光束に生ずる複数の被写体像の位相差に基づいて、撮像された画像における電子機器100から被写体までの距離の分布を示す距離データを生成する。撮像部102と距離算出部304は、上述した距離測定部11を実現する構成の一例である。ここで距離算出部304が算出する距離データの形態としては被写体までの距離に限らず、位相差により得られる複数の被写体象の像ずれ量を表す分布の形態であってもよいし、それらをK値に基づいてデフォーカス量に変換したデフォーカス量の分布の形態であってもよい。
判定部311は、特徴抽出部303および距離算出部304の出力を用いて、各種の判定処理を行う。投影制御部12は、図1(a)において説明した構成であり、距離算出部304により算出された距離に基づいて投影部108による像の投影を制御する。また、投影制御部12は、特徴抽出部303が抽出した画像の特徴と、距離算出部304が算出した距離とに基づいて、投影部108による像の投影形態(投影の色、輝度、投影を実行するか否か)を制御する。
以下、ユーザが電子機器100の表示部107上で指定した被写体に対して、実寸長を測定し、その結果を用いて実際の被写体にスケール画像を投影する際の投影制御処理について図4のフローチャートを用いて説明する。なお、図5はユーザ(不図示)が長さを測定したい被写体501を電子機器100によって撮像する様子を示した図である。図5において、画像502は表示部107に表示される画像を示している。
ステップS401において制御部103は、長さを測定するポイントのユーザ指定を設定部106より受け取る。例えば、表示部107上でユーザが表示中の画像の任意の2点をタッチすることによって、測定点が指定される。図5では、電子機器100の表示部107に表示された画像502上の測定点503および測定点504がユーザ指定された様子が示されている。
ステップS402において、距離算出部304は、ステップS401で指定された2つの測定点までのそれぞれの距離を算出する。図2(a)(b)に示した撮像素子の構成により、光電変換部203A、光電変換部203Bには光学系101において異なる瞳領域を通過した2つの光束が入射する。光電変換部203Aと光電変換部203Bのそれぞれで得られた輝度画像は、瞳領域がそれぞれ異なるため、物体距離位置に依存して視差を有する。よって、これらの輝度画像からステレオマッチング法など既知の手法によりデフォーカス量を算出することができる。
光学系の結像式を用いて、デフォーカス量を距離値に変換することができる。光学系101の後側主点位置から撮像面までの像距離を、合焦物体についてS(0)、非合焦物体についてS(0)+def1とする。def1は算出したデフォーカス量とする。また光学系101の前側主点位置から、合焦物体までの距離をOBJ(0)、非合焦物体までの距離をOBJ(def1)とする。すると、合焦している物体に対しては、光学系101のレンズの焦点距離fを用いて以下の(式1)が成り立つ。
1/OBJ(0)+1/S(0)=1/f ...(1)
式(1)により、既知の値であるS(0)およびfを用いて物体までの距離OBJ(0)を算出することができる。また、非合焦の物体までの距離OBJ(def1)については、同様に以下の式(2)が成り立つ。
1/OBJ(def1)+1/(S(0)+def1)=1/f ...(2)
式(2)において、既知の値であるS(0)および算出されたdef1の値を用いることでOBJ(def1)を算出することができる。
図6(a)の画像601は、上述した距離値の算出の結果として得られる距離データの一例を示したものである。画像601において、明るい領域ほど電子機器100(撮像部102)から近く、暗い領域ほど電子機器100(撮像部102)から遠いことを示している。なお、図6(a)に示されるように、光学系101の前側主点位置から、ユーザにより指定された2つの測定点503、504までの距離(被写体距離)をそれぞれzaおよびzbとする。なお、画像601内で輪郭部分を表す黒線は、図示をわかりやすくするためのもので、測定された距離を反映するものではない。
図4に戻り、ステップS403において、判定部311はステップS402で算出された2つの測定点503,504の被写体距離zaおよびzbの差が所定値以下か否かを判定する。具体的には、被写体距離zaおよびzbのうち小さい方の値、すなわち電子機器100に近い側の測定点の被写体距離の5%の値を閾値として比較を行う。ZaとZbの差が所定値以下と判定された場合、処理はステップS405へ進み、そうでない場合には処理はステップS404へ進む。ステップS404では、制御部103はユーザに対して測定点の正面から撮像するように促すメッセージを表示部107に表示する。そして、制御部103は、ステップS401において改めて測定点が指定されるまで待機する。
後述する、実寸大のスケール像の投影において、指定された2つの測定点を結ぶ線分が電子機器100に対して正対せず大きく傾いている場合、正しい実寸長での投影が行えなくなる。上記ステップS403における判定とステップS404の処理は、このような不具合を避けるための処理である。なお、ステップS403で用いられる所定値(閾値)は上記に限られるものではなく、例えば、より小さな値を用いることでより精度の高い測定を行なえるようにしても良い。
ステップS403において被写体距離ZaとZbの差が所定値以下と判定された場合、ステップS405において、距離算出部304は、ステップS401で指定された2つの測定点の間の長さを測定する。まず2点間の撮像画像上での距離(画素数)pcを算出する。2点の画像上での座標を(xa、ya)、(xb、yb)とすると、pcは以下の式(3)により算出される。
pc=((xb−xa)^2+(yb−ya)^2)^1/2 ...(3)
さらに、距離算出部304は、ステップS402で算出した光学系101の前側主点位置から物体上の2つの測定点までの距離ZaとZbの平均値z(=(Za+Zb)/2)を、被写体までの距離として算出する。光学系101の後側主点位置から撮像素子(画素202)までの距離をf、撮像素子(画素202)の画素ピッチをppとした時、2点間の長さ(実距離)Sは以下の式で算出することができる。
S=pc×pp×z/f ...(4)
なお、画像上の2点間の長さの算出は上記の式(4)を用いた手法に限定されるものではない。2点間の画素数と被写体の距離情報を用いていれば、他の情報はどのようなものを用いて決定しても良い。
ステップS406において、投影制御部12は、投影部108が被写体に対して画像あるいは光を投影する際の倍率を算出する。ここでは、目視によって実寸の長さを測定可能にするようなスケール図形を投影部108が投影する場合について述べる。図6(b)は、本実施形態による投影されるスケール図形を示す図である。スケール図形621は、投影部108が実際に投影する画像を示したものであり、目盛りを有する物差し状の図形である。本実施形態では、スケール図形621の小さい目盛り622は実寸で20cm、大きい目盛り623は実寸で100cmを表す。
投影制御部12は、ステップS402で算出された測定点の被写体距離に基づいて、投影部108がスケール図形621を投影面に投影する際に、目盛りの間隔が実寸大となるように投影を拡大あるいは縮小するための倍率を決定する。すなわち、投影制御部12は、測定された被写体距離に位置する投影面上で、隣接する目盛り622の間の長さが実際に20cmとなるように、スケール図形621の大きさ(倍率)を調整する。なお、目盛りが表す長さは上記の例に限られないことは言うまでもない。また、測定対象の被写体に適した数値となるように、目盛り622の間隔、目盛り623の間隔などをユーザが設定できるようにしてもよい。
次に、ステップS407において、特徴抽出部303は画像502から被写体501の特徴量を抽出する。具体的には、特徴抽出部303は、画像502をブロック単位に分割し、ステップS401で指定した2点およびその間に存在するブロックにおける輝度および色相の積分値を算出する。図6(c)はその様子を示した模式図であり、画像502を複数のブロックに分割した画像641が示されている。また、これら複数のブロックのうち太線で示したブロックが積分値を算出する対象となるブロック(ステップS401で指定された2つの測定点とそれを結ぶ線分を含むブロック)である。特徴抽出部303は、対象のブロックにおける色相の積分値を算出し、それらの平均値を被写体501の特徴量として抽出する。この処理により得られた色相を、スケール図形621を投影する領域の色相(被写体501の表面の色)として扱うことにより、投影するスケール図形の色を適切に決定することができる。
ステップS408において、投影制御部12は、ステップS407で特徴抽出部303が抽出した特徴量に基づいて、投影部108が投影するスケール図形621の像の色を決定する。例えば、上述のようにして算出された色相の平均値が示す色相の補色を投影する像の色とすることで、目盛りをより目視しやすくすることができる。また、算出された色相が無彩色であった場合には、緑色など予め設定された初期値を用いることができる。また、投影制御部12は、被写体の輝度が大きいほど像の輝度を下げるように制御してもよい。例えば、投影制御部12は、被写体の輝度が所定値より小さい場合は像の輝度を上げ、被写体の輝度が所定値以上である場合は像の輝度を下げるように制御してもよい。例えば、上述した対象のブロックについて輝度の積分値を算出し、それらの平均値が所定値より大きい場合には、投影部108による投影の明るさを下げた上で、スケール図形621を投影する。このように、スケール図形の像が投影される被写体の輝度が所定値より大きい場合は低輝度の像を、輝度が所定値以下の場合には高輝度の像を投影することで、目視のしやすさが向上する。
ステップS409では、投影制御部12は、ステップS402で算出した測定点までの距離(被写体距離)が所定以上か否かを判定する。具体的には、投影制御部12は、2点の被写体距離(ZaとZb)のうち、大きい方の値すなわち遠い側の測定点の被写体距離と、予め設定した閾値(例えば10メートル)とを比較する。被写体距離の方が大きい場合には処理はステップS410へ、そうでない場合には処理はステップS411へ進む。
測定する被写体が遠くなればなるほどスケール図形621の深度が深くなりデフォーカス量が小さくなることから、実距離の分解能が不足し信頼性が低くなる。したがって、ステップS410では、このことをユーザに通知するために、投影制御部12はスケール図形621の表示形態を変更する。例えば、投影部108は、スケール図形621を投影する色を赤色に変更する。これにより、ユーザは投影の色を目視することで測定値の信頼性が低いことを認識し、撮影距離を調整するなどの対応をすることができる。なお、表示形態の変更の仕方は上記に限られるものではなく、例えば被写体の色が赤色であった場合には橙色にするか、または色を変えずにスケール図形621を点滅させながら投影するなどしても良い。
ステップS411では、投影制御部12は、設定した倍率および色に従って、スケール図形621を被写体に対して投影するよう投影部108を制御する。投影制御部12は、指定された2つの測定点の距離に相当する長さのスケールを、それら2つの測定点を結ぶ線上に、当該線に沿って投影するように、投影部108を制御する。
図7は、スケール図形の投影状態を示した図である。図7に示されるように、制御部103は、表示部107において、指定された2つの測定点間の長さの測定結果(本例では130cm)を画像701上に重畳表示する。また、投影部108からは、スケール図形621に対応するスケール像702が被写体501に投影され、ユーザはこれを目視することができる。これにより表示部107を見ていないユーザも、2つの測定点間の長さがおよそ130cmであることを確認することができる。
なお、上記実施形態では、投影するスケール像702の長さを指定された測定点間における実寸の長さ分としたが、これに限られるものではない。例えば、投影される像の長さをユーザが任意に設定した長さ分を投影するようにするようにしてもよい。このような構成によれば、例えば被写体上で1メートルがどこからどこまでかを目視で確認したいような場合に、ユーザは1メートル分の像を投影するように設定することができる。
以上説明したように、第1実施形態によれば、被写体までの距離や形状などに応じて実寸大の長さとなるような画像(スケール画像)が投影される。これにより、撮影者以外(表示部107に表示された画像を見ることができないユーザ)であっても、被写体の長さを把握することができる。
なお本実施形態では、物差し状の画像(スケール像702)を投影する場合について述べたが、これに限られるものではない。投影部108は、液晶部を有するプロジェクタであってもよいし、レーザポインタやラインレーザのようにレーザを用いて物体上への描画を行う構成であってもよい。例えば、投影部108は、2つ以上の光点や直線状の光を投光するものであってもよい。例えば、投影部108は、2つの投光部を有し、ユーザが任意に設定した長さ(例えば1メートル)分の間隔を設けて2つの光を被写体に投光するように2つの投光部を制御する構成としてもよい。このような構成によれば、画像を拡縮・投影するよりも投影部108を簡易的な構成とすることができる。また、任意の長さの画像や光を直線状に投影することで、被写体が直線に沿って配置されているか、所定の間隔を空けて配置されているかといったような、被写体の配置状況を目視で確認することができる。
また本実施形態では、被写体までの距離が遠い場合に、測定の信頼性が低いことを示すために投影部108による投影の形態を変更(本例では色を変更)した。しかしながら、測定の信頼性の判定は、被写体までの距離に限られるものではなく、例えば、被写体のエッジ量から信頼性を判定し、表示形態を変更するようにしても良い。ステップS402において距離算出部304が距離値を算出する際、被写体のテクスチャが乏しい領域はステレオマッチングにより相関値を算出することが困難となる。投影制御部12は、被写体のエッジ量が所定量より小さい場合は、像の投影を行わないか、あるいは被写体のエッジ量が所定量以上である場合とは異なる投影形態で像を投影するように、投影部108を制御する。例えば、投影制御部12は、特徴抽出部303によって検出された被写体のエッジのブロック積分値が所定量より小さい場合には、像を投影しないかあるいは通常とは異なる色で投影するように投影部108を制御する。なお、エッジのブロック積分値とは、たとええば、図6(c)の太線のブロックにおける被写体の量の積分値である。このような制御により、ユーザは測定の信頼性が低いことを把握でき、測定の場所や点を調整したりすることができる。
また本実施形態では、距離情報を取得する距離測定部11の構成として、図2に示したような、撮像光学系の瞳の異なる領域から到来する光束が生ずる複数の被写体像の位相差に基づいて生成する構成を示したが、他の構成を代用あるいは併用しても良い。例えば、距離測定部11として複数のレンズおよび撮像素子を有する複眼カメラの構成を用いることで、より精度の良い像ずれ量を検出できるようにしても良い。また、距離測定部11は、光や音を用いて物体20との距離を測定する構成としてもよい。例えば、TOF(Time Of Flight)カメラや超音波により距離を測定する構成とすることで、模様の変化が乏しい被写体に対する測距性能を向上することが可能となる。
<第2実施形態>
第1実施形態では、指定された測定点を結ぶ位置にスケール像を投影する例を説明した。指定された測定点の間の被写体の表面が像の投影に適さない場合(例えば、凹凸が多い場合)には、投影された像を目視しにくくなる。第2実施形態では、投影された像をユーザがより目視しやすくするために、投影する位置やタイミングなどを制御する。第2実施形態では、ステップS802〜S803により像を投影するタイミングが好適に制御され、ステップS807により像を投影する位置が好適に制御される。
ステップS801において、制御部103は、表示部107上でユーザが指定した2点を測定点として受け取る。ステップS801の処理はステップS401と同様である。ステップS802において、撮像情報取得部302は、電子機器100のフォーカスモードが手動でフォーカスを設定するMFモード(マニュアルフォーカス)か、自動的にフォーカスを設定するAFモード(オートフォーカス)かを判定する。MFモードであると判定された場合は、処理はステップS804へ進み、AFモードであると判定された場合は、処理はステップS803へ進む。
ステップS803では、投影制御部12は、ユーザによりAFボタンが押し下げられてフォーカス動作が完了したか否かを判定する。フォーカス動作が完了したと判定された場合には、処理はステップS804へ進み、フォーカシング前あるいはフォーカシング中であると判定された場合には、処理はステップS802へ戻る。
ここで、フォーカスのモードおよびフォーカス動作状態に応じて制御する目的について説明する。AFモードにおいて、フォーカス動作中である場合、被写体に対して正しい距離値を算出できなかったり、値が安定しなかったりすることが考えられる。その状態で、投影部108が画像や光を投影すると、正しい測定ができなかったり視認しにくくなったりしてしまう。したがって、AFのフォーカス動作が完了した後あるいはフォーカスが自動で変わらないMFモード時に測定のための投影を行い、AFモードにおけるフォーカス動作中には測定のための投影を行わないようにしている。
以上のようにして、距離測定及び投影の実行タイミングが制御されると、処理はステップS804に進む。ステップS804において、距離算出部304は、撮像部102からステップS801で受け付けた測定点(ユーザにより指定された2点)までの距離を算出する。第1実施形態で説明したように、距離算出部304は図6(a)に示すような距離データを取得し、測定点までの距離Za、Zbを得る。
ステップS805では、ステップS801で受け付けた測定点間の距離を測定する。2点間の距離の算出方法は第1実施形態(ステップS405)と同様である。ステップS806において、投影制御部12は、被写体に対して画像あるいは光を投影する際の倍率を算出する。倍率の算出方法は第1実施形態(ステップS406)と同様である。ステップS807において、投影制御部12は、被写体に対して画像を投影する位置を決定する処理を行なう。本実施形態では、投影制御部12は、被写体に像を投影することが可能な複数の領域について距離算出部304によって測定された距離の変化度合いを取得し、変化度合いが所定値より小さい領域に像を投影するように投影部108を制御する。このような投影位置を決定する処理の詳細について、図9のフローチャートを用いて説明する。
ステップS901において、距離算出部304は、ステップS804で生成した距離データ(図6(a))を用いて距離値のブロック積分を行なう。図10は、距離値のブロック積分の様子を示した模式図である。図10(a)の画像は、撮像部102により得られた画像(距離データの画像601を含む)を複数のブロックに分割した状態を示す。太線で示されたブロック群1010は、ステップS801で受け付けた測定点間に位置する計算対象ブロック群である。図10(b)に示される画像は、図10(a)に示した画像をブロック積分した結果を示している。ブロックごとに、距離データの積算値(積分値)が計算される。
ステップS902では、距離算出部304はステップS901で算出した積分値を用いて、ステップS801で受け付けた測定点間に位置する計算対象ブロック群に含まれる個々のブロックの積分値の分散値を算出する。ステップS903において、投影制御部12は、ステップS902で算出した分散値が所定値以上か否かを判定する。これは、スケール像を投影する投影面となる測定点間の被写体の表面が距離的に平坦か、あるいは凹凸が多いかを判定することが目的である。なお、距離値の分散に限らず、積分値の最大値と最小値との差分など、他の手法により得られる値が評価値として用いられても良い。ステップS903で分散値が所定以上ではないと判定された場合、投影位置の設定処理を終了する。この場合、投影位置は、指定された2つの測定点間となる。
一方、ステップS903で分散値が所定以上と判定された場合には処理はステップS904へ進む。ステップS904では、S901〜S902において距離算出部304が計算対象ブロック群(ブロック群1010)について行った距離値の分散の算出を、計算対象ブロック群に隣接するブロック群に対して行なう。具体的には、図10(c)と図10(d)において太線で示したブロック群1020とブロック群1030について距離値の分散が算出される。なお、ブロック群1020は、計算対象ブロック群に対して上方向に隣接するブロック群である。また、ブロック群1030は、計算対象ブロック群に対して下方向に隣接するブロック群である。
ステップS905において、投影制御部12は、ステップS904で算出された隣接ブロック群の分散値がステップS902で算出された計算対象ブロック群の分散値よりも小さいか否かを判定する。隣接ブロック群の分散値が計算対象ブロック群の分散値以上の場合は、投影位置の設定処理を終了する。
ステップS905において、隣接ブロック群の分散値が計算対象ブロック群の分散値より小さい場合、処理はステップS906へ進む。ステップS906において、投影制御部12は、投影部108が被写体に対して像を投影する位置を変更する。像を投影する初期位置は、ステップS801で指定された2つの測定点の間である。ところがステップS903でそれら2点間のデフォーカスの分散が所定値以上、すなわち距離的に凹凸が多いと判定された場合、画像を投影すると長さを測るための目盛りが目視しにくくなってしまうことが考えられる。そこで、より距離値の分散が小さい、すなわち距離的に平坦な隣接領域に投影することで視認性を向上することができる。なお、ステップS905において、2つの隣接するブロック群の分散値がともに小さいと判定された場合には、より分散の小さい側に変更しても良いし、ユーザが任意に選択しても良い。また、投影位置を移動することで改善が見込めない場合(ステップS905でNO)、投影部108による像の投影位置として初期位置が用いられる。
図8に戻り、ステップS808では、ステップS806で設定された倍率およびステップS807で制御された投影位置に基づいて、スケール像702を被写体501に投影する。なお、第1実施形態と同様に、投影制御部12が投影部108における投影色の制御を行うようにしてもよい。
以上のように、第2実施形態によれば、撮像した被写体に対して投影された画像あるいは光をユーザがより目視しやすくなるように、タイミングや投影位置を制御しながら実寸長を有する画像を投影する。したがって、被写体に対して実寸大の長さとなる像を視認しやすい位置に安定的に投影することができる。
なお、第2実施形態では、フォーカスのモードや動作状態に応じて投影の有無を制御したが、投影の形態(色など)を制御するようにしても良い。例えば、AFモードにおけるフォーカス動作中は赤色、フォーカス動作の完了後およびMFモード時は緑色により像を投影するようにしてもよい。ユーザは像の投影形態を見て、測定可能か否か(測定精度に問題がないか否か)を判断することができる。
また、第2実施形態では、距離的に平坦な部分を検出して像の投影位置を決定する構成を説明したが、フォーカスが合っている部分に像を投影するようにしても良い。ユーザは、像がどこにも投影がされていない場合に、どこにもフォーカスが合っていないことを把握できる。また、像が投影されている(すなわちフォーカスが合っている)場所に被写体を移動させるようなことも可能となる。
また、投影制御部12は、環境の明るさを測光した結果、測光された環境の明るさが所定値より小さいか否かに応じて、投影部108に像の投影を行わせるか否かを決定するようにしてもよい。例えば、撮像時に制御部103が算出した露光量を参照し、明るさが所定よりも暗いような低照度環境である場合には、常に投影部108に投影を行わせる。このような制御によれば、低照度環境において被写体のコントラストを上げることができ、これによりフォーカス精度を向上することが期待できる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、実施形態で述べた画像処理の一部あるいは全てを、撮像に用いた装置(カメラなど)の外部の装置(コンピュータなど)に実行させるようにしてもよい。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えばASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
101:光学系、102:撮像部、103:制御部、104:画像処理部、105:記録部、106:設定部、107:表示部、108:投影部、301:信号処理部、302:撮像情報取得部、303:特徴抽出部、304:距離算出部、311:判定部

Claims (18)

  1. 像を投影する投影手段と、
    物体までの距離を測定する測定手段と、
    前記測定手段により測定された前記物体までの距離に基づいて、前記物体に投影された前記像が実寸長を有するように、前記投影手段による前記像の投影を制御する投影制御手段と、を備えることを特徴とする電子機器。
  2. 前記像は、実寸長の間隔の目盛りを有するスケール画像であることを特徴とする請求項1に記載の電子機器。
  3. 前記像は、あらかじめ設定された実寸長を有する線分または図形であることを特徴とする請求項1に記載の電子機器。
  4. 前記あらかじめ設定された実寸長をユーザに設定させる設定手段をさらに備えることを特徴とする請求項3に記載の電子機器。
  5. 前記測定手段は、前記物体に向けて発する光または音の信号に基づいて前記物体までの距離を算出することを特徴とする請求項1乃至4のいずれか1項に記載の電子機器。
  6. 前記物体を被写体として撮像する撮像手段をさらに備え、
    前記測定手段は、前記撮像手段の出力に基づいて、前記被写体までの距離を算出することを特徴とする請求項1乃至4のいずれか1項に記載の電子機器。
  7. 前記投影制御手段は、前記被写体の輝度、色、エッジ量の少なくとも一つに基づいて、前記投影手段による像の投影形態を制御することを特徴とする請求項6に記載の電子機器。
  8. 前記投影制御手段は、前記被写体の輝度、色、エッジ量の少なくとも一つに基づいて前記投影手段による像の投影を実行するか否かを制御することを特徴とする請求項6または7に記載の電子機器。
  9. 前記投影制御手段は、前記被写体の輝度が大きいほど前記像の輝度を下げるように制御することを特徴とする請求項7に記載の電子機器。
  10. 前記投影制御手段は、前記被写体の色と所定以上の差を有する色で前記像を投影するように制御することを特徴とする請求項7に記載の電子機器。
  11. 前記投影制御手段は、前記被写体のエッジ量が所定量より小さい場合は、前記像の投影を行わないか、あるいは前記被写体のエッジ量が前記所定量以上である場合とは異なる投影形態で前記像を投影するように制御することを特徴とする請求項7または8に記載の電子機器。
  12. 前記投影制御手段は、前記測定手段により測定された前記物体までの距離が所定値より大きい場合は、前記像の投影を行わないか、あるいは前記物体までの距離が前記所定値以下である場合とは異なる投影形態で前記像を投影することを特徴とする請求項1乃至11のいずれか1項に記載の電子機器。
  13. 前記投影制御手段は、前記物体の前記像を投影することが可能な複数の領域について前記測定手段が測定した距離の変化度合いを取得し、前記変化度合いが所定より小さい領域に前記像を投影するように制御することを特徴とする請求項1乃至11のいずれか1項に記載の電子機器。
  14. 前記撮像手段のフォーカスを自動的に調整する調整手段をさらに備え、
    前記投影制御手段は、前記調整手段によるフォーカス動作が完了していない場合は前記像の投影を行わない、あるいは、前記フォーカス動作が完了している場合とは異なる形態で前記像を投影するように制御することを特徴とする請求項6乃至11のいずれか1項に記載の電子機器。
  15. 前記投影制御手段は、ユーザが手動によりフォーカスを調整するモードが選択されている間は前記像の投影を行うことを特徴とする請求項14に記載の電子機器。
  16. 環境の明るさを測定する測光手段をさらに備え、
    前記投影制御手段は、前記測光手段により測定された環境の明るさが所定値より小さいか否かに応じて、前記像の投影を行うか否かを決定することを特徴とする請求項1乃至15のいずれか1項に記載の電子機器。
  17. 像を投影する投影手段と、物体までの距離を測定する測定手段とを備える電子機器の制御方法であって、
    前記測定手段により前記物体までの距離を測定する測定工程と、
    前記測定工程により測定された前記物体までの距離に基づいて、前記物体に投影された前記像が所定の実寸長を有するように前記投影手段による投影を制御する投影制御工程と、を備えることを特徴とする制御方法。
  18. コンピュータを、請求項1乃至16のいずれか1項に記載の電子機器の各手段として機能させるためのプログラム。
JP2019093132A 2019-05-16 2019-05-16 電子機器及びその制御方法、プログラム Pending JP2020187065A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019093132A JP2020187065A (ja) 2019-05-16 2019-05-16 電子機器及びその制御方法、プログラム
US15/930,868 US11209262B2 (en) 2019-05-16 2020-05-13 Electronic apparatus, control method thereof and computer readable storage medium
US17/531,889 US11808561B2 (en) 2019-05-16 2021-11-22 Electronic apparatus for controlling a projector to project an image onto a screen at an actual size length, control method thereof and computer readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019093132A JP2020187065A (ja) 2019-05-16 2019-05-16 電子機器及びその制御方法、プログラム

Publications (2)

Publication Number Publication Date
JP2020187065A true JP2020187065A (ja) 2020-11-19
JP2020187065A5 JP2020187065A5 (ja) 2022-05-23

Family

ID=73220952

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019093132A Pending JP2020187065A (ja) 2019-05-16 2019-05-16 電子機器及びその制御方法、プログラム

Country Status (2)

Country Link
US (2) US11209262B2 (ja)
JP (1) JP2020187065A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023119570A1 (ja) * 2021-12-23 2023-06-29 三菱電機ビルソリューションズ株式会社 投射装置および投射システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020187065A (ja) * 2019-05-16 2020-11-19 キヤノン株式会社 電子機器及びその制御方法、プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005236878A (ja) * 2004-02-23 2005-09-02 Brother Ind Ltd 画像入力装置
JP2007205915A (ja) * 2006-02-02 2007-08-16 Seiko Epson Corp 投写装置、プログラムおよび情報記憶媒体
JP2013092536A (ja) * 2006-05-26 2013-05-16 Pls Pacific Lasor Systems Llc レーザベースの位置合わせツール
JP2015091008A (ja) * 2013-11-05 2015-05-11 パナソニックIpマネジメント株式会社 照明装置
WO2018164172A1 (ja) * 2017-03-07 2018-09-13 住友重機械工業株式会社 ショベル及び建設機械の作業支援システム
JP2018155709A (ja) * 2017-03-21 2018-10-04 キヤノン株式会社 位置姿勢推定装置および位置姿勢推定方法、運転支援装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4152767A (en) * 1976-09-27 1979-05-01 Atmospheric Sciences, Inc. Method and apparatus for measuring dimensions
EP1102211A3 (en) * 1999-11-19 2006-09-13 Matsushita Electric Industrial Co., Ltd. Image processor, method of providing image processing services and order processing method
JP2001209827A (ja) 1999-11-19 2001-08-03 Matsushita Electric Ind Co Ltd 画像処理装置、画像処理サービス提供方法および受注処理方法
JP2002072061A (ja) * 2000-08-23 2002-03-12 Canon Inc 測距装置及びカメラ
JP4867041B2 (ja) 2008-11-07 2012-02-01 シャープ株式会社 投影装置、投影装置制御方法、及び投影装置制御プログラム
CN101872108B (zh) * 2010-05-25 2013-07-03 中兴通讯股份有限公司 投影仪及其显示画面的调整方法、移动终端
KR102223282B1 (ko) * 2014-08-07 2021-03-05 엘지전자 주식회사 스마트 줄자를 구비한 이동 단말기 및 그의 물체 길이 측정 방법
CN106990650B (zh) * 2016-01-20 2020-05-22 中兴通讯股份有限公司 投影画面的调节方法及装置
JP2020187065A (ja) * 2019-05-16 2020-11-19 キヤノン株式会社 電子機器及びその制御方法、プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005236878A (ja) * 2004-02-23 2005-09-02 Brother Ind Ltd 画像入力装置
JP2007205915A (ja) * 2006-02-02 2007-08-16 Seiko Epson Corp 投写装置、プログラムおよび情報記憶媒体
JP2013092536A (ja) * 2006-05-26 2013-05-16 Pls Pacific Lasor Systems Llc レーザベースの位置合わせツール
JP2015091008A (ja) * 2013-11-05 2015-05-11 パナソニックIpマネジメント株式会社 照明装置
WO2018164172A1 (ja) * 2017-03-07 2018-09-13 住友重機械工業株式会社 ショベル及び建設機械の作業支援システム
JP2018155709A (ja) * 2017-03-21 2018-10-04 キヤノン株式会社 位置姿勢推定装置および位置姿勢推定方法、運転支援装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023119570A1 (ja) * 2021-12-23 2023-06-29 三菱電機ビルソリューションズ株式会社 投射装置および投射システム
JP7551009B2 (ja) 2021-12-23 2024-09-13 三菱電機ビルソリューションズ株式会社 投射システム

Also Published As

Publication number Publication date
US11808561B2 (en) 2023-11-07
US20200363189A1 (en) 2020-11-19
US20220082370A1 (en) 2022-03-17
US11209262B2 (en) 2021-12-28

Similar Documents

Publication Publication Date Title
JP6911192B2 (ja) 画像処理方法、装置および機器
JP7145208B2 (ja) デュアルカメラベースの撮像のための方法および装置ならびに記憶媒体
JP6512810B2 (ja) 撮像装置および制御方法とプログラム
CN109255810B (zh) 图像处理装置及图像处理方法
JP6838994B2 (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP2013211827A (ja) 画像処理方法および装置、プログラム。
JP6220148B2 (ja) 撮像装置およびその制御方法
JP2011191568A (ja) 撮像装置、表示方法、および、プログラム
JP2012049773A (ja) 撮像装置および方法、並びにプログラム
US11808561B2 (en) Electronic apparatus for controlling a projector to project an image onto a screen at an actual size length, control method thereof and computer readable storage medium
JP2014002283A (ja) 焦点調節装置及びその制御方法
JP2010091669A (ja) 撮像装置
JP2016001853A (ja) 画像処理装置、撮像装置、制御方法及びプログラム
JP6425571B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2023115356A (ja) 計測装置、撮像装置、制御方法及びプログラム
JP2013097154A (ja) 距離測定装置、撮像装置、距離測定方法
JP6608194B2 (ja) 画像処理装置およびその制御方法ならびにプログラム
US20160275657A1 (en) Imaging apparatus, image processing apparatus and method of processing image
JP6501536B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2009159092A (ja) 撮像装置及びその制御方法
JP2008005355A (ja) 画像処理装置及び画像処理方法
JP2014194502A (ja) 撮像装置および撮像システム
JP2017163412A (ja) 画像処理装置およびその制御方法、撮像装置、プログラム
JP6395790B2 (ja) 撮像装置、撮像装置の制御方法およびフォーカス制御プログラム
KR101839357B1 (ko) 촬상 장치 및 촬상 방법

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220513

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230925

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231222