JP2020188358A - 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体 - Google Patents

電子機器、電子機器の制御方法、プログラム、及び、記憶媒体 Download PDF

Info

Publication number
JP2020188358A
JP2020188358A JP2019091402A JP2019091402A JP2020188358A JP 2020188358 A JP2020188358 A JP 2020188358A JP 2019091402 A JP2019091402 A JP 2019091402A JP 2019091402 A JP2019091402 A JP 2019091402A JP 2020188358 A JP2020188358 A JP 2020188358A
Authority
JP
Japan
Prior art keywords
image
electronic device
moving image
storage unit
recorded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019091402A
Other languages
English (en)
Other versions
JP7350510B2 (ja
Inventor
文峰 百
Bunho Hyaku
文峰 百
泰史 小山
Yasushi Koyama
泰史 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019091402A priority Critical patent/JP7350510B2/ja
Priority to EP20173814.3A priority patent/EP3739864A1/en
Priority to US16/871,426 priority patent/US11523052B2/en
Priority to CN202010406853.0A priority patent/CN111953870B/zh
Publication of JP2020188358A publication Critical patent/JP2020188358A/ja
Application granted granted Critical
Publication of JP7350510B2 publication Critical patent/JP7350510B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/12Panospheric to cylindrical image transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Camera Data Copying Or Recording (AREA)

Abstract

【課題】VR画像と通常画角の画像との両方の撮影を可能にする電子機器を提供する。【解決手段】本発明の電子機器は、撮像された画像を取得する取得手段と、前記取得手段によって取得された画像から一部の範囲を抽出して、VR画像でない動画を記憶部に記録するように制御し、前記取得された画像に基づいて、VR画像である静止画を前記記憶部に記録するように制御する制御手段と、を有することを特徴とする。【選択図】図4

Description

本発明は、電子機器、電子機器の制御方法、プログラム、及び、記憶媒体に関し、特に動画と静止画の撮影方法に関する。
通常画角よりも広い、例えば180°や360°等の広角の視野を有するVR画像を撮影できる撮像装置が知られている(特許文献1)。静止画と動画を様々なタイミングで撮影できる撮像装置も知られている(特許文献2)。
特開2015−115778号公報 特開2012−182730号公報
ここで、ユーザーがVR画像と通常画角の画像との両方を撮影したい場合がある。しかしながら、そのような場合には、ユーザーは、VR画像を撮影できる撮像装置と、通常画角の画像を撮影できる撮像装置との両方を使用しなければならず、利便性が悪い。ユーザーが2台の撮像装置の使い分けに手間取ってシャッターチャンスを逃す可能性もある。
本発明は、VR画像と通常画角の画像との両方の撮影を可能にする電子機器を提供することを目的とする。
本発明の電子機器は、撮像された画像を取得する取得手段と、前記取得手段によって取得された画像から一部の範囲を抽出して、VR画像でない動画を記憶部に記録するように制御し、前記取得された画像に基づいて、VR画像である静止画を前記記憶部に記録するように制御する制御手段と、を有することを特徴とする。
本発明によれば、VR画像と通常画角の画像との両方の撮影が可能となる。
本実施形態に係る撮像装置の外観図である。 本実施形態に係る撮像装置の内部構成を示すブロック図である。 本実施形態に係る撮像装置の内部構成を示すブロック図である。 本実施形態に係る撮影処理の一例を示すフローチャートである。 本実施形態に係る撮影の一例を示す図である。
以下、図面を参照して本発明の好適な実施形態を説明する。図1(A),1(B)に、本発明を適用可能な電子機器の一例としての撮像装置100の外観を示す。撮像装置100は、レンズ一体型のデジタルカメラである。なお、撮像装置100は、一眼レフカメラやミラーレス一眼カメラなどであってもよい。
図1(A)は、撮像装置100の前面の外観を示す。表示部141は、各種画像や各種
情報を表示する。撮像装置100は、ライブビュー表示(被写体をほぼリアルタイムで表すライブビュー画像の表示)を表示部141に行わせることができる(表示制御)。そして、ユーザーは、表示部141のライブビュー表示で被写体を確認しながら、撮影に関する各種指示(撮影に関する各種操作)を行うことができる。表示部141の表示面上に設けられたタッチパネル13は、タッチ操作を受け付け可能である。レリーズボタン11は半押しおよび全押しが可能なスイッチであり、ユーザーは、レリーズボタン11の半押しや全押しによって、撮影準備指示、動画の撮影開始指示、動画の撮影終了指示、静止画の撮影指示などの少なくともいずれかを行うことができる。レンズ101は広角レンズであり、レンズ101に入射した光束を撮像素子102(図1(A)では不図示)に結像させる。
図1(B)は、撮像装置100の背面の外観を示す。ユーザーは、ボタン12の押下や、ボタン12を押下していた指をボタン12から離す操作などによって、撮影準備指示、動画の撮影開始指示、動画の撮影終了指示、静止画の撮影指示などの少なくともいずれかを行うことができる。レンズ111はレンズ101と同様の広角レンズであり、レンズ111に入射した光束を撮像素子112(図1(B)では不図示)に結像させる。
なお、表示部141は、撮像装置100とは別体の装置(撮像装置100に有線または無線で接続されたスマートフォンやタブレット端末などの外部装置)であってもよい。例えば、表示部141は、撮像装置100とは別体のスマートフォンなどに設けられてもよい。この場合に、撮像装置100は、ライブビュー表示を外部装置に行わせることができ、ユーザーは、外部装置のライブビュー表示で被写体を確認しながら、撮影に関する各種指示を行うことができる。また、撮影に関する各種指示のための操作は、撮像装置100とは別体の装置に対して行われてもよい。例えば、撮像装置100とは別体のスマートフォンに対して操作が行われ、当該操作に応じた指示をスマートフォンが撮像装置100に対して行ってもよい。
図2に撮像装置100の内部構成を示す。なお、図2では、各機能を構成要素として分けて示しているが、各機能は1つまたは複数のASICやプログラマブルロジックアレイ(PLA)等のハードウェアによって実現されてもよい。また、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって各機能が実現されてもよい。
レンズ101は絞り機構を含む単焦点レンズであり、レンズ101の焦点位置はパンフォーカスとなっている。なお、レンズ101は単焦点レンズでなくてもよい。
撮像素子102は、CCDやCMOS素子などで構成される撮像センサー(イメージセンサー)であり、光電変換素子を含む複数の画素が2次元配列された構成を有する。撮像素子102は、レンズ101を含む撮影光学系により形成された被写体像(光学像)を画素ごとに光電変換、つまりは撮像してアナログ信号を生成し、これをA/D変換回路によりデジタル信号に変換して画素単位の画像データを出力する。
メモリI/F部106は、撮像素子102から出力された全画素分の画像データをメモリ107へ書き込む。また、メモリI/F部106は、メモリ107に保持された画像データを読み出して画像処理部108に出力する。メモリ107は、数フレーム分の画像データ(いずれのフレームも全画素分の画像データ)を格納する揮発性の記憶媒体である。
画像処理部108は、メモリI/F部116からの画像データ(全画素分の画像データ)に対してガンマ補正、色分離、色差マトリクス等の処理を施し、同期信号を加えて記録用または表示用の映像データとして出力する。また、画像処理部108は、画像処理部1
08に入力された画像データの各画素の輝度値から測光値を得て、バス121を経由してカメラ制御部120へ提供する。
レンズ111、撮像素子112、メモリI/F部116、メモリ117、及び、画像処理部118は、レンズ101、撮像素子102、メモリI/F部106、メモリ107、及び、画像処理部108と同様の機能を有する。レンズ111、撮像素子112、メモリI/F部116、メモリ117、及び、画像処理部118によって、レンズ101、撮像素子102、メモリI/F部106、メモリ107、及び、画像処理部108と同様の処理が行われる。
カメラ制御部120は、CPUなどで構成され、撮像装置100の動作全体を制御する。RAM160は、カメラ制御部120の作業領域(ワークメモリ)として使用される。RAM160には、カメラ制御部120の動作用の定数や変数が記録されたり、プログラム等が展開されたりする。ROM180は、カメラ制御部120が動作するためのコンピュータプログラム等を記憶する。例えば、カメラ制御部120は、ROM180に格納されたコンピュータプログラムをRAM160に展開して実行することにより、撮像装置100の動作全体を制御する。
ゲイン制御部103、シャッター制御部104、及び、絞り制御部105は、露出制御のために使用される。カメラ制御部120は、画像処理部108および画像処理部118から提供される測光値、あるいはユーザーがマニュアル設定した動作パラメータに基づき、上記制御部103〜105を制御する。ゲイン制御部103は、撮像素子102および撮像素子112のゲインを制御する。シャッター制御部104は、撮像素子102および撮像素子112のシャッタースピードを制御する。絞り制御部105は、レンズ101の絞り機構やレンズ111の絞り機構を制御する。
記憶媒体I/F部130は、記憶媒体131を撮像装置100に接続するためのインタフェースである。記憶媒体I/F部130は、画像処理部108や画像処理部118やGPU142から入力された映像データを記憶媒体131に記録したり、記録された映像データを記憶媒体131から読み出したりする。記憶媒体131は、半導体メモリ等で構成された記憶部である。
表示用I/F部140は、画像処理部108および画像処理部118からの映像データや、GPU142によってVRAM(Video RAM)143に描画された画像データを表示部141に出力する。
GPU142は、カメラ制御部120からの指示にもとづき、画像処理部108および画像処理部118から出力された映像データを画像変換処理および画像切り出し処理、拡大処理、歪み補正等を行いVRAM143へ描画するレンダリングエンジンである。また、GPU142は、撮像装置100の各種情報やメニュー画面をVRAM143に重畳描画する処理も行う。例えば、ユーザーからの各種指示を受け付けるためのタッチパネルボタンがGUI(Graphic User Interface)としてGPU142によって描画され表示用I/F部140を経由して表示部141に表示される。
通信用I/F部150は、通信部151を経由して撮像装置100の外部にある不図示のスマートフォンやPCなどと接続し、表示部141で表示される画像データをそれらに転送する。また、通信用I/F部150は、スマートフォンやPCなどから撮像装置100に対する制御指令などを受信し、カメラ制御部120へ通知する。通信部151は無線通信を行う無線LANインタフェースであり、通信用I/F部150が行う通信のハードウェア処理を行う。
レリーズボタン11、ボタン12、及び、タッチパネル13は前述の機能を備え、操作に応じた操作情報(撮影準備指示、動画の撮影開始指示、動画の撮影終了指示、静止画の撮影指示、等)をIOコントローラ170へ出力する。IOコントローラ170は、各種操作部からの操作情報をカメラ制御部120へ出力し、カメラ制御部120は、IOコントローラ170からの操作情報に応じた処理を行う。例えば、タッチパネル13は、表示部141に重ねられており、タッチ操作が行われた位置や領域の座標情報などを含む操作情報を出力する。
図3に、撮像装置100の内部構成を示す。図3では、本実施形態の特徴的な処理が示されるように、構成を簡略化して示している。切り出し処理部301とVR処理部302の処理は、例えば、図2のカメラ制御部120を含む1つ以上の構成要素により実現される。
切り出し処理部301は、VR(Virtual Reality)画像でない動画(非VR動画)の生成に使用される。VR画像については後述する。切り出し処理部301は、撮像素子102によって撮像された画像(撮像素子102から出力された画像データ)を取得する。そして、切り出し処理部301は、取得した画像の少なくとも一部の範囲を抽出する切り出し処理を行う。切り出し処理部301は、抽出した範囲の動画(非VR動画;動画データ)がメモリ107に一時的に蓄えられるように、抽出した範囲の画像(画像データ)をメモリ107に格納する(動画バッファリング)。画像処理部108は、メモリ107に蓄えられた動画の圧縮符号化処理を行い、圧縮符号化処理により得られた動画(非VR動画)を記憶媒体131に記録する。
なお、切り出し処理で抽出する範囲は、撮像素子102によって撮像される範囲の中央部(中心部)などの所定の範囲であってもよいし、そうでなくてもよい。撮像素子102で撮像された画像は歪みを持っていることがあるため、切り出し処理は、画像の歪みを低減する歪曲補正などを含んでもよい。そうすることで、歪みの少ない画像を表示したり記録したりすることができる。また、撮像素子112によって撮像された画像の一部の範囲を抽出して、非VR動画を記憶媒体131に記録してもよい。
VR処理部302は、VR画像である静止画(VR静止画)の撮影に使用される。VR処理部302は、撮像素子102によって撮像された画像と、撮像素子112によって撮像された画像とを取得し、それら2つの画像を用いてVR処理を行う。なお、非VR動画の撮影ではVR処理は行われない。
VR処理は、撮像された画像をVR画像(VR形式の画像)として扱うことのできるようにする画像処理であり、例えば全天球形式(全天球イメージ形式)の画像を得るための画像処理である。本実施形態では、VR処理部302はVR処理において以下の処理を行う。まず、VR処理部302は、2つの画像の一方を基準画像、他方を比較画像として用いて、パターンマッチング処理によりエリア毎に基準画像と比較画像のずれ量を算出し、エリア毎のずれ量に基づいて、2つの画像を繋ぐ繋ぎ位置を検出する。そして、VR処理部302は、検出した繋ぎ位置と各光学系のレンズ特性とを考慮して、幾何学変換により各画像の歪みを補正する。これにより、各画像が全天球形式の画像に変換される。その後、VR処理部302は、全天球形式の2つの画像を合成(ブレンド)することで、全天球形式の1つの画像を生成する。VR処理により得た画像(VR画像)は、例えば正距円筒図法を用いた画像であり、撮像を行った位置(撮像位置)からの各方向を画像における各位置(各画素)に対応づけることができる。本実施形態では、撮像素子102,112のそれぞれにおいて、180°の画角に対応する画像が撮像される。そして、VR処理により、2つの撮像素子102,112で撮像された2つの画像から、360°の画角に対応
する360°画像(全方位画像;全天球画像)が得られる。なお、上述した合成はVR処理に含まれず、VR画像のVR表示(後述)の際に行われてもよい。また、360°画像から180°の画角に対応する任意の範囲を切り出して180°画像(半天球画像)を生成してもよい。
VR処理部302は、VR処理により得たVR画像(VR静止画)をメモリ117に格納する(静止画バッファリング)。画像処理部118は、メモリ117に蓄えられた静止画の圧縮符号化処理を行い、圧縮符号化処理により得られた静止画(VR静止画)を記憶媒体131に記録する。例えば、画像処理部118は、VR静止画の画像ファイルを、VR情報を含めて記憶媒体131に記録する。VR情報は、撮像位置からの各方向を画像における各位置に対応付けるための情報であり、例えば天頂方向に対応する位置(画素)を示す情報、天底方向に対応する位置(画素)を示す情報、及び、VR画像であることを示す情報のうち少なくともいずれかを含む。画像処理部118は、VR静止画の画像ファイルを、VR画像であることを示す文字列をファイル名に含めて記憶媒体131に記録してもよい。例えば、VR静止画のファイル名では、「123456.vr.jpg」のように拡張子「.jpg」の手前に3文字の文字列「.vr」を記述してもよい。なお、非VR動画の撮影では、VR情報の付加や、VR画像であることを示す文字列の付加などは行われない。
VR画像について説明する。VR画像は、VR表示(表示モード「VRビュー」で表示)をすることのできる画像であり、例えば、撮像位置からの各方向を画像における各位置(各画素)に対応づけることができる全天球形式の画像である。VR表示では、VR画像の一部が表示範囲として表示される。表示範囲は、ユーザーからの指示(操作)や、VR表示を行う表示装置の姿勢変化などによって自由に変えることができる。VR表示では、ユーザーが撮影場所の仮想空間(VR空間)にいるような感覚(臨場感や没入感)を得ることのできるような表示(表示範囲の決定や変更)が行われる。換言すれば、ユーザーが撮像位置から各方向を見渡せるような感覚を得ることができるように、撮像位置から見た見え方を再現した表示が行われる。
図4は、撮像装置100の撮影処理の一例を示すフローチャートである。図4の撮影処理は、カメラ制御部120がROM180に記録されたプログラムをRAM160に展開して実行するにより実現される。図4の撮影処理は、例えば、撮像装置100に動画撮影モードが設定されたことに応じて開始する。図4の複数の処理のうち、カメラ制御部120とは異なる構成要素により行われる処理は、カメラ制御部120からの指示に従って行われる。
ステップS401にて、撮像素子102,112は撮像を行う。ステップS402にて、切り出し処理部301は、撮像素子102によって撮像された画像を取得する。ステップS403にて、切り出し処理部301は、ステップS402で取得した画像の一部の範囲を抽出する(切り出し処理)。ステップS404にて、表示部141は、ステップS403で抽出された画像を表示する(ライブビュー表示)。
なお、ステップS401〜S404はライブビュー表示のためのステップであり、省略してもよい。但し、ライブビュー表示を行えば、ユーザーは、ライブビュー表示(被写体)を確認しながら所望のタイミングで撮影を行えるようになる。また、ユーザーは、ライブビュー表示の明暗度などを確認しながら所望の撮像パラメータへの調整を行って、所望の明暗度などの画像を撮影できるようになる。上述したように、ライブビュー表示は、撮像装置100とは別体の装置(撮像装置100に接続されたスマートフォンやタブレット端末などの外部装置)で行われてもよい。
ステップS405にて、カメラ制御部120は、動画の撮影開始指示(動画撮影を開始する指示)がユーザーからあったか否かを判定する。撮影開始指示があった場合はステップS406に進み、そうでない場合はステップS424に進む。
ステップS406にて、撮像素子102,112は撮像を行う。ステップS407にて、切り出し処理部301は、撮像素子102によって撮像された画像を取得する。ステップS408にて、切り出し処理部301は、ステップS402で取得した画像の一部の範囲を抽出する(切り出し処理)。ステップS409にて、表示部141は、ステップS408で抽出された画像を表示する(ライブビュー表示)。
ステップS410にて、切り出し処理部301は、ステップS408で抽出した範囲の画像を非VR動画の一部としてメモリ107に格納する(動画バッファリング)。動画バッファリング中は、抽出した範囲の動画がメモリ107に一時的に蓄えられる。ステップS411にて、画像処理部108は、メモリ107に蓄えられた画像を順次読み出し、読み出した画像の圧縮符号化処理を行う(動画の圧縮符号化処理)。ステップS412にて、画像処理部108は、ステップS411の圧縮符号化処理により得られた画像を、非VR動画の一部(フレーム)として記憶媒体131に記録する。ステップS410〜S412は、動画の撮影終了指示があるまで繰り返される。1回目のステップS412では、圧縮符号化処理により得られた画像を含む非VR動画のファイルが記憶媒体131に生成される(ファイルの新規作成;動画生成)。2回目以降のステップS412では、圧縮符号化により得られた画像が既存のファイルに順次格納される(ファイルの更新)。
なお、本実施形態では記憶媒体131に記録する範囲(撮像された画像の一部の範囲)がライブビュー表示の範囲と同じとなるが、それらの範囲は異なっていてもよい。但し、それらの範囲が同じであれば、ユーザーは、ライブビュー表示で確認した所望の範囲の動画を撮影できるようになり、より快適に動画撮影を行えるようになる。また、本実施形態では、記憶媒体131に記録する範囲、すなわち、動画の画角は複数の撮像素子102、112のうち1つで撮像される画像に収まるものとする。撮影者は撮像装置100の向きを変えることによって、動画として記録したい範囲を撮像素子102、112のうち1つで撮像されるように調整することができる。
ステップS413にて、カメラ制御部120は、静止画の撮影指示(静止画撮影を行う指示)がユーザーからあったか否かを判定する。撮影指示があった場合はステップS414に進み、そうでない場合はステップS419に進む。
ステップS414にて、VR処理部302は、撮像素子102によって撮像された画像と、撮像素子112によって撮像された画像とを取得する。ステップS415にて、VR処理部302は、ステップS414で取得した2つの画像を用いてVR処理を行うことにより、1つのVR画像(360°画像)を生成する。ステップS416にて、VR処理部302は、ステップS415で得たVR画像をVR静止画としてメモリ117に格納する(静止画バッファリング)。ステップS417にて、画像処理部118は、メモリ117に蓄えられたVR静止画の圧縮符号化処理を行う。ステップS418にて、画像処理部118は、ステップS417の圧縮符号化処理により得られたVR静止画のファイルを生成し(静止画生成)、記憶媒体131に記録する。ステップS418では、VR静止画のファイルにVR情報が格納されたり、VR画像であることを示す文字列がVR静止画のファイル名に記述されたりする。
なお、ステップS415とステップS416の順番を入れ替えてもよい。具体的には、撮像素子102,112によって撮像された2つの画像をそのまま(VR処理を施さずに)メモリ107に格納してもよい。そして、メモリ117に蓄えた2つの画像を読み出し
てVR処理を行うことで、VR静止画を生成してもよい。
ステップS419にて、カメラ制御部120は、動画の撮影終了指示(動画撮影を終了する指示)がユーザーからあったか否かを判定する。撮影終了指示があった場合はステップS420に進み、そうでない場合はステップS406に進む。
ステップS420にて、切り出し処理部301は、ステップS410の動画バッファリングを停止する。ステップS421にて、画像処理部108は、ステップS411と同様に動画の圧縮符号化処理を行う。ステップS422にて、画像処理部108は、ステップS412と同様に、ステップS421の圧縮符号化処理により得られた画像を、非VR動画の一部(フレーム)として記憶媒体131に記録する。
ステップS423にて、カメラ制御部120は、記憶媒体131への非VR動画の記録が完了したか否か、つまり動画バッファリングでメモリ107に蓄えられた非VR動画の全体が記憶媒体131に記録されたか否かを判定する。完了した場合は(撮影待機状態となって)ステップS424に進む。そうでない場合はステップS421に進み、動画バッファリングでメモリ107に蓄えられた非VR動画の全体が記憶媒体131に記録されるまで、ステップS421〜S423を繰り返す。
ステップS424にて、カメラ制御部120は、動画撮影モードを終了(解除)する指示がユーザーから入力されたか否かを判定する。指示があった場合は図4の撮影処理が終了し、そうでない場合はステップS401に進む。
図5に、図4の撮影処理での撮影(非VR動画とVR静止画の撮影)の一例を示す。図5の横軸は時間の経過を表す。図5に示すように、図4の撮影処理では、非VR動画501の撮影期間に、VR静止画502,503を撮影することができる。非VR動画501の撮影期間には静止画の撮影指示を複数回行うことが可能であり、静止画の撮影指示がある度にVR静止画が撮影される。このとき、複数のVR静止画は個別のファイルとして記憶媒体131に記録される。図5では、非VR動画501の撮影期間には静止画の撮影指示が2回あり、VR静止画502のファイルと、VR静止画503のファイルとが個別に記憶媒体131に記録される。このとき、非VR動画501とVR静止画502,503とを、互いに関連付けて記憶媒体131に記録してもよい。そうすることで、同じ被写体を撮影した非VR動画やVR静止画を簡単に切り替えて表示できたり、管理しやすくなったりするため、利便性が向上する。なお、VR静止画503の撮影を行うタイミングは、非VR動画の撮影期間外であってもよい。
以上述べたように、本実施形態によれば、VR静止画と非VR動画(通常画角の動画)との両方の撮影が可能となる。なお、本実施形態ではVR静止画が360°画像である例を説明したが、VR静止画の画角は360°より狭くてもよく、180°より狭くてもよい。ただし、VR静止画の画角は、非VR動画の画角よりも広いものとする。
また、本実施形態では、2つの撮像素子102,112を用いてVR静止画を得る例を説明したが、1つの撮像素子で撮像された画像からVR静止画を生成してもよく、撮像装置100が有する撮像素子の数は1つであってもよい。あるいは、3つ以上の複数の撮像素子を用いて複数の撮像画像を取得し、VR処理を実行してVR静止画を生成するようにしてもよい。すなわち、本実施形態では、静止画は、動画に比べて広い画角の範囲の撮像画像を用いて生成される。
なお、カメラ制御部120が行うものとして説明した上述の各種制御は、1つのハードウェアが行ってもよいし、複数のハードウェア(例えば、複数のプロセッサーや回路)が
処理を分担することで、装置全体の制御を行ってもよい。
また、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
また、上述した実施形態においては、本発明をデジタルカメラに適用した場合を例にして説明したが、本発明はこの例に限定されず撮像された画像を取得できる装置(電子機器)であれば適用可能である。例えば、本発明は、パーソナルコンピュータやPDA、携帯電話端末や携帯型の画像ビューワ、プリンタ装置、デジタルフォトフレーム、音楽プレーヤー、ゲーム機、電子ブックリーダー、映像プレーヤーなどに適用可能である。また、本発明は、テレビジョン装置、投影装置、タブレット端末、スマートフォン、AIスピーカー、家電装置、車載装置、医療機器などにも適用可能である。
また、撮像装置本体に限らず、有線または無線通信を介して撮像装置(ネットワークカメラを含む)と通信し、撮像装置を遠隔で制御する制御装置にも本発明を適用可能である。撮像装置を遠隔で制御する装置としては、例えば、スマートフォンやタブレットPC、デスクトップPCなどの装置がある。制御装置側で行われた操作や制御装置側で行われた処理に基づいて、制御装置側から撮像装置に各種動作や設定を行わせるコマンドを通知することにより、撮像装置を遠隔から制御可能である。また、撮像装置で撮影したライブビュー画像を有線または無線通信を介して受信して制御装置側で表示できるようにしてもよい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:撮像装置 102,112:撮像素子 108,118:画像処理部
120:カメラ制御部 301:切り出し処理部 302:VR処理部

Claims (24)

  1. 撮像された画像を取得する取得手段と、
    前記取得手段によって取得された画像から一部の範囲を抽出して、VR画像でない動画を記憶部に記録するように制御し、前記取得された画像に基づいて、VR画像である静止画を前記記憶部に記録するように制御する制御手段と、
    を有することを特徴とする電子機器。
  2. 前記取得手段は、複数の撮像手段でそれぞれ撮像された複数の画像を取得し、
    前記制御手段は、前記複数の画像のうちのいずれかから一部の範囲を抽出して前記動画を前記記憶部に記録するように制御し、前記複数の画像に基づいて前記静止画を前記記憶部に記録するように制御する
    ことを特徴とする請求項1に記載の電子機器。
  3. 前記制御手段は、前記取得手段によって取得された画像に対して全天球形式の画像を得るための画像処理を行って前記静止画を前記記憶部に記録するように記録し、前記画像処理を行わずに前記動画を前記記憶部に記録するように制御する
    ことを特徴とする請求項1または2に記載の電子機器。
  4. 前記制御手段は、前記静止画の画像ファイルを、撮像を行った位置からの各方向を画像における各位置に対応付けるためのVR情報を含めて前記記憶部に記録するように制御し、前記動画の画像ファイルを、前記VR情報を含めずに前記記憶部に記録するように制御する
    ことを特徴とする請求項1〜3のいずれか1項に記載の電子機器。
  5. 前記VR画像は全天球画像または半天球画像であり、
    前記制御手段は、前記静止画を、天頂方向に対応する位置を示す情報、天底方向に対応する位置を示す情報、及び、VR画像であることを示す情報のうち少なくともいずれかと関連付けて前記記憶部に記録するように制御する
    こと特徴とする請求項1〜4のいずれか1項に記載の電子機器。
  6. 前記制御手段は、前記静止画の画像ファイルを、VR画像であることを示す文字列をファイル名に含めて前記記憶部に記録するように制御し、前記動画の画像ファイルを、前記文字列をファイル名に含めずに前記記憶部に記録するように制御する
    ことを特徴とする請求項1〜5のいずれか1項に記載の電子機器。
  7. 前記制御手段は、前記動画の撮影期間に撮影された前記静止画を前記記憶部に記録するように制御する
    ことを特徴とする請求項1〜6のいずれか1項に記載の電子機器。
  8. 前記制御手段は、前記動画と、当該動画の撮影期間に撮影された前記静止画とを、互いに関連付けて前記記憶部に記録するように制御する
    ことを特徴とする請求項1〜7のいずれか1項に記載の電子機器。
  9. 前記静止画は360°画像または180°画像である
    ことを特徴とする請求項1〜8のいずれか1項に記載の電子機器。
  10. 前記取得された画像の一部の範囲を表示部に表示するように制御する表示制御手段、をさらに有し、
    前記制御手段は、前記表示部に表示された範囲の前記動画を記憶部に記録するように制
    御する
    ことを特徴とする請求項1〜9のいずれか1項に記載の電子機器。
  11. ユーザーからの指示を受け付ける受け付け手段、をさらに有し
    前記制御手段は、
    動画撮影を開始する指示がユーザーからあったことに応じて前記動画の記録を開始し、前記動画撮影を終了する指示が前記ユーザーからあったことに応じて前記動画の記録を終了するように制御し、
    静止画撮影を行う指示が前記ユーザーからあったことに応じて前記静止画を前記記憶部に記録するように制御する
    ことを特徴とする請求項1〜10のいずれか1項に記載の電子機器。
  12. 複数の撮像手段でそれぞれ撮像された複数の画像を取得する取得手段と、
    前記複数の撮像手段のうち1つで撮像された画像に基づいて動画を生成する動画生成手段と、
    前記複数の撮像手段で撮像された複数の画像に基づいて前記動画よりも画角の広い静止画を生成する静止画生成手段と、
    前記動画および前記静止画をそれぞれ記憶部に記録するように制御する制御手段と、
    を有することを特徴とする電子機器。
  13. 動画の撮影開始指示、前記動画の撮影終了指示および静止画の撮影指示をそれぞれ受け付ける受け付け手段、をさらに有し、
    前記動画は、前記動画の撮影開始指示を受け付けてから前記動画の撮影終了指示を受け付けるまでの間に前記複数の撮像手段のうち1つで撮像された画像に基づいて生成され、
    前記静止画は、前記動画の撮影開始指示を受け付けてから前記動画の撮影終了指示を受け付けるまでの間に受け付けられた撮影指示に対応して前記複数の撮像手段で撮像された複数の画像に基づいて生成される
    ことを特徴とする請求項12に記載の電子機器。
  14. 前記制御手段は、前記動画と、前記動画の撮影開始指示を受け付けてから前記動画の撮影終了指示を受け付けるまでの間に受け付けられた撮影指示に対応して前記複数の撮像手段で撮像された複数の画像に基づいて生成された静止画とを、互いに関連付けて前記記憶部に記録するように制御する
    ことを特徴とする請求項13に記載の電子機器。
  15. 前記静止画生成手段は、前記複数の撮像手段で撮像された複数の画像に対して、VR形式の画像を得るための画像処理を行って前記静止画を生成し、
    前記動画生成手段は、前記複数の撮像手段のうち1つで撮像された画像に対して、前記画像処理を行わずに前記動画を生成する
    ことを特徴とする請求項12〜14のいずれか1項に記載の電子機器。
  16. 前記制御手段は、前記静止画の画像ファイルを、撮像を行った位置からの各方向を画像における各位置に対応付けるためのVR情報を含めて前記記憶部に記録するように制御し、前記動画の画像ファイルを、前記VR情報を含めずに前記記憶部に記録するように制御する
    ことを特徴とする請求項15に記載の電子機器。
  17. 前記静止画は全天球画像または半天球画像であり、
    前記制御手段は、前記静止画を、天頂方向に対応する位置を示す情報、天底方向に対応する位置を示す情報、及び、全天球画像または半天球画像であることを示す情報のうち少
    なくともいずれかと関連付けて前記記憶部に記録するように制御する
    こと特徴とする請求項12〜16のいずれか1項に記載の電子機器。
  18. 前記制御手段は、前記静止画の画像ファイルを、VR画像であることを示す文字列をファイル名に含めて前記記憶部に記録するように制御し、前記動画の画像ファイルを、前記文字列をファイル名に含めずに前記記憶部に記録するように制御する
    ことを特徴とする請求項15〜17のいずれか1項に記載の電子機器。
  19. 前記静止画は360°画像または180°画像である
    ことを特徴とする請求項12〜18のいずれか1項に記載の電子機器。
  20. 前記取得手段によって取得された画像の一部の範囲を表示部に表示するように制御する表示制御手段、をさらに有し、
    前記動画生成手段は、前記取得手段によって取得された画像のうち前記表示部に表示された範囲に基づいて前記動画を生成する
    ことを特徴とする請求項12〜19のいずれか1項に記載の電子機器。
  21. 撮像された画像を取得するステップと、
    前記取得された画像から一部の範囲を抽出して、VR画像でない動画を記憶部に記録するように制御するステップと、
    前記取得された画像に基づいて、VR画像である静止画を前記記憶部に記録するように制御するステップと、
    を有することを特徴とする電子機器の制御方法。
  22. 複数の撮像手段でそれぞれ撮像された複数の画像を取得するステップと、
    前記複数の撮像手段のうち1つで撮像された画像に基づいて動画を生成するステップと、
    前記複数の撮像手段で撮像された複数の画像に基づいて前記動画よりも画角の広い静止画を生成するステップと、
    前記動画および前記静止画をそれぞれ記憶部に記録するように制御するステップと、
    を有することを特徴とする電子機器の制御方法。
  23. コンピュータを、請求項1〜20のいずれか1項に記載の電子機器の各手段として機能させるためのプログラム。
  24. コンピュータを、請求項1〜20のいずれか1項に記載の電子機器の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
JP2019091402A 2019-05-14 2019-05-14 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体 Active JP7350510B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019091402A JP7350510B2 (ja) 2019-05-14 2019-05-14 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
EP20173814.3A EP3739864A1 (en) 2019-05-14 2020-05-11 Electronic apparatus, control method of electronic apparatus, program, and computer readable medium
US16/871,426 US11523052B2 (en) 2019-05-14 2020-05-11 Electronic apparatus, control method of electronic apparatus, and non-transitory computer readable medium
CN202010406853.0A CN111953870B (zh) 2019-05-14 2020-05-14 电子设备、电子设备的控制方法和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019091402A JP7350510B2 (ja) 2019-05-14 2019-05-14 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体

Publications (2)

Publication Number Publication Date
JP2020188358A true JP2020188358A (ja) 2020-11-19
JP7350510B2 JP7350510B2 (ja) 2023-09-26

Family

ID=70680345

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019091402A Active JP7350510B2 (ja) 2019-05-14 2019-05-14 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体

Country Status (4)

Country Link
US (1) US11523052B2 (ja)
EP (1) EP3739864A1 (ja)
JP (1) JP7350510B2 (ja)
CN (1) CN111953870B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7350511B2 (ja) * 2019-05-14 2023-09-26 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007306353A (ja) * 2006-05-12 2007-11-22 Opt Kk 動画の表示方法、動画表示システムおよび広角動画撮像装置
JP2014222825A (ja) * 2013-05-13 2014-11-27 キヤノン株式会社 映像処理装置および映像処理方法
WO2017037962A1 (ja) * 2015-08-28 2017-03-09 株式会社タカラトミー 頭部装着型ディスプレイを備えた情報処理装置
WO2017200049A1 (ja) * 2016-05-20 2017-11-23 日立マクセル株式会社 撮像装置およびその設定画面
US20180109729A1 (en) * 2016-10-18 2018-04-19 Lg Electronics Inc. Mobile terminal and operating method thereof

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004040431A (ja) * 2002-07-03 2004-02-05 Hitachi Ltd 撮像装置
US8228364B2 (en) * 2008-01-29 2012-07-24 Enforcement Video, Llc Omnidirectional camera for use in police car event recording
CN102318331B (zh) 2010-03-31 2014-07-30 富士胶片株式会社 立体图像拾取装置
JP2012099887A (ja) * 2010-10-29 2012-05-24 Canon Inc 撮像装置
US9204026B2 (en) * 2010-11-01 2015-12-01 Lg Electronics Inc. Mobile terminal and method of controlling an image photographing therein
KR101727899B1 (ko) 2010-11-26 2017-04-18 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
US9930225B2 (en) * 2011-02-10 2018-03-27 Villmer Llc Omni-directional camera and related viewing software
JP2012182730A (ja) 2011-03-02 2012-09-20 Nikon Corp デジタルカメラおよびプログラム
JP2013214947A (ja) * 2012-03-09 2013-10-17 Ricoh Co Ltd 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
US10666860B2 (en) * 2012-09-11 2020-05-26 Ricoh Company, Ltd. Image processor, image processing method and program, and imaging system
JP6044328B2 (ja) * 2012-12-26 2016-12-14 株式会社リコー 画像処理システム、画像処理方法およびプログラム
JP6226731B2 (ja) 2013-12-11 2017-11-08 キヤノン株式会社 撮像装置、制御方法、およびプログラム
JP6071866B2 (ja) * 2013-12-18 2017-02-01 キヤノン株式会社 表示制御装置、表示装置、撮像システム、表示制御方法、及びプログラム
KR102352682B1 (ko) * 2015-06-23 2022-01-18 삼성전자주식회사 디지털 촬영 장치 및 그 동작 방법
JP5965037B2 (ja) * 2015-07-23 2016-08-03 オリンパス株式会社 撮影機器
US10126813B2 (en) * 2015-09-21 2018-11-13 Microsoft Technology Licensing, Llc Omni-directional camera
US20170134714A1 (en) * 2015-11-11 2017-05-11 Microsoft Technology Licensing, Llc Device and method for creating videoclips from omnidirectional video
KR102499349B1 (ko) * 2016-03-21 2023-02-14 삼성전자주식회사 전방위 영상을 제공하는 전자 장치 및 방법
EP3264222B1 (en) * 2016-06-27 2019-04-10 Nokia Technologies Oy An apparatus and associated methods
JP6724659B2 (ja) * 2016-08-30 2020-07-15 株式会社リコー 撮影装置、方法およびプログラム
KR20180037721A (ko) * 2016-10-05 2018-04-13 엘지전자 주식회사 디스플레이 장치
KR20180040451A (ko) * 2016-10-12 2018-04-20 엘지전자 주식회사 이동 단말기 및 그의 동작 방법
KR20180048170A (ko) * 2016-11-02 2018-05-10 엘지전자 주식회사 디스플레이 장치
US10440361B2 (en) * 2016-11-22 2019-10-08 Pixvana, Inc. Variable image data reduction system and method
KR20180074369A (ko) 2016-12-23 2018-07-03 삼성전자주식회사 3차원 컨텐츠의 썸네일 관리 방법 및 그 장치
JP7043255B2 (ja) * 2017-12-28 2022-03-29 キヤノン株式会社 電子機器及びその制御方法
EP3644600B1 (en) * 2018-10-22 2022-06-15 Ricoh Company, Ltd. Imaging device, information processing method, system, and carrier means
JP7183033B2 (ja) * 2018-12-26 2022-12-05 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
US11683464B2 (en) * 2018-12-28 2023-06-20 Canon Kabushiki Kaisha Electronic device, control method, and non-transitorycomputer readable medium
CN111726520B (zh) * 2019-03-20 2021-12-10 株式会社理光 摄影装置、摄影系统、图像处理方法
JP7350511B2 (ja) * 2019-05-14 2023-09-26 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP2022050979A (ja) * 2020-09-18 2022-03-31 株式会社リコー 通信端末、画像通信システム、画像表示方法およびプログラム
JP2022102461A (ja) * 2020-12-25 2022-07-07 株式会社リコー 動画生成装置、動画生成方法、プログラム、記憶媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007306353A (ja) * 2006-05-12 2007-11-22 Opt Kk 動画の表示方法、動画表示システムおよび広角動画撮像装置
JP2014222825A (ja) * 2013-05-13 2014-11-27 キヤノン株式会社 映像処理装置および映像処理方法
WO2017037962A1 (ja) * 2015-08-28 2017-03-09 株式会社タカラトミー 頭部装着型ディスプレイを備えた情報処理装置
WO2017200049A1 (ja) * 2016-05-20 2017-11-23 日立マクセル株式会社 撮像装置およびその設定画面
US20180109729A1 (en) * 2016-10-18 2018-04-19 Lg Electronics Inc. Mobile terminal and operating method thereof

Also Published As

Publication number Publication date
JP7350510B2 (ja) 2023-09-26
CN111953870A (zh) 2020-11-17
EP3739864A1 (en) 2020-11-18
CN111953870B (zh) 2023-02-07
US11523052B2 (en) 2022-12-06
US20200366837A1 (en) 2020-11-19

Similar Documents

Publication Publication Date Title
JP7268369B2 (ja) 撮像システム、現像システム、撮像方法、及びプログラム
JP7000050B2 (ja) 撮像制御装置及びその制御方法
US20130242127A1 (en) Image creating device and image creating method
JP6723512B2 (ja) 画像処理装置、画像処理方法及びプログラム
EP2690861B1 (en) Apparatus and method to photograph an image
KR102207633B1 (ko) 촬영 장치 및 그 제어 방법
US11622175B2 (en) Electronic apparatus and control method thereof
JP7350510B2 (ja) 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP2010114599A (ja) デジタルカメラ
JP7190594B1 (ja) 撮像装置およびその制御方法、画像処理装置および画像処理システム
CN108476290B (zh) 用于提供全景图像的电子装置及其控制方法
JP2021005831A (ja) 撮像システム、画像処理装置、撮像装置およびプログラム
JP2020204874A (ja) 画像処理システム、撮像システム、画像処理装置、撮像装置およびプログラム
JP5191941B2 (ja) 撮像装置、画像処理装置、画像処理方法、および、画像処理プログラム
JP2018180384A (ja) 撮像装置及びその制御方法
JP2020088559A (ja) 電子機器およびプログラム
JP2008048168A (ja) 色処理パラメータ設定方法及びデジタル撮像機器
JP6039726B2 (ja) 撮像装置及びその制御方法
JP2024013019A (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP2022140420A (ja) 撮像装置、表示装置、映像転送システム、制御方法、並びにプログラム
JP5734348B2 (ja) 撮像装置
JP2014131150A (ja) 画像表示装置および画像表示方法
JP2018050202A (ja) 撮像装置、画像処理方法及びプログラム
JP2017054406A (ja) 画像処理装置、画像処理方法及びプログラム
JP2015230448A (ja) 撮像装置、その制御方法、および制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220510

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230913

R151 Written notification of patent or utility model registration

Ref document number: 7350510

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151