JP6501674B2 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP6501674B2
JP6501674B2 JP2015163891A JP2015163891A JP6501674B2 JP 6501674 B2 JP6501674 B2 JP 6501674B2 JP 2015163891 A JP2015163891 A JP 2015163891A JP 2015163891 A JP2015163891 A JP 2015163891A JP 6501674 B2 JP6501674 B2 JP 6501674B2
Authority
JP
Japan
Prior art keywords
display area
switching speed
image processing
images
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015163891A
Other languages
English (en)
Other versions
JP2017041840A (ja
JP2017041840A5 (ja
Inventor
三河 拓馬
拓馬 三河
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015163891A priority Critical patent/JP6501674B2/ja
Priority to US15/221,634 priority patent/US10922784B2/en
Publication of JP2017041840A publication Critical patent/JP2017041840A/ja
Publication of JP2017041840A5 publication Critical patent/JP2017041840A5/ja
Application granted granted Critical
Publication of JP6501674B2 publication Critical patent/JP6501674B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/005Reproducing at a different information rate from the information rate of recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/22Cropping

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Television Signal Processing For Recording (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、画像処理装置及び画像処理方法に関する。
動画の再生時に、動画の一部分を拡大して表示する再生方法がある。特に近年、HD、4K、8Kというように動画像データが高解像度になってきたことで、動画の一部を拡大して表示する機会が多くなってきた。また、カメラを複数台使用するなどして撮影した全天球動画が知られているが、このような全天球動画を表示する場合にも、全体の一部を切り出して表示することは多い。
動画の再生時に動画の一部分を拡大して表示する再生方法として、特許文献1には、動画の再生時に拡大率と表示位置の指定を行うことを可能にした方法が提案されている。
特開平11−331673号公報
しかしながら、動画の拡大表示時に再生速度を変更すると、場合によっては動画の内容の把握が困難になることがあった。例えば、シーンサーチのために再生速度を「早送り」に変更した際に、画角が狭い状態のままでは移動する物体の特定が難しく、サーチしづらくなることがあった。
本発明の目的は、動画の再生時のように複数の画像データを順番に表示する際に、拡大表示時に再生速度を変更することによって内容の把握が困難になるのを抑制しうる画像処理装置及び画像処理方法を提供することにある。
本発明の一観点によれば、一連の画像を順番に表示装置に表示する画像処理装置であって、前記画像の中から切り出して表示する表示領域を設定する領域設定手段と、前一連の像の切り替え速度を設定する速度設定手段と、前記一連の画像を順番に表示装置に表示している最中に、前記速度設定手段により切り替え速度が変更された場合に、変更後の切り替え速度に応じて前記表示領域として切り出される領域を変更する変更手段とを有し、前記変更手段は、変更後の前記切り替え速度が速いほど前記画像から切り出される領域が広くなるように、前記表示領域を変更る画像処理装置が提供される。
また、本発明の他の一観点によれば、一連の画像を順番に表示装置に表示する画像処理方法であって、前記画像の中から切り出して表示する表示領域を設定するステップと、前一連の像の切り替え速度を設定するステップと、前記一連の画像を順番に表示装置に表示している最中に、前記切り替え度が変更された場合に、変更後の前記切り替え度に応じて前記表示領域として切り出される領域を変更するステップとを有し、前記表示領域を変更するステップでは、変更後の前記切り替え速度が速いほど前記表示領域として切り出される領域が広くなるように、前記表示領域を変更る画像処理方法が提供される。
また本発明の更に他の一観点によれば、一連の画像を順番に表示装置に表示する際に、コンピュータに、前記画像の中から切り出して表示する表示領域を設定するステップと、前一連の像の切り替え速度を設定するステップと前記一連の画像を順番に表示装置に表示している最中に、前記切り替え度が変更された場合に、変更後の切り替え度に応じて前記表示領域として切り出される領域を変更するステップであって、変更後の前記切り替え速度が速いほど前記表示領域として切り出される領域が広くなるように前記表示領域を変更する、ステップと、を実行させるプログラムが提供される。
本発明によれば、画像データの拡大表示時に再生速度を変更することによって内容の把握が困難になるのを抑制することができる。
本発明の第1実施形態による画像処理装置の構成を示すブロック図である。 本発明の第1実施形態による画像処理方法を示すフローチャートである。 本発明の第1実施形態による画像処理方法におけるユーザ操作による設定変更処理手順を示すフローチャートである。 本発明の第1実施形態による画像処理方法における動画再生処理プログラムの表示の一例を示す図である。 本発明の第1実施形態による画像処理方法における表示領域算出処理の説明図である。 本発明の第1実施形態による画像処理方法における表示領域変更処理の説明図である。 本発明の第2実施形態による画像処理方法を示すフロー図である。 本発明の第2実施形態による画像処理方法における表示領域変更処理手順を示すフローチャートである。
[第1実施形態]
本発明の第1実施形態による画像処理装置及び画像処理方法について、図1乃至図6を用いて説明する。
図1は、本実施形態による画像処理装置の構成を示すブロック図である。図2は、本実施形態による画像処理方法を示すフローチャートである。図3は、本実施形態による画像処理方法におけるユーザ操作による設定変更処理手順を示すフローチャートである。図4は、本実施形態による画像処理方法における動画再生処理プログラムの表示の一例を示す図である。図5は、本実施形態による画像処理方法における表示領域算出処理の説明図である。図6は、本実施形態による画像処理方法における表示領域変更処理の説明図である。
はじめに、本実施形態による画像処理装置の構成について、図1を用いて説明する。
本実施形態による画像処理装置100は、図1に示すように、制御部101、ROM102、RAM103、外部記憶装置104、操作入力IF105、表示IF106及びシステムバス108を有するコンピュータ装置により構成され得る。
制御部101は、画像処理装置100の全体の制御を司るものであり、例えば中央処理装置(CPU:Central Processing Unit)である。ROM102は、変更を必要としないプログラムやパラメータを格納する読み出し専用メモリ(Read Only Memory)である。RAM103は、外部装置などから供給されるプログラムやデータを一時的に記憶する書き込み及び読み出し可能なメモリ(Random Access Memory)である。
外部記憶装置104は、画像処理装置100で実行されるプログラムや動画像データなどのデジタルデータなどを記録するためのものである。外部記憶装置104には、後述する動画再生処理プログラムが制御部101に読み取り可能なプログラムコードとして記録されており、このプログラムコードを制御部101が実行する構成となっている。なお、動画再生処理プログラムは、外部記憶装置104以外の記憶装置、例えばROM102やネットワーク上の記憶装置(図示せず)に記録されていてもよい。外部記憶装置104としては、画像処理装置100に固定して設置されたハードディスクやメモリカードが挙げられる。また、画像処理装置100から着脱可能なフロッピー(登録商標)ディスク(FD)や、コンパクトディスク(CD:Compact Disk)等の光ディスク、磁気カード、光カード、ICカードなどが挙げられる。
操作入力IF105は、ユーザの操作に応じたデータを入力するためのデバイス、例えばポインティングデバイス(マウス)やキーボードなどの入力デバイス109とのインターフェース(IF)である。表示IF106は、画像処理装置100の保持するデータや供給されたデータを表示するためのディスプレイ110とのインターフェースである。
システムバス108は、制御部101、ROM102、RAM103、外部記憶装置104、操作入力IF105及び表示IF106の各ユニットを相互に通信可能に接続するためのものである。
次に、本実施形態による画像処理方法について、図1乃至図6を用いて説明する。
本実施形態では、PC上で動作する、動画像データを再生するアプリケーションソフトによって実行される画像処理方法の例を説明する。このアプリケーションソフトでは、動画の再生速度、画像拡大率及び画像表示位置の設定が可能であるものとする。再生速度は、1/2倍、1倍、2倍、4倍及び8倍の5段階で設定可能であるものとする。1倍速での再生が、通常再生の速度となる。また、拡大率は、100%、200%、400%及び800%の4段階で設定可能であるものとする。100%での表示が、動画の画面全体を表示する再生となる。
なお、本実施形態では、一例として、H.264でエンコードされたMP4形式の動画ファイルを扱う場合を説明するが、それ以外の形式の動画ファイルを扱うこともできる。また、本実施形態では、通常動画の中の一部分を切り出して拡大表示する例について説明するが、例えば全天球動画において360度全方位の中から任意に切り出し領域を指定して表示するような場合にも、本発明を適用可能である。
本実施形態による画像処理方法は、制御部101が、図2及び図3に示すフローチャートに従って処理を行う動画再生処理プログラムを実行することにより実施される。
動画再生処理プログラムが起動されると、制御部101は、例えば図4に示すような初期画面4をディスプレイ110に表示する(ステップS200)。図4に示す初期画面4は、動画表示エリア4A、再生ボタン4B、ポーズボタン4C、再生スライダー4D、再生速度設定コントロール4E、拡大率設定コントロール4F、拡大表示位置設定コントロール4G、終了ボタン4Hを含む。
再生スライダー4Dは、動画再生アプリケーションで一般的に使用されているものであり、表示されている動画のフレーム位置を視覚的に表すとともに、つまみの操作によってフレーム位置の移動を可能にする機能を備えている。再生速度設定コントロール4Eは、例えばドロップダウンリストからなり、本実施形態では1/2倍、1倍、2倍、4倍及び8倍の中から再生速度の選択が可能である。再生スライダー4D及び再生速度設定コントロール4Eは、ユーザからの指示に応じて表示速度情報を設定する表示速度情報設定手段の一例である。
拡大率設定コントロール4Fは、例えばドロップダウンリストからなり、本実施形態では100%、200%、400%及び800%の中から画像拡大率の選択が可能である。拡大表示位置設定コントロール4Gは、上下左右の4つのボタンで構成される。拡大率設定コントロール4F及び拡大表示位置設定コントロール4Gは、ユーザからの指示に応じて表示領域情報を設定する表示領域情報設定手段の一例である。
ユーザは、入力デバイス109やディスプレイ110に表示されたこれらグラフィカルユーザインターフェース(GUI)を介して、この動画再生処理プログラムを操作することができる。入力デバイス109には、キーボード、マウス等のポインティングデバイス、ディスプレイ110と一体化されたタッチパネルなど、一般的に使用されているものを使用することができる。
次いで、ステップS205において、制御部101は、ユーザからの指示に応じて動画ファイルの設定を行う。例えば、制御部101は、ディスプレイ110上にファイル選択ダイアログ(図示せず)を表示する。これによりユーザは、外部記憶装置104内に記憶されている動画ファイルの中から任意の動画ファイルを選択することが可能となる。動画ファイルの選択には、例えばオペレーティングシステム(OS:Operating System)に標準で用意されているファイルオープンダイアログを使用することができる。
次いで、ステップS210において、制御部101は、動画再生情報の初期設定を行う。動画再生情報には、例えば、ファイルパス情報、表示フレーム情報、再生モード情報、再生速度情報、拡大率情報、画像表示位置情報、の6つの情報が含まれる。これら動画再生情報は、RAM103に保持される。
ここで、ファイルパス情報は、ステップS205においてユーザによって選択された動画ファイルのフルパスを表す情報である。
表示フレーム情報は、動画の先頭からのフレーム番号を表す情報である。ステップS210において、表示フレーム情報は、先頭を意味する0に初期化される。
再生モード情報は、動画再生の状態を表す情報であり、「PLAY」と「PAUSE」の二種類の再生モードからなる。ステップS210において、再生モード情報は、再生状態を意味する「PLAY」に初期化される。再生状態は、再生ボタン4B及びポーズボタン4C等によって操作可能である。
再生速度情報は、動画の再生速度を表す情報であり、本実施形態では5段階で設定可能である。ステップS210において、再生速度情報は、1倍に初期化される。再生速度情報は、再生速度設定コントロール4Eにより操作可能である。
拡大率情報は、動画再生時の画像拡大率を表す情報であり、本実施形態では4段階で設定可能である。ステップS210において、拡大率情報は、100%に初期化される。拡大率情報は、拡大率設定コントロール4Fにより操作可能である。
画像表示位置情報は、拡大設定時に動画のどの部分を中心にするかを表す情報である。ステップS210において、画像表示位置情報は、中央座標を示す情報に初期化される。例えば、3840×2160サイズの動画像データを扱う場合には、中央座標の値(1920,1080)に初期化される。像表示位置情報は、拡大表示位置設定コントロール4Gにより操作可能である。
次いで、ステップS215において、制御部101は、ユーザ操作による設定変更処理を行う。すなわち、ユーザからの操作に応じて、上述の各情報について、ステップS210で設定した初期状態からの変更処理を行う。ここで、表示フレーム位置は、再生スライダー4Dにより操作可能である。再生モードの設定は、再生ボタン4B及び4Cによって操作可能である。再生速度情報は、再生速度設定コントロール4Eにより操作可能である。拡大率情報は、拡大率設定コントロール4Fにより操作可能である。画像表示位置情報は、拡大表示位置設定コントロール4Gにより操作可能である。
ステップS215において実行されるユーザ操作による設定変更処理の詳細について、図3のフローチャートを用いて説明する。
ステップS300において、制御部101は、再生ボタン4B又はポーズボタン4Cが押されたかどうかの判断を行う。制御部101は、再生ボタン4B又はポーズボタン4Cが押されたと判断したときには処理をステップS305に移行し、再生ボタン4B及びポーズボタン4Cのいずれも押されていないと判断したときには処理をステップS310に移行する。
ステップS305において、制御部101は、ステップS300におけるユーザの操作に応じて再生モードの設定を行う。すなわち、ステップS300において再生ボタン4Bが押されたときには再生モードを「PLAY」に設定し、ステップS300においてポーズボタン4Cが押されたときには再生モードを「PAUSE」に設定する。
次いで、ステップS310において、制御部101は、再生スライダー4Dが操作されたかどうかの判断を行う。制御部101は、再生スライダー4Dが操作されたと判断したときには処理をステップS315に移行し、再生スライダー4Dが操作されていないと判断したときには処理をステップS320に移行する。
ステップS315において、制御部101は、ステップS310におけるユーザの操作に応じて表示フレーム情報の設定を行う。すなわち、ステップS310で操作された再生スライダー4Dのつまみ位置に応じて、表示フレーム情報の値を更新する。なお、再生スライダー4Dのつまみが一番左の場合が動画の先頭フレームに対応し、一番右の場合が最終フレームに対応する。
次いで、ステップS320において、制御部101は、再生速度設定コントロール4Eが操作されたかどうかの判断を行う。制御部101は、再生速度設定コントロール4Eが操作されたと判断したときには処理をステップS325に移行し、再生速度設定コントロール4Eが操作されていないと判断したときには処理をステップS330に移行する。
ステップS325において、制御部101は、ステップS320におけるユーザの操作に応じて再生速度情報の設定を行う。すなわち、ステップS320で操作された再生速度設定コントロール4Eのドロップダウンリストの項目に応じて、再生速度情報を設定する。本ステップにおいて、制御部101は、表示速度設定手段として機能する。
次いで、ステップS330において、制御部101は、拡大率設定コントロール4Fが操作されたかどうかの判断を行う。制御部101は、拡大率設定コントロール4Fが操作されたと判断したときには処理をステップS335に移行し、拡大率設定コントロール4Fが操作されていないと判断したときには処理をステップS340に移行する。
ステップS335において、制御部101は、ステップS330におけるユーザの操作に応じて拡大率情報の設定を行う。すなわち、ステップS330で操作された拡大率設定コントロール4Fのドロップダウンリストの項目に応じて、拡大率情報を設定する。
次いで、ステップS340において、制御部101は、拡大表示位置設定コントロール4Gが操作されたかどうかの判断を行う。制御部101は、拡大表示位置設定コントロール4Gが操作されたと判断したときには処理をステップS345に移行し、拡大表示位置設定コントロール4Gが操作されていないと判断したときにはユーザ操作による設定変更処理を終了する。
ステップS345において、制御部101は、ステップS340におけるユーザの操作に応じて、画像表示位置情報の設定を行う。すなわち、ステップS340における拡大表示位置設定コントロール4Gの上下左右の各ボタンの操作に応じて、画像表示位置情報を上下左右に移動するように設定する。例えば、上ボタンが操作された場合には、画像表示位置情報のY座標の値を1小さくする。もちろん、画像の端に到達してそれ以上移動できない場合には、設定は更新されないよう処理する。画像表示位置は、キーボード操作やマウスのドラッグ操作等により設定するようにしてもよい。ステップS345の後、ユーザ操作による設定変更処理は終了する。
なお、各情報の設定変更処理を行う順番は、特に限定されるものではない。
このようにして、ステップS215におけるユーザ操作による設定変更処理が終了した後は、ステップS220に移行する。
ステップS220において、制御部101は、表示領域算出処理を行う。具体的には、制御部101は、RAM103に保持されている拡大率情報及び画像表示位置情報に基づき、実際にユーザが設定した表示領域を算出する。本ステップにおいて、制御部101は、表示領域設定手段として機能する。一例として、3840×2160サイズの動画像データを扱う場合について、図5を用いて説明する。
図5(a)は、動画像データの画面全体を示している。拡大率情報が100%である場合は、図5(a)のように動画の画面全体が表示領域になる。拡大率情報が200%に設定されており、画像表示位置情報が中央座標の(1920,1080)に設定されている場合は、画面の中央に配置された縦横それぞれ1/2倍の領域が表示領域になる。具体的には、図5(b)中に点線で示すように、左上の座標が(960,540)、右下の座標が(2880,1620)である矩形状の領域が表示領域となる。拡大率情報が400%に設定されており、画像表示位置情報が(1920,1080)に設定されている場合は、図5(c)中に点線で示すように、左上の座標が(1440,810)、右下の座標が(2400,1350)である矩形状の領域が表示領域となる。
次いで、ステップS225において、制御部101は、再生モードが「PLAY」であるかどうかを判断する。制御部101は、RAM103に保持されている再生モード情報を参照し、再生モードが「PLAY」と設定されているときには処理をステップS230に移行し、再生モードが「PAUSE」に設定されているときには処理をステップS240に移行する。
ステップS230において、制御部101は、再生速度が1倍速よりも大きい値に設定されているかどうかの判断を行う。再生速度が1倍速よりも大きい値に設定されているときには処理をステップS235に移行し、再生速度が1倍速以下のときには処理をステップS240に移行する。
続くステップS235において、制御部101は、ステップS220で算出した表示領域を変更する処理を行う。すなわち、本ステップにおいて、制御部101は、表示領域変更手段として機能する。ステップS235は、再生モードが「PLAY」であり且つ再生速度が1倍速よりも大きい値のときに処理が行われる。例えば、再生速度がN倍速で設定されている場合、表示領域を縦横それぞれN倍広くするように処理する(面積はN×N倍)。例えば、再生速度が2倍速で設定されている場合には、表示領域を縦2倍、横2倍広くするように設定する。ただし、N倍広くすることで動画の全体表示よりも大きくなるような場合には、全体表示となるようにする。
ステップS235における処理の一例について、図6を用いて説明する。拡大率情報が400%、画像表示位置情報が(1920,1080)、再生速度が1倍速に設定されている場合は、表示領域はステップS220の設定から変更がないため、図6(a)中に点線で示しているような表示領域となる。一方、拡大率情報が400%、画像表示位置情報が(1920,1080)、再生速度が2倍速に設定されている場合には、表示領域が縦2倍、横2倍に設定される。具体的には、図6(b)中に点線で示したように、左上の座標が(960,540)、右下の座標が(2880,1620)である矩形状の領域に表示領域を変更する。また、更に再生速度が4倍速に設定されている場合には、表示領域が縦4倍、横4倍になるため、図6(c)中に点線で示したように、画面全体(左上の座標が(0,0)、右下の座標が(3840,2160))に表示領域を変更する。
このようにして、ステップS225からステップS235の処理により、再生速度に応じて拡大時の表示領域を変更することが可能となる。
なお、本実施形態では、再生速度をN倍速に設定した場合に表示領域を縦横それぞれN倍に広くする例を示したが、表示領域を別の比率で広くするようにしてもよい。例えば、再生速度をN倍に設定した場合に、表示領域の面積をN倍にするような変更処理を行ってもよい。また、画像の表示領域を広くする別の方法として、動画表示エリア自体を複数表示することで、表示領域を広くするようにしてもよい。また、本実施形態では、再生速度が5段階で設定されている場合について説明したが、再生速度がより多段階で設定されている場合にも適用可能である。その場合には、再生速度に対応して、表示領域も多段階で変更するように動作する。
次いで、ステップS240において、制御部101は、動画の表示フレーム情報に対応したフレームデータをデコードする処理を行う。本実施形態では、H.264のデータのデコード処理を行う。
次いで、ステップS245において、制御部101は、ステップS220又はステップS235において決定された表示領域を、ステップS240においてデコードした画像データから切り出して、動画表示エリア4Aに収まるようにリサイズして表示する。なお、ステップS245での画像データの表示時間は、動画のフレームレートと再生速度に依存する。例えば、30fpsの動画を1倍速表示する場合には、1フレームの表示時間は1/30秒とする。また、30fpsの動画を2倍速表示する場合には、1フレームの表示時間は1/60秒とする。
次いで、ステップS250において、制御部101は、動画を最後まで再生したかどうかを判断する。制御部101は、動画が最後まで再生されたと判断したときは処理をステップS255に移行し、動画が最後まで再生されていないと判断したときは処理をステップS265に移行する。
ステップS255では、制御部101は、動画の表示フレーム情報を先頭となるように0に設定する。続くステップS260において、制御部101は、動画の再生モードを「PAUSE」に設定する。このようにして、動画を最後まで再生した場合には、ステップS255とステップS260の設定により、動画の先頭でポーズ状態になるように動作する。
一方、ステップS265では、制御部101は、再生モードが「PLAY」の場合には表示フレーム情報を次のフレーム番号に変更する(インクリメントする)。再生モードが「PAUSE」の場合には、表示フレーム情報はそのままとする。
次いで、ステップS270において、制御部101は、終了ボタン4Hが押されたかどうかを判断する。制御部101は、終了ボタンが押されたと判断したときにはプログラムを終了する。一方、終了ボタンが押されなかったと判断したときには、制御部101は、動画再生処理を続けるために処理をステップS215に戻す。
以上のようにしてステップS215からステップS270を繰り返すことで、複数の画像データを順番に切り替えながら表示すること、つまり動画の再生を行うことができる。また、再生速度を変更した際に、変更後の再生速度に応じて表示領域も変更するように動作することが可能となる。
以上説明したように、本実施形態の画像処理方法は、設定可能な複数の再生速度の中から一の再生速度を選択して設定した際に、設定された再生速度に応じて表示領域を広くする構成としている。これにより、再生速度が速ければ速いほど、画像中の表示領域をより広く見ることができるようになるため、動画の内容を把握しやすくなる。例えば、再生速度が速い場合はサーチ目的が多いと考えられるが、再生速度に合わせて表示領域を広くするように動作することで、内容を把握しやすくできる。また、動画中の移動物体に注目している場合などは、再生速度が速ければ速いほど目が付いていけなくなる可能性が大きいが、再生速度に合わせて表示領域を広くするように動作することで、移動する物体があった場合でも内容を把握しやすくできる。
[第2実施形態]
本発明の第2実施形態による画像処理方法について、図7及び図8を用いて説明する。図1乃至図6に示す第1実施形態による画像処理方法及び装置と同様の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。図7は、本実施形態による画像処理方法を示すフロー図である。図8は、本実施形態による画像処理方法における表示領域変更処理手順を示すフロー図である。
本実施形態では、図1に示す第1実施形態による画像処理装置を用いた他の画像処理方法について説明する。本実施形態による画像処理方法も、PC上で動作する、動画像データを再生するアプリケーションソフトによって実行されるものである。本実施形態のアプリケーションソフトでは、動画の再生速度、画像拡大率及び画像表示位置の設定が可能であるものとする。特に、本実施形態では、再生速度だけでなく拡大率をも考慮して表示領域を変える例を示す。再生速度は、第1実施形態と同様に、1/2倍、1倍、2倍、4倍及び8倍の5段階で設定可能であるものとする。また、拡大率も、第1実施形態と同様に、100%、200%、400%及び800%の4段階で設定可能であるものとする。
本実施形態による画像処理方法は、制御部101が、図7及び図8に示すフローチャートに従って処理を行う動画再生処理プログラムを実行することにより実現される。
図7において、ステップS700からステップS730及びステップS740からステップS770は、図2のステップS200からステップS230及びステップS240からステップS270と同様のため、ここでは説明を省略する。
ステップS735における表示領域の変更処理について、図8のフローチャートを用いて説明する。
ステップS800において、制御部101は、拡大率が100%に設定されているかどうかの判断を行う。制御部101は、拡大率が100%に設定されていると判断したときには、表示領域を変更する必要はないので、ステップS735の表示領域の変更処理を終了する。一方、拡大率が100%よりも大きい値に設定されていると判断したときは、制御部101は、処理をステップS805に移行する。
ステップS805では、制御部101は、設定されている拡大率情報から、表示領域変更の条件となる再生速度の閾値(最小値)を取得する。ここで、表示領域変更の条件となる再生速度の閾値は、プログラム内にテーブルとして保持されているものとする。
拡大率に対する再生速度の閾値を記述するテーブルは、特に限定されるものではないが、例えば以下に示すものが挙げられる。
Figure 0006501674
このテーブルは、拡大率情報が例えば200%に設定されている場合は、再生速度を8倍以上に設定されている場合にだけ表示領域を広くする、ということを表している。同様に、拡大率情報が例えば400%に設定されている場合は、再生速度を4倍以上に設定されている場合にだけ表示領域を広くする、ということを表している。
次いで、ステップS810において、制御部101は、現在設定されている再生速度が、ステップS805で取得した閾値以上かどうかの判断を行う。制御部101は、閾値以上の再生速度が設定されていないと判定したときには、表示領域を変更する必要がないと判断し、ステップS735の表示領域の変更処理を終了する。一方、閾値以上の再生速度が設定されていると判断したときは、制御部101は、処理をステップS815に移行する。
ステップS815では、制御部101は、現在設定されている再生速度から、表示領域をどの程度広くするかの係数を求める。本実施形態では、次の計算式を用いてこの係数を算出するものとする。
表示倍率係数=(設定されている再生速度÷再生速度の閾値)×2
この計算式では、例えば閾値が4倍に設定されており再生速度が8倍に設定されているときは、表示倍率係数は4となる。また、閾値が4倍に設定されており再生速度が4倍に設定されているときは、表示倍率係数は2となる。
次いで、ステップS820において、制御部101は、表示倍率係数が1より大きいかどうかを判断する。制御部101は、表示倍率係数が1以下であると判定したときには、表示領域を変更しないと判断し、ステップS735の表示領域の変更処理を終了する。一方、表示倍率係数が11より大きいと判定したときには、処理をステップS825に移行する。
ステップS825では、制御部101は、ステップS815で求めた係数に従って、表示領域を広げる処理を行う。具体的には、表示領域を縦横それぞれ求めた係数倍広くするように処理する。例えば、ステップS815で求めた表示倍率係数が2の場合には、表示領域を縦2倍、横2倍広くするように設定する。ステップS825の処理の後、ステップS735の表示領域の変更処理は終了する。
本実施形態による画像処理方法では、ステップS800からステップS825の処理により、再生速度が閾値以上の場合にだけ、表示領域を変更するようにしている。また、再生速度の閾値も、拡大率の設定によって切り替えるため、表示領域が広い場合には影響を受けにくい動作となる。例えば、拡大率800%での表示時は再生速度を2倍にした場合でも表示領域が大きくなるように動作するが、拡大率400%での表示時は再生速度を4倍以上にした場合にだけ表示領域が大きくなるように動作する。また、拡大率200%での表示時は、再生速度を8倍以上にした場合にだけ表示領域が大きくなるように動作する。
以上説明したように、本実施形態の画像処理方法は、再生速度だけでなく再生速度と拡大率との関係をも考慮して表示領域を広げる構成としている。これにより、動画の再生速度を変更した際に、動画の表示状態や再生状態に応じて表示領域を変更することが可能となり、動画の内容をより把握しやすくできる。
[変形実施形態]
本発明は、上記実施形態に限らず種々の変形が可能である。
例えば、上記第1実施形態に示した画像処理装置の構成は、一例を示したものであり、本発明を適用可能な画像処理装置は図1に示した構成に限定されるものではない。
また、上記実施形態では、ドロップダウンリストを用いて再生速度を設定する例を示したが、再生スライダー4Dの操作時の動作に応じて再生速度を設定するようにしてもよい。例えば、再生スライダー4Dの操作時に、再生スライダー4Dのつまみの移動速度に応じた再生速度を算出し、その再生速度に対応して表示領域を変更するように動作することができる。
また、上記実施形態では、画像データとして動画データを扱う場合を例にして説明を行ったが、動画データだけでなく静止画像データを順番に切り替えて表示する際にも、上記実施形態の画像処理方法を適用可能である。例えば、連写して撮影した静止画像を順番に画像送りで表示する場合にも、動画再生の場合と同様に適用することができる。この場合には、再生速度の代わりに、静止画像の表示の切り替え速度に応じて拡大表示領域を変更する動作となる。
また、上記第2実施形態では、表示領域の変更の条件となる閾値をテーブルとして保持する構成としたが、別の手段により閾値を決定するようにしてもよい。また、上記実施形態では、計算式を用いて表示倍率係数を算出する例を示したが、これ以外の計算式や方法によって表示率係数を決定するようにしてもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明の目的は、以下の処理を実行することによって達成される。すなわち、上述した機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が記憶媒体に格納されたプログラムコードを読み出す処理である。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコード及び該プログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、プログラムコードを供給するための記憶媒体としては、次のものを用いることができる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光磁気ディスク、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD+RW、磁気テープ、不揮発性のメモリカード、ROM等である。または、プログラムコードを、ネットワークを介してダウンロードしてもよい。
また、コンピュータが読み出したプログラムコードを実行することにより、上記実施形態の機能が実現される場合も本発明に含まれる。加えて、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれる。
更に、前述した実施形態の機能が以下の処理によって実現される場合も本発明に含まれる。すなわち、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う場合である。
上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
100…画像処理装置
101…制御部
102…ROM
103…RAM
104…外部記録装置
105…操作入力IF
106…表示IF
108…システムバス
109…入力デバイス
110…ディスプレイ

Claims (21)

  1. 一連の画像を順番に表示装置に表示する画像処理装置であって
    記画像の中から切り出して表示する表示領域を設定する領域設定手段と
    一連の像の切り替え速度を設定する速度設定手段と、
    前記一連の画像を順番に表示装置に表示している最中に、前記速度設定手段により切り替え速度が変更された場合に、変更後の前記切り替え速度に応じて前記表示領域として切り出される領域を変更する変更手段とを有し、
    前記変更手段は、変更後の前記切り替え速度が速いほど前記画像から切り出される領域が広くなるように、前記表示領域を変更する
    ことを特徴とする画像処理装置。
  2. 前記一連の画像は、複数のフレームで構成される動画像であり、前記切り替え速度は、動画の再生速度である
    ことを特徴とする請求項1記載の画像処理装置。
  3. 前記動画像は、全天球動画である
    ことを特徴とする請求項2記載の画像処理装置。
  4. 前記一連の画像は、複数の静止画像であり、前記切り替え速度は、前記静止画像の表示の切り替え速度である
    ことを特徴とする請求項1記載の画像処理装置。
  5. 前記複数の静止画像は、連写した静止画像である
    ことを特徴とする請求項記載の画像処理装置。
  6. 記速度設定手段は、スライダーである
    ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  7. 前記変更手段は、前記切り替え速度の倍率に比例して、前記表示領域として切り出される領域の縦又は横の長さを変更する
    ことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  8. 前記変更手段は、前記切り替え速度の倍率に比例して、前記表示領域として切り出される領域の面積を変更する
    ことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  9. 前記変更手段は、変更後の前記切り替え速度が前記表示領域に応じて定められた所定の閾値以上の場合に、前記表示領域として切り出される領域を変更する
    ことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  10. 前記切り替え速度の前記閾値は、前記表示領域として切り出される領域が広いほど大きい
    ことを特徴とする請求項9記載の画像処理装置。
  11. 一連の画像を順番に表示装置に表示する画像処理方法であって
    記画像の中から切り出して表示する表示領域を設定するステップと
    一連の像の切り替え速度を設定するステップと、
    前記一連の画像を順番に表示装置に表示している最中に、前記切り替え度が変更された場合に、変更後の前記切り替え度に応じて前記表示領域として切り出される領域を変更するステップとを有し、
    前記表示領域を変更するステップでは、変更後の前記切り替え速度が速いほど前記表示領域として切り出される領域が広くなるように、前記表示領域を変更する
    ことを特徴とする画像処理方法。
  12. 前記一連の画像は、複数のフレームで構成される動画像であり、前記切り替え速度は、動画の再生速度である
    ことを特徴とする請求項11記載の画像処理方法。
  13. 前記動画像は、全天球動画である
    ことを特徴とする請求項12記載の画像処理方法。
  14. 前記一連の画像は、複数の静止画像であり、前記切り替え速度は、前記静止画像の表示の切り替え速度である
    ことを特徴とする請求項11記載の画像処理方法。
  15. 前記複数の静止画像は、連写した静止画像である
    ことを特徴とする請求項14記載の画像処理方法。
  16. 前記表示領域を変更するステップでは、前記切り替え速度の倍率に比例して、前記表示領域として切り出される領域の縦又は横の長さを変更する
    ことを特徴とする請求項11乃至15のいずれか1項に記載の画像処理方法。
  17. 前記表示領域を変更するステップでは、前記切り替え速度の倍率に比例して、前記表示領域として切り出される領域の面積を変更する
    ことを特徴とする請求項11乃至15のいずれか1項に記載の画像処理方法。
  18. 前記表示領域を変更するステップでは、変更後の前記切り替え速度が前記表示領域に応じて定められた所定の閾値以上の場合に、前記表示領域として切り出される領域を変更する
    ことを特徴とする請求項11乃至15のいずれか1項に記載の画像処理方法。
  19. 前記切り替え速度の前記閾値は、前記表示領域が広いほど大きい
    ことを特徴とする請求項18記載の画像処理方法。
  20. 一連の画像を順番に表示装置に表示する際に、コンピュータに、
    前記画像の中から切り出して表示する表示領域を設定するステップと、
    前記一連の画像の切り替え速度を設定するステップと、
    前記一連の画像を順番に表示装置に表示している最中に、前記切り替え速度が変更された場合に、変更後の前記切り替え速度に応じて前記表示領域として切り出される領域を変更するステップであって、変更後の前記切り替え速度が速いほど前記表示領域として切り出される領域が広くなるように前記表示領域を変更する、ステップと、
    を実行させるプログラム。
  21. 請求項20に記載のプログラムを記録したコンピュータが読み取り可能な記憶媒体。
JP2015163891A 2015-08-21 2015-08-21 画像処理装置及び画像処理方法 Active JP6501674B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015163891A JP6501674B2 (ja) 2015-08-21 2015-08-21 画像処理装置及び画像処理方法
US15/221,634 US10922784B2 (en) 2015-08-21 2016-07-28 Image processing apparatus and image processing method that set a switch speed to switch a series of images from one to another in a sequential display with the faster the speed, the larger a region output from the images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015163891A JP6501674B2 (ja) 2015-08-21 2015-08-21 画像処理装置及び画像処理方法

Publications (3)

Publication Number Publication Date
JP2017041840A JP2017041840A (ja) 2017-02-23
JP2017041840A5 JP2017041840A5 (ja) 2018-09-20
JP6501674B2 true JP6501674B2 (ja) 2019-04-17

Family

ID=58158288

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015163891A Active JP6501674B2 (ja) 2015-08-21 2015-08-21 画像処理装置及び画像処理方法

Country Status (2)

Country Link
US (1) US10922784B2 (ja)
JP (1) JP6501674B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150105140A (ko) * 2014-03-07 2015-09-16 삼성전자주식회사 휴대 단말기 및 컨텐츠 확대 표시 방법
JP6122082B1 (ja) * 2015-10-23 2017-04-26 株式会社スクウェア・エニックス プログラム、システム及び方法
US10878598B2 (en) * 2018-06-03 2020-12-29 Apple Inc. Aspect fit techniques
JP7222627B2 (ja) 2018-07-30 2023-02-15 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH114367A (ja) * 1997-04-16 1999-01-06 Seiko Epson Corp 高速画像選択方法および高速画像選択機能付デジタルカメラ
JPH11331673A (ja) * 1998-05-19 1999-11-30 Sony Corp カメラ一体型レコーダ
JP2001109986A (ja) * 1999-10-07 2001-04-20 Minolta Co Ltd 画像表示システム
US7480864B2 (en) * 2001-10-12 2009-01-20 Canon Kabushiki Kaisha Zoom editor
JP4143322B2 (ja) * 2002-04-05 2008-09-03 キヤノン株式会社 画像再生装置及び画像再生方法
US7152209B2 (en) * 2003-03-28 2006-12-19 Microsoft Corporation User interface for adaptive video fast forward
JP2006148514A (ja) * 2004-11-19 2006-06-08 Canon Inc 画像再生装置及び画像再生装置の制御方法
US8498520B2 (en) * 2005-07-27 2013-07-30 Vbrick Systems, Inc. Video encoding and transmission technique for efficient, multi-speed fast forward and reverse playback
WO2007080665A1 (ja) * 2006-01-10 2007-07-19 Osaka University Webページ閲覧システム
JP4697810B2 (ja) * 2007-03-05 2011-06-08 パナソニック株式会社 自動追尾装置及び自動追尾方法
US8266550B1 (en) * 2008-05-28 2012-09-11 Google Inc. Parallax panning of mobile device desktop
US9092053B2 (en) * 2008-06-17 2015-07-28 Apple Inc. Systems and methods for adjusting a display based on the user's position
JP5613991B2 (ja) * 2009-03-31 2014-10-29 株式会社ニコン 再生演出プログラムおよび再生演出装置
US8457469B2 (en) * 2009-04-30 2013-06-04 Sony Corporation Display control device, display control method, and program
US8743269B2 (en) * 2009-06-15 2014-06-03 Olympus Imaging Corp. Photographing device, photographing method, and playback method
JP5363259B2 (ja) * 2009-09-29 2013-12-11 富士フイルム株式会社 画像表示装置、画像表示方法およびプログラム
JP5524653B2 (ja) * 2010-02-26 2014-06-18 キヤノン株式会社 表示制御装置及びその制御方法
US8910046B2 (en) * 2010-07-15 2014-12-09 Apple Inc. Media-editing application with anchored timeline
JP5494337B2 (ja) * 2010-07-30 2014-05-14 ソニー株式会社 情報処理装置、情報処理方法及び情報処理プログラム
US9363579B2 (en) * 2010-12-22 2016-06-07 Google Inc. Video player with assisted seek
US9288511B2 (en) * 2011-02-18 2016-03-15 Futurewei Technologies, Inc. Methods and apparatus for media navigation
JP5759253B2 (ja) * 2011-05-16 2015-08-05 キヤノン株式会社 画像再生装置およびその制御方法およびプログラム
US20130132462A1 (en) * 2011-06-03 2013-05-23 James A. Moorer Dynamically Generating and Serving Video Adapted for Client Playback in Advanced Display Modes
US20130169834A1 (en) * 2011-12-30 2013-07-04 Advanced Micro Devices, Inc. Photo extraction from video
JP6079297B2 (ja) * 2013-02-26 2017-02-15 株式会社リコー 編集装置、編集方法、及び編集プログラム
US9703446B2 (en) * 2014-02-28 2017-07-11 Prezi, Inc. Zooming user interface frames embedded image frame sequence
KR20150105140A (ko) * 2014-03-07 2015-09-16 삼성전자주식회사 휴대 단말기 및 컨텐츠 확대 표시 방법
KR20160018268A (ko) * 2014-08-08 2016-02-17 삼성전자주식회사 라인 인터랙션을 이용하여 컨텐트를 제어하는 방법 및 장치
US9918040B2 (en) * 2014-12-05 2018-03-13 Comcast Cable Comunications Magagement, Llc Video preview during trick play

Also Published As

Publication number Publication date
JP2017041840A (ja) 2017-02-23
US20170052690A1 (en) 2017-02-23
US10922784B2 (en) 2021-02-16

Similar Documents

Publication Publication Date Title
US8782563B2 (en) Information processing apparatus and method, and program
US9672411B2 (en) Information processing apparatus and method, and program
JP5817400B2 (ja) 情報処理装置、情報処理方法及びプログラム
US8799781B2 (en) Information processing apparatus reproducing moving image and displaying thumbnails, and information processing method thereof
JP6501674B2 (ja) 画像処理装置及び画像処理方法
US8170269B2 (en) Image processing apparatus, image processing method, and program
JP5685224B2 (ja) コンテキスト適応型ユーザインターフェイスシステム
EP3005369A1 (en) Touch optimized design for video editing
US20210349620A1 (en) Image display apparatus, control method and non-transitory computer-readable storage medium
JP2010187374A (ja) 要約映像生成装置および要約映像生成方法
CN110996150A (zh) 视频融合方法、电子设备及存储介质
JP2011250095A (ja) 電子機器、映像編集方法及びプログラム
JP4667356B2 (ja) 映像表示装置及びその制御方法、プログラム、記録媒体
JP2006245645A (ja) フォトムービー作成装置及びフォトムービー作成プログラム
KR102220088B1 (ko) 오디오 또는 비디오에서 인터컷 시간 버킷을 결정하는 방법 및 디바이스
JP2011056037A (ja) ゲーム装置、ゲーム制御方法、ならびに、プログラム
JP2006229467A (ja) フォトムービー作成装置及びフォトムービー作成プログラム、並びに被写体認識方法
JP5292148B2 (ja) 情報処理装置および情報処理方法
JP5468189B2 (ja) 映像表示装置及び映像表示方法
JPWO2018066381A1 (ja) 再生装置および再生方法、並びにプログラム
JP2018037883A (ja) 画像処理装置及び画像処理方法
JP6842194B2 (ja) 表示制御装置、表示制御方法及び表示制御プログラム
JP4934066B2 (ja) 情報生成装置、情報生成方法及び情報生成プログラム
JP2015121758A (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2009069684A (ja) 画像表示装置、画像表示方法、画像表示プログラム

Legal Events

Date Code Title Description
RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20171214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180807

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180807

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190319

R151 Written notification of patent or utility model registration

Ref document number: 6501674

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151