JP2021040231A - 画像処理装置およびプログラム - Google Patents

画像処理装置およびプログラム Download PDF

Info

Publication number
JP2021040231A
JP2021040231A JP2019160136A JP2019160136A JP2021040231A JP 2021040231 A JP2021040231 A JP 2021040231A JP 2019160136 A JP2019160136 A JP 2019160136A JP 2019160136 A JP2019160136 A JP 2019160136A JP 2021040231 A JP2021040231 A JP 2021040231A
Authority
JP
Japan
Prior art keywords
image
conversion
additional information
converted
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019160136A
Other languages
English (en)
Other versions
JP7379956B2 (ja
Inventor
小川 正和
Masakazu Ogawa
正和 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2019160136A priority Critical patent/JP7379956B2/ja
Priority to CN202010151553.2A priority patent/CN112533047A/zh
Priority to US16/829,161 priority patent/US20210065333A1/en
Publication of JP2021040231A publication Critical patent/JP2021040231A/ja
Application granted granted Critical
Publication of JP7379956B2 publication Critical patent/JP7379956B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/18Image warping, e.g. rearranging pixels individually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4314Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for fitting data in a restricted space on the screen, e.g. EPG data in a rectangular grid
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • H04N5/44504Circuit details of the additional information generator, e.g. details of the character or graphics signal generator, overlay mixing circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】ある画像を異なる座標系に変換して表示する場合であっても、当該画像に付加された付加情報については当初の表示状態を維持したまま表示すること。【解決手段】画像処理装置20は、変換前の画像内の位置を指定する位置指定手段212と、当該位置指定手段212によって指定された変換前の画像内の位置と付加情報とを対応付けて記憶する記憶手段203と、変換前の画像を、異なる座標系で表される変換後の画像に座標変換するとともに、位置指定手段212によって指定された変換前の画像内の位置を、異なる座標系で表される変換後の位置に座標変換する変換手段213と、変換後の画像に対して、付加情報を、変換後の位置を基準位置として表示するように制御する表示制御手段211と、を備える。【選択図】図7

Description

本発明は、画像処理装置およびプログラムに関する。
下記特許文献1には、画像データの印刷を受け付けた後、利用者の好みのテキストや模様などを画像に合成して印刷する画像出力受付端末であって、一度に複数の画像に同じテキストを入力する機能を備えており、この機能は、選択された画像と他の画像の横・縦のそれぞれの比に基づいて、テキストが画像内に収まり、かつ中央に寄り過ぎないよう合成処理する画像出力受付端末が開示されている。
特開2014−50066号公報
本発明の目的は、ある画像を異なる座標系に変換して表示する場合であっても、当該画像に付加された付加情報については当初の表示状態を維持したまま表示することが可能な画像処理装置、およびプログラムを提供することである。
請求項1に係る本発明は、
変換前の画像内の位置を指定する位置指定手段と、
前記位置指定手段によって指定された変換前の画像内の位置と付加情報とを対応付けて記憶する記憶手段と、
前記変換前の画像を、異なる座標系で表される変換後の画像に座標変換するとともに、前記位置指定手段によって指定された変換前の画像内の位置を、前記異なる座標系で表される変換後の位置に座標変換する変換手段と、
前記変換後の画像に対して、前記付加情報を、前記変換後の位置を基準位置として表示するように制御する表示制御手段と、を備える画像処理装置である。
請求項2に係る本発明は、前記表示制御手段が、前記付加情報を、前記変換前の画像内における表示状態を維持したまま、前記変換後の画像に表示する、請求項1記載の画像処理装置である。
請求項3に係る本発明は、前記表示制御手段が、前記付加情報を、前記変換前の画像内における傾きを維持したまま、前記変換後の画像に表示する、請求項2記載の画像処理装置である。
請求項4に係る本発明は、前記表示制御手段が、前記付加情報を、前記変換前の画像内における上下の向きを維持したまま、前記変換後の画像に表示する、請求項2記載の画像処理装置である。
請求項5に係る本発明は、前記表示制御手段が、前記変換後の画像の一部領域を表示対象領域として表示し、当該表示対象領域が移動することによって、表示される前記変換後の画像が移動する場合であっても、前記付加情報が前記変換前の画像内における表示状態を維持するように表示する、請求項2から4いずれかに記載の画像処理装置である。
請求項6に係る本発明は、前記表示制御手段は、前記変換後の画像を回転して表示する場合であっても、前記付加情報が前記変換前の画像内における表示状態を維持するように表示する、請求項2から5いずれかに記載の画像処理装置である。
請求項7に係る本発明は、前記記憶手段が、前記位置指定手段によって指定された変換前の画像内の位置に対して奥行情報を対応付けて記憶しており、前記変換後の位置において奥行情報が変化する場合には、前記表示制御手段は、前記付加情報を変化後の奥行情報に応じて大きさを変化させて前記変化後の画像に表示する、請求項1から6いずれかに記載の画像処理装置である。
請求項8に係る本発明は、
画像処理装置として動作するコンピュータに、
変換前の画像内の位置を指定するステップと、
前記指定された変換前の画像内の位置と付加情報とを対応付けて記憶するステップと、
前記変換前の画像を、異なる座標系で表される変換後の画像に座標変換するとともに、前記指定された変換前の画像内の位置を、前記異なる座標系で表される変換後の位置に座標変換するステップと、
前記変換後の画像に対して、前記付加情報を、前記変換後の位置を基準位置として表示するように制御するステップと、を実行させるプログラムである。
請求項1に係る本発明によれば、ある画像を異なる座標系に変換して表示する場合であっても、当該画像に付加された付加情報については当初の表示状態を維持したまま表示することが可能な画像処理装置を提供できる。
請求項2に係る本発明によれば、変換前の画像が座標変換によって見え方が変化する場合であっても、付加情報については見え方を変化することなく表示することが可能となる。
請求項3に係る本発明によれば、変換前の画像が座標変換により向きや角度が変化する場合であっても、付加情報については当初の傾きのまま表示することが可能となる。
請求項4に係る本発明によれば、変換前の画像が座標変換により上下関係が変化する場合であっても、付加情報については当初の上下の向きのまま表示することが可能となる。
請求項5に係る本発明によれば、表示対象領域を移動させて表示させる場合に、付加情報を、当初の見え方を変化させることなく表示させることが可能となる。
請求項6に係る本発明によれば、画像が回転する場合であっても、付加情報については回転させずに表示させることが可能となる。
請求項7に係る本発明によれば、変換後の画像において、遠くに位置するものに対応付けられた付加情報は小さく表示し、近くに位置するものに対応付けられた付加情報は大きく表示することが可能となる。
請求項8に係る本発明によれば、ある画像を異なる座標系に変換して表示する場合であっても、当該画像に付加された付加情報については当初の表示状態を維持したまま表示することが可能な画像処理をコンピュータに実行させることができる。
本発明の一実施形態における画像処理装置20のハードウェア構成を示す図である。 図1の画像処理装置20の機能ブロックを示す図である。 変換前の画像を、異なる座標系で表される変換後の画像に座標変換する処理の概要を説明する図である。 本実施形態における画像処理装置20において変換前の画像に付加情報を付加する処理の流れを示すフローチャートである。 変換前の画像に対して付加情報が付加された状態の一例を示す説明図である。 付加情報が付加された変換前の画像を座標変換する処理の流れを示すフローチャートである。 付加情報がそれぞれ付加された変換前の画像と変換後の画像の一例を示す説明図である。 付加情報が付加された変換前の画像を座標変換し、さらにその一部分をクロップして表示する処理の流れを示すフローチャートである。 付加情報が付加された変換前の画像を座標変換し、その一部をクロップして表示した場合の一例を示す説明図である。 窓を固定して画像を反時計回りに45度回転させた場合の説明図と、ディスプレイに表示されるクロップおよび回転後の画像を示す図である。 クロップされた画像をズームイン、あるいはズームアウトした場合を説明する図と、ディスプレイに表示される画像を示す図である。
〔画像処理装置についての説明〕
本発明の一実施形態における画像処理装置20について、図1を参照して説明する。なお、図1は、本実施形態における画像処理装置20のハードウェア構成を示す図である。画像処理装置20は、例えばデスクトップ型コンピュータであるが、本発明はこれに限定されず、下記に説明する構成を有するものであれば、ノート型コンピュータやタブレット型コンピュータであってもよいし、他の端末装置であってもよい。
図1に示すように、画像処理装置20は、制御用マイクロプロセッサ201、メモリ202、記憶装置203、通信インタフェース204、ディスプレイ205、入力インタフェース206を有し、それぞれ制御用バス207に接続される。
制御用マイクロプロセッサ201は、記憶装置203に記憶された制御プログラムに基づいて、画像処理装置20の各部の動作を制御する。
メモリ202には、記憶装置203に記憶された画像データを異なる座標系の画像データに変換した場合の変換後の画像データ、および当該変換後の画像データに付加される付加情報が一時的に記憶される。
記憶装置203は、ハードディスク(略してHDDという)やソリッド・ステート・ドライブ(略してSDDという)によって構成され、画像処理装置20の各部を制御するための制御プログラムが格納される。また、記憶装置203には、図示しない360度カメラによって撮影された画像データ、および当該画像データに付加される付加情報が記憶される。
通信インタフェース204は、この画像処理装置20が360度カメラや画像を蓄積しているサーバと通信を行い、360度カメラや画像を蓄積しているサーバから画像を取得するための通信制御を行う。
ディスプレイ205は、この画像処理装置20と一体または別体の液晶ディスプレイで構成され、後述する表示制御部によって処理された情報が表示される。
入力インタフェース206は、キーボードやマウスなどで構成され、画像処理装置20を操作する利用者が後述する画像データの変換指示や付加情報を入力するための入力手段である。
次に、図2を参照して、本実施形態における画像処理装置20の機能について説明する。図2は、図1の画像処理装置20の機能ブロックを示す図である。図2に示すように、画像処理装置20は、記憶装置203に記憶された制御プログラムを制御用マイクロプロセッサ201において実行することにより、表示制御部211、位置指定部212、変換部213、付加情報編集部214の各機能を発揮するものとして構成される。
表示制御部211は、利用者が入力インタフェース206を介して行う指示に応じて記憶装置203に記憶された変換前の画像をディスプレイ205に表示する制御を行う。また、付加情報編集部214によって変換前の画像に対して付加情報が付加された場合には、位置指定部212によって指定された位置を基準位置として付加情報を変換前の画像に重ね合わせてディスプレイ205に表示する。さらに、表示制御部211は、変換部213によって変換前の画像が異なる座標系で表される画像に変換された場合には、変換後の画像をディスプレイ205に表示するとともに、付加情報編集部214によって付加された付加情報を、上記変換部213によって変換された変換後の位置を基準位置として、変換後の画像に重ねてディスプレイ205に表示する。
位置指定部212は、ディスプレイ205に変換前の画像が表示されている際に、利用者が入力インタフェース206を操作して付加情報を付加する基準位置を指定した場合に、当該変換前の画像内の位置情報を取得する。加えて、当該基準位置に対する付加情報の相対位置の情報も取得する。
変換部213は、利用者が入力インタフェース206を介して行う指示に応じて、記憶装置203に記憶されている変換前の画像を、異なる座標系で表される変換後の画像に座標変換してメモリ202に記憶するとともに、位置指定部212によって指定された変換前の画像内における付加情報を付加する基準位置を、異なる座標系で表される変換後の基準位置に座標変換してメモリ202に記憶する。
付加情報編集部214は、変換前の画像がディスプレイ205に表示されている場合に、利用者が入力インタフェース206を操作することによって入力される付加情報を、位置指定部212によって指定される基準位置、および相対位置の情報と対応付けて記憶装置203に記憶する。
次に、本実施形態の画像処理装置20において、変換部213が変換前の画像を、異なる座標系で表される変換後の画像に座標変換する処理の概要について図3を参照して説明する。なお、図3は、変換前の画像を、異なる座標系で表される変換後の画像に座標変換する処理の概要を説明する図である。360度カメラや、画像を蓄積しているサーバから通信インタフェース204を介して取得した画像は、エクイレクタングラー形式の画像データ300として記憶装置203に記憶されている。変換部213は、利用者の指示に応じて、エクイレクタングラー形式の画像データ300を、ドームマスター形式の画像データ310、あるいはキューブマップ形式の画像データ320に座標変換し、変換後の画像データとしてメモリ202に一時的に記憶する。なお、変換後の画像データは、記憶装置203に記憶してもよい。
なお、上記形式の画像データは、可逆変換あるいは相互変換が可能であり、ドームマスター形式の画像データ310、キューブマップ形式の画像データ320をエクイレクタングラー形式の画像データ300に座標変換することも、ドームマスター形式の画像データ310をキューブマップ形式の画像データ320に座標変換したり、その逆の座標変換をしたりすることも可能である。なお、変換前の画像データをドームマスター形式の画像データ310やキューブマップ形式の画像データ320とし、変換後の画像データをエクイレクタングラー形式の画像データ300としてもよい。
さらに、本実施形態の画像処理装置20は、変換前のエクイレクタングラー形式の画像、あるいは変換後のドームマスター形式の画像やキューブマップ形式の画像の一部分をクロップ、つまり一部分を切り出し、クロップされた画像330としてディスプレイ205に表示することも可能である。この場合であっても、ただ単にエクイレクタングラー形式の画像、あるいはドームマスター形式の画像やキューブマップ形式の画像の一部分をそのまま切り出してディスプレイ205に表示するのではなく、表示対象領域として切り出された、あるいは指定された領域の画像を変換部213が座標変換してメモリ202に一時的に記憶し、表示制御部211によりディスプレイ205に表示させる。
《処理ついての説明》
次に、図4、図5を参照し、本実施形態の画像処理装置20において付加情報を変換前の画像に付加する処理を説明する。なお、図4は、本実施形態における画像処理装置20において変換前の画像に付加情報を付加する処理の流れを示すフローチャートである。図5は、変換前の画像に対して付加情報が付加された状態の一例を示す説明図である。
図4のステップS401において、表示制御部211は、利用者が入力インタフェース206を介して行う指示に応じて記憶装置203に記憶された変換前の画像、つまりエクイレクタングラー形式の画像をディスプレイ205に表示する。
ステップS402において、付加情報編集部214は、利用者が入力インタフェース206を介して付加情報を付加する操作を受け付ける。利用者が変換前の画像内のある位置を、付加情報を付加する基準位置として指定した場合、位置指定部212は、当該変換前の画像における基準位置の位置情報を取得し、メモリ202に一時的に記憶する。
ステップS403において、付加情報編集部214は、付加情報を実際に表示する領域を指定する操作を受け付け、利用者が変換前の画像内のある領域を、付加情報を実際に表示する領域として指定した場合、位置指定部212は、当該変換前の画像における付加情報表示領域の位置情報を取得し、メモリ202に一時的に記憶する。なお、上記基準位置と付加情報表示領域は重なってもよいし、互いに離れた位置にあってもよい。また付加情報表示領域の位置情報は、位置情報として領域が指定されてもよいし、左上や重心といった一点のみが指定されてもよい。
ステップS404において、付加情報編集部214は、付加情報の入力を受け付ける。ここで付加情報とは、テキスト、記号、図形、アイコンといった変換前の画像に対して利用者が後から任意に重ね合わせて表示させる追加要素のことである。付加情報は、テキストの場合には利用者が入力インタフェース206を介して文字データを入力する。また、付加情報は、図形の場合には、付加情報編集部214がディスプレイ205に、挿入可能な図形一覧を表示させ、利用者がその一覧の中から図形を選択し、当該付加情報表示領域に図形を表示させるようにする。
例えば、図5に示すように、変換前のエクイレクタングラー形式の画像500には、テキスト510が重ね合わせて表示されている。テキスト510は付加情報表示領域511内に表示されており、この付加情報表示領域511は、付加情報の基準位置512と対応付けられる。付加情報の基準位置512は、付加情報表示領域511の内部にあってもよいし、図5のように付加情報表示領域511の外部にあってもよい。
ステップS405において、付加情報編集部214は、付加情報と、当該付加情報を付加する基準位置の位置情報と、当該基準位置に対する付加情報表示領域の相対位置情報とを対応付けて記憶装置203に記憶する。なお、この相対位置情報は、上記基準位置に対する付加情報表示領域の重心の相対的な位置を示す情報であり、基準位置から付加情報表示領域の重心までの距離、角度で表される。なお、相対位置情報は、上記基準位置に対する付加情報表示領域の重心の相対的な位置を示す情報だけに限られず、付加情報表示領域の左上、右下といった地点の相対的な位置情報であってもよい。
ステップS406において、付加情報編集部214は、付加情報を変換前の画像に付加する処理を終了するか否かを利用者に確認し、利用者が終了することを指示した場合にはステップS407において変換前の画像に付加された付加情報の総数を画像データに対応付けて記憶装置203に記憶し、処理を終了する。一方、付加情報の変換前の画像に付加する処理を終了しない場合にはステップS402に戻り、付加情報の付加を終了するまでステップS402〜ステップS405の処理を繰り返し行う。
次に、図6、図7を参照して、付加情報が付加された変換前の画像を座標変換する処理について説明する。なお、図6は、付加情報が付加された変換前の画像を座標変換する処理の流れを示すフローチャートである。図7は、付加情報がそれぞれ付加された変換前の画像と変換後の画像の一例を示す説明図である。
ステップS601において、変換部213は座標変換の対象となる変換前の画像に対応付けられて記憶されている付加情報の総数Nを、記憶装置203から取得する。図7に示す画像の場合、付加情報の総数Nは「3」である。
ステップS602において、変換部213は、記憶装置203に記憶されている変換前の画像を座標変換し、変換後の画像としてメモリ202、あるいは記憶装置203に記憶する。図7に示す変換処理の場合、変換部213は、変換前のエクイレクタングラー形式の画像700を、ドームマスター形式の画像750に座標変換し、変換後の画像としてメモリ202あるいは記憶装置203に記憶する。
ステップS603において、変換部213は、変換前の画像に対応付けられている付加情報の位置情報を座標変換する際に使用する変数n=1に設定する。
ステップS604において、変換部213は、変換前の画像に対応付けられたn個目の付加情報の基準位置の位置情報、例えば図7における基準位置712の位置情報を取得し、当該位置情報を座標変換し、変換後の画像における付加情報の基準位置として、メモリ202に記憶する。
ステップS605において、変換部213は、変換前の画像に対応付けられたn個目の付加情報の、付加情報表示領域の基準位置に対する相対位置情報を座標変換によって算出し、メモリ202に記憶する。
ステップS606において、変換部213は、変数nが、変換前の画像に対応付けられて記憶されている付加情報の総数Nであるか否かを判断する。変数nが付加情報の総数Nに等しくないと判断された場合、ステップS607に進み、変数nに1を加算してステップS604に戻り、変換前の画像に対応付けられた付加情報の数だけステップS604〜S606の処理を繰り返し行う。
ステップS606において変数nが付加情報の総数Nに等しいと判断された場合、ステップS608において、表示制御部211は、メモリ202あるいは記憶装置203に記憶された変換後の画像をディスプレイ205に表示させる。
ステップS609において、表示制御部211は、メモリ202に記憶された付加情報を、変換後の基準位置を基準として、変換後の相対位置情報に基づいてディスプレイ205に表示されている変換後の画像内に重ねて表示し、処理を終了する。
例えば、図7に示すように、変換前のエクイレクタングラー形式の画像700には、3つの付加情報710、720、730が付加されていたとする。ここで、付加情報710、720はテキスト形式であり、それぞれ付加情報表示領域711、721内にテキストが表示されている。一方、付加情報730は図形であり、付加情報表示領域731内に表示されている。さらに、付加情報710の基準位置712は付加情報表示領域711の外部にあるのに対し、付加情報720、730の基準位置722、732は付加情報表示領域721、731の内部に位置している。
この変換前の画像700を変換部213によってドームマスター形式の画像750に変換すると、変換前の画像700における付加情報710、720、730が、変換後の画像750上に、変換部213によって座標変換された基準位置761、771、781を基準として、やはり変換部213によって座標変換された相対位置情報によって特定される付加情報表示領域762、772、782に重ねて表示される。
このとき、図7に示すように、付加情報710の付加情報表示領域762は、座標変換後の基準位置761から離れているのに対し、付加情報720、730の付加情報表示領域772、782は、座標変換後の基準位置771、781と重なる位置にある。また、付加情報710、720、730は、座標変換前と比較した場合に、天地つまり図7における傾きや上下の向き、大きさ、形状といた座標変換前の当初の表示状態が維持された状態でドームマスター形式の画像750上に重ね合わされて表示されている。
次に、図8、図9を参照して、付加情報が付加された変換前の画像を座標変換し、さらにその一部分をクロップ、つまり切り出して表示する処理について説明する。なお、図8は、付加情報が付加された変換前の画像を座標変換し、さらにその一部分をクロップして表示する処理の流れを示すフローチャートである。図9は、付加情報が付加された変換前の画像を座標変換し、その一部をクロップして表示した場合の一例を示す説明図である。なお、図8、図9に示す例では、エクイレクタングラー形式の画像700を一旦キューブマップ形式の画像に変換し、次いでその一部をクロップしてディスプレイ205に表示している。
まず、図9に示す、付加情報が付加されたエクイレクタングラー形式の画像700をキューブマップ形式の画像900へ座標変換する方法については、上述した図6のステップS601〜ステップS606までの処理と略同じであるので、説明を省略する。
ステップS801において、位置指定部212は、エクイレクタングラー形式から座標変換された後のキューブマップ形式の画像900においてクロップされる範囲を特定する。具体的には、利用者が入力インタフェース206を介して入力される操作に基づいて位置指定部212は、視点位置と角度を特定し、視点位置と角度の情報からクロップされる範囲を特定する。
ステップS802において、変換部213は、変換前の画像のクロップされる範囲にどの付加情報が含まれるかを判断する。
ステップS803において、変換部213は、変換前の画像におけるクロップされる範囲の画像を座標変換し、変換後の画像を生成し、メモリ202に記憶する。
ステップS804において、変換部213は、ステップS802においてクロップされる範囲に含まれると判断された付加情報の基準位置、および相対位置を座標変換し、メモリ202に記憶する。
ステップS805において、表示制御部211は、メモリ202に記憶されたクロップ対象範囲として座標変換された変換後の画像をディスプレイ205に表示する。
ステップS806において、表示制御部211は、クロップ対象範囲に含まれると判断された付加情報を、メモリ202に記憶された変換後の基準位置の位置情報、変換後の相対位置情報に基づいて、ディスプレイ205に表示される変換後の画像に重ね合わせて表示する。
ステップS807において、位置指定部212は、利用者が入力インタフェース206を介して入力される操作に基づいてクロップされる範囲が移動したか否かを判断する。クロップされる範囲が移動したと判断された場合はステップS801に戻り、ステップS801〜ステップS806までの処理を繰り返し行い、新たなクロップされる範囲に含まれる画像、付加情報をディスプレイ205に表示させる。
ステップS807において、クロップ対象範囲が移動しないと判断された場合は、表示制御部211は、ステップS806でディスプレイ205に表示される画像を引き続きディスプレイ205に表示する。
例えば、図9に示す例の場合、キューブマップ形式の画像900の一部がクロップされる範囲910として指定されている。このとき、付加情報710、720は、クロップされる範囲に含まれるため、ディスプレイ205に表示されるクロップ後の画像950には、付加情報710、720が表示されている。一方、クロップされる範囲が、範囲920まで移動した場合、この範囲920内には付加情報730が含まれるようになる。したがって、ディスプレイ205に表示されるクロップ後の画像960には、付加情報730が表示されている。
このとき、クロップ後の画像950、960に表示されている付加情報は、クロップ前と比較した場合に、天地つまり傾きや上下の向き、大きさ、形状といったクロップ前の当初の表示状態が維持された状態で、クロップ後の画像に重ね合わされて表示されている。
上記図9に示した例は、クロップされる範囲が、ある視点を基準として水平方向に移動した場合を説明したものであった。言い換えると、クロップ範囲、つまりある視点から見えるいわゆる「窓」を固定したまま、「窓」の向こう側の画像を水平方向に移動させ、当該クロップ範囲、つまり「窓」に収まる画像を、その歪みを、座標変換を行って調整して表示していた。しかし、本発明は上記の例に限定されず、「窓」はいわば固定した状態で画像を上下方向や斜め方向に移動させたり、「窓」を固定した状態で画像内のある地点を中心として回転させたりしてもよい。
例えば、図10に示すように、いわゆる「窓」1010を固定して画像1000を反時計回りに45度回転させる。この場合、クロップおよび回転後の画像1050には付加情報710、720が表示されている。これらの付加情報710、720は、画像が回転したにも関わらず、天地つまり傾きや上下の向き、大きさ、形状といった、クロップおよび回転前の当初の表示状態が維持された状態でクロップおよび回転後の画像1050に重ね合わされて表示されている。
さらに、本発明で処理される画像は、当該画像内のそれぞれの位置、あるいは各要素に対して奥行情報を対応付けて記憶させておいてもよい。この奥行情報は、記憶装置203に記憶された画像の各画素、あるいは各位置座標にそれぞれ対応付けられていてもよいし、位置指定部212によって指定された画像内の各位置に対して、利用者が情報を後から対応付けて記憶させたものであってもよい。
例えば、図11に示すように、利用者が入力インタフェース206を操作して、クロップされた画像1150、1160をズームイン、あるいはズームアウトすると、いわゆる「窓」1110、1120の大きさが縮小、あるいは拡大する。例えば、「窓」1110内の画像1150には付加情報710、720が含まれている。付加情報710の基準位置712の座標には奥行として手前側であることを示す奥行情報が対応付けられており、付加情報720の基準位置722の座標には奥行として奥側であることを示す奥行情報が対応づけられている。なお、この奥行情報は、360度カメラで画像を撮影した際の視点からの各要素、あるいは各基準位置までの距離情報であってもよい。
付加情報710は、もう一つの付加情報720よりも手前側にあるため、図11では、付加情報710の付加情報表示領域711は、付加情報720の付加情報表示領域721よりも大きく拡大されて表示されている。あるいは、付加情報720は、付加情報710よりも奥側にあるため、図11では、付加情報720の付加情報表示領域721よりも小さく縮小されて表示されている。
「窓」1110内の画像1150を、利用者が入力インタフェース206を操作することによって、ズームインした場合、画像1100における「窓」は縮小し、「窓」1120内の画像1160が表示されることになる。このとき、付加情報720の基準位置722は見かけ上、視点により一層近づいたことになる。このとき変換部213は、付加情報720の基準位置722の奥行情報を、視点からの距離に応じて変化させる。表示制御部211は、変化後の奥行情報に応じて付加情報表示領域721の大きさを拡大し、変化後の画像1160に重ねて表示する。
一方、ズームアウトした場合は、付加情報は見かけ上視点から遠ざかることになるので、表示制御部211は、変換部213によって変化した変化後の基準位置の奥行情報に応じて付加情報表示領域の大きさを縮小し、変化後の画像に重ねて表示する。なお、奥行情報は変更させず、視点から基準位置までの距離を奥行情報に基づいて算出し、それに応じて付加情報表示領域721の大きさを拡大、縮小して表示してもよい。
なお、上述の実施形態においては、記憶装置203に記憶される画像としてエクイレクタングラー形式のものを例とし、その画像を他の形式の画像に座標変換、クロップ、および回転や拡大・縮小した場合を説明したが、座標変換前の画像を他の形式の画像としてもよい。
20 画像処理装置
201 制御用マイクロプロセッサ
202 メモリ
203 記憶装置
204 通信インタフェース
205 ディスプレイ
206 入力インタフェース
211 表示制御部
212 位置指定部
213 変換部
214 付加情報編集部

Claims (8)

  1. 変換前の画像内の位置を指定する位置指定手段と、
    前記位置指定手段によって指定された変換前の画像内の位置と付加情報とを対応付けて記憶する記憶手段と、
    前記変換前の画像を、異なる座標系で表される変換後の画像に座標変換するとともに、前記位置指定手段によって指定された変換前の画像内の位置を、前記異なる座標系で表される変換後の位置に座標変換する変換手段と、
    前記変換後の画像に対して、前記付加情報を、前記変換後の位置を基準位置として表示するように制御する表示制御手段と、を備える画像処理装置。
  2. 前記表示制御手段は、前記付加情報を、前記変換前の画像内における表示状態を維持したまま、前記変換後の画像に表示する、請求項1記載の画像処理装置。
  3. 前記表示制御手段は、前記付加情報を、前記変換前の画像内における傾きを維持したまま、前記変換後の画像に表示する、請求項2記載の画像処理装置。
  4. 前記表示制御手段は、前記付加情報を、前記変換前の画像内における上下の向きを維持したまま、前記変換後の画像に表示する、請求項2記載の画像処理装置。
  5. 前記表示制御手段は、前記変換後の画像の一部領域を表示対象領域として表示し、当該表示対象領域が移動することによって、表示される前記変換後の画像が移動する場合であっても、前記付加情報が前記変換前の画像内における表示状態を維持するように表示する、請求項2から4いずれかに記載の画像処理装置。
  6. 前記表示制御手段は、前記変換後の画像を回転して表示する場合であっても、前記付加情報が前記変換前の画像内における表示状態を維持するように表示する、請求項2から5いずれかに記載の画像処理装置。
  7. 前記記憶手段は、前記位置指定手段によって指定された変換前の画像内の位置に対して奥行情報を対応付けて記憶しており、前記変換後の位置において奥行情報が変化する場合には、前記表示制御手段は、前記付加情報を変化後の奥行情報に応じて大きさを変化させて前記変化後の画像に表示する、請求項1から6いずれかに記載の画像処理装置。
  8. 画像処理装置として動作するコンピュータに、
    変換前の画像内の位置を指定するステップと、
    前記指定された変換前の画像内の位置と付加情報とを対応付けて記憶するステップと、
    前記変換前の画像を、異なる座標系で表される変換後の画像に座標変換するとともに、前記指定された変換前の画像内の位置を、前記異なる座標系で表される変換後の位置に座標変換するステップと、
    前記変換後の画像に対して、前記付加情報を、前記変換後の位置を基準位置として表示するように制御するステップと、を実行させるプログラム。
JP2019160136A 2019-09-03 2019-09-03 画像処理装置およびプログラム Active JP7379956B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019160136A JP7379956B2 (ja) 2019-09-03 2019-09-03 画像処理装置およびプログラム
CN202010151553.2A CN112533047A (zh) 2019-09-03 2020-03-06 图像处理装置及记录媒体
US16/829,161 US20210065333A1 (en) 2019-09-03 2020-03-25 Image processing apparatus and non-transitory computer readable medium storing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019160136A JP7379956B2 (ja) 2019-09-03 2019-09-03 画像処理装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2021040231A true JP2021040231A (ja) 2021-03-11
JP7379956B2 JP7379956B2 (ja) 2023-11-15

Family

ID=74681769

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019160136A Active JP7379956B2 (ja) 2019-09-03 2019-09-03 画像処理装置およびプログラム

Country Status (3)

Country Link
US (1) US20210065333A1 (ja)
JP (1) JP7379956B2 (ja)
CN (1) CN112533047A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11816757B1 (en) * 2019-12-11 2023-11-14 Meta Platforms Technologies, Llc Device-side capture of data representative of an artificial reality environment

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08292715A (ja) * 1995-04-20 1996-11-05 Hitachi Ltd 地図表示装置
JPH09281889A (ja) * 1996-04-16 1997-10-31 Hitachi Ltd 地図表示装置及び地図表示方法
JP2002123814A (ja) * 2000-08-07 2002-04-26 Sony Corp 情報処理装置、情報処理方法、プログラム格納媒体及びプログラム
JP2008176728A (ja) * 2007-01-22 2008-07-31 Nintendo Co Ltd 表示制御装置および表示制御プログラム
JP2012073397A (ja) * 2010-09-28 2012-04-12 Geo Technical Laboratory Co Ltd 3次元地図表示システム
JP2012170088A (ja) * 2012-03-08 2012-09-06 Sony Corp 電子機器、表示制御方法およびプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10124494A (ja) * 1996-10-25 1998-05-15 Toshiba Corp 情報処理機器及び注釈付加方法
US8605136B2 (en) * 2010-08-10 2013-12-10 Sony Corporation 2D to 3D user interface content data conversion
JP5849560B2 (ja) * 2011-09-20 2016-01-27 セイコーエプソン株式会社 表示装置、プロジェクター、及び、表示方法
JP2014006674A (ja) * 2012-06-22 2014-01-16 Canon Inc 画像処理装置及びその制御方法、プログラム
WO2018052100A1 (ja) * 2016-09-15 2018-03-22 株式会社カヤック 画像処理装置、画像処理方法、画像処理プログラム
CN106776939A (zh) * 2016-12-01 2017-05-31 山东师范大学 一种图像无损标注方法及系统
US20180240276A1 (en) * 2017-02-23 2018-08-23 Vid Scale, Inc. Methods and apparatus for personalized virtual reality media interface design
WO2019066436A1 (ko) * 2017-09-26 2019-04-04 엘지전자 주식회사 360 비디오 시스템에서 오버레이 처리 방법 및 그 장치
US10649638B2 (en) * 2018-02-06 2020-05-12 Adobe Inc. Immersive media content navigation and editing techniques

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08292715A (ja) * 1995-04-20 1996-11-05 Hitachi Ltd 地図表示装置
JPH09281889A (ja) * 1996-04-16 1997-10-31 Hitachi Ltd 地図表示装置及び地図表示方法
JP2002123814A (ja) * 2000-08-07 2002-04-26 Sony Corp 情報処理装置、情報処理方法、プログラム格納媒体及びプログラム
JP2008176728A (ja) * 2007-01-22 2008-07-31 Nintendo Co Ltd 表示制御装置および表示制御プログラム
JP2012073397A (ja) * 2010-09-28 2012-04-12 Geo Technical Laboratory Co Ltd 3次元地図表示システム
JP2012170088A (ja) * 2012-03-08 2012-09-06 Sony Corp 電子機器、表示制御方法およびプログラム

Also Published As

Publication number Publication date
CN112533047A (zh) 2021-03-19
US20210065333A1 (en) 2021-03-04
JP7379956B2 (ja) 2023-11-15

Similar Documents

Publication Publication Date Title
JP6167703B2 (ja) 表示制御装置、プログラム及び記録媒体
JP5438333B2 (ja) 表示制御装置および表示制御方法
JP6071866B2 (ja) 表示制御装置、表示装置、撮像システム、表示制御方法、及びプログラム
EP1780633A2 (en) Three-dimensional motion graphic user interface and apparatus and method for providing three-dimensional motion graphic user interface
JP6337907B2 (ja) 表示制御装置、表示制御方法およびプログラム
JP6312046B2 (ja) 画像処理システム、画像処理方法、及びプログラム
JP7528285B2 (ja) 情報処理装置
US9906710B2 (en) Camera pan-tilt-zoom (PTZ) control apparatus
JP2017191492A (ja) 情報処理装置、情報処理方法および映像生成システム
JP2019174984A (ja) 表示制御装置、その制御方法、プログラム及び記憶媒体
CN113918070B (zh) 同步显示方法、装置、可读存储介质及电子设备
JP2024513783A (ja) カメラの制御方法
JP7379956B2 (ja) 画像処理装置およびプログラム
JP2020092315A (ja) 表示制御装置、撮像装置、表示装置の制御方法、プログラム、および記憶媒体
CN112954197A (zh) 拍摄方法、装置、电子设备及可读存储介质
JP2016100883A (ja) フォーカスアシスト装置およびそのプログラム
JP2020108112A (ja) 電子機器及びその制御方法
JP6873186B2 (ja) 情報処理装置、スイッチングシステム、プログラム及び方法
JP6614516B2 (ja) 表示装置及びコンピュータプログラム
JP2017182843A (ja) プログラム、表示制御装置及び表示制御方法
JP2010039278A (ja) 画像出力システム、画像出力装置、画像出力方法、及びプログラム
JP2024001476A (ja) 画像処理システム、画像処理方法、及びプログラム
KR101356482B1 (ko) 촬영 기능을 갖는 이동 단말기 및 이것의 방법
JP2007074695A (ja) 画像処理装置
JP2024100582A (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20201102

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220829

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231016

R150 Certificate of patent or registration of utility model

Ref document number: 7379956

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150