JPWO2015194075A1 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JPWO2015194075A1
JPWO2015194075A1 JP2016528984A JP2016528984A JPWO2015194075A1 JP WO2015194075 A1 JPWO2015194075 A1 JP WO2015194075A1 JP 2016528984 A JP2016528984 A JP 2016528984A JP 2016528984 A JP2016528984 A JP 2016528984A JP WO2015194075 A1 JPWO2015194075 A1 JP WO2015194075A1
Authority
JP
Japan
Prior art keywords
image
size
display area
image processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016528984A
Other languages
English (en)
Inventor
高橋 修一
修一 高橋
佳之 秋山
佳之 秋山
横山 一樹
一樹 横山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2015194075A1 publication Critical patent/JPWO2015194075A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/373Details of the operation on graphic patterns for modifying the size of the graphic pattern
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)
  • Position Input By Displaying (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

入力画像の被写体の実物大画像を、より実物感を感じさせる位置に表示させることが可能な画像処理装置、画像処理方法及びプログラムを提供する。本技術の一形態に係る画像処理装置は、画像サイズ調整部と、表示位置決定部とを具備する。上記画像サイズ調整部は、入力画像の被写体を表示領域から実物大で表示するように前記入力画像のサイズを調整する。上記表示位置決定部は、上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置を決定する。

Description

本技術は、入力画像の被写体を実物大に表示することが可能な画像処理装置、画像処理方法及びプログラムに関する。
従来より、入力画像の被写体を実物大に表示することが可能な装置等が知られている。例えば、特許文献1には、撮影された画像について、カメラから被写体までの距離及び撮影レンズの画角等に基づいて表示サイズを計算し、被写体を実物大に表示する実物大画像入出力装置が記載されている。一方、特許文献2には、カメラから撮影された2次元映像から人物と背景を分離し、多層化して奥行きを持つ実物大の3次元映像を生成する映像コミュニケーションシステムが記載されている。
特許第3586126号公報 特開2011−77710号公報
しかしながら、特許文献1及び2に記載の装置及びシステムは、いずれも、被写体の実物大画像を、ディスプレイ等の表示領域中のどの位置に表示するかについては言及されていなかった。
以上のような事情に鑑み、本技術の目的は、入力画像の被写体の実物大画像を、より実物感を感じさせる位置に表示させることが可能な画像処理装置、画像処理方法及びプログラムを提供することにある。
上記目的を達成するため、本技術の一形態に係る画像処理装置は、画像サイズ調整部と、表示位置決定部とを具備する。
上記画像サイズ調整部は、入力画像の被写体を表示領域から実物大で表示するように上記入力画像のサイズを調整する。
上記表示位置決定部は、上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置を決定する。
上記構成によれば、表示領域を鑑賞するユーザが立つと考えられる第1の基底面と表示領域との位置関係に基づいて、被写体の実物大画像を表示することができる。これにより、表示領域から実物大に表示された被写体の実物感を高めることができる。
上記表示位置決定部は、
上記実物大画像から、上記被写体が存する空間の第2の基底面の位置についての情報を取得する第2の基底面情報取得部を有し、
上記第1の基底面の位置と上記実物大画像中の上記第2の基底面の位置とを一致させることが可能に上記表示位置を決定してもよい。
これにより、画像中の第2の基底面と、実際の第1の基底面との位置を一致させ、画像中の空間と実際の空間とが一致しているように感じさせることができる。したがって、被写体の実物感をより高めることができる。
具体的には、第2の基底面情報取得部は、
上記実物大画像に上記第2の基底面が撮像されているか否かを判定する第2の基底面判定部と、
上記実物大画像に上記第2の基底面が撮像されていると判定された場合、上記実物大画像から上記第2の基底面の位置を検出する第2の基底面検出部とを有してもよい。
また、上記画像処理装置は、上記表示領域と上記第1の基底面との距離を検出する第1の基底面検出部を具備し、
上記表示位置決定部は、上記検出された距離に基づいて、上記表示位置を決定してもよい。
これにより、表示領域と上記第1の基底面との距離を自動的に検出することが可能となり、ユーザが当該距離を測定する等の手間を省くことができる。
また、上記表示位置決定部は、
上記実物大画像のうちユーザが注視する領域を検出する注視領域検出部を有し、
上記実物大画像において上記注視領域が上記表示領域から表示されることが可能に上記表示位置を決定してもよい。
これにより、表示位置決定部が、実物大画像の高さ方向のみならず、水平方向等の位置も決定することが可能となる。
また、上記画像処理装置は、上記被写体についての情報を含む上記入力画像の情報を解析する画像情報解析部をさらに具備し、
上記画像サイズ調整部は、上記入力画像の情報に基づいて、上記入力画像のサイズを調整してもよい。
これにより、画像サイズ調整部が、被写体についての情報や入力画像の仕様等に基づいて、円滑かつ精度よく入力画像のサイズを調整することができる。
具体的には、上記画像仕様解析部は、入力画像に記録されたメタデータを取得するメタデータ取得部を有し、
上記画像サイズ調整部は、上記表示領域の仕様と上記メタデータとに基づいて、上記入力画像のサイズを調整してもよい。
あるいは、上記画像仕様解析部は、上記被写体の大きさについての情報を取得する被写体情報取得部を有し、
上記画像サイズ調整部は、上記表示領域の仕様と上記被写体の大きさについての情報とに基づいて、上記入力画像のサイズを調整してもよい。
また、上記画像処理装置は、上記表示領域の仕様を取得する表示領域仕様取得部をさらに具備し、
上記画像サイズ調整部は、上記表示領域の仕様に基づいて、上記入力画像のサイズを調整してもよい。
これにより、画像サイズ調整部が、表示領域の仕様に基づいて円滑かつ精度よく入力画像のサイズを調整することができる。
さらに、上記画像処理装置は、上記決定された表示位置に基づいて、上記実物大画像に対応付けられた音声の出力位置を制御する音声出力制御部をさらに具備してもよい。
これにより、実物大画像の被写体から発せられ得る音声が、表示位置を調整された被写体近傍から発せられるように処理することができる。これにより、実物大画像の被写体が、表示領域の画像を鑑賞する鑑賞者と同じ空間にあるように感じられ、臨場感、実物感をより高めることができる。
本技術の一形態に係る画像処理方法は、入力画像の被写体を表示領域から実物大で表示するように上記入力画像のサイズを調整するステップを含む。
上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置が決定される。
本技術の一形態に係るプログラムは、情報処理装置に、
入力画像の被写体を表示領域から実物大で表示するように上記入力画像のサイズを調整するステップと、
上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置を決定するステップと
を実行させる。
以上のように、本技術によれば、入力画像の被写体の実物大画像を、より実物感を感じさせる位置に表示させることが可能な画像処理装置、画像処理方法及びプログラムを提供することが可能となる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の第1の実施形態に係る画像処理装置のハードウェア構成を示すブロック図である。 上記画像処理装置の機能的構成を示すブロック図である。 上記画像処理装置の動作を示すフローチャートである。 上記画像処理装置の処理に用いられる入力画像の例を示す図である。 上記画像処理装置の表示領域の例を示す図である。 上記画像処理装置の処理に用いられる実物大画像の例を示す図である。 上記画像処理装置の表示領域から出力される出力画像の例を示す図である。 本技術によらず実物大画像を表示した例を示す図であり、Aは表示領域よりも実物大画像の被写体が大きい場合、Bは表示領域よりも実物大画像の被写体が小さい場合の例を示す。 変形例1−1に係る画像処理装置の機能的構成を示すブロック図である。 変形例1−2に係る画像処理装置の機能的構成を示すブロック図である。 変形例1−3に係る画像処理装置の機能的構成を示すブロック図である。 変形例1−4に係る画像処理装置の機能的構成を示すブロック図である。 変形例1−5に係る画像処理装置の機能的構成を示すブロック図である。 変形例1−6に係る画像処理装置の機能的構成を示すブロック図である。 変形例1−7に係る画像処理装置の機能的構成を示すブロック図である。 本技術の第2の実施形態に係る画像処理装置のハードウェア構成を示すブロック図である。 上記画像処理装置の機能的構成を示すブロック図である。 本技術の第3の実施形態に係る画像処理装置の概略構成を示すブロック図である。 上記画像処理装置の機能的構成を示すブロック図である。 本技術の第4の実施形態に係る画像処理装置の概略構成を示すブロック図である。 上記画像処理装置の機能的構成を示すブロック図である。 本技術の第5の実施形態に係る画像処理装置の概略構成を示すブロック図である。 上記画像処理装置の機能的構成を示すブロック図である。 変形例5−1に係る画像処理装置の機能的構成を示すブロック図である。 変形例5−2に係る画像処理装置の機能的構成を示すブロック図である。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
<第1の実施形態>
[画像処理装置のハードウェア構成]
図1は、本技術の第1の実施形態に係る画像処理装置100のハードウェア構成を示すブロック図である。画像処理装置100は、本実施形態において、情報処理装置として構成され得る。画像処理装置100は、具体的には、PC(Personal Computer)、タブレットPC、スマートフォン、タブレット端末等の情報処理装置であってもよい。
同図において、画像処理装置100は、コントローラ11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、入出力インタフェース15、及び、これらを互いに接続するバス14を備える。
コントローラ11は、必要に応じてRAM13等に適宜アクセスし、各種演算処理を行いながら画像処理装置100の各ブロック全体を統括的に制御する。コントローラ11は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等であってもよい。ROM12は、コントローラ11に実行させるOS、プログラムや各種パラメータなどのファームウェアが固定的に記憶されている不揮発性のメモリである。RAM13は、コントローラ11の作業用領域等として用いられ、OS、実行中の各種アプリケーション、処理中の各種データを一時的に保持する。
入出力インタフェース15には、ディスプレイ16、操作受付部17、記憶部18、通信部19等が接続される。なお、入出力インタフェース15は、これらの各要素の他、USB(Universal Serial Bus)端子やIEEE端子等を介して外部周辺機器と接続可能に構成されてもよい。また、入出力インタフェース15には、これら各要素の他、図示しない撮像部等が接続されていてもよい。
ディスプレイ16は、例えばLCD(Liquid Crystal Display)、OLED(Organic Light Emitting Diode)、CRT(Cathode Ray Tube)等を用いた表示デバイスである。なお、ディスプレイ16には、画像が表示される表示領域16aが画定される。
操作受付部17は、例えばマウス等のポインティングデバイス、キーボード、タッチパネル、その他の入力装置である。操作受付部17がタッチパネルである場合、そのタッチパネルはディスプレイ16と一体となり得る。
記憶部18は、例えばHDD(Hard Disk Drive)や、フラッシュメモリ(SSD;Solid State Drive)、その他の固体メモリ等の不揮発性メモリである。当該記憶部18には、上記OSや各種アプリケーション、各種データが記憶される。記憶部18は、また、後述する入力画像や、画像情報、生成した空間フィルタ、生成した出力画像群等を記憶することが可能に構成される。
通信部19は、例えばEthernet(登録商標)用のNIC(Network Interface Card)であり、ネットワークを介した通信処理を担う。
以上のようなハードウェア構成の画像処理装置100は、以下のような機能的構成を有する。
[画像処理装置の機能的構成]
図2は、画像処理装置100の機能的構成を示すブロック図である。同図に示すように、画像処理装置100は、画像取得部101と、画像情報解析部102と、表示領域仕様取得部103と、画像サイズ調整部104と、表示位置決定部105と、出力画像生成部106と、再生部107とを備える。画像処理装置100は、例えば、入力画像を実物大に表示し、かつ、その実物大画像中の地面(後述する第2の基底面)がディスプレイ16の置かれた空間の床面(後述する第1の基底面)と略一致するように実物大画像の表示位置を決定することが可能に構成される。なお、本実施形態において入力画像は、例えば静止画像や、動画の1フレームであってもよい。
画像取得部101は、処理対象の入力画像を取得する。画像取得部101は、例えば、コントローラ11によって実現される。画像取得部101は、例えば、入出力インタフェース15を介して記憶部18に記憶された画像を入力画像として取得する。この入力画像は、例えば、画像処理装置100の図示しない撮像部によって撮像された画像であってもよく、外部の撮像装置等により撮像され画像処理装置100に入力された画像であってもよい。あるいは、入力画像は、ネットワークを介して取得された画像であってもよい。
画像情報解析部102は、被写体についての情報を含む入力画像の情報を解析する。画像情報解析部102は、例えば、コントローラ11によって実現される。画像情報解析部102は、被写体についての情報の解析として、例えば、被写体の領域の検出、被写体の種類の推測、被写体の実際の大きさについての解析等を行うことができる。被写体の種類の推測や被写体の領域の検出は、例えば画像認識技術を適用することができる。また、被写体の実際の大きさは、例えば、推測された被写体の種類から推測することが可能である。画像情報解析部102は、被写体についての情報の他、入力画像の解像度(ピクセル数)に等の入力画像の仕様を取得し、入力画像の情報として解析することができる。
表示領域仕様取得部103は、表示領域16aの仕様を取得する。表示領域仕様取得部103は、例えば、コントローラ11によって実現される。ここでいう「表示領域16aの仕様」とは、表示領域16aが配置されたディスプレイ16の仕様を含むものとする。表示領域仕様取得部103は、表示領域16aの仕様として、例えば、表示領域16aの大きさ、表示領域16aの解像度(ピクセル数)、ピクセルピッチの情報等を取得することができる。また、表示領域16aの下辺から第1の基底面B1までの距離の情報が記憶部18等に記憶されている場合は、当該情報を取得することができる。
画像サイズ調整部104は、入力画像の被写体を表示領域16aから実物大で表示するように入力画像のサイズを調整する。画像サイズ調整部104は、例えば、コントローラ11によって実現される。画像サイズ調整部104は、具体的には、取得された表示領域16aの仕様と入力画像の情報とに基づいて、被写体が表示領域16aから実物大で表示されるように入力画像を拡大又は縮小し、入力画像のサイズを調整する。これにより、被写体が表示領域16aから実物大(等身大)で表示されるように入力画像を拡大又は縮小した実物大画像が生成され得る。サイズ調整の方法は特に限定されない。
表示位置決定部105は、表示領域16aが存する空間の第1の基底面と表示領域16aとの位置関係に基づいて、入力画像のサイズが調整された実物大画像の、表示領域16aにおける表示位置を決定する。表示位置決定部105は、例えば、コントローラ11によって実現される。ここで、「表示領域16aが存する空間」とは、表示領域16aを備えたディスプレイ16が配置された屋内又は屋外の空間をいう。「第1の基底面」とは、当該空間が屋内の場合には床面、当該空間が屋外の場合には地面をいうものとする。表示位置決定部105は、少なくとも高さ方向の表示位置を決定すればよい。表示位置決定部105によれば、被写体の実物感を高めるように、実物大画像の表示領域16a中の表示位置を調整することができる。
表示位置決定部105は、例えば、実物大画像が表示領域16aよりも大きい場合、表示領域16aから表示される実物大画像の表示する領域を決定する。あるいは、表示位置決定部105は、実物大画像が表示領域16aよりも小さい場合、当該実物大画像が表示される表示領域16a中の位置を決定する。
表示位置決定部105の第1の基底面と表示領域16aとの位置関係の取得方法は特に限定されない。例えば、表示位置決定部105は、表示領域16aの仕様として予め記憶され、表示領域仕様取得部103により取得された表示領域16aの下辺から第1の基底面までの距離の情報を用いることができる
表示位置決定部105は、本実施形態において、第2の基底面情報取得部105aを有し、第1の基底面の位置と実物大画像中の第2の基底面の位置とを一致させることが可能に表示位置を決定する。「第2の基底面」とは、被写体が存する空間の基底面であり、当該空間が屋内の場合には床面、当該空間が屋外の場合には地面をいうものとする。「被写体が存する空間」とは、入力画像中の被写体が撮像時に存在していたと推測される屋内又は屋外の空間をいうものとする。表示位置決定部105は、表示位置の決定に際し、画像情報解析部102により解析された入力画像の情報や、表示領域仕様取得部103により取得された表示領域16aの仕様等を用いることができる。表示位置の具体的な決定方法の例については、後述する。
第2の基底面情報取得部105aは、実物大画像から、被写体が存する空間の第2の基底面の位置についての情報を取得する。第2の基底面情報取得部105aは、具体的には、画像認識技術等により、実物大画像中に当該第2の基底面が写っているか否かを判定し、第2の基底面が写っていると判定した場合は、実物大画像中の第2の基底面の座標位置を検出する。第2の基底面の位置は、例えば、表示領域16aの下辺と平行な直線として検出することができる。また、第2の基底面が広がりを持つ領域として検出された場合には、第2の基底面の位置として、第2の基底面の領域中の被写体が配置されているラインを規定してもよい。また第2の基底面情報取得部105aは、第2の基底面が写っていないと判定した場合は、消失点・消失線の情報を参照して第2の基底面の座標位置を推測することもできる。
なお、表示位置決定部105は、本実施形態において、実物大画像の高さ方向の表示位置のみ決定することができる。水平方向の表示位置の決定方法については特に限定されない。
出力画像生成部106は、決定された表示位置に基づいて、実物大画像の少なくとも一部を含む出力画像を生成する。出力画像生成部106は、例えば、コントローラ11によって実現される。出力画像生成部106は、出力画像を画像信号として生成し、当該画像信号を再生部107へ出力する。
再生部107は、上記出力画像を再生する。再生部107は、例えば、ディスプレイ16によって実現される。
[画像処理装置の動作例]
図3は、画像処理装置100の動作を示すフローチャートである。ここでは、実物大画像が表示領域16aよりも大きい場合について説明するが、小さい場合も同様に処理することができる。
まず、画像取得部101が、入出力インタフェース15を介して処理対象の入力画像を取得する(ST31)。処理対象の入力画像は、例えば、図示しない撮像装置等により撮像された1枚の静止画像とするが、動画の1フレームとしてもよい。
図4は、入力画像Giの例を示す図である。ここでは、被写体を車Cとして処理を行うこととする。なお、図中のx軸方向は幅方向(水平方向)、y軸方向はx軸方向と直交する高さ方向(上下方向)を示す。
続いて、画像情報解析部102が、車(被写体)Cについての情報を含む入力画像の情報を解析する(ST32)。画像情報解析部102は、被写体についての情報の解析として、例えば、被写体の領域の検出や、被写体の種類の推測、あるいは被写体の実際の大きさ等についての解析を行う。また画像情報解析部102は、入力画像の解像度(ピクセル数)等の入力画像の仕様についても解析する。
続いて、表示領域仕様取得部103が、表示領域16aの仕様、例えば、表示領域16aの大きさ、表示領域16aの解像度(ピクセル数)、ピクセルピッチ、表示領域16aの下辺から第1の基底面B1までの距離等を取得する(ST33)。
図5は、表示領域16aの例を示す図である。例えば、表示領域16aの幅はWd(mm)、高さはHd(mm)と表し、ピクセル数では、幅はPwd(pixel)、高さはPhd(pixel)と表すことができる。また、表示領域16aの下辺から第1の基底面B1までの距離(高さ)はHe(mm)、と表すことができる。なお、同図中の符号B1は、第1の基底面を示すラインである。また、X軸方向は幅方向(水平方向)、Y軸方向はX軸方向と直交する高さ方向(上下方向)を示す。
続いて、画像サイズ調整部104が、入力画像Giの車Cを表示領域16aから実物大で表示するように入力画像Giのサイズを調整する(ST34)。
図6は、実物大画像Grの例を示す図である。画像サイズ調整部104は、表示領域16aのピクセルピッチpp(mm/pixel)の情報から、被写体Cが実物大で表示されるように、実物大画像Grの幅(Pwr(pixel))及び高さ(Phr(pixel))のピクセル数を決定する。ピクセルピッチは、ディスプレイ16固有の値であるディスプレイ16(表示領域16a)の解像度と表示領域16aのサイズの情報から算出され得る。図6において、実物大画像Grの幅をWr(mm)、高さをHr(mm)と表し、ピクセル数では、幅はPwr(pixel)、高さはPhr(pixel)と表すものとすると、以下の式(1)、(2)の関係が成り立っている。
Wr(mm)=Pwr(pixel)×pp(mm/pixel)…(1)
Hr(mm)=Phr(pixel)×pp(mm/pixel)…(2)
続いて、表示位置決定部105が、表示領域16aが存する空間の第1の基底面B1と表示領域16aとの位置関係に基づいて、入力画像のサイズが調整された実物大画像の、表示領域16aにおける表示位置を決定する(ST35)。
図6を参照し、本ステップにおいてまず、第2の基底面情報取得部105aが、実物大画像Grから、被写体Cが存する空間の第2の基底面B2の位置についての情報を取得し、第2の基底面の入力画像中の座標位置を検出する(ST35−1)。同図の例では、例えば、車Cの前輪のタイヤが位置するラインを第2の基底面B2の位置として検出することができる。第2の基底面情報取得部105aは、第2の基底面B2の座標位置を、実物大画像Grの下辺に平行な直線として検出することができる。同図の例では、第2の基底面B2は、y=B(Bは定数)と表される。
次に、表示位置決定部105が、第1の基底面の位置と実物大画像中の第2の基底面B2の位置とを一致させることが可能に表示位置を決定する(ST35−2)。本動作例では、図6に示す、第2の基底面B2からHe(mm)の高さのラインLを検出し、このラインLを表示領域16aの下辺と一致させるようにすることで、第1の基底面B1の位置と実物大画像中の第2の基底面B2の位置とを一致させることが可能となる。具体的には、以下のように表示位置を決定する。
すなわち、図5及び図6を参照し、表示位置決定部105は、表示領域仕様取得部103により取得されたHe(mm)に対応するY方向のピクセル数Phe(pixel)を算出する。Phe(pixel)は、以下のように表すことができる。
Phe(pixel)=He(mm)/pp(mm/pixel)…(3)
これにより、表示位置決定部105は、実物大画像Grにおける第2の基底面B2の位置からPhe(pixel)だけ上部のラインLの位置を検出することができる。
そして、出力画像生成部106が、決定された表示位置に基づいて、実物大画像Grの少なくとも一部を含む出力画像Guを生成する(ST36)。出力画像Guは、図6に示す実物大画像GrのラインLが表示領域16aの下辺に一致するように表示された画像となり得る。そして、図7に示すように、出力画像Guが、再生部107により表示領域16aから表示される。
以上より、本実施形態によれば、実物大画像中の地面又は床面のラインと、表示領域16aを含むディスプレイ16が配置された空間の地面又は床面のラインとを一致させることができる。これにより、ユーザに対し、実物大画像の被写体を、ディスプレイ16の画像を鑑賞する鑑賞者と同じ空間にあるように感じさせることができ、実物感を高めることができる。以下、図を用いて、本技術の作用効果をより詳細に説明する。
図8は、本技術によらず実物大画像を表示した例を示す図であり、Aは表示領域16bよりも実物大画像の被写体Cが大きい場合、Bは表示領域16cよりも実物大画像の被写体Cが小さい場合の例を示す。
図8Aを参照し、被写体Cが表示領域16bよりも大きい場合は、被写体Cの一部のみが表示領域16b中に表示されることとなり、例えば、ユーザが注視する頻度が高い注視領域が表示されることが考えられる。そこで、同図に示すように、例えば被写体Cのフロントフェイス部分が注視領域になり得る。
しかしながら、図8Aの画像をユーザが鑑賞する場合は、被写体Cの大きさは実物大であったとしても、高さ方向に浮いているように感じられるため、実物がユーザと同一の空間に配置されている感覚、すなわち実物感が感じられない。また、ユーザ自身が、上述の第2の基底面に対応する位置を考慮して入力操作等により高さ方向の表示位置を調整しようとする場合も、当該位置とユーザが立つ空間とを一致させることは難しい。
一方、図8Bを参照し、被写体Cが表示領域16cよりも小さい場合は、実物大画像の全体が表示領域16c中に表示されることとなる。この場合も、実物大画像を表示領域16c中のどの位置に表示するか規定する必要が生じる。そこで同図に示すように、例えば、実物大画像の中心と表示領域16cの中心とを一致させる方法が考えられる。
しかしながら、ユーザが図8Bの画像を鑑賞する場合も、やはり高さ方向に浮いているように感じられるため実物感が感じられず、また表示位置の調整も煩わしい。
それに対し、本実施形態によれば、図7を参照し、実物大画像Grの被写体Cについて、自動的に高さ方向の位置を調整し、かつ、実物大画像Gr中の地面又は床面のラインと、表示領域16aを含むディスプレイ16が配置された空間の地面又は床面のラインとを一致させることができる。したがって、ユーザ自身の調整の煩わしさを排除し、より実物感のある画像を提供することが可能となる。
[変形例1−1]
図9は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、表示位置決定部105が、第2の基底面情報取得部105aを有しない構成であってもよい。この場合は、例えば、実物大画像の下辺を第2の基底面とみなして、上述の実施形態と同様に処理を行うことができる。あるいは、ユーザ自身が目視にて確認した第2の基底面の位置を入力可能な構成としてもよい。これにより、装置構成を簡略にしつつ、実物感のある画像を提供することができる。
[変形例1−2]
図10は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、第2の基底面情報取得部105aが、第2の基底面判定部105bと、第2の基底面検出部105cとを有していてもよい。
第2の基底面判定部105bは、実物大画像に第2の基底面が撮像されているか否かを判定する。判定方法は特に限定されず、例えば、実物大画像において、コントラスト、色、空間周波数といった画像特徴量に地面(又は床面)特有の傾向が見られるか否かを検出する手法や、実物大画像に明示的な地平線・水平線が撮像されているか否かを検出する手法等が挙げられる。画像特徴量に基づいて検出する手法は、より具体的には、実物大画像の下部において茶色や灰色の領域を検出した場合、第2の基底面が撮像されていると判定する。地平線・水平線について検出する手法は、地平線・水平線が検出された場合、第2の基底面が撮像されていると判定し、地平線・水平線より下を地面とみなすものである。
第2の基底面検出部105cは、第2の基底面判定部105bにて第2の基底面が撮像されていると判定された場合、実物大画像から第2の基底面の位置を検出する。検出された位置は、第2の基底面が検出された領域の形状をX座標とY座標とを組み合わせて2次元的に表現してもよい。あるいは、第2の基底面が検出された領域のうちの最も下部のY座標のみで直線的に表現してもよい。
これにより、第2の基底面をより精度よく検出することが可能となる。
[変形例1−3]
図11は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、画像情報解析部102は、メタデータ取得部102aと、被写体情報取得部102bとをさらに有していてもよい。
メタデータ取得部102aは、入力画像に記録されるメタデータを参照し、画像の解像度、撮像時のカメラパラメータ、撮像時の位置情報等を取得する。メタデータとしては、例えば、exchangeable image file format(exif)を用いることができる。また、カメラパラメータとしては、例えば、焦点距離、画角、撮像装置から被写体までの距離等を挙げることができる。
被写体情報取得部102bは、被写体の大きさについての情報を取得する。被写体情報取得部102bは、例えば、上記の画角、撮像装置から被写体までの距離等の情報から幾何的に被写体の大きさを算出してもよいし、メタデータ内に記録される被写体の情報等を参照してもよい。
これにより、画像サイズ調整部104は、表示領域16aの仕様、メタデータ及び被写体の大きさについての情報に基づいて、入力画像のサイズを調整することができる。したがって、被写体の大きさを精度よく検出することができ、入力画像のサイズ調整を円滑かつ精度よく行うことができる。
なお、図示はしないが、画像情報解析部102は、メタデータ取得部102aを有さず、被写体情報取得部102bのみを有していてもよい。この場合、被写体情報取得部102bは、撮像時に被写体の大きさを測定した測定値の情報を取得することもできる。当該情報は、入力画像と対応付けて記憶部18に記憶されていてもよい。
[変形例1−4]
図12は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、画像処理装置100は、第1の基底面検出部108をさらに備えてもよい。
第1の基底面検出部108は、表示領域16aと第1の基底面との距離を検出し、例えば、図5のHe(mm)を検出することができる。検出方法は特に限定されず、例えば、表示領域16a近傍から第1の基底面に向けて超音波やレーザ光等を照射することにより当該距離を計測してもよい。あるいは、ディスプレイ16を支持する支持具(スタンド)等の仕様が記憶部18等に記憶されている場合には、第1の基底面検出部108は、この仕様から上記距離を算出することも可能である。
表示位置決定部105は、検出された表示領域16aと第1の基底面との距離に基づいて、表示位置を決定することができる。
これにより、上記距離を自動的に検出することができるため、ユーザが入力する手間等を省くことができる。
[変形例1−5]
図13は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、表示位置決定部105は、注視領域検出部105dをさらに有していてもよい。上述の第1の実施形態では、実物大画像の高さ方向の表示位置を決定したが、水平方向の表示位置については特に言及していない。本変形例によれば、水平方向の表示位置についても決定することが可能となる。
注視領域検出部105dは、実物大画像のうちユーザが注視する領域を検出する。注視領域の検出方法は特に限定されず、例えば、画像認識技術により特徴的な被写体の領域を抽出し、当該領域を人が視線を向けると思われる領域と推定することができる。例えば、図6の実物大画像Grの場合は、車Cのフロントガラス部分を注視領域と検出することができる。
表示位置決定部105は、実物大画像において注視領域が表示領域16aから表示されることが可能に表示位置を決定することができる。これにより、よりユーザが見たい領域を表示し、かつ実物感の高い画像を提供することができ、ユーザニーズに応えることができる。
[変形例1−6]
図14は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、表示位置決定部105は、ユーザ設定部105eを有していてもよい。本変形例によっても、水平方向の表示位置について決定することが可能となる。
ユーザ設定部105eは、ユーザが操作受付部17等により入力した実物大画像の表示位置を取得することができる。
これにより、表示位置決定部105は、上記入力された表示位置に基づいて、表示位置を調整することができる。したがって、ユーザが特定の領域を見たい場合にユーザの嗜好を反映した表示位置とすることができ、ユーザニーズに応えることができる。
[変形例1−7]
図15は、本変形例に係る画像処理装置100の機能的構成を示すブロック図である。同図に示すように、画像処理装置100は、画像情報解析部102と、表示領域仕様取得部103とを有さず、画像取得部101と、画像サイズ調整部104と、表示位置決定部105と、出力画像生成部106と、再生部107とを備えていてもよい。
この場合は、画像サイズ調整部104は、ユーザが操作受付部17等により入力した、被写体の大きさ、入力画像の情報、及び表示領域16aの仕様等に基づいて、入力画像のサイズを調整することができる。これによっても、実物感の高い画像を提供することができる。
[変形例1−8]
上述の第1の実施形態においては、画像サイズ調整部104が入力画像を拡大又は縮小し、実物大画像を生成すると説明したが、これに限定されない。例えば、画像サイズ調整部104は、実物大画像そのものを生成せず、拡大率又は縮小率を算出する構成であってもよい。この場合、表示位置決定部105は、当該拡大率又は縮小率に基づいて実物大画像を想定し、表示位置を決定することができ、出力画像生成部106は、上記拡大率又は縮小率と決定された表示位置とに基づいて、入力画像から出力画像を生成することができる。したがって、上述と同様の処理を行うことができる。
また、本変形例において、第2の基底面情報取得部105aは、入力画像から被写体が存する空間の第2の基底面の位置についての情報を取得し、上記拡大率又は縮小率を鑑みて実物大画像における第2の基底面の位置についての情報を取得することができる。さらに、第2の基底面情報取得部105aが第2の基底面判定部105bを有する場合は、入力画像に第2の基底面が撮像されているか否かを判定することで、実物大画像に撮像されているか否かを判定することができる。第2の基底面検出部105cについても同様に、実物大画像に第2の基底面が撮像されていると判定された場合、入力画像から第2の基底面の位置を検出して、実物大画像における第2の基底面の位置を算出することができる。
[変形例1−9]
上述の第1の実施形態では、被写体が一つの場合を例に挙げて説明したが、被写体が複数であってもよい。例えば、画像情報解析部102は、検出された被写体が複数ある場合は、最も多くの領域を占める被写体に着目してもよいし、あるいは最も手前側(奥行きが浅い位置)にあると推測される被写体に着目してもよい。
[変形例1−10]
上述の第1の実施形態では、表示位置決定部105は、表示領域16aの仕様として予め記憶された情報を用いて第1の基底面と表示領域16aとの距離の情報を取得すると説明したが、これに限定されない。例えば、表示位置決定部105は、ユーザにより測定され、入力された表示領域16aから第1の基底面までの距離の情報を用いることができる。
また、表示領域16aから第1の基底面までの距離は、表示領域16a下辺から第1の基底面までの距離であると説明したが、表示領域16aのサイズが既知の場合には、表示領域16a上辺から第1の基底面までの距離、又は表示領域16a中心から第1の基底面までの距離等から、表示領域16a下辺から第1の基底面までの距離を算出してもよい。
[変形例1−11]
上述の第1の実施形態では、入力画像が静止画像として説明したが、動画であってもよい。この場合は、動画の各フレーム毎に上述の処理を行い、表示位置を調整してもよい。あるいは、連続する複数フレーム間で第2の基底面が大きく変わらないと想定される場合は、初めの1フレームにおいて上述の処理を行い、後のフレームでは当該1フレームと同じ表示位置で連続的に再生するように処理してもよい。また、連続する複数フレームの間で画像特徴量等が大きく変化していること等が検出され、被写体が変化していると想定される場合には、当該変化が大きいフレームに対してのみ上述の処理を行ってもよい。
<第2の実施形態>
[画像処理装置のハードウェア構成]
図16は、本技術の第2の実施形態に係る画像処理装置200のハードウェア構成を示すブロック図である。画像処理装置200は、第1の実施形態と同様に、情報処理装置として構成されることができ、具体的には、PC、タブレットPC、スマートフォン、タブレット端末等の情報処理装置であってもよい。なお、以下の説明において、第1の実施形態と同様の構成については、同一の符号を付してその説明を省略する。
画像処理装置200は、画像処理装置100の構成に加え、さらに、表示位置に応じて入力画像に対応付けられた音声が出力する位置を決定することが可能に構成される。
すなわち、画像処理装置200は、コントローラ21、ROM22、RAM23、入出力インタフェース25、及び、これらを互いに接続するバス24を備える。さらに、入出力インタフェース25には、操作受付部27、記憶部28、通信部29の他、スピーカ210が接続される。コントローラ21、ROM22、RAM23、バス24、入出力インタフェース25、ディスプレイ26、操作受付部27、記憶部28、及び通信部29は、それぞれ、コントローラ11、ROM12、RAM13、バス14、入出力インタフェース15、操作受付部17、記憶部18、及び通信部19と同様の構成であるため、その説明を省略する。なお、ディスプレイ26には、表示領域16aと同様の表示領域26aが画定される。
スピーカ210は、音声を出力することが可能に構成される。スピーカ210は、例えば、ディスプレイ26の内部に配置された複数の小スピーカを含んでいてもよい。これらの小スピーカは、画素毎、あるいは複数画素を含む所定の単位領域毎に配置され得る。また、スピーカ210は、例えば、ディスプレイ26の裏面や周縁を移動可能な一つのスピーカであってもよい。この場合スピーカ210は、スピーカ本体と、移動機構とを含む構成となり得る。
[画像処理装置の機能的構成]
図17は、画像処理装置2の機能的構成を示すブロック図である。同図に示すように、画像処理装置2は、画像取得部101と、画像情報解析部102と、表示領域仕様取得部103と、画像サイズ調整部104と、表示位置決定部105と、出力画像生成部106と、再生部207と、さらに音声出力制御部209とを備える。
音声出力制御部209は、決定された表示位置に基づいて、実物大画像に対応付けられた音声の出力位置を制御する。音声出力制御部209は、例えば、コントローラ21により実現される。音声出力制御部209は、具体的には、実物大画像(入力画像)の被写体中に当該音声が出力されると推測される領域があった場合、表示位置が調整された当該領域の近傍から音声が出力されるようにスピーカ210を制御する。より具体的には、音声出力制御部209は、実物大画像の被写体が車であった場合(図6等参照)、実物大画像に対応付けられた車のエンジン音の音声を、表示位置が決定された当該車のフロント部分近傍から発せられるように制御することができる。なお、「実物大画像に対応付けられた音声」とは、典型的には、入力画像の撮像時に録音された音声とすることができるが、入力画像中の被写体から発せられると推測される音声であってもよい。
音声出力制御部209は、例えば、スピーカ210がディスプレイ26内部に配置されている場合は、音声が出力されると推測される領域に対応する画素又は単位領域に配置された小スピーカから音声が出力されるようにスピーカ210を制御する。あるいは、スピーカ210が移動可能に構成される場合は、音声が発せられると推測される領域に近い位置にスピーカ210を移動させ、音声を出力するようにスピーカ210を制御する。
再生部207は、出力画像を表示し、かつ制御された音声を出力する。再生部207は、例えば、ディスプレイ26及びスピーカ210により実現される。
本実施形態によれば、実物大画像中の地面又は床面のラインと、表示領域26aを含むディスプレイ26が配置された空間の地面又は床面のラインとを一致させ、かつ、実物大画像の被写体から発せられ得る音声が、表示位置を調整された被写体近傍から発せられるように処理することができる。これにより、実物大画像の被写体が、ディスプレイ26の画像を鑑賞する鑑賞者と同じ空間にあるように感じられ、臨場感、実物感をより高めることができる。
<第3の実施形態>
[画像処理システムの概略構成]
図18は、本技術の第3の実施形態に係る画像処理システム3の概略構成を示すブロック図である。同図において、画像処理システム3は、画像処理装置300と、再生装置360とを備える。画像処理装置300及び再生装置360は、有線又は無線により相互に接続されている。再生装置360は、例えばディスプレイ装置、プロジェクタ装置、ウェアラブル端末、PC、タブレットPC、スマートフォン、タブレット端末等の画像表示が可能な装置として構成され、表示領域360aを有する。画像処理装置300は、例えばPC、タブレットPC、スマートフォン、タブレット端末等の情報処理装置として構成され得る。なお、画像処理装置300のハードウェア構成は、画像処理装置100のハードウェア構成と同様であるため、説明を省略する。
画像処理システム3は、以下のような動作が可能に構成される。すなわち、再生装置360から送信された入力画像及び表示領域の仕様を用いて、画像処理装置300が画像情報の解析等や、入力画像のサイズ調整及び表示位置の調整を行い、出力画像を生成する。そして、画像処理装置300が、生成された出力画像を再生装置360へ送信し、再生装置360が、これらに基づく出力画像を表示する。
[画像処理システムの機能的構成]
図19は、画像処理システム3の機能的構成を示すブロック図である。同図に示すように、画像処理システム3は、画像取得部301と、画像情報解析部302と、表示領域仕様取得部303と、画像サイズ調整部304と、表示位置決定部305と、出力画像生成部306と、再生部307とを備える。このうち画像処理装置300は、画像取得部301と、画像情報解析部302と、画像サイズ調整部304と、表示位置決定部305と、出力画像生成部306とを備える。再生装置360は、表示領域仕様取得部303と、再生部307を備える。
上記各要素は、画像処理装置100の画像取得部101と、画像情報解析部102と、表示領域仕様取得部103と、画像サイズ調整部104と、表示位置決定部105と、出力画像生成部106と、再生部107と同様の構成を有する。すなわち、画像取得部301は、処理対象の入力画像を取得する。画像情報解析部302は、被写体についての情報を含む入力画像の情報を解析する。表示領域仕様取得部303は、表示領域360aの仕様を取得する。画像サイズ調整部304は、入力画像の被写体を表示領域360aから実物大で表示するように入力画像のサイズを調整する。表示位置決定部305は、表示領域が存する空間の第1の基底面と表示領域360aとの位置関係に基づいて、入力画像のサイズが調整された実物大画像の、表示領域360aにおける表示位置を決定する。出力画像生成部306は、決定された表示位置に基づいて、実物大画像の少なくとも一部を含む出力画像を生成する。再生部307は、出力画像を表示領域360aから再生する。
再生装置360は、入力画像や、表示領域仕様取得部303により取得された表示領域360aの仕様についての情報を、画像処理装置300に送信することができる。画像処理装置300は、これらの入力画像や表示領域360aの仕様についての情報を記憶部38等に記憶し、処理に用いることができる。
画像処理装置300は、出力画像生成部306により生成された出力画像を、再生装置360へ送信する。これにより、再生装置360の再生部307が、出力画像を表示領域360aから表示することが可能となる。
以上のような構成の画像処理装置300であっても、画像処理装置100と同様に、ユーザに対し、実物大画像の被写体を、再生装置360の画像を鑑賞する鑑賞者と同じ空間にあるように感じさせることができ、実物感をより感じさせることができる。
[変形例3−1]
画像処理システム3は、後述する画像処理システム5と同様のクラウドシステムであり、画像処理装置300と再生装置360が、ネットワークを介して相互に接続されていてもよい。この場合、画像処理装置300は、サーバ装置(情報処理装置)として構成され、再生装置360は、例えばPC、タブレットPC、スマートフォン、タブレット端末等のユーザ端末として構成されてもよい。
<第4の実施形態>
[画像処理システムの概略構成]
図20は、本技術の第4の実施形態に係る画像処理システム4の概略構成を示すブロック図である。同図において、画像処理システム4は、画像処理装置400と、再生装置460とを備える。画像処理装置400及び再生装置460は、有線又は無線により相互に接続されている。再生装置460は、例えばディスプレイ装置、プロジェクタ装置、ウェアラブル端末、PC、タブレットPC、スマートフォン、タブレット端末等の画像表示が可能な装置として構成され、表示領域460aを有する。画像処理装置400は、例えばPC、タブレットPC、スマートフォン、タブレット端末等の情報処理装置として構成され得る。なお、画像処理装置400のハードウェア構成は、画像処理装置100のハードウェア構成と同様であるため、説明を省略する。
画像処理システム4は、以下のような動作が可能に構成される。すなわち、再生装置460から送信された入力画像及び表示領域460aの仕様を用いて、画像処理装置400が画像情報の解析や、入力画像のサイズ調整及び表示位置の調整を行う。そして、画像処理装置400が、実物大画像及び調整された表示位置等を再生装置460へ送信し、再生装置460が、これらに基づく出力画像を生成し、表示する。
[画像処理システムの機能的構成]
図21は、画像処理システム4の機能的構成を示すブロック図である。同図に示すように、画像処理システム4は、画像取得部401と、画像情報解析部402と、表示領域仕様取得部403と、画像サイズ調整部404と、表示位置決定部405と、出力画像生成部406と、再生部407とを備える。このうち画像処理装置400は、画像取得部401と、画像情報解析部402と、画像サイズ調整部404と、表示位置決定部405とを備える。再生装置460は、表示領域仕様取得部403と、出力画像生成部406と、再生部407を備える。
上記各要素は、画像処理装置100の画像取得部101と、画像情報解析部102と、表示領域仕様取得部103と、画像サイズ調整部104と、表示位置決定部105と、出力画像生成部106と、再生部107と同様の構成を有する。すなわち、画像取得部401は、処理対象の入力画像を取得する。画像情報解析部402は、被写体についての情報を含む入力画像の情報を解析する。表示領域仕様取得部403は、表示領域460aの仕様を取得する。画像サイズ調整部404は、入力画像の被写体を表示領域460aから実物大で表示するように入力画像のサイズを調整する。表示位置決定部405は、表示領域460aが存する空間の第1の基底面と表示領域460aとの位置関係に基づいて、入力画像のサイズが調整された実物大画像の、表示領域460aにおける表示位置を決定する。出力画像生成部406は、決定された表示位置に基づいて、実物大画像の少なくとも一部を含む出力画像を生成する。再生部407は、出力画像を表示領域460aから再生する。
再生装置460は、入力画像や、表示領域仕様取得部403により取得された表示領域460aの仕様についての情報を、画像処理装置400に送信することができる。画像処理装置400は、これらの入力画像や表示領域460aの仕様についての情報を記憶し、処理に用いることができる。
画像処理装置400は、実物大画像と、表示位置決定部405により決定された表示位置の情報とを、再生装置460へ送信する。これにより、再生装置460の出力画像生成部406が、実物大画像と表示位置の情報とに基づいて出力画像を生成し、再生部407が、当該出力画像を表示領域460aから表示することが可能となる。
以上のような構成の画像処理装置400であっても、画像処理装置100と同様に、ユーザに対し、実物大画像の被写体を、再生装置460の画像を鑑賞する鑑賞者と同じ空間にあるように感じさせることができ、実物感をより感じさせることができる。
[変形例4−1]
画像処理装置400は、実物大画像と、表示位置の情報とを送信する構成に限定されず、例えば、入力画像の画像の拡大率又は縮小率についての情報と、表示位置の情報とを送信する構成であってもよい。これによっても、再生装置460の出力画像生成部406が出力画像を生成することが可能となる。
[変形例4−2]
画像処理システム4は、後述する画像処理システム5と同様のクラウドシステムであり、画像処理装置400と再生装置460が、ネットワークを介して相互に接続されていてもよい。この場合、画像処理装置400は、サーバ装置(情報処理装置)として構成され、再生装置360は、例えばPC、タブレットPC、スマートフォン、タブレット端末等のユーザ端末として構成されてもよい。
<第5の実施形態>
[画像処理システムの概略構成]
図22は、本技術の第5の実施形態に係る画像処理システム5の概略構成を示すブロック図である。同図において、画像処理システム5は、クラウドシステムであり、画像処理装置500と、再生装置560とを備える。画像処理装置500及び再生装置560は、ネットワークNを介して相互に接続されている。再生装置560は、ユーザ端末として構成され、表示領域560aを有する。画像処理装置500は、例えばネットワークN上のサーバ装置(情報処理装置)として構成される。なお、画像処理装置500及び再生装置560のハードウェア構成は、いずれも画像処理装置100のハードウェア構成と同様であるため、説明を省略する。
画像処理システム5は、以下のような動作が可能に構成される。すなわち、再生装置560が、入力画像の解析及び表示領域の仕様の取得等を行い、これらの情報を画像処理装置500に送信する。そして、画像処理装置500がこれらの情報に基づいて入力画像のサイズ調整及び表示位置の調整を行い、出力画像を生成する。そして、画像処理装置500が、生成された出力画像を再生装置560へ送信し、再生装置560が、これらに基づく出力画像を表示する。
[画像処理システムの機能的構成]
図23は、画像処理システム5の機能的構成を示すブロック図である。同図に示すように、画像処理システム5は、画像取得部501と、画像情報解析部502と、表示領域仕様取得部503と、画像サイズ調整部504と、表示位置決定部505と、出力画像生成部506と、再生部507とを備える。このうち画像処理装置500は、画像取得部501と、画像サイズ調整部504と、表示位置決定部505と、出力画像生成部506とを備える。再生装置560は、画像情報解析部502と、表示領域仕様取得部503と、再生部507とを備える。
上記各要素は、画像処理装置100の画像取得部101と、画像情報解析部102と、表示領域仕様取得部103と、画像サイズ調整部104と、表示位置決定部105と、出力画像生成部106と、再生部107と同様の構成を有する。すなわち、画像取得部501は、処理対象の入力画像を取得する。画像情報解析部502は、被写体についての情報を含む入力画像の情報を解析する。表示領域仕様取得部503は、表示領域560aの仕様を取得する。画像サイズ調整部504は、入力画像の被写体を表示領域560aから実物大で表示するよう入力画像のサイズを調整する。表示位置決定部505は、表示領域560aが存する空間の第1の基底面と表示領域560aとの位置関係に基づいて、入力画像のサイズが調整された実物大画像の、表示領域560aにおける表示位置を決定する。出力画像生成部506は、決定された表示領域560aに基づいて、実物大画像の少なくとも一部を含む出力画像を生成する。再生部507は、表示位置が決定された実物大画像の少なくとも一部を、出力画像として表示する。
再生装置560は、画像情報解析部502により解析された入力画像の情報と、表示領域仕様取得部503により取得された表示領域560aの仕様とを、入力画像とともに画像処理装置500に送信する。これにより、画像処理装置500は、これらの入力画像の情報及び表示領域560aの仕様に基づいて、入力画像のサイズ調整、及び表示位置の決定を行うことができる。
画像処理装置500は、出力画像生成部506により生成された出力画像を、再生装置560へ送信する。これにより、再生装置560の再生部507が、出力画像を表示領域560aから表示することが可能となる。
以上のような構成の画像処理装置500であっても、画像処理装置100と同様に、ユーザに対し、実物大画像の被写体を、ディスプレイの画像を鑑賞する鑑賞者と同じ空間にあるように感じさせることができ、実物感をより感じさせることができる。
[変形例5−1]
図24に示すように、画像処理装置500は、画像取得部501と、画像サイズ調整部504と、表示位置決定部505とを備え、再生装置560は、画像情報解析部502と、表示領域仕様取得部503と、出力画像生成部506と、再生部507とを備えてもよい。これにより、画像処理装置500は、第4の実施形態と同様に、実物大画像と、表示位置決定部505により決定された表示位置の情報とを、再生装置560へ送信する。したがって、再生装置560の出力画像生成部506が、実物大画像と表示位置の情報とに基づいて出力画像を生成し、再生部507が、当該出力画像を表示領域560aから表示することが可能となる。
[変形例5−2]
図25に示すように、画像処理装置500は、画像サイズ調整部504と、表示位置決定部505と、出力画像生成部506とを備え、画像取得部501を備えない構成であってもよい。これにより、画像処理装置500は、入力画像を用いずに、画像情報解析部502により解析された画像情報に基づいて処理を行うことができる。
さらに、本発明は上述の実施形態にのみ限定されるものではなく、本開示の要旨を逸脱しない範囲内において種々変更され得る。また、上述の第1〜第5の各実施形態及び各変形例は、矛盾が生じない限り如何様にも組み合わされて実行され得る。
なお、本技術は以下のような構成もとることができる。
(1)入力画像の被写体を表示領域から実物大で表示するように上記入力画像のサイズを調整する画像サイズ調整部と、
上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置を決定する表示位置決定部と
を具備する画像処理装置。
(2)上記(1)に記載の画像処理装置であって、
上記表示位置決定部は、
上記実物大画像から、上記被写体が存する空間の第2の基底面の位置についての情報を取得する第2の基底面情報取得部を有し、
上記第1の基底面の位置と上記実物大画像中の上記第2の基底面の位置とを一致させることが可能に上記表示位置を決定する
画像処理装置。
(3)上記(2)に記載の画像処理装置であって、
上記第2の基底面情報取得部は、
上記実物大画像に上記第2の基底面が撮像されているか否かを判定する第2の基底面判定部と、
上記実物大画像に上記第2の基底面が撮像されていると判定された場合、上記実物大画像から上記第2の基底面の位置を検出する第2の基底面検出部とを有する
画像処理装置。
(4)上記(1)から(3)のうちいずれか1つに記載の画像処理装置であって、
上記表示領域と上記第1の基底面との距離を検出する第1の基底面検出部を具備し、
上記表示位置決定部は、上記検出された距離に基づいて、上記表示位置を決定する
画像処理装置。
(5)上記(1)から(4)のうちいずれか1つに記載の画像処理装置であって、
上記表示位置決定部は、
上記実物大画像のうちユーザが注視する領域を検出する注視領域検出部を有し、
上記実物大画像において上記注視領域が上記表示領域から表示されることが可能に上記表示位置を決定する
画像処理装置。
(6)上記(1)から(5)のうちいずれか1つに記載の画像処理装置であって、
上記被写体についての情報を含む上記入力画像の情報を解析する画像情報解析部をさらに具備し、
上記画像サイズ調整部は、上記入力画像の情報に基づいて、上記入力画像のサイズを調整する
画像処理装置。
(7)上記(6)に記載の画像処理装置であって、
上記画像仕様解析部は、入力画像に記録されたメタデータを取得するメタデータ取得部を有し、
上記画像サイズ調整部は、上記表示領域の仕様と上記メタデータとに基づいて、上記入力画像のサイズを調整する
画像処理装置。
(8)上記(6)又は(7)に記載の画像処理装置であって、
上記画像仕様解析部は、上記被写体の大きさについての情報を取得する被写体情報取得部を有し、
上記画像サイズ調整部は、上記表示領域の仕様と上記被写体の大きさについての情報とに基づいて、上記入力画像のサイズを調整する
画像処理装置。
(9)上記(1)から(8)のうちいずれか1つに記載の画像処理装置であって、
上記表示領域の仕様を取得する表示領域仕様取得部をさらに具備し、
上記画像サイズ調整部は、上記表示領域の仕様に基づいて、上記入力画像のサイズを調整する
画像処理装置。
(10)上記(1)から(9)のうちいずれか1つに記載の画像処理装置であって、
上記決定された表示位置に基づいて、上記実物大画像に対応付けられた音声の出力位置を制御する音声出力制御部をさらに具備する
画像処理装置。
(11)入力画像の被写体を表示領域から実物大で表示するように上記入力画像のサイズを調整し、
上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置を決定する
画像処理方法。
(12)情報処理装置に、
入力画像の被写体を表示領域から実物大で表示するように上記入力画像のサイズを調整するステップと、
上記表示領域が存する空間の第1の基底面と上記表示領域との位置関係に基づいて、上記入力画像のサイズが調整された実物大画像の、上記表示領域における表示位置を決定するステップと
を実行させるプログラム。
100,200,300,400,500…画像処理装置
102,302,402,502…画像情報解析部
102a…メタデータ取得部
102b…被写体情報取得部
103,303,403,503…表示領域仕様取得部
104,304,404,504…画像サイズ調整部
105,305,405,505…表示位置決定部
105a,305a,405a,505a…第2の基底面情報取得部
105b…第2の基底面判定部
105c…第2の基底面検出部
105d…注視領域検出部
108…第1の基底面検出部
209…音声出力制御部

Claims (12)

  1. 入力画像の被写体を表示領域から実物大で表示するように前記入力画像のサイズを調整する画像サイズ調整部と、
    前記表示領域が存する空間の第1の基底面と前記表示領域との位置関係に基づいて、前記入力画像のサイズが調整された実物大画像の、前記表示領域における表示位置を決定する表示位置決定部と
    を具備する画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記表示位置決定部は、
    前記実物大画像から、前記被写体が存する空間の第2の基底面の位置についての情報を取得する第2の基底面情報取得部を有し、
    前記第1の基底面の位置と前記実物大画像中の前記第2の基底面の位置とを一致させることが可能に前記表示位置を決定する
    画像処理装置。
  3. 請求項2に記載の画像処理装置であって、
    前記第2の基底面情報取得部は、
    前記実物大画像に前記第2の基底面が撮像されているか否かを判定する第2の基底面判定部と、
    前記実物大画像に前記第2の基底面が撮像されていると判定された場合、前記実物大画像から前記第2の基底面の位置を検出する第2の基底面検出部とを有する
    画像処理装置。
  4. 請求項1に記載の画像処理装置であって、
    前記表示領域と前記第1の基底面との距離を検出する第1の基底面検出部を具備し、
    前記表示位置決定部は、前記検出された距離に基づいて、前記表示位置を決定する
    画像処理装置。
  5. 請求項1に記載の画像処理装置であって、
    前記表示位置決定部は、
    前記実物大画像のうちユーザが注視する領域を検出する注視領域検出部を有し、
    前記実物大画像において前記注視領域が前記表示領域から表示されることが可能に前記表示位置を決定する
    画像処理装置。
  6. 請求項1に記載の画像処理装置であって、
    前記被写体についての情報を含む前記入力画像の情報を解析する画像情報解析部をさらに具備し、
    前記画像サイズ調整部は、前記入力画像の情報に基づいて、前記入力画像のサイズを調整する
    画像処理装置。
  7. 請求項6に記載の画像処理装置であって、
    前記画像仕様解析部は、入力画像に記録されたメタデータを取得するメタデータ取得部を有し、
    前記画像サイズ調整部は、前記表示領域の仕様と前記メタデータとに基づいて、前記入力画像のサイズを調整する
    画像処理装置。
  8. 請求項6に記載の画像処理装置であって、
    前記画像仕様解析部は、前記被写体の大きさについての情報を取得する被写体情報取得部を有し、
    前記画像サイズ調整部は、前記表示領域の仕様と前記被写体の大きさについての情報とに基づいて、前記入力画像のサイズを調整する
    画像処理装置。
  9. 請求項1に記載の画像処理装置であって、
    前記表示領域の仕様を取得する表示領域仕様取得部をさらに具備し、
    前記画像サイズ調整部は、前記表示領域の仕様に基づいて、前記入力画像のサイズを調整する
    画像処理装置。
  10. 請求項1に記載の画像処理装置であって、
    前記決定された表示位置に基づいて、前記実物大画像に対応付けられた音声の出力位置を制御する音声出力制御部をさらに具備する
    画像処理装置。
  11. 入力画像の被写体を表示領域から実物大で表示するように前記入力画像のサイズを調整し、
    前記表示領域が存する空間の第1の基底面と前記表示領域との位置関係に基づいて、前記入力画像のサイズが調整された実物大画像の、前記表示領域における表示位置を決定する
    画像処理方法。
  12. 情報処理装置に、
    入力画像の被写体を表示領域から実物大で表示するように前記入力画像のサイズを調整するステップと、
    前記表示領域が存する空間の第1の基底面と前記表示領域との位置関係に基づいて、前記入力画像のサイズが調整された実物大画像の、前記表示領域における表示位置を決定するステップと
    を実行させるプログラム。
JP2016528984A 2014-06-18 2015-03-27 画像処理装置、画像処理方法及びプログラム Pending JPWO2015194075A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014125085 2014-06-18
JP2014125085 2014-06-18
PCT/JP2015/001779 WO2015194075A1 (ja) 2014-06-18 2015-03-27 画像処理装置、画像処理方法及びプログラム

Publications (1)

Publication Number Publication Date
JPWO2015194075A1 true JPWO2015194075A1 (ja) 2017-06-01

Family

ID=54935096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016528984A Pending JPWO2015194075A1 (ja) 2014-06-18 2015-03-27 画像処理装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (1) US10229656B2 (ja)
JP (1) JPWO2015194075A1 (ja)
WO (1) WO2015194075A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016191845A (ja) * 2015-03-31 2016-11-10 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP7074056B2 (ja) * 2016-05-13 2022-05-24 ソニーグループ株式会社 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム
JP6973394B2 (ja) 2016-08-01 2021-11-24 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム
US10579879B2 (en) * 2016-08-10 2020-03-03 Vivint, Inc. Sonic sensing
CN106326477A (zh) * 2016-08-31 2017-01-11 北京云图微动科技有限公司 一种图像下载方法和系统
WO2018100131A1 (en) * 2016-12-02 2018-06-07 Koninklijke Kpn N.V. Determining size of virtual object
US10861249B2 (en) 2018-07-27 2020-12-08 The Q Digital Technologies, Inc. Methods and system for manipulating digital assets on a three-dimensional viewing platform
JP2021189904A (ja) * 2020-06-02 2021-12-13 Tvs Regza株式会社 情報連携システム、サーバ装置、課金サーバ装置、および、プログラム
WO2024062002A2 (en) * 2022-09-22 2024-03-28 Abusizz Ag System and method for visualizing a person's face

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05244683A (ja) * 1991-11-26 1993-09-21 Sony Corp 収録方式および再生方式
WO2000018112A1 (en) * 1998-09-24 2000-03-30 Fourie, Inc. Apparatus and method for presenting sound and image
JP2008306236A (ja) * 2007-06-05 2008-12-18 Sony Corp 画像表示装置、画像表示方法、画像表示方法のプログラム及び画像表示方法のプログラムを記録した記録媒体
JP2009017279A (ja) * 2007-07-05 2009-01-22 Sharp Corp 画像データ表示システム、画像データ出力装置、画像データ表示方法、及びプログラム
JP2012190265A (ja) * 2011-03-10 2012-10-04 Sony Computer Entertainment Inc 画像処理装置および画像処理方法
JP2013029591A (ja) * 2011-07-27 2013-02-07 Casio Comput Co Ltd 画像表示装置、画像表示方法及びプログラム
WO2014069112A1 (ja) * 2012-11-02 2014-05-08 ソニー株式会社 信号処理装置、信号処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06269008A (ja) 1993-03-10 1994-09-22 Nippon Telegr & Teleph Corp <Ntt> 実寸大表示装置
JP3586126B2 (ja) 1999-01-28 2004-11-10 日本電信電話株式会社 実物大画像入出力装置、画像記録方法及びその方法の記録媒体
JP2000358222A (ja) 1999-06-15 2000-12-26 Toshiba Corp 表示表現装置および情報伝送方式
JP5237234B2 (ja) 2009-09-29 2013-07-17 日本電信電話株式会社 映像コミュニケーションシステム、及び映像コミュニケーション方法
US8896655B2 (en) * 2010-08-31 2014-11-25 Cisco Technology, Inc. System and method for providing depth adaptive video conferencing
BR112015004288B1 (pt) * 2012-08-31 2021-05-04 Dolby Laboratories Licensing Corporation sistema para renderizar som com o uso de elementos de som refletidos
KR101878376B1 (ko) * 2012-11-14 2018-07-16 한국전자통신연구원 시선 기반의 제어 장치 및 그것의 기기 제어 방법
US20140211091A1 (en) * 2013-01-31 2014-07-31 Kabushiki Kaisha Toshiba Image display device and display control method
CN104516474B (zh) * 2013-10-08 2017-12-26 联想(北京)有限公司 一种信息处理方法及电子设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05244683A (ja) * 1991-11-26 1993-09-21 Sony Corp 収録方式および再生方式
WO2000018112A1 (en) * 1998-09-24 2000-03-30 Fourie, Inc. Apparatus and method for presenting sound and image
JP2008306236A (ja) * 2007-06-05 2008-12-18 Sony Corp 画像表示装置、画像表示方法、画像表示方法のプログラム及び画像表示方法のプログラムを記録した記録媒体
JP2009017279A (ja) * 2007-07-05 2009-01-22 Sharp Corp 画像データ表示システム、画像データ出力装置、画像データ表示方法、及びプログラム
JP2012190265A (ja) * 2011-03-10 2012-10-04 Sony Computer Entertainment Inc 画像処理装置および画像処理方法
JP2013029591A (ja) * 2011-07-27 2013-02-07 Casio Comput Co Ltd 画像表示装置、画像表示方法及びプログラム
WO2014069112A1 (ja) * 2012-11-02 2014-05-08 ソニー株式会社 信号処理装置、信号処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
倉地 紀子: "CGテクノロジーの根幹を知る CORE vol.07", CG WORLD VOL.119, vol. 第119巻, JPN6019010239, JP, ISSN: 0004256720 *

Also Published As

Publication number Publication date
US20170193970A1 (en) 2017-07-06
US10229656B2 (en) 2019-03-12
WO2015194075A1 (ja) 2015-12-23

Similar Documents

Publication Publication Date Title
WO2015194075A1 (ja) 画像処理装置、画像処理方法及びプログラム
US8388146B2 (en) Anamorphic projection device
JP6109413B2 (ja) 画像表示方法、画像表示装置、端末、プログラム及び記録媒体
US20190244369A1 (en) Display device and method for image processing
CN103760980A (zh) 根据双眼位置进行动态调整的显示方法、系统及显示设备
TW201322178A (zh) 擴增實境的方法及系統
JP2015532483A (ja) ビデオ映像の視点を変えるための方法および装置
WO2019087491A1 (ja) 情報処理装置、情報処理方法およびプログラム
JP2013246743A5 (ja) 情報処理システム、方法およびコンピュータ読み取り可能な記録媒体
WO2014155623A1 (ja) 携帯端末装置、表示制御方法およびプログラム
US10694115B2 (en) Method, apparatus, and terminal for presenting panoramic visual content
US8896692B2 (en) Apparatus, system, and method of image processing, and recording medium storing image processing control program
US11062422B2 (en) Image processing apparatus, image communication system, image processing method, and recording medium
JP7074056B2 (ja) 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム
EP3422287B1 (en) Information processing apparatus, information processing method, and program
KR101701148B1 (ko) 3d 시각적 콘텐츠의 자동화된 평가를 위한 기술
US10600218B2 (en) Display control system, display control apparatus, display control method, and storage medium
US20190073793A1 (en) Electronic apparatus, method for controlling thereof and the computer readable recording medium
JP5818322B2 (ja) 映像生成装置、映像生成方法及びコンピュータプログラム
JP2023024471A (ja) 情報処理装置および情報処理方法
US11706378B2 (en) Electronic device and method of controlling electronic device
CN104683720B (zh) 一种电子设备及控制方法
CN102737615A (zh) 显示控制设备,显示控制方法和程序
JP2021056899A (ja) 画像処理装置、画像処理方法およびプログラム
US20150062354A1 (en) Method and system for capturing images with a front-facing camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200117

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200428

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200727

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210209

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210406

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210601

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210629

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210629