JP7387545B2 - 情報設定制御装置、方法およびプログラム - Google Patents

情報設定制御装置、方法およびプログラム Download PDF

Info

Publication number
JP7387545B2
JP7387545B2 JP2020114294A JP2020114294A JP7387545B2 JP 7387545 B2 JP7387545 B2 JP 7387545B2 JP 2020114294 A JP2020114294 A JP 2020114294A JP 2020114294 A JP2020114294 A JP 2020114294A JP 7387545 B2 JP7387545 B2 JP 7387545B2
Authority
JP
Japan
Prior art keywords
information
additional information
display
image data
display position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020114294A
Other languages
English (en)
Other versions
JP2022012458A (ja
Inventor
ケン キム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
3I Inc
Original Assignee
NTT Communications Corp
3I Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp, 3I Inc filed Critical NTT Communications Corp
Priority to JP2020114294A priority Critical patent/JP7387545B2/ja
Priority to PCT/JP2021/018537 priority patent/WO2022004156A1/ja
Priority to KR1020237002296A priority patent/KR20230034308A/ko
Publication of JP2022012458A publication Critical patent/JP2022012458A/ja
Priority to US18/145,893 priority patent/US20230136211A1/en
Application granted granted Critical
Publication of JP7387545B2 publication Critical patent/JP7387545B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2356/00Detection of the display position w.r.t. other display screens

Description

この発明の実施形態は、例えば画像情報に付加情報を設定する際に用いる情報設定制御装置、方法およびプログラムに関する。
近年、事業所やオフィス、住居等の施設を撮影された画像を用いて管理する技術が提案されている。例えば、特許文献1には、建物内の三次元空間を異なる複数の位置でそれぞれ全方位(360°)を撮影してその撮影画像を記憶媒体に記録し、記録された各全方位画像を接続することにより上記施設内を示す三次元(3D)画像を生成する技術が記載されている。この技術を用いると、例えば施設の管理者または利用者は、現場に出向かなくても施設の状態を3D画像により遠隔的に把握することが可能となる。
米国特許出願公開2018/0075652号明細書
ところが、従来提案されているシステムは、一般に、生成された3D画像をそのまま表示するものとなっている。このため、利用者は施設の状態を3D画像のみを頼りに確認することになり、例えば施設を構成する設備や設置物の属性までは確認することができない。
この発明は上記事情に着目してなされたもので、撮影された画像を見ながら対象物の属性まで確認できるようにする技術を提供しようとするものである。
上記課題を解決するためにこの発明に係る情報設定制御装置または情報設定制御方法の第1の態様は、撮影対象となる三次元空間を撮影して得られた画像データが表示されている状態で、前記画像データ中に、付加情報の設定対象を指定するための第1のガイド情報を表示させ、ユーザの操作に応じて、前記付加情報の表示位置を指定する第2のガイド情報を前記画像データ中に表示させ、前記第1のガイド情報により指定される前記設定対象と前記第2のガイド情報により指定される前記表示位置とを関連付ける第3のガイド情報を前記画像データ中に表示させ、前記ユーザにより入力された前記付加情報を前記表示位置を表す情報に対応付けて記憶媒体に記憶させるようにし、さらに前記第1のガイド情報および前記第2のガイド情報を、それぞれ、前記画像データの中の基準位置に表示される基準パターンと、前記基準パターンから伸縮操作可能に引き出されて前記付加情報の前記設定対象および前記表示位置に至る線状パターンとにより構成したものである。
第1の態様によれば、画像データ中において、付加情報の設定対象と当該付加情報の表示位置とを別々に指定することができる。このため、設定対象が隠れないように付加情報を表示することが可能となる。しかも、付加情報の設定対象と付加情報の表示位置とが第3のガイド情報により関連付けられるため、付加情報を設定対象と明確に関連付けた状態で表示することが可能となる。
すなわちこの発明の一態様によれば、撮影された画像を見ながら対象物の属性まで明確に確認できるようにした技術を提供することができる。
図1は、この発明の一実施形態に係る情報設定制御装置として動作するユーザ端末およびサーバ装置を含むシステムの概略構成図である。 図2は、図1に示したシステムにおけるユーザ端末のハードウェア構成の一例を示すブロック図である。 図3は、図1に示したシステムにおけるユーザ端末のソフトウェア構成の一例を示すブロック図である。 図4は、図1に示したシステムのサーバ装置のハードウェア構成の一例を示すブロック図である。 図5は、図1に示したシステムのサーバ装置のソフトウェア構成の一例を示すブロック図である。 図6は、図3に示したユーザ端末による付加情報設定制御の処理手順と処理内容の一例を示すフローチャートである。 図7は、図5に示したサーバ装置による付加情報の登録・出力制御の処理手順と処理内容の一例を示すフローチャートである。 図8は、図6に示した付加情報設定制御により表示される第1のガイド情報の一例を示す図である。 図9は、図6に示した付加情報設定制御により表示される第2のガイド情報および第3のガイド情報の一例を示す図である。 図10は、付加情報の入力テンプレートの第1の例を示す図である。 図11は、付加情報の入力テンプレートの第2の例を示す図である。 図12は、第3のガイド情報が表示された画像データの表示例を示す図である。 図13は、付加情報の表示結果の一例を示す図である。
以下、図面を参照してこの発明に係わる実施形態を説明する。
[一実施形態]
(構成例)
(1)システム
図1は、この発明の一実施形態に係る3D画像管理システムの概略構成図である。
このシステムは、ユーザ端末MT,UT1~UTnとサーバ装置SVとを備えている。これらのサーバ装置SVとユーザ端末MT,UT1~UTnとの間では、ネットワークNWを介してデータ通信が可能になっている。
上記各ユーザ端末MT,UT1~UTnのうち、ユーザ端末MTは主として全方位画像および付加情報の登録を行うために使用される。これに対しユーザ端末UT1~UTnは、登録された全方位画像をもとに生成される3D画像および付加情報を閲覧するために使用される。これらのユーザ端末のうちユーザ端末MTは、サーバ装置SVと共に、この発明の一実施形態に係る情報設定制御装置を構成する。
上記各ユーザ端末MT,UT1~UTnは、この例ではいずれもスマートフォンやダブレット型端末等の携帯情報端末により構成される。なお、ユーザ端末UT1~UTnとしては、他にノート型のパーソナルコンピュータをやデスクトップ型のパーソナルコンピュータを用いてもよい。
なお、ネットワークNWは、インターネットを含むIP網と、このIP網にアクセスするためのアクセス網とから構成される。アクセス網としては、例えば公衆有線網や携帯電話網、有線LAN(Local Area Network)、無線LAN、CATV(Cable Television)等が用いられる。
(2)装置
(2-1)ユーザ端末MT
図2および図3は、それぞれユーザ端末MTのハードウェア構成およびソフトウェア構成を示すブロック図である。
ユーザ端末MTは、中央処理ユニット(Central Processing Unit:CPU)等のハードウェアプロセッサを有する制御部1を備える。そして、この制御部1に対しバス6を介して記憶部2、通信インタフェース(通信I/F)3および入出力インタフェース(入出力I/F)4を接続したものとなっている。
通信I/F3は、制御部1の制御の下、ネットワークNWを介して上記サーバ装置SVとの間でデータの送受信を行うために無線インタフェースを有する。また通信I/F3は、カメラCMとの間で通信を行うためのカメラインタフェースを有する。カメラインタフェースは、例えばBluetooth(登録商標)等の小電力無線データ通信規格を採用している。なお、カメラCMと通信I/F3との間はUSBケーブル等の信号ケーブルを介して接続することも可能である。
カメラCMは、全方位を撮影可能なカメラであり、例えば高さ位置を一定に保持することが可能な三脚に固定されている。カメラCMは、撮影された全方位画像データをユーザ端末MTへ送信する。なお、カメラCMはユーザ端末MTに内蔵されたカメラにより代用することも可能である。
なお、通信I/F3は、例えばGPS(Global Positioning System)信号や無線LANのアクセスポイントから送信される信号を受信するインタフェースを備えていてもよい。このインタフェースを備えることで、ユーザ端末MTは自端末の現在位置を検出することができる。
入出力I/F4には、入力部5Aおよび表示部5Bが接続されている。入力部5Aおよび表示部5Bは、例えば液晶又は有機EL等のディスプレイデバイス上に感圧式または静電容量検出方式を採用した入力検知シートを配置したタブレット型のデバイスからなる。入出力I/F4は、入力部5Aにより検知された操作情報を制御部1に通知すると共に、制御部1から出力される表示データを表示部5Bに表示させる。
記憶部2は、例えば、主記憶媒体としてSSD(Solid State Drive)等の随時書込みおよび読出しが可能な不揮発性メモリを使用する。なお、記憶媒体は、上記SSDに加えて、あるいは代えて、HDD(Hard Disk Drive)、ROM(Read Only Memory)およびRAM(Random Access Memory)を組み合わせたものを使用してもよい。
記憶部2の記憶領域には、プログラム記憶領域およびデータ記憶領域が設けられている。プログラム記憶領域には、OS(Operating System)等のミドルウェアに加えて、この発明の一実施形態に係る制御処理を実行するために必要なアプリケーション・プログラムが格納される。
データ記憶領域には、この発明の一実施形態を実施する上で必要な記憶部として、表示画像記憶部21と、入力テンプレート記憶部22と、付加情報記憶部23が設けられている。表示画像記憶部21は、サーバ装置SVからダウンロードされた3D表示画像データを記憶するために用いられる。入力テンプレート記憶部22には、付加情報の入力操作を案内するための入力テンプレートが記憶されている。付加情報記憶部23は、入力部5Aにてユーザが入力した付加情報を記憶するために用いられる。
制御部1は、この発明の一実施形態に係る制御処理機能として、表示画像受信部11と、画像表示制御部12と、指定操作受付部13と、付加情報入力受付部14と、付加情報送信部15とを備えている。これらの処理部11~15は、何れも記憶部2内のプログラム記憶領域に格納されたアプリケーション・プログラムをハードウェアプロセッサに実行させることにより実現される。
表示画像受信部11は、ユーザの閲覧操作に応じてサーバ装置SVにアクセスし、サーバ装置SVからダウンロードされた3D表示画像データを通信I/F3を介して受信し、受信された3D表示画像データを表示画像記憶部21に保存する処理を行う。
画像表示制御部12は、ユーザのアングルの選択操作に応じて上記表示画像記憶部21から対応するアングルの3D表示画像データを読み出し、読み出された3D表示画像データを入出力I/F4へ出力して表示部5Bに表示させる処理を行う。
指定操作受付部13は、上記3D表示画像データが表示部5Bに表示されている状態で、ユーザが例えばマウス操作により、付加情報の設定対象を指定する操作、および付加情報の表示位置を指定する操作を行った場合に、それに応じて上記設定対象を指定する第1のガイド情報、上記表示位置を指定する第2のガイド情報、および上記設定対象と上記表示位置とを関連付ける第3のガイド情報を上記3D表示画像に合成して表示させる処理を行う。各ガイド情報の一例については後述する。
付加情報入力受付部14は、ユーザが付加情報の表示位置の決定操作を行った場合に、付加情報の入力テンプレートデータを入力テンプレート記憶部22から読み出し、入出力I/F4を介して表示部5Bに表示させる。そして、表示された上記入力テンプレートデータに従いユーザが入力部5Aにより入力した付加情報を入出力I/F4を介して取得し、取得された付加情報を、当該付加情報の設定対象および表示位置を示す各座標情報と紐づけて、付加情報記憶部23に記憶させる処理を行う。
付加情報送信部15は、閲覧中の3D表示画像データに対する付加情報の設定処理が終了した場合に、上記付加情報記憶部23から上記付加情報を、当該付加情報の設定対象および表示位置を示す各座標情報と共に読み出し、読み出された付加情報および各座標情報を付加情報登録要求に含めて通信I/F3からサーバ装置SVへ送信する処理を行う。
(2-2)サーバ装置SV
図4および図5は、それぞれサーバ装置SVのハードウェア構成およびソフトウェア構成を示すブロック図である。
サーバ装置SVは、クラウド上またはWeb上に設置されたサーバコンピュータからなり、CPU等のハードウェアプロセッサを有する制御部7を備える。そして、この制御部7に対しバス10を介して記憶部8および通信インタフェース(通信I/F)9を接続したものとなっている。
通信I/F9は、制御部7の制御の下、ネットワークNWを介して上記ユーザ端末MT,UT1~UTnとの間でデータの送受信を行うもので、例えば有線ネットワーク用のインタフェースを用いる。
記憶部8は、例えば、主記憶媒体としてHDDまたはSSD等の随時書込みおよび読出しが可能な不揮発性メモリを使用する。なお、記憶媒体としては、ROMおよびRAMを組み合わせて使用してもよい。
記憶部8の記憶領域には、プログラム記憶領域およびデータ記憶領域が設けられている。プログラム記憶領域には、OS等のミドルウェアに加えて、この発明の一実施形態に係る各種制御処理を実行するために必要なプログラムが格納される。
データ記憶領域には、この発明の一実施形態を実施する上で必要な記憶部として、撮影画像記憶部81と、付加情報記憶部82が設けられ、さらに制御部7による各種処理に必要な作業用の記憶部が設けられている。
撮影画像記憶部81は、ユーザ端末MTから送信された全方位画像を、撮影日時および撮影位置を表す情報と関連付けた状態で記憶するために用いられる。付加情報記憶部82は、ユーザ端末MTから送られる付加情報と当該付加情報の設定対象および表示位置を示す座標情報を記憶するために使用される。
制御部7は、この発明の一実施形態に係る制御処理機能として、撮影画像取得部71と、付加情報取得部72と、表示画像生成部73とを備えている。これらの処理部71~73は、何れも記憶部8内のプログラム記憶領域に格納されたプログラムをハードウェアプロセッサに実行させることにより実現される。
撮影画像取得部71は、ユーザ端末MTから、カメラCMにより撮影された全方位画像からなる撮影画像データが送られるごとに、この撮影画像データを通信I/F9を介して受信し、受信された上記撮影画像データを、当該撮影画像データと共に受信された撮影位置座標および撮影日時を表す情報と関連付けて撮影画像記憶部81に記憶させる処理を行う。
付加情報取得部72は、上記ユーザ端末MTから付加情報登録要求が送られた場合に、この要求に含まれる付加情報と当該付加情報の設定対象および表示位置を示す座標情報を、付加情報記憶部82に記憶させる処理を行う。
表示画像生成部73は、以下の処理機能を有している。
(1) ユーザ端末MT,UT1~UTnから画像の閲覧要求が送られた場合に、撮影画像記憶部81から上記閲覧要求により指定された施設のフロアに対応する全方位画像データを読み出して3D表示画像データを生成し、生成された3D表示画像データを通信I/F9から要求元のユーザ端末MT,UT1~UTnへ送信する処理。
(2) 上記3D表示画像データに対し付加情報が登録済か否かを判定し、登録済の場合には、付加情報記憶部82から付加情報の設定対象および表示位置を示す座標情報を読み出し、これらの座標情報をもとに第3のガイド情報を生成して上記3D表示画像データに合成する処理。
(3) 3D表示画像を閲覧中のユーザ端末MT,UT1~UTnから付加情報の表示要求が送られた場合に、当該要求に含まれる付加情報表示位置を示す座標をもとに付加情報記憶部82から対応する付加情報を読み出す。そして、読み出された付加情報を上記閲覧中の3D表示画像に合成し、この付加情報が合成された3D表示画像データを通信I/F9から要求元のユーザ端末MT,UT1~UTnへ送信する処理。
(動作例)
次に、以上のように構成されたユーザ端末MTおよびサーバ装置SVの動作例を説明する。図6および図7はそれぞれその処理手順と処理内容の一例を示すフローチャートである。
なお、サーバ装置SVの撮影画像記憶部81には、対象フロアの全方位画像データが既に記憶されているものとして説明を行う。
(1)3D画像の閲覧
ユーザ端末MTにおいて、ユーザが所望の施設およびフロアの3D画像を閲覧するために、サーバ装置SVに対しアクセスして対象となる上記施設とそのフロアを指定すると、ユーザ端末MTは当該操作をステップS10により検出してサーバ装置SVに対し撮影画像閲覧要求を送信する。
これに対しサーバ装置SVは、ユーザ端末MTから送信された閲覧要求の受信をステップS30により検出すると、表示画像生成部73の制御の下、先ずステップS31において、上記閲覧要求により要求されたフロアの画像に付加情報が登録済であるか否かを、付加情報記憶部82に記憶された情報をもとに判定する。そして、付加情報が未登録であれば、ステップS32において撮影画像記憶部81から上記フロアに対応する全方位画像を読み出して3D表示画像データを生成し、生成された3D表示画像データを通信I/F9から要求元のユーザ端末MTへ送信する。
ユーザ端末MTは、表示画像受信部11の制御の下、ステップS11において、上記サーバ装置SVから送信された3D表示画像データを通信I/F3を介して受信し、一旦表示画像記憶部21に保存する。そして、上記ステップS11において、画像表示制御部12の制御の下、上記表示画像記憶部21から3D表示画像データを読み出し、当該3D画像データを入出力I/F4へ出力して表示部5Bに表示させる。このとき、ユーザが、入力部5Aにおいて画像の表示アングルを変化させる操作を行うと、当該操作に応じて上記3D表示画像の表示アングルが変化する。従って、ユーザはフロア内の希望する場所の3D画像を選択的に閲覧することが可能となる。すなわち、フロアの3D画像ツアーが可能となる。
(2)付加情報の設定対象および表示位置の指定
上記3D画像ツアーによりフロアの所望の部屋の画像が表示されている状態で、ユーザが当該表示画像中の所望の部位または設備に対しその属性を表す付加情報を設定するために、例えばマウス操作により上記設定対象となる部位または設備を指定したとする。
そうするとユーザ端末MTは、ステップS12で上記付加情報の設定要求を検出すると、指定操作受付部13の制御の下、ユーザによる付加情報の設定対象および表示位置の指定を受け付ける処理を以下のように実行する。
すなわち、指定操作受付部13は、先ずステップS13において、例えば図8に示すように、表示画像VD中の基準位置、例えば床面を示す位置に、リング状をなす基準パターンICを表示し、この基準パターンICの垂直上方に線状パターンLNを描画する。上記基準パターンICおよび線状パターンLNは第1のガイド情報を構成する。
この状態でユーザが、例えばマウス操作により上記線状パターンLNを伸長または伸縮させてその先端部Pを付加情報の設定対象(例えば画像中の壁面)の位置に停止させると、指定操作受付部13は上記先端部Pの位置座標を付加情報の設定対象の位置を示す座標情報として保存する。
次にユーザが、付加情報の表示位置を指定するために、例えばマウス操作により、上記基準パターンICを上記付加情報の表示位置の直下に対応する位置に移動させ、さらにこの基準パターンICから上方に伸びる線状パターンLNを伸長または伸縮させてその先端部を付加情報の表示位置に停止させたとする。
このとき指定操作受付部13は、ステップS14により上記表示位置の指定操作を検出すると、ステップS15において、例えば図9に示すように表示画像VD上で基準パターンICおよび線状パターンLNの表示位置を、付加情報の表示位置の直下の位置に水平移動させる。これらの基準パターンICおよび線状パターンLNは、第2のガイド情報を構成する。
また指定操作受付部13は、上記線状パターンLNの伸長操作によりその先端部が付加情報の表示位置に停止されると、この停止位置に付加情報の表示位置であることを示す目印パターンQを表示させ、この目印パターンQと先に指定された付加情報の設定対象位置Pとの間を接続する引出線パターンRNを描画する。これらの目印パターンQおよび引出線パターンRNは第3のガイド情報を構成する。
(3)付加情報の入力
ユーザ端末MTは、上記指定操作により付加情報の表示位置が決定され、この決定操作がステップS16で検出されると、続いて付加情報入力受付部14の制御の下、先ずステップS17において入力テンプレート記憶部22から入力テンプレートデータを読み出し、入出力I/F4へ出力して表示部5Bに表示させる。
図10は、入力テンプレートの第1の例を示すものである。図10に示したテンプレートTD1は、タイトル入力エリアX1と付加情報入力エリアX2を有する。なお、B1,B2,B3,B4はそれぞれ背景色設定ボタン、作成ボタン、キャンセルボタン、画像選択ボタンを示している。図11は、上記図10に示したテンプレートにおいて、“Scene Visibility”ボタンB6が操作された場合にテンプレートTD2に表示される、付加情報の設定結果の一例を示すものである。
上記入力テンプレートに従い、ユーザが入力部5Aを操作して付加情報を入力すると、付加情報入力受付部14はステップS17において上記付加情報の入力を受け付け、入力された付加情報を付加情報記憶部23に記憶させる。また、このとき付加情報入力受付部14は、上記指定操作受付部13により検出された付加情報の設定対象および表示位置の画像データ上の座標情報を、上記付加情報と関連付けて付加情報記憶部23に記憶させる。
(4)付加情報の登録
上記付加情報の入力が終了し、ユーザが入力テンプレートに設けられたアップデートボタンB7をクリック操作したとする。そうすると、ユーザ端末MTは付加情報送信部15の制御の下、上記アップデートボタンB7の操作をステップS19により検出し、続いてステップS20において、上記付加情報記憶部23から付加情報と当該付加情報の設定対象および表示位置を示す座標情報を読み出し、読み出された付加情報および座標情報を付加情報登録要求に含めて通信I/F3からサーバ装置SVに向け送信する。
なお、上記付加情報および各座標情報の送信処理は、付加情報が1つ設定されるごとに行われてもよいし、1つの画像または1つのフロアの全画像に対する付加情報の設定が終了した時点で一括して行われるようにしてもよい。
サーバ装置SVは、付加情報取得部72の制御の下、ステップS33において付加情報登録要求が受信されたことを検出すると、ステップS34において付加情報および座標情報を通信I/F9を介して受信し、受信された付加情報および座標情報を付加情報記憶部82に記憶させる。
サーバ装置SVは、ステップS35において閲覧終了操作が検出されるまで、ステップS30~ステップS34による3D表示画像の送信処理と付加情報の登録受付処理を実行する。
(5)付加情報が設定された3D画像の閲覧
例えばユーザ端末UT1~UTnから、サーバ装置SVに対し閲覧対象となる施設とそのフロアの3D画像の閲覧要求が送信されたとする。そうするとサーバ装置SVは、上記閲覧要求をステップS30により受信すると、表示画像生成部73の制御の下、先ずステップS31において、上記閲覧要求により要求されたフロアの画像に付加情報が登録済であるか否かを、付加情報記憶部82に記憶された情報をもとに判定する。そして、付加情報が登録済であれば、以下のような閲覧応答処理を実行する。
すなわち、表示画像生成部73は、先ずステップS36においてガイド情報付きの3D表示画像データを生成する。この表示画像データの生成は、例えば、先ず撮影画像記憶部81から上記閲覧要求により指定されたフロアに対応する全方位画像を読み出して3D表示画像データを生成する。次に、付加情報記憶部82に記憶された、上記3D表示画像に対応して設定された付加情報の設定対象および表示位置を示す各座標情報に基づいて、第3のガイド情報を生成する。この第3のガイド情報は、付加情報の設定時にユーザ端末MTにおいて生成された、表示位置を示す目印パターンQ、および当該表示位置と設定対象とを関連付ける引出線パターンRNと同一のものである。
そして表示画像生成部73は、生成された上記第3のガイド情報を、上記3D表示画像データ中の対応する座標位置に合成し、これにより生成されたガイド情報付きの3D表示画像データを通信I/F9から要求元のユーザ端末UT1~UTnへ送信する。
ユーザ端末MTは、表示画像受信部11の制御の下、ステップS11において、上記サーバ装置SVから送信されたガイド情報付きの3D表示画像データを通信I/F3を介して受信し、一旦表示画像記憶部21に保存する。そして、上記ステップS11において、画像表示制御部12の制御の下、上記表示画像記憶部21から3D表示画像データを読み出し、当該3D画像データを入出力I/F4へ出力して表示部5Bに表示させる。図12は、このとき表示部5Bに表示されるガイド情報付きの3D表示画像データVDの一例を示している。この例に示すように、3D表示画像データVDには、付加情報の表示位置を示す目印パターンQと、当該表示位置と付加情報の設定対象とを関連付ける引出線パターンRNが表示される。
この状態で、上記引出線パターンRNにより指し示されている部材に対し設定された付加情報を確認するために、ユーザが上記目印パターンQをマウス操作により指示したとする。そうすると、ユーザ端末UT1~UTnからサーバ装置SVへ、上記付加情報の表示要求が送信される。
サーバ装置SVは、表示画像生成部73の制御の下、ステップS37により上記表示要求を受信すると、ステップS38において、上記表示要求に含まれる表示位置座標に対応する付加情報を付加情報記憶部82から選択的に読み出す。そして、現在ユーザ端末UT1~UTnに送信中の3D表示画像データの上記表示位置に、読み出された上記付加情報を合成し、この付加情報が合成された3D表示画像データを要求元のユーザ端末UT1~UTnへ送信する。
ユーザ端末UT1~UTnは、画像表示制御部12の制御の下、受信された上記付加情報付きの3D表示画像データを入出力I/F4を介して表示部5Bに表示させる。図13は、このとき表示される付加情報付きの3D表示画像データの一例を示すもので、ADは付加情報を示す。なお、図12および図13では、3D表示画像の撮影位置をプロットしたフロアの平面図RDを3D表示画像上に表示した場合を例示している。
(作用・効果)
以上述べたように一実施形態では、ユーザ端末MTにおいて、ユーザが3D表示画像に対し付加情報を設定する際に、先ず付加情報の設定対象を指定する操作の過程で第1のガイドパターンを表示し、次に付加情報の表示位置を指定する操作の過程で第2のガイド情報を表示し、表示位置の決定後にユーザが入力テンプレートに従い入力した付加情報を上記設定対象および表示位置の座標に紐づけてサーバ装置SVに登録するようにしている。そして、上記付加情報が設定された3D画像を表示する際には、上記付加情報の設定対象と表示位置を示す第3のガイド情報を上記3D画像に表示させ、この状態でユーザが上記第3のガイド情報に従い上記表示位置を指定することで、対応する付加情報を上記3D画像中の上記表示位置に表示させるようにしている。
従って、3D画像中の部材や設備に対し必要に応じて付加情報を設定することが可能となり、これによりユーザは3D画像によりフロアの閲覧ツアーを行いながら、部材や設備の詳細を付加情報により確認することが可能となる。
また、付加情報の設定操作において、3D画像中の設定対象とは異なる位置に表示位置を指定し、この表示位置に対応付けて付加情報を登録するようにしたので、3D画像に付加情報を表示させたときに、付加情報により設定対象が隠されて確認できなくなる不具合が生じないようにすることができる。
さらに、付加情報の設定操作中には、3D画像に第1および第2のガイド情報を表示することで付加情報の設定対象と表示位置を明確に表示し、一方付加情報の設定終了後においては、第1および第2のガイド情報の表示を消去して、第3の情報のみを表示するようにしたので、付加情報の設定時の操作性を高めた上で、設定後の3D画像の視認性を維持することができる。
[その他の実施形態]
(1)一実施形態では、付加情報の設定対象および表示位置の指定操作に応じた第1および第2のガイド情報の表示制御をユーザ端末MTにおいて実行する場合を例にとって説明した。しかし、それに限らず上記指定操作に応じたガイド情報の表示制御をサーバ装置SVにおいて実行するようにしてもよい。このようにすると、ユーザ端末MTとサーバ装置SVとの間の伝送遅延による応答性の低下が発生する心配はあるが、ユーザ端末MTに新たなアプリケーションをインストールする必要がなく、かつユーザ端末MTの処理負荷を軽減することが可能となる。
(2)一実施形態では、付加情報の設定対象および表示位置を指定する際に、これらに線状パターンLNの先端部Pを合わせるようにしたが、指定位置に例えば矢印または星印などのキャラクタパターンを表示するようにしてもよい。このようにすると、指定位置をさらに明確に表示することが可能となる。その他、第1、第2および第3のガイド情報の各構成や表示パターンのサイズや色等についても、どのように設定してもよい。
(3)付加情報の表示位置は付加情報設定後に変更できるようにしてもよい。このようにすると、例えば付加情報の表示サイズや吹き出しの形状、3D画像の内容等に応じてより最適な表示位置を設定することが可能となる。その他、付加情報の書式や情報の種類、情報量等についても、どのように設定してもよい。
(4)付加情報中に、例えば当該付加情報に係るさらに詳細な情報や関連情報が記憶されているWebサイトのリンク先情報を含め、このリンク先情報をもとにWebサイトに対しアクセスできるようにしてもよい。このようにすると、閲覧ユーザは、部材や設備に係るさらに詳細な情報や関連する情報を3D表示画像を見ながら容易に取得することが可能となる。
(5)その他、情報設定制御装置の構成や制御の処理手順と処理内容等についても、この発明の要旨を逸脱しない範囲で種々変形して実施できる。
以上、本発明の実施形態を詳細に説明してきたが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。つまり、本発明の実施にあたって、実施形態に応じた具体的構成が適宜採用されてもよい。
またこの発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
SV…サーバ装置
MT,UT1~UTn…ユーザ端末
NW…ネットワーク
CM…カメラ
1,7…制御部
2,8…記憶部
3,9…通信I/F
6,10…バス
11…表示画像受信部
12…画像表示制御部
13…指定操作受付部
14…付加情報入力受付部
15…付加情報送信部
21…表示画像記憶部
22…入力テンプレート記憶部
23…付加情報記憶部
71…撮影画像取得部
72…付加情報取得部
73…表示画像生成部
81…撮影画像記憶部
82…付加情報記憶部

Claims (7)

  1. 三次元空間を撮影して得られた画像データが表示されている状態で、前記画像データの中に、付加情報の設定対象を指定するための第1のガイド情報を表示させる第1の表示制御部と、
    ユーザの操作に応じて、前記付加情報の表示位置を指定する第2のガイド情報を前記画像データの中に表示させる第2の表示制御部と、
    前記第1のガイド情報により指定される前記設定対象と前記第2のガイド情報により指定される前記表示位置とを関連付ける第3のガイド情報を、前記画像データの中に表示させる第3の表示制御部と、
    前記ユーザにより入力された前記付加情報を、前記表示位置を表す情報に対応付けて記憶媒体に記憶させる付加情報取得部と
    を具備し、
    前記第1のガイド情報および前記第2のガイド情報は、それぞれ、前記画像データの中の基準位置に表示される基準パターンと、前記基準パターンから伸縮操作可能に引き出されて前記付加情報の前記設定対象および前記表示位置に至る線状パターンとからなる、
    情報設定制御装置。
  2. 前記第3のガイド情報は、前記付加情報の前記表示位置に表示される目印パターンと、前記付加情報の前記設定対象と前記目印パターンとの間を接続する引出線パターンとからなる、請求項1に記載の情報設定制御装置。
  3. 前記第1の表示制御部および前記第2の表示制御部は、それぞれ、前記付加情報の記憶処理終了後、前記第1のガイド情報および前記第2のガイド情報の表示を消去する、請求項1に記載の情報設定制御装置。
  4. 前記付加情報取得部は、前記付加情報を入力するための入力テンプレートを表示させ、前記入力テンプレートに従って入力された前記付加情報を取得する、請求項1に記載の情報設定制御装置。
  5. 前記第3のガイド情報を含む前記画像データが表示されている状態で、前記目印パターンを指示する操作が行われた場合に、当該目印パターンにより表される前記表示位置に対応付けて記憶されている前記付加情報を前記記憶媒体から読み出し、読み出された前記付加情報を前記画像データの中の前記表示位置に表示させる第4の表示制御部を、さらに具備する請求項に記載の情報設定制御装置。
  6. 情報処理装置が実行する情報設定制御方法であって、
    撮影対象となる三次元空間を撮影して得られた画像データが表示されている状態で、前記画像データの中に、付加情報の設定対象を指定するための第1のガイド情報を表示させる過程と、
    ユーザの操作に応じて、前記付加情報の表示位置を指定する第2のガイド情報を前記画像データの中に表示させる過程と、
    前記第1のガイド情報により指定される前記設定対象と前記第2のガイド情報により指定される前記表示位置とを関連付ける第3のガイド情報を、前記画像データの中に表示させる過程と、
    前記ユーザにより入力された前記付加情報を取得し、取得された前記付加情報を前記第2のガイド情報により指定される前記表示位置を表す情報に対応付けて記憶媒体に記憶させる過程と
    を具備し、
    前記第1のガイド情報および前記第2のガイド情報は、それぞれ、前記画像データの中の基準位置に表示される基準パターンと、前記基準パターンから伸縮操作可能に引き出されて前記付加情報の前記設定対象および前記表示位置に至る線状パターンとからなる、
    情報設定制御方法。
  7. 請求項1乃至のいずれかに記載の情報設定制御装置が具備する前記各部の処理を、前記情報設定制御装置が備えるプロセッサに実行させるプログラム。
JP2020114294A 2020-07-01 2020-07-01 情報設定制御装置、方法およびプログラム Active JP7387545B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020114294A JP7387545B2 (ja) 2020-07-01 2020-07-01 情報設定制御装置、方法およびプログラム
PCT/JP2021/018537 WO2022004156A1 (ja) 2020-07-01 2021-05-17 情報設定制御装置、方法およびプログラム
KR1020237002296A KR20230034308A (ko) 2020-07-01 2021-05-17 정보 설정 제어 장치, 방법 및 프로그램
US18/145,893 US20230136211A1 (en) 2020-07-01 2022-12-23 Information setting control device and method, and computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020114294A JP7387545B2 (ja) 2020-07-01 2020-07-01 情報設定制御装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2022012458A JP2022012458A (ja) 2022-01-17
JP7387545B2 true JP7387545B2 (ja) 2023-11-28

Family

ID=79315894

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020114294A Active JP7387545B2 (ja) 2020-07-01 2020-07-01 情報設定制御装置、方法およびプログラム

Country Status (4)

Country Link
US (1) US20230136211A1 (ja)
JP (1) JP7387545B2 (ja)
KR (1) KR20230034308A (ja)
WO (1) WO2022004156A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010118019A (ja) 2008-11-14 2010-05-27 Sharp Corp 端末装置、配信装置、端末装置の制御方法、配信装置の制御方法、制御プログラムおよび記録媒体
JP2012244509A (ja) 2011-05-23 2012-12-10 Alpine Electronics Inc 車載システム
JP5295416B1 (ja) 2012-08-01 2013-09-18 ヤフー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2013171857A1 (ja) 2012-05-16 2013-11-21 楽天株式会社 画像処理装置、画像処理装置の制御方法、プログラム、及び情報記憶媒体
JP2015138428A (ja) 2014-01-23 2015-07-30 三菱電機株式会社 付加情報表示装置および付加情報表示プログラム
JP2019175383A (ja) 2018-03-29 2019-10-10 株式会社リコー 入力装置および入力装置の入力方法、ならびに、出力装置および出力装置の出力方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6542392B2 (ja) 2016-01-05 2019-07-10 富士フイルム株式会社 処理液、基板の洗浄方法、および、半導体デバイスの製造方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010118019A (ja) 2008-11-14 2010-05-27 Sharp Corp 端末装置、配信装置、端末装置の制御方法、配信装置の制御方法、制御プログラムおよび記録媒体
JP2012244509A (ja) 2011-05-23 2012-12-10 Alpine Electronics Inc 車載システム
WO2013171857A1 (ja) 2012-05-16 2013-11-21 楽天株式会社 画像処理装置、画像処理装置の制御方法、プログラム、及び情報記憶媒体
JP5295416B1 (ja) 2012-08-01 2013-09-18 ヤフー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP2015138428A (ja) 2014-01-23 2015-07-30 三菱電機株式会社 付加情報表示装置および付加情報表示プログラム
JP2019175383A (ja) 2018-03-29 2019-10-10 株式会社リコー 入力装置および入力装置の入力方法、ならびに、出力装置および出力装置の出力方法

Also Published As

Publication number Publication date
JP2022012458A (ja) 2022-01-17
US20230136211A1 (en) 2023-05-04
WO2022004156A1 (ja) 2022-01-06
KR20230034308A (ko) 2023-03-09

Similar Documents

Publication Publication Date Title
US9805515B2 (en) System and method for augmented reality
US20180286098A1 (en) Annotation Transfer for Panoramic Image
JP6421670B2 (ja) 表示制御方法、表示制御プログラム、及び情報処理装置
KR20120038316A (ko) Ar 서비스를 제공하기 위한 사용자 단말기 및 그 방법
US20090290014A1 (en) Object management apparatus, mobile terminal, and object management method
JP2017016466A (ja) 端末制御方法、画像生成方法、端末制御プログラム、及び端末
KR20130050701A (ko) 원격 스크린내 콘텐츠 원격 제어 방법 및 장치
US20230131239A1 (en) Image information generating apparatus and method, and computer-readable storage medium
US20180300552A1 (en) Differential Tracking for Panoramic Images
JP2017212510A (ja) 画像管理装置、プログラム、画像管理システム及び情報端末
JP6721004B2 (ja) 画像管理システム、及び画像管理方法
JP6597259B2 (ja) プログラム、情報処理装置、画像表示方法、画像処理システム
JP7387545B2 (ja) 情報設定制御装置、方法およびプログラム
JP2016194784A (ja) 画像管理システム、通信端末、通信システム、画像管理方法、及びプログラム
JP6617547B2 (ja) 画像管理システム、画像管理方法、プログラム
JP2022166158A (ja) 記録媒体
JP5221580B2 (ja) 画像表示システム、携帯情報端末及び画像表示プログラム
US20230125097A1 (en) Photography support device and method, and computer-readable storage medium
JP7192929B2 (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
US11889237B2 (en) Setting method and a non-transitory computer-readable storage medium storing a program
US20230269481A1 (en) Information processing system, communication system, and image transmission method
US20230128950A1 (en) Photography position management device and method, and computer-readable storage medium
US20230269482A1 (en) Information processing system, communication system, and image sharing method
JP2023066265A (ja) 情報処理システム、情報処理装置、プログラム、利用者端末、及び情報処理方法
JP2022126546A (ja) 情報処理装置、情報処理方法、及びプログラム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20201020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210423

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220131

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231017

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231115

R150 Certificate of patent or registration of utility model

Ref document number: 7387545

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150