JP2023026891A - 情報処理装置、及び情報処理プログラム - Google Patents

情報処理装置、及び情報処理プログラム Download PDF

Info

Publication number
JP2023026891A
JP2023026891A JP2021132322A JP2021132322A JP2023026891A JP 2023026891 A JP2023026891 A JP 2023026891A JP 2021132322 A JP2021132322 A JP 2021132322A JP 2021132322 A JP2021132322 A JP 2021132322A JP 2023026891 A JP2023026891 A JP 2023026891A
Authority
JP
Japan
Prior art keywords
region
image
deformation
information processing
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021132322A
Other languages
English (en)
Inventor
裕丈 佐々木
Hirotake Sasaki
靖 飯田
Yasushi Iida
猛志 永峯
Takeshi Nagamine
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Business Innovation Corp filed Critical Fujifilm Business Innovation Corp
Priority to JP2021132322A priority Critical patent/JP2023026891A/ja
Priority to US17/549,109 priority patent/US20230046226A1/en
Publication of JP2023026891A publication Critical patent/JP2023026891A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/22Character recognition characterised by the type of writing
    • G06V30/224Character recognition characterised by the type of writing of printed characters having additional code marks or containing code marks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】本発明は、作業対象が占める領域が変化した場合であっても、撮影された映像における加工の過不足の発生を抑制することができる情報処理装置、及び情報処理プログラムを提供することを目的とする。【解決手段】情報処理装置は、プロセッサを有し、プロセッサは、物体を撮影した画像を取得し、画像における物体のうち作業を行う対象である作業対象が占める第1の領域を特定し、画像における第1の領域以外の領域を示す第2の領域を不可視にする加工を施した加工画像を生成し作業対象の変形に伴い第1の領域が変化する場合、第1の領域の代わりに予め登録した変形後の作業対象の形状が定める領域である変形領域を適用して、当該適用に伴う第2の領域を不可視にした加工画像をさらに生成し、加工画像を送信する。【選択図】図3

Description

本発明は、情報処理装置、及び情報処理プログラムに関する。
特許文献1には、撮像手段を具備し保守作業者が装着するウェアラブル端末と、初期状態の前記撮像手段で取得した撮像画像における所定の基準点を基準として、保守対象を含む所定の第1の3次元領域及び/又は前記保守対象を除く所定の第2の3次元領域を特定する第1特定手段と、前記ウェアラブル端末が移動した移動後状態において、前記撮像手段で取得した撮像画像における前記第1の3次元領域に対応する有効画素領域を除くマスク画素領域を特定するか及び/又は前記第2の3次元領域に対応するマスク画素領域を特定する第2特定手段と、前記移動後状態の前記撮像手段で取得した撮像画像に対して、前記第2特定手段で特定した前記マスク画素領域を不可視にした加工画像を生成する加工画像生成手段と、前記加工画像生成手段で生成した前記加工画像を保守支援者側端末に送信する通信手段と、を備え、前記移動後状態の前記撮像手段で取得した撮像画像中に前記基準点が含まれる必要がない、ことを特徴とする保守支援システムが開示されている。
特許文献2には、ITシステムの運用作業を支援するIT運用作業遠隔支援システムであって、現地のITシステムで作業を行う第1作業者の第1携帯端末と、遠隔地で作業を行う第2作業者の第2携帯端末と、サーバと、を備え、前記ITシステムの機器には、IDが記載されたID媒体が付与されており、前記機器と前記IDとの関連付け情報と、前記第1作業者のユーザID及び前記第2作業者のユーザIDと、前記IDで示す前記機器に対する前記第2作業者の参照権限の情報と、を含む設定情報を有し、前記サーバは、前記第1作業者がカメラを用いて前記機器を撮影した撮影映像から、前記ID媒体の前記IDを検出し、前記設定情報に基づいて、前記検出した前記IDで示す前記機器に関する前記第2作業者の参照権限の有無を確認し、前記撮影映像に対し、前記第2作業者の参照権限が有る前記機器の画像部分を非マスク領域とし、前記第2作業者の参照権限が無い前記機器の画像部分をマスク領域としたマスキング処理を施して、マスキング映像を生成し、前記マスキング映像を前記第2携帯端末へ提供して表示画面に表示させる、IT運用作業遠隔支援システムが開示されている。
特許文献3には、データキャプチャ及び送信のコンプライアンスのためにローカル拡張現実(AR)環境においてビデオ信号からシーンの部分を除外する方法であって、ビデオカメラの指向方向をユーザの動きに従わせるステップと、ローカルシーン内のオブジェクトのビデオカメラの視野(FOV)内のビデオ信号をキャプチャするステップと、遠隔地から、前記オブジェクトを操作するためのハンドジェスチャを受信するステップと、前記ハンドジェスチャを前記ビデオ信号に重ね、前記オブジェクトの操作の際に前記ユーザに命令するために前記ユーザに対する拡張現実を表示するステップと、前記ビデオ信号をキャプチャする前に、前記ビデオカメラのFOVがマーカに関してユーザ定義の許容可能なFOV内にあるように、前記ビデオカメラの指向方向が前記ローカルシーン内の前記マーカに対する位置調整条件を満たすか否かを決定するステップと、前記位置調整条件が満たされない場合、前記ビデオ信号内のキャプチャから、前記ユーザ定義の許容可能なFOV外にある前記カメラのFOVの部分を少なくとも除外するように、前記カメラを制御するステップとを含む方法が開示されている。
特許6748793号 特開2018-36812号公報 特表2020-537230号公報
現場の作業者によって撮影された映像を遠隔にいる支援者が操作する端末へ送信して、現場の作業者と、遠隔にいる支援者と、が作業の状況を共有して作業の支援を行う技術が提案されている。
ところで、撮影された映像に、作業を行う対象である作業対象以外の情報が含まれることがある。そのため、作業者の位置における作業対象が占める領域を予め指定し、作業対象が占める領域のみを撮影し、予め登録した作業対象以外の領域である背景を加工して端末へ送信することによって機密情報等の情報の漏洩を防止することがある。
しかしながら、例えば、作業対象の扉を開く、及び作業対象の部品を取り外す等の作業に伴い、作業対象が占める領域が変化した場合、作業対象の一部が背景として認識される、及び背景が加工されずに撮影されてしまうことがある。すなわち、撮影された映像における加工の過不足が生じることがある。
本発明は、作業対象が占める領域が変化した場合であっても、撮影された映像における加工の過不足の発生を抑制することができる情報処理装置、及び情報処理プログラムを提供することを目的とする。
第1の態様の情報処理装置は、プロセッサを有し、プロセッサは、物体を撮影した画像を取得し、画像における物体のうち作業を行う対象である作業対象が占める第1の領域を特定し、画像における第1の領域以外の領域を示す第2の領域を不可視にする加工を施した加工画像を生成し作業対象の変形に伴い第1の領域が変化する場合、第1の領域の代わりに予め登録した変形後の作業対象の形状が定める領域である変形領域を適用して、当該適用に伴う第2の領域を不可視にした加工画像をさらに生成し、加工画像を送信する。
第2の態様の情報処理装置は、第1の態様に係る情報処理装置において、プロセッサは、画像に対応し、物体を含む三次元空間の情報である空間情報をさらに取得し、画像から作業対象を示す特徴点を検出し、特徴点を用いて、空間情報における第1の領域に対応する第1の空間、及び第2の領域に対応する第2の空間を特定する。
第3の態様の情報処理装置は、第2の態様に係る情報処理装置において、プロセッサは、第2の空間に対して、不可視にする情報を示す不可視情報を設定し、不可視情報を用いて、画像において第2の空間に対応する第2の領域を不可視にした加工画像を生成する。
第4の態様の情報処理装置は、第3の態様に係る情報処理装置において、プロセッサは、空間情報における画像を撮影する撮影部、及び作業対象の位置の情報を示す位置情報と、撮影部が撮影する方向を示す方向情報と、をさらに取得し、位置情報及び方向情報に応じて、第2の領域を不可視にした加工画像を生成する。
第5の態様の情報処理装置は、第4の態様に係る情報処理装置において、特徴点の変化量から位置情報、及び方向情報を推定する。
第6の態様の情報処理装置は、第1の態様から第5の態様の何れか1つの態様に係る情報処理装置において、プロセッサは、複数の変形領域を記憶し、複数の変形領域のうち、1つの変形領域の指定を受け付ける。
第7の態様の情報処理装置は、第1の態様から第6の態様の何れか1つの態様に係る情報処理装置において、プロセッサは、画像から作業対象を示す特徴点を検出し、特徴点の変化量から作業対象の変形を検出した場合、第1の領域を変形領域に切り替える旨を通知する。
第8の態様の情報処理装置は、第7の態様に係る情報処理装置において、プロセッサは、検出した作業対象の変形が、第1の領域を拡げる変形である場合、変形後の作業対象の対応する変形領域を適用して、加工画像を生成する。
第9の態様の情報処理装置は、第1の態様から第8の態様の何れか1つの態様に係る情報処理装置において、プロセッサは、第1の領域を狭める変形領域への切り替えの指示を取得した場合、指示に応じた変形領域を適用して、加工画像を生成する。
第10の態様の情報処理プログラムは、コンピュータに、物体を撮影した画像を取得し、画像における物体のうち作業を行う対象である作業対象が占める第1の領域を特定し、画像における第1の領域以外の領域を示す第2の領域を不可視にする加工を施した加工画像を生成し作業対象の変形に伴い第1の領域が変化する場合、第1の領域の代わりに予め登録した変形後の作業対象の形状が定める領域である変形領域を適用して、当該適用に伴う2の領域を不可視にした加工画像をさらに生成し、加工画像を送信することを実行させる。
第1の態様の情報処理装置、及び第10の態様の情報処理プログラムによれば、作業対象が占める領域が変化した場合であっても、撮影された映像における加工の過不足の発生を抑制することができる。
第2の態様の情報処理装置によれば、物体と、撮影部と、の相対的な位置が変化した場合であっても、第1の領域、及び第2の領域を識別できる。
第3の態様の情報処理装置によれば、物体と、撮影部と、の相対的な位置が変化した場合であっても、第2の領域を加工できる。
第4の態様の情報処理装置によれば、相対的な位置関係、及び相対的な方向を考慮して、第2の領域を加工できる。
第5の態様の情報処理装置によれば、位置、及び方向を検知するセンサ等を用いらずとも、容易に位置及び方向の情報を取得できる。
第6の態様の情報処理装置によれば、ユーザが所望する契機において、ユーザが所望する形状の第1の領域を適用できる。
第7の態様の情報処理装置によれば、第1の領域の形状が変化することを認識できる。
第8の態様の情報処理装置によれば、変形領域に切り替える作業の負担を軽減できる。
第9の態様の情報処理装置によれば、意図しない加工不足が発生することを抑制できる。
各実施形態に係る情報処理システムの構成の一例を示す概略図である。 各実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図である。 各実施形態に係る情報処理装置の機能構成の一例を示すブロック図である。 各実施形態に係るSLAMの説明に供する三次元空間情報の一例を示す模式図である。 各実施形態に係る作業対象が占める空間の説明に供する三次元空間情報の一例を示す模式図である。 各実施形態に係る画像の一例を示す模式図である。 各実施形態に係る加工画像の一例を示す模式図である。 各実施形態に係る作業対象の変形に伴う切り替えの説明に供する対象空間の一例を示す図である。 第1実施形態に係る加工画像を生成する処理の一例を示すフローチャートである。 第2実施形態に係る変形の検出の説明に供する対象空間の一例を示す図である。 第2実施形態に係る変形の検出の説明に供する対象空間の一例を示す図である。 第2実施形態に係る加工画像を生成する処理の一例を示すフローチャートである。
[第1実施形態]
以下、図面を参照して、本発明を実施するための形態例を詳細に説明する。図1は、本実施形態に係る情報処理システム1の構成の一例を示す概略図である。
一例として、図1に示すように、情報処理システム1は、作業者が操作する情報処理装置10と、支援者が操作する端末50と、によって構成されている。情報処理装置10、及び端末50は、ネットワークNを介して互いに接続されている。
情報処理装置10は、後述するモニタ16及びカメラ18を備えたタブレット等の端末である。情報処理装置10は、作業を行う対象(以下、「作業対象」という。)の画像を取得し、取得した画像を端末50に送信する。情報処理装置10は、画像を端末50に送信する際に、作業対象以外の物体及び背景が画像に含まれる場合、作業対象以外の物体及び背景を不可視とする加工を施す。また、情報処理装置10は、端末50から支援者による作業の支援に関する情報(以下、「支援情報」という。)を取得して、作業者に提示する。
端末50は、情報処理装置10から画像を取得し、支援者に提示する。また、端末50は、支援者によって入力された支援情報を情報処理装置10に送信する。
情報処理システム1は、情報処理装置10が作業者によって撮影された画像を送信して端末50に提示し、端末50が支援者によって入力された支援情報を送信して情報処理装置10に提示する。情報処理システム1により、作業者は、情報処理装置10を介して遠隔にいる支援者から支援情報を受け取り、作業対象に対する作業が実行できる。
なお、本実施形態では、画像を撮影する形態について説明する。しかし、これに限定されない。映像を撮影してもよい。
次に、図2を参照して、情報処理装置10のハードウェア構成について説明する。図2は、本実施形態に係る情報処理装置10のハードウェア構成の一例を示すブロック図である。
図2に示すように、本実施形態に係る情報処理装置10は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、ストレージ14、入力部15、モニタ16、通信インターフェース(通信I/F)17、及びカメラ18を含んで構成されている。CPU11、ROM12、RAM13、ストレージ14、入力部15、モニタ16、通信I/F17、及びカメラ18の各々は、バス19により相互に接続されている。ここで、CPU11は、プロセッサの一例である。
CPU11は、情報処理装置10の全体を統括し、制御する。ROM12は、本実施形態で用いる情報処理プログラムを含む各種プログラム及びデータ等を記憶している。RAM13は、各種プログラムの実行時のワークエリアとして用いられるメモリである。CPU11は、ROM12に記憶されたプログラムをRAM13に展開して実行することにより、画像に対して加工を施した加工画像を生成する処理を行う。ストレージ14は、一例としてHDD(Hard Disk Drive)、SSD(Solid State Drive)、又はフラッシュメモリ等である。なお、ストレージ14には、情報処理プログラム等を記憶してもよい。入力部15は、文字の入力等を受け付けるタッチパネル、及びキーボード等である。モニタ16は、文字及び画像を表示する。通信I/F17は、データの送受信を行う。カメラ18は、作業対象を撮像するための撮像装置である。ここで、カメラ18は、「撮影部」の一例である。
次に、図3を参照して、情報処理装置10の機能構成について説明する。図3は、本実施形態に係る情報処理装置10の機能的な構成の一例を示すブロック図である。
一例として図3に示すように、情報処理装置10は、取得部21、検出部22、推定部23、設定部24、特定部25、生成部26、記憶部27、受付部28、及び通知部29を備えている。CPU11が情報処理プログラムを実行することで、取得部21、検出部22、推定部23、設定部24、特定部25、生成部26、記憶部27、受付部28、及び通知部29として機能する。
取得部21は、カメラ18によって撮影された作業対象である物体を含む画像を取得する。また、取得部21は、画像に含まれる物体のうち、作業を行う対象である作業対象の指定を取得する。なお、本実施形態に係る作業対象は、物体の表面に付されたQR(Quick Response)コードを読み取ることによって、指定される形態について説明する。しかし、これに限定されない。識別された物体をモニタ16に表示して、当該物体のうち、作業対象をユーザに選択させてもよい。
検出部22は、取得した画像から物体を示す特徴点を検出する。ここで、特徴点とは、画像に含まれる物体のエッジ及び角等を示す点である。
推定部23は、検出した特徴点31を用いて、作業者(カメラ18)の位置及び方向を推定し、作業者の位置及び方向における対象空間33を推定する。具体的には、SLAM(Simultaneous Localization And Mapping)技術を用いて、作業者の位置を示す位置情報、方向を示す方向情報、及び対象空間33を推定する。
例えば、作業者は、作業対象32に付されたQRコード(登録商標)を読み取って撮影を開始し、検出部22は、撮影された画像に含まれる特徴点31を検出する。推定部23は、時間経過に伴って撮影された複数の画像に含まれる特徴点31を比較し、特徴点31の変化量から作業者(カメラ18)が撮影している位置及び方向を推定する。
一例として図4に示すように、撮影された画像に含まれる特徴点31を追跡することによって、作業者の位置情報、方向情報、及び対象空間33が推定可能である。なお、本実施形態では、作業対象32に付されたQRコード(登録商標)を読み取ることによって、撮影開始時の作業者の位置を推定する形態について説明した。しかし、これに限定されない。例えば、予め定められた位置において、作業対象32の撮影を開始してもよい。また、本実施形態では、特徴点31の変化量から作業者の位置情報及び方向情報を推定する形態について説明した。しかし、これに限定されない。例えば、作業者がいる空間の特徴点31を配置した特徴点マップを予め作成し、撮影した画像に含まれる特徴点31と、特徴点マップと、を比較することによって作業者の位置情報及び方向情報を推定してもよい。
設定部24は、取得した画像、及び検出した特徴点を用いて、三次元空間情報を設定する。具体的には、設定部24は、一例として図5に示す三次元空間情報を設定する。図5に示すように、設定部24は、特徴点31を用いて、画像に含まれる空間、及び各々の物体を識別する。設定部24は、三次元空間情報として、当該物体のうち、ユーザによって指定された作業対象32が占める空間(以下、「対象空間」という。)33と、作業対象以外(他の物体及び背景等)が占める空間(以下、「対象外空間」という。)34と、を設定する。なお、対象空間33は、「第1の空間」の一例であり、対象外空間34は、「第2の空間」の一例である。
また、設定部24は、対象外空間34に対して、視認させたくない背景として不可視にする情報(以下、「不可視情報」という。)を設定する。すなわち、三次元空間情報は、物体を示す特徴点31が設定された三次元座標空間であり、指定された作業対象32が占める対象空間33と、対象空間33を除く空間である対象外空間34と、で構成されている。
また、設定部24は、三次元空間情報を保持している場合、三次元空間情報の設定として、取得した画像、及び検出した特徴点を用いて、作業者の位置情報及び方向情報における対象空間33、及び対象外空間34の位置合わせを行う。
特定部25は、一例として図6に示すように、取得した画像35において、画像35に含まれる物体のうち、作業対象32が占める領域(以下、「対象領域」という。)36を特定する。具体的には、特定部25は、取得した画像35、及び三次元空間情報を比較して、画像35において、三次元空間情報の対象空間33に対応する対象領域36を特定する。また、特定部25は、三次元空間情報における対象外空間34に対応する対象領域36以外の領域(以下、「対象外領域」という。)37を加工すべき背景として特定する。ここで、対象領域36は、「第1の領域」の一例であり、対象外領域37は、「第2の領域」の一例である。
生成部26は、一例として図7に示すように、取得した画像35において、不可視情報が設定された対象外空間34に対応する対象外領域37に対して、不可視にする加工を施した画像(以下、「加工画像」という。)38を生成する。ここで、不可視にする加工とは、例えば、物体の輪郭及び文字等をぼかす加工、及び対象外領域37を黒塗りする加工等である。
記憶部27は、変形後の作業対象の形状を記憶している。
受付部28は、作業対象32の変形に伴い対象領域36が変化する場合、対象領域36の代わりに予め登録した変形後の作業対象32の形状が定める領域(以下、「変形領域」という。)に切り替える指示、及び変形後の作業対象の形状をユーザから受け付ける。
通知部29は、特徴点31の変化量から作業対象32の変形を検出した場合、変形領域に切り替える旨を通知する。
次に、情報処理装置10の作用について説明する前に、図8を参照して、対象領域36を変形領域に切り替える手法について説明する。図8は、作業対象32の変形に伴う切り替えの説明に供する対象空間33の一例を示す図である。
例えば、作業対象32が画像形成装置である場合、画像形成装置の扉が開閉され、画像形成装置の形状が変形する場合がある。作業対象32が変形した場合、設定部24によって変形する前に設定された対象空間33では、作業の一部が不可視に加工されてしまう、又は不可視にすべき領域が不可視に加工されないことがある。
そこで、本実施形態に係る情報処理装置10は、記憶部27に変形後の作業対象32の形状を作業対象32毎に予め記憶しておき、予め記憶された形状のうち、変形後の作業対象32の形状に対応する形状の指定をユーザから受け付ける。
受付部28は、ユーザから変形後の作業対象32の形状の指定を受け付け、設定部24は、受け付けた変形後の作業対象32の形状に対応する空間(以下、「変形空間」をいう。)を設定する。設定部24は、図8に示すように、ユーザの指定に応じて、変形前の対象空間33を変形空間に切り替えて、三次元空間情報に設定する。
ここで、変形空間は、推定した位置情報及び方向情報を考慮して、三次元空間情報に設定される。例えば、記憶部27に記憶されている変形後の作業対象32の形状が、作業対象32を正面から見た形状である場合、推定した位置情報及び方向情報(例えば、変形後の作業対象32を側面から見た形状)に対応する変形空間を生成する。これにより、記憶部27に記憶されている変形後の作業対象32の形状と、作業者の現在地から見た作業対象32の形状と、が対応付けられる。
特定部25は、取得した画像35、及び三次元空間情報を比較して、当該画像35において、三次元空間情報の変形空間に対応する変形領域を特定する。また、特定部25は、変形領域以外の領域を背景として加工すべき対象外領域37として特定する。
生成部26は、画像35において、対象外領域37に対して不可視にした加工画像38を生成する。
次に、図9を参照して、本実施形態に係る情報処理装置10の作用について説明する。図9は、本実施形態に係る加工画像38を生成する処理の一例を示すフローチャートである。CPU11がROM12又はストレージ14から情報処理プログラムを読み出し、実行することによって、図9に示す画像生成処理が実行される。図9に示す画像生成処理は、例えば、ユーザから加工画像38を生成する指示が入力された場合、実行される。
ステップS101において、CPU11は、作業対象32を含む物体が撮影された画像35を取得する。
ステップS102において、CPU11は、ユーザによって指定された作業対象32を取得する。
ステップS103において、CPU11は、取得した画像35から物体の特徴点31を検出する。
ステップS104において、CPU11は、SLAM技術を用いて、検出した特徴点31から作業者の位置情報及び方向情報を推定する。
ステップS105において、CPU11は、対象空間33と、対象外空間34と、を三次元空間情報に設定する。ここで、三次元空間情報において、対象外空間34に不可視情報を設定する。また、時間経過に伴って新たな画像35を取得し、特徴点31を検出した場合、当該特徴点31を用いて、対象空間33と、対象外空間34と、を三次元空間情報に設定する。
ステップS106において、CPU11は、ユーザから変形後の作業対象32の形状の指定を受け付けたか否かの判定を行う。変形後の作業対象32の形状の指定を受け付けた場合(ステップS106:YES)、CPU11は、ステップS107に移行する。一方、変形後の作業対象32の形状の指定を受け付けていない場合(ステップS106:NO)、CPU11は、ステップS109に移行する。
ステップS107において、CPU11は、変形領域に切り替える指示、及び変形後の作業対象32の形状を受け付ける。
ステップS108において、CPU11は、受け付けた変形後の作業対象32の形状を用いて変形空間を設定し、変形空間に対応する変形領域を特定して、対象領域36に代えて、変形領域を適用する。
ステップS109において、CPU11は、三次元空間情報と、取得した画像35を比較して、画像35における対象領域36を特定する。
ステップS110において、CPU11は、対象外領域37を加工した加工画像38を生成する。
ステップS111において、CPU11は、生成した加工画像38を端末50に送信する。
ステップS112において、CPU11は、処理を終了するか否かの判定を行う。処理を終了する場合(ステップS112:YES)、CPU11は、加工画像38を生成する処理を終了する。一方、処理を終了しない場合(ステップS112:NO)、CPU11は、ステップS113に移行する。
ステップS113において、CPU11は、作業対象32を含む物体が撮影された新たな画像35を取得する。
ステップS114において、CPU11は、取得した画像35から物体の特徴点31を検出し、ステップS104に移行し、検出した特徴点31を用いて、対象空間33、及び対象外空間34の位置合わせを行い、三次元空間情報を設定する。
以上説明したように、本実施形態によれば、作業対象32が占める領域が変化した場合であっても、撮影された画像における加工の過不足の発生を抑制することができる。
[第2実施形態]
第1実施形態では、ユーザから変形後の作業対象32の形状の指定を受け付ける形態について説明した。本実施形態では、変形後の作業対象32の形状を検出する形態について説明する。
なお、本実施形態に係る情報処理システムの構成(図1参照)、情報処理装置10のハードウェア構成(図2参照)、及び情報処理装置10の機能構成(図3参照)は、第1実施形態と同様であるため、説明を省略する。また、本実施形態に係る三次元空間情報の例(図4、及び図5参照)、撮影された画像35及び加工画像38の例(図6、及び図7参照)は、第1実施形態と同様であるため、説明を省略する。
一例として図10に示すように、情報処理装置10に係る検出部22は、検出した特徴点31同士を比較して、特徴点31の変化量が大きい空間と、特徴点31の変化量が小さい空間と、を検出する。例えば、図10に示すように、検出部22は、特徴点の変化量が大きい空間と、特徴点31の変化量が小さい空間と、を検出する。通知部29は、対象空間33を狭める変化を検出した場合、変化後の作業対象32の形状を指定して対象空間33を切り替える旨の通知を行う。ここで、ユーザは、当該通知を受けた場合、変化後の作業対象32の形状の指定を行ってから作業対象に対する作業(対象空間33を狭める作業)を行う。これにより、作業対象32の変形に伴って変形前まで作業対象32であった箇所が画像に映り込むことが抑制される。
また、一例として図11に示すように、検出部22は、対象空間33を拡げる変化を検出した場合、検出された特徴点31を用いて変形後の作業対象32の形状を検出し、設定部24は、変形後の作業対象32の形状に対応する対象空間33を設定する。これにより、ユーザによって変形後の作業対象32の形状の指定がなくとも、作業対象32が不可視となることが抑制される。また、設定部24は、対象空間33を拡げる変化が止まった際に、変形後の作業対象32の形状に対応する対象空間33を設定することによって、ユーザによる作業の途中で、背景である箇所が画像に映り込むことが抑制される。
図12を参照して、本実施形態に係る情報処理装置10の作用について説明する。図12は、本実施形態に係る加工画像38を生成する処理の一例を示すフローチャートである。CPU11がROM12又はストレージ14から情報処理プログラムを読み出し、実行することによって、図12に示す画像生成処理が実行される。図12に示す画像生成処理は、例えば、ユーザから加工画像38を生成する指示が入力された場合、実行される。なお、図12において、図9に示す画像生成処理と同一のステップについては、図9と同一の符号を付して、その説明を省略する。
ステップS115において、CPU11は、特徴点の変化量から作業対象32の変形を検出したか否かの判定を行う。作業対象32の変形を検出した場合(ステップS115:YES)、CPU11は、ステップS116に移行する。一方、作業対象32の変形を検出していない場合(ステップS115:NO)、CPU11は、ステップS109に移行する。
ステップS116において、CPU11は、検出した変形が対象空間33を縮小する変形であるか否かの判定を行う。対象空間33を縮小する変形である場合(ステップS116:YES)、CPU11は、ステップS117に移行する。一方、対象空間33を縮小する変形ではない(対象空間33を拡大する変形である)場合(ステップS116:NO)、CPU11は、ステップS119に移行する。
ステップS117において、CPU11は、ユーザに対して変形領域に切り替える旨を通知する。
ステップS118において、CPU11は、ユーザから変形領域へ切り替える指示、及び変形後の作業対象32の形状を受け付ける。
ステップS119において、CPU11は、検出された特徴点31の変化量から変形後の作業対象32の形状を検出する。
ステップS120において、CPU11は、変形後の作業対象32の形状を用いて変形空間を設定し、変形空間に対応する変形領域を特定して、対象領域36に代えて、変形領域を適用する。
以上説明したように、本実施形態によれば、意図しない加工不足が発生することを抑制できる。
なお、上記実施形態では、情報処理装置10は、作業者が所持する端末である形態について説明した。しかし、これに限定されない。情報処理装置10はサーバであってもよい。例えば、情報処理装置10を備えたサーバは、作業者が所持する端末から画像35、及び作業対象32を取得し、当該画像35における対象外領域37を不可視に加工して、支援者が所持する端末に加工画像38を送信してもよい。
以上、各実施形態を用いて本発明について説明したが、本発明は各実施形態に記載の範囲には限定されない。本発明の要旨を逸脱しない範囲で各実施形態に多様な変更又は改良を加えることができ、当該変更又は改良を加えた形態も本発明の技術的範囲に含まれる。
なお、上記実施形態において、プロセッサとは広義的なプロセッサを指し、例えば汎用的なプロセッサ(例えば、CPU:Central Processing Unit)や、専用のプロセッサ(例えば、GPU:Graphics Processing Unit、ASIC:Application Specific Integrated Circuit、FPGA:Field Programmable Gate Array、プログラマブル論理デバイス、等)を含むものである。
また、上記各実施形態におけるプロセッサの動作は、1つのプロセッサによって成すのみでなく、物理的に離れた位置に存在する複数のプロセッサが協働して成すものであってもよい。また、プロセッサの各動作の順序は上記各実施形態において記載した順序のみに限定されるものではなく、適宜変更してもよい。
また、本実施形態では、情報処理プログラムがストレージにインストールされている形態を説明したが、これに限定されるものではない。本実施形態に係る情報処理プログラムを、コンピュータ読取可能な記憶媒体に記録した形態で提供してもよい。例えば、本発明に係る情報処理プログラムを、CD(Compact Disc)-ROM及びDVD(Digital Versatile Disc)-ROM等の光ディスクに記録した形態で提供してもよい。本発明に係る情報処理プログラムを、USB(Universal Serial Bus)メモリ及びメモリカード等の半導体メモリに記録した形態で提供してもよい。また、本実施形態に係る情報処理プログラムを、通信I/Fに接続された通信回線を介して外部装置から取得するようにしてもよい。
1 情報処理システム
10 情報処理装置
11 CPU
12 ROM
13 RAM
14 ストレージ
15 入力部
16 モニタ
17 通信I/F
18 カメラ
19 バス
21 取得部
22 検出部
23 推定部
24 設定部
25 特定部
26 生成部
27 記憶部
28 受付部
29 通知部
31 特徴点
32 作業対象
33 対象空間
34 対象外空間
35 画像
36 対象領域
37 対象外領域
38 加工画像
50 端末

Claims (10)

  1. プロセッサを有し、前記プロセッサは、
    物体を撮影した画像を取得し、
    前記画像における前記物体のうち作業を行う対象である作業対象が占める第1の領域を特定し、
    前記画像における前記第1の領域以外の領域を示す第2の領域を不可視にする加工を施した加工画像を生成し
    前記作業対象の変形に伴い前記第1の領域が変化する場合、前記第1の領域の代わりに予め登録した変形後の前記作業対象の形状が定める領域である変形領域を適用して、当該適用に伴う第2の領域を不可視にした加工画像をさらに生成し、
    前記加工画像を送信する
    情報処理装置。
  2. 前記プロセッサは、
    前記画像に対応し、前記物体を含む三次元空間の情報である空間情報をさらに取得し、
    前記画像から前記作業対象を示す特徴点を検出し、
    前記特徴点を用いて、前記空間情報における前記第1の領域に対応する第1の空間、及び前記第2の領域に対応する第2の空間を特定する
    請求項1に記載の情報処理装置。
  3. 前記プロセッサは、
    前記第2の空間に対して、不可視にする情報を示す不可視情報を設定し、
    前記不可視情報を用いて、前記画像において前記第2の空間に対応する前記第2の領域を不可視にした加工画像を生成する
    請求項2に記載の情報処理装置。
  4. 前記プロセッサは、
    前記空間情報における前記画像を撮影する撮影部、及び前記作業対象の位置の情報を示す位置情報と、前記撮影部が撮影する方向を示す方向情報と、をさらに取得し、
    前記位置情報及び方向情報に応じて、前記第2の領域を不可視にした前記加工画像を生成する
    請求項3に記載の情報処理装置。
  5. 前記特徴点の変化量から前記位置情報、及び前記方向情報を推定する
    請求項4に記載の情報処理装置。
  6. 前記プロセッサは、
    複数の前記変形領域を記憶し、
    前記複数の変形領域のうち、1つの変形領域の指定を受け付ける
    請求項1から請求項5の何れか1項に記載の情報処理装置。
  7. 前記プロセッサは、
    前記画像から前記作業対象を示す特徴点を検出し、
    前記特徴点の変化量から前記作業対象の変形を検出した場合、前記第1の領域を前記変形領域に切り替える旨を通知する
    請求項1から請求項6の何れか1項に記載の情報処理装置。
  8. 前記プロセッサは、
    検出した前記作業対象の変形が、前記第1の領域を拡げる変形である場合、変形後の前記作業対象の対応する変形領域を適用して、加工画像を生成する
    請求項7に記載の情報処理装置。
  9. 前記プロセッサは、
    前記第1の領域を狭める変形領域への切り替えの指示を取得した場合、前記指示に応じた前記変形領域を適用して、前記加工画像を生成する
    請求項1から請求項8の何れか1項に記載の情報処理装置。
  10. コンピュータに、
    物体を撮影した画像を取得し、
    前記画像における前記物体のうち作業を行う対象である作業対象が占める第1の領域を特定し、
    前記画像における前記第1の領域以外の領域を示す第2の領域を不可視にする加工を施した加工画像を生成し
    前記作業対象の変形に伴い前記第1の領域が変化する場合、前記第1の領域の代わりに予め登録した変形後の前記作業対象の形状が定める領域である変形領域を適用して、当該適用に伴う2の領域を不可視にした加工画像をさらに生成し、
    前記加工画像を送信する
    ことを実行させるための情報処理プログラム。
JP2021132322A 2021-08-16 2021-08-16 情報処理装置、及び情報処理プログラム Pending JP2023026891A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021132322A JP2023026891A (ja) 2021-08-16 2021-08-16 情報処理装置、及び情報処理プログラム
US17/549,109 US20230046226A1 (en) 2021-08-16 2021-12-13 Information processing apparatus, non-transitory computer readable medium, and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021132322A JP2023026891A (ja) 2021-08-16 2021-08-16 情報処理装置、及び情報処理プログラム

Publications (1)

Publication Number Publication Date
JP2023026891A true JP2023026891A (ja) 2023-03-01

Family

ID=85178001

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021132322A Pending JP2023026891A (ja) 2021-08-16 2021-08-16 情報処理装置、及び情報処理プログラム

Country Status (2)

Country Link
US (1) US20230046226A1 (ja)
JP (1) JP2023026891A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102208708B1 (ko) * 2019-08-14 2021-01-28 한국과학기술연구원 공통 좌표계 기반의 가상공간에서 가상 컨텐츠 제공 방법 및 장치

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6859164B2 (ja) * 2017-04-06 2021-04-14 川崎重工業株式会社 変形加工支援システムおよび変形加工支援方法
US10902657B2 (en) * 2018-11-28 2021-01-26 Adobe Inc. Jointly editing related objects in a digital image
KR20210142630A (ko) * 2019-03-22 2021-11-25 에스피피 테크놀로지스 컴퍼니 리미티드 보수 지원 시스템, 보수 지원 방법 및 프로그램

Also Published As

Publication number Publication date
US20230046226A1 (en) 2023-02-16

Similar Documents

Publication Publication Date Title
CN109561296B (zh) 图像处理装置、图像处理方法、图像处理系统和存储介质
US10001844B2 (en) Information processing apparatus information processing method and storage medium
US20190155383A1 (en) Gaze Detection Method and Apparatus
US10839521B2 (en) Image processing apparatus, image processing method, and computer-readable storage medium
JP2019114821A (ja) 監視システム、装置、方法およびプログラム
JP2019083402A (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP7129843B2 (ja) 画像処理装置、画像処理装置の制御方法、システム、及び、プログラム
JP2018194985A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2023026891A (ja) 情報処理装置、及び情報処理プログラム
JP2016144049A (ja) 画像処理装置、画像処理方法、およびプログラム
JP6991045B2 (ja) 画像処理装置、画像処理装置の制御方法
JP6104066B2 (ja) 画像処理装置および画像処理方法
JP7341736B2 (ja) 情報処理装置、情報処理方法及びプログラム
KR20120082319A (ko) 윈도우 형태의 증강현실을 제공하는 장치 및 방법
JPWO2018012524A1 (ja) 投影装置、投影方法および投影制御プログラム
JP2019185475A (ja) 特定プログラム、特定方法及び情報処理装置
JP5951966B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2021056899A (ja) 画像処理装置、画像処理方法およびプログラム
US20190080179A1 (en) Monitoring system and terminal device
JP2020187557A (ja) 温度画像表示装置、温度画像表示システムおよび温度画像表示プログラム
KR102252662B1 (ko) 이미지 맵과 연관되는 데이터를 생성하는 장치 및 그것의 동작 방법
JP2019125058A (ja) 画像処理装置、撮影装置、画像処理方法、およびプログラム
JP6034671B2 (ja) 情報表示装置、その制御方法およびプログラム
WO2016181672A1 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP7370769B2 (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240718