JP2021158468A - 撮影装置及び撮影方法 - Google Patents

撮影装置及び撮影方法 Download PDF

Info

Publication number
JP2021158468A
JP2021158468A JP2020055432A JP2020055432A JP2021158468A JP 2021158468 A JP2021158468 A JP 2021158468A JP 2020055432 A JP2020055432 A JP 2020055432A JP 2020055432 A JP2020055432 A JP 2020055432A JP 2021158468 A JP2021158468 A JP 2021158468A
Authority
JP
Japan
Prior art keywords
camera
light source
processor
traveling
robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020055432A
Other languages
English (en)
Inventor
徳政 有賀
Norimasa Ariga
徳政 有賀
真明 安永
Masaaki Yasunaga
真明 安永
景太 山崎
Keita Yamazaki
景太 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2020055432A priority Critical patent/JP2021158468A/ja
Priority to US17/103,816 priority patent/US11659264B2/en
Publication of JP2021158468A publication Critical patent/JP2021158468A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/35Categorising the entire scene, e.g. birthday party or wedding scene
    • G06V20/36Indoor scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Manipulator (AREA)
  • Accessories Of Cameras (AREA)
  • Studio Devices (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)

Abstract

【課題】撮影画像に照明光源が写り込まないようにする。【解決手段】撮影装置は、移動機構と、光源と、カメラと、を備える。移動機構は、第1の方向に移動する。光源は、移動機構に搭載されている。カメラは、高さ方向に沿って光源と直線状または略直線状に配置され、第1の方向及び高さ方向と直交する第2の方向に対して高さ方向を軸として回転された第3の方向を向いて撮像するように移動機構に取り付けられる。【選択図】 図2

Description

本発明の実施形態は、撮影装置及び撮影方法に関する。
スーパーマーケット等の店舗では、省力化の一環として、店舗内の商品棚をカメラで撮像し、商品棚の値札が正しいかどうかを自動的に確認する装置を利用している。
この装置による商品棚の値札の確認は、買物客が店舗内に存在しない営業時間外に行われる。特に、自動化の観点から、夜間に店舗内を自動巡回して行われる可能性が高い。夜間の撮像では、店舗内の照明が点灯していない可能性もあり、撮像には照明とカメラのセットで撮像する必要がある。
一方、商品棚の値札は多くの場合、透明樹脂に挟まれて商品棚端に設置されており、買物客はこれを透明樹脂越しに見るようになっている。このため、上記装置による撮影では、透明樹脂上で照明光源の反射が発生し、商品棚の値札に光源が写り込んでしまう可能性がある。このように光源が写り込むと撮影画像に白飛びが発生し、値札に印刷された値札情報が見えなくなる。
特開2012−053711号公報
本発明の実施形態が解決しようとする課題は、撮影画像に照明光源が写り込まない撮影装置及び撮影方法を提供しようとするものである。
一実施形態において、撮影装置は、移動機構と、光源と、カメラと、を備える。移動機構は、第1の方向に移動する。光源は、移動機構に搭載されている。カメラは、高さ方向に沿って光源と直線状または略直線状に配置され、第1の方向及び高さ方向と直交する第2の方向に対して高さ方向を軸として回転された第3の方向を向いて撮像するように移動機構に取り付けられる。
一実施形態において、撮影方法は、高さ方向に沿って直線状または略直線状に配置した光源とカメラを、カメラが第1の方向及び前記高さ方向と直交する第2の方向に対して高さ方向を軸として回転された第3の方向を向いて撮影するように取り付けた移動機構を、第1の方向に沿って並べられた1以上の撮影対象物と所定の距離を維持しながら、第1の方向に移動させることを備える。さらに撮影方法は、カメラが撮影した画像の歪みを補正して、カメラが第2の方向を向いて撮影した場合に相当する撮影画像を取得することを備える。
第1実施形態の撮影装置のハードウェア構成を示すブロック図。 走行ロボットへの照明光源とカメラの取り付け状態を示す模式図。 商品棚に対する走行ロボットの走行方向を示す、商品棚の上方から見た模式図。 商品棚に対するカメラの撮影範囲を示す模式図。 カメラで撮影された補正前の撮影画像データの一例を示す模式図。 補正後の撮影画像データの一例を示す模式図。 比較例の撮影画像データを示す模式図。 撮影制御装置のプロセッサの要部制御手順を示す流れ図。 図8中の画像補正処理の制御手順を示す流れ図。 第1実施形態の変形例1におけるカメラと照明光源の配置例を示す模式図。 変形例1における商品棚に対するカメラの撮影範囲を示す模式図。 第1実施形態の変形例2における撮影制御装置のプロセッサの要部制御手順を示す流れ図。 第2実施形態の撮影装置における走行ロボットへのカメラと光源の取り付け状態を示す模式図。 第2実施形態における商品棚に対する走行ロボットの走行方向を示す、商品棚の上方から見た模式図。 第2実施形態の撮影制御装置のプロセッサの要部制御手順を示す流れ図。
以下、撮影画像に照明光源が写り込まない撮影装置の実施形態について、図面を用いて説明する。
[第1実施形態]
図1は、第1実施形態の撮影装置1のハードウェア構成を示すブロック図である。撮影装置1は、撮影制御装置10、走行ロボット20、照明30、及びカメラ40を備える。さらに撮影装置1は、タッチパネル50及び/または画像認識装置60を備える場合もある。
撮影制御装置10は、この撮影装置1の各部を制御する。走行ロボット20は、予め決められた走行ルートを、撮影制御装置10の指示に応じて自律走行する。照明30は複数の照明光源を備える。照明光源は、白色光源でも良いし、赤外光源でも良い。カメラ40は撮影対象を撮影する。カメラ40は、例えばCCD(Charge Coupled Device)を撮像素子として使用するデジタルカメラである。照明光源が白色光源である場合、カメラ40はカラーカメラであっても良いし、モノクロカメラであっても良い。照明光源が赤外光源である場合には、カメラ40は赤外線カメラであって良い。タッチパネル50は、撮影装置1の使用者が撮影制御装置10に対して指示を入力し、また、撮影装置1が生成した各種情報を表示する。画像認識装置60は、カメラ40で撮影した撮影画像データから撮影対象を認識する。
撮影制御装置10は、プロセッサ11、メモリ12、ストレージ13、ロボットインタフェース14、照明インタフェース15、及びカメラインタフェース16を備える。さらに撮影制御装置10は、指示インタフェース17及び/または送信インタフェース18を備える場合がある。なお、図1では、インタフェースをI/Fと略記している。プロセッサ11、メモリ12、ストレージ13、ロボットインタフェース14、照明インタフェース15、カメラインタフェース16、指示インタフェース17及び送信インタフェース18は、それぞれシステム伝送路19と接続している。システム伝送路19は、アドレスバス、データバス、制御信号線等を含む。撮影制御装置10では、プロセッサ11及びメモリ12がシステム伝送路19で接続されて、撮影制御装置10を制御するための情報処理を行うコンピュータが構成される。
ロボットインタフェース14は、走行ロボット20と接続している。照明インタフェース15は、照明30と接続している。カメラインタフェース16は、カメラ40と接続している。指示インタフェース17は、タッチパネル50と接続している。送信インタフェース18は、画像認識装置60と接続している。
撮影制御装置10のプロセッサ11は、上記コンピュータの中枢部分に相当する。プロセッサ11は、オペレーティングシステムまたはアプリケーションプログラムに従って、撮影制御装置10としての各種の機能を実現するべく各部を制御する。プロセッサ11は、例えばCPU(Central Processing Unit)である。
メモリ12は、上記コンピュータの主記憶部分に相当する。メモリ12は、不揮発性のメモリ領域及び揮発性のメモリ領域を含む。メモリ12は、不揮発性のメモリ領域ではオペレーティングシステムまたはアプリケーションプログラムを記憶する。メモリ12は、プロセッサ11が各部を制御するための処理を実行する上で必要なデータを揮発性のメモリ領域で記憶する。プロセッサは、メモリ12の揮発性のメモリ領域を、データが適宜書き換えられるワークエリアとして使用する。不揮発性のメモリ領域は、例えばROM(Read Only Memory)である。揮発性のメモリ領域は、例えばRAM(Random Access Memory)である。
ストレージ13は、カメラ40が撮影した撮影画像データを不揮発性に記憶する。ストレージ13は、EEPROM(Electric Erasable Programmable Read-Only Memory)、HDD(Hard Disc Drive)またはSSD(Solid State Drive)等の周知の記憶デバイスを単独で、あるいは複数組み合わせて用いることができる。
ロボットインタフェース14は、プロセッサ11が走行ロボット20との間でデータを授受するためのインタフェースである。ロボットインタフェース14は、無線LAN(Local Area Network)、BlueTooth(登録商標)、等の無線通信によりデータを送受信するための無線通信ユニットを含む。このロボットインタフェース14により、撮影制御装置10は、店舗の管理室等に配置し、走行ロボット20を遠隔制御することができる。プロセッサ11から走行ロボット20へ送信するデータは、走行ロボット20の走行を指示する走行指示データ等を含むことができる。走行ロボット20は、店舗内のどこを走行するかを示す走行ルートを記憶しており、走行指示データは、その走行ルートが含む複数の走行開始地点の一つを指定するデータである。走行指示データは、走行の停止地点を指定するデータを含んでも良い。プロセッサ11が走行ロボット20から受信するデータは、走行ロボット20の自律走行に係わる状態データ等を含むことができる。状態データは、指定された走行開始地点に対応する、または指定された、停止地点に到達したことを示す到着データを含む。また状態データは、例えば故障等の報知データを含むことができる。
照明インタフェース15は、プロセッサ11から照明30が備える照明光源の点灯及び消灯を指示する照明制御データ等を送信するためのインタフェースである。照明インタフェース15は、無線LAN、BlueTooth、等の無線通信により照明制御データを送信するための無線通信ユニットを含む。この照明インタフェース15により、撮影制御装置10は、照明30の点灯状態を遠隔制御することができる。
カメラインタフェース16は、プロセッサ11がカメラ40との間でデータを授受するためのインタフェースである。カメラインタフェース16は、無線LAN、BlueTooth、等の無線通信によりデータを送受信するための無線通信ユニットを含む。このカメラインタフェース16により、撮影制御装置10は、カメラ40を遠隔制御することができる。プロセッサ11からカメラ40へ送信するデータは、カメラ40に撮影を行わせための撮影指示データ等を含むことができる。プロセッサ11がカメラ40から受信するデータは、カメラが撮影した撮影画像データ等を含むことができる。なお、撮影画像データは、ストレージ13に記憶されることができる。
指示インタフェース17は、プロセッサ11がタッチパネル50からの指示データを受け取るためのインタフェースである。指示データは、例えば、本撮影装置1の動作開始指示、カメラ40が撮影した撮影画像データの選択指示、選択された撮影画像データの画像認識装置60への出力、等を含むことができる。
送信インタフェース18は、プロセッサ11がストレージ13に記憶した撮影画像データを画像認識装置60へ送信するためのインタフェースである。送信インタフェース18は、無線LAN、BlueTooth、等の無線通信により撮影画像データを送信するための無線通信ユニットを含む。この送信インタフェース18により、撮影制御装置10は、画像認識装置60に、撮影画像データから、値札に印刷された値札情報等の撮影対象の情報を認識させることができる。
以下、走行ロボット20と照明30が含む照明光源とカメラ40との配置関係を、図2乃至図4を参照して説明する。図2は、走行ロボット20への照明光源31とカメラ40の取り付け状態を示す模式図である。また図3は、商品棚70に対する走行ロボット20の走行方向を示す、商品棚の上方から見た模式図である。図4は、商品棚70に対するカメラ40の撮影範囲を示す模式図である。
走行ロボット20は、3輪または4輪を有するロボットボディ21と、このロボットボディ21から上方に延びた取付部22と、を有する。ロボットボディ21は、前進方向及び後退方向へ移動することと、2輪差動駆動により左または右へ回動することと、が可能になっている。取付部22は、複数の照明光源31とカメラ40とが取り付けられる。照明光源31とカメラ40とは、高さ方向に沿って直線状に配置される。取付部22は、ロボットボディ21の側面の法線方向からずれた方向を向くように、カメラ40を保持する。
具体的には、走行ロボット20は、走行開始地点81から停止地点82まで、商品棚70とほぼ並行に走行する。以下、この方向を第1の方向と称する。かくして、走行ロボット20は、第1の方向に移動する移動機構として機能する。
商品棚70は、特に図示はしていないが、複数段の陳列棚を有する。各段の陳列棚は、同一商品を、陳列棚の奥行き方向(図3の上下方向)に整列して陳列する。また、各段の陳列棚は、異なる商品を、陳列棚の左右方向である第1の方向に並べて陳列する。そして各陳列棚は、各商品の価格を示す値札情報が印刷された値札を、各商品に対応させて提示している。ここで、商品棚70は、複数段の陳列棚を有するため、高さを持っている。走行ロボット20の取付部22は、カメラ40がこの商品棚70の複数段の陳列棚に提示された値札を撮影することができるような取付角度で、カメラ40を保持する。第1の方向及び高さ方向と直交する第2の方向、つまりロボットボディ21の側面の法線方向の、カメラ40と商品棚70の値札提示面との距離は、カメラ40がそのような撮影が可能なように規定される。すなわち、カメラ40の取付角度で決まる高さ方向の画角に応じて、カメラ40と商品棚70の間の距離が規定される。こうして、走行ロボット20が走行する、商品棚70からの距離が決められる。また、走行ロボット20の取付部22は、この高さ方向に分散配置された複数の値札をカメラ40で撮影するために、複数の照明光源31を、カメラ40を挟んで高さ方向に並べて保持している。
また、走行ロボット20の取付部22は、カメラ40を、第2の方向に対して高さ方向を軸として回転された第3の方向を向いて撮像する取付角度に保持する。すなわち、取付部22は、カメラ40の撮影光軸Oが、第2の方向に対して角度θだけ回転した第3の方向を向くように、カメラ40を保持する。このときのカメラ40で撮影される商品棚70の撮影幅Wは、このカメラ40のヨー(yaw)方向の回転角度θと、カメラ40と商品棚70の間の距離と、に応じて決まる。取付部22は、カメラ40のヨー方向の回転角度θが、カメラ40の第1の方向の画角AoVに対し1/2以上の角度を有するように、カメラ40を保持する。ヨー方向回転角度θがこの画角AoVの1/2よりも小さいと、照明光源31の値札による反射光がカメラ40の撮影画像データに写り込んでしまう。
図5は、カメラ40で撮影された補正前の撮影画像データの一例を示す模式図である。また図6は、カメラ40で撮影された補正後の撮影画像データの一例を示す模式図である。図7は、比較例の撮影画像データを示す模式図である。
上記のようにカメラ40を走行ロボット20の取付部22に、商品棚70の値札提示面と正対させずに、カメラ40のヨー方向に回転角度θを持って取り付けると、図5に示すように、カメラ40の撮影画像データ41は台形歪みを持つ。撮影制御装置10のプロセッサ11は、メモリ12に記憶したアプリケーションプログラムにより、この撮影画像データ41に対して台形歪みの補正処理を施す。これにより、プロセッサ11は、図5に示すような歪みを持った撮影画像データ41は、図6に示すように、台形歪みを持たない撮影画像データ42とすることができる。すなわち、プロセッサ11は、カメラ40を商品棚70の値札提示面と正対させて撮影した場合に得られる撮影画像データに対応する、つまりそのような撮影画像データと同等の、撮影画像データ42を得ることができる。カメラ40を商品棚70の値札提示面と正対させて撮影した場合、図7に示すように、得られる撮影画像データ43は、照明光源31が写り込んで白飛び44が発生する。これに対して、図6に示すように、補正後の撮影画像データ42は、そのような白飛びの無い画像となる。
図8は、撮影制御装置10のプロセッサ11の要部制御手順を示す流れ図である。以下、この図を用いて、撮影制御装置10の動作について説明する。なお、以下に説明する動作の手順及びその内容は一例である。同様な結果が得られるのであれば、その手順及び内容は限定されるものではない。
プロセッサ11は、例えば、指示インタフェース17を介してタッチパネル50より本撮影装置1の撮影開始指示を受けると、図8に示す動作を開始する。まず、プロセッサ11は、ロボットインタフェース14により走行ロボット20へ走行開始を指示するための走行指示データを送信する(ACT11)。
撮影制御装置10から走行ロボット20へ送信される走行指示データは、走行開始地点81を指定するデータであって良い。走行ロボット20は、店舗内のどこを走行するかを示す走行ルートを記憶している。すなわち、走行ロボット20は、指定された走行開始地点81に対応する停止地点82を記憶しているため、停止地点82を指定しなくても良い。もちろん、走行指示データは、走行の停止地点82を指定するデータを含んでも良い。指定する走行開始地点81(及び停止地点82)は、走行ロボット20が走行するべき店舗の全てを巡回するための複数の走行ルートのうちの、任意の一つの走行ルートの走行開始地点81(及び停止地点82)である。もちろん、走行指示データは、全走行ルートの内の最初の走行ルートの走行開始地点81(及び最後の走行ルートの停止地点82)であっても良い。
そして、プロセッサ11は、走行ロボット20が走行開始地点81に到達したか否かを判断する(ACT12)。走行ロボット20は、待機位置から走行開始地点81まで自律走行する。そして、走行開始地点81に到達すると、走行ロボット20は、そのことを示す到着データを含む状態データを、撮影制御装置10に送信する。従って、プロセッサ11は、ロボットインタフェース14を介して到着データを受信したか否かにより、走行ロボット20が走行開始地点81に到達したか否かを判断することができる。走行ロボット20が未だ走行開始地点81に到達していない場合(ACT12のNO)、プロセッサ11は、このACT12の処理を繰り返す。こうして、プロセッサ11は、走行ロボット20が走行開始地点81に到達するのを待つ。
なお、指示された一つの走行ルートの走行開始地点81が、走行ロボット20の待機位置である場合、あるいは、1回前の走行ルートの停止地点82と同一地点である場合がある。このような場合には、プロセッサ11は、直ちに走行ロボット20が走行開始地点81に到達したと判断することになる。
こうして走行ロボット20が走行開始地点81に到達したならば(ACT12のYES)、プロセッサ11は、メモリ12に設けた撮影タイマにより計時を開始する(ACT13)。
そして、プロセッサ11は、走行ロボット20が停止地点82に到達したか否かを判断する(ACT14)。走行ロボット20は、走行開始地点81から停止地点82まで、一定速度で自律走行する。そして、停止地点82に到達すると、走行ロボット20は、そのことを示す到着データを含む状態データを、撮影制御装置10に送信する。従って、プロセッサ11は、ロボットインタフェース14を介して到着データを受信したか否かにより、走行ロボット20が停止地点82に到達したか否かを判断することができる。
走行ロボット20が未だ停止地点82に到達していない場合(ACT14のNO)、プロセッサ11は、撮影タイマの計時開始から一定時間経過したか否か判断する(ACT15)。ここで、未だ一定時間が経過していない場合には(ACT15のNO)、プロセッサ11は、ACT14の処理に戻る。
そして、一定時間経過したならば(ACT15のYES)、プロセッサ11は、撮影指示を出力する(ACT16)。撮影指示は、カメラ40への撮影指示データと照明30への照明制御データとを含む。プロセッサ11は、カメラインタフェース16により、カメラ40に撮影を行わせための撮影指示データを、カメラ40へ送信する。またプロセッサ11は、照明インタフェース15により、照明30が備える複数の照明光源31の点灯を指示する照明制御データを、照明30へ送信する。
プロセッサ11は、カメラ40が撮影した撮影画像データをカメラインタフェース16により受信し、それをメモリ12に一時記憶する(ACT17)。
そして、プロセッサ11は、このメモリに一時記憶した撮影画像データに対し、画像補正処理を施す(ACT18)。図9は、この画像補正処理の制御手順を示す流れ図である。この画像補正処理において、プロセッサ11はまず、撮影画像データに対して台形補正処理を施す(ACT181)。かくしてプロセッサ11は、カメラ40が撮影した撮影画像データの歪みを補正して、カメラ40が第2の方向を向いて撮影した場合に相当する撮影画像データを取得する補正手段として機能する。その後、プロセッサ11は、台形補正処理後の撮影画像データに対して光量ムラ補正処理を施す(ACT182)。そして、プロセッサ11は、この画像補正処理を終了して、図8の処理に戻る。なお、台形補正処理及び光量ムラ補正処理は、周知の補正処理であるので、その説明は省略する。
こうして撮影画像データに対して画像補正処理が施されたならば、プロセッサ11は、その画像補正処理が施された撮影画像データを、ストレージ13に保存する(ACT19)。
その後、プロセッサ11は、撮影タイマを一旦クリアする(ACT20)。そして、新たに撮影タイマにより計時を開始する(ACT21)。その後、プロセッサ11は、ACT14の処理に戻る。
こうして、走行ロボット20が一定速度で走行ルートを自律走行しながら、一定時間おきに、照明光源31により照明された値札を含む商品棚70がカメラ40で撮影されていく。走行ロボット20は、一定速度で走行する。従って、カメラ40は、一定距離毎に撮影を行うことになる。プロセッサ11は、これら一定距離毎に撮影された複数枚の撮影画像データを、画像補正した上で、ストレージ13に保存する。
こうしてカメラ40で撮影をしていき、走行ロボット20が停止地点82に到達したならば(ACT14のYES)、プロセッサ11は、撮影タイマをクリアする(ACT22)。そして、図8に示す動作を終了する。
その後は、再び、本撮影装置1の撮影開始指示を受けることによって、プロセッサ11は、次の走行ルートに対する撮影を行うことができる。
また、プロセッサ11は、指示インタフェース17を介してタッチパネル50より、ストレージ13に保存した撮影画像データの選択指示及びその撮影画像データの画像認識装置60への出力を受けることができる。この場合は、プロセッサ11は、選択された撮影画像データを、送信インタフェース18により画像認識装置60へ送信する。画像認識装置60は、この送信されてきた撮影画像データから、値札に印刷された値札情報等の撮影対象の情報を認識することができる。
なお、一定時間おきに撮影した撮影画像データでは、値札部分が画像の端位置に含まれ、値札全体が写らない場合もある。そこで、撮影画像データを撮影する間隔は、連続する2枚の撮影画像データにおいて、重複部分が含まれるような間隔とする。また、プロセッサ11は、連続する2枚の撮影画像データを周知の画像マッチング処理により1枚の撮影画像データに合成してから、画像認識装置60に送信するようにしても良い。
[変形例1]
第1実施形態では、カメラ40と照明光源31とは、図2のように高さ方向に沿って直線状に配置している。しかしながら、カメラ40と照明光源31とは略直線状の配置であっても良い。図10は、変形例1におけるカメラ40と照明光源31の配置例を示す模式図である。また図11は、変形例1における商品棚70に対するカメラ40の撮影範囲を示す模式図である。
図10に示すように、カメラ40と照明光源31とは、第1の方向に距離Lだけ離れていても良い。この距離Lは、カメラの撮影幅Wに比較して十分に小さい。具体的には、この第1の方向の距離Lは、
L≦2×atan(Aov/2−θ)×wd
として決定される。ここで、図11に示すように、AoVは、カメラ40の撮影画角である。wdは、カメラ40とカメラ40の撮影光軸O上の撮影対象物である商品棚70の値札提示面との間の第2の方向の距離である。θは、第3の方向へのカメラ40のヨー方向の回転角度である。このような距離Lにカメラ40と照明光源31を配置すれば、第1実施形態と同様、撮影画像データへの照明光源31の写り込みを防ぐことができる。
なお、照明光源31は、カメラ40が向く側と第1の方向において反対側であることが必要である。カメラ40が向く側と同じ側に配置すると、撮影画像データに照明光源31が写り込んでしまう。
カメラを商品棚70の値札に正対して撮影を行う場合には、照明光源31は、カメラ40の撮影幅Wよりも離れた場所に配置しないと、照明光源31がカメラ40の撮影画像データに入ってしまう。このようにカメラ40と照明光源31の距離を撮影幅Wよりも離すと、装置全体が大きくなってしまう。
これに対して、本変形例1では、照明光源31を撮影幅Wよりも十分に小さい距離Lだけカメラ40から離せば良いので、装置の小型化が図れる。
なお、ここでは、撮影画角AoV、第2の方向の距離wd及びヨー方向回転角度θから距離Lを規定して、そのような距離Lにカメラ40と照明光源31を配置するものとしている。しかしながら、先にカメラ40と照明光源31を任意の距離Lの略直線状の配置を決定していても良い。そのような場合には、ヨー方向の回転角度θを上記式に基づいて決定し、その回転角度θとなるようにカメラ40を走行ロボット20に取り付ければ良い。あるいは、第2の方向の距離wdを調整するようにしても良い。
[変形例2]
図12は、第1実施形態の変形例2における撮影制御装置10のプロセッサ11の要部制御手順を示す流れ図である。この図を用いて、撮影制御装置10の動作について説明する。なお、以下に説明する動作の手順及びその内容は一例である。同様な結果が得られるのであれば、その手順及び内容は限定されるものではない。
ここでは、第1実施形態と同様の処理については、図8と同一の参照符号を付すことで、その説明を省略する。本変形例2では、走行ロボット20が走行開始地点81に到達した場合(ACT12のYES)、プロセッサ11は、走行ロボット20の基準位置を取得する(ACT31)。プロセッサ11は、取得した基準位置をメモリ12に記憶する。ここでの基準位置は、走行開始地点81の位置、例えば店舗内部の商品棚70の配置及び走行ロボット20の走行ルートを記載した地図におけるXY座標である。
そして、プロセッサ11は、第1実施形態と同様、ACT14において、走行ロボット20が停止地点82に到達したか否かを判断する。そして、走行ロボット20が未だ停止地点82に到達していない場合(ACT14のNO)、本変形例2では、プロセッサ11は、走行ロボット20の位置を取得する(ACT32)。走行ロボット20は、自律走行するために、常に自機の位置を計測している。従って、プロセッサ11は、走行ロボット20から位置を出力させ、ロボットインタフェース14によりそれを受信することで、取得することができる。もちろん、ビーコンを用いる等、他の手段により走行ロボット20の位置を取得しても構わない。
プロセッサ11は、取得した走行ロボット20の位置とメモリ12に記憶してある基準位置との差を演算し、走行ロボット20が一定距離移動したか否か判断する(ACT33)。ここで、未だ走行ロボット20が一定距離移動していない場合には(ACT33のNO)、プロセッサ11は、ACT14の処理に戻る。
そして、走行ロボット20が一定距離移動したならば(ACT33のYES)、プロセッサ11は、ACT16へ進んで、撮影指示を出力する。その後、第1実施形態で説明したACT17乃至ACT19の処理を実行する。そして、プロセッサ11は、メモリ12に記憶している走行ロボット20の基準位置を、ACT32で取得した位置に書き換える(ACT33)。その後、プロセッサ11は、ACT14の処理に戻る。
こうして、走行ロボット20が一定速度で走行ルートを自律走行しながら、一定距離走行する毎に、照明光源31により照明された値札を含む商品棚70がカメラ40で撮影されていく。このように一定距離毎に撮影画像データを取得することで、連続する2枚の撮影画像データの合成処理が、画像マッチング処理等を行わなくても可能となる。また、走行ロボット20は、一定速度で走行するが、何らかの障害物が存在した場合、その位置で停止することがある。そして、その障害物が存在しなくなると、再び走行を開始する。このような場合、第1実施形態のような一定時間毎の撮影よりも、一定距離毎の撮影とすることが望ましい。
こうしてカメラ40で撮影をしていき、走行ロボット20が停止地点82に到達したならば(ACT14のYES)、プロセッサ11は、撮影タイマをクリアする(ACT22)。そして、図8に示す動作を終了する。
以上説明した第1実施形態または各変形例にかかる構成の撮影装置1においては、第1の方向に移動する移動機構である走行ロボット20と、走行ロボット20に搭載されている照明光源31と、高さ方向に沿って照明光源31と直線状または略直線状に配置され、第1の方向及び高さ方向と直交する第2の方向に対して高さ方向を軸として回転された第3の方向を向いて撮像するように走行ロボット20に取り付けられたカメラ40と、を備える。
このように、走行ロボット20の移動につれて、カメラ40が第3の方向を向いて撮影することで、撮影画像データに照明光源31が写り込まないようにすることができる。
また、プロセッサ11は、カメラ40が撮影した画像の歪みを補正して、カメラ40が第2の方向を向いて撮影した場合に相当する撮影画像データを取得する。
これにより、カメラ40が第3の方向を向いて撮影しても、カメラ40が第2の方向を向いて撮影した場合と同様の撮影画像データを取得することができる。
[第2実施形態]
図13は、第2実施形態の撮影装置1における走行ロボット20へのカメラ40と照明光源31の取り付け状態を示す模式図である。また図14は、第2実施形態における商品棚70に対する走行ロボット20の走行方向を示す、商品棚70の上方から見た模式図である。
上記第1実施形態とその変形例は、カメラ40を、走行ロボット20対してヨー方向に回転角度θをもって走行ロボット20に取り付けている。これに対し、本第2実施形態は、カメラ40を、ロボットボディ21の側面の法線方向に向けて走行ロボット20に取り付けている。すなわち、走行ロボット20の取付部22は、カメラ40を、高さ方向に沿って照明光源31と直線状に配置し、且つ、第1の方向及び高さ方向と直交する第2の方向を向くように保持する。
この場合、走行ロボット20は、図14に示すように、ロボットボディ21をヨー方向に回転させた向きを維持しながら、商品棚70と並行の第1の方向に直進移動することができるものを用いる。このような直進移動を行うことができる走行ロボット20は、例えばオムニホイール・メカナムホイールを用いる。オムニホイール・メカナムホイールは、一般的なタイヤのようにステアリングを用いて旋回するのではなく、駆動輪の回転差を用いて旋回を行う車輪である。オムニホイール・メカナムホイールは、車輪の回転差を制御することで、通常のタイヤのように車輪の回転方向への移動だけでなく、旋回や全方向への平行移動を可能としている。また、オムニホイール・メカナムホイールを用いた走行ロボット20は、ステアリングやクローラを用いたタイヤと比較したとき、移動機構が簡素になり、小型化と軽量化が期待できる。
図15は、本第2実施形態における撮影制御装置10のプロセッサ11の要部制御手順を示す流れ図である。以下、この図を用いて、撮影制御装置10の動作について説明する。なお、以下に説明する動作の手順及びその内容は一例である。同様な結果が得られるのであれば、その手順及び内容は限定されるものではない。
ここでは、第1実施形態と同様の処理については、図8と同一の参照符号を付すことで、その説明を省略する。本第2実施形態では、プロセッサ11は、まず、ロボットインタフェース14により、ロボット回転開始指示データを走行ロボット20へ送信する(ACT41)。このロボット回転開始指示データは、走行ロボット20に、ヨー方向に回転角度θ回転するように指示を与えるものである。
その後は、第1実施形態と同様、ACT11乃至ACT21の処理を実行して、一定時間毎にカメラ40により撮影画像データを取得していく。
そして、走行ロボット20が停止地点82に到達したならば(ACT14のYES)、プロセッサ11は、ACT22に進んで、撮影タイマをクリアする。その後、プロセッサ11は、ロボットインタフェース14により、ロボット回転終了指示データを走行ロボット20へ送信する(ACT42)。このロボット回転終了指示データは、走行ロボット20に、ヨー方向の回転角度θの回転を終了するように指示を与えるものである。そして、プロセッサ11は、図15に示す動作を終了する。
以上のように、第2実施形態にかかる構成の撮影装置1においては、第1の方向に移動する移動機構である走行ロボット20と、走行ロボット20に搭載されている照明光源31と、高さ方向に沿って照明光源31と直線状に配置され、且つ、第1の方向及び高さ方向と直交する第2の方向を向くように走行ロボット20に取り付けられたカメラ40と、を備え、走行ロボット20は、カメラ40が第2の方向に対して高さ方向を軸として回転された第3の方向を向いて撮影するように、回転した状態で、第1の方向に移動する。
このような構成としても、走行ロボット20の移動につれて、カメラ40が第3の方向を向いて撮影することで、撮影画像データに照明光源31が写り込まないようにすることができる。
なお、本第2実施形態においても、第1実施形態の変形例1及び変形例2と同様の変形を行えることは言うまでもない。
以上、撮影画像データに照明光源が写り込まない撮影装置1及び撮影方法の実施形態について説明したが、かかる実施形態はこれに限定されるものではない。
例えば、カメラ40が撮影する撮影対象は、値札ではなく商品そのものであっても良い。カメラ40が照明光源31により照明された商品を、第3の方向を向いて撮影することで、商品のテクスチャがより判別し易い撮影画像データが取得できる。
また、撮影制御装置10及び画像認識装置60は、走行ロボット20のロボットボディ21に内蔵されても良い。これにより、無線通信ユニットを省略でき、安価に撮影装置を構成することができる。
この他、各実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態及びその変形は、発明の範囲に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…撮影装置、 10…撮影制御装置、 11…プロセッサ、 12…メモリ、 13…ストレージ、 14…ロボットインタフェース、 15…照明インタフェース、 16…カメラインタフェース、 17…指示インタフェース、 18…送信インタフェース、 19…システム伝送路、 20…走行ロボット、 21…ロボットボディ、 22…取付部、 30…照明、 31…照明光源、 40…カメラ、 41,42,43…撮影画像データ、 50…タッチパネル、 60…画像認識装置、 70…商品棚、 81…走行開始地点、 82…停止地点。

Claims (5)

  1. 第1の方向に移動する移動機構と、
    前記移動機構に搭載されている光源と、
    高さ方向に沿って前記光源と直線状または略直線状に配置され、前記第1の方向及び前記高さ方向と直交する第2の方向に対して前記高さ方向を軸として回転された第3の方向を向いて撮像するように前記移動機構に取り付けられたカメラと、
    を備える、撮影装置。
  2. 第1の方向に移動する移動機構と、
    前記移動機構に搭載されている光源と、
    高さ方向に沿って前記光源と直線状または略直線状に配置され、前記第1の方向及び前記高さ方向と直交する第2の方向を向くように前記移動機構に取り付けられたカメラと、
    を備え、
    前記移動機構は、前記カメラが前記第2の方向に対して前記高さ方向を軸として回転された第3の方向を向いて撮影するように、回転した状態で、前記第1の方向に移動する、撮影装置。
  3. 前記カメラが撮影した画像の歪みを補正して、前記カメラが前記第2の方向を向いて撮影した場合に相当する撮影画像を取得する補正手段をさらに備える、請求項1または請求項2記載の撮影装置。
  4. 高さ方向に沿って直線状または略直線状に配置した光源とカメラを、前記カメラが第1の方向及び前記高さ方向と直交する第2の方向に対して前記高さ方向を軸として回転された第3の方向を向いて撮影するように取り付けた移動機構を、前記第1の方向に沿って並べられた1以上の撮影対象物と所定の距離を維持しながら、前記第1の方向に移動させることと、
    前記カメラが撮影した画像の歪みを補正して、前記カメラが前記第2の方向を向いて撮影した場合に相当する撮影画像を取得することと、
    を備える、撮影方法。
  5. 高さ方向に沿って直線状または略直線状に配置した光源とカメラを、前記カメラが第1の方向及び前記高さ方向と直交する第2の方向を向くように取り付けた移動機構を、前記第1の方向に沿って並べられた1以上の撮影対象物と所定の距離を維持しながら、前記カメラが前記第2の方向に対して前記高さ方向を軸として回転された第3の方向を向いて撮影するように、回転した状態で、前記第1の方向に移動させることと、
    前記カメラが撮影した画像の歪みを補正して、前記カメラが前記第2の方向を向いて撮影した場合に相当する撮影画像を取得することと、
    を備える、撮影方法。
JP2020055432A 2020-03-26 2020-03-26 撮影装置及び撮影方法 Pending JP2021158468A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020055432A JP2021158468A (ja) 2020-03-26 2020-03-26 撮影装置及び撮影方法
US17/103,816 US11659264B2 (en) 2020-03-26 2020-11-24 Photographing apparatus with mobile carriage and photographing method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020055432A JP2021158468A (ja) 2020-03-26 2020-03-26 撮影装置及び撮影方法

Publications (1)

Publication Number Publication Date
JP2021158468A true JP2021158468A (ja) 2021-10-07

Family

ID=77856350

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020055432A Pending JP2021158468A (ja) 2020-03-26 2020-03-26 撮影装置及び撮影方法

Country Status (2)

Country Link
US (1) US11659264B2 (ja)
JP (1) JP2021158468A (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2336496T3 (es) * 2007-11-20 2010-04-13 Leister Process Technologies Procedimiento y maquina para soldadura automatica para la union de bandas de material.
JP2012053711A (ja) 2010-09-01 2012-03-15 Toshiba Tec Corp 情報処理装置、店舗システム及びプログラム
US10785418B2 (en) * 2016-07-12 2020-09-22 Bossa Nova Robotics Ip, Inc. Glare reduction method and system
US11002697B2 (en) * 2018-08-17 2021-05-11 The Boeing Company Robotic infrared thermographic inspection for unitized composite structures
CN109889814A (zh) * 2019-03-18 2019-06-14 罗叶迪 非固定全景视频对虚拟现实头戴原生实时视频直播方法
US11327503B2 (en) * 2019-08-18 2022-05-10 Cobalt Robotics Inc. Surveillance prevention by mobile robot
JP2021068974A (ja) * 2019-10-21 2021-04-30 トヨタ自動車株式会社 監視システムおよび監視方法
US11041709B1 (en) * 2020-02-13 2021-06-22 Preco, Inc. Noncontact, magnetic positioning of inspection equipment

Also Published As

Publication number Publication date
US11659264B2 (en) 2023-05-23
US20210303858A1 (en) 2021-09-30

Similar Documents

Publication Publication Date Title
US11282234B2 (en) Non-rigid stereo vision camera system
JP5473304B2 (ja) 遠隔地画像表示装置、遠隔操縦装置、車両制御装置、遠隔操縦システム、遠隔操縦方法、遠隔操縦プログラム、車両制御プログラム、遠隔地画像表示方法、遠隔地画像表示プログラム
KR102516326B1 (ko) 이미지 라인들로부터의 카메라 외부 파라미터들 추정
US20130278715A1 (en) System and method for discreetly collecting 3d immersive/panoramic imagery
US20170030722A1 (en) Vehicle localization system
JP2008013015A (ja) 車両周辺画像生成装置および画像切替方法
RU2628420C1 (ru) Устройство вычисления собственного местоположения и способ вычисления собственного местоположения
KR102457264B1 (ko) 어라운드 뷰 모니터링 시스템 및 이의 카메라 자동 공차 보정 방법
US10863111B2 (en) Method and system for generating a composed top-view image of a road
KR20150128140A (ko) 어라운드 뷰 시스템
JP2014157051A (ja) 位置検出装置
JP6864242B2 (ja) ロボットシステム、システム、その制御方法とプログラム
JP2006139525A (ja) 自律移動型ロボット
US20070185617A1 (en) Autonomous mobile robot and method of controlling the same
JP2017027417A (ja) 画像処理装置及び電気掃除器
KR20190078828A (ko) 무인 비행체의 비행 제어장치 및 그 방법
JP6475788B2 (ja) 自動搬送装置
JP2017214197A (ja) 管理システム、管理方法および情報処理装置
JP2021158468A (ja) 撮影装置及び撮影方法
JP2005311698A (ja) 車両周辺視認装置
CN113808013A (zh) 生成鸟瞰视点图像的方法及装置
WO2020247066A1 (en) Method, system and apparatus for dynamic task sequencing
CN112528719A (zh) 推定装置、推定方法以及存储介质
US20210256732A1 (en) Image processing method and unmanned aerial vehicle
US11662739B2 (en) Method, system and apparatus for adaptive ceiling-based localization

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240507