JP7436637B2 - 撮影装置、撮影方法及びプログラム - Google Patents

撮影装置、撮影方法及びプログラム Download PDF

Info

Publication number
JP7436637B2
JP7436637B2 JP2022510657A JP2022510657A JP7436637B2 JP 7436637 B2 JP7436637 B2 JP 7436637B2 JP 2022510657 A JP2022510657 A JP 2022510657A JP 2022510657 A JP2022510657 A JP 2022510657A JP 7436637 B2 JP7436637 B2 JP 7436637B2
Authority
JP
Japan
Prior art keywords
photographing
pig
condition
boundary
depth
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022510657A
Other languages
English (en)
Other versions
JPWO2021193816A1 (ja
Inventor
慎一 青柳
康平 今井
将徳 畠中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT TechnoCross Corp
Original Assignee
NTT TechnoCross Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT TechnoCross Corp filed Critical NTT TechnoCross Corp
Publication of JPWO2021193816A1 publication Critical patent/JPWO2021193816A1/ja
Application granted granted Critical
Publication of JP7436637B2 publication Critical patent/JP7436637B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01KANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
    • A01K29/00Other apparatus for animal husbandry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • G01B11/27Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes for testing the alignment of axes
    • G01B11/272Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes for testing the alignment of axes using photoelectric detection means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01GWEIGHING
    • G01G17/00Apparatus for or methods of weighing material of special form or property
    • G01G17/08Apparatus for or methods of weighing material of special form or property for weighing livestock

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Environmental Sciences (AREA)
  • Animal Husbandry (AREA)
  • Human Computer Interaction (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Description

本発明は、撮影装置、撮影方法及びプログラムに関する。
畜産農家では、飼育している家畜の体重を把握することが従来から行われている。これは、例えば、豚等の家畜では、或る体重を超えると食肉としての価値が下がってしまうことがあるためである。
ところで、畜産農家で飼育されている家畜は数百頭(又は数百匹、数百羽等)を超える場合がある。このため、体重計等を用いる場合、家畜の体重の把握には手間を要する。これに対して、赤外線カメラ等で構成される3次元計測器を用いて、この3次元計測器により家畜を撮影することで得られた3次元点群データから家畜の体重を推定する技術が知られている(例えば、特許文献1参照)。
特開2019-211364号公報
しかしながら、同一の家畜を撮影する場合であっても、様々な原因(例えば、撮影者のカメラの持ち方や家畜が動くこと等に起因するカメラの傾き等)により、撮影者間で、撮影によって得られる3次元点群データにばらつきが生じる場合がある。このため、家畜の体重の推定結果にもばらつきが生じる場合があり、正確な体重が得られないことがある。
本発明の一実施形態は、上記の点に鑑みてなされたもので、体重推定のための3次元点群データのばらつきを抑制することを目的とする。
上記目的を達成するため、一実施形態に係る撮影装置は、撮影対象の体重推定に用いられる3次元点群データを生成する撮影装置であって、前記撮影対象と前記撮影装置との相対的な位置関係が所定の条件を満たすか否かを動的に判定する判定手段と、前記位置関係が前記所定の条件を満たすと判定された場合、ユーザに対して前記撮影対象の撮影を促す通知を行う、又は、前記撮影対象を撮影する制御手段と、を有することを特徴とする。
体重推定のための3次元点群データのばらつきを抑制することができる。
第一の実施形態に係る体重推定システムの全体構成の一例を示す図である。 撮影画面の一例を示す図である。 撮影タイミングの通知の一例を示す図である。 第一の実施形態に係る撮影装置の機能構成の一例を示す図である。 撮影タイミングの通知処理の一例を示すフローチャートである。 撮影タイミング条件の判定の一例を説明するための図(その1)である。 撮影タイミング条件の判定の一例を説明するための図(その2)である。 撮影タイミング条件の判定の一例を説明するための図(その3)である。 撮影タイミング条件の判定の一例を説明するための図(変形例1)である。 撮影タイミング条件の判定の一例を説明するための図(変形例2)である。 第二の実施形態に係る撮影装置の機能構成の一例を示す図である。 自動撮影処理の一例を示すフローチャートである。 自動撮影条件の判定の一例を説明するための図(その1)である。 自動撮影条件の判定の一例を説明するための図(その2)である。 自動撮影条件の判定の一例を説明するための図(その3)である。 障害物表示及び輪郭検知表示の一例を説明するための図である。
以下、本発明の一実施形態について説明する。以下では、家畜の一例として豚の体重推定のための3次元点群データを撮影により生成(取得)する際に、撮影の結果として得られる3次元点群データの撮影者間でのばらつきを抑制することが可能な体重推定システム1について説明する。ここで、3次元点群データの撮影者間でのばらつきの抑制とは、同一の豚を複数の異なる撮影者が撮影した場合に、これらの撮影によって得られる複数の3次元点群データ間のばらつきが或る所定の許容誤差の範囲内に収まっていることをいう。また、後述するように3次元点群データは{(x,y,z)}と表され、複数の3次元点群データ間のばらつきとは、同一(x,y)におけるzの値の各3次元点群データ間でのばらつき(例えば、分散等)をσxyとして、(x,y)に関するσxyの平均又は合計等のことである。
[第一の実施形態]
まず、第一の実施形態について説明する。
<全体構成>
まず、本実施形態に係る体重推定システム1の全体構成について、図1を参照しながら説明する。図1は、第一の実施形態に係る体重推定システム1の全体構成の一例を示す図である。
図1に示すように、本実施形態に係る体重推定システム1には、体重の推定対象である豚Pを撮影して3次元点群データを生成する撮影装置10と、3次元点群データから豚Pの体重を推定する体重推定装置20とが含まれる。撮影装置10と体重推定装置20は、例えば、無線若しくは有線又はその両方により通信可能に接続されている。
撮影装置10は、豚Pを撮影する撮影者Mが利用するデジタルカメラ、スマートフォン、タブレット端末等である。撮影装置10には深度センサが備えられており、撮影範囲内における各位置の深度を測定し、これら各位置とその深度とを表す3次元点群データを生成する。3次元点群データは、撮影範囲内の各位置を(x,y)、これらの各位置における深度値をzとして、(x,y,z)の集合{(x,y,z)}で表される。なお、撮影装置10によって生成された3次元点群データは、体重推定装置20に送信される。
ここで、本実施形態では、撮影者Mは、撮影装置10を用いて豚Pの上方から当該豚Pを撮影するものとする。このとき、撮影装置10は、当該撮影装置10と豚Pとの相対的な位置関係により最適な撮影タイミング(つまり、撮影者間でばらつきの少ない3次元点群データが得られる位置関係)であるか否かを動的に判定し、最適な撮影タイミングとなった場合にその旨を撮影者Mに通知する。したがって、この撮影タイミングで豚Pを撮影することで、撮影者Mは、撮影者間でばらつきの少ない3次元点群データを得ることができる。
体重推定装置20は、撮影装置10によって生成された3次元点群データから豚Pの体重を推定するコンピュータ又はコンピュータシステムである。なお、体重推定装置20が体重を推定する手法は限定されず、既知の任意の手法により、3次元点群データから豚Pの体重を推定すればよい。一例として、体重推定装置20は、上記の特許文献1に記載されている手法により、3次元点群データから豚Pの体重を推定することができる。
なお、図1に示す体重推定システム1の全体構成は一例であって、他の構成であってもよい。例えば、体重推定システム1には体重推定装置20が含まれず、3次元点群データから豚Pの体重を推定する機能を撮影装置10が有していてもよい。また、3次元点群データから豚Pの体重を推定する機能の一部又は全部が、クラウドサービス等により提供されるものであってもよい。
<撮影画面及び撮影タイミングの通知>
ここで、撮影者Mが豚Pを撮影する際に撮影装置10のディスプレイ等に表示される撮影画面と最適な撮影タイミングとなった場合の通知とについて説明する。
例えば、撮影者Mが撮影装置10に対して撮影開始操作を行うと、当該撮影装置10のディスプレイ上には、図2に示す撮影画面1000が表示される。
図2に示す撮影画面1000には、豚Pの撮影位置を合わせるための撮影ガイド1100が含まれている。撮影ガイド1100は豚を上方から見た場合の輪郭を表す形状であり、撮影画面1000の下方向が頭方向、上方向が尻尾方向となっている。
また、撮影画面1000には、撮影範囲1200の中心を示す中心ガイド1110が含まれている。ここで、本実施形態では、3次元点群データの原点(つまり、(x,y,z)=(0,0,0)となる位置)は撮影装置10のカメラ位置であるものとする。したがって、中心ガイド1110が示す位置は、3次元点群データの任意のxy平面における原点(つまり、(x,y)=(0,0))である。また、撮影方向をz軸の正の方向、撮影画面1000の下方向をx軸の正の方向、撮影画面1000の右方向をy軸の正の方向とする。なお、x軸は撮影ガイド1100が表す形状を左右に二分(等分)する中心線でもある。
撮影者Mは豚Pの上方に撮影装置10を移動させて、撮影ガイド1100に豚Pの輪郭が合致するように調整した上で、撮影ボタン1300を押下することで当該豚Pを撮影することができる。これにより、撮影範囲1200内の各位置(x,y)における深度zを表す3次元点群データ{(x,y,z)}が生成される。
ところで、上述したように、同一の豚Pを撮影する場合であっても、様々な原因(例えば、撮影者Mの撮影装置10の持ち方や豚Pが動くこと等に起因する撮影装置10の傾き等)により、撮影者間で、撮影によって得られる3次元点群データにばらつきが生じる場合がある。そこで、本実施形態に係る撮影装置10は、撮影画面1000がディスプレイ等に表示されている間、当該撮影装置10と豚Pとの相対的な位置関係が所定の条件(以下、この条件を「撮影タイミング条件」と表す。)を満たすか否かを動的に判定(つまり、所定の時間毎に繰り返し判定)し、撮影タイミング条件を満たすと判定された場合に、図3に示す撮影タイミング枠1500を撮影画面1000上に表示する。このように、撮影タイミング枠1500が撮影画面1000上に表示されることで、最適な撮影タイミングとなったこと(つまり、撮影装置10と豚Pとの相対的な位置関係が、撮影者間でばらつきの少ない3次元点群データが得られる位置関係となったこと)が撮影者Mに通知される。なお、撮影タイミング枠1500は所定の時間経過後(例えば、1~2秒経過後など)又は撮影タイミング条件を満たさないと判定された場合に非表示となる。
これにより、撮影タイミング枠1500が表示された時に撮影者Mが撮影ボタン1300を押下することで、撮影者間でばらつきの少ない3次元点群データを得ることができるようになる。なお、図3に示す例では、撮影タイミング枠1500を撮影画面1000上に表示することで撮影タイミングとなったことを撮影者Mに通知したが、これは一例であって、これに限られない。例えば、撮影装置10から所定の音を出力する、撮影装置10を振動させる、撮影画面1000を点滅させる等により撮影タイミングとなったことが撮影者Mに通知されてもよい。
なお、反転ボタン1400を押下することで、撮影者Mは、撮影ガイド1100の上下が反転させることができる(つまり、撮影画面1000の下方向が尻尾方向、上方向が頭方向となるように撮影ガイド1100を反転させることができる。)。これにより、豚Pの実際の向きに合わせて、撮影ガイド1100が表す形状(豚を上方から見た場合の輪郭を表す形状)の上下を変更することができる。
<機能構成>
次に、本実施形態に係る撮影装置10の機能構成について、図4を参照しながら説明する。図4は、第一の実施形態に係る撮影装置10の機能構成の一例を示す図である。
図4に示すように、本実施形態に係る撮影装置10は、UI制御部101と、通知部102と、撮影部103とを有する。これら各部は、撮影装置10にインストールされた1以上のプログラムが、CPU(Central Processing Unit)等のプロセッサに実行させる処理により実現される。
UI制御部101は、撮影装置10のディスプレイ上に撮影画面1000を表示する。通知部102は、撮影画面1000が表示されている間、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否かを所定の時間毎(例えば、深度の測定周期毎)に判定し、撮影タイミング条件を満たすと判定された場合に撮影タイミングとなったことを撮影者Mに通知する。撮影部103は、撮影ボタン1300が押下された場合、撮影範囲1200内の各位置(x,y)における深度zを表す3次元点群データ{(x,y,z)}を生成する。なお、撮影部103により生成された3次元点群データは、体重推定装置20に送信される。
<撮影タイミングの通知処理>
以降では、撮影装置10のディスプレイ上には撮影画面1000がUI制御部101によって表示されているものとして、当該撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否か動的に判定し、この判定結果に応じて撮影タイミングを撮影者Mに通知する処理について、図5を参照しながら説明する。図5は、撮影タイミングの通知処理の一例を示すフローチャートである。
通知部102は、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否かを判定する(ステップS101)。なお、この判定の詳細については後述する。
そして、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすと判定された場合(ステップS102でYES)、通知部102は、撮影タイミングとなったことを撮影者Mに通知する(ステップS103)。すなわち、通知部102は、例えば、撮影タイミング枠1500を撮影画面1000上に表示する。ただし、これに限られず、例えば、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすと判定された場合、撮影部103によって自動的に撮影されてもよい(つまり、撮影範囲1200内の各位置(x,y)における深度zを表す3次元点群データ{(x,y,z)}が自動的に生成されてもよい。)。
一方で、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすと判定されなかった場合(ステップS102でNO)、通知部102は、上記のステップS101に戻る。
≪撮影タイミング条件の判定≫
ここで、上記のステップS101における判定の詳細について説明する。本実施形態では、図6に示すように、撮影画面1000の撮影範囲1200内に設定された4点Q11,Q12,Q21及びQ22における深度の値を用いて、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否かを判定する。
11は、x軸上であって、かつ、撮影ガイド1100が表す形状の豚の肩と背中の境界付近に設定された点である。また、Q12は、x軸上であって、かつ、撮影ガイド1100が表す形状の豚の背中と臀部の境界付近に設定された点である。Q21は、y軸上の正の範囲であって、かつ、撮影ガイド1100が表す形状の豚の背中上に設定された点である。Q22は、y軸上の負の範囲であって、かつ、撮影ガイド1100が表す形状の豚の背中上に設定された点である。これは、豚の肩と背中との境界付近の深度や背中と臀部との境界付近の深度、豚の背中上の深度は、豚の姿勢の変化(例えば、豚が前屈みになる等)に対する影響が少ない(つまり、豚の姿勢の変化に対してロバスト性がある)ためである。なお、Q21及びQ22は、x軸に対して対称となる位置に設定されることが好ましい。
図7に示すように、Q11における深度z11は、撮影装置10から豚Pの肩と背中の境界付近までの距離を表す。同様に、Q12における深度z12は、撮影装置10から豚Pの背中と臀部の境界付近までの距離を表す。また、図8に示すように、Q21における深度z21は、撮影装置10から豚Pの背中の左側にある位置までの距離を表す。同様に、Q22における深度z22は、撮影装置10から豚Pの背中の右側にある位置までの距離を表す。
このとき、予め設定された閾値をth~thとして、th≦z12/z11≦thかつth≦z22/z21≦thを満たす場合に、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすと判定する。一方で、th≦z12/z11≦th及びth≦z22/z21≦thの少なくとも一方を満たさない場合は、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たさないと判定する。ここで、th~thは適切な値に設定され得るが、一例として、thは0.80~0.90程度、thは1.00~1.10程度、thは0.85~0.95程度、thは1.05~1.15程度と設定することが考えられる。
なお、本実施形態では、撮影範囲1200内に4点Q11,Q12,Q21及びQ22を設定したが、必ずしもQ21及びQ22は設定されなくてもよい。この場合、th≦z12/z11≦thを満たすか否かにより、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否かを判定すればよい。
≪撮影タイミング条件の判定(変形例1)≫
次に、上記のステップS101における判定の変形例1について説明する。変形例1では、図9に示すように、撮影画面1000の撮影範囲1200内に設定された8点Q11,Q12,Q13,Q14,Q21,Q22,Q23及びQ24のそれぞれおける深度の値z11,z12,z13,z14,z21,z22,z23及びz24を用いて、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否かを判定する。
11及びQ13は、x軸上であって、かつ、撮影ガイド1100が表す形状の豚の肩と背中の境界付近に設定された点である。また、Q12及びQ14は、x軸上であって、かつ、撮影ガイド1100が表す形状の豚の背中と臀部の境界付近に設定された点である。Q21及びQ23は、y軸上の正の範囲であって、かつ、撮影ガイド1100が表す形状の豚の背中上に設定された点である。Q22及びQ24は、y軸上の負の範囲であって、かつ、撮影ガイド1100が表す形状の豚の背中上に設定された点である。
このとき、予め設定された閾値をth~thとして、th≦z12/z11≦thかつth≦z22/z21≦thかつth≦z14/z13≦thかつth≦z24/z23≦thを満たす場合に、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすと判定する。一方で、th≦z12/z11≦th,th≦z22/z21≦th,th≦z14/z13≦th及びth≦z24/z23≦thの少なくとも1つを満たさない場合は、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たさないと判定する。
なお、上記と同様に、必ずしもQ21,Q22,Q23及びQ24は設定されなくてもよい。また、変形例1では撮影範囲1200内に8点を設定したが、これは一例であって、更に多くの点(9つ以上の点)が設定されてもよい。
≪撮影タイミング条件の判定(変形例2)≫
次に、上記のステップS101における判定の変形例2について説明する。変形例2では、図10に示すように、撮影ガイド1100の内側及び外側にそれぞれ設定された2点の組(Q11,Q12),(Q21,Q22),(Q31,Q32)及び(Q41,Q42)の深度の値を用いて、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすか否かを判定する。なお、Q11,Q12,Q21,Q22,Q31,Q32,Q41及びQ42のそれぞれおける深度の値をz11,z12,z21,z22,z31,z32,z41及びz42とする。
11及びQ12は、撮影ガイド1100が表す形状の豚の左肩と背中の境界付近であって、当該撮影ガイド1100の内側及び外側にそれぞれ設定された点である。また、Q21及びQ22は、撮影ガイド1100が表す形状の豚の右肩と背中の境界付近であって、当該撮影ガイド1100の内側及び外側にそれぞれ設定された点である。同様に、Q31及びQ32は、撮影ガイド1100が表す形状の豚の背中と右臀部との境界付近であって、当該撮影ガイド1100の内側及び外側にそれぞれ設定された点である。Q41及びQ42は、撮影ガイド1100が表す形状の豚の背中と左臀部との境界付近であって、当該撮影ガイド1100の内側及び外側にそれぞれ設定された点である。
このとき、予め設定された閾値をthとして、z12-z11≧thかつz22-z21≧thかつz32-z31≧thかつz42-z41≧thを満たす場合に、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たすと判定する。一方で、z12-z11≧th,z22-z21≧th,z32-z31≧th及びz42-z41≧thの少なくとも1つを満たさない場合は、撮影装置10と豚Pとの相対的な位置関係が撮影タイミング条件を満たさないと判定する。これは、z12-z11≧thかつz22-z21≧thかつz32-z31≧thかつz42-z41≧thを満たす場合は、豚Pの輪郭が、撮影ガイド1100に合致していると考えられるためである。ここで、thは、豚の体高よりもやや低い程度の適切な値に設定され得るが、例えば、豚の品種等に応じて、30cm~50cm程度を表す値に設定することが考えられる。
なお、変形例2では、撮影ガイド1100の内側及び外側にそれぞれ設定された2点の組を4つ((Q11,Q12),(Q21,Q22),(Q31,Q32)及び(Q41,Q42))設定したが、これは一例であって、更に多くの2点の組(5つ以上の組)が設定されてもよい。
[第二の実施形態]
次に、第二の実施形態について説明する。図5のステップS103では、撮影タイミングとなったことを撮影者Mに通知することに限られず、撮影部103によって自動的に撮影されてもよい旨を説明した。そこで、本実施形態では、このような自動撮影を行う場合のより好適な実施形態について説明する。なお、本実施形態では、撮影タイミングの通知は行われず、撮影装置10と豚Pとの相対的な位置関係が所定の条件(以下、この条件を「自動撮影条件」と表す。)を満たす場合に自動で撮影を行うものである。
<機能構成>
まず、本実施形態に係る撮影装置10の機能構成について、図11を参照しながら説明する。図11は、第二の実施形態に係る撮影装置10の機能構成の一例を示す図である。
図11に示すように、本実施形態に係る撮影装置10は、UI制御部101と、判定部104と、撮影部103とを有する。これら各部は、撮影装置10にインストールされた1以上のプログラムが、CPU等のプロセッサに実行させる処理により実現される。
UI制御部101は、撮影装置10のディスプレイ上に撮影画面1000を表示する。判定部104は、撮影画面1000が表示されている間、撮影装置10と豚Pとの相対的な位置関係が自動撮影条件を満たすか否かを所定の時間毎(例えば、深度の測定周期毎)に判定する。撮影部103は、自動撮影条件を満たすと判定された場合、撮影範囲1200内の各位置(x,y)における深度zを表す3次元点群データ{(x,y,z)}を生成する。なお、撮影部103により生成された3次元点群データは、体重推定装置20に送信される。
<自動撮影処理>
以降では、撮影装置10のディスプレイ上には撮影画面1000がUI制御部101によって表示されているものとして、当該撮影装置10と豚Pとの相対的な位置関係が自動撮影条件を満たすか否かを動的に判定し、この判定結果に応じて自動的に撮影する処理について、図12を参照しながら説明する。図12は、自動撮影処理の一例を示すフローチャートである。なお、この自動撮影処理の実行が開始される前に、例えば、露光調整等の事前処理が撮影部103によって行われてもよい。
判定部104は、撮影装置10と豚Pとの相対的な位置関係が自動撮影条件を満たすか否かを判定する(ステップS201)。なお、この判定の詳細については後述する。
そして、撮影装置10と豚Pとの相対的な位置関係が自動撮影条件を満たすと判定された場合(ステップS202でYES)、撮影部103は、撮影範囲1200内を撮影する(ステップS203)。これにより、撮影範囲1200内の各位置(x,y)における深度zを表す3次元点群データ{(x,y,z)}が生成される。
一方で、撮影装置10と豚Pとの相対的な位置関係が自動撮影条件を満たすと判定されなかった場合(ステップS202でNO)、判定部104は、上記のステップS201に戻る。
≪自動撮影条件の判定≫
ここで、上記のステップS201における判定の詳細について説明する。本実施形態では、以下の条件1~条件3を順に判定し、全ての条件を満たす場合に自動撮影条件を満たすと判定する。
条件1:豚Pの尻(尻尾の付け根部分)の輪郭が検知されたこと
条件2:豚Pの側面の輪郭が検知されたこと
条件3:豚Pに対して撮影装置10の傾きが小さいこと
以下、上記の条件1~条件3とそれらの条件を満たした場合の表示例について説明する。
・条件1
本実施形態では、図13の左図に示すように、撮影画面1000の撮影範囲1200内に設定された直線Lの端点における深度の値を用いて、豚Pの尻(尻尾の付け根部分)の輪郭を検知する。
直線Lは、x軸上であって、かつ、撮影ガイド1100が表す形状の尻部分の境界を跨ぐように設定される。なお、直線Lの中点が撮影ガイド1100上にあることが好ましいが、必ずしも撮影ガイド1100上にあることを要しない。また、直線Lの長さは適宜設定されるが、例えば、撮影ガイド1100が表す豚の体長の1/10~1/8程度の長さが好ましい。これは、直線Lの長さが長すぎると誤検知が発生しやすくなる一方で、短すぎると検知漏れが発生しやすくなるためである。
直線Lの端点のうち、x座標値が大きい方の端点(つまり、撮影ガイド1100の内側にある端点)における深度の値をz、x座標値が小さい方の端点(つまり、撮影ガイド1100の外側にある端点)における深度の値をzとする。このとき、予め設定された閾値をthとして、z-z≧thを満たす場合に、豚Pの尻(尻尾の付け根部分)の輪郭が検知されたと判定する。ここで、この閾値thは、図10で説明した閾値thと同様としてよい。
なお、図13の左図では、直線Lを設定したが、これに限られず、例えば、直線Lの端点に相当する点の組を設定し、これらの点における深度の値を用いて豚Pの尻の輪郭を検知してもよい。
また、図13の左図では直線Lを1本のみ設定したが、複数の直線を設定し、これらの各直線の端点における深度の値を用いて豚Pの尻の輪郭を検知してもよい。この場合、例えば、所定の割合以上の本数の直線で輪郭が検知されたとき(つまり、所定の割合以上の直線で、撮影ガイド1100の外側にある端点と内側にある端点との深度差が閾値以上であると判定されたとき)に、豚Pの尻の輪郭が検知されたとしてもよい。
そして、豚Pの尻の輪郭が検知された場合、図13の右図に示すように、UI制御部101は、撮影範囲1200内の豚Pの尻に相当する位置に点1600を表示する。この点1600により、撮影者Mは、豚Pの尻(尻尾の付け根部分)の輪郭が検知されたことを知ることができる。
・条件2
本実施形態では、図14の左図に示すように、撮影画面1000の撮影範囲1200内に設定された複数の直線L1,1~L1,23及びL2,1~L2,23の端点における深度の値を用いて、豚Pの側面の輪郭を検知する。
直線L1,1~L1,23は、y軸と平行であって、かつ、少なくとも一部の直線が、撮影ガイド1100が表す形状の右側面部分の境界を跨ぐように設定される。同様に、直線L2,1~L2,23は、y軸と平行であって、かつ、少なくとも一部の直線が、撮影ガイド1100が表す形状の左側面部分の境界を跨ぐように設定される。なお、図14の左図では左側面及び右側面にそれぞれ23本の直線が設定されているが、これは一例であって、任意の本数の直線を設定することができる。また、各直線の長さは適宜設定されるが、例えば、撮影ガイド1100が表す豚の体幅の1/5~1/3程度の長さが好ましい。これは、直線の長さが長すぎると誤検知が発生しやすくなる一方で、短すぎると検知漏れが発生しやすくなるためである。
直線L1,k(k=1,・・・,23)の端点のうち、y座標値が大きい方の端点(つまり、撮影ガイド1100の内側にある端点)における深度の値をz1,k (1)、y座標値が小さい方の端点(つまり、撮影ガイド1100の外側にある端点)における深度の値をz2,k (1)とする。このとき、予め設定された閾値をthとして、z2,k (1)-z1,k (1)≧thを満たすkの割合が所定の割合以上である場合に、豚Pの右側面の輪郭が検知されたと判定する。
同様に、直線L2,k(k=1,・・・,23)の端点のうち、y座標値が小さい方の端点(つまり、撮影ガイド1100の内側にある端点)における深度の値をz1,k (2)、y座標値が大きい方の端点(つまり、撮影ガイド1100の外側にある端点)における深度の値をz2,k (2)とする。このとき、予め設定された閾値をthとして、z2,k (2)-z1,k (2)≧thを満たすkの割合が所定の割合以上である場合に、豚Pの左側面の輪郭が検知されたと判定する。
ここで、上記の閾値thは、図10で説明した閾値thと同様としてよい。また、上記の所定の割合は任意に設定することが可能であるが、少なくとも0.5以上(つまり、5割以上)の値が設定されることが好ましい(より好ましくは、0.6~0.8程度)。
そして、豚Pの左側面の輪郭と右側面の輪郭とが検知された場合、豚Pの側面の輪郭が検知されたものとして、図14の右図に示すように、UI制御部101は、撮影範囲1200内に枠1700を表示する。この枠1700により、撮影者Mは、豚Pの側面の輪郭が検知されたことを知ることができる。
なお、図14の左図では一部の直線が撮影ガイド1100の境界を跨いでないが、これは、必ずしも豚Pが撮影ガイド1100内に収まらないことを考慮したものである。ただし、全ての直線が撮影ガイド1100を跨ぐように設定されてもよい。
・条件3
この条件3は、図6で説明した撮影タイミング条件に相当する。したがって、図6で説明した撮影タイミング条件を満たす場合、豚Pに対して撮影装置10の傾きが小さいと判定する。これは、図6で説明した閾値th~thが適切に設定されることで、豚Pに対して撮影装置10の傾きは所定の傾き以下となるためである。
そして、豚Pに対して撮影装置10の傾きが小さいと判定された場合、図15に示すように、UI制御部101は、撮影範囲1200内に枠1800を表示する。この枠1800により、撮影者Mは、豚Pに対して撮影装置10の傾きが小さいことを知ることができると共に間もなく自動的に撮影されることを知ることができる。
<障害物表示及び輪郭>
ここで、上記の条件1及び2では豚Pの輪郭を検知したが、例えば、障害物(壁等も含む)と豚Pとが接触等しているため輪郭が検知でないことがある。このため、このような場合には、輪郭が検知できなかった箇所に所定の表示を行い、障害物があることを撮影者Mに通知してもよい。例えば、図16に示すように、輪郭が検知できなかった箇所に「×」印1900を表示し、障害物があることを撮影者Mに通知してもよい。
一方で、輪郭が検知できた箇所にも所定の表示を行い、輪郭が検知できたことを撮影者Mに通知してもよい。例えば、図16に示すように、輪郭が検知できた箇所に点2101~2105及び2201~2209を表示し、輪郭が検知できたことを撮影者Mに通知してもよい。
これにより、撮影者Mは、障害物があるために輪郭が検知できなかった箇所と問題なく輪郭が検知できた箇所とを知ることが可能となる。
<まとめ>
以上のように、第一の実施形態に係る撮影装置10は、豚Pの体重推定に用いられる3次元点群データを得ることを目的として当該豚Pを撮影する際に、当該撮影装置10と当該豚Pとの相対的な位置関係が所定の条件を満たすか否かを動的に判定し、当該所定の条件を満たす場合は最適な撮影タイミングである旨を撮影者Mに通知する(又は、自動的に撮影する)。これにより、第一の実施形態に係る撮影装置10は、撮影者間でばらつきの少ない3次元点群データを得ることが可能となる。したがって、体重推定装置20で豚Pの体重を推定する際に、その推定結果のばらつきも抑制することが可能となり、再現性の高い体重推定を実現することが可能となる。
また、第二の実施形態に係る撮影装置10は、豚Pの体重推定に用いられる3次元点群データを得ることを目的として当該豚Pを撮影する際に、当該撮影装置10と当該豚Pとの相対的な位置関係が所定の条件を満たすか否かを動的に判定し、当該所定の条件を満たす場合は自動的に撮影する。これにより、第二の実施形態に係る撮影装置10は、第一の実施形態よりも簡便に、撮影者間でばらつきの少ない3次元点群データを得ることが可能となる。したがって、第一の実施形態と同様に、体重推定装置20で豚Pの体重を推定する際に、その推定結果のばらつきも抑制することが可能となり、再現性の高い体重推定を実現することが可能となる。
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲の記載から逸脱することなく、種々の変形や変更、既知の技術との組み合わせ等が可能である。
本願は、日本国に2020年3月26日に出願された基礎出願2020-055979号に基づくものであり、その全内容はここに参照をもって援用される。
1 体重推定システム
10 撮影装置
20 体重推定装置
101 UI制御部
102 通知部
103 撮影部
104 判定部

Claims (10)

  1. ユーザが所持可能で、かつ、撮影対象である家畜の体重推定に用いられる3次元点群データを生成する撮影装置であって、
    前記撮影対象と前記撮影装置との相対的な位置関係が所定の条件を満たすか否かを動的に判定する判定手段と、
    前記位置関係が前記所定の条件を満たすと判定された場合、ユーザに対して前記撮影対象の撮影を促す通知を行う、又は、前記撮影対象を撮影する制御手段と、
    を有することを特徴とする撮影装置。
  2. 前記撮影対象は豚であり、
    前記判定手段は、
    前記豚を上方から前記撮影装置によって撮影する際に、前記豚の肩と背中との境界の近傍に設定された第1の位置までの第1の深度と、前記豚の背中と臀部との境界の近傍に設定された第2の位置までの第2の深度との比が少なくとも所定の第1の範囲内である場合に、前記所定の条件を満たすと判定する、ことを特徴とする請求項1に記載の撮影装置。
  3. 前記第1の位置及び前記第2の位置は、前記豚の左右を等分する中心線上に設定される、ことを特徴とする請求項2に記載の撮影装置。
  4. 前記判定手段は、
    更に、前記中心線に対して対称な第3の位置及び第4の位置であって、かつ、前記豚の背中上に設定された第3の位置及び第4の位置の各々までの第3の深度及び第4の深度の比が所定の第2の範囲内である場合に、前記所定の条件を満たすと判定する、ことを特徴とする請求項3に記載の撮影装置。
  5. 前記撮影対象は豚であり、
    前記判定手段は、
    前記豚を上方から前記撮影装置によって撮影する際に、前記豚の境界の内側に設定された第5の位置までの第5の深度と、前記豚の境界の外側に設定された第6の位置までの第6の深度との差が少なくとも所定の閾値以上である場合に、前記所定の条件を満たすと判定する、ことを特徴とする請求項1に記載の撮影装置。
  6. 前記撮影対象は豚であり、
    前記所定の条件には、前記豚の尻尾の付け根部分の境界が検知されたことを表す第1の条件と、前記豚の側面の境界が検知されたことを表す第2の条件と、前記豚に対して前記撮影装置の傾きが所定の傾き以下であることを表す第3の条件とが含まれ、
    前記判定手段は、
    前記第1の条件を満たすか否かと、前記第2の条件を満たすか否かと、前記第3の条件を満たすか否かとを順に判定し、
    前記第1の条件と前記第2の条件と前記第3の条件とを満たすと判定された場合、前記撮影対象を撮影する、ことを特徴とする請求項1に記載の撮影装置。
  7. 前記豚の側面の境界が検知されなかった箇所に、前記豚の側面の境界が検知できなかったことを表す第1の表示部品を表示する表示手段を有する、ことを特徴とする請求項6に記載の撮影装置。
  8. 前記表示手段は、
    前記豚の側面の境界が検知された箇所に、前記豚の側面の境界が検知できたことを表す第2の表示部品を表示する、ことを特徴とする請求項7に記載の撮影装置。
  9. ユーザが所持可能で、かつ、撮影対象である家畜の体重推定に用いられる3次元点群データを生成する撮影装置が、
    前記撮影対象と前記撮影装置との相対的な位置関係が所定の条件を満たすか否かを動的に判定する判定手順と、
    前記位置関係が前記所定の条件を満たすと判定された場合、ユーザに対して前記撮影対象の撮影を促す通知を行う、又は、前記撮影対象を撮影する制御手順と、
    を実行することを特徴とする撮影方法。
  10. コンピュータを、請求項1乃至8の何か一項に記載の撮影装置における各手段として機能させるためのプログラム。
JP2022510657A 2020-03-26 2021-03-25 撮影装置、撮影方法及びプログラム Active JP7436637B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020055979 2020-03-26
JP2020055979 2020-03-26
PCT/JP2021/012516 WO2021193816A1 (ja) 2020-03-26 2021-03-25 撮影装置、撮影方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2021193816A1 JPWO2021193816A1 (ja) 2021-09-30
JP7436637B2 true JP7436637B2 (ja) 2024-02-21

Family

ID=77891889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022510657A Active JP7436637B2 (ja) 2020-03-26 2021-03-25 撮影装置、撮影方法及びプログラム

Country Status (3)

Country Link
EP (1) EP4130690A4 (ja)
JP (1) JP7436637B2 (ja)
WO (1) WO2021193816A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140029808A1 (en) 2012-07-23 2014-01-30 Clicrweight, LLC Body Condition Score Determination for an Animal
US20160012278A1 (en) 2010-05-19 2016-01-14 Plf Agritech Pty Ltd Image analysis for making animal measurements including 3-d image analysis
JP6637169B2 (ja) 2016-06-03 2020-01-29 株式会社オプティム 動物体重推測システム、動物体重推測方法及びプログラム
CN110836715A (zh) 2018-08-16 2020-02-25 株式会社日立制作所 移动体体重测定系统及移动体体重测定方法
US20200077667A1 (en) 2017-03-13 2020-03-12 Frontmatec Smørum A/S 3d imaging system and method of imaging carcasses

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009093967A1 (en) * 2008-01-22 2009-07-30 Delaval Holding Ab Arrangement and method for determining the position of an animal
EP2919142B1 (en) * 2014-03-14 2023-02-22 Samsung Electronics Co., Ltd. Electronic apparatus and method for providing health status information
CN110869977A (zh) * 2017-06-29 2020-03-06 吉斯艾集团有限责任公司 基于回归的动物体重估计
US11019250B2 (en) * 2018-03-20 2021-05-25 Iscilab Corporation Method for implementing animal nose pattern biometric identification system on mobile devices
JP7057971B2 (ja) 2018-06-06 2022-04-21 全国農業協同組合連合会 動物体の体重推定装置及び体重推定方法
JP7231813B2 (ja) 2018-10-04 2023-03-02 住友ゴム工業株式会社 タイヤ用ゴム組成物及び空気入りタイヤ

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160012278A1 (en) 2010-05-19 2016-01-14 Plf Agritech Pty Ltd Image analysis for making animal measurements including 3-d image analysis
US20140029808A1 (en) 2012-07-23 2014-01-30 Clicrweight, LLC Body Condition Score Determination for an Animal
JP6637169B2 (ja) 2016-06-03 2020-01-29 株式会社オプティム 動物体重推測システム、動物体重推測方法及びプログラム
US20200077667A1 (en) 2017-03-13 2020-03-12 Frontmatec Smørum A/S 3d imaging system and method of imaging carcasses
CN110836715A (zh) 2018-08-16 2020-02-25 株式会社日立制作所 移动体体重测定系统及移动体体重测定方法

Also Published As

Publication number Publication date
EP4130690A4 (en) 2023-10-04
EP4130690A1 (en) 2023-02-08
JPWO2021193816A1 (ja) 2021-09-30
WO2021193816A1 (ja) 2021-09-30

Similar Documents

Publication Publication Date Title
JP7004094B2 (ja) 魚体長さ測定システム、魚体長さ測定方法および魚体長さ測定プログラム
US11328439B2 (en) Information processing device, object measurement system, object measurement method, and program storage medium
JP6981531B2 (ja) 物体同定装置、物体同定システム、物体同定方法およびコンピュータプログラム
CN109074476A (zh) 用于障碍物规避的系统以及方法
JP6589636B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
JP6189170B2 (ja) 姿勢推定装置
JP7057971B2 (ja) 動物体の体重推定装置及び体重推定方法
JP6525271B2 (ja) 残餌量測定装置および残餌量測定用プログラム
JP2007304801A (ja) 立体性認証方法、立体性認証装置および立体性認証プログラム
TW201626292A (zh) 魚計數裝置、魚計數方法、魚數之預測裝置、魚數之預測方法、魚計數系統及魚數預測系統
JP2019194573A (ja) 体重推定装置
JP2020197989A5 (ja) 画像処理システム、画像処理方法、およびプログラム
JP6816773B2 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
JP2013101524A5 (ja)
JP7436637B2 (ja) 撮影装置、撮影方法及びプログラム
JP6879375B2 (ja) 情報処理装置、長さ測定システム、長さ測定方法およびコンピュータプログラム
WO2021166894A1 (ja) 重量推定装置及びプログラム
JPWO2021192906A5 (ja)
JP2021063774A (ja) 体重推定装置
US20230045358A1 (en) Underwater organism imaging aid system, underwater organism imaging aid method, and storage medium
JP7343237B2 (ja) 追跡方法
JP7405412B2 (ja) 三次元計測システム、三次元計測装置、三次元計測方法、及び三次元計測プログラム
JP2021050951A (ja) 個体体重推定システム、方法およびプログラム
JP2024501161A (ja) 画像または映像におけるオブジェクトの3次元場所特定
JP2022504444A (ja) カメラの較正方法、カメラ及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221206

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230627

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240208

R150 Certificate of patent or registration of utility model

Ref document number: 7436637

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150