CN104724566B - 具备图像识别功能的电梯 - Google Patents

具备图像识别功能的电梯 Download PDF

Info

Publication number
CN104724566B
CN104724566B CN201410805977.0A CN201410805977A CN104724566B CN 104724566 B CN104724566 B CN 104724566B CN 201410805977 A CN201410805977 A CN 201410805977A CN 104724566 B CN104724566 B CN 104724566B
Authority
CN
China
Prior art keywords
passenger
image
elevator
defect
range image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410805977.0A
Other languages
English (en)
Other versions
CN104724566A (zh
Inventor
弓场龙
山口胜美
酒井亮
酒井亮一
薛祺
三好雅则
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Hitachi Building Systems Co Ltd
Original Assignee
Hitachi Ltd
Hitachi Building Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd, Hitachi Building Systems Co Ltd filed Critical Hitachi Ltd
Publication of CN104724566A publication Critical patent/CN104724566A/zh
Application granted granted Critical
Publication of CN104724566B publication Critical patent/CN104724566B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66BELEVATORS; ESCALATORS OR MOVING WALKWAYS
    • B66B5/00Applications of checking, fault-correcting, or safety devices in elevators

Landscapes

  • Indicating And Signalling Devices For Elevators (AREA)
  • Image Processing (AREA)
  • Elevator Control (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供具备图像识别功能的电梯。即使在图像数据中乘客缺损的情况下也能高精度地对电梯的乘客进行图像识别。该具备图像识别功能的电梯具有:距离图像传感器,其对对象物进行摄像,并测量到对象物的距离值;和图像识别装置,其具有从距离图像传感器取得具有所述距离值的距离图像的距离图像取得部,并基于距离图像来识别乘客,在该具备图像识别功能的电梯中,距离图像取得部按时序取得多个距离图像,图像识别装置基于多个距离图像提取乘客,并从取得时刻不同的多个距离图像中提取乘客的位置并进行追踪,检测因被其他乘客遮挡而产生的乘客的缺损,将缺损包含在内地对乘客进行识别。

Description

具备图像识别功能的电梯
技术领域
本发明涉及具备对乘客进行图像识别的图像识别功能的电梯。
背景技术
对电梯内的乘客进行图像识别,利用识别结果来进行动作的电梯不断普及。例如,作为代表例有如下这样的运行控制:计算电梯内的乘客所占的面积,在根据乘客所占的面积求得的电梯的轿厢内的拥挤度高、就算打开门新的乘客也不能乘梯的情况下,直到目的地楼层为止都跳过在中途楼层的开门。
作为高精度计算人的拥挤度的技术,已知专利文献1记载的技术。在本技术中,使用立体摄影机等来测量监视空间内的三维数据,在对三维数据中的每个局部的区域求取距地面的高度时,将位于比地面高的位置的区域检测为物体,根据这些物体的面积的总和算出拥挤度。
专利文献
专利文献1:JP特开2001-34883号公报
为了应用专利文献1记载的技术来测量电梯的轿厢内的拥挤度,需要不使轿厢内的乘客缺损地测量三维数据。作为在轿厢内安装立体摄影机等的设置位置,天花板的中央附近由于已经设置照明装置而不合适,其它没有已设置装置的天花板的角落或门的顶框这样轿厢内的端部是合适的。但是,在将立体摄影机等设置在轿厢内的端部时,在三维数据中里侧的乘客被跟前的乘客挡住而缺损的情况下,由于乘客的面积缺损而会使拥挤度过度变小。
另外,在立体摄影机等特殊的光学系统中,由于难以具有能环视整个轿厢内的足够大的视角,因此若乘客位于视角的端部,则会因露出到视野外而导致一部分缺损,由于位于视角的端部的乘客的面积部分缺损,故而导致拥挤度过度变小。
发明内容
为此,本发明提供一种在图像数据中乘客缺损的情况下也能高精度地对电梯的轿厢内的乘客进行图像识别的具备图像识别功能的电梯。
为了解决上述课题,本发明的具备图像识别功能的电梯具有:距离图像传感器,其对对象物进行摄像,并测量到对象物的距离值;和图像识别装置,其具有从距离图像传感器获取有距离值的距离图像的距离图像取得部,并基于距离图像识别乘客,距离图像取得部按时序取得多个距离图像,图像识别装置基于多个距离图像提取乘客,并从获取时刻不同的多个距离图像中提取乘客的位置并进行追踪,检测被其他乘客遮挡而产生的乘客的缺损,将缺损包含在内而对乘客进行识别。
另外,为了解决上述课题,本发明的具备图像识别功能的电梯具有:距离图像传感器,其对对象物进行摄像并测量到对象物的距离值;和图像识别装置,其具有从距离图像传感器获取具有距离值的距离图像的距离图像取得部,并基于距离图像识别乘客,图像识别装置基于距离图像提取乘客,并在距离图像中乘客与距离图像的边缘相接的情况下检测乘客的缺损。
发明效果
根据本发明,由于能将乘客的缺损也包含在内而对乘客进行图像识别,因此提高了电梯的乘客的图像识别的精度。
上述以外的课题、构成以及效果通过以下的实施方式的说明变得更明了。
附图说明
图1表示本发明的实施例1的电梯的装置构成。
图2表示实施例1中的图像识别装置的功能构成图。
图3是在轿厢内有乘客的情况下的距离图像例。
图4是在轿厢内有乘客的情况下的俯瞰图像例。
图5是有乘客缺损的情况下的距离图像例。
图6是有乘客缺损的情况下的俯瞰图像例。
图7是轿厢内没有乘客时的距离图像例。
图8是轿厢内没有乘客时的俯瞰图像例。
图9表示缺损检测部的处理流程。
图10表示图9中的步骤S1的详细的处理流程。
图11表示实施例2中的图像识别装置的功能构成图。
图12是货物的一部分缺损的情况下的距离图像例。
图13是货物的一部分缺损的情况下的俯瞰图像例。
图14是表示距离图像传感器的视野的模型的轿厢内的垂直截面图。
图15表示实施例3中的图像识别装置的功能构成图。
图16是乘客识别部所分类的乘客的种类的一例。
图17表示乘客识别部的处理流程。
图18是用于说明三维数据变换的图。
图19是用于说明正上方变换部中的正上方变换的图。
符号说明
2 距离图像取得部
3 正上方变换部
4 乘客提取部
5、5b 缺损检测部
6、6b、6c 乘客识别部
8、8c 控制部
51 轿厢
52 距离图像传感器
53 轿厢门
54 处理装置
55 视角的边界线
具体实施方式
以下参考附图来说明本发明的实施方式。
[实施例1]
图1表示本发明的实施例1的具备图像识别功能的电梯的装置构成。另外,图2表示本实施例中的图像识别装置的功能构成图。处理装置54是构成图2的图像识别装置的装置,图2中的各功能由处理装置54内的信号处理实现。首先说明概要,距离图像取得部2以给定的时间间隔、即按时序从距离图像传感器52取得多个距离图像。正上方变换部3将取得的距离图像变换成从虚拟视点俯视的俯瞰图像。乘客提取部4从俯瞰图像中提取个别的乘客。缺损检测部5将在不同的时刻即按时序取得的多个距离图像或从这些距离图像变换的俯瞰图像中的所述乘客以所述距离图像的距离值为基础进行比较,由此来提取乘客的位置并进行追踪,对实际位于轿厢51内但被其他乘客遮挡而未照在距离图像中的缺损乘客进行检测。乘客识别部6将由乘客提取部4提取的乘客、和由缺损检测部5检测到的缺损乘客相加来测量轿厢51内的拥挤度。控制部8对应于测量的拥挤度来控制轿厢51的运行。
如图1所示,在电梯的轿厢51内的轿厢门53侧的天花板的角落或轿厢门53的顶框设置距离图像传感器52。距离图像传感器52的输出信号经由线缆被传输到设置在轿厢51上的处理装置54。
在轿厢51定义分别以O以及(X,Y,Z)为原点以及坐标轴的坐标系59。坐标系59的原点O是从距离图像传感器52垂直向下延长的假想线与地面的交点。距离图像传感器52以俯角θ、方位角、滚动角ρ的设置角度安装。另外,俯角θ和方位角在距离图像传感器52从Z轴方向进行观察时都是0°,这时,俯角θ、方位角、滚动角ρ的转动轴分别与X轴、Y轴、Z轴一致。
处理装置54是进行本实施例所需要的信号处理的计算机,能运用任意的计算机。在图1中,将处理装置54设为1台计算机,但也可以由2台以上的计算机构成处理装置54。另外,也可以将距离图像传感器52所内置的处理装置作为处理装置54。
距离图像传感器52具有与监视摄像机同样的图像的摄像面,在摄像面中的各像素中测量到与各像素对应的空间中的物体之间的距离。作为测量手段,例如使用被称作TimeOf Flight(飞行时间)的公知的测量手段。在本测量手段中,在距离图像传感器内部有近红外的发光体,测量从发出近红外光起,至该近红外光与视角内的物体反射后返回为止的时间,由此来测量从距离图像传感器到物体的距离。以下将如此地测量图像中的各像素的距离值的图像记载为“距离图像”。
使用图18来说明该距离图像的数据能从各像素的距离值变换为三维数据这一情况。在图18中,151表示距离图像,150表示距离图像中的像素,50表示与像素150对应的空间中的对应点,69是以距离图像传感器52为基准的坐标系,i(u,v)是像素150的距离图像151上的坐标。IS(XS,YS,ZS)是将距离图像传感器52作为坐标系的基准,即用坐标系69中的坐标表征的三维数据。坐标系69的原点OS是距离图像传感器52的投影的中心,坐标轴XS,YS,ZS从距离图像传感器52观察分别位于左侧、上侧、里侧。因此,IS的要素中的ZS与像素150的距离值相等。在用针孔模型来近似距离图像传感器52的投影模型,将距离图像传感器52的焦点距离设为λ时,IS的要素中剩下的XS、YS能分别用式(1)、式(2)计算。
[式1]
XS=uZS/λ(将u=λXS/ZS这样公知的投影变换的数式变形)…(1)
[式2]
YS=vZS/λ(将v=YS/ZS这样公知的投影变换的数式变形)…(2)
距离图像传感器52以给定的周期对距离图像151进行摄像。作为距离图像传感器52,除了Time Of Flight(飞行时间)以外,还能运用能将图像中的各像素的距离值变换为三维数据的手段,例如立体摄影机或激光读取器等。
以下说明图2中的各功能的详细。
距离图像取得部2以给定的时间间隔从距离图像传感器52取得距离图像。或者也可以以给定的时间间隔从距离图像传感器52取得三维数据。
使用图19来说明正上方变换部3通过从垂直向上的无限远的虚拟视点俯视地进行正上方变换来从距离图像151取得俯瞰图像的功能。在图19中,82表示位于垂直向上的无限远的虚拟视点,251是俯瞰图像,250是俯瞰图像251中的像素。在正上方变换部3中,首先,在距离图像151中的各像素150中,从式(1)、式(2)求取三维数据IS。接下来,使用式(3)将IS变换为以轿厢51内的坐标系59定义的三维数据I(X,Y,Z)。
[数3]
在式(3)中,位置(XC,YC,ZC)是坐标系59中的距离图像传感器52的设置位置,角度如图1所示那样,是坐标系59中的距离图像传感器52的设置角度。事前测量这些设置位置和设置角度的数据并记录在正上方变换部3中。接下来,从虚拟视点82平行投影对应点50,取得俯瞰图像251上的像素250的坐标j(X,Z)。经由该对应点50从像素151取得像素250的变换就是“正上方变换”。在像素250中,不但求取坐标j,还求取高度Y。在正上方变换部3中,将距离图像151中的所有像素正上方变换到俯瞰图像251上。
使用图3和图4来说明乘客提取部4基于距离图像、即本实施例中从正上方变换部3所输出的俯瞰图像中提取乘客的处理。
在图3中,距离图像151a中的130a和131a是乘客。在图4中,俯瞰图像251a是将距离图像151a进行正上方变换的俯瞰图像,230a和231a分别表示将乘客130a和131a进行正上方变换的乘客,210a表示将距离图像151a中的任意的像素进行正上方变换的可视区域。在俯瞰图像251a中,乘客230a以及231a后面的部分(留白部)位于距离图像传感器52的可视区域210a的外侧是因为,在距离图像151a中,乘客130a和131a的后侧的地面被乘客130a以及131a遮挡而缺损。
能通过在可视区域210a中求取高度Y比轿厢51的地面高给定值以上的区域来提取乘客230a以及231a。或者,也可以用事前从未照出乘客的状态的轿厢内的距离图像151取得背景图像,将距离图像151a和背景图像进行比较来将距离值发生变化的部分进行正上方变换等其它方法来求取。
使用图3到图10来说明缺损检测部5中的缺损的检测的功能。在此,图3以及图5表示在时间上以该顺序按时序取得的距离图像,图4以及图6分别是将图3以及图5进行正上方变换的俯瞰图像。
在图5的距离图像151b中,示出与图3的距离图像151a中的乘客131a为同一人物的乘客131b、和新乘梯的乘客132b。图7表示所有乘客下梯后的距离图像151c。在图6以及图8中,俯瞰图像251b以及251c分别是将距离图像151b以及151c进行正上方变换的俯瞰图像,210b以及210c分别表示将距离图像151b以及151c中的任意像素变换后的可视区域,231b以及232b表示乘客131b以及132b的正上方变换。在图6中,与图4的乘客230a对应的区域位于可视区域210b外。即,在图6中,乘客230a被近前的乘客232b遮挡而全身缺损。
图9的步骤S1到S2表示缺损检测部5的处理流程,图10表示图9的步骤S1的详细处理流程。以下,对在时间上依次按时序获取图3、图5的距离图像151a、151b的情况下的缺损检测处理进行说明。
在缺损检测部5中,将乘客提取部4所提取的俯瞰图像上的乘客按时序存储为履历,参考当前时刻的数据更新履历。履历包含俯瞰图像上的乘客的位置的信息。首先,选择履历中的乘客的取舍(S1)。在步骤S1,在履历中的所有乘客中(S11到S19的环路),首先判定该乘客是否被其他乘客遮挡而在当前时刻缺损(S12)。在此,在将1个时刻前设为图3、将当前时刻设为图5时,则处于在履历中登记了乘客230a以及231a的位置的状态。在俯瞰图像251b上,乘客230a的位置被其他乘客232b遮挡而在可视区域210b的范围外。因此,判定为乘客230a缺损(S12中“是”),保留即不从履历中删除乘客230a而是保持登记不变(S13)。另一方面,由于乘客231a的位置在可视区域210b的范围内,因此判定为乘客231a未缺损(S12中“否”),从履历删除(S14)。在缺损检测部5中,接下来将当前时刻的乘客的数据即乘客231b和232b与位置信息一起追加到履历(S2)。另外,在将1个时刻前设为图3、将当前时刻设为图5时,由于在图6中存在不能区别乘客232b是与乘客230a不同的乘客还是图4中的乘客230a移动到图6的乘客232b的位置的可能性,因此期望使1个时刻量的刻度更小,按照产生乘客230a和乘客232b同时存在于可视区域210b的状态的方式设定1个时刻量的刻度,追踪乘客,判别是否被其他乘客遮挡而缺损。例如,在步骤S12,在位置上理应未出门的所追踪的乘客却在当前时刻没有与之对应的图像而消失,且消失前的过去(例如1个时刻前)的位置在当前时刻是可视区域210b的范围外的情况下,判断为被其他乘客遮挡而缺损,并在步骤S13使履历保留。
在缺损检测部5中,在当前时刻的轿厢51内为图7那样没有一个乘客的无人状态时,在图8中可视区域210c覆盖轿厢51的地面的整个范围。这时,在步骤S1删除履历中的所有乘客的履历。由此,能在无人时确实地清空乘客的履历。
也可以在缺损检测部5中跨多个时刻进行步骤S12的判定。例如,跨N个时刻的时序来执行步骤S12的判定,保留步骤S12的判定成为“是”(缺损)的次数为M(M≤N)次以上的乘客,删除剩下的乘客。通过执行这样的跨多时刻的判定,即使距离图像151的距离值瞬间紊乱,也能正确地进行乘客的履历的取舍。另外,在跨多时刻执行步骤S12的情况下,在步骤S2,事先对各乘客的位置进行追踪,以不使相同的乘客多次登记在履历中,仅将新出现的乘客追加到乘客的履历。
在缺损检测部5中,步骤S12的缺损的判定也可以不求取可视区域210b等而用其它方法代替。例如,也可以与图4的乘客230a一起保持距离图像151a以及乘客130a的区域,通过比较距离图像151a中的乘客130a的区域和距离图像151b中的与乘客130a相同坐标的区域中的距离值的大小(距离值越小,则从距离图像传感器52观察越位于跟前侧),来进行缺损的判定。另外,这种情况下,也可以跨多时刻进行判断。另外,在采用该方法的情况下,由于据此也只是知道1个时刻前所在位置的像素在当前时刻距离是否变化,因此如已经说明的那样,将例如进行追踪的中途消失这一情况也作为判断材料,来判断是否被其他乘客遮挡而缺损。例如,在步骤S12,在位置上理应未出门的所追踪的乘客却在当前时刻没有与之对应的图像而消失,且将消失前的过去(例如1个时刻前)的距离图像中的乘客的距离值和当前时刻的距离图像在相同坐标下的距离值进行比较而当前时刻的距离值更小(靠近距离图像传感器52)的情况下,判断为被其他乘客遮挡而缺损,在步骤S13使之保留在履历中。
乘客识别部6根据在缺损判定部5中更新的乘客的履历所表示的乘客的数量来测量拥挤度。该拥挤度使用当前的乘客的数量相对于轿厢51的最大乘员数的比率来计算。在该拥挤度的计算中,由于如上述那样在乘客的履历中留有缺损的乘客,因此还能反应如俯瞰图像251b中所示的乘客230a那样被跟前的乘客遮挡而缺损的乘客的数量。
在以上说明的乘客识别部6中,也可以除了根据乘客的数量以外还根据各乘客的面积的总和来计算拥挤度。在根据各乘客的面积的总和来计算拥挤度的情况下,使用乘客的面积的总和相对于轿厢51的地面面积的比率来计算拥挤度。关于乘客的面积,在举出俯瞰图像210a上的乘客230a为例时,能使用乘客提取部4所输出的俯瞰图像中的乘客数据和缺损检测部5所输出的乘客的履历,根据乘客230a的外切矩形的面积、包含在乘客230a中的像素数、或乘客230a的外切矩形这样的面积的图像特征来求取乘客的面积。
在此,由于虽然乘客230a的正面位于可视区域210a内,但乘客230a的背面位于可视区域210a外,因此也可以考虑面积的图像特征比根据乘客230a的全身来求取要小的情况,预先通过用轿厢51的地面面积除以轿厢51的最大乘员数来求取标准面积,将乘客的面积的图像特征和标准面积中大的一方作为乘客的面积。由于乘客的面积的图像特征在乘客130a是购物车那样的地面面积大的货物的情况下取特别大的值,因此在大的货物频繁搭乘的电梯中,通过根据乘客的面积的总和来测量拥挤度,从而能更正确地测量拥挤度。
另外,在本说明书中,不仅通常的人或乘坐轮椅的人,还使购物车、家具等人以外的货物包含在乘客中来处置。
在控制部8中,在由乘客识别部6测量的拥挤度高于给定值时,进行运行控制,使得即使在目的地楼层的中间楼层有来自门厅的呼叫,只要没有在该中间楼层下梯的乘客,则在中间楼层就不开门地通过。另外,控制部8在拥挤度小于给定值的情况下,在由于轿厢51内的乘客的位置的分布中有偏倚而新的乘客难以乘上轿厢51的状況下,也会为了改善偏倚而使用轿厢51内的扬声器对乘客播放通告。例如,在门53附近的乘客的位置的分布密、轿厢51的里侧的乘客的位置的分布疏的情况下,播放向轿厢51的里侧靠紧这样的通告。在此,在控制部8中,能将乘客230a这样在可视区域210b外而缺损的乘客包含在拥挤度的计算的对象中,来对俯瞰图像251b中的乘客231b等可视区域210b内的乘客在适当的定时播放。另外,例如能基于俯瞰图像中的乘客的分布来判定轿厢内的乘客的偏倚。
如上述那样,根据实施例1,由于能根据距离图像内检测因乘客间的遮挡而缺损的乘客,因此提升了乘客的图像识别的精度。由此,能将缺损的乘客包含在内来测量拥挤度,能高精度地基于拥挤度进行电梯的运行控制。
[实施例2]
在图11示出本发明的实施例2的具备图像识别功能的电梯的图像识别装置的功能构成图。以下叙述图11的概要,缺损检测部5b和乘客识别部6b以外的功能都与实施例1相同。另外,装置构成与图1所示的构成相同。缺损检测部5b基于距离图像,或者使用从距离图像变换的俯瞰图像,或者使用距离图像取得部2的三维数据的视野的模型,来检测从距离图像传感器52的可视区域局部超出的缺损部。乘客识别部6b在部分缺损的乘客在可视区域中的面积上加上缺损部的面积来求取部分缺损的乘客的本来的面积(未缺损的状态下的本来的面积),使用对部分缺损部进行弥补来修正的面积(未缺损的状态下的本来的面积)来计算拥挤度。
使用图12、图13、图14来说明缺损检测部5b的功能。
在图12中,151d是距离图像,134是货物,161是距离图像151d的缘。货物134在距离图像151d上因超出而有一部分的缺损。缘161相当于距离图像151d的视野的端部。货物134是搬家时搬运的家具那样的大的货物。该货物134的一部分超出到距离图像151d的视野外。另外,在本实施例中,货物134也作为乘客的一种而包含在乘客中。如图12所示那样,在距离图像151d中,在货物134与距离图像的边缘161相接的情况下,检测到货物134有缺损部。
在图13中,251d是距离图像151d的俯瞰图像,234是将货物134进行正上方变换的货物,261是将边缘161进行正上方变换的边缘(在俯瞰图像251d上是将距离图像151d中的边缘161的与货物134相接的部分的像素进行正上方变换的图像),244是在假设得到将货物134的位于边缘161外侧的部分补充到距离图像151d上的区域时,将补充后的区域进行正上方变换的缺损部。货物134在距离图像151上位于跟前侧、且没有向边缘161外超出时的俯瞰图像251d上的面积,等于可视区域210d中的货物234的面积与可视区域210d外的缺损部244的面积之和。
如图13所示那样,在俯瞰图像251d上,货物234与边缘261相接。即,边缘261位于货物234的区域内。这种情况下,在检测到货物234有缺损部。进而,如图13所示那样,边缘261从俯瞰图像251d上的地面的上端T离开。若还考虑这一点,则能确实地检测缺损。另外,也可以设定俯瞰图像上的地面上端T与缘261的距离的阈值,若为阈值以下,则判定为没有缺损,若超过阈值,则判定为有缺损。
图14是轿厢51内的垂直截面图,表示用于说明发生缺损部244的状况的距离图像传感器52的视野的模型。55表示距离图像传感器52的视角的边界线,ω表示距离图像传感器52的垂直视角,34是货物,点K、点L、点M分别是货物34的最跟前的点、视角的边界线55与货物34的天花板面的交点、货物34的最里侧的点。在此,俯瞰图像251d中的货物234以及缺损部244在图13中的纵向的长度之比,等于图14中的边KL与边LM之比。
在缺损检测部5b中,能用以下的手段检测货物234的缺损部。
首先,如上述那样,能基于距离图像151d或者俯瞰图像251d在货物234中检测缺损部的存在。
进而,能使用图14中的垂直截面图中的几何关系来检测缺损部的存在。即,事前求取距离图像传感器52的设置位置(XC,YC,ZC)以及设置角度以及垂直视角ω,按照货物34的高度求取点L,判定点L是否位于轿厢51内。然后,在判定为点L位于轿厢51内的情况下,判定为存在缺损部。在此,根据俯瞰图像251d上的货物234的区域中的Y坐标的最大值、或者求取货物234的区域中的Y坐标的直方图时的高位图值来求取货物34的高度。
在货物234中检测到存在缺损部244时,缺损检测部5b使用轿厢51的垂直截面图(图14)所示的视野的模型来求取缺损部244的区域。具体地,求取从缘261到俯瞰图像251d上的地面的上端T为止的区域作为缺损部244的区域。这种情况下,在图14的垂直截面图中,由于从点L看不到里面,因此货物34的最里侧的点M有可能比轿厢51的端部位于更跟前,但若将从边缘261到俯瞰图像251d上的地面的上端为止的区域作为缺损部244的区域,就能避免将缺损部244估计得过小。另外,能根据轿厢51内没有乘客时的可视区域210d或者轿厢51的设计值取得为了求取俯瞰图像251d上的地面的上端T而使用的轿厢51的地面的范围。
另外,也可以根据时序来求取缺损部244的区域。这种情况下,缺损检测部5b在各时刻追踪货物234等的所有乘客。在该追踪的处理中,保持各时刻的乘客的外切矩形。然后,在追踪的过程中使用过去没有缺损部的时刻的外切矩形来求取缺损部的区域。例如,在俯瞰图像251d中的货物234的情况下,事前求取在过去的时刻货物234全都在可视区域210d内、没有缺损部244的时刻的货物234的外切矩形,从没有缺损部244的时刻的货物234的外切矩形中减去俯瞰图像251d中的货物234的外切矩形,来求取缺损部244的外切矩形。或者在货物234通过追踪而总是缺损的情况下,将货物234的面积最大的时刻的外切矩形利用为没有缺损部244的时刻的货物234的外切矩形的取代即可。
乘客识别部6b使用乘客提取部4所输出的俯瞰图像中的乘客数据和缺损检测部5b所输出的缺损部区域数据来计算乘客的面积和缺损部的面积,根据这些面积来计算轿厢内的拥挤度。乘客的面积与实施例1的说明中叙述的乘客识别部6同样地求取。根据超出到视野外的各个乘客来求取缺损部244,以这些缺损部244的区域的面积的总和来求取缺损部的面积。通过用乘客的面积和缺损部的面积的总和除以轿厢51的地面的面积来求取拥挤度。但并不限于此,乘客识别部6b也可以实施防止乘客的偏倚等实施例1的说明中叙述的乘客识别部6的其它功能。
如上述那样,根据实施例2,由于能检测乘客的一部分超出到视野外而缺损的部分,因此提升了乘客的图像识别的精度。由此,能将从视野超出的乘客的缺损部包含在内来测量拥挤度,能高精度进行基于拥挤度的电梯的运行控制。
[实施例3]
在图15示出本发明的实施例3的具备图像识别功能的电梯的图像识别装置的功能构成图。在图15中,乘客识别部6c和控制部8c以外的各功能与实施例1、2相同。另外,装置构成与图1所示的构成相同。在本实施例3中,缺损检测部5b具有与实施例2相同的功能,乘客识别部6c除了具有与实施例1、2相同的功能以外,还具有考虑向视野外的超出的影响来判别轿厢51内的乘客的种类的功能。进而,控制部8c根据轿厢51内的乘客的种类来控制轿厢门53等的电梯设备的动作。
在图16示出乘客识别部6c进行分类的乘客的种类的一例。在图16中,以大人、小孩、轮椅的类别来对乘客的种类进行分类。在图16中,将面积和高度作为乘客的类别的分类基准,面积明显大于通常的大人乘客的乘客分类为轮椅,将高度明显小于通常的大人乘客的乘客分类为小孩。
图17表示乘客识别部6c中的乘客的分类的处理流程。在此,举出以俯瞰图像251d上的货物234为对象的情况为例来进行说明。另外,货物234作为乘客的一例,这种情况下,“大人”,“小孩”的分类相当于例如“大的货物”、“小的货物”。
首先,在图13中,判定货物234在可视区域210d内的面积是否超过阈值TA(S21),若超过,则判定为轮椅(S25),若未超过,则判定包含缺损部244时的面积是否超过阈值TA(S22)。在此,货物234以及缺损部244的面积与实施例2同样地求取。由于若在步骤S22中判定为超过面积TA,则不含缺损部244时(S21)和包含缺损部244时(S22)判定结果相矛盾,故而由于缺损部244的影响而设为无法判别乘客的种类,将乘客的种类设为不明(S28)。
在步骤S22,在面积为阈值TA以下的情况下,由于即使考虑缺损部244,判定结果也和步骤S21相同,因此作为有效的判定结果而移转到步骤S23。在步骤S23,判定乘客的高度是否为阈值TH以上,若为阈值TH以上,则将乘客的种类判别为大人(S26),若不足阈值TH,则移转到S24。
在步骤S24,判定是否有缺损部244,若没有缺损部244,则将乘客的种类判别为小孩(S27),若有缺损部244,则考虑因该乘客的身高高的部分缺损而使得步骤S23的判定成为“否”的可能性,而将乘客的种类判别为不明(S28)。
另外,乘客识别部6c所识别的乘客的种类并不限于图16所示的种类。例如,也可以在图16的乘客类别中加入“货物”。这种情况下,“大人”以及“小孩”成为作为人的普通乘客的类别。另外,图16所示的面积和高度是乘客的类别分类的基准的一例,并不限于此。例如,也可以取代面积,将货物234等乘客的外切矩形的高度或宽度作为乘客的类别分类的基准使用。其它例如,也可以在俯瞰图像251d等中,将在货物234等的区域内包含表示乘坐轮椅的人的头部的圆形这一情况作为分类为轮椅的条件。另外,在可视区域210d内的货物234的面积小、且存在缺损部24的情况下,找不到圆形的情况下,考虑在缺损部244内存在圆形的可能性,而将乘客的种类判断为不明(图17的步骤S28)。
控制部8c按照乘客识别部6c所输出的乘客的种类来控制轿厢门53等电梯设备的动作。例如在轿厢51内只要有一位分类为“轮椅”或“小孩”的乘客,则为了使轮椅使用者或小孩通过轿厢门53,考虑有需要比较长的时间的可能性,控制部8c使门53关闭的速度比通常降低,或者使轿厢门53开放的时间比通常更长。
在本实施例3中,也可以在缺损检测部5b中,在时刻之间进行各乘客的追踪,如图15中点线所示那样将乘客识别部6c的乘客的种类的判别结果反映到乘客的追踪中。通过进行乘客的追踪,能根据在过去的时刻判别的乘客的种类来判别在图17的步骤S28判别为不明的乘客的种类。
进而,在本实施例3中,也可以与实施例1的缺损检测部5同样地将因乘客间的遮挡而缺损的乘客包含在乘客的追踪的对象中。由此,控制部8c能将因乘客间的遮挡而缺损的乘客的种类包含在内地控制轿厢门53等的电梯设备的动作。例如,在轮椅在拥挤时因乘客间的遮挡而缺损的情况下,也能进行使轿厢门53关闭的速度降低的控制、或使开放轿厢门53的时间比通常更长的控制。
另外,轿厢51具备通常的操作面板并具备轮椅使用者用的操作面板,并且在控制部8c进行使操作该轮椅使用者用的操作面板时比操作通常的操作面板时打开更长时间的轿厢53、或者使轿厢门53关闭的速度降低的至少一方的情况下,在轿厢51内根本没有轮椅(包含因乘客间的遮挡而缺损的乘客在内)时,即使轮椅用的操作面板被操作,控制部8c也进行与操作通常的操作面板的情况相同的控制(不进行使轿厢门53开放的时间更长或使轿厢门53关闭的速度降低)。
另外,本发明并不限定于前述的各实施例,还包含各种变形例。例如,前述的各实施例是为了易于理解地说明本发明而详细说明的示例,并非限定于具备所说明的全部构成。另外,能将某实施例的构成的一部分置换为其它实施例的构成,进而还能在某实施例的构成中加入其它实施例的构成。进而,还能针对各实施例的一部分构成追加/删除/置换其它构成。
例如,在上述各实施例中,若将距离图像传感器52的设置位置从轿厢51内移动到电梯门厅内,则能将取得距离图像151的范围从轿厢51的内部置换到与电梯门厅内的轿厢51相同程度的大小的区域。在进行了该置换时,图像识别装置识别电梯门厅内的与轿厢51相同程度大小的区域中的乘客的拥挤度或者乘客的种类的至少一者(电梯门厅内的与轿厢51相同程度大小的区域中的乘客的缺损包含在内),来进行轿厢51的运行的控制或者控制轿厢51内的设备的动作。在此,也可以在电梯所服务的多个楼层各自设置距离图像传感器52。
根据本置换,例如在轿厢51所服务的各楼层求取电梯门厅的拥挤度,在有足够数量的乘客不能从电梯门厅乘梯的拥挤度的情况下,能进行运行控制,只要该楼层不是目的地楼层,则即使在该楼层的电梯门厅登记了呼叫,也不在该楼层停止而是通过。
另外,若在相同的楼层针对相邻的多个电梯中的每一个计算与电梯门厅内的轿厢51相同程度大小的区域中的拥挤度,则能按照在各电梯前等待轿厢的抵达的乘客的各拥挤度对多个电梯的运行控制进行群管理。
另外,在电梯门厅内的与轿厢51相同程度大小的区域中有小孩或轮椅使用者时,能在轿厢51停靠且轿厢门53打开之前使用轿厢51内的扬声器对轿厢51内的乘客进行通告,使大家在下梯时当心小孩或轮椅使用者。进而,也可以按照在电梯门厅等待电梯的乘客的分类对多个电梯号机进行群管理控制。由此,例如能对轮椅使用者或小孩优先分配电梯轿厢。
另外,上述各实施例中的图像识别单元,除了运用在电梯中以外,还能运用于如下这样的用途:根据距离图像传感器的设置条件,因距离图像中的人物会缺损的状况而使得需要识别这些人物。

Claims (10)

1.一种具备图像识别功能的电梯,其特征在于,具有:
距离图像传感器,其对对象物进行摄像,并测量到所述对象物的距离值;和
图像识别装置,其具有从所述距离图像传感器获取具有所述距离值的距离图像的距离图像取得部,基于所述距离图像来识别乘客,
所述具备图像识别功能的电梯的特征在于,
所述距离图像取得部按时序获取多个距离图像,
所述图像识别装置基于所述多个距离图像来提取所述乘客,并且从获取时刻不同的所述多个距离图像中提取所述乘客的位置并进行追踪,检测因被其他乘客遮挡而产生的所述乘客的缺损,将所述缺损包含在内而对所述乘客进行识别。
2.根据权利要求1所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置将所述距离图像变换为俯瞰图像,从所述俯瞰图像中提取所述乘客,并在位置上理应未出电梯的轿厢门的所追踪的乘客在当前时刻没有与之对应的图像而消失的情况下,并且在追踪中消失的所述乘客在消失前的过去位置在当前时刻位于所述俯瞰图像的可视区域的范围外的情况下,判断为被其他乘客遮挡而缺损。
3.根据权利要求1所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置,在位置上理应未出电梯的轿厢门的所追踪的乘客在当前时刻没有与之对应的图像而消失的情况下,对在追踪中消失的所述乘客在消失前的过去的距离图像中的乘客距离值和当前时刻的距离图像在相同坐标的距离值进行比较,在当前时刻的距离值更小的情况下,判断为被其他乘客遮挡而缺损。
4.根据权利要求1~3中任一项所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置,将所述距离图像变换为俯瞰图像,在所述俯瞰图像中的可视区域覆盖所述电梯的轿厢的地面的全部区域的情况下,判断为在所述电梯的轿厢内一个乘客都没有。
5.根据权利要求1~3中任一项所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置具备:
乘客识别部,其根据包含所述缺损在内的乘客数、或根据包含所述缺损的面积在内的乘客的面积来计算拥挤度;和
控制部,其按照所述拥挤度来进行电梯的运行控制或电梯设备的动作的控制。
6.一种具备图像识别功能的电梯,具有:
距离图像传感器,其对对象物进行摄像,并测量到所述对象物的距离值;和
图像识别装置,其具有从所述距离图像传感器获取具有所述距离值的距离图像的距离图像取得部,基于所述距离图像来识别乘客;
所述具备图像识别功能的电梯的特征在于,
所述图像识别装置,基于所述距离图像来提取所述乘客,并且在所述距离图像中所述乘客与所述距离图像的边缘相接的情况下检测所述乘客的缺损。
7.根据权利要求6所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置将所述距离图像变换为俯瞰图像,从所述俯瞰图像中提取所述乘客,并在所述俯瞰图像中与所述距离图像的所述边缘对应的区域与所述乘客相接的情况下检测所述缺损。
8.根据权利要求6或7所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置具备:
乘客识别部,其将因与所述距离图像的边缘相接而缺损的乘客的面积修正为未缺损的状态下的本来的面积,使用所述本来的面积来计算拥挤度;和
控制部,其按照所述拥挤度来进行电梯的运行控制或电梯设备的动作的控制。
9.根据权利要求6或7所述的具备图像识别功能的电梯,其特征在于,
所述图像识别装置具备:
乘客识别部,其基于所提取的所述乘客的距离图像以及所述缺损来对所述乘客的种类进行分类;和
控制部,其按照被分类的所述乘客的所述种类来进行电梯设备的动作的控制。
10.根据权利要求9所述的具备图像识别功能的电梯,其特征在于,
在电梯的轿厢内具备通常的操作面板和轮椅使用者用的操作面板,
在存在所述乘客识别部中分类为轮椅的乘客的情况下,所述控制部使所述轮椅使用者用的操作面板被操作时,与所述通常的操作面板被操作时相比,所述轿厢打开的时间更长,或者所述轿厢门关闭的速度降低,
并且,在不存在所述乘客识别部中分类为轮椅的乘客的情况下,即使所述轮椅使用者用的操作面板被操作,所述控制部也进行与所述通常的操作面板被操作的情况相同的控制。
CN201410805977.0A 2013-12-24 2014-12-22 具备图像识别功能的电梯 Active CN104724566B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013-264801 2013-12-24
JP2013264801A JP6134641B2 (ja) 2013-12-24 2013-12-24 画像認識機能を備えたエレベータ

Publications (2)

Publication Number Publication Date
CN104724566A CN104724566A (zh) 2015-06-24
CN104724566B true CN104724566B (zh) 2017-04-12

Family

ID=53449079

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410805977.0A Active CN104724566B (zh) 2013-12-24 2014-12-22 具备图像识别功能的电梯

Country Status (2)

Country Link
JP (1) JP6134641B2 (zh)
CN (1) CN104724566B (zh)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6474687B2 (ja) * 2015-05-27 2019-02-27 株式会社日立製作所 画像認識機能を備えたエレベータ
JP6570731B2 (ja) * 2016-03-18 2019-09-04 シェンチェン ユニバーシティー 乗客の混雑度の算出方法及びそのシステム
JP6513594B2 (ja) * 2016-03-30 2019-05-15 株式会社日立製作所 エレベータ装置及びエレベータ制御方法
JP6713837B2 (ja) * 2016-05-31 2020-06-24 株式会社日立製作所 輸送機器制御システム、及び、輸送機器制御方法
JP2018048839A (ja) 2016-09-20 2018-03-29 ファナック株式会社 三次元データ生成装置及び三次元データ生成方法、並びに三次元データ生成装置を備えた監視システム
JP6632142B2 (ja) * 2016-10-27 2020-01-15 Kddi株式会社 オブジェクト追跡装置、方法およびプログラム
JP6892258B2 (ja) * 2016-12-15 2021-06-23 株式会社東芝 運転状態制御装置および運転状態制御方法
CN110461753B (zh) * 2017-03-27 2021-11-05 因温特奥股份公司 用于监控电梯轿厢门的方法和装置
JP6764832B2 (ja) * 2017-06-19 2020-10-07 株式会社日立ビルシステム エレベーター装置及びその制御方法
JP6798937B2 (ja) * 2017-06-22 2020-12-09 株式会社日立ビルシステム エレベータ及びエスカレータ
CN107416629B (zh) * 2017-09-05 2019-06-21 日立楼宇技术(广州)有限公司 电梯安全运行的控制方法和系统
AT520567B1 (de) * 2017-10-17 2021-10-15 View Promotion Gmbh Verfahren zur Überwachung einer Aufzugskabine
JP6479936B1 (ja) * 2017-11-09 2019-03-06 東芝エレベータ株式会社 エレベータ制御システム
EP3543189B1 (en) 2018-03-19 2022-07-27 Otis Elevator Company Elevator car operation based on its occupancy
JP6896808B2 (ja) * 2019-08-09 2021-06-30 東芝エレベータ株式会社 エレベータの利用者検知システム
CN110723614B (zh) * 2019-10-28 2021-03-26 珠海格力电器股份有限公司 一种用于电梯门的保护装置、电梯及保护方法
CN110895141A (zh) * 2019-11-28 2020-03-20 梁彦云 住宅空间拥挤度分析平台
US11544931B2 (en) * 2020-05-26 2023-01-03 Otis Elevator Company Machine learning based human activity detection and classification in first and third person videos
CN111847166B (zh) * 2020-07-20 2023-01-13 日立楼宇技术(广州)有限公司 电梯保护方法、装置及系统
CN112390103B (zh) * 2020-10-13 2022-06-21 日立楼宇技术(广州)有限公司 候梯监控方法、装置、计算机设备和存储介质
CN114283305A (zh) * 2020-12-25 2022-04-05 上海商汤智能科技有限公司 图像检测方法及装置、电子设备和存储介质
JP7388586B1 (ja) 2023-03-20 2023-11-29 三菱電機ビルソリューションズ株式会社 エレベーターシステム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001175868A (ja) * 1999-12-22 2001-06-29 Nec Corp 人物検出方法及び装置
JP4644992B2 (ja) * 2001-08-10 2011-03-09 パナソニック電工株式会社 距離画像を用いた人体検知方法
JP3734793B2 (ja) * 2002-12-09 2006-01-11 三菱電機株式会社 人物検出装置
JP4239621B2 (ja) * 2003-03-11 2009-03-18 株式会社明電舎 混雑度調査装置
EP1772752A4 (en) * 2004-07-30 2009-07-08 Panasonic Elec Works Co Ltd Single detector and additional detector
JP2006151533A (ja) * 2004-11-25 2006-06-15 Matsushita Electric Works Ltd 超音波センサを備えたエレベータ装置
JP4982072B2 (ja) * 2005-11-09 2012-07-25 株式会社日立ビルシステム エレベータのかご内監視装置、及び監視プログラム
CN101081513A (zh) * 2006-05-31 2007-12-05 中国科学院自动化研究所 机器人视觉系统在有遮挡情况下对特定人的跟踪方法
JP2010063001A (ja) * 2008-09-05 2010-03-18 Mitsubishi Electric Corp 人物追跡装置および人物追跡プログラム
CN101847218A (zh) * 2009-03-25 2010-09-29 微星科技股份有限公司 人流计数系统及其方法
JP5754990B2 (ja) * 2011-03-09 2015-07-29 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2013113824A (ja) * 2011-12-01 2013-06-10 Nikon Corp 電子機器
CN102616617B (zh) * 2012-03-23 2014-11-19 佛山市智邦电子科技有限公司 一种电梯监控方法
CN103400142B (zh) * 2013-05-14 2016-06-01 上海交通大学 一种行人计数方法

Also Published As

Publication number Publication date
JP2015120573A (ja) 2015-07-02
JP6134641B2 (ja) 2017-05-24
CN104724566A (zh) 2015-06-24

Similar Documents

Publication Publication Date Title
CN104724566B (zh) 具备图像识别功能的电梯
CN106144796B (zh) 用于空乘客运输外壳确定的基于深度传感器的乘客感测
CN106144795B (zh) 通过识别用户操作用于乘客运输控制和安全的系统和方法
Navarro-Serment et al. Pedestrian detection and tracking using three-dimensional ladar data
CN106144861B (zh) 用于乘客运输控制的基于深度传感器的乘客感测
CN106144862B (zh) 用于乘客运输门控制的基于深度传感器的乘客感测
CN104828664B (zh) 自动调试系统和方法
CN111144247B (zh) 一种基于深度学习的自动扶梯乘客逆行检测方法
CN106373394B (zh) 一种基于视频和雷达的车辆检测方法及系统
TWI452540B (zh) 影像式之交通參數偵測系統與方法及電腦程式產品
US9904861B2 (en) Method for detecting target objects in a surveillance region
CN106144801B (zh) 用于特殊乘客运输工具负载状况的基于深度传感器的感测
CN106144797B (zh) 用于乘客运输的通行列表产生
CN106144798B (zh) 用于乘客运输控制的传感器融合
US9569902B2 (en) Passenger counter
US7729512B2 (en) Stereo image processing to detect moving objects
JP5448817B2 (ja) 目的階登録配車運転においてセキュリティ保護の追跡を匿名で行う乗客指標付けシステム
US20160292521A1 (en) Depth Sensor Based Passenger Detection
US20110176000A1 (en) System and Method for Counting People
CN106185494A (zh) 具备图像识别功能的电梯
US20140037147A1 (en) Number of persons measurement device
JP5932521B2 (ja) エレベータ監視装置及び監視方法
JP2017178559A (ja) エレベータ装置及びエレベータ制御方法
Stahlschmidt et al. Applications for a people detection and tracking algorithm using a time-of-flight camera
JP2010198566A (ja) 人数計測装置、方法及びプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant