RU2021136613A - SYSTEM AND METHOD FOR OBTAINING BASIC VALUES FOR DECISION-MAKING FOR ROBOT MANIPULATOR CONTROL, COMPUTER PROGRAM AND NON-VOLUME DATA CARRIER - Google Patents

SYSTEM AND METHOD FOR OBTAINING BASIC VALUES FOR DECISION-MAKING FOR ROBOT MANIPULATOR CONTROL, COMPUTER PROGRAM AND NON-VOLUME DATA CARRIER Download PDF

Info

Publication number
RU2021136613A
RU2021136613A RU2021136613A RU2021136613A RU2021136613A RU 2021136613 A RU2021136613 A RU 2021136613A RU 2021136613 A RU2021136613 A RU 2021136613A RU 2021136613 A RU2021136613 A RU 2021136613A RU 2021136613 A RU2021136613 A RU 2021136613A
Authority
RU
Russia
Prior art keywords
img3d
reference object
image data
camera
space
Prior art date
Application number
RU2021136613A
Other languages
Russian (ru)
Inventor
Эрик ОСКАРССОН
Original Assignee
Делаваль Холдинг Аб
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Делаваль Холдинг Аб filed Critical Делаваль Холдинг Аб
Publication of RU2021136613A publication Critical patent/RU2021136613A/en

Links

Claims (60)

1. Система получения базовых значений (DB) для принятия решений для управления манипулятором робота, выполняющим по меньшей мере одно действие по отношению к молочному животному (100), содержащая:1. A system for obtaining basic values (DB) for making decisions to control a robot arm that performs at least one action in relation to a dairy animal (100), containing: камеру (110), выполненную с возможностью регистрации данных (Dimg3D) трехмерного изображения, представляющих место проведения доения, содержащее вращающуюся платформу (130), на которой стоит указанное животное (100), обращенное своими задними ногами (LH, RH) к камере (110), иa camera (110) capable of recording data (D img3D ) of a three-dimensional image representing a milking site containing a rotating platform (130) on which the specified animal (100) stands, facing its hind legs (LH, RH) towards the camera ( 110), and блок (120) управления, выполненный с возможностью приема данных (Dimg3D) изображения от камеры (110) и обработки данных (Dimg3D) изображения для получения базовых значений (DB) для принятия решений,a control unit (120) configured to receive image data (D img3D ) from the camera (110) and process image data (D img3D ) to obtain base values (DB) for decision making, характеризующаяся тем, чтоcharacterized by the fact that место проведения доения содержит эталонный объект (R1), иthe milking site contains the reference object (R1), and блок (120) управления выполнен с возможностью выполнения проверки того, можно ли найти в данных (Dimg3D) изображения окно доступа для манипулятора робота, при этом указанная проверка включает:the control unit (120) is configured to check whether it is possible to find in the image data (D img3D ) an access window for the robot arm, said check including: поиск эталонного объекта (R1) в данных (Dimg3D) изображения и, если эталонный объект (R1) найден,search for the reference object (R1) in the image data (D img3D ) and, if the reference object (R1) is found, поиск приемлемого пространства (V) без препятствий в данных (Dimg3D) изображения, причем указанное пространство (V):search for an acceptable space (V) without obstacles in the data (D img3D ) of the image, and the specified space (V): расположено в пределах разрешенного пространства (S) относительно эталонного объекта (R1),located within the allowed space (S) relative to the reference object (R1), содержит непрерывную зону (A), обращенную к камере (110), причем размер указанной непрерывной зоны (A) превышает пороговое значение, иcontains a continuous zone (A) facing the camera (110), and the size of the specified continuous zone (A) exceeds the threshold value, and начинается в предварительно заданном положении (P) и проходит по меньшей мере на основное расстояние (dOK) по направлению в глубину от камеры (110).starts at a predetermined position (P) and extends at least a basic distance (d OK ) in the depth direction from the camera (110). 2. Система по п. 1, отличающаяся тем, что если эталонный объект (R1) не найден в данных (Dimg3D) изображения, проверка включает:2. The system according to claim 1, characterized in that if the reference object (R1) is not found in the image data (D img3D ), the check includes: получение информации об эталонном объекте (R1) из сохраненных данных (Dimg3D) изображения, представляющих место проведения доения, при этом указанные сохраненные данные (Dimg3D) изображения были зарегистрированы камерой (110) ранее, когда место проведения доения было расположено перед камерой (110).obtaining information about the reference object (R1) from the stored image data (D img3D ) representing the milking site, said stored image data (D img3D ) having been previously captured by the camera (110) when the milking site was located in front of the camera (110 ). 3. Система по любому из пп. 1 или 2, отличающаяся тем, что3. The system according to any one of paragraphs. 1 or 2, characterized in that эталонный объект (R1) содержит физический предмет или часть физического предмета, проходящую в поперечном направлении параллельно плоскости вращения вращающейся платформы (130);reference object (R1) contains a physical object or part of a physical object, passing in the transverse direction parallel to the plane of rotation of the rotating platform (130); камера (110) расположена в таком положении, ориентации и с таким полем обзора, что регистрируемые данные (Dimg3D) трехмерного изображения в поперечном направлении содержат ширину по меньшей мере одного доильного станка, а в продольном направлении содержат разрешенное пространство (S) и эталонный объект (R1); иthe camera (110) is located in such a position, orientation and with such a field of view that the recorded data (D img3D ) of the three-dimensional image in the transverse direction contains the width of at least one milking machine, and in the longitudinal direction it contains the allowed space (S) and the reference object (R1); And эталонный объект (R1) проходит поперек центральной части поля обзора в поперечном направлении.the reference object (R1) passes across the central part of the field of view in the transverse direction. 4. Система по любому одному из предшествующих пунктов, отличающаяся тем, что эталонный объект (R1) образует часть конструкции, расположенной на неподвижной части (131) места проведения доения, отдельной от вращающейся платформы (130), при этом указанная конструкция выполнена с возможностью предотвращения выхода задних ног (LH, RH) за пределы безопасной зоны места проведения доения.4. The system according to any one of the preceding claims, characterized in that the reference object (R1) forms part of a structure located on a fixed part (131) of the milking site, separate from the rotating platform (130), while said structure is configured to prevent hind legs (LH, RH) leaving the safe area of the milking area. 5. Система по п. 4, отличающаяся тем, что блок (120) управления дополнительно выполнен с возможностью, при нахождении блоком (120) управления приемлемого пространства (V) без препятствий в данных (Dimg3D) изображения:5. The system according to claim 4, characterized in that the control unit (120) is additionally configured, when the control unit (120) finds an acceptable space (V) without obstacles in the image data (D img3D ): проверки того, соответствует ли по меньшей мере один контур (C1, C2, C3), ограничивающий непрерывную зону (A), по меньшей мере одному требованию формы, и если указанное по меньшей мере одно требование формы выполнено,checking whether at least one contour (C1, C2, C3) delimiting the continuous zone (A) meets at least one shape requirement, and if said at least one shape requirement is met, классификации указанного пространства (V) в качестве окна доступа для манипулятора робота.classify the specified space (V) as an access window for the robot arm. 6. Система по п. 5, отличающаяся тем, что блок (120) управления дополнительно выполнен с возможностью, при нахождении блоком (120) управления приемлемого пространства (V) без препятствий в данных (Dimg3D) изображения поиска вымени (U) указанного животного (100) в разрешенном пространстве (S) данных (Dimg3D) изображения с использованием эталонного объекта (R1) в качестве первого граничного условия и с использованием вращающейся платформы (130) в качестве второго граничного условия для поиска.6. The system according to claim 5, characterized in that the control unit (120) is additionally configured, when the control unit (120) finds an acceptable space (V) without obstacles in the data (D img3D ) of the udder search image (U) of the specified animal (100) in the resolved image data space (S) (D img3D ) using the reference object (R1) as the first boundary condition and using the rotating platform (130) as the second boundary condition for searching. 7. Система по любому из пп. 5 или 6, отличающаяся тем, что первое требование формы из указанного по меньшей мере одного требования формы определяет максимальную приемлемую степень зубчатости указанного по меньшей мере одного контура (C1, C2, C3).7. The system according to any one of paragraphs. 5 or 6, characterized in that the first shape requirement of said at least one shape requirement determines the maximum acceptable degree of serration of said at least one contour (C1, C2, C3). 8. Система по любому из пп. 5-7, отличающаяся тем, что второе требование формы из указанного по меньшей мере одного требования формы определяет максимальную приемлемую степень неправильности непрерывной зоны (A).8. The system according to any one of paragraphs. 5-7, characterized in that the second form requirement of the specified at least one form requirement determines the maximum acceptable degree of irregularity of the continuous zone (A). 9. Система по любому из предшествующих пунктов, отличающаяся тем, что поиск указанного пространства (V) включает отфильтровывание информации в данных (Dimg3D) изображения, которая представляет объекты, расположенные ближе первого порогового расстояния (d1) к камере (110) и дальше второго порогового расстояния (d2) от камеры (110), при этом первое и второе пороговые расстояния (d1, d2) отделены друг от друга основным расстоянием (dOK).9. The system according to any of the preceding claims, characterized in that the search for said space (V) includes filtering out information in the image data (D img3D ) that represents objects closer than a first threshold distance (d 1 ) to the camera (110) and beyond the second threshold distance (d 2 ) from the camera (110), while the first and second threshold distances (d 1 , d 2 ) are separated from each other by the main distance (d OK ). 10. Система по п. 9, отличающаяся тем, что предварительно заданное положение (P) расположено на первом пороговом расстоянии (d1) от камеры (110).10. System according to claim 9, characterized in that the predetermined position (P) is located at a first threshold distance (d 1 ) from the camera (110). 11. Система по п. 10, отличающаяся тем, что первое пороговое расстояние (d1) равно нулю.11. The system according to claim 10, characterized in that the first threshold distance (d 1 ) is equal to zero. 12. Система по любому из предшествующих пунктов, отличающаяся тем, что основное расстояние (dOK) определено по отношению к по меньшей мере одному параметру вращающейся платформы (130).12. System according to any one of the preceding claims, characterized in that the main distance (d OK ) is determined with respect to at least one parameter of the rotating platform (130). 13. Система по любому из предшествующих пунктов, отличающаяся тем, что поиск указанного пространства (V) включает отфильтровывание информации в данных (Dimg3D) изображения, которая представляет значения яркости освещения за пределами приемлемого диапазона яркости.13. The system according to any one of the preceding claims, wherein the search for said space (V) includes filtering out information in the image data (D img3D ) that represents illumination luminance values outside an acceptable luminance range. 14. Система по любому из предшествующих пунктов, отличающаяся тем, что место проведения доения содержит по меньшей мере один вспомогательный эталонный объект (R11, R2) места проведения доения, положение которого относительно положения камеры (110) известно, а блок (120) управления дополнительно выполнен с возможностью поиска указанного по меньшей мере одного вспомогательного эталонного объекта (R11, R2) в данных (Dimg3D) изображения во время выполнения проверки того, может ли быть найдено окно доступа.14. The system according to any of the preceding claims, characterized in that the milking site contains at least one auxiliary reference object (R11, R2) of the milking site, the position of which relative to the position of the chamber (110) is known, and the control unit (120) additionally configured to search for said at least one auxiliary reference object (R11, R2) in the image data (D img3D ) while checking whether an access window can be found. 15. Способ получения базовых значений (DB) для принятия решений для управления манипулятором робота, выполняющим по меньшей мере одно действие по отношению к молочному животному (100), включающий:15. A method for obtaining basic values (DB) for making decisions to control a robot arm that performs at least one action in relation to a dairy animal (100), including: регистрацию посредством камеры (110) данных (Dimg3D) трехмерного изображения, представляющих место проведения доения, содержащее вращающуюся платформу (130), на которой стоит указанное животное (100), обращенное своими задними ногами (LH, RH) к камере (110), иregistration by means of the camera (110) of data (D img3D ) of a three-dimensional image representing the place of milking, containing a rotating platform (130) on which the indicated animal (100) stands, facing its hind legs (LH, RH) towards the camera (110), And обработку данных (Dimg3D) изображения для получения базовых значений (DB) для принятия решений,data processing (D img3D ) images to obtain base values (DB) for decision making, характеризующийся тем, что место проведения доения содержит эталонный объект (R1), а способ включаетcharacterized in that the place of milking contains a reference object (R1), and the method includes выполнение проверки возможности найти окно доступа для манипулятора робота в данных (Dimg3D) изображения, при этом указанная проверка включает:performing a test to find the access window for the robot arm in the image data (D img3D ), said test including: поиск эталонного объекта (R1) в данных (Dimg3D) изображения и, если эталонный объект (R1) найден,search for the reference object (R1) in the image data (D img3D ) and, if the reference object (R1) is found, поиск приемлемого пространства (V) без препятствий в данных (Dimg3D) изображения, причем указанное пространство (V):search for an acceptable space (V) without obstacles in the data (D img3D ) of the image, and the specified space (V): расположено в пределах разрешенного пространства (S) относительно эталонного объекта (R1),located within the allowed space (S) relative to the reference object (R1), содержит непрерывную зону (A), обращенную к камере (110), причем размер указанной непрерывной зоны (A) превышает пороговое значение, иcontains a continuous zone (A) facing the camera (110), and the size of the specified continuous zone (A) exceeds the threshold value, and начинается в предварительно заданном положении (P) и проходит по меньшей мере на основное расстояние (dOK) по направлению в глубину от камеры (110).starts at a predetermined position (P) and extends at least a basic distance (d OK ) in the depth direction from the camera (110). 16. Способ по п. 15, отличающийся тем, что если эталонный объект (R1) не найден в данных (Dimg3D) изображения, проверка включает получение информации об эталонном объекте (R1) из сохраненных данных (Dimg3D) изображения, представляющих место проведения доения, при этом указанные сохраненные данные (Dimg3D) изображения были зарегистрированы камерой (110) ранее, когда место проведения доения было расположено перед камерой (110).16. The method according to claim 15, characterized in that if the reference object (R1) is not found in the image data (D img3D ), the check includes obtaining information about the reference object (R1) from the stored image data (D img3D ) representing the venue milking, wherein said stored image data (D img3D ) was previously recorded by the camera (110) when the milking site was located in front of the camera (110). 17. Способ по любому из пп. 15 или 16, отличающийся тем, что17. The method according to any one of paragraphs. 15 or 16, characterized in that эталонный объект (R1) содержит физический предмет или часть физического предмета, проходящую в поперечном направлении параллельно плоскости вращения вращающейся платформы (130);reference object (R1) contains a physical object or part of a physical object, passing in the transverse direction parallel to the plane of rotation of the rotating platform (130); регистрация данных (Dimg3D) трехмерного изображения включает регистрацию данных (Dimg3D) трехмерного изображения из такого положения, ориентации и с таким полем обзора, что регистрируемые данные (Dimg3D) трехмерного изображения в поперечном направлении содержат ширину по меньшей мере одного доильного станка, а в продольном направлении содержат разрешенное пространство (S) и эталонный объект (R1); иcapturing 3D image data (D img3D ) includes capturing 3D image data (D img3D ) from such a position, orientation and field of view such that the lateral direction 3D image data (D img3D ) being recorded contains the width of at least one milking parlor and in the longitudinal direction contain the allowed space (S) and the reference object (R1); And эталонный объект (R1) проходит поперек центральной части поля обзора в поперечном направлении.the reference object (R1) passes across the central part of the field of view in the transverse direction. 18. Способ по любому из пп. 15-17, отличающийся тем, что эталонный объект (R1) образует часть конструкции, расположенной на неподвижной части (131) места проведения доения, отдельной от вращающейся платформы (130), при этом указанная конструкция выполнена с возможностью предотвращения выхода задних ног (LH, RH) за пределы безопасной зоны места проведения доения.18. The method according to any one of paragraphs. 15-17, characterized in that the reference object (R1) forms part of a structure located on a fixed part (131) of the milking site, separate from the rotating platform (130), while this structure is configured to prevent the exit of the hind legs (LH, RH) outside the safe area of the milking area. 19. Способ по п. 18, отличающийся тем, что дополнительно включает, при нахождении приемлемого пространства (V) без препятствий в данных (Dimg3D) изображения:19. The method according to claim 18, further comprising, upon finding an acceptable space (V) without obstacles in the image data (D img3D ) of the image: проверку того, соответствует ли по меньшей мере один контур (C1, C2, C3), ограничивающий непрерывную зону (A), по меньшей мере одному требованию формы, и если указанное по меньшей мере одно требование формы выполнено,checking whether at least one contour (C1, C2, C3) delimiting the continuous zone (A) meets at least one shape requirement, and if said at least one shape requirement is met, классификацию указанного пространства (V) в качестве окна доступа для манипулятора робота.classifying the specified space (V) as an access window for the robot arm. 20. Способ по п. 19, отличающийся тем, что дополнительно включает, при нахождении приемлемого пространства (V) без препятствий в данных (Dimg3D) изображения поиск вымени (U) указанного животного (100) в разрешенном пространстве (S) данных (Dimg3D) изображения с использованием эталонного объекта (R1) в качестве первого граничного условия и с использованием вращающейся платформы (130) в качестве второго граничного условия.20. The method according to claim 19, characterized in that it further comprises, when finding an acceptable space (V) without obstacles in the data (D img3D ) of the image, searching for the udder (U) of the specified animal (100) in the allowed space (S) of the data (D img3D ) images using the reference object (R1) as the first boundary condition and using the rotating platform (130) as the second boundary condition. 21. Способ по любому из пп. 19 или 20, отличающийся тем, что первое требование формы из указанного по меньшей мере одного требования формы определяет максимальную приемлемую степень зубчатости указанного по меньшей мере одного контура (C1, C2, C3).21. The method according to any one of paragraphs. 19 or 20, characterized in that the first shape requirement of said at least one shape requirement determines the maximum acceptable degree of serration of said at least one contour (C1, C2, C3). 22. Способ по любому из пп. 19-21, отличающийся тем, что второе требование формы из указанного по меньшей мере одного требования формы определяет максимальную приемлемую степень неправильности непрерывной зоны (A).22. The method according to any one of paragraphs. 19-21, characterized in that the second form requirement of the specified at least one form requirement determines the maximum acceptable degree of irregularity of the continuous zone (A). 23. Способ по любому из пп. 16-22, отличающийся тем, что поиск указанного пространства (V) включает отфильтровывание информации в данных (Dimg3D) изображения, которая представляет объекты, расположенные ближе первого порогового расстояния (d1) к камере (110) и дальше второго порогового расстояния (d2) от камеры (110), при этом первое и второе пороговые расстояния (d1, d2) отделены друг от друга основным расстоянием (dOK).23. The method according to any one of paragraphs. 16-22, characterized in that the search for the specified space (V) includes filtering out information in the image data (D img3D ) that represents objects located closer than the first threshold distance (d 1 ) to the camera (110) and further than the second threshold distance (d 2 ) from the camera (110), while the first and second threshold distances (d 1 , d 2 ) are separated from each other by the main distance (d OK ). 24. Способ по п. 23, отличающийся тем, что предварительно заданное положение (P) расположено на первом пороговом расстоянии (d1).24. The method according to claim 23, characterized in that the predetermined position (P) is located at the first threshold distance (d 1 ). 25. Способ по п. 24, отличающийся тем, что первое пороговое расстояние (d1) равно нулю.25. The method according to claim 24, characterized in that the first threshold distance (d 1 ) is equal to zero. 26. Способ по любому из пп. 16-25, отличающийся тем, что основное расстояние (dOK) определено по отношению к по меньшей мере одному параметру вращающейся платформы (130).26. The method according to any one of paragraphs. 16-25, characterized in that the main distance (d OK ) is determined in relation to at least one parameter of the rotating platform (130). 27. Способ по любому из пп. 16-26, отличающийся тем, что поиск указанного пространства (V) включает отфильтровывание информации в данных (Dimg3D) изображения, которая представляет значения яркости освещения за пределами приемлемого диапазона яркости.27. The method according to any one of paragraphs. 16-26, characterized in that the search for the indicated space (V) includes filtering out information in the image data (D img3D ) that represents illumination luminance values outside the acceptable luminance range. 28. Способ по любому из пп. 16-27, отличающийся тем, что место проведения доения содержит по меньшей мере один вспомогательный эталонный объект (R11, R2) места проведения доения, положение которого относительно положения камеры (110) известно, а способ дополнительно включает поиск указанного по меньшей мере одного вспомогательного эталонного объекта (R11, R2) в данных (Dimg3D) изображения во время выполнения проверки того, может ли быть найдено окно доступа.28. The method according to any one of paragraphs. 16-27, characterized in that the milking site contains at least one auxiliary reference object (R11, R2) of the milking site, the position of which relative to the position of the chamber (110) is known, and the method further includes searching for said at least one auxiliary reference object (R11, R2) in the image data (D img3D ) while checking whether an access window can be found. 29. Компьютерная программа (127), загружаемая на энергонезависимый носитель (126) данных, соединенный с возможностью передачи данных с блоком (125) обработки информации, при этом указанная компьютерная программа (127) содержит программное обеспечение для исполнения способа по любому из пунктов 16-28 при работе указанной компьютерной программы в блоке (125) обработки информации.29. A computer program (127) loaded onto a non-volatile data carrier (126) connected with the possibility of data transfer to the information processing unit (125), while the specified computer program (127) contains software for executing the method according to any of paragraphs 16- 28 when said computer program is running in the information processing unit (125). 30. Энергонезависимый носитель (126) данных, содержащий компьютерную программу (127) по п. 29.30. A non-volatile storage medium (126) containing a computer program (127) according to claim 29.
RU2021136613A 2019-05-14 2020-05-06 SYSTEM AND METHOD FOR OBTAINING BASIC VALUES FOR DECISION-MAKING FOR ROBOT MANIPULATOR CONTROL, COMPUTER PROGRAM AND NON-VOLUME DATA CARRIER RU2021136613A (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
SE1950570-0 2019-05-14

Publications (1)

Publication Number Publication Date
RU2021136613A true RU2021136613A (en) 2023-06-14

Family

ID=

Similar Documents

Publication Publication Date Title
US10824853B2 (en) Human detection system for construction machine
JP5519693B2 (en) Apparatus and method for determining a score of an animal's physical condition
JP2020038662A (en) Learning method and learning device for detecting lane through classification of lane candidate pixel, and test method and test device using the same
US10776637B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
US10465362B2 (en) Human detection system for construction machine
EP3648053B1 (en) Image processing method and system, storage medium, and moving system
US10154645B2 (en) Vision system with tail positioner
US10546383B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
US20190180092A1 (en) Vision system with teat detection
US10383305B1 (en) Vision system for teat detection
US10349615B2 (en) Vision system for teat detection
WO2022002443A1 (en) Autonomous livestock monitoring
US10650557B2 (en) Focus detection apparatus and method thereof
RU2021136613A (en) SYSTEM AND METHOD FOR OBTAINING BASIC VALUES FOR DECISION-MAKING FOR ROBOT MANIPULATOR CONTROL, COMPUTER PROGRAM AND NON-VOLUME DATA CARRIER
US20190188820A1 (en) Vision system with teat detection
US11885638B2 (en) Method, system, and non-transitory computer-readable recording medium for generating a map for a robot
JP6766898B2 (en) Point cloud data processing device, point cloud data processing method, point cloud data processing program, vehicle control device and vehicle
Xiang et al. PhenoStereo: a high-throughput stereo vision system for field-based plant phenotyping-with an application in sorghum stem diameter estimation
JP2013250796A (en) Number plate detection device, number plate detection method, and computer program
US10349613B2 (en) Vision system for teat detection
US20180049392A1 (en) Vision System for Teat Detection
US20220210997A1 (en) System and method for providing a decision basis for controlling a robotic arm, computer program and non-volatile data carrier
JP2019117522A (en) Obstacle detection device
CN113179371B (en) Shooting method, device and snapshot system
Nygård et al. Motion trajectory estimation of salmon using stereo vision