KR20190107076A - 물체 식별 시스템 - Google Patents

물체 식별 시스템 Download PDF

Info

Publication number
KR20190107076A
KR20190107076A KR1020197023544A KR20197023544A KR20190107076A KR 20190107076 A KR20190107076 A KR 20190107076A KR 1020197023544 A KR1020197023544 A KR 1020197023544A KR 20197023544 A KR20197023544 A KR 20197023544A KR 20190107076 A KR20190107076 A KR 20190107076A
Authority
KR
South Korea
Prior art keywords
information
identification
identified
terminal
server
Prior art date
Application number
KR1020197023544A
Other languages
English (en)
Other versions
KR102252245B1 (ko
Inventor
게이지 나카무라
아키히로 신쿠마
Original Assignee
얀마 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 얀마 가부시키가이샤 filed Critical 얀마 가부시키가이샤
Priority to KR1020217013190A priority Critical patent/KR102363216B1/ko
Publication of KR20190107076A publication Critical patent/KR20190107076A/ko
Application granted granted Critical
Publication of KR102252245B1 publication Critical patent/KR102252245B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/20Administration of product repair or maintenance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • G06K9/46
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N5/232
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

단말 장치는, 촬상부에 의해 촬상된 촬상 화상에 포함되는 식별 대상의 특징 정보를 추출하고, 추출된 특징 정보와 단말 위치 정보를 포함하는 식별 판정용 정보를, 서버에 송신하는 단말측 식별 제어부를 포함한다. 서버는, 피식별 물체마다, 당해 피식별 물체의 특징 정보 및 위치 정보가 기억된 기억부와, 단말 장치로부터 수신한 식별 판정용 정보 내의 단말 위치 정보에 기초하여 탐색 영역을 설정하고, 설정한 탐색 영역 내에 존재하며 또한 식별 판정용 정보 내의 특징 정보와 동일한 특징 정보를 갖는다는 조건을 만족하는 소정의 피식별 물체를 탐색하여, 이 조건을 만족하는 소정의 피식별 물체를 탐색할 수 있었을 때에, 당해 소정의 피식별 물체를 식별 대상으로서 특정하는 서버측 식별 제어부를 포함한다.

Description

물체 식별 시스템
본 발명은 물체 식별 시스템에 관한 것이다.
특허문헌 1 에는, 카메라를 구비한 단말 장치와, 단말 장치와 통신 가능한 서버를 구비한 물체 식별 시스템이 개시되어 있다. 구체적으로는, 단말 장치는, 카메라에 의해 촬상된 화상 (입력 화상) 을 서버에 송신한다. 서버는, 단말 장치로부터 수신한 화상의 특징량을 추출하고, 추출한 특징량을 제 1 특징량 사전과 대조함으로써, 수신 화상에 비쳐 있는 물체를 식별한다. 그리고, 서버는, 식별 결과에 따라서, 단말 장치에 제공해야 할 제 2 특징량 사전과 부가 정보 데이터베이스를 취득하여, 단말 장치에 송신한다. 제 2 특징량 사전은, 제 1 특징량 사전보다 데이터량이 적은 사전이다.
단말 장치는, 입력 화상의 특징량을 추출하고, 서버로부터 취득한 제 2 특징량 사전과 대조함으로써, 입력 화상에 비쳐 있는 물체를 식별한다. 다음으로, 단말 장치는, 식별된 물체에 관련된 부가 정보를, 서버로부터 취득한 부가 정보 데이터베이스로부터 취득하여, 취득한 부가 정보를 입력 화상에 중첩시킴으로써, 출력 화상을 생성한다. 그리고, 단말 장치는, 출력 화상을 표시부에 표시한다.
일본 공개특허공보 제2015-212967호
상기 특허문헌 1 에 기재된 물체 식별 시스템에서는, 단말 장치는, 입력 화상의 특징량과, 서버로부터 취득한 제 2 특징량 사전을 대조함으로써, 입력 화상에 비쳐 있는 물체를 식별하고 있다. 그러나, 예를 들어, 작업 차량과 같이, 동일 형식 (型式) 의 작업 차량이 복수 존재하고 있는 경우에는, 입력 화상에 비쳐 있는 작업 차량의 특징량으로부터, 당해 작업 차량을 개체 레벨로 식별하는 것이 곤란하다.
본 발명의 목적은, 복수의 피식별 물체 중에 동일한 특징 정보를 갖는 복수의 피식별 물체가 존재하는 경우에도, 단말 장치에 의해 식별 대상을 촬상함으로써, 당해 식별 대상을 개체 레벨로 식별할 수 있게 되는 물체 식별 시스템을 제공하는 것이다.
본 발명에 의한 물체 식별 시스템은, 외부로부터 촬상 가능한 특징 정보를 갖는 복수의 피식별 물체 중, 식별해야 할 피식별 물체인 식별 대상을 촬상 가능한 단말 장치와, 상기 단말 장치와 통신 가능한 서버를 포함하고, 상기 단말 장치는, 당해 단말 장치의 위치 및 방위를 포함하는 단말 위치 정보를 검출하는 검출부와, 상기 식별 대상을 촬상하기 위한 촬상부와, 상기 촬상부에 의해 촬상된 촬상 화상에 포함되는 상기 식별 대상의 특징 정보를 추출하고, 추출된 특징 정보와 상기 단말 위치 정보를 포함하는 식별 판정용 정보를, 상기 서버에 송신하는 단말측 식별 제어부를 포함하고, 상기 서버는, 상기 피식별 물체마다, 당해 피식별 물체의 특징 정보 및 위치 정보가 기억된 기억부와, 상기 단말 장치로부터 수신한 상기 식별 판정용 정보 내의 단말 위치 정보에 기초하여 탐색 영역을 설정하고, 설정한 탐색 영역 내에 존재하며 또한 상기 식별 판정용 정보 내의 특징 정보와 동일한 특징 정보를 갖는다는 조건을 만족하는 소정의 피식별 물체를 탐색하여, 상기 조건을 만족하는 소정의 피식별 물체를 탐색할 수 있었을 때에, 당해 소정의 피식별 물체를 상기 식별 대상으로서 특정하는 서버측 식별 제어부를 포함한다.
피식별 물체란, 본 발명의 물체 식별 시스템에 의해 식별되어야 할 대상이 될 수 있는 물체를 의미한다. 식별 대상이란, 복수의 피식별 물체 중, 식별되어야 할 대상을 말한다.
이 구성에서는, 단말 장치의 촬상부에 의해 식별 대상이 촬상되고, 당해 식별 대상의 특징 정보가 추출된다. 그리고, 식별 대상의 특징 정보와 단말 위치 정보를 포함하는 식별 판정용 정보가 서버에 송신된다. 서버측에서는, 단말 위치 정보에 기초하여 탐색 영역이 설정되고, 설정된 탐색 영역 내에 존재하며 또한 식별 판정용 정보 내의 특징 정보 (식별 대상의 특징 정보) 와 동일한 특징 정보를 갖는다는 조건을 만족하는 피식별 물체가 탐색된다. 그리고, 상기 조건을 만족하는 피식별 물체가 발견되면, 당해 피식별 물체가 식별 대상으로서 특정된다. 따라서, 복수의 피식별 물체 중에 동일한 특징 정보를 갖는 복수의 피식별 물체가 존재하는 경우에도, 단말 장치에 의해 식별 대상을 촬상함으로써, 당해 식별 대상을 개체 레벨로 식별할 수 있게 된다.
본 발명의 일 실시형태에서는, 상기 서버측 식별 제어부는, 상기 조건을 만족하는 소정의 피식별 물체가 복수 존재할 때에는, 이들 복수의 소정의 피식별 물체 중 상기 단말 장치에 가장 가까운 위치에 존재하는 소정의 피식별 물체를 상기 식별 대상으로서 특정하도록 구성되어 있다.
이 구성에서는, 촬상 화상 내에 식별 대상과 동일한 특징 정보를 갖는 복수의 피식별 물체가 존재하고 있는 경우에도, 식별 대상을 특정하는 것이 가능해진다.
본 발명의 일 실시형태에서는, 상기 기억부에는, 상기 피식별 물체마다, 당해 피식별 물체의 특징 정보, 위치 정보 및 개별 정보가 기억되어 있고, 상기 서버측 식별 제어부는, 상기 소정의 피식별 물체를 상기 식별 대상으로서 특정했을 때에는, 상기 기억부에 기억되어 있는 당해 소정의 피식별 물체의 개별 정보를, 상기 단말 장치에 송신하도록 구성되어 있다.
이 구성에서는, 식별 대상으로서 특정된 피식별 물체의 개별 정보를, 서버로부터 단말 장치에 송신할 수 있게 된다.
본 발명의 일 실시형태에서는, 상기 단말 장치는, 상기 촬상부에 의해 촬상되어 있는 촬상 화상을 표시하기 위한 표시부를 추가로 포함하고, 상기 단말측 식별 제어부는, 상기 서버측 식별 제어부에 의해 송신된 상기 개별 정보를, 상기 표시부에 표시되어 있는 촬상 화상에 중첩 표시하도록 구성되어 있다.
이 구성에서는, 단말 장치의 사용자는, 식별 대상의 개별 정보를 인식할 수 있게 된다.
본 발명의 일 실시형태에서는, 상기 개별 정보는, 대응하는 피식별 물체를 식별하는 식별 정보, 대응하는 피식별 물체의 가동 정보 및 대응하는 피식별 물체의 메인터넌스 정보 중 적어도 1 개를 포함한다.
이 구성에서는, 단말 장치의 사용자는, 식별 대상의 식별 정보, 가동 정보 및 메인터넌스 정보 중 적어도 1 개를 인식하는 것이 가능해진다.
본 발명의 일 실시형태에서는, 상기 개별 정보는, 대응하는 피식별 물체의 고장 부품을 나타내는 고장 부품 식별 정보를 포함하고 있고, 상기 단말측 식별 제어부는, 상기 서버측 식별 제어부에 의해 송신된 상기 개별 정보에 포함되어 있는 고장 부품 식별 정보에 기초하여, 상기 표시부에 표시되어 있는 촬상 화상에, 상기 고장 부품 식별 정보에 대응하는 고장 부품의 화상을 중첩 표시하도록 구성되어 있다.
이 구성에서는, 단말 장치의 사용자는, 고장 지점을 시각적으로 인식할 수 있게 된다.
본 발명의 일 실시형태에서는, 상기 특징 정보는, 대응하는 피식별 물체의 형식 정보이다.
본 발명에 있어서의 상기 서술한, 또는 또 다른 목적, 특징 및 효과는, 첨부 도면을 참조하여 다음에 서술하는 실시형태의 설명에 의해 분명해진다.
도 1 은 본 발명의 일 실시형태에 관련된 물체 식별 시스템이 적용된 작업 차량 식별 시스템의 구성을 나타내는 모식도이다.
도 2 는 작업 차량의 주요한 전기적 구성을 나타내는 블록도이다.
도 3 은 원격 감시 서버의 전기적 구성을 나타내는 블록도이다.
도 4a 는 기본 테이블의 내용예를 나타내는 모식도이다.
도 4b 는 교환 부품 테이블의 내용예를 나타내는 모식도이다.
도 4c 는 부품 교환 순서 테이블의 내용예를 나타내는 모식도이다.
도 5a 는 에러 감시 테이블의 내용예를 나타내는 모식도이다.
도 5b 는 메인터넌스 이력 관리 테이블의 내용예를 나타내는 모식도이다.
도 6 은 휴대 단말의 전기적 구성을 나타내는 블록도이다.
도 7 은 부품 화상 테이블의 내용예를 나타내는 모식도이다.
도 8 은 단말측 식별 제어부에 의해 실행되는 단말측 식별 제어 처리의 순서의 일례를 나타내는 플로차트이다.
도 9 는 서버측 식별 제어부에 의해 실행되는 서버측 식별 제어 처리의 순서의 일례를 나타내는 플로차트이다.
도 10 은 탐색 영역의 설정 방법을 설명하기 위한 모식도이다.
도 11 은 촬상 화상에 개별 정보 및 부품 화상이 중첩된 예를 나타내는 모식도이다.
도 12 는 촬상 화상에 개별 정보 및 부품 화상이 중첩된 다른 예를 나타내는 모식도이다.
도 1 은, 본 발명의 일 실시형태에 관련된 물체 식별 시스템이 적용된 작업 차량 식별 시스템의 구성을 나타내는 모식도이다.
작업 차량 식별 시스템 (1) 은, 피식별 물체로서의 작업 차량 (2) 을 개체 레벨로 식별하기 위한 시스템이다. 작업 차량 식별 시스템 (1) 은, 휴대형의 단말 장치 (이하, 「휴대 단말 (3)」이라고 한다) 와, 원격 감시 서버 (4) 를 포함한다.
작업 차량 (2) 은, 통신망 (6) 을 통하여 원격 감시 서버 (4) 와 통신 가능하다. 작업 차량 (2) 은, 측위 위성 (7) 을 이용하여 자기 위치를 측위하는 기능을 구비하고 있다. 작업 차량 (2) 의 측면에는, 형식을 나타내는 형식 정보 (9) 가 기재되어 있다. 도 1 에 나타내고 있는 작업 차량 (2) 의 형식 정보 (9) 는, "YH448" 이다. 형식 정보 (9) 는, 피식물체의 특징 정보의 일례이다.
휴대 단말 (3) 은, 스마트 폰, 태블릿형 퍼스널 컴퓨터 (태블릿형 PC) 등의 휴대 단말로 이루어진다. 이 실시형태에서는, 휴대 단말 (3) 은 스마트 폰이다. 휴대 단말 (3) 은, CCD 카메라 등의 촬상부 (53) (도 6 참조) 를 구비하고 있다. 또, 휴대 단말 (3) 은, 측위 위성 (7) 을 이용하여 자기 위치를 측위하는 기능을 구비하고 있다. 휴대 단말 (3) 에는, 본 실시형태를 실시하기 위해서 개발된 차량 식별·정보 부가 프로그램이 탑재되어 있다. 차량 식별·정보 부가 프로그램은, 원격 감시 서버 (4) 와 제휴하여 작업 차량 (2) 의 식별을 실시함과 함께, AR 을 이용하여 촬상 화상에 대한 정보 부가를 실시하기 위한 애플리케이션 프로그램이다. 여기서 AR 은, 확장 현실 (Augmented Reality) 이라고 불리며, 현실 공간에 부가 정보를 표시시켜, 현실 세계를 확장하는 기술이다. 휴대 단말 (3) 은, 통신망 (6) 을 통하여 원격 감시 서버 (4) 와 통신 가능하다. 이 실시형태에서는, 휴대 단말 (3) 은, 예를 들어, 작업 차량 (2) 의 메인터넌스를 실시할 때에, 메인터넌스를 실시하는 서비스 맨에 의해서 휴대된다.
원격 감시 서버 (4) 는, 복수의 작업 차량 (2) 을 원격 감시하기 위한 서버로, 원격 감시 센터 (5) 내에 형성되어 있다. 원격 감시 서버 (4) 는, 통신망 (6) 을 통하여, 작업 차량 (2) 및 휴대 단말 (3) 과 통신 가능하다.
작업 차량 식별 시스템 (1) 의 전체적인 동작의 개요에 대해 설명한다.
작업 차량 (2) 은, 작업 차량 (2) 의 식별 정보, 위치 정보, 가동 정보, 에러 검지 정보 (이상 정보) 등을 원격 감시 서버 (4) 에 송신한다. 작업 차량 (2) 으로부터 원격 감시 서버 (4) 에 송신되는 작업 차량 (2) 의 식별 정보는, 이 실시형태에서는, 후술하는 바와 같이, 작업 차량 (2) 에 형성된 원격 감시 단말 (12) (도 2 참조) 의 전화 번호이다. 이 식별 정보는, 작업 차량 (2) 에 할당된 독특한 식별 정보인 기번 (機番) 이어도 된다.
원격 감시 서버 (4) 는, 작업 차량 (2) 으로부터, 식별 정보, 위치 정보, 가동 정보, 에러 검지 정보 등을 수신하면, 이들 정보를 당해 작업 차량 (2) 의 식별 정보, 형식 정보 및 기번에 관계지어 기억한다. 원격 감시 서버 (4) 는, 작업 차량 (2) 으로부터의 에러 검지 정보를 수신한 경우에는, 오퍼레이터를 통하여 또는 직접, 서비스 맨에게 그 내용을 통지한다. 서비스 맨은, 휴대 단말 (3) 을 휴대하여, 에러가 발생되어 있는 작업 차량 (2) 이 존재하고 있는 장소에 간다. 이하에 있어서, 상기 에러가 발생되어 있는 작업 차량 (2) 을 「에러 차량」이라고 하는 경우가 있다.
에러 차량이 존재하고 있는 장소에 서비스 맨이 도착하면, 서비스 맨은, 휴대 단말 (3) 을 조작하여, 차량 식별·정보 부가 프로그램을 기동시킨다. 차량 식별·정보 부가 프로그램이 기동되면, 촬상부 (53) 가 작동 상태가 되므로, 서비스 맨은 휴대 단말 (3) 의 촬상 방향을 에러 차량 (식별 대상) 의 측면에 맞춘다. 보다 구체적으로는, 에러 차량에 있어서의 형식 정보 (9) 가 기재되어 있는 측면이 촬상되도록, 서비스 맨은 휴대 단말 (3) 을 에러 차량을 향하게 한다. 이로써, 촬상부 (53) 로부터 에러 차량을 포함하는 화상이 휴대 단말 (3) 에 입력되는 상태가 된다.
휴대 단말 (3) 은, 입력 화상으로부터 형식 정보 (9) 를 추출한다. 그리고, 휴대 단말 (3) 은, 추출한 형식 정보 (9) 및 휴대 단말 (3) 의 위치 정보 (휴대 단말 (3) 의 자세 및 방위의 정보를 포함하고 있어도 된다) 를 포함하는 식별 판정용 정보를 원격 감시 서버 (4) 에 송신한다.
원격 감시 서버 (4) 는, 휴대 단말 (3) 로부터의 식별 판정용 정보를 수신하면, 식별 판정용 정보 내의 위치 정보에 기초하여, 휴대 단말 (3) 의 근방에 탐색 영역을 설정한다. 다음으로, 원격 감시 서버 (4) 는, 복수의 작업 차량 (2) 의 최신의 위치 정보에 기초하여, 탐색 영역 내에 존재하며 또한 식별 판정용 정보 내의 형식 정보 (9) 와 동일 형식이라는 조건을 만족하는 작업 차량 (2) 을 탐색한다. 그리고, 상기 조건을 만족하는 작업 차량 (2) 이 발견되면, 원격 감시 서버 (4) 는, 당해 작업 차량 (2) 을 에러 차량 (식별 대상) 으로서 특정하고, 당해 작업 차량 (2) 에 관한 정보 (이하, 「개별 정보」라고 한다) 를, 휴대 단말 (3) 에 송신한다. 휴대 단말 (3) 은, 개별 정보를 수신하면, 개별 정보 내의 소정의 정보를 입력 화상에 중첩 표시하거나, 개별 정보 내의 소정의 정보에 대응하는 화상 (예를 들어 부품 화상) 을 입력 화상에 중첩 표시하거나 한다.
이하, 작업 차량 (2), 원격 감시 서버 (4) 및 휴대 단말 (3) 의 전기적 구성에 대해 설명한다.
도 2 는, 작업 차량 (2) 의 주요한 전기적 구성을 나타내는 블록도이다.
작업 차량 (2) 은, 작업 차량 제어 장치 (11) 와, 원격 감시 단말 (12) 을 포함한다. 작업 차량 제어 장치 (11) 는, 작업 차량 (2) 의 각 부의 전기 기기를 제어한다. 작업 차량 (2) 이 예를 들어 콤바인인 경우에는, 작업 차량 제어 장치 (11) 는, 주행 장치, 예취 장치, 반송 장치, 탈곡 장치 등의 콤바인의 각 부의 전기 기기를 제어한다. 작업 차량 제어 장치 (11) 는, 작업 차량 (2) 의 가동 정보, 에러 검지 정보 등을 원격 감시 단말 (12) 에 제공한다. 가동 정보로는, 가동 시간, 엔진 회전수, 배기 온도, 액셀의 조작 상태, 브레이크의 조작 상태 등을 들 수 있다. 이 실시형태에서는, 에러 검지 정보는, 에러의 종류를 나타내는 에러 코드를 포함한다.
원격 감시 단말 (12) 은, 작업 차량 (2) 의 위치 정보, 작업 차량 제어 장치 (11) 로부터 제공된 가동 정보 및 에러 검지 정보 등을 원격 감시 서버 (4) 에 송신한다. 이 실시형태에서는, 원격 감시 단말 (12) 에는, 통신용의 전화 번호가 설정되어 있다.
원격 감시 단말 (12) 은, 제어부 (20) 를 구비하고 있다. 제어부 (20) 에는, 위치 검출부 (21), 통신부 (22), 조작 표시부 (23), 조작부 (24), 기억부 (25) 등이 접속되어 있다. 위치 검출부 (21) 는, 위성 측위 시스템에 기초하여 원격 감시 단말 (12) 의 위치 정보를 산출한다. 이 실시형태에서는, 위성 측위 시스템은, GNSS (Global Navigation Satellite System) 이다. 구체적으로는, 위치 검출부 (21) 는, 복수의 측위 위성 (7) (도 1 참조) 으로부터의 위성 신호를 수신하여, 원격 감시 단말 (12) (작업 차량 (2)) 의 위치 정보를 산출한다. 위치 정보는, 예를 들어, 위도, 경도 및 고도 정보로 이루어진다.
통신부 (22) 는, 제어부 (20) 가 통신망 (6) 을 통하여 원격 감시 서버 (4) 와 통신하기 위한 통신 인터페이스이다. 조작 표시부 (23) 는, 예를 들어, 터치 패널식 디스플레이로 이루어진다. 조작부 (24) 는, 예를 들어, 1 또는 복수의 조작 버튼을 포함한다. 기억부 (25) 는, 불휘발성 메모리 등의 기억 디바이스로 구성되어 있다.
제어부 (20) 는, CPU 및 메모리 (ROM, RAM 등) 를 구비한 마이크로 컴퓨터를 포함한다. 제어부 (20) 는, 위치 검출부 (21) 에 의해 산출되는 위치 정보를 소정 시간마다 취득하여 기억부 (25) 에 기억시킨다. 그리고, 제어부 (20) 는, 소정 시간마다, 기억부 (25) 에 기억되어 있는 최신의 위치 정보를 원격 감시 서버 (4) 에 송신한다.
또, 제어부 (20) 는, 작업 차량 제어 장치 (11) 로부터 제공된 가동 정보를 기억부 (25) 에 축적한다. 그리고, 제어부 (20) 는, 기억부 (25) 에 축적되어 있는 가동 정보를, 소정의 타이밍 (예를 들어, 전원 오프 조작이 이루어진 타이밍) 에, 일괄하여 원격 감시 서버 (4) 에 송신한다. 또, 제어부 (20) 는, 작업 차량 제어 장치 (11) 로부터 에러 검지 정보가 제공되었을 때에는, 당해 에러 검지 정보를 기억부 (25) 에 기억함과 함께, 당해 에러 검지 정보를 원격 감시 서버 (4) 에 송신한다.
도 3 은, 원격 감시 서버 (4) 의 전기적 구성을 나타내는 블록도이다.
원격 감시 서버 (4) 는, 제어부 (30) 를 구비하고 있다. 제어부 (30) 에는, 통신부 (31), 조작 표시부 (32), 조작부 (33), 기억부 (34) 등이 접속되어 있다. 통신부 (31) 는, 제어부 (30) 가 통신망 (6) 을 통하여 원격 감시 단말 (12) (작업 차량 (2)) 및 휴대 단말 (3) 과 통신하기 위한 통신 인터페이스이다. 조작 표시부 (32) 는, 예를 들어, 터치 패널식 디스플레이로 이루어진다. 조작부 (33) 는, 예를 들어, 키보드, 마우스 등을 포함한다. 기억부 (34) 는, 하드 디스크, 불휘발성 메모리 등의 기억 디바이스로 구성되어 있다.
기억부 (34) 에는, 기본 테이블 (35), 교환 부품 테이블 (36), 부품 교환 순서 테이블 (37), 에러 감시 테이블 (38), 메인터넌스 이력 관리 테이블 (39) 등이 형성되어 있다.
기본 테이블 (35) 은, 도 4a 에 나타내는 바와 같이, 작업 차량 (2) 에 형성된 원격 감시 단말 (12) 의 전화 번호마다, 당해 작업 차량 (2) 의 형식, 기번, 최신 위치 정보, 가동 시간, 그 밖의 가동 정보 (도시 생략) 등이 기억된다. 최신 위치 정보 및 가동 시간은, 각각 대응하는 작업 차량 (2) 으로부터 위치 정보 및 가동 정보를 수신할 때마다 제어부 (30) 에 의해 갱신된다.
교환 부품 테이블 (36) 은, 도 4b 에 나타내는 바와 같이, 에러 코드마다, 당해 에러 코드로 나타내는 에러를 해제시키기 위해서 교환이 필요한 부품의 코드 (교환 부품 코드) 및 부품 명칭이 기억된다. 교환 부품 코드는, 고장 부품 식별 정보의 일례이다. 1 개의 에러 코드에 대해 복수의 부품의 교환이 필요한 경우에는, 당해 에러 코드에 대응하여, 이들 복수의 부품 각각에 대한 교환 부품 코드 및 부품 명칭이 기억된다.
부품 교환 순서 테이블 (37) 은, 도 4c 에 나타내는 바와 같이, 부품 코드 (교환 부품 코드) 마다, 당해 부품의 교환 순서 정보가 기억된다. 부품 교환 순서 정보는, 예를 들어 PDF 파일로서 기억된다.
에러 감시 테이블 (38) 은, 작업 차량 (2) 으로부터의 에러 검지 정보를 수신했을 때에, 에러 코드 등의 정보가 기억되는 테이블이다. 구체적으로는, 작업 차량 (2) 으로부터의 에러 검지 정보를 수신하면, 제어부 (30) 는, 도 5a 에 나타내는 바와 같이, 작업 차량 (2) 의 전화 번호, 에러 발생 일시, 에러 코드 등을 포함하는 에러 정보를, 에러 감시 테이블 (38) 에 기억한다.
메인터넌스 이력 관리 테이블 (39) 은, 메인터넌스 이력 정보를 관리하기 위한 테이블이다. 메인터넌스 이력 정보는, 도 5b 에 나타내는 바와 같이, 메인터넌스가 실시된 작업 차량 (2) 의 전화 번호, 메인터넌스가 실시된 일시 (메인터넌스 일시), 메인터넌스의 내용 등으로 이루어진다. 메인터넌스 이력 정보는, 예를 들어, 메인터넌스 종료 후에 있어서, 오퍼레이터 등에 의해 입력된다.
도 3 으로 돌아와, 제어부 (30) 는, CPU 및 메모리 (ROM, RAM 등) 를 구비한 마이크로 컴퓨터를 포함한다. 제어부 (30) 는, 원격 감시부 (41) 와. 서버측 식별 제어부 (42) 를 포함한다. 원격 감시부 (41) 는, 작업 차량 (2) 으로부터의 가동 정보를 수신했을 때에, 기본 테이블 (35) 내의 가동 정보를 갱신하거나, 기본 테이블 (35) 내에 가동 정보를 추가한다. 또, 원격 감시부 (41) 는, 작업 차량 (2) 으로부터의 에러 검지 정보를 수신했을 때에는, 에러 감시 테이블 (38) 에 에러 정보를 기억함과 함께, 이들 내용을, 오퍼레이터를 통하여 또는 직접 서비스 맨에게 통지한다.
예를 들어, 원격 감시부 (41) 는, 에러 검지 정보를 수신했을 때에, 에러 검지 정보를 수신한 것을 나타내는 경고 표시를 실시하거나, 경고음을 출력하거나 함으로써, 에러 검지 정보를 수신한 것을 오퍼레이터에게 알린다. 오퍼레이터는, 에러 검지 정보를 수신한 것을 인식하면, 에러 정보를 서비스 맨에게 통지한다. 혹은, 원격 감시부 (41) 는, 에러 검지 정보를 수신했을 때에, 에러 정보를 포함하는 에러 통지 메일을 작성하여, 미리 설정된 서비스 맨 앞으로 에러 통지 메일을 송신한다.
서버측 식별 제어부 (42) 는, 휴대 단말 (3) 에 의해 촬상되어 있는 작업 차량 (식별 대상) 을 특정하고, 특정한 작업 차량에 관한 개별 정보를 휴대 단말 (3) 에 송신한다고 하는 서버측 식별 제어 처리를 실시한다. 서버측 식별 제어 처리의 상세에 대해서는, 후술한다.
도 6 은, 휴대 단말 (3) 의 전기적 구성을 나타내는 블록도이다.
휴대 단말 (3) 은, 제어부 (50) 를 구비하고 있다. 제어부 (50) 에는, 위치 검출부 (51), 자세·방위 검출부 (52), 촬상부 (53), 통신부 (54), 조작 표시부 (55), 조작부 (56), 기억부 (57) 등이 접속되어 있다. 위치 검출부 (51) 는, 위성 측위 시스템에 기초하여 휴대 단말 (3) 의 위치 정보를 산출한다. 이 실시형태에서는, 위성 측위 시스템은, GNSS (Global Navigation Satellite System) 이다. 구체적으로는, 위치 검출부 (51) 는, 복수의 측위 위성 (7) (도 1 참조) 으로부터의 위성 신호를 수신하여, 휴대 단말 (3) 의 위치 정보를 산출한다. 위치 정보는, 예를 들어, 위도, 경도 및 고도 정보로 이루어진다.
자세·방위 검출부 (52) 는, 휴대 단말 (3) 의 자세 및 방위를 검출한다. 휴대 단말 (3) 의 자세란, 휴대 단말 (3) 의 삼차원 방향의 기울기각을 나타내고, 휴대 단말 (3) 의 방위란, 촬상부 (53) 에 의한 촬상 방향을 나타낸다. 자세·방위 검출부 (52) 는, 예를 들어, 자이로 센서, 가속도 센서, 지자기 센서 등을 사용하여, 휴대 단말 (3) 의 자세 및 방위를 검출한다.
이하에 있어서, 위치 검출부 (51) 에 의해 검출된 위치 그리고 자세·방위 검출부 (52) 에 의해 검출된 자세 및 방위 중, 적어도 위치를 포함하는 정보를 단말 위치 정보로 하기로 한다. 단, 이 실시형태에서는, 단말 위치 정보는, 위치, 자세 및 방위의 모든 정보를 포함하고 있다.
촬상부 (53) 는, 예를 들어, CCD (Charge Coupled Device), CMOS (Complementary Metal Oxide Semiconductor) 등의 촬상 디바이스를 사용하여, 피식별 대상인 작업 차량 (2) 을 촬상한다.
통신부 (54) 는, 제어부 (50) 가 통신망 (6) 을 통하여 원격 감시 서버 (4) 와 통신을 행하기 위한 통신 인터페이스이다. 조작 표시부 (55) 는, 예를 들어, 터치 패널식 디스플레이로 이루어진다. 조작부 (56) 는, 예를 들어, 1 또는 복수의 조작 버튼을 포함한다. 기억부 (57) 는, 불휘발성 메모리 등의 기억 디바이스로 구성된다.
기억부 (57) 에는, 작업 차량 (2) 의 형식마다 부품 화상 테이블 (58, 58, …) 이 형성되어 있다. 각 부품 화상 테이블 (58) 에는, 도 7 에 나타내는 바와 같이, 당해 형식의 작업 차량 (2) 을 구성하는 부품의 부품 코드마다, 그 부품의 위치를 나타내는 정보 (부품 위치 정보) 및 그 부품의 화상 (부품 화상) 이 기억되어 있다. 부품 화상은, 이 실시형태에서는, 삼차원의 CG 화상이다. 또한, 부품 화상은, 사진 화상이어도 되고, 이차원의 CG 화상이어도 된다. 부품 화상은, 후술하는 바와 같이, 예를 들어, 교환해야 할 부품을 촬상 화상 상에 명시하기 위해서, 촬상 화상에 중첩 표시된다.
부품 위치 정보는, 작업 차량 (2) 의 측면에 기록된 형식 정보의 위치를 기준으로 한 부품의 위치를 나타내는 정보이다. 예를 들어, 작업 차량 (2) 의 형식 정보 (9) 가 기재되어 있는 측면을, 작업 차량 (2) 의 외측방으로부터 관찰자가 보았을 때, 형식 정보 (9) 의 위치를 원점으로 한 XYZ 좌표계의 xyz 좌표치를, 부품 위치 정보로서 사용할 수 있다. 이 때, 예를 들어, X 축 방향을 차량의 전후 방향 (상기 측면의 가로 방향) 으로 잡고, Y 축 방향을 차량의 높이 방향 (상기 측면의 세로 방향) 으로 잡고, Z 축 방향을 차량의 좌우 방향 (상기 측면에서의 깊이 방향) 으로 잡아도 된다.
부품 화상 테이블 (58) 에 기억되는 부품 화상의 기준 표시 사이즈는, 실제 부품의 크기의 소정 배의 크기로 설정되어 있다. 마찬가지로, 부품 위치 정보인 좌표치도, 실제 작업 차량 (2) 에 대한 좌표치를 예를 들어 상기 소정 배로 한 값으로 설정되어 있다. 바꿔 말하면, 실제의 작업 차량을 소정 배로 한 크기의 작업 차량을, 기준 작업 차량으로 하면, 부품 위치 정보 (좌표치) 의 절대치 및 부품 화상의 기준 표시 사이즈는, 기준 작업 차량에 대응한 크기로 설정되어 있다.
촬상부 (53) 에 의해 촬상되는 화상 내의 작업 차량 (2) 의 크기는, 휴대 단말 (3) 과 작업 차량 (2) 의 거리, 줌량 등의 촬상 조건에 따라서 변화한다. 따라서, 부품 화상을 촬상 화상 내의 작업 차량의 대응하는 위치에 중첩 표시하기 위해서는, 부품 위치 정보의 절대치 및 부품 화상의 표시 사이즈를, 촬상 화상 내의 작업 차량의 크기에 따른 크기로 변경할 필요가 있다. 이 변경은, 예를 들어 다음과 같이 실시할 수 있다. 즉, 화상 내의 작업 차량의 형식 정보 (9) 의 크기로부터, 기준 작업 차량의 크기에 대한 화상 내의 작업 차량의 크기의 비를 구한다. 그리고, 이 비에 기초하여, 부품 위치 정보의 절대치 및 부품 화상의 표시 사이즈를, 화상 내의 작업 차량의 크기에 따른 크기로 조정한다.
제어부 (50) 는, CPU 및 메모리 (ROM, RAM, 불휘발성 메모리 등) (60) 를 구비한 마이크로 컴퓨터를 포함한다. 메모리 (상세하게는 불휘발성 메모리) (60) 에는, 전술한 차량 식별·정보 부가 프로그램이 기억되어 있다. 제어부 (50) 는, 차량 식별·정보 부가 프로그램이 기동되었을 때에, 식별·정보 부가 프로그램에 따라서 단말측 식별 제어 처리를 실행하는 단말측 식별 제어부 (61) 를 포함한다.
도 8 은, 단말측 식별 제어부 (61) 에 의해 실행되는 단말측 식별 제어 처리의 순서의 일례를 나타내는 플로차트이다. 도 9 는, 서버측 식별 제어부 (42) 에 의해 실행되는 서버측 식별 제어 처리의 순서의 일례를 나타내는 플로차트이다.
도 8 에 나타나는 단말측 식별 제어 처리는, 예를 들어, 에러가 발생되어 있는 작업 차량 (에러 차량) 이 존재하고 있는 장소에 서비스 맨이 도착한 후, 서비스 맨이 휴대 단말 (3) 을 조작하여, 차량 식별·정보 부가 프로그램을 기동함으로써 개시된다.
단말측 식별 제어 처리가 개시되면, 단말측 식별 제어부 (61) 는, 촬상부 (53) 를 작동 상태로 한다 (스텝 S1). 이로써, 촬상부 (53) 에 의해 화상이 촬상되고, 촬상 화상은 제어부 (50) 를 통하여, 조작 표시부 (55) 에 표시된다. 이 촬상 화상은, 단말측 식별 제어부 (61) 에도 입력된다. 서비스 맨은, 형식 정보 (9) 가 기재되어 있는 에러 차량의 측면이 촬상되도록, 휴대 단말 (3) 을 에러 차량의 측면을 향하게 한다.
단말측 식별 제어부 (61) 는, 입력 화상으로부터 형식 정보를 추출하기 위한 형식 정보 추출 처리를 실시한다 (스텝 S2). 이 형식 정보 추출 처리는, 공지된 화상 인식 기술을 사용하여 실시할 수 있다.
입력 화상으로부터 형식 정보가 추출되면, 단말측 식별 제어부 (61) 는, 추출된 형식 정보와 단말 위치 정보를 포함하는 식별 판정용 정보를 원격 감시 서버 (4) 에 송신한다 (스텝 S3).
도 9 를 참조하여, 원격 감시 서버 (4) 의 서버측 식별 제어부 (42) 는, 단말측 식별 제어부 (61) 로부터의 식별 판정용 정보를 수신하면 (스텝 S11 : 예), 식별 판정용 정보 내의 단말 위치 정보에 기초하여, 탐색 영역을 설정한다 (스텝 S12 : 예). 구체적으로는, 서버측 식별 제어부 (42) 는, 도 10 에 나타내는 바와 같이, 평면에서 볼 때, 휴대 단말 (3) 로부터 촬상부 (53) 의 촬상 방향 (도 10 에 화살표로 나타내는 방향 A) 을 향해 확장되는 반경 r 의 부채형 영역 (해칭 영역) (S) 을 탐색 영역으로서 설정한다. 부채형 영역 (S) 의 2 개의 반경이 형성하는 각이, 부채형 영역 (S) 의 중심각이다. 부채형 영역 (S) 의 중심각은, 부채형 영역 (S) 의 일방의 반경과 촬상 방향 A 가 형성하는 각 (θ) 과, 부채형 영역 (S) 의 타방의 반경과 촬상 방향 A 가 형성하는 각 (θ) 의 합인 2θ 가 된다. 이 실시형태에서는, 반경 r 은 30 m 로 설정되고, θ 는 15 도로 설정되어 있다. 요컨대, 이 실시형태에서는, 부채형 영역 (S) 의 중심각은 30 도로 설정되어 있다.
다음으로, 서버측 식별 제어부 (42) 는, 도 4a 의 기본 테이블 (35) 에 기억되어 있는 복수의 작업 차량 (2) 의 최신 위치 정보에 기초하여, 탐색 영역 (S) 내에 존재하며 또한 식별 판정용 정보 내의 형식 정보와 동일 형식이라고 하는 조건을 만족하는 작업 차량 (2) 을 탐색한다 (스텝 S13).
그리고, 서버측 식별 제어부 (42) 는, 소정의 탐색 시간 후에, 상기 조건을 만족하는 작업 차량 (2) 이 1 대만 발견되었는지, 2 대 이상 발견되었는지, 1 대도 발견되지 않았는지를 판별한다 (스텝 S14).
상기 조건을 만족하는 작업 차량 (2) 이 1 대도 발견되지 않은 경우에는, 서버측 식별 제어부 (42) 는, 휴대 단말 (3) 에 의해 촬상되어 있는 에러 차량을 특정할 수 없었던 것을 나타내는 식별 실패 커맨드를 포함하는 식별 결과 정보를, 휴대 단말 (3) 에 송신한다 (스텝 S15).
상기 스텝 S14 에 있어서, 상기 조건을 만족하는 작업 차량 (2) 이 1 대만 발견된 경우에는, 서버측 식별 제어부 (42) 는, 당해 작업 차량 (2) 을, 휴대 단말 (3) 에 의해 촬상되어 있는 에러 차량 (식별 대상) 으로서 특정한다 (스텝 S16). 그리고, 서버측 식별 제어부 (42) 는, 스텝 S18 로 이행한다.
상기 스텝 S14 에 있어서, 상기 조건을 만족하는 작업 차량 (2) 이 2 대 이상 발견된 경우에는, 서버측 식별 제어부 (42) 는, 이들 복수의 작업 차량 (2) 중, 휴대 단말 (3) 에 가장 가까운 위치에 존재하는 작업 차량 (2) 을, 휴대 단말 (3) 에 의해 촬상되어 있는 에러 차량 (식별 대상) 으로서 특정한다 (스텝 S17). 그리고, 스텝 S18 로 이행한다.
상기 스텝 S18 에서는, 서버측 식별 제어부 (42) 는, 테이블 (35 ∼ 38) 에 기초하여, 에러 차량 (식별 대상) 으로서 특정된 작업 차량 (2) 에 관한 개별 정보를 취득하고, 취득한 개별 정보와 식별 성공 커맨드를 포함하는 식별 결과 정보를, 휴대 단말 (3) 에 송신한다.
구체적으로는, 서버측 식별 제어부 (42) 는, 도 4a 의 기본 테이블 (35) 로부터, 에러 차량으로서 특정된 작업 차량 (2) 의 형식, 기번, 가동 시간 등의 정보를 취득한다. 또, 서버측 식별 제어부 (42) 는, 도 5a 의 에러 감시 테이블 (38) 로부터, 에러 차량으로서 특정된 작업 차량 (2) 의 금회의 에러 원인인 에러 코드를 취득한다. 그리고, 서버측 식별 제어부 (42) 는, 도 4b 의 교환 부품 테이블 (36) 로부터, 에러 감시 테이블 (38) 로부터 취득한 에러 코드에 대응하는 교환 부품 코드 및 부품 명칭을 취득한다. 그리고 서버측 식별 제어부 (42) 는, 도 4c 의 부품 교환 순서 테이블 (37) 로부터, 교환 부품 테이블 (36) 로부터 취득한 각 교환 부품 코드에 대응하는 부품 교환 순서 정보를 취득한다. 그리고, 서버측 식별 제어부 (42) 는, 테이블 (35 ∼ 38) 로부터 취득한 개별 정보 (형식, 기번, 가동 시간, 에러 코드, 교환 부품 코드 및 부품 명칭, 부품 교환 순서 정보 등) 와 식별 성공 커맨드를 포함하는 식별 결과 정보를, 휴대 단말 (3) 에 송신한다.
도 8 로 돌아와, 휴대 단말 (3) 의 단말측 식별 제어부 (61) 는, 원격 감시 서버 (4) 로부터의 식별 결과 정보를 수신하면 (스텝 S4 : 예), 거기에 포함되어 있는 커맨드가 식별 성공 커맨드인지의 여부 이하를 판별한다 (스텝 S5). 식별 결과 정보에 포함되어 있는 커맨드가 식별 실패 커맨드인 경우에는 (스텝 S5 : 아니오), 단말측 식별 제어부 (61) 는, 스텝 S2 로 돌아온다.
식별 결과 정보에 포함되어 있는 커맨드가 식별 성공 커맨드인 경우에는 (스텝 S5 : 예), 단말측 식별 제어부 (61) 는, 정보 부가 처리를 실시한다 (스텝 S6). 구체적으로는, 단말측 식별 제어부 (61) 는, 도 11 에 나타내는 바와 같이, 식별 결과 정보에 포함되어 있는 형식, 기번 및 가동 시간을 촬상 화상에 중첩 표시한다. 또, 단말측 식별 제어부 (61) 는, 도 11 에 나타내는 바와 같이, 식별 결과 정보에 포함되어 있는 에러 코드 및 교환 부품 명칭과, 교환 순서 버튼 (71) 을 촬상 화상에 중첩 표시한다. 이 예에서는, 교환 부품 명칭은 MH 센서이다. 교환 부품 명칭 대신에 또는 그것에 추가하여 교환 부품 코드가 표시되어도 된다. 서비스 맨이 교환 순서 버튼 (71) 을 누르면, 식별 결과 정보에 포함되어 있는 부품 교환 순서 정보가 표시된다.
그리고, 단말측 식별 제어부 (61) 는, 식별 결과 정보에 포함되어 있는 형식 및 교환 부품 코드 (이 예에서는 당해 코드에 대응하는 부품 명칭은 MH 센서) 에 기초하여, 당해 형식에 대응하는 부품 화상 테이블로부터 당해 교환 부품 코드에 대응하는 부품 위치 정보 및 부품 화상을 취득한다. 다음으로, 단말측 식별 제어부 (61) 는, 전술한 바와 같이, 촬상 화상으로부터 추출한 형식 정보 (9) 의 크기에 기초하여, 부품 위치 정보 절대치 및 부품 화상의 표시 사이즈를 조정한다. 그리고, 단말측 식별 제어부 (61) 는, 도 11 에 파선 내의 부품 화상 (72) 에 나타내는 바와 같이, 조정 후의 부품 위치 정보에 의해 나타내는 위치에, 조정 후의 표시 사이즈로, 부품 화상을 촬상 화상에 중첩 표시한다. 또한, 도 11 에는 나타내지 않지만, 이용자에 대해, 식별 판정의 기준이 되는 위치를 알리기 위해, 작업 차량 (2) 의 형식 정보 (9) 를 포함하는 소영역의 확대 화상을, 화상의 소정의 영역 (예를 들어 하나의 모서리부) 에 표시해도 된다.
이 후, 단말측 식별 제어부 (61) 는, 서비스 맨에 의해 에러 차량의 식별을 재실행하기 위한 조작이 이루어졌는지 여부를 판별한다 (스텝 S7). 도 11 에는 도시되어 있지 않지만, 단말측 식별 제어부 (61) 는, 예를 들어, 표시 화면 상에 식별 재실행 버튼을 표시하고, 이 식별 재실행 버튼이 서비스 맨에 의해 조작되었을 때에, 에러 차량의 식별을 재실행하기 위한 조작이 이루어졌다고 판별하도록 해도 된다.
에러 차량의 식별을 재실행하기 위한 조작이 이루어져 있지 않은 경우에는 (스텝 S7 : 아니오), 단말측 식별 제어부 (61) 는, 서비스 맨에 의해, 차량 식별·정보 부가 프로그램을 종료시키기 위한 조작이 이루어졌는지 여부를 판별한다 (스텝 S8). 차량 식별·정보 부가 프로그램을 종료시키기 위한 조작이 이루어져 있지 않은 경우에는 (스텝 S8 : 아니오), 단말측 식별 제어부 (61) 는, 스텝 S7 로 돌아온다.
상기 스텝 S7 에 있어서, 에러 차량의 식별을 재실행하기 위한 조작이 이루어졌다고 판별된 경우에는 (스텝 S7 : 예), 단말측 식별 제어부 (61) 는, 스텝 S2 로 돌아온다. 이로써, 스텝 S2 이후의 처리가 재차 실행된다.
상기 스텝 S8 에 있어서, 차량 식별·정보 부가 프로그램을 종료시키기 위한 조작이 이루어졌다고 판별된 경우에는 (스텝 S8 : 예), 단말측 식별 제어부 (61) 는, 단말측 식별 제어 처리를 종료한다.
상기 실시형태에서는, 휴대 단말 (3) 에 의해 식별 대상으로서의 작업 차량 (2) 이 촬상되어, 당해 식별 대상의 형식 정보가 추출된다. 그리고, 당해 식별 대상의 형식 정보와 휴대 단말 (3) 의 단말 위치 정보를 포함하는 식별 판정용 정보가, 원격 감시 서버 (4) 에 송신된다. 원격 감시 서버 (4) 측에서는, 단말 위치 정보에 기초하여 탐색 영역 (S) 이 설정되고, 설정된 탐색 영역 (S) 내에 존재하며 또한 식별 대상의 형식 정보와 동일 형식이라고 하는 조건을 만족하는 작업 차량 (2) 이 탐색된다. 그리고, 상기 조건을 만족하는 작업 차량 (2) 이 발견되면, 당해 작업 차량 (2) 이 식별 대상으로서 특정된다. 따라서, 복수의 작업 차량 (2) 중에 동일한 형식 정보를 갖는 복수의 작업 차량 (2) 이 존재하는 경우에도, 휴대 단말 (3) 에 의해 식별 대상을 촬상함으로써, 당해 식별 대상을 개체 레벨로 식별할 수 있게 된다.
또, 상기 실시형태에서는, 식별 대상의 형식, 기번, 가동 시간, 에러 코드, 교환 부품 명칭, 부품 교환 순서 정보 등의 개별 정보를, 휴대 단말 (3) 의 촬상 화상에 중첩 표시할 수 있다. 이로써, 휴대 단말 (3) 의 사용자 (상기 실시형태의 예에서는 서비스 맨) 는, 식별 대상의 형식, 기번, 가동 시간, 에러 코드, 교환 부품 명칭, 부품 교환 순서 정보 등의 개별 정보를 인식할 수 있게 된다.
또, 상기 실시형태에서는, 개별 정보에 포함되어 있는 교환 부품 코드에 대응하는 부품 화상을, 휴대 단말 (3) 의 촬상 화상의 대응하는 위치에 중첩 표시할 수 있다. 이로써, 휴대 단말 (3) 의 사용자 (상기 실시형태의 예에서는 서비스 맨) 는, 고장 지점을 시각적으로 인식할 수 있게 된다.
이상, 본 발명의 실시형태에 대해 설명했지만, 본 발명은 또 다른 형태로 실시할 수도 있다. 예를 들어, 휴대 단말 (3) 은, 도 8 의 스텝 S6 의 정보 부가 처리에 있어서, 도 12 에 나타내는 바와 같이, 메인터넌스에 관련된 정보를, 촬상 화상에 중첩 표시하도록 해도 된다. 이 예에서는, MH 센서 (부품 화상 (72)) 는 고장나 있지 않지만, 교환 추천 대상으로 되어 있다. 도 12 의 예에서는, MH 센서의 부품 화상 (72) 에 관해서, 「교환으로부터 100 시간이 경과되어 있기 때문에, 교환을 추천합니다.」 라는 메시지와, 「오일 교환은 2016/06/12 에 실시했습니다.」 라는 메세지가, 촬상 화상에 중첩 표시되어 있다. 이와 같은 메세지는, 원격 감시 서버 (4) 가, 도 9 의 스텝 S18 에 있어서, 메인터넌스 이력 관리 테이블 (39) (도 5b 참조) 에 기초하여 작성하고, 개별 정보로서 식별 결과 정보에 포함시킴으로써, 휴대 단말 (3) 로 보낼 수 있다. 도 12 에서는, 교환 추천 부품도, 전술한 교환 부품과 동일하게 취급되고 있기 때문에, 에러 코드, 교환 부품 명칭 및 교환 순서 버튼 (71) 도, 도 11 과 동일하게 표시되어 있다.
또, 원격 감시 서버 (4) 는, 개별 정보로서, 예를 들어, 식별 대상 (2) 의 각종 검출치로부터 예측되는 메인터넌스 추천 메세지 등을 작성하여, 개별 정보에 포함시켜도 된다. 이와 같이 하면, 메인터넌스 추천 메세지를 휴대 단말 (3) 에 표시할 수 있다. 메인터넌스 추천 메세지로는, 예를 들어 「로스 센서치가 높습니다. 한번 점검을 추천합니다.」라고 하는 예를 들 수 있다.
전술한 실시형태에서는, 휴대 단말 (3) 은, 위치, 자세 및 방위로 이루어지는 단말 위치 정보와, 형식 정보를 포함하는 식별 판정용 정보를 원격 감시 서버 (4) 에 송신하고 있다. 그러나, 단말 위치 정보는, 위치, 자세 및 방위 중, 적어도 위치 정보를 포함하고 있으면 된다. 단말 위치 정보가, 예를 들어 위치의 정보를 포함하고 있지만, 자세 및 방위의 정보를 포함하지 않은 경우에는, 원격 감시 서버 (4) 는, 탐색 영역 (S) 을, 평면에서 볼 때, 휴대 단말 (3) 을 중심으로 하는 소정 반경의 원 영역으로 설정해도 된다.
전술한 본 실시형태에서는, 작업 차량 (2) 의 원격 감시 단말 (12) 및 휴대 단말 (3) 에 사용되고 있는 측위 시스템으로서 GNSS 의 단독 측위 시스템이 이용되고 있지만, RTK-GNSS (리얼타임·키네마틱 GNSS) 등과 같은 단독 측위 시스템 이외의 측위 시스템을 사용해도 된다.
또, 전술한 실시형태에서는, 식별 대상인 작업 차량이 콤바인인 경우에 대해 설명했지만, 식별 대상인 작업 차량은, 트랙터, 이앙기, 토목·건설 작업 차량, 제설차, 승용형 작업기, 보행형 작업기 등의 콤바인 이외의 작업 차량이어도 된다.
또, 전술한 실시형태에서는, 피식별 물체로서 작업 차량을 예로 들어 설명했지만, 피식별 물체는 작업 차량 이외의 물체여도 된다.
그 밖에, 청구범위에 기재된 사항의 범위에서 여러 가지 설계 변경을 실시하는 것이 가능하다.
본 발명의 실시형태에 대해 상세하게 설명하였지만, 이들은 본 발명의 기술적 내용을 분명히 하기 위해서 이용된 구체예에 불과하고, 본 발명은 이들 구체예로 한정하여 해석되어서는 안 되며, 본 발명의 범위는 첨부한 청구범위에 의해서만 한정된다.
이 출원은, 2017년 7월 13일에 일본국 특허청에 제출된 일본 특허출원 2017-137263호에 대응하고 있고, 그 출원의 전체 개시는 여기에 인용에 의해 포함되어지는 것으로 한다.
1 : 작업 차량 식별 시스템
2 : 작업 차량
3 : 단말 장치 (휴대 단말)
4 : 원격 감시 서버
11 : 작업 차량 제어 장치
12 : 원격 감시 단말
30 : 제어부
31 : 통신부
32 : 조작 표시부
33 : 조작부
34 : 기억부
35 : 기본 테이블
36 : 교환 부품 테이블
37 : 부품 교환 순서 테이블
38 : 에러 감시 테이블
39 : 메인터넌스 이력 관리 테이블
41 : 원격 감시부
42 : 서버측 식별 제어부
50 : 제어부
51 : 위치 검출부
52 : 자세·방위 검출부
53 : 촬상부
54 : 통신부
55 : 조작 표시부
57 : 기억부
58 : 부품 화상 테이블
61 : 단말측 식별 제어부

Claims (7)

  1. 외부로부터 촬상 가능한 특징 정보를 갖는 복수의 피식별 물체 중, 식별해야 할 피식별 물체인 식별 대상을 촬상 가능한 단말 장치와, 상기 단말 장치와 통신 가능한 서버를 포함하고,
    상기 단말 장치는,
    당해 단말 장치의 위치 및 방위를 포함하는 단말 위치 정보를 검출하는 검출부와,
    상기 식별 대상을 촬상하기 위한 촬상부와,
    상기 촬상부에 의해 촬상된 촬상 화상에 포함되는 상기 식별 대상의 특징 정보를 추출하고, 추출된 특징 정보와 상기 단말 위치 정보를 포함하는 식별 판정용 정보를, 상기 서버에 송신하는 단말측 식별 제어부를 포함하고,
    상기 서버는,
    상기 피식별 물체마다, 당해 피식별 물체의 특징 정보 및 위치 정보가 기억된 기억부와,
    상기 단말 장치로부터 수신한 상기 식별 판정용 정보 내의 단말 위치 정보에 기초하여 탐색 영역을 설정하고, 설정한 탐색 영역 내에 존재하며 또한 상기 식별 판정용 정보 내의 특징 정보와 동일한 특징 정보를 갖는다는 조건을 만족하는 소정의 피식별 물체를 탐색하여, 상기 조건을 만족하는 소정의 피식별 물체를 탐색할 수 있었을 때에, 당해 소정의 피식별 물체를 상기 식별 대상으로서 특정하는 서버측 식별 제어부를 포함하는, 물체 식별 시스템.
  2. 제 1 항에 있어서,
    상기 서버측 식별 제어부는, 상기 조건을 만족하는 소정의 피식별 물체가 복수 존재할 때에는, 이들 복수의 소정의 피식별 물체 중 상기 단말 장치에 가장 가까운 위치에 존재하는 소정의 피식별 물체를 상기 식별 대상으로서 특정하도록 구성되어 있는, 물체 식별 시스템.
  3. 제 1 항 또는 제 2 항에 있어서,
    상기 기억부에는, 상기 피식별 물체마다, 당해 피식별 물체의 특징 정보, 위치 정보 및 개별 정보가 기억되어 있고,
    상기 서버측 식별 제어부는, 상기 소정의 피식별 물체를 상기 식별 대상으로서 특정했을 때에는, 상기 기억부에 기억되어 있는 당해 소정의 피식별 물체의 개별 정보를, 상기 단말 장치에 송신하도록 구성되어 있는, 물체 식별 시스템.
  4. 제 3 항에 있어서,
    상기 단말 장치는, 상기 촬상부에 의해 촬상되어 있는 촬상 화상을 표시하기 위한 표시부를 추가로 포함하고,
    상기 단말측 식별 제어부는, 상기 서버측 식별 제어부에 의해 송신된 상기 개별 정보를, 상기 표시부에 표시되어 있는 촬상 화상에 중첩 표시하도록 구성되어 있는, 물체 식별 시스템.
  5. 제 4 항에 있어서,
    상기 개별 정보는, 대응하는 피식별 물체를 식별하는 식별 정보, 대응하는 피식별 물체의 가동 정보 및 대응하는 피식별 물체의 메인터넌스 정보 중 적어도 1 개를 포함하는, 물체 식별 시스템.
  6. 제 4 항에 있어서,
    상기 개별 정보는, 대응하는 피식별 물체의 고장 부품을 나타내는 고장 부품 식별 정보를 포함하고 있고,
    상기 단말측 식별 제어부는, 상기 서버측 식별 제어부에 의해 송신된 상기 개별 정보에 포함되어 있는 고장 부품 식별 정보에 기초하여, 상기 표시부에 표시되어 있는 촬상 화상에, 상기 고장 부품 식별 정보에 대응하는 고장 부품의 화상을 중첩 표시하도록 구성되어 있는, 물체 식별 시스템.
  7. 제 1 항 내지 제 6 항 중 어느 한 항에 있어서,
    상기 특징 정보는, 대응하는 피식별 물체의 형식 정보인, 물체 식별 시스템.
KR1020197023544A 2017-07-13 2018-05-28 물체 식별 시스템 KR102252245B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020217013190A KR102363216B1 (ko) 2017-07-13 2018-05-28 물체 식별 시스템

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JPJP-P-2017-137263 2017-07-13
JP2017137263A JP6815290B2 (ja) 2017-07-13 2017-07-13 物体識別システム
PCT/JP2018/020418 WO2019012823A1 (ja) 2017-07-13 2018-05-28 物体識別システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020217013190A Division KR102363216B1 (ko) 2017-07-13 2018-05-28 물체 식별 시스템

Publications (2)

Publication Number Publication Date
KR20190107076A true KR20190107076A (ko) 2019-09-18
KR102252245B1 KR102252245B1 (ko) 2021-05-13

Family

ID=65001897

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020197023544A KR102252245B1 (ko) 2017-07-13 2018-05-28 물체 식별 시스템
KR1020217013190A KR102363216B1 (ko) 2017-07-13 2018-05-28 물체 식별 시스템

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020217013190A KR102363216B1 (ko) 2017-07-13 2018-05-28 물체 식별 시스템

Country Status (5)

Country Link
EP (1) EP3654279A4 (ko)
JP (1) JP6815290B2 (ko)
KR (2) KR102252245B1 (ko)
CN (2) CN117372952A (ko)
WO (1) WO2019012823A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4261353A1 (en) * 2020-12-10 2023-10-18 Kubota Corporation Diagnosis assistance apparatus for work machine
JP7211443B2 (ja) * 2021-02-25 2023-01-24 井関農機株式会社 走行車両

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011242861A (ja) * 2010-05-14 2011-12-01 Ntt Docomo Inc 物体認識装置、物体認識システムおよび物体認識方法
KR20130057465A (ko) * 2010-07-30 2013-05-31 퀄컴 인코포레이티드 증분 특징 추출을 사용하는 오브젝트 인식
KR20130099607A (ko) * 2012-02-29 2013-09-06 엘지전자 주식회사 휴대 단말기 및 네트워크 시스템
KR20140099273A (ko) * 2011-12-02 2014-08-11 얀마 가부시키가이샤 원격 감시 시스템의 관리 서버
KR20150028799A (ko) * 2012-07-03 2015-03-16 도쿄엘렉트론가부시키가이샤 제조 설비의 감시 장치 및 감시 방법
JP2015212967A (ja) 2015-07-07 2015-11-26 ソニー株式会社 端末装置、物体識別方法、及び情報処理装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3045713B1 (ja) * 1998-12-09 2000-05-29 富士通株式会社 車載型車両誘導装置及び通信サーバシステム並びに代替車両誘導システム
JP4488233B2 (ja) * 2003-04-21 2010-06-23 日本電気株式会社 映像オブジェクト認識装置、映像オブジェクト認識方法、および映像オブジェクト認識プログラム
JP2012043396A (ja) * 2010-08-13 2012-03-01 Hyundai Motor Co Ltd 拡張現実を用いた車両消耗品管理システム及びその方法
JP5776255B2 (ja) * 2011-03-25 2015-09-09 ソニー株式会社 端末装置、物体識別方法、プログラム及び物体識別システム
JP5762892B2 (ja) * 2011-09-06 2015-08-12 ビッグローブ株式会社 情報表示システム、情報表示方法、及び情報表示用プログラム
US8977423B2 (en) * 2012-05-23 2015-03-10 Snap-On Incorporated Methods and systems for providing vehicle repair information
CN103632513A (zh) * 2013-11-21 2014-03-12 深圳市卡讯尔车联网科技开发有限公司 基于云服务器的车辆紧急救援交互方法及系统
TWI597139B (zh) * 2014-02-18 2017-09-01 廣達電腦股份有限公司 自走式機器人、資料中心及資料中心之維修方法
CN103940620B (zh) * 2014-04-24 2016-09-21 成都华诚立信科技有限公司 基于图像识别的汽车故障判别与提示的方法及系统
JP6326996B2 (ja) * 2014-06-13 2018-05-23 富士通株式会社 端末装置、情報処理システム、及び表示制御プログラム
US20170124776A1 (en) * 2015-11-03 2017-05-04 Cnh Industrial America Llc Vehicle maintenance apparatus and method
JP6673567B2 (ja) * 2015-12-17 2020-03-25 株式会社デンソーテン 情報表示装置、情報表示システム及び情報表示方法
JP2017137263A (ja) 2016-02-04 2017-08-10 株式会社トクヤマ 1,1,1,3−テトラクロロプロパンの製造方法
CN106851701B (zh) * 2016-12-09 2019-09-10 交控科技股份有限公司 一种车地通信中轨旁无线ap故障处理方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011242861A (ja) * 2010-05-14 2011-12-01 Ntt Docomo Inc 物体認識装置、物体認識システムおよび物体認識方法
KR20130057465A (ko) * 2010-07-30 2013-05-31 퀄컴 인코포레이티드 증분 특징 추출을 사용하는 오브젝트 인식
KR20140099273A (ko) * 2011-12-02 2014-08-11 얀마 가부시키가이샤 원격 감시 시스템의 관리 서버
KR20130099607A (ko) * 2012-02-29 2013-09-06 엘지전자 주식회사 휴대 단말기 및 네트워크 시스템
KR20150028799A (ko) * 2012-07-03 2015-03-16 도쿄엘렉트론가부시키가이샤 제조 설비의 감시 장치 및 감시 방법
JP2015212967A (ja) 2015-07-07 2015-11-26 ソニー株式会社 端末装置、物体識別方法、及び情報処理装置

Also Published As

Publication number Publication date
CN110959167A (zh) 2020-04-03
EP3654279A1 (en) 2020-05-20
JP6815290B2 (ja) 2021-01-20
CN117372952A (zh) 2024-01-09
EP3654279A4 (en) 2021-04-14
CN110959167B (zh) 2023-11-03
KR102252245B1 (ko) 2021-05-13
WO2019012823A1 (ja) 2019-01-17
KR102363216B1 (ko) 2022-02-14
KR20210054024A (ko) 2021-05-12
JP2019020914A (ja) 2019-02-07

Similar Documents

Publication Publication Date Title
CN108521808B (zh) 一种障碍信息显示方法、显示装置、无人机及系统
CN107015724B (zh) 信息处理装置、信息处理方法及存储程序的非临时性计算机可读存储介质
US20130222612A1 (en) Client terminal, server and program
CN104007945B (zh) 信息处理终端、信息处理方法和信息处理程序
JP2006217498A (ja) 端末装置、携帯端末装置、情報収集サーバ、情報通知システム、情報通知方法および情報収集方法
KR102363216B1 (ko) 물체 식별 시스템
CN110546682A (zh) 信息处理装置、航拍路径生成方法、航拍路径生成系统、程序以及记录介质
KR102622585B1 (ko) 실내 길안내 장치 및 그 방법
US11048345B2 (en) Image processing device and image processing method
JP2023076492A (ja) 半導体装置及び位置移動算出システム
CN112655027A (zh) 维护辅助系统、维护辅助方法、程序、加工图像的生成方法以及加工图像
US20180165285A1 (en) Comparative Geolocation System
JP7055186B2 (ja) 物体識別システム
US9792701B2 (en) Method and system for determining a relation between a first scene and a second scene
KR20190013176A (ko) 드론을 이용한 구조물의 변화 탐지 방법 및 장치
JPWO2013146582A1 (ja) 位置判定システム、位置判定方法、コンピュータプログラム及び位置判定装置
KR101954711B1 (ko) 라이다 자료와 정사영상을 이용한 건축물의 촬영영상 수정방법
JP6890108B2 (ja) 無人飛行装置、撮像システム及び撮像方法
US10708719B2 (en) Matching device, terminal, sensor network system, matching method, and matching program
JP6689492B2 (ja) 端末装置、データ処理システム及びプログラム
CN111052017A (zh) 作业辅助系统
CN116331121A (zh) 车辆、信息处理系统、存储介质以及信息处理装置
JP7057468B1 (ja) 管理システム、管理方法及びプログラム
JP5670092B2 (ja) 地形表示システム、携帯端末、地形表示方法およびプログラム
JP2020106919A (ja) 飛翔体の地理座標推定装置、地理座標推定システム、地理座標推定方法、及びコンピュータプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant