JP7002744B2 - Mobile platform system - Google Patents
Mobile platform system Download PDFInfo
- Publication number
- JP7002744B2 JP7002744B2 JP2017141348A JP2017141348A JP7002744B2 JP 7002744 B2 JP7002744 B2 JP 7002744B2 JP 2017141348 A JP2017141348 A JP 2017141348A JP 2017141348 A JP2017141348 A JP 2017141348A JP 7002744 B2 JP7002744 B2 JP 7002744B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- sensor
- platform system
- environment
- spatial map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005259 measurement Methods 0.000 claims description 40
- 238000009434 installation Methods 0.000 claims description 32
- 230000007613 environmental effect Effects 0.000 claims description 23
- 238000004891 communication Methods 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 17
- 238000000034 method Methods 0.000 claims description 13
- -1 Ozone ion Chemical class 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 8
- 238000003915 air pollution Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 3
- CURLTUGMZLYLDI-UHFFFAOYSA-N Carbon dioxide Chemical compound O=C=O CURLTUGMZLYLDI-UHFFFAOYSA-N 0.000 description 23
- 230000006870 function Effects 0.000 description 18
- 229910002092 carbon dioxide Inorganic materials 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 150000002500 ions Chemical class 0.000 description 7
- CBENFWSGALASAD-UHFFFAOYSA-N Ozone Chemical compound [O-][O+]=O CBENFWSGALASAD-UHFFFAOYSA-N 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000001816 cooling Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000010438 heat treatment Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000004378 air conditioning Methods 0.000 description 1
- 238000004887 air purification Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000004441 surface measurement Methods 0.000 description 1
Images
Landscapes
- Air Filters, Heat-Exchange Apparatuses, And Housings Of Air-Conditioning Units (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Description
本発明は、例えば、屋内等において、サービス機器を搭載して床面等を移動しつつ、所定の予測動作に基づいて空気清浄などの各種サービスを提供する移動体プラットフォームシステムに関する。 The present invention relates to, for example, a mobile platform system that provides various services such as air purification based on a predetermined predicted operation while moving a floor surface or the like by mounting a service device indoors or the like.
従来、自走式の電子機器の中には、一般的な掃除機能に加えて、空気清浄機能やイオン発生機能等といった種々の機能を備えるものがある。 Conventionally, some self-propelled electronic devices have various functions such as an air cleaning function and an ion generation function in addition to a general cleaning function.
例えば、特許文献1では、自走式の電子機器で、掃除機能、空気清浄機能、及びイオン発生部を備え、温度測定部の測定により異常温度を検知すると外部に通知し、自機も移動する自走式電子機器が開示されている。
For example, in
特許文献2では、空気調和機と自走式掃除機との連携システムが開示されている。同システムでは、自走式掃除機が空気調和機に開始信号を送り当該空気調和機を駆動制御するもので、汚れ検知センサも備え、その検知信号に基づいて空調運転する。 Patent Document 2 discloses a cooperation system between an air conditioner and a self-propelled vacuum cleaner. In this system, a self-propelled vacuum cleaner sends a start signal to the air conditioner to drive and control the air conditioner. It also has a dirt detection sensor and operates with air conditioning based on the detection signal.
さらに、特許文献3では、自走式の空気清浄器と、汚れ検知センサを有する電気機器とを備えたシステムが開示されている。同システムでは、検知信号を受信すると、電気機器に対応した位置まで移動して移動先で空気清浄を行う。
Further,
一方、今日では、スマートホーム等に代表されるようにホームネットワークを活用したIoT(Internet Of Things)が屋内に構築され、エアコンや照明器具等といった様々な情報家電が遠隔制御可能となっている。 On the other hand, today, IoT (Internet Of Things) utilizing a home network is constructed indoors as represented by smart homes, and various information appliances such as air conditioners and lighting fixtures can be remotely controlled.
この種の技術としては、例えば特許文献4では、家電から取得した状態情報をネットワーク接続された複数の家電と共有する家電管理システムが開示されている。 As a technique of this type, for example, Patent Document 4 discloses a home appliance management system that shares state information acquired from home appliances with a plurality of home appliances connected to a network.
さらに、特許文献5では、所謂ホームゲートウェイにより家電を制御する家電認識システムが開示されている。同システムでは、機器認識機能部は、電子機器が反応している場合に、送信した電源ON/OFF信号の機種が電子機器の機種であることを認識し、認識した機種に対応したすべての制御用コマンド情報をダウンロードし制御を行う。
Further,
しかしながら、前述した従来技術では、部屋の汚染等の環境の現状を時系列的に連続する空間マップにより予測することは実現されていない。つまり、仮に空間マップを利用するとしても、現状の把握に止まり、予測動作を実施することは困難であった。 However, in the above-mentioned conventional technique, it has not been realized to predict the current state of the environment such as room pollution by a time-series continuous spatial map. In other words, even if a spatial map were to be used, it was difficult to grasp the current situation and carry out the prediction operation.
さらに、ホームゲートウェイのように、部屋に設置することで、部屋内の複数の情報家電を統括制御する技術は、前述のように存在するが、自走式の移動体が屋内のIoTのハブ的な役割を担う場合に、空間マップ、部屋の環境情報等、及び予測結果に基づいて、周辺家電の最適な駆動制御を行うことは実現されていない。 Furthermore, as mentioned above, there is a technology for controlling multiple information appliances in a room by installing it in a room, such as a home gateway, but a self-propelled moving object is like an indoor IoT hub. It has not been realized to perform optimum drive control of peripheral home appliances based on spatial maps, room environment information, etc., and prediction results when playing a role.
また、家電の設置時期、及び設置場所の提案を、時系列的に連続した空間マップに基づく予測動作により得られた予測結果に基づいて行うことは実現されていない。 In addition, it has not been realized to propose the installation time and installation location of home appliances based on the prediction results obtained by the prediction operation based on the spatial map that is continuous in time series.
以上が実現すれば、室内を移動する移動体により、従来にない付加価値の高いサービスを実現し、快適なライフスタイルをユーザに提供できるであろう。例えば、予測動作に基づいて、環境を整える環境リフレッシャとしてのサービス提供も期待される。 If the above is realized, it will be possible to realize an unprecedented high value-added service and provide a comfortable lifestyle to the user by moving the moving body indoors. For example, it is expected to provide a service as an environmental refresher that prepares the environment based on the predicted operation.
本発明は、このような課題を鑑みてなされたものであり、その目的とするところは、ユーザにサービスを提供するサービス機器を移動体に搭載して室内等を自動走行しつつ利用者に快適なライフスタイルを提供することにある。 The present invention has been made in view of such a problem, and an object of the present invention is to mount a service device for providing a service to a user on a mobile body and automatically drive the vehicle indoors or the like while comforting the user. It is to provide a new lifestyle.
上記課題を解決するため、本発明の第1の態様に係る移動体プラットフォームシステムは、所定のデバイスを駆動することによりユーザに所定のサービスを提供するサービス機器と、前記サービス機器を搭載して移動する移動体と、からなる移動体プラットフォームシステムであって、前記移動体は、空間マップを生成するマップ生成部と、各種センシングを行うセンサ部と、前記空間マップを時系列に従って記憶する記憶部と、前記記憶部に記憶された空間マップを参照して巡回コースを予測し決定するコース決定部と、前記巡回コースに基づいて移動するよう駆動制御する駆動制御部と、前記移動の過程で前記センサ部による測定を行う測定制御部と、前記測定の結果に基づいて前記巡回コースを更新し前記記憶部に記憶する更新部と、カメラ部と、前記カメラ部で撮像された画像信号を画像処理して画像データを得る画像処理部と、を備え、前記サービス機器は、オゾン・イオンを発生するオゾン・イオン発生部と、温度を測定する温度センサと、湿度を測定する湿度センサと、空気汚染度を測定する匂いセンサと、CO2濃度を測定するCO2センサと、照度を測定する照度センサと、少なくとも前記温度センサ、前記湿度センサ、前記CO2センサ、前記匂いセンサと、及び前記照度センサによる測定動作を制御する測定制御部と、を備え、前記マップ生成部は、前記画像処理部で得られた画像データに基づいて3次元の第1の空間マップを生成し、当該第1の空間マップに基づいて2次元の第2の空間マップを生成し、前記空間マップとして前記第1の空間マップを、少なくとも前記カメラ部での撮像の日時情報と共に、前記記憶部に記憶し、前記コース決定部は、少なくとも前記巡回コースの決定の日時情報に基づいて、当該日時情報と相関のある日時情報に対応する前記第1の空間マップを前記記憶部より抽出し、抽出した前記第1の空間マップに基づいて前記巡回コースを予測し決定し、前記マップ生成部は、前記第1の空間マップ上に外部機器の設置場所を特定し、外部機器設置場所情報を前記記憶部に記憶し、前記サービス機器は、前記移動体に搭載されると、当該移動体からの電源供給、或いは電源部からの電源供給を受け、前記移動体の巡回中に、前記測定制御部は、前記温度センサ、前記湿度センサ、前記CO2センサ、前記匂いセンサと、及び前記照度センサの少なくともいずれかによる測定を行い、測定結果を環境情報として前記移動体に送信し、前記移動体では、前記マップ生成部は、前記第1の空間マップ上に前記環境情報を対応付け前記記憶部に記憶し、前記移動体は、前記記憶部に記憶された前記第1の空間マップに対応付けられた前記日時情報、前記外部機器設置場所情報、及び前記環境情報に基づいて、前記外部機器の設定場所及び設置時期を予測し提案する予測部を更に備えた。 In order to solve the above problems, the mobile platform system according to the first aspect of the present invention moves by mounting a service device that provides a predetermined service to a user by driving a predetermined device and the service device. A mobile platform system consisting of a moving body, the moving body includes a map generation unit that generates a spatial map, a sensor unit that performs various sensing, and a storage unit that stores the spatial map in chronological order. , A course determination unit that predicts and determines a patrol course with reference to a spatial map stored in the storage unit, a drive control unit that drives and controls movement based on the patrol course, and the sensor in the process of movement. The measurement control unit that performs measurement by the unit, the update unit that updates the patrol course based on the measurement result and stores it in the storage unit, the camera unit, and the image signal captured by the camera unit are image-processed. The service device includes an image processing unit that obtains image data, an ozone ion generation unit that generates ozone ions, a temperature sensor that measures temperature, a humidity sensor that measures humidity, and an air pollution degree. The odor sensor that measures the CO2 concentration, the CO2 sensor that measures the CO2 concentration, the illuminance sensor that measures the illuminance, and at least the temperature sensor, the humidity sensor, the CO2 sensor, the odor sensor, and the measurement operation by the illuminance sensor. A measurement control unit for controlling is provided, and the map generation unit generates a three-dimensional first spatial map based on the image data obtained by the image processing unit, and based on the first spatial map. A two-dimensional second space map is generated, the first space map is stored as the space map in the storage unit together with at least date and time information of imaging by the camera unit, and the course determination unit at least Based on the date and time information of the determination of the patrol course, the first spatial map corresponding to the date and time information correlating with the date and time information is extracted from the storage unit, and the first spatial map is extracted based on the extracted first spatial map. The patrol course is predicted and determined, the map generation unit specifies the installation location of the external device on the first space map, the external device installation location information is stored in the storage unit, and the service device is the service device. When mounted on the moving body, the power is supplied from the moving body or the power supply unit, and during the patrol of the moving body, the measurement control unit receives the temperature sensor, the humidity sensor, and the CO2. Measurement by at least one of the sensor, the odor sensor, and the illuminance sensor. The determination is performed, and the measurement result is transmitted to the moving body as environmental information. In the moving body, the map generation unit associates the environmental information on the first spatial map and stores it in the storage unit. The moving body has the setting location and installation time of the external device based on the date and time information, the external device installation location information, and the environmental information associated with the first spatial map stored in the storage unit. It is further equipped with a prediction unit that predicts and proposes.
本発明の第2の態様に係る移動体プラットフォームシステムは、第1の態様において、前記移動体又は前記サービス機器は、外部機器までの距離を測距し、前記外部機器の設置場所を特定すると共に、前記外部機器に対してリモコン信号を送信する遠隔操作部を更に有する。 In the mobile platform system according to the second aspect of the present invention, in the first aspect, the mobile body or the service device measures the distance to the external device, specifies the installation location of the external device, and specifies the installation location of the external device. Further, it has a remote control unit that transmits a remote control signal to the external device.
本発明の第3の態様に係る移動体プラットフォームシステムは、第2態様において、充電ステーションを更に備え、前記移動体及び前記サービス機器は、前記充電ステーションを介して外部サーバ装置と通信する通信部を更に備え、前記移動体又は前記サービス機器は、前記充電ステーションを介して前記外部サーバ装置より前記外部機器に対応する前記リモコン信号に係る赤外線リモコン情報、又はブルートゥース(登録商標)信号に係る情報を取得する。 The mobile platform system according to the third aspect of the present invention further includes a charging station in the second aspect, and the mobile body and the service device have a communication unit that communicates with an external server device via the charging station. Further, the mobile body or the service device acquires infrared remote control information related to the remote control signal corresponding to the external device or information related to the Bluetooth (registered trademark) signal from the external server device via the charging station. do.
本発明の第4の態様に係る移動体プラットフォームシステムは、第1乃至第3の態様において、前記予測部は、電子メールの送信、音声出力、発光、或いは所定動作の少なくともいずれかにより前記提案を行う。 In the mobile platform system according to the fourth aspect of the present invention, in the first to third aspects, the predictor makes the proposal by at least one of e-mail transmission, voice output, light emission, or a predetermined operation. conduct.
本発明の第5の態様に係る移動体プラットフォームシステムは、第1乃至第4の態様
において、前記移動体は、人物の存在を検知する人物検知部と、環境を特定する環境特定
部と、を更に備え、前記人物検知部により人物の存在を検知した時には、前記環境特定部
により当該人物に係る環境を特定し、前記予測部により予測動作を実行して前記環境を実
現する動作を予測し、前記サービス機器又は外部機器を当該環境に合わせて駆動する。
In the mobile platform system according to the fifth aspect of the present invention, in the first to fourth aspects, the mobile body has a person detecting unit for detecting the presence of a person and an environment specifying unit for specifying the environment. Further, when the presence of a person is detected by the person detection unit, the environment specifying unit identifies the environment related to the person, and the prediction unit executes a prediction operation to predict an operation for realizing the environment. The service device or the external device is driven according to the environment.
本発明の第6の態様に係る移動体プラットフォームシステムは、第1乃至第5の態様において、前記移動体は、人物のスケジュールを管理するスケジュール管理部と、環境を特定する環境特定部と、を更に備え、前記スケジュール管理部により所定のタイミングを検知した時には、前記環境特定部により当該スケジュールに合致した環境を特定し、前記予測部により予測動作を実行して前記環境を実現する動作を予測し、前記サービス機器又は外部機器を当該環境に合わせて駆動する。 In the first to fifth aspects of the mobile platform system according to the sixth aspect of the present invention, the mobile body has a schedule management unit for managing a person's schedule and an environment specifying unit for specifying the environment. Further, when the schedule management unit detects a predetermined timing, the environment specifying unit identifies an environment that matches the schedule, and the prediction unit executes a prediction operation to predict an operation that realizes the environment. , The service device or the external device is driven according to the environment.
本発明の第7の態様に係る移動体プラットフォームシステムは、第5又は第6の態様において、前記予測動作に基づく動作についてユーザからのフィードバックを受けたときは、当該フィードバックに係る情報を前記空間マップと対応付けて記憶部に記憶する。 When the mobile platform system according to the seventh aspect of the present invention receives feedback from the user regarding the operation based on the predicted operation in the fifth or sixth aspect, the information related to the feedback is used as the spatial map. Is stored in the storage unit in association with.
本発明の第8の態様に係る移動体プラットフォームシステムは、第1乃至第7の態様において、前記空間マップに基づいて、他の移動体プラットフォームシステムを遠隔より駆動制御する制御信号を送信する主制御部を更に備える。 In the first to seventh aspects, the mobile platform system according to the eighth aspect of the present invention is a main control that transmits a control signal for remotely driving and controlling another mobile platform system based on the spatial map. Further equipped with a part.
本発明の第9の態様に係る移動体プラットフォームシステムは、第1乃至第8の態様において、前記サービス機器は、ロボットアームの機能を備え、前記ロボットアームにより外部機器を把持し移動する。 In the mobile platform system according to the ninth aspect of the present invention, in the first to eighth aspects, the service device has a function of a robot arm, and the external device is gripped and moved by the robot arm.
本発明によれば、ユーザにサービスを提供するサービス機器を移動体に搭載して室内等を自動走行しつつ、空間マップを用いた予測動作に基づき駆動することで、利用者に最適なサービスを提供し、更には快適なライフスタイルを提供する移動体プラットフォームシステムを提供することができる。 According to the present invention, a service device that provides a service to a user is mounted on a mobile body to automatically travel in a room or the like, and is driven based on a predicted operation using a spatial map to provide an optimum service to the user. It is possible to provide a mobile platform system that provides and also provides a comfortable lifestyle.
以下、図面を参照しつつ本発明の第1乃至第5実施形態について説明する。 Hereinafter, the first to fifth embodiments of the present invention will be described with reference to the drawings.
本発明の実施形態に係る移動体プラットフォームシステムは、第1に、空間認識により空間マップの生成を行うと共に、時系列に連続する複数の空間マップに基づいて汚染箇所等を予測し、その予測結果に基づいて、自機(サービス機器を含む)及び周辺の家電等の外部機器の最適な駆動制御を実施することを特徴の1つとする。 The mobile platform system according to the embodiment of the present invention first generates a spatial map by spatial recognition, predicts a contaminated part or the like based on a plurality of spatial maps continuous in time series, and predicts the prediction result. One of the features is to carry out optimum drive control of external equipment such as own equipment (including service equipment) and peripheral home appliances based on the above.
第2に、予測動作により得られた予測結果に基づいて、家電等の外部機器の最適な設置時期、及び設置場所等を提案することも特徴の1つとする。 Secondly, one of the features is to propose the optimum installation time, installation location, etc. of external devices such as home appliances based on the prediction results obtained by the prediction operation.
そして、第3に、複数の家電等の外部機器を駆動制御するにあたっては、移動体がIoTのハブ的な役割も担うことも特徴の1つとする。その場合、移動体プラットフォームシステムは、外部機器に貼り付け等された遠隔操作ユニットと通信し、各外部機器の設置位置を確認した上で、それら外部機器の遠隔制御を実行する。 Thirdly, one of the features is that the mobile body also plays a role of a hub of IoT in driving and controlling a plurality of external devices such as home appliances. In that case, the mobile platform system communicates with the remote control unit attached to the external device, confirms the installation position of each external device, and then executes the remote control of those external devices.
第4に、ロボットアーム等をサービス機器として用いることで、深度カメラ等を用いた高さ検出により高さ方向も加味した空間マップの生成及び巡回コースの算定を行うことも特徴の1つとする。その場合、ロボットアーム等に、例えばAIスピーカ等といったユーザの嗜好に合った付加的なユニットを適宜装着して活用できる。 Fourth, by using a robot arm or the like as a service device, it is also characterized by generating a spatial map including the height direction and calculating a patrol course by detecting the height using a depth camera or the like. In that case, an additional unit suitable for the user's taste, such as an AI speaker, can be appropriately attached to the robot arm or the like and utilized.
以下、第1乃至第5実施形態について詳細に説明する。 Hereinafter, the first to fifth embodiments will be described in detail.
<第1実施形態>
図1には、本発明の第1実施形態に係る移動体プラットフォームシステムの構成を示し説明する。同図に示されるように、移動体プラットフォームシステムは、所定のデバイスをプログラムに従って駆動することによりユーザに所定のサービスを提供するサービス機器2と、サービス機器2を搭載して床面等を移動する移動体1とからなる。これら構成に充電ステーション3までを加えて移動体プラットフォームと定義してもよい。移動体プラットフォームシステムでは、充電ステーション3は、クラウドネットワーク5上のサーバ装置4と無線等により通信自在となっている。
<First Embodiment>
FIG. 1 shows and describes a configuration of a mobile platform system according to the first embodiment of the present invention. As shown in the figure, the mobile platform system moves a service device 2 that provides a predetermined service to a user by driving a predetermined device according to a program, and a service device 2 mounted on the floor surface or the like. It consists of a moving
このような構成において、移動体1は、詳細は後述する各種センサを備えており、撮影により得られた画像データ等に基づいて空間マップを生成し、蓄積された空間マップを参照して巡回コースを決定し、オムニホイール等の駆動により当該巡回コースに従って室内等の床面等を走行する。サービス機器2は、ここでは不図示のコネクタ部を介して移動体1の上部に装着される。このコネクタ部は、電力端子と信号端子とを備えている。サービス機器2は、コネクタ部を介して移動体1から電源供給を受け、ここでは不図示のバッテリ等からなる電源部を充電すると共に、各種の制御信号のやりとりを行う。サービス機器2は、移動体1からの電力供給、或いは電源部からの電力供給により駆動する。
In such a configuration, the moving
サービス機器2に実装される所定のデバイスとしては、空気清浄デバイス、照明デバイスなど、多様なものを採用できる。充電ステーション3は、移動体1がピットインしたときに当該移動体1と電気的に接続され、移動体1の電源部に対して充電を行う。
As a predetermined device mounted on the service device 2, various devices such as an air purifying device and a lighting device can be adopted. The charging
さらに、移動体1やサービス機器2が測定(センシング)により取得した情報、生成した空間マップ、環境情報等は、詳細は後述するが、充電ステーション3を介してクラウドネットワーク5上のサーバ装置4にも送信され、充電ステーション3及びサーバ装置4に蓄積される。したがって、複数の移動体プラットフォームシステムの間で、或いは外部機器との間でも、蓄積データの共有が可能となる。
Further, the information acquired by the
図2には、本発明の第1実施形態に係る移動体プラットフォームシステムにおける移動体の制御系の詳細な構成を示し説明する。 FIG. 2 shows and describes a detailed configuration of a mobile control system in the mobile platform system according to the first embodiment of the present invention.
同図に示されるように、移動体1は、移動体全体の制御を司るCPU(Central Processing Unit)等の制御部11を備えており、制御部11は、コネクタ部12、カメラ部24(RGBカメラ部13、及び深度カメラ部14からなる)、センサ部15、記憶部20、通信部21、及び電源部22と接続されている。センサ部15は、詳細には、赤外線測距センサ16、超音波測距センサ17、温度センサ18、及び照度センサ19等からなる。
As shown in the figure, the moving
通信部21は、充電ステーション3を介して、クラウドネットワーク5上のサーバ装置4等と通信するための通信インタフェースである。電源部22は、各部に電源を供給するものであり、充電ステーション3へのピットイン時には、当該充電ステーション3により充電される。コネクタ部12は、電力端子と信号端子とを少なくとも備えている。コネクタ部12はサービス機器2のコネクタ部と接続される。移動体1は、この電力端子を介して、サービス機器2に電力供給する。なお、サービス機器2は、この移動体1からの電力供給を受けて、後述する電源部を充電する。また、移動体1は、この信号端子を介して、サービス機器2との間で各種の制御信号のやりとりを行う。
The
また、カメラ部24において、RGBカメラ部13は、CCD(Charge Coupled Device)等の撮像素子を備えており、室内等を撮像し、画像信号を出力する。深度カメラ部14は、深度を測定する。
Further, in the
そして、記憶部20は、RAM(Random Access Memory)やROM(Read Only Memory)等のメモリやHDD(Hard Disc Drive)等からなり、制御部11で実行されるプログラム23を記憶している。また、記憶部20は、生成された空間マップ、及びそれに付随する情報等を時系列に記憶している。記憶内容は適宜更新される。
The
センサ部15の各要素について更に詳述すると、赤外線測距センサ16は、この例では移動体1の前方(床面測定用)と前後左右(近接測定用)に設けられている。超音波測距センサ17は、この例では、移動体1の前方1か所に設けられており、近接測定に用いられる。温度センサ18は、移動体1内部の温度と室内等の温度を測定するセンサである。照度センサ19は、移動体1の周囲の照度を測定するセンサである。
More specifically, each element of the
このような構成において、制御部11は、記憶部20のプログラム23を実行することで、主制御部11a、画像処理部11b、駆動制御部11c、マップ生成部11d、遠隔制御部11e、コース決定部11f、測定制御部11g、更新部11h、及び予測部11iとして機能する。
In such a configuration, the
各部について詳述すると、主制御部11aは、サービス機器2に対する制御信号の送信等、統括的な制御を司る。画像処理部11bは、RGBカメラ部13や深度カメラ部14による撮像で得られた画像信号に対して画像処理を実行し、当該処理で得られた画像データを記憶部20に記憶する。駆動制御部11cは、後述する予測動作により決定された巡回コースに従って移動するように移動体1を駆動制御する。例えばオムニホイール等を駆動制御することで、移動体1の部屋等における巡回を実現する。
More specifically, the
マップ生成部11dは、画像処理部11bで得られた画像データに基づいて3次元の第1の空間マップを生成し、当該第1の空間マップに基づいて2次元の第2の空間マップをリアルタイムに生成し、第1の空間マップを、少なくともRGBカメラ部13等での撮像の日時情報と共に、記憶部20に記憶する。さらに、マップ生成部11dは、空間マップ上に外部機器の設置場所情報等を対応付けて記憶部20に記憶する。また、マップ生成部11dは、空間マップ上に環境情報等を対応付けて記憶部20に記憶する。なお、外部機器の設置場所情報の取得、環境情報の取得については後に詳述する。
The
遠隔制御部11eは、例えばエアーコンディショナ(エアコン)やヒーター等の外部機器や、他の移動体プラットフォームシステム(子機)を遠隔より駆動制御する。より具体的には、外部機器に対する制御信号をサービス機器2側に送信し、サービス機器2より制御信号を赤外線リモコン信号等によって外部機器に送信することで、外部機器の遠隔制御を実現する。このとき、移動体1又はサービス機器2は、充電ステーション3を介して外部のサーバ装置4と通信し、当該サーバ装置4より外部機器に対応するリモコン信号に係る赤外線リモコン情報等を取得するようにしてもよい。
The
コース決定部11fは、記憶部20に記憶された空間マップを参照して巡回コースを決定する。より詳細には、コース決定部11fは、少なくとも巡回コースの決定の日時情報に基づいて、当該日時情報と相関のある日時情報に対応する空間マップを記憶部20より抽出し、抽出した空間マップに基づいて巡回コースを予測し、決定する。例えば、コース決定部11fは、巡回コース決定の日時が4月1日であるときは、過去3年間の4月1日前後2週間の空間マップを参照し、最適な巡回コースを予測し、決定する。
The
測定制御部11gは、移動体1の部屋等における巡回の過程で、センサ部15による測定を行うよう制御する。更新部11hは、この測定制御部11gによる測定の結果に基づいて巡回コースを更新し、記憶部20に記憶する。
The
そして、予測部11iは、記憶部20に記憶された空間マップに対応付けられた日時情報、外部機器設置場所情報、及び環境情報等に基づいて、外部機器の好適な設置場所及び設置時期等を予測し、所定の提案を行う。予測部11iは、提案動作については、例えば電子メールの送信、音声出力、発光、或いは所定動作の少なくともいずれかにより行うこととしてよい。ここで、環境情報には、例えば部屋の各領域の温度、湿度、匂い、及びCO2濃度等、各種の情報が含まれる。但し、これには限定されない。提案に対するフィードバックがユーザよりあった場合には、空間マップと対応させて当該フィードバックの情報も保存する。例えばエアコンの制御を予測動作に基づいて行った場合に、ユーザより快適であった旨のフィードバックを音声や操作により受けたときは、その情報も空間マップに対応付けて保存するようにしている。
Then, the
図3には、本発明の第1実施形態に係る移動体プラットフォームシステムにおけるサービス機器の制御系の詳細な構成を示し説明する。 FIG. 3 shows and describes a detailed configuration of a control system of a service device in the mobile platform system according to the first embodiment of the present invention.
同図に示されるように、サービス機器2は、当該サービス機器2全体の制御を司るCPU等の制御部31を備えている。制御部31は、センサ部32、遠隔操作部36、コネクタ部39、通信部40、オゾン・イオン発生部42、記憶部43、及び投影部44等を備える。センサ部32は、詳細には、温度センサ33、湿度センサ34、匂いセンサ45、CO2センサ35、電源部46、及び電源制御部47等を備えている。詳細には、温度センサ33は、サービス機器2の周辺温度を測定するものである。湿度センサ34は、移動体1の周辺の湿度を測定するものである。匂いセンサ45は空気の汚染度を測定するものである。CO2センサ35は、サービス機器2周辺のCO2(二酸化炭素)濃度を測定するものである。遠隔操作部36は、発光部37と受光部38を備えている。
As shown in the figure, the service device 2 includes a
通信部40は、充電ステーション3を介して、クラウドネットワーク5等上のサーバ装置4等と通信する通信インタフェースである。オゾン・イオン発生部42は、オゾン及びイオンを発生するものである。記憶部43は、RAMやROM等のメモリやHDD等で構成されており、制御部31で実行されるプログラム41が記憶されている。そして、投影部44は、プロジェクタ機能を実現するものであり、投影像を机上や壁面等に投影するものである。尚、ここでは、投影部44を1つのサービス機器2内に実装する例を示したが、これに限定されず、別のサービス機器に実装し、当該別のサービス機器を本サービス機器に所謂重箱的に搭載し、電気的に接続するように構成してもよい。
The
コネクタ部39は、少なくとも電力端子と制御端子とを備える。サービス機器2は、コネクタ部39が移動体1のコネクタ部12に接続されると、当該電力端子を介して電力の給電を受け、電源制御部47の制御の下、電源部46を充電する。また、サービス機器2は、制御端子を介して、移動体1との間で制御信号のやりとりを行う。
The
遠隔操作部36は、エアコンやヒーター等といった外部機器に設置される遠隔操作ユニットとの間の距離や方向を測定することで外部機器の設置場所を特定すると共に、遠隔操作時には所定の遠隔操作信号を送出する。遠隔操作信号としては、発光部37及び受光部38が赤外線対応のものであれば、赤外線リモコン信号を送出する。また、発光部37及び受光部38がBluetooth(登録商標)対応のものであれば、Bluetooth(登録商標)信号を送出する。
The
このような構成において、制御部31は、記憶部43のプログラム41を実行することで、主制御部31a、測定制御部31b、遠隔制御部31c、投影制御部31d、及びオゾン・イオン発生制御部31e等として機能する。
In such a configuration, the
主制御部31aは、移動体1への制御信号の送出等、統括的な制御を司る。測定制御部31bは、少なくとも温度センサ33、湿度センサ34、及びCO2センサ35による測定動作を制御する。遠隔制御部31cは、外部機器や他の移動体プラットフォームシステムに対して遠隔操作部36より遠隔制御信号を送出するなどして遠隔制御する。投影制御部31dは、投影部44による壁面等への映像の投影を制御する。そして、オゾン・イオン発生制御部31eは、オゾン・イオン発生部42によるオゾン及びイオンの発生を制御する。
The
サービス機器2は、移動体1に搭載されると、当該移動体1より電源供給を受け、移動体1の部屋等における巡回中に、測定制御部31bの制御の下、温度センサ33、湿度センサ34、匂いセンサ45、及びCO2センサ35による測定を行い、測定結果を環境情報として移動体1に送信する。移動体1では、前述したマップ生成部11dが、空間マップ上に環境情報を対応付け、記憶部43に記憶する。環境情報としては、温度分布、湿度分布、及び花粉の蓄積状態等、種々のものがある。サービス機器2は、電源制御部47の制御の下、電源部46を充電できるようになっているが、当該電源部46からの電源供給により駆動することもできる。マップ生成部11dにより生成された空間マップ及びそれに付随する環境情報等は、移動体1から充電ステーション3に定期的に送信され、更に充電ステーション3からクラウドネットワーク5上のサーバ装置4に送信される。例えば、充電ステーション3は、数週間分の空間マップ及びそれに付随する環境情報等を記憶しており、クラウドネットワーク5上のサーバ装置4は、数年分の空間マップ及びそれに付随する環境情報等を記憶している。移動体1は、定期的に、充電ステーション3、又は充電ステーション3を介してクラウドネットワーク5上のサーバ装置4より、最新の空間マップ及びそれに付随する環境情報等をダウンロードし、予測動作に用いる。
When the service device 2 is mounted on the
また、サービス機器2は、移動体1に搭載されていない状態でも、内部の電源部46からの電源供給を受けて、所謂スタンドアロン型の家電製品としても機能する。その場合においても、サービス機器2は、設置された場所において、測定制御部31bの制御の下で温度センサ33、湿度センサ34、匂いセンサ45、及びCO2センサ35による測定を行い、オゾン・イオン発生制御部31eが、それら測定結果に基づいて、オゾン・イオン発生部42によるオゾン及びイオンの発生を制御する。
Further, the service device 2 also functions as a so-called stand-alone home electric appliance by receiving power supply from the internal
図4には、充電ステーション3の詳細な構成を示し説明する。
FIG. 4 shows and describes a detailed configuration of the charging
同図に示されるように、充電ステーション3は、全体の制御を司るCPU等からなる制御部91を備えている。制御部91は、給電部92、通信部93、電源部94、記憶部95、表示部96、及び操作部97と接続されている。給電部92は、移動体1が充電ステーション3にピットインしたときに、当該移動体1と電気的に接続され、当該移動体1に対して給電を行う。通信部93は、クラウドネットワーク5を介してサーバ装置4等と通信をする通信インタフェースである。電源部94は、バッテリ等で構成され、各部に電源供給をする。記憶部95は、例えば、数週間分の空間マップ及びそれに付随する環境情報等を記憶する記憶デバイスである。表示部96は、この例では、作動状態を示すLED等で構成されている。そして、操作部97は、各種操作入力を行うものである。
As shown in the figure, the charging
制御部91は、記憶部95のプログラムを実行することで、主制御部91a、及び表示制御部91b等として機能する。主制御部91aは、移動体1より送信された空間マップ及びそれに付随する環境情報等を記憶部95にダウンロードすると共に、通信部93を介してクラウドネットワーク5上のサーバ装置4にアップロードするように制御する。表示制御部91bは、表示部96における各種表示を制御する。
The
以下、図5のフローチャートを参照して、本発明の第1実施形態の移動体プラットフォームシステムによる空間マップ生成による処理手順を説明する。 Hereinafter, a processing procedure by generating a spatial map by the mobile platform system according to the first embodiment of the present invention will be described with reference to the flowchart of FIG.
処理を開始すると、移動体1は、マップ生成部11dが、空間マップを生成し、記憶部20に記憶する(S1)。より具体的には、RGBカメラ部13や深度カメラ部14による撮像で得られた画像信号を、画像処理部11bで画像処理して画像データを出力し、マップ生成部11dが当該画像データに基づいてスタティックな3Dマップを生成し、続いてリアルタイムに当該3Dマップに基づいて2Dマップを生成する。即ち、全ての画像データは3Dデータで生成し保存され、適宜リアルタイムに2Dデータが生成される。このようにして記憶部20に記憶された空間マップには、通常書き換える事のないマップデータ(部屋の形状等)であるGCM(グローバルコストマップ)と、移動体1運行時のマップデータ(例えば、室内等における突然の人の出現や障害物の場所を反映したもの)であるLCM(ローカルコストマップ)が含まれる。
When the process is started, the
移動体1は、コース決定部11fが、記憶部20から、図6に示されるように、時系列に連続して記憶された空間マップを蓄積データとして参照し(S2)、巡回コースを予測し決定する(S3)。移動体1は、例えば充電ステーション3、又は充電ステーション3を介してクラウドネットワーク5上のサーバ装置4より、数週間以内の最新の空間マップをダウンロードして、記憶部20に記憶し、それらに基づく予測動作を行うことで、障害物等の場所を把握して、それらを回避するように巡回コースを決定する。巡回コースは、部屋を近似的に凸包に見立てて、その頂点を巡回点と定義したものである。空間マップは例えば図7に示される。同図に示される例では、GCM200の上に障害物等により立ち入りできない領域のLCM201が観測される。
In the moving
移動体1は、決定された巡回コースに従って、駆動制御部11cの制御の下、室内等を巡回する。この巡回の過程で、測定制御部11gの制御の下、センサ部15による室内環境の測定を実施する(S4)。そして、新たに測定された室内環境に基づいて、巡回コースを変更し(S5)、記憶部20の記憶内容を更新し蓄積(S6)、空間マップ生成に関わる一連の処理を終了する。巡回の途中で電源部22の電力が規定値以下になったときは、帰還コースに切り替えて、充電ステーション3にピットインして充電を行ってもよい。
The
以上の処理は、マップ生成部11dにより生成され蓄積された空間マップに基づき生成される巡回コースを、赤外線測距センサ16や超音波測距センサ17等といったセンサ部15の各種センサ出力に基づいて生成された最新のLCMに基づいて学習し、最適なものとすることを意味する。
In the above processing, the patrol course generated based on the spatial map generated and accumulated by the
次に、図8には、本発明の第1実施形態に係る移動体プラットフォームシステムによる外部機器の制御の様子を概念的に示し説明する。 Next, FIG. 8 conceptually shows and describes a state of control of an external device by the mobile platform system according to the first embodiment of the present invention.
同図に示されるように、移動体1にはサービス機器2が搭載されている。この状態で移動体1は、床面等を移動するが、室内等に設置された各種外部機器と通信し当該外部機器を遠隔操作することが可能である。ここでは、一例として、エアコン100、ヒーター102、空気清浄器101のそれぞれに、遠隔操作ユニット6が設置されており、移動体プラットフォームシステムは、当該遠隔操作ユニット6との間で通信を行うことで、それら外部機器を遠隔制御することができる。この遠隔操作にあたっては、先ずは各外部機器の設置場所の特定を行い、その特定した場所に対して遠隔操作信号を送信することで外部機器を駆動制御する。
As shown in the figure, the service device 2 is mounted on the
例えば、遠隔操作信号が赤外線リモコン信号である場合には、クラウドネットワーク5上のサーバ装置4より制御対象の外部機器に対応した赤外線リモコン情報をダウンロードして適宜用いるようにしてよい。また、赤外線リモコン信号の届かない領域に外部機器が位置するときは、当該外部機器の設置場所まで移動して、遠隔操作を行ってもよい。
For example, when the remote control signal is an infrared remote control signal, the infrared remote control information corresponding to the external device to be controlled may be downloaded from the server device 4 on the
次に、図9には、本発明の第1実施形態に係る移動体プラットフォームシステムにより遠隔より駆動制御される外部機器に設置される遠隔操作ユニット6の制御系の構成を示し説明する。
Next, FIG. 9 shows and describes a configuration of a control system of a
同図に示されるように、遠隔制御ユニット6は、CPU等の制御部51を備える。この制御部51は、通信部53、電源部54、被遠隔操作部52と接続されている。通信部53は、例えば屋内にWiFiやBluetooth(登録商標)等の通信環境が整っている場合、当該通信環境を活用した通信等を実現する。電源部54は、ボタン電池等で構成される。被遠隔操作部52は、発光部55と受光部56とで構成されており、移動体プラットフォームシステムからの測距光の発光/受光、及び赤外線リモコン信号の受信を行う。制御部51は、主制御部51a、及び遠隔制御部51bとして機能する。主制御部51aは、統括的な制御を行う。そして、遠隔制御部51bは、対象となる外部機器を遠隔制御する。この例では、サービス機器2が遠隔制御部36を備える例を示したが、これに限定されるものではなく、遠隔制御部36を移動体1が備えていても、或いは移動体1に対する付属ユニットとして当該移動体1に実装させてもよい。
As shown in the figure, the
ここで、図10乃至図13を参照して、遠隔操作部36、被遠隔制御部52の発光及び受光の仕組みについて更に言及する。図10乃至図12に示されるように、受光部38,55として一般的な赤外線リモコン受光モジュールを採用した場合には、光の強弱を判別することができず、変調された所定の周波数のパルスを復調することになる。この例では、発光部37,56で600μsの間に23回の点滅がなされると、受光部38,55がそれを検出し、反転出力を行う。しかしながら、受光部38,55として一般的な赤外線リモコン受光モジュールを採用すると、発光の強弱に関わらず、所定の点滅のパルスを受光すると、受光部38,55側では同じ電圧出力をしてしまう。そこで、本実施形態の移動体プラットフォームシステムでは、出力信号に含まれるID番号と発光部37,56の出力する赤外線の光量とに基づいて距離を認識し、得られたデータのうち、最遠の赤外線データのみを有効なものとして取り扱う。発光部37,56の赤外線光量の調整は電流値で行うものとする。
例えば、図13(a)乃至図13(c)に示されるように、
ID番号001、赤外線光量1/3のときは、“0010103”:1m(図13(a))
ID番号001、赤外線光量2/3のときは、“0010203”:2m(図13(b))
ID番号001、赤外線光量3/3のときは、“0010303”:3m(図13(c))
と受光部38,55側で認識し、最遠のデータ“0010303”を有効なものとして取り扱う。尚、同じ方向から赤外線データが発光されると、データの衝突、合成が行われ、正しいデータとして読み取れないことがあるが、本実施形態では、通信部40、53にて同期をとることで、この問題を解決している。以上に加えて、発光部37,56又は受光部38,55側にスリットを設ければ、所定角度以外の赤外線を遮断できるので、方向の算出も可能となる。
Here, with reference to FIGS. 10 to 13, the mechanism of light emission and light reception of the
For example, as shown in FIGS. 13 (a) to 13 (c).
When the ID number is 001 and the amount of infrared light is 1/3, "0010103": 1 m (FIG. 13 (a)).
When the ID number is 001 and the amount of infrared light is 2/3, "0010203": 2 m (FIG. 13 (b)).
When the ID number is 001 and the amount of infrared light is 3/3, "0010303": 3 m (FIG. 13 (c)).
Is recognized by the
次に、図14のフローチャートを参照して、本発明の第1実施形態に係る移動体プラットフォームシステムによる部屋内の巡回、及びサービス機器又は外部機器の駆動制御に係る動作の流れを詳細に説明する。 Next, with reference to the flowchart of FIG. 14, the flow of operations related to the patrol in the room by the mobile platform system according to the first embodiment of the present invention and the drive control of the service device or the external device will be described in detail. ..
移動体1は、コース決定部11fが、充電ステーション3、又は充電ステーション3を介してクラウドネットワーク5上のサーバ装置4より、最新の蓄積データをダウンロードして、記憶部20に記憶し、それら時系列に連続して記憶された空間マップを蓄積データとして参照し、巡回コースを予測し決定する(S11)。例えば数週間以内の空間マップを記憶部20より読み出し、予測動作を行うことで、障害物等の場所を把握して、それらを回避するように巡回コースを決定する。巡回コースは、部屋を近似的に凸包に見立てて、その頂点を巡回点と定義したものである。
In the moving
移動体1は、決定された巡回コースに従って、駆動制御部11cの制御の下、室内を巡回する(S12)。この巡回の過程で、測定制御部11gの制御の下、センサ部15による室内環境の測定を実施する(S13)。
The
そして、予測部11iは、室内環境の改善にサービス機器2で十分対応可能であるか予測動作を行う(S14)。ここで、予測部11iによる予測動作により対応が可能であると判断された場合には(S15をYesに分岐)、サービス機器2に制御信号を送出し、サービス機器2を駆動制御する(S16)。一方、予測部11iによる予測動作により対応不可能であると判断された場合には(S15をNoに分岐)、遠隔制御部11eの制御の下、遠隔制御する外部機器を特定し、遠隔操作する(S17)。
こうして、一連の処理を終了する。
Then, the
In this way, a series of processes is completed.
ここで、サービス機器2で十分対応可能な場合とは、空気の汚染の度合いが低く、蓄積された過去の実績からサービス機器2のオゾン・イオン発生部42の作用により空気の汚染を十分に解消できる場合等をいう。サービス機器2で対応できない場合とは、温度湿度が高く、エアコン100による作用を要する場合や、空気の汚染の度合い高く、サービス機器2のオゾン・イオン発生部42では解消できない場合等を意味している。但し、これらには限定されない。
Here, when the service device 2 can sufficiently deal with the situation, the degree of air pollution is low, and the action of the ozone
より具体的には、例えば外部機器がエアコン100である場合、冷房、暖房を作動させても部屋が快適な温度になるまでには時間がかかる。そこで、予測部11iは、過去の履歴(例えば12カ月×3年または1シーズン前)を参照し、冷房、暖房の電源投入時刻を前後させることで省エネルギー化を併せて実現する。このとき、暖まりやすい場所、暖まりにくい場所等を環境情報として空間マップと対応付けて記憶部20に記憶しているので、過去の履歴からどのようなパターンで駆動すればよいのか(例えば、開始時間、風量、及び風向等)、或いはサーキュレータや空気清浄器を同時に駆動した方が効率的に暖まるか等についても予測し、駆動制御することができる。
More specifically, for example, when the external device is an
また、外部機器が空気清浄器102である場合、予測部11iにより、過去の○月○日に部屋内の位置(x,y,z)で空気中に花粉の飛散が検知されたので、その場所を重点的に空気清浄するべきと言った予測を行い、その予測結果に基づく駆動制御も可能となる。
Further, when the external device is the
あるいは、外部機器がスマートスピーカ103である場合には、予測部11iは、ユーザが所定の時間帯には所定の場所で使う傾向にあると履歴情報より予測できるので、その予測結果に基づいて移動体1が移動することで、スマートスピーカ103を時間帯毎に最適な場所で利用可能とする。
Alternatively, when the external device is the
以上説明したように、本発明の第1実施形態によれば、空間認識により空間マップの生成を行うと共に、時系列に連続する複数の空間マップに基づいて汚染箇所等を予測し、その予測結果に基づいて、自機(サービス機器を含む)及び周辺の外部機器(家電など)の最適な駆動制御を行うことができる。 As described above, according to the first embodiment of the present invention, a spatial map is generated by spatial recognition, and a contaminated location or the like is predicted based on a plurality of spatial maps continuous in time series, and the prediction result thereof. Based on this, it is possible to perform optimum drive control of the own machine (including service equipment) and peripheral external equipment (home appliances, etc.).
さらに、予測部11iによる予測動作による予測結果に基づいて、家電の設置時期、及び設置場所を提案することができる。例えば、過去の○月○日に、外部機器であるファインヒータやサーキュレータを設置した履歴が確認でき、その季節は快適に過ごせたとの記録がある場合に、予測部11iは、外部機器の設置提案を出力すると共に、過去の設置時点での室温等の設定条件を併せて出力することもできる。即ち、予測部11iは、記憶部20に記憶された空間マップ及びそれに対応付けられた家電設置場所情報、環境情報等に基づいて外部機器の設置に係る予測動作を行い、外部機器を設置するのに適した時期、場所、及び設定条件等を出力してもよい。そのとき、移動体である特質を生かして、実際に外部機器を設置するのに適した場所まで移動し、当該場所に設置すべき旨を音声や表示によりユーザに指示するようにしてもよい。また、複数の外部機器の設置提案を出力する場合には、それぞれの設置場所や設定温度等の設定条件を併せて出力してもよい。
Further, it is possible to propose the installation time and the installation location of the home appliance based on the prediction result by the prediction operation by the
さらに、複数の外部機器(家電など)を駆動制御するにあたっては、移動体プラットフォームシステムがIoTのハブ的な役割も担うことができる。従って、移動体プラットフォームシステムを導入することで、所謂スマートホームを実現できる。 Furthermore, the mobile platform system can also play the role of an IoT hub in driving and controlling a plurality of external devices (home appliances, etc.). Therefore, a so-called smart home can be realized by introducing a mobile platform system.
<第2実施形態>
図15には、本発明の第2実施形態に係る移動体プラットフォームシステムの移動体の制御系の構成の一部を詳細に示し説明する。
<Second Embodiment>
FIG. 15 shows and describes in detail a part of the configuration of the mobile control system of the mobile platform system according to the second embodiment of the present invention.
同図に示されるように、移動体1は、図2の構成に加えて、制御部11が、人物の存在を検知する人物検知部11jと、環境を特定する環境特定部11kとしても機能することを特徴としている。その他の構成は、図2と同様であるので、図示と説明を省略する。
As shown in the figure, in addition to the configuration of FIG. 2, the moving
以下、図16のフローチャートを参照して、本発明の第2実施形態に係る移動体プラットフォームシステムによる動作を説明する。 Hereinafter, the operation by the mobile platform system according to the second embodiment of the present invention will be described with reference to the flowchart of FIG.
RGBカメラ部13等により室内の撮影を行った後(S21)、人物検知部11jにより人物の存在を検知し(S22)、環境特定部11kにより当該人物に係る環境を特定し(S23)、予測部11iが、前述したような予測動作を行って認識されたユーザにとって最適な環境を実現する動作(例えば、外部機器制御など)について予測し(S24)、サービス機器2又は外部機器を予測された最適な環境に合わせて駆動制御し(S25)、一連の処理を終了する。上記最適な環境を実現する外部機器制御としては、室内温度の調整や照明のON/OFF等、種々のものに対応することができる。
After taking a picture of the room with the
以上説明したように、本発明の第2実施形態によれば、前述した第1実施形態の効果に加えて、ユーザの属性や嗜好等に合致したサービスを提供することができる。 As described above, according to the second embodiment of the present invention, in addition to the effects of the first embodiment described above, it is possible to provide a service that matches the attributes and preferences of the user.
<第3実施形態>
図17には、本発明の第3実施形態に係る移動体プラットフォームシステムの移動体の制御系の構成の一部を詳細に示し説明する。
<Third Embodiment>
FIG. 17 shows and describes in detail a part of the configuration of the mobile control system of the mobile platform system according to the third embodiment of the present invention.
同図に示されるように、移動体1は、図2の構成に加えて、制御部11が、人物のスケジュールを管理するスケジュール管理部11lと、環境を特定する環境特定部11kとしても機能することに特徴を有している。その他の構成は、図2と同様であるので、図示と説明を省略する。
As shown in the figure, in addition to the configuration of FIG. 2, the
以下、図18のフローチャートを参照して、本発明の第3実施形態に係る移動体プラットフォームシステムによる動作を説明する。 Hereinafter, the operation by the mobile platform system according to the third embodiment of the present invention will be described with reference to the flowchart of FIG.
スケジュール管理部11lがスケジュールを参照し(S31)、スケジュール管理部11lにより所定のタイミングを検知した時には(S32をYes)、環境特定部11kにより当該スケジュールに合致した環境を特定し(S33)、予測部11iが前述したような予測動作を行ってユーザにとって最適な環境を実現する動作(例えば、外部機器制御など)を予測し(S34)、サービス機器2又は外部機器を当該最適な環境に合わせて駆動し(S35)、こうして一連の処理を終了する。最適な環境を実現する外部機器制御としては、室内温度の調整や照明のON/OFF等、種々のものに対応することができる。
When the schedule management unit 11l refers to the schedule (S31) and the schedule management unit 11l detects a predetermined timing (S32 is Yes), the
以上説明したように、本発明の第3実施形態によれば、前述した第1実施形態の効果に加えて、ユーザのスケジュールに合致したサービスを提供することができる。 As described above, according to the third embodiment of the present invention, in addition to the effects of the first embodiment described above, it is possible to provide a service that matches the user's schedule.
<第4実施形態>
図19には、本発明の第4実施形態に係る移動体プラットフォームシステムの構成を示し説明する。この実施形態に係る移動体プラットフォームシステムは、サービス機器としてロボットアームを採用した例になる。
<Fourth Embodiment>
FIG. 19 shows and describes a configuration of a mobile platform system according to a fourth embodiment of the present invention. The mobile platform system according to this embodiment is an example of adopting a robot arm as a service device.
同図に示されるように、移動体71には、ロボットアームの機能を備えたサービス機器72が装着される。前述したように、移動体71、及びサービス機器72には、所定のコネクタ部が設けられており、両コネクタ部を接続すると、サービス機器72は、移動体71からの電力供給を受け、バッテリ等からなる電源部を充電する。また、サービス機器72は、移動体71よりロボットアームの駆動に関する各種の制御信号に基づいて駆動制御される。そして、この例で特に特徴的なのは、ロボットアーム部分の把持部に、RGBカメラ部73や深度カメラ部74が設けられている点にある。
As shown in the figure, the
前述した例では、移動体にRGBカメラ部や深度カメラ部が設けられていたが、移動体自体の高さの制約、各カメラの画角に関する制約の関係で、部屋などを撮影するときに所定高以上の障害物を正確に検知することができなかった。この点、第4本実施形態に係る移動体プラットフォームシステムでは、サービス機器72のロボットアーム部分の把持部にRGBカメラ部73と深度カメラ部74を設けたので、より高い障害物まで検知し、その結果を空間マップに反映することが可能となる。従って、障害物の高さまで考慮した巡回コースの算定ができるので、部屋内を正確に巡回することが可能となる。
In the above example, the moving object is provided with an RGB camera unit and a depth camera unit, but due to the height restrictions of the moving object itself and the restrictions on the angle of view of each camera, it is predetermined when shooting a room or the like. It was not possible to accurately detect obstacles above high. In this regard, in the mobile platform system according to the fourth embodiment, since the RGB camera unit 73 and the depth camera unit 74 are provided in the grip portion of the robot arm portion of the
<第5実施形態>
図20には、本発明の第5実施形態に係る移動体プラットフォームシステムの構成を示し説明する。この実施形態に係る移動体プラットフォームシステムは、サービス機器としてロボットアームを採用した例になる。さらに、サービス機器のロボットアームで各種の外部機器を把持することで、当該外部機器の制御並びに移動を実行する。
<Fifth Embodiment>
FIG. 20 shows and describes the configuration of the mobile platform system according to the fifth embodiment of the present invention. The mobile platform system according to this embodiment is an example of adopting a robot arm as a service device. Further, by grasping various external devices with the robot arm of the service device, the control and movement of the external devices are executed.
同図に示されるように、移動体71には、ロボットアームの機能を備えたサービス機器72が装着される。前述したように、移動体71、及びサービス機器72には、所定のコネクタ部が設けられており、両コネクタ部を接続すると、サービス機器72は、移動体71からの電力供給を受け、バッテリ等からなる電源部を充電する。また、サービス機器72は、移動体1からのロボットアームの駆動に関する各種の制御信号に基づいて駆動制御される。
As shown in the figure, the
そして、サービス機器72のロボットアームにより、外部機器を把持して移動することを特徴とする。この例では、外部機器として、AIスピーカ81を電源ユニット82の上に電気的に接続させつつ載置し、さらに電源ユニット82と固着されている筐体部83の開口部83aにロボットアームの把持部を挿入させることで把持する。一般に、AIスピーカ81は、部屋のいたるところで使用が嘱望されるものであるが、移動体1は部屋の中を移動自在であることから、ユーザに追従しつつ移動し、ユーザのスケジュールに合わせて移動することができるので、ユーザの日常生活に即した最適な外部機器の使用が可能となる。
The robot arm of the
以上、本発明の第1乃至第5実施形態について説明したが、本発明はこれに限定されることなくその趣旨を逸脱しない範囲で種々の改良・変更が可能である。 Although the first to fifth embodiments of the present invention have been described above, the present invention is not limited to this, and various improvements and changes can be made without departing from the spirit of the present invention.
例えば、ひとつの移動体プラットフォームシステムが指令機となり、他の複数の移動体プラットフォームシステムに対して、空間マップにより予測された汚染状況等の環境情報に基づいて対応場所等の統括管理及び指令を実施し、室内環境の改善を作業分担して行うようにしてもよいことは勿論である。 For example, one mobile platform system serves as a commander, and multiple other mobile platform systems are subject to comprehensive management and commands such as response locations based on environmental information such as pollution status predicted by spatial maps. Of course, the work may be shared to improve the indoor environment.
1…移動体、2…サービス機器、3…充電ステーション、4…サーバ装置、5…クラウドネットワーク、11…制御部、11a…主制御部、11b…画像処理部、11c…駆動制御部、11d…マップ生成部、11e…遠隔制御部、11f…コース決定部、11g…測定制御部、11h…更新部、11i…予測部、12…コネクタ部、13…RGBカメラ部、14…深度カメラ部、15…センサ部、16…赤外線測距センサ、17…超音波測距センサ、18…温度センサ、19…照度センサ、20…記憶部、21…通信部、22…電源部、23…プログラム、24…カメラ部。 1 ... mobile body, 2 ... service equipment, 3 ... charging station, 4 ... server device, 5 ... cloud network, 11 ... control unit, 11a ... main control unit, 11b ... image processing unit, 11c ... drive control unit, 11d ... Map generation unit, 11e ... remote control unit, 11f ... course determination unit, 11g ... measurement control unit, 11h ... update unit, 11i ... prediction unit, 12 ... connector unit, 13 ... RGB camera unit, 14 ... depth camera unit, 15 ... Sensor unit, 16 ... Infrared distance measurement sensor, 17 ... Ultrasonic distance measurement sensor, 18 ... Temperature sensor, 19 ... Illuminance sensor, 20 ... Storage unit, 21 ... Communication unit, 22 ... Power supply unit, 23 ... Program, 24 ... Camera part.
Claims (9)
前記移動体は、
空間マップを生成するマップ生成部と、
各種センシングを行うセンサ部と、
前記空間マップを時系列に従って記憶する記憶部と、
前記記憶部に記憶された空間マップを参照して巡回コースを予測し決定するコース決定部と、
前記巡回コースに基づいて移動するよう駆動制御する駆動制御部と、
前記移動の過程で前記センサ部による測定を行う測定制御部と、
前記測定の結果に基づいて前記巡回コースを更新し前記記憶部に記憶する更新部と、
カメラ部と、
前記カメラ部で撮像された画像信号を画像処理して画像データを得る画像処理部と、
を備え、
前記サービス機器は、
オゾン・イオンを発生するオゾン・イオン発生部と、
温度を測定する温度センサと、
湿度を測定する湿度センサと、
空気汚染度を測定する匂いセンサと、
CO2濃度を測定するCO2センサと、
照度を測定する照度センサと、
少なくとも前記温度センサ、前記湿度センサ、前記CO2センサ、前記匂いセンサと、及び前記照度センサによる測定動作を制御する測定制御部と、
を備え、
前記マップ生成部は、前記画像処理部で得られた画像データに基づいて3次元の第1の空間マップを生成し、当該第1の空間マップに基づいて2次元の第2の空間マップを生成し、前記空間マップとして前記第1の空間マップを、少なくとも前記カメラ部での撮像の日時情報と共に、前記記憶部に記憶し、
前記コース決定部は、少なくとも前記巡回コースの決定の日時情報に基づいて、当該日時情報と相関のある日時情報に対応する前記第1の空間マップを前記記憶部より抽出し、抽出した前記第1の空間マップに基づいて前記巡回コースを予測し決定し、
前記マップ生成部は、前記第1の空間マップ上に外部機器の設置場所を特定し、外部機器設置場所情報を前記記憶部に記憶し、
前記サービス機器は、前記移動体に搭載されると、当該移動体からの電源供給、或いは電源部からの電源供給を受け、前記移動体の巡回中に、前記測定制御部は、前記温度センサ、前記湿度センサ、前記CO2センサ、前記匂いセンサと、及び前記照度センサの少なくともいずれかによる測定を行い、測定結果を環境情報として前記移動体に送信し、
前記移動体では、前記マップ生成部は、前記第1の空間マップ上に前記環境情報を対応付け前記記憶部に記憶し、
前記移動体は、前記記憶部に記憶された前記第1の空間マップに対応付けられた前記日時情報、前記外部機器設置場所情報、及び前記環境情報に基づいて、前記外部機器の設定場所及び設置時期を予測し提案する予測部を更に備えた
移動体プラットフォームシステム。 A mobile platform system consisting of a service device that provides a predetermined service to a user by driving a predetermined device, and a mobile body that moves on the service device.
The moving body is
A map generator that generates a spatial map and
The sensor unit that performs various sensing and
A storage unit that stores the spatial map in chronological order,
A course determination unit that predicts and determines a patrol course with reference to the spatial map stored in the storage unit, and
A drive control unit that drives and controls movement based on the patrol course,
A measurement control unit that performs measurement by the sensor unit in the process of movement, and a measurement control unit.
An update unit that updates the patrol course based on the measurement result and stores it in the storage unit,
With the camera part
An image processing unit that obtains image data by image processing an image signal captured by the camera unit, and an image processing unit.
Equipped with
The service device is
Ozone ion generator that generates ozone ion and
A temperature sensor that measures temperature and
Humidity sensor to measure humidity and
An odor sensor that measures the degree of air pollution,
A CO2 sensor that measures CO2 concentration and
An illuminance sensor that measures illuminance and
At least the temperature sensor, the humidity sensor, the CO2 sensor, the odor sensor, and the measurement control unit that controls the measurement operation by the illuminance sensor.
Equipped with
The map generation unit generates a three-dimensional first spatial map based on the image data obtained by the image processing unit, and generates a two-dimensional second spatial map based on the first spatial map. Then, as the spatial map, the first spatial map is stored in the storage unit together with at least the date and time information of the image captured by the camera unit.
The course determination unit extracts the first spatial map corresponding to the date and time information correlating with the date and time information from the storage unit based on at least the date and time information of the determination of the patrol course, and extracts the first. Predict and determine the traveling course based on the spatial map of
The map generation unit identifies the installation location of the external device on the first space map, stores the external device installation location information in the storage unit, and stores the information.
When the service device is mounted on the moving body, the service device receives a power supply from the moving body or a power supply from the power supply unit, and during the patrol of the moving body, the measurement control unit receives the power supply from the temperature sensor. Measurement is performed by at least one of the humidity sensor, the CO2 sensor, the odor sensor, and the illuminance sensor, and the measurement result is transmitted to the moving body as environmental information.
In the moving body, the map generation unit associates the environment information on the first spatial map and stores it in the storage unit.
The mobile body has the setting location and installation of the external device based on the date and time information, the external device installation location information, and the environmental information associated with the first spatial map stored in the storage unit. A mobile platform system with a predictor that predicts and proposes timing.
外部機器までの距離を測距し前記外部機器の設置場所を特定すると共に、前記外部機器に対してリモコン信号を送信する遠隔操作部を更に有する
請求項1に記載の移動体プラットフォームシステム。 The mobile or the service device
The mobile platform system according to claim 1, further comprising a remote control unit that measures a distance to an external device, specifies an installation location of the external device, and transmits a remote control signal to the external device.
前記移動体及び前記サービス機器は、前記充電ステーションを介して外部サーバ装置と通信する通信部を更に備え、
前記移動体又は前記サービス機器は、前記充電ステーションを介して前記外部サーバ装置より前記外部機器に対応する前記リモコン信号に係る赤外線リモコン情報、又はブルートゥース(登録商標)信号に係る情報を取得する
請求項2に記載の移動体プラットフォームシステム。 With more charging stations
The mobile body and the service device further include a communication unit that communicates with an external server device via the charging station.
The mobile body or the service device claims to acquire infrared remote control information related to the remote control signal corresponding to the external device or information related to a Bluetooth (registered trademark) signal from the external server device via the charging station. The mobile platform system according to 2 .
請求項1乃至請求項3のいずれか1項に記載の移動体プラットフォームシステム。 The mobile platform system according to any one of claims 1 to 3, wherein the prediction unit makes the proposal by transmitting e-mail, outputting voice, emitting light, or at least a predetermined operation.
人物の存在を検知する人物検知部と、
環境を特定する環境特定部と、を更に備え、
前記人物検知部により人物の存在を検知した時には、前記環境特定部により当該人物に係る環境を特定し、前記予測部により予測動作を実行して前記環境を実現する動作を予測し、前記サービス機器又は外部機器を当該環境に合わせて駆動する
請求項1乃至請求項4のいずれか1項に記載の移動体プラットフォームシステム。 The moving body is
A person detection unit that detects the presence of a person,
Further equipped with an environment identification unit that specifies the environment,
When the presence of a person is detected by the person detection unit, the environment specifying unit identifies the environment related to the person, the prediction unit executes a prediction operation to predict the operation for realizing the environment, and the service device. The mobile platform system according to any one of claims 1 to 4, wherein the external device is driven according to the environment.
人物のスケジュールを管理するスケジュール管理部と、
環境を特定する環境特定部と、を更に備え、
前記スケジュール管理部により所定のタイミングを検知した時には、前記環境特定部により当該スケジュールに合致した環境を特定し、前記予測部により予測動作を実行して前記環境を実現する動作を予測し、前記サービス機器又は外部機器を当該環境に合わせて駆動する
請求項1乃至請求項5のいずれか1項に記載の移動体プラットフォームシステム。 The moving body is
The schedule management department that manages the schedule of people,
Further equipped with an environment identification unit that specifies the environment,
When the schedule management unit detects a predetermined timing, the environment specifying unit identifies an environment that matches the schedule, the prediction unit executes a prediction operation to predict an operation that realizes the environment, and the service. The mobile platform system according to any one of claims 1 to 5, which drives a device or an external device according to the environment.
請求項5又は請求項6に記載の移動体プラットフォームシステム。 The mobile platform system according to claim 5 or 6 , wherein when feedback from a user is received regarding an operation based on the predicted operation, the information related to the feedback is stored in a storage unit in association with the spatial map.
請求項1乃至請求項7のいずれか1項に記載の移動体プラットフォームシステム。 The movement according to any one of claims 1 to 7, further comprising a main control unit for transmitting a control signal for remotely driving and controlling another mobile platform system based on the first spatial map. Body platform system.
前記ロボットアームにより外部機器を把持し移動する
請求項1乃至請求項8のいずれか1項に記載の移動体プラットフォームシステム。 The service device has the function of a robot arm and has a function of a robot arm.
The mobile platform system according to any one of claims 1 to 8, wherein an external device is gripped and moved by the robot arm.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017141348A JP7002744B2 (en) | 2017-07-20 | 2017-07-20 | Mobile platform system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017141348A JP7002744B2 (en) | 2017-07-20 | 2017-07-20 | Mobile platform system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019021220A JP2019021220A (en) | 2019-02-07 |
JP7002744B2 true JP7002744B2 (en) | 2022-01-20 |
Family
ID=65354233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017141348A Active JP7002744B2 (en) | 2017-07-20 | 2017-07-20 | Mobile platform system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7002744B2 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7000378B2 (en) * | 2019-04-26 | 2022-01-19 | ファナック株式会社 | Automated guided vehicle system |
CN112748722B (en) * | 2019-10-30 | 2024-09-13 | 大金工业株式会社 | Mobile body control system |
CN110736166A (en) * | 2019-10-30 | 2020-01-31 | 永康市正硕信息科技有限公司 | intelligent air disinfection and purification equipment |
CN111207459B (en) * | 2020-01-09 | 2021-12-07 | 青岛哈船道一科技有限公司 | Air optimizing device |
KR102368139B1 (en) * | 2021-07-26 | 2022-02-28 | 국방기술품질원 | Illumination uniformity evaluation system for a compartment and method |
WO2023032061A1 (en) * | 2021-08-31 | 2023-03-09 | 本田技研工業株式会社 | Route generation method |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003290102A (en) | 2002-04-08 | 2003-10-14 | Matsushita Electric Ind Co Ltd | Self-traveling apparatus |
JP2004007297A (en) | 2002-06-03 | 2004-01-08 | Hiroshi Sato | Automatic controller, automatic control method, automatic control system and terminal |
JP2005333495A (en) | 2004-05-20 | 2005-12-02 | Toshiba Corp | Electronic apparatus management robot |
JP2013246588A (en) | 2012-05-24 | 2013-12-09 | Sharp Corp | Function execution device, spatial information utilization system, function execution method, control program, and recording medium |
US20140324271A1 (en) | 2013-04-26 | 2014-10-30 | Samsung Electronics Co., Ltd. | Cleaning robot, home monitoring apparatus, and method for controlling the cleaning robot |
JP2014209293A (en) | 2013-04-16 | 2014-11-06 | 富士ゼロックス株式会社 | Route searching device, self-propelled working apparatus, program, and recording medium |
JP2015184054A (en) | 2014-03-20 | 2015-10-22 | 株式会社東芝 | Identification device, method, and program |
JP2016220174A (en) | 2015-05-26 | 2016-12-22 | 株式会社東芝 | Home appliance control method and home appliance controller |
JP2017108259A (en) | 2015-12-09 | 2017-06-15 | 三菱電機株式会社 | Appliance control system and appliance control method |
JP2017117353A (en) | 2015-12-25 | 2017-06-29 | シャダイ株式会社 | Mobile body platform system |
-
2017
- 2017-07-20 JP JP2017141348A patent/JP7002744B2/en active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003290102A (en) | 2002-04-08 | 2003-10-14 | Matsushita Electric Ind Co Ltd | Self-traveling apparatus |
JP2004007297A (en) | 2002-06-03 | 2004-01-08 | Hiroshi Sato | Automatic controller, automatic control method, automatic control system and terminal |
JP2005333495A (en) | 2004-05-20 | 2005-12-02 | Toshiba Corp | Electronic apparatus management robot |
JP2013246588A (en) | 2012-05-24 | 2013-12-09 | Sharp Corp | Function execution device, spatial information utilization system, function execution method, control program, and recording medium |
JP2014209293A (en) | 2013-04-16 | 2014-11-06 | 富士ゼロックス株式会社 | Route searching device, self-propelled working apparatus, program, and recording medium |
US20140324271A1 (en) | 2013-04-26 | 2014-10-30 | Samsung Electronics Co., Ltd. | Cleaning robot, home monitoring apparatus, and method for controlling the cleaning robot |
JP2015184054A (en) | 2014-03-20 | 2015-10-22 | 株式会社東芝 | Identification device, method, and program |
JP2016220174A (en) | 2015-05-26 | 2016-12-22 | 株式会社東芝 | Home appliance control method and home appliance controller |
JP2017108259A (en) | 2015-12-09 | 2017-06-15 | 三菱電機株式会社 | Appliance control system and appliance control method |
JP2017117353A (en) | 2015-12-25 | 2017-06-29 | シャダイ株式会社 | Mobile body platform system |
Also Published As
Publication number | Publication date |
---|---|
JP2019021220A (en) | 2019-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7002744B2 (en) | Mobile platform system | |
JP7025170B2 (en) | A mobile robot that provides environment mapping for home environment control | |
JP6752118B2 (en) | Autonomous vehicle | |
US20240051153A1 (en) | Mobile robot providing environmental mapping for household environmental control | |
EP3432107B1 (en) | Cleaning robot and controlling method thereof | |
RU2306591C1 (en) | System and method for automatically returning self-propelled robot to recharge unit | |
CN104887155B (en) | Intelligent sweeping | |
US9043017B2 (en) | Home network system and method for an autonomous mobile robot to travel shortest path | |
KR102061511B1 (en) | Cleaning robot, home monitoring apparatus and method for controlling the same | |
US11787041B2 (en) | Mobile robot and method of controlling a plurality of mobile robots | |
TWI703950B (en) | Cleaner and control method thereof | |
KR20110048384A (en) | Robot humidifier charging and water supply system | |
CN109938643B (en) | Self-propelled electric vacuum cleaner | |
WO2015159961A1 (en) | Autonomous traveling body | |
JP2018196514A (en) | Vacuum cleaner | |
JP2019103618A (en) | Vacuum cleaner | |
US11571817B2 (en) | Mobile robot and method for operating the same | |
KR20190069216A (en) | a Moving robot and Controlling method for the moving robot | |
KR20170037221A (en) | movable control unit for home management | |
CN110025260A (en) | Autonomous driving body and autonomous driving body system | |
JP2016185182A (en) | Vacuum cleaner and information display method therefor | |
TWI760881B (en) | Robot cleaner and method for controlling the same | |
CN109953695A (en) | Autonomous driving body | |
US20240345596A1 (en) | Mobile robot and method for controlling mobile robot | |
JP6461028B2 (en) | Device control system, device control apparatus, and device control method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200702 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210326 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210406 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210518 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210608 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210708 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211207 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211221 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7002744 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |