JP7490347B2 - Tidying up support device, tidying up support program, and tidying up support method - Google Patents

Tidying up support device, tidying up support program, and tidying up support method Download PDF

Info

Publication number
JP7490347B2
JP7490347B2 JP2019172004A JP2019172004A JP7490347B2 JP 7490347 B2 JP7490347 B2 JP 7490347B2 JP 2019172004 A JP2019172004 A JP 2019172004A JP 2019172004 A JP2019172004 A JP 2019172004A JP 7490347 B2 JP7490347 B2 JP 7490347B2
Authority
JP
Japan
Prior art keywords
item
tidying
signal
fixed position
current position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019172004A
Other languages
Japanese (ja)
Other versions
JP2021051346A (en
Inventor
美代子 下川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asahi Kasei Homes Corp
Original Assignee
Asahi Kasei Homes Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kasei Homes Corp filed Critical Asahi Kasei Homes Corp
Priority to JP2019172004A priority Critical patent/JP7490347B2/en
Publication of JP2021051346A publication Critical patent/JP2021051346A/en
Application granted granted Critical
Publication of JP7490347B2 publication Critical patent/JP7490347B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、片付け支援装置、片付け支援プログラム及び片付け支援方法に関する。 The present invention relates to a tidying up support device, a tidying up support program, and a tidying up support method.

部屋の中に放置されている玩具、服飾品、電子機器、書籍、文房具、工具等の物品を片付ける作業は、日常生活において必須である。片付ける作業を支援する技術の一例として、例えば、特許文献1に開示されている物品位置推定装置が挙げられる。 Tidying up toys, clothing, electronic devices, books, stationery, tools, and other items left behind in a room is an essential part of daily life. One example of technology that supports the task of tidying up is the item position estimation device disclosed in Patent Document 1.

この物品位置推定装置は、物品管理データベースに格納された物品の検出時刻の情報、及び、人管理データベースに格納された人の移動履歴情報を用いて、物品の検出時刻を含む所定の時間内に検出された人を特定し、人管理データベースの人の移動履歴情報を基に、人と物品とが人検出装置と物品検出装置とで同時的に検出された場合に、検出された人のそれ以後の移動領域を、物品の物品存在領域として推定する。 This item position estimation device uses item detection time information stored in the item management database and person movement history information stored in the person management database to identify people detected within a specified period of time including the item detection time, and, based on the person movement history information in the people management database, when a person and an item are detected simultaneously by the person detection device and the item detection device, estimates the subsequent movement area of the detected person as the item presence area of the item.

特許第4006471号公報Patent No. 4006471

しかし、上述した物品位置推定装置は、物品が存在する可能性がある領域を推定することにより、ユーザが物品を探す場合に過去の記憶をたどるという思考を不要にするものであり、物品を片付ける作業そのものを支援するものではない。 However, the above-mentioned item position estimation device eliminates the need for users to think back on past memories when searching for an item by estimating the area where the item may be located, and does not assist with the task of putting the item away itself.

本発明は、このような事情に鑑みてなされたものであり、片付けを支援することができる片付け支援装置、片付け支援プログラム及び片付け支援方法を提供することを課題とする。 The present invention was made in consideration of these circumstances, and aims to provide a tidying up support device, a tidying up support program, and a tidying up support method that can assist with tidying up.

本発明の一態様は、物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され前記物品の現在位置を示す現在位置データと、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得部と、前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを判定する片付け要否判定部と、前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行するよう前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第2信号、を出力装置に出力する信号出力部と、を備える片付け支援装置である。 One aspect of the present invention is a tidying support device that includes a data acquisition unit that acquires fixed position data indicating a fixed position of an item, current position data indicating the current position of the item generated using images of the item and the space in which the item is present, and user data indicating the user using the item or owner data indicating the owner of the item, which are generated using images of the item and the user who has used the item ; a tidying necessity determination unit that compares the fixed position data with the current position data to determine whether the current position is different from the fixed position; and a signal output unit that, if it is determined that the current position is different from the fixed position, outputs to an output device a first signal for notifying the user to perform tidying work to put the item away, or a second signal for notifying the owner to perform the tidying work based on the owner data .

本発明の一態様は、物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得部と、前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定部と、前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行させるための信号を片付け実行装置に出力するとともに、前記片付け作業を実行したことを前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行したことを前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号とを出力する信号出力部と、を備える片付け支援装置である。 One aspect of the present invention is a tidying support device that includes a data acquisition unit that acquires , for each item, fixed position data indicating a fixed position of an item, and current position data that is generated using an image of the item and the space in which the item is present and indicates the current position of the item, and acquires user data indicating the user or owner data indicating the owner of the item, which is generated using an image of the item and a user who has used the item; a tidying necessity determination unit that compares the fixed position data with the current position data and determines for each item whether the current position differs from the fixed position; and a signal output unit that, if it is determined that the current position differs from the fixed position, outputs a signal to a tidying execution device to cause a tidying operation to be performed to tidy up the item, and outputs at least one of a first signal for notifying the user that the tidying operation has been performed or a second signal for notifying the owner that the tidying operation has been performed based on the owner data, and a signal for causing an output device to output information related to the number of the items whose current position differs from the fixed position .

本発明の一態様は、コンピュータに、物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得機能と、前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定機能と、前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行するよう前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号と前記出力装置に出力する信号出力機能と、を実現させる片付け支援プログラムである。 One aspect of the present invention is a tidying support program that has a computer include a data acquisition function that acquires, for each item, fixed position data indicating the fixed position of an item, and current position data that is generated using images of the item and the space in which the item is present and indicates the current position of the item, and acquires user data indicating the user or owner data indicating the owner of the item, which is generated using images of the item and a user who has used the item; a tidying need determination function that compares the fixed position data with the current position data to determine for each item whether the current position differs from the fixed position; and a signal output function that, if it is determined that the current position differs from the fixed position, outputs to an output device at least one of a first signal for notifying the user to perform tidying up the item or a second signal for notifying the owner to perform tidying up based on the owner data, and a signal for causing the output device to output information related to the number of items whose current positions differ from their fixed positions .

本発明の一態様は、コンピュータに、物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得機能と、前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定機能と、前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行させるための信号を片付け実行装置に出力するとともに、前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行したことを前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号とを出力する信号出力機能と、を実現させる片付け支援プログラムである。 One aspect of the present invention is a tidying support program that has a computer implement a data acquisition function that acquires, for each item, fixed position data indicating the fixed position of an item , and current position data that is generated using an image of the item and the space in which the item is present and indicates the current position of the item, and acquires user data indicating the user or owner data indicating the owner of the item, which is generated using an image of the item and a user who has used the item; a tidying up necessity determination function that compares the fixed position data with the current position data and determines for each item whether the current position differs from the fixed position; and a signal output function that, if it is determined that the current position differs from the fixed position, outputs a signal to a tidying up execution device to cause the owner to perform a tidying up task of putting the item away, and outputs at least one of a first signal for notifying the owner to perform the tidying up task based on the owner data or a second signal for notifying the owner that the tidying up task has been performed based on the owner data, and a signal for causing an output device to output information related to the number of the items whose current positions are different from the fixed positions.

本発明の一態様は、片付け支援装置が、物品の定位置を示す定位置データを取得と、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得ステップと、片付け支援装置が、前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定ステップと、片付け支援装置が、前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行するよう前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号と前記出力装置に出力する信号出力ステップと、を含む片付け支援方法である。 One aspect of the present invention is a tidying support method including: a data acquisition step in which a tidying support device acquires fixed position data indicating a fixed position of an item ; acquires, for each item, current position data indicating a current position of the item, which is generated using an image of the item and the space in which the items are present, and acquires user data indicating the user or owner data indicating the owner of the item, which is generated using an image of the item and a user who has used the item; a tidying need determination step in which the tidying support device compares the fixed position data with the current position data to determine for each item whether the current position differs from the fixed position; and a signal output step in which, if it is determined that the current position differs from the fixed position, the tidying support device outputs to an output device at least one of a first signal for notifying the user to perform a tidying task of putting the item away or a second signal for notifying the owner to perform the tidying task based on the owner data, and a signal for causing the output device to output information related to the number of the items whose current positions are different from the fixed positions .

本発明によれば、片付けを支援することができる片付け支援装置、片付け支援プログラム及び片付け支援方法を提供することができる。 The present invention provides a tidying up support device, a tidying up support program, and a tidying up support method that can assist in tidying up.

本発明の実施形態に係る片付け支援システムの一例を示す図である。FIG. 1 is a diagram illustrating an example of a tidying support system according to an embodiment of the present invention. 本発明の実施形態に係るデータ生成部により生成される物品関連データの一例を示す図である。FIG. 4 is a diagram showing an example of item-related data generated by a data generating unit according to the embodiment of the present invention. 本発明の実施形態に係るデータ生成部により生成される居住者関連データの一例を示す図である。10 is a diagram showing an example of resident-related data generated by a data generating unit according to an embodiment of the present invention. FIG. 本発明の実施形態に係るデータ生成部により生成される片付け関連データの一例を示す図である。FIG. 11 is a diagram showing an example of tidying-up related data generated by a data generating unit according to the embodiment of the present invention. 本発明の実施形態に係る片付け支援装置が実行する処理の一例を示すフローチャートである。4 is a flowchart illustrating an example of a process executed by the tidying up support device according to the embodiment of the present invention.

[実施形態]
図1は、本発明の実施形態に係る片付け支援システムの一例を示す図である。図1に示すように、片付け支援システム1は、データ収集装置10と、データ記憶装置20と、片付け支援装置30と、出力装置40と、片付け実行装置50とを備える。データ収集装置10、データ記憶装置20、片付け支援装置30、出力装置40及び片付け実行装置50は、相互にネットワークNWにより接続されている。ネットワークNWは、例えば、WAN(Wide Area Network)、LAN(Local Area Network)、インターネット、イントラネットである。
[Embodiment]
Fig. 1 is a diagram showing an example of a tidying up support system according to an embodiment of the present invention. As shown in Fig. 1, the tidying up support system 1 includes a data collection device 10, a data storage device 20, a tidying up support device 30, an output device 40, and a tidying up execution device 50. The data collection device 10, the data storage device 20, the tidying up support device 30, the output device 40, and the tidying up execution device 50 are connected to each other by a network NW. The network NW is, for example, a wide area network (WAN), a local area network (LAN), the Internet, or an intranet.

データ収集装置10は、撮影部11と、画像解析部12と、入力受付部13と、データ生成部14とを備える。 The data collection device 10 includes an imaging unit 11, an image analysis unit 12, an input reception unit 13, and a data generation unit 14.

撮影部11は、カメラであり、物品及び当該物品が存在する空間の画像を撮影し、第一の物品/空間画像及び第二の物品/空間画像を生成する。ここで言う物品は、例えば、玩具、衣類、服飾品、電子機器、書籍、文房具、工具、塵芥である。また、ここで言う空間は、例えば、片付け支援システム1のユーザが居住している住宅内の部屋、玄関、廊下、台所、浴室、洗面室、バルコニー、テラス、ベランダ、倉庫、ガレージである。 The photographing unit 11 is a camera that photographs images of objects and the space in which the objects exist, and generates a first object/space image and a second object/space image. The objects referred to here are, for example, toys, clothing, accessories, electronic devices, books, stationery, tools, and trash. The spaces referred to here are, for example, rooms, entrances, hallways, kitchens, bathrooms, washrooms, balconies, terraces, verandas, warehouses, and garages in the house in which the user of the tidying support system 1 resides.

第一の物品/空間画像は、空間内に存在する全ての物品が片付けられている状態で撮影された画像であり、第二の物品/空間画像が撮影される前に撮影される。また、ここで言う片付けは、物品が収納されるべき位置として指定されている定位置又は当該定位置と異なる所定の位置に物品を収納することである。定位置は、物品各々が本来収納されるべき位置である。また、定位置としては、例えば、居住者が共有している棚、箱、台等又は各居住者専用の籠、机、キャビネット等が挙げられる。さらに、定位置は、屑入れを含んでいてもよい。また、固有空間は、上述した住宅の各居住者が他の居住者よりも優先的に使用している空間であり、例えば、各居住者の専用の部屋、机、かごである。さらに、固有空間は、一人の居住者に対して複数存在していてもよい。なお、固有空間は、定位置と異なる所定の位置の例であり、引っ越し、模様替え等により変化することがあり得る。 The first item/space image is an image taken in a state where all items in the space have been put away, and is taken before the second item/space image is taken. Tidying up here means storing items in a fixed position designated as a position where the items should be stored, or in a specified position different from the fixed position. The fixed position is the position where each item should originally be stored. Fixed positions include, for example, shelves, boxes, tables, etc. shared by residents, or baskets, desks, cabinets, etc. that are private to each resident. Fixed positions may also include wastebaskets. A unique space is a space that each resident of the above-mentioned house uses preferentially over other residents, such as a room, desk, or basket that is private to each resident. A single resident may have multiple unique spaces. A unique space is an example of a specified position different from a fixed position, and may change due to moving, rearranging, etc.

一方、第二の物品/空間画像は、空間内に存在する物品の少なくとも一つが片付けられていない状態で撮影された画像である。また、第二の物品/空間画像が撮影されるタイミングは、特に限定されないが、住宅の居住者が帰宅する予定の時刻、住宅の居住者が食事を開始する時刻、これらの時刻よりも所定の時間だけ早い時刻であることが好ましいことがある。 On the other hand, the second object/space image is an image taken when at least one of the objects in the space has not been put away. The timing at which the second object/space image is taken is not particularly limited, but may be preferably the time when the occupants of the house are scheduled to return home, the time when the occupants of the house start eating, or a time a predetermined time earlier than these times.

また、撮影部11は、上述した住宅に居住している居住者の画像を撮影し、居住者画像を生成する。さらに、撮影部11は、物品及び当該物品を使用している者を撮影し、使用者画像を生成する。 The image capturing unit 11 also captures images of residents residing in the above-mentioned house to generate a resident image. Furthermore, the image capturing unit 11 captures images of items and people using the items to generate a user image.

なお、第一の物品/空間画像、第二の物品/空間画像、居住者画像及び使用者画像は、静止画であってもよいし、動画を構成する画像であってもよい。また、撮影部11は、上述した空間の内部又は外部の所定の位置に固定されていてもよいし、上述した空間内で移動するロボットに取り付けられていてもよい。さらに、撮影部11は、撮影する範囲を任意のタイミングで切り替えてもよい。 The first item/space image, the second item/space image, the resident image, and the user image may be still images or images constituting a video. The image capturing unit 11 may be fixed to a predetermined position inside or outside the above-mentioned space, or may be attached to a robot that moves within the above-mentioned space. Furthermore, the image capturing unit 11 may switch the range of images captured at any timing.

画像解析部12は、第一の物品/空間画像に描出されている物品及び当該物品の定位置を認識する処理を実行する。また、画像解析部12は、第二の物品/空間画像に描出されている物品及び当該物品の現在位置を認識する処理を実行する。さらに、画像解析部12は、居住者画像に描出されている居住者を認識する処理を実行する。また、画像解析部12は、使用者画像に描出されている使用者を認識する処理を実行する。 The image analysis unit 12 executes a process to recognize the items depicted in the first item/space image and the fixed positions of the items. The image analysis unit 12 also executes a process to recognize the items depicted in the second item/space image and the current positions of the items. The image analysis unit 12 also executes a process to recognize the resident depicted in the resident image. The image analysis unit 12 also executes a process to recognize the user depicted in the user image.

なお、画像解析部12は、機械学習を利用した画像認識より、これら四つの処理を実行してもよい。具体的には、画像解析部12は、上述した四種類の画像に前処理を施す。ここで言う前処理は、例えば、ノイズの除去、歪みの除去、画像に描出されている対象の輪郭の強調、画像の明るさや色合いの調整が含まれる。そして、画像解析部12は、強化学習、教師有り学習又は教師無し学習により学習した機械学習装置に前処理を施した画像を読み込ませて当該画像に描出されている対象を認識させる。なお、ここで言う機械学習は、例えば、ニューラルネットワーク、ディープラーニングであり、特に、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)が画像認識を実行する上で好適である。 The image analysis unit 12 may execute these four processes by image recognition using machine learning. Specifically, the image analysis unit 12 performs preprocessing on the four types of images described above. The preprocessing here includes, for example, removing noise, removing distortion, emphasizing the contours of objects depicted in the image, and adjusting the brightness and color of the image. The image analysis unit 12 then reads the preprocessed image into a machine learning device that has learned by reinforcement learning, supervised learning, or unsupervised learning, and causes the device to recognize the objects depicted in the image. The machine learning here includes, for example, neural networks and deep learning, and in particular, a convolutional neural network (CNN) is suitable for executing image recognition.

入力受付部13は、データ収集装置10に接続されているキーボード、マウス等を使用して入力される情報を受け付ける。この情報は、例えば、物品名、定位置の名称、居住者名又は居住者の固有空間の名称を示す情報であり、これら以外の情報であってもよい。 The input reception unit 13 receives information input using a keyboard, mouse, etc. connected to the data collection device 10. This information may be, for example, information indicating the name of an item, the name of a fixed position, the name of a resident, or the name of the resident's unique space, or may be other information.

データ生成部14は、画像解析部12が実行した処理の結果及び入力受付部13が受け付けた情報を使用して物品関連データ、居住者関連データ及び片付け関連データを生成する。 The data generation unit 14 generates item-related data, resident-related data, and tidying-related data using the results of the processing performed by the image analysis unit 12 and the information received by the input reception unit 13.

図2は、本発明の実施形態に係るデータ生成部により生成される物品関連データの一例を示す図である。物品関連データは、例えば、物品識別情報、物品名、物品の画像、定位置識別情報、定位置の名称、現在位置座標及び現在位置座標が更新された日時を物品ごとに示すデータである。物品関連データは、物品識別情報、物品名及び物品の画像により各物品を特定し、定位置識別情報及び定位置の名称により各物品の定位置を特定し、現在位置座標により各物品の現在位置を特定している。物品識別情報は、各物品に割り当てられる固有のコードである。定位置識別情報は、各物品の定位置に割り当てられる固有のコードであり、定位置の位置を示す定位置座標と対応付けられている。物品識別情報及び定位置識別情報は、いずれも英字、数字、記号等の組み合わせで表される。現在位置座標が更新された日時は、例えば、撮影部11が第二の物品/空間画像として動画を撮影し、画像解析部12が当該動画を構成する画像から物品の現在位置をリアルタイムに認識する処理を実行している場合において物品の現在位置が認識された日時である。 2 is a diagram showing an example of item-related data generated by a data generating unit according to an embodiment of the present invention. The item-related data is data indicating, for each item, item identification information, item name, item image, fixed position identification information, name of the fixed position, current position coordinates, and the date and time when the current position coordinates were updated. The item-related data identifies each item by the item identification information, item name, and item image, identifies the fixed position of each item by the fixed position identification information and name of the fixed position, and identifies the current position of each item by the current position coordinates. The item identification information is a unique code assigned to each item. The fixed position identification information is a unique code assigned to the fixed position of each item, and is associated with the fixed position coordinates indicating the position of the fixed position. The item identification information and the fixed position identification information are both expressed by a combination of letters, numbers, symbols, etc. The date and time when the current position coordinates were updated is, for example, the date and time when the current position of the item was recognized when the shooting unit 11 shoots a video as a second item/space image and the image analysis unit 12 executes a process of recognizing the current position of the item in real time from the images constituting the video.

物品識別情報は、入力受付部13が物品名を示す情報を受け付けた後、当該情報に基づいて自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。物品名は、データ収集装置10に接続されているキーボード等を使用して入力される。物品の画像は、画像解析部12が第一の物品/空間画像に対して実行された画像認識の結果に基づいて、データ生成部14により第一の物品/空間画像から抽出された画像である。ただし、物品の画像は、第一の物品/空間画像以外の画像に対して実行された画像認識の結果に基づいて、当該画像から抽出された画像であってもよい。 After the input receiving unit 13 receives information indicating the item name, the item identification information may be automatically generated based on the information, or may be input using a keyboard or the like connected to the data collection device 10. The item name is input using a keyboard or the like connected to the data collection device 10. The image of the item is an image extracted from the first item/space image by the data generating unit 14 based on the result of image recognition performed by the image analyzing unit 12 on the first item/space image. However, the image of the item may also be an image extracted from an image other than the first item/space image based on the result of image recognition performed on the image.

定位置識別情報は、入力受付部13が定位置を示す情報を受け付けた後、当該情報に基づいて自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。定位置の名称は、データ収集装置10に接続されているキーボード等を使用して入力される。現在位置座標は、画像解析部12が第二の物品/空間画像に対して実行した画像認識の結果を使用してデータ生成部14により算出される。現在位置座標が更新された日時は、データ生成部14により現在位置座標が算出された後、自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。 The fixed position identification information may be automatically generated based on the information after the input reception unit 13 receives information indicating the fixed position, or may be input using a keyboard or the like connected to the data collection device 10. The name of the fixed position is input using a keyboard or the like connected to the data collection device 10. The current position coordinates are calculated by the data generation unit 14 using the results of image recognition performed by the image analysis unit 12 on the second item/space image. The date and time when the current position coordinates are updated may be automatically generated after the current position coordinates are calculated by the data generation unit 14, or may be input using a keyboard or the like connected to the data collection device 10.

図2の上から一行目に示すように、物品関連データは、物品がラジコンカーである場合、物品識別情報「B001」、物品名「ラジコンカー」、物品の画像データ「ラジコンカー.image」、定位識別情報「T001」、定位置の名称「おもちゃ箱」、現在位置の座標「X1,Y1,Z1」及び現在位置座標が更新された日時「20**年〇月〇日〇時〇分」を含む。同様に、図2の上から二行目に示すように、物品関連データは、物品がクマのぬいぐるみである場合、物品識別情報「B002」、物品名「クマのぬいぐるみ」、画像データ「クマのぬいぐるみ.image」、定位識別情報「T002」、定位置の名称「おもちゃ箱」、現在位置の座標「X2,Y2,Z2」及び現在位置座標が更新された日時「20**年△月△日△時△分」を含む。 As shown in the first line from the top of FIG. 2, if the item is a radio-controlled car, the item-related data includes item identification information "B001", item name "radio-controlled car", image data of the item "radio-controlled car.image", localization identification information "T001", name of the fixed location "toy box", coordinates of the current location "X1, Y1, Z1", and date and time when the current location coordinates were updated "20** year, month, day, hour, minute". Similarly, as shown in the second line from the top of FIG. 2, if the item is a stuffed teddy bear, the item-related data includes item identification information "B002", item name "stuffed teddy bear", image data "stuffed teddy bear.image", localization identification information "T002", name of the fixed location "toy box", coordinates of the current location "X2, Y2, Z2", and date and time when the current location coordinates were updated "20** year, month, day, hour, minute".

図3は、本発明の実施形態に係るデータ生成部により生成される居住者関連データの一例を示す図である。居住者関連データは、例えば、居住者識別情報、居住者名、居住者の画像、固有空間識別情報、居住者の固有空間の名称を居住者ごとに示すデータである。居住者関連データは、居住者識別情報、居住者名及び居住者の画像により各居住者を特定し、固有空間識別情報及び居住者の固有空間の名称により居住者ごとに固有空間を特定している。また、居住者関連データは、各居住者を特定しているデータと固有空間を特定しているデータとに分けて管理されていてもよい。居住者識別情報は、各居住者に割り当てられる固有のコードであり、英字、数字、記号等の組み合わせで表される。 Figure 3 is a diagram showing an example of resident-related data generated by a data generation unit according to an embodiment of the present invention. The resident-related data is data indicating, for each resident, the resident identification information, the resident name, an image of the resident, unique space identification information, and the name of the resident's unique space. The resident-related data identifies each resident by the resident identification information, the resident name, and an image of the resident, and identifies each resident's unique space by the unique space identification information and the name of the resident's unique space. The resident-related data may also be managed separately into data identifying each resident and data identifying the unique space. The resident identification information is a unique code assigned to each resident, and is represented by a combination of letters, numbers, symbols, etc.

居住者識別情報は、入力受付部13が居住者名を示す情報を受け付けた後、当該情報に基づいて自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。居住者名は、データ収集装置10に接続されているキーボード等を使用して入力される。居住者の画像は、画像解析部12が居住者画像に対して実行した画像認識の結果に基づいて、データ生成部14が居住者画像から抽出した画像である。居住者識別情報、居住者名及び居住者の画像は、引っ越し、模様替え等により変更する必要が出てくるケースが少ない。 The resident identification information may be automatically generated based on information indicating the resident name after the input receiving unit 13 receives the information, or may be input using a keyboard or the like connected to the data collection device 10. The resident name is input using a keyboard or the like connected to the data collection device 10. The resident image is an image extracted from the resident image by the data generation unit 14 based on the result of image recognition performed on the resident image by the image analysis unit 12. There are few cases in which the resident identification information, resident name and resident image need to be changed due to moving, rearranging, etc.

固有空間識別情報は、入力受付部13が居住者の固有空間の名称を示す情報を受け付けた後、当該情報に基づいて自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。居住者の固有空間の名称は、データ収集装置10に接続されているキーボード等を使用して入力される。また、固有空間識別情報及び居住者の固有空間の名称は、引っ越し、模様替え等により固有空間が変更された場合、更新される。 The unique space identification information may be automatically generated based on information indicating the name of the resident's unique space after the input receiving unit 13 receives the information, or may be input using a keyboard or the like connected to the data collection device 10. The name of the resident's unique space is input using a keyboard or the like connected to the data collection device 10. In addition, the unique space identification information and the name of the resident's unique space are updated when the unique space is changed due to moving, rearranging, etc.

図3の上から一行目に示すように、居住者関連データは、居住者が学童である「〇〇太郎」である場合、居住者識別情報「K001」、居住者名「〇〇太郎」、居住者の画像データ「〇〇太郎.image」、固有空間識別情報「S001」及び居住者の固有空間の名称「勉強机」を含む。同様に、図3の上から二行目に示すように、居住者関連データは、居住者が幼児である「〇〇花子」である場合、居住者識別情報「K002」、居住者名「〇〇花子」、居住者の画像データ「〇〇花子.image」、固有空間識別情報「S002」及び居住者の固有空間の名称「おもちゃ箱」を含む。 As shown in the first line from the top of FIG. 3, when the resident is a school-age child "XXXX Taro," the resident-related data includes resident identification information "K001," resident name "XXXX Taro," resident image data "XXXX Taro.image," unique space identification information "S001," and the name of the resident's unique space "study desk." Similarly, as shown in the second line from the top of FIG. 3, when the resident is a toddler "XXXX Hanako," the resident-related data includes resident identification information "K002," resident name "XXXX Hanako," resident image data "XXXX Hanako.image," unique space identification information "S002," and the name of the resident's unique space "toy box."

なお、データ生成部14が図3に示した学童である「〇〇太郎」及び幼児である「〇〇花子」に関する居住者関連データを生成する場合を例に挙げて説明したが、これに限定されない。例えば、データ生成部14は、学童及び幼児以外の居住者に関する居住者関連データを生成してもよい。また、データ生成部14は、固有空間が一人の居住者に対して複数存在する場合、当該居住者の居住者識別情報、居住者名及び居住者の画像に対して固有空間情報及び居住者の固有空間の名称を複数含んでいる居住者関連データを生成してもよい。 Note that, although an example has been described in which the data generation unit 14 generates resident-related data relating to the schoolchild "〇〇 Taro" and the toddler "〇〇 Hanako" shown in FIG. 3, the present invention is not limited to this. For example, the data generation unit 14 may generate resident-related data relating to residents other than schoolchildren and toddlers. Furthermore, when multiple unique spaces exist for one resident, the data generation unit 14 may generate resident-related data that includes multiple unique space information and names of the resident's unique spaces for the resident identification information, resident name, and resident image of the resident.

図4は、本発明の実施形態に係データ生成部により生成される片付け関連データの一例を示す図である。片付け関連データは、例えば、物品の使用者が特定された日時、物品識別情報、定位置識別情報、定位置識別情報フラグ、現在位置座標、物品の使用者、物品を最後に使用した使用者及び物品の所有者が所有者ごとに対応付けられたデータである。片付け関連データは、物品の使用者、物品を最後に使用した使用者及び物品の所有者を特定し、物品の定位置及び現在位置と対応付けている。 Figure 4 is a diagram showing an example of tidying-related data generated by the data generation unit in an embodiment of the present invention. The tidying-related data is data in which, for example, the date and time when the user of the item was identified, item identification information, fixed position identification information, fixed position identification information flag, current position coordinates, the user of the item, the user who last used the item, and the owner of the item are associated with each owner. The tidying-related data identifies the user of the item, the user who last used the item, and the owner of the item, and associates them with the fixed position and current position of the item.

物品の使用者が特定された日時は、物品の使用者名及び物品を最後に使用した使用者名がデータ生成部14により特定された後、自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。定位置識別情報フラグは、データ記憶装置20が備える記憶領域のうち定位置識別情報が記憶される領域を示す二進数であり、定位置識別情報が生成された後、定位置であるか否かによって自動的に生成される。物品の使用者名及び物品を最後に使用した使用者名は、画像解析部12が居住者画像に対して実行した画像認識の結果と図3に示した居住者画像とを比較した結果に基づいて、データ生成部14により特定される。物品の所有者名は、自動的に生成されてもよいし、データ収集装置10に接続されているキーボード等を使用して入力されてもよい。なお、片付け関連データは、定位置識別情報を含んでいなくてもよい。 The date and time when the user of the item is identified may be generated automatically after the name of the user of the item and the name of the user who last used the item are identified by the data generation unit 14, or may be input using a keyboard or the like connected to the data collection device 10. The fixed position identification information flag is a binary number indicating the area in the memory area of the data storage device 20 in which the fixed position identification information is stored, and is automatically generated depending on whether the fixed position identification information is in a fixed position or not after the fixed position identification information is generated. The name of the user of the item and the name of the user who last used the item are identified by the data generation unit 14 based on the result of comparing the result of the image recognition performed by the image analysis unit 12 on the resident image with the resident image shown in FIG. 3. The name of the owner of the item may be generated automatically or may be input using a keyboard or the like connected to the data collection device 10. Note that the tidying-up related data does not have to include fixed position identification information.

図4の上から一行目に示すように、片付け関連データは、物品がラジコンカーである場合、物品の使用者が特定された日時「20**年×月×日×時×分」、物品識別情報「B001」、定位置識別情報「T001」、定位置情報識別フラグ「***0」、現在位置座標「X1,Y1,Z1」、物品の使用者名「〇〇太郎」、物品を最後に使用した使用者名「〇〇太郎」及び物品の所有者名「〇〇太郎」が対応付けられたデータである。同様に、図4の上から二行目に示すように、片付け関連データは、物品がクマのぬいぐるみである場合、物品の使用者が特定された日時「20**年◇月◇日◇時◇分」、物品識別情報「B002」、定位置識別情報「T002」、定位置情報識別フラグ「***1」、現在位置座標「X2,Y2,Z2」、物品の使用者名「〇〇花子」、物品を最後に使用した使用者名「〇〇太郎」及び物品の所有者名「〇〇花子」が対応付けられたデータである。 As shown in the first line from the top of Figure 4, in the case where the item is a radio-controlled model car, the tidying-up related data is data that associates the date and time when the user of the item was identified (20** year x month x day x hour x minute), item identification information (B001), fixed location identification information (T001), fixed location information identification flag (***0), current location coordinates (X1, Y1, Z1), the name of the user of the item (X〇 Taro), the name of the user who last used the item (X〇 Taro), and the name of the owner of the item (X〇 Taro). Similarly, as shown in the second line from the top in Figure 4, when the item is a teddy bear, the tidying-related data is data that associates the date and time when the user of the item was identified (20** year ◇ month ◇ day ◇ hour ◇ minute), item identification information "B002", fixed location identification information "T002", fixed location information identification flag "***1", current location coordinates "X2, Y2, Z2", the name of the user of the item "XX Hanako", the name of the user who last used the item "XX Taro", and the name of the owner of the item "XX Hanako".

なお、データ生成部14は、物品関連データ、居住者関連データ及び片付け関連データをデータ記憶装置20に格納する。 The data generation unit 14 stores the item-related data, resident-related data, and tidying-related data in the data storage device 20.

データ記憶装置20は、データ生成部14により生成された物品関連データ、居住者関連データ及び片付け関連データを記憶する。データ記憶装置20は、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、RAM(Random Access Memory)、ROM(Read Only Memory)である。 The data storage device 20 stores the item-related data, resident-related data, and tidying-related data generated by the data generation unit 14. The data storage device 20 is, for example, a hard disk drive (HDD), a flash memory, a random access memory (RAM), or a read only memory (ROM).

片付け支援装置30は、データ取得部31と、片付け要否判定部32と、信号出力部33とを備える。 The tidying support device 30 includes a data acquisition unit 31, a tidying necessity determination unit 32, and a signal output unit 33.

データ取得部31は、物品の定位置を示す定位置データを取得する。この定位置データは、例えば、図2及び図4に示した定位置識別情報である。また、データ取得部31は、物品の現在位置を示す現在位置データを取得する。この現在位置データは、例えば、図2及び図4に示した現在位置座標である。 The data acquisition unit 31 acquires fixed position data indicating the fixed position of the item. This fixed position data is, for example, the fixed position identification information shown in Figures 2 and 4. The data acquisition unit 31 also acquires current position data indicating the current position of the item. This current position data is, for example, the current position coordinates shown in Figures 2 and 4.

さらに、データ取得部31は、物品の使用者を示す使用者データを取得してもよい。この使用者データは、図4に示した物品の使用者名又は物品を最後に使用した使用者名と同じ名前の居住者に割り当てられている居住者識別情報である。また、データ取得部31は、物品の所有者を示す所有者データを取得してもよい。この所有者データは、例えば、図4に示した物品の所有者名と同じ名前の居住者に割り当てられている居住者識別情報である。 Furthermore, the data acquisition unit 31 may acquire user data indicating the user of the item. This user data is resident identification information assigned to a resident with the same name as the user name of the item shown in FIG. 4 or the name of the user who last used the item. The data acquisition unit 31 may also acquire owner data indicating the owner of the item. This owner data is, for example, resident identification information assigned to a resident with the same name as the owner name of the item shown in FIG. 4.

片付け要否判定部32は、定位置データと現在位置データとを比較して現在位置が定位置と異なるか否かを判定する。例えば、片付け要否判定部32は、現在位置座標が定位置識別情報に対応付けられている定位置座標と所定の範囲内で一致していない場合、物品の現在位置が物品の定位置と異なると判定する。一方、片付け要否判定部32は、現在位置座標が定位置識別情報に対応付けられている定位置座標と所定の範囲内で一致している場合、物品の現在位置が物品の定位置と等しいと判定する。 The tidying up necessity determination unit 32 compares the fixed position data with the current position data to determine whether the current position is different from the fixed position. For example, if the current position coordinates do not match the fixed position coordinates associated with the fixed position identification information within a specified range, the tidying up necessity determination unit 32 determines that the current position of the item is different from the item's fixed position. On the other hand, if the current position coordinates match the fixed position coordinates associated with the fixed position identification information within a specified range, the tidying up necessity determination unit 32 determines that the current position of the item is equal to the item's fixed position.

信号出力部33は、現在位置が定位置と異なると判定された場合、物品を片付ける片付け作業を実行するよう報知させるための信号を出力装置40に出力する。この信号は、例えば、片付け作業を実行することを促す文字列、画像、動画等を出力装置40に表示させたり、片付け作業を実行することを促す音声案内、アラーム等を出力装置に出力させたりする信号である。 When the signal output unit 33 determines that the current position is different from the home position, it outputs a signal to the output device 40 to notify the user to perform the tidying up work to put away the items. This signal is, for example, a signal that causes the output device 40 to display a text string, image, video, etc., that prompts the user to perform the tidying up work, or causes the output device to output a voice guide, alarm, etc., that prompts the user to perform the tidying up work.

なお、信号出力部33は、定位置が存在しないと判定された場合、物品を片付ける片付け作業を実行するよう報知させるための信号を出力装置40に出力してもよい。また、定位置が存在しない場合としては物品が塵芥である場合が想定される。さらに、信号出力部33は、使用者データに基づいて、片付け作業を実行するよう使用者に報知させるための信号を出力装置に出力してもよい。或いは、信号出力部33は、所有者データに基づいて、片付け作業を実行するよう所有者に報知させるための信号を出力装置40に出力してもよい。 When it is determined that there is no fixed position, the signal output unit 33 may output a signal to the output device 40 to notify the user to perform tidying up the item. A case in which there is no fixed position may be when the item is trash. Furthermore, the signal output unit 33 may output a signal to the output device based on user data to notify the user to perform tidying up. Alternatively, the signal output unit 33 may output a signal to the output device based on owner data to notify the owner to perform tidying up.

さらに、信号出力部33は、現在位置が定位置と異なると判定された場合、片付け作業を実行させるための信号を片付け実行装置50に出力してもよい。この信号は、片付け実行装置50の各部を制御する信号である。 Furthermore, when it is determined that the current position is different from the home position, the signal output unit 33 may output a signal to the tidying up execution device 50 to execute a tidying up task. This signal is a signal that controls each part of the tidying up execution device 50.

なお、片付け支援装置30の少なくとも一部は、図1に示したネットワークNWに接続されているサーバ等に含まれていてもよいし、片付け支援システム1のユーザが居住している住宅の内部又はその周辺に設置されていてもよい。 At least a part of the tidying support device 30 may be included in a server or the like connected to the network NW shown in FIG. 1, or may be installed inside or near the house where the user of the tidying support system 1 resides.

出力装置40は、信号出力部33により入力された信号に基づいて、物品の使用者、物品の所有者等に片付け作業を実行するよう報知する装置であり、例えば、ディスプレイ、スピーカである。 The output device 40 is a device that notifies the user or owner of the item to perform tidying up work based on the signal input by the signal output unit 33, and is, for example, a display or a speaker.

片付け実行装置50は、信号出力部33により入力された信号に基づいて、物品の使用者、物品の所有者等の代わりに片付け作業を実行するロボットである。なお、片付け実行装置50は、片付け作業を実行することができる限り、任意の構成が採用され得る。 The tidying up execution device 50 is a robot that performs tidying up work on behalf of the user or owner of an item, etc., based on a signal input by the signal output unit 33. Note that any configuration may be adopted for the tidying up execution device 50 as long as it is capable of performing tidying up work.

次に、図5を参照しながら、片付け支援装置30が実行する処理の一例を説明する。図5は、本発明の実施形態に係る片付け支援装置が実行する処理の一例を示すフローチャートである。図5に示した処理は、物品ごとに実行される。 Next, an example of the process executed by the tidying support device 30 will be described with reference to FIG. 5. FIG. 5 is a flowchart showing an example of the process executed by the tidying support device according to an embodiment of the present invention. The process shown in FIG. 5 is executed for each item.

ステップS10において、データ取得部31は、物品の定位置を示す定位置データを取得し、物品及び当該物品が存在する空間を撮影した画像を使用して生成され、物品の現在位置を示す現在位置データを取得する。 In step S10, the data acquisition unit 31 acquires fixed position data indicating the fixed position of the item, and acquires current position data indicating the current position of the item, which is generated using images captured of the item and the space in which the item exists.

ステップS20において、片付け要否判定部32は、ステップS10で取得された現在位置データにより示される現在位置がステップS10で取得された定位置データにより示される定位置と異なるか否かを発明する。片付け要否判定部32は、現在位置が定位置と異なると判定した場合(ステップS20:YES)、処理をステップS30に進める。一方、片付け要否判定部32は、現在位置が定位置と等しいと判定した場合(ステップS20:NO)、処理を終了させる。 In step S20, the tidying necessity determination unit 32 determines whether the current position indicated by the current position data acquired in step S10 is different from the fixed position indicated by the fixed position data acquired in step S10. If the tidying necessity determination unit 32 determines that the current position is different from the fixed position (step S20: YES), the process proceeds to step S30. On the other hand, if the tidying necessity determination unit 32 determines that the current position is equal to the fixed position (step S20: NO), the process ends.

ステップS30において、信号出力部33は、物品を片付ける片付け作業を実行するよう報知させるための信号を出力装置40に出力する。 In step S30, the signal output unit 33 outputs a signal to the output device 40 to notify the user to perform the tidying up task of putting the items away.

なお、片付け支援装置30は、上述したステップS30において、物品を片付ける片付け作業を実行するよう報知させるための信号を出力装置40に出力する代わりに、物品を片付ける片付け作業を実行させるための信号を片付け実行装置50に出力してもよい。 In addition, in step S30 described above, the tidying support device 30 may output a signal to the tidying execution device 50 to cause the tidying task of putting away items to be performed, instead of outputting a signal to the output device 40 to notify the user to perform the tidying task of putting away items.

また、信号出力部33は、図5に示した処理が複数の物品に対して実行される場合、物品の使用者又は物品の所有者ごとに現在位置が定位置と異なる物品の数に関連する情報を出力装置40に出力させるための信号を出力してもよい。このような情報は、例えば、現在位置が定位置と一致していない物品の数又は割合である。或いは、信号出力部33は、図5に示した処理が複数の物品に対して実行される場合、物品の使用者又は物品の所有者ごとに現在位置と定位置とが一致していない物品少なくとも一つが存在していた期間を所定の期間で除算した値を示す情報を出力装置40に出力させるための信号を出力してもよい。また、当該所定の期間は、例えば、上述した第二の物品/空間画像が撮影され得る期間であってもよいし、一日、一週間、一か月等の一定期間であってもよい。 When the process shown in FIG. 5 is performed for multiple items, the signal output unit 33 may output a signal to cause the output device 40 to output information related to the number of items whose current location is different from the fixed location for each user or owner of the item. Such information is, for example, the number or percentage of items whose current location does not match the fixed location. Alternatively, when the process shown in FIG. 5 is performed for multiple items, the signal output unit 33 may output a signal to cause the output device 40 to output information indicating a value obtained by dividing the period during which at least one item whose current location does not match the fixed location existed by a predetermined period for each user or owner of the item. Furthermore, the predetermined period may be, for example, a period during which the above-mentioned second item/space image can be captured, or a fixed period such as one day, one week, or one month.

以上、実施形態に係る片付け支援装置30について説明した。片付け支援装置30は、現在位置が定位置と異なると判定された場合、物品を片付ける片付け作業を実行するよう報知させるための信号を出力装置40に出力する。これにより、片付け支援装置30は、物品が定位置に収納されていないことを報知し、当該物品の片付け作業を支援することができる。例えば、片付け支援装置30は、住宅の居住者、特に、学童や幼児に片付けを促して片付けを習得することを支援することができる。 The tidying up support device 30 according to the embodiment has been described above. When the tidying up support device 30 determines that the current position is different from the designated position, it outputs a signal to the output device 40 to notify the user to perform the tidying up task of putting the items away. In this way, the tidying up support device 30 can notify the user that the items are not stored in the designated position and support the user in putting the items away. For example, the tidying up support device 30 can encourage the residents of a home, particularly school children and infants, to tidy up and help them learn how to tidy up.

また、片付け支援装置30は、第一の物品/空間画像から生成された定位置データ及び第二の物品/空間画像から生成された現在位置データを使用して物品の現在位置が定位置と一致しているか否かを判定する。これにより、片付け支援装置30は、各物品の位置が頻繁に変化する場合であっても、各物品が定位置に収納されているか否かを住宅の居住者が判断する労力を低減させることができる。 The tidying support device 30 also uses the fixed position data generated from the first item/space image and the current position data generated from the second item/space image to determine whether the current position of the item matches the fixed position. This allows the tidying support device 30 to reduce the effort required by the resident of the home to determine whether each item is stored in its fixed position, even if the position of each item frequently changes.

片付け支援装置30は、使用者データに基づいて、片付け作業を実行するよう使用者に報知させるための信号を出力装置40に出力してもよい。これにより、片付け支援装置30は、当該物品を実際に使用しており、当該物品の片付け作業を行わせることが妥当である者に、当該物品の片付け作業が必要であることを認識させ、当該物品の片付け作業を行うよう促すことができる。さらに、片付け支援装置30は、片付け作業を実行するよう物品を最後に使用した使用者に報知させるための信号を出力装置40に出力してもよい。この場合、片付け支援装置30は、当該物品の片付け作業を行わせることが最も妥当であると考えられる者に、当該物品の片付け作業が必要であることを認識させ、当該物品の片付け作業を行うよう促すことができる。 The tidying support device 30 may output a signal to the output device 40 to notify the user to perform tidying up, based on the user data. This allows the tidying support device 30 to make the person who actually uses the item and is appropriate to perform the tidying up of the item recognize that the tidying up of the item is necessary, and urge them to perform the tidying up of the item. Furthermore, the tidying support device 30 may output a signal to the output device 40 to notify the user who last used the item to perform tidying up. In this case, the tidying support device 30 can make the person who is considered most appropriate to perform the tidying up of the item recognize that the tidying up of the item is necessary, and urge them to perform the tidying up of the item.

片付け支援装置30は、所有者データに基づいて、片付け作業を実行するよう所有者に報知させるための信号を出力装置40に出力してもよい。これにより、片付け支援装置30は、当該物品を実際に所有しており、当該物品の片付け作業を行わせることが妥当である者に、当該物品の片付け作業が必要であることを認識させ、当該物品の片付け作業を行うよう促すことができる。特に、片付け支援装置30は、物品が住宅の居住者の間で共有されている場合、このような処理を実行することが好ましい。 Based on the owner data, the tidying support device 30 may output a signal to the output device 40 to notify the owner to perform tidying work. In this way, the tidying support device 30 can make a person who actually owns the item and is appropriate to tidy up the item recognize that tidying up the item is necessary and urge them to tidy up the item. In particular, it is preferable for the tidying support device 30 to perform such processing when the item is shared among residents of a house.

或いは、片付け支援装置30は、現在位置が定位置と異なると判定された場合、片付け作業を実行させるための信号を片付け実行装置50に出力してもよい。これにより、片付け支援装置30は、物品の使用者、物品の所有者、住宅の居住者等が当該物品の片付け作業を行うことができない事情を抱えている場合、これらの者の代わりに当該物品の片付け作業を片付け実行装置50に実行させることができる。 Alternatively, when the tidying support device 30 determines that the current position is different from the fixed position, it may output a signal to the tidying execution device 50 to execute the tidying work. In this way, when a user of an item, an owner of an item, a resident of a house, etc. is unable to tidy up the item due to circumstances, the tidying support device 30 can cause the tidying execution device 50 to execute the tidying up of the item on behalf of these people.

また、片付け支援装置30は、物品の使用者又は所有者ごとに現在位置が定位置と異なる物品の数に関連する情報を出力装置40に出力させるための信号を出力してもよい。或いは、片付け支援装置30は、物品の使用者又は所有者ごとに現在位置が定位置と異なる物品が少なくとも一つ存在していた期間を所定の期間で除算した値を示す情報を出力装置40に出力させるための信号を出力してもよい。これらにより、片付け支援装置30は、片付け作業が実行されている度合いを定量的に示す情報を報知し、物品の使用者や所有者同士の間で片付け作業に対する意欲を触発させ合うことができる。 The tidying support device 30 may also output a signal to cause the output device 40 to output information related to the number of items whose current location is different from the designated location for each user or owner of the item. Alternatively, the tidying support device 30 may output a signal to cause the output device 40 to output information indicating a value obtained by dividing the period during which there was at least one item whose current location is different from the designated location for each user or owner of the item by a predetermined period. In this way, the tidying support device 30 can report information that quantitatively indicates the degree to which tidying work is being performed, and can inspire users or owners of the items to tidy up together.

なお、上述したデータ収集装置10又は片付け支援装置30が有する機能の少なくとも一部は、回路部(circuitry)を含むハードウェアがプログラムを実行することにより実現されてもよい。ここで言うハードウェアは、例えば、CPU(Central Processing Unit)、LSI(Large Scale Integration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)である。また、上述したプログラムは、記憶媒体を備える記憶装置に格納されている。ここで言う記憶媒体は、例えば、HDD、フラッシュメモリ、ROMである。さらに、上述したプログラムは、データ収集装置10又は片付け支援装置30が有する機能の一部を実現する差分プログラムであってもよい。 At least some of the functions of the data collection device 10 or the tidying support device 30 may be realized by hardware including a circuit section (circuitry) executing a program. The hardware referred to here is, for example, a CPU (Central Processing Unit), an LSI (Large Scale Integration), an ASIC (Application Specific Integrated Circuit), an FPGA (Field-Programmable Gate Array), or a GPU (Graphics Processing Unit). The above-mentioned program is stored in a storage device having a storage medium. The storage medium referred to here is, for example, a HDD, a flash memory, or a ROM. Furthermore, the above-mentioned program may be a differential program that realizes some of the functions of the data collection device 10 or the tidying support device 30.

以上、本発明の実施形態について図面を参照しながら説明した。ただし、片付け支援システム1は、上述した実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形、置換、組み合わせ又は設計変更を加えることができる。 The above describes an embodiment of the present invention with reference to the drawings. However, the tidying support system 1 is not limited to the above-described embodiment, and various modifications, substitutions, combinations, or design changes can be made without departing from the spirit of the present invention.

1…片付け支援システム、10…データ収集装置、11…撮影部、12…画像解析部、13…入力受付部、14…データ生成部、20…データ記憶装置、30…片付け支援装置、31…データ取得部、32…片付け要否判定部、33…信号出力部、40…出力装置、50…片付け実行装置 1... Tidying up support system, 10... Data collection device, 11... Photography unit, 12... Image analysis unit, 13... Input reception unit, 14... Data generation unit, 20... Data storage device, 30... Tidying up support device, 31... Data acquisition unit, 32... Tidying up necessity determination unit, 33... Signal output unit, 40... Output device, 50... Tidying up execution device

Claims (16)

物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成される前記物品の現在位置を示す現在位置データと、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を前記物品ごとに取得するデータ取得部と、
前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定部と、
前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行するよう前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号と前記出力装置に出力する信号出力部と、
を備える片付け支援装置。
a data acquisition unit that acquires, for each of the items, fixed position data indicating a fixed position of the item, current position data indicating a current position of the item, which is generated using an image of the item and a space in which the item is present, and user data indicating the user using the item or owner data indicating the owner of the item, which is generated using an image of the item and a user using the item ;
a tidying necessity determination unit that compares the fixed position data with the current position data and determines for each of the items whether the current position is different from the fixed position;
a signal output unit that outputs, when it is determined that the current position is different from the fixed position, at least one of a first signal for notifying the user to perform a tidying up task of putting away the items or a second signal for notifying the owner to perform the tidying up task based on the owner data, and a signal for causing the output device to output information related to the number of the items at which the current position is different from the fixed position ;
A cleaning assistance device comprising:
前記データ取得部は、前記物品を最後に使用した前記使用者を示す前記使用者データを取得する、
請求項1に記載の片付け支援装置。
The data acquisition unit acquires the user data indicating the user who last used the item.
The tidying-up assistance device according to claim 1.
前記信号出力部は、前記使用者ごとに前記現在位置が前記定位置と異なる前記物品の数に関連する情報を前記出力装置に出力させるための前記信号を出力する、
請求項1又は請求項2に記載の片付け支援装置。
The signal output unit outputs the signal for causing the output device to output information related to the number of the articles whose current positions are different from the home positions for each of the users.
The tidying support device according to claim 1 or 2.
前記信号出力部は、前記使用者ごとに前記現在位置が前記定位置と異なる前記物品が少なくとも一つ存在していた期間を所定の期間で除算した値を示す情報を前記出力装置に出力させるための信号を更に出力する、
請求項1又は請求項2に記載の片付け支援装置。
the signal output unit further outputs a signal for causing the output device to output information indicating a value obtained by dividing a period during which at least one of the articles was present and the current position of the article was different from the home position for each of the users by a predetermined period.
The tidying support device according to claim 1 or 2.
前記信号出力部は、前記所有者ごとに前記現在位置が前記定位置と異なる前記物品の数に関連する情報を前記出力装置に出力させるための前記信号を出力する、
請求項1に記載の片付け支援装置。
the signal output unit outputs the signal for causing the output device to output information related to the number of the articles whose current positions are different from the home positions for each of the owners.
The tidying-up assistance device according to claim 1.
前記信号出力部は、前記所有者ごとに前記現在位置が前記定位置と異なる前記物品が少なくとも一つ存在していた期間を所定の期間で除算した値を示す情報を前記出力装置に出力させるための信号を更に出力する、
請求項1に記載の片付け支援装置。
the signal output unit further outputs a signal for causing the output device to output information indicating a value obtained by dividing a period during which at least one of the articles, the current position of which is different from the home position, exists for each of the owners by a predetermined period.
The tidying-up assistance device according to claim 1.
前記片付け作業は、前記物品を前記定位置に収納する作業である、
請求項1から請求項6のいずれか一つに記載の片付け支援装置。
The tidying up work is a work of storing the items in the designated positions.
The tidying support device according to any one of claims 1 to 6.
前記片付け作業は、前記物品を前記定位置と異なる所定の位置に収納する作業である、
請求項1から請求項7のいずれか一つに記載の片付け支援装置。
The tidying up work is a work of storing the item in a predetermined position different from the fixed position.
The tidying support device according to any one of claims 1 to 7.
物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得部と、
前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定部と、
前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行させるための信号を片付け実行装置に出力するとともに、前記片付け作業を実行したことを前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行したことを前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号とを出力する信号出力部と、
を備える片付け支援装置。
a data acquisition unit that acquires, for each item, fixed position data indicating a fixed position of the item and current position data that is generated using an image of the item and a space in which the item is present and indicates a current position of the item, and acquires user data indicating the user who has used the item or owner data indicating the owner of the item, that is generated using an image of the item and a user who has used the item;
a tidying necessity determination unit that compares the fixed position data with the current position data and determines for each of the items whether the current position is different from the fixed position;
a signal output unit which, when it is determined that the current position is different from the fixed position, outputs a signal to a tidying up execution device to execute a tidying up task of putting the items away, and outputs at least one of a first signal for notifying the user that the tidying up task has been executed or a second signal for notifying the owner that the tidying up task has been executed based on the owner data, and a signal for outputting information related to the number of the items at which the current position is different from the fixed position to an output device ;
A cleaning assistance device comprising:
前記信号出力部は、前記物品を使用した使用者又は前記物品の所有者ごとに前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための前記信号を出力する、
請求項9に記載の片付け支援装置。
The signal output unit outputs the signal for causing an output device to output information related to the number of the articles whose current positions are different from the home positions for each user who has used the article or for each owner of the article.
The tidying-up assistance device according to claim 9.
前記信号出力部は、前記物品を使用した使用者又は前記物品の所有者ごとに前記現在位置が前記定位置と異なる前記物品が少なくとも一つ存在していた期間を所定の期間で除算した値を示す情報を出力装置に出力させるための信号を更に出力する、
請求項9に記載の片付け支援装置。
the signal output unit further outputs a signal for causing an output device to output information indicating a value obtained by dividing a period during which at least one of the articles, the current location of which is different from the home location, was present, for each user who used the article or each owner of the article, by a predetermined period.
The tidying-up assistance device according to claim 9.
前記片付け作業は、前記物品を前記定位置に収納する作業である、
請求項9から請求項11のいずれか一つに記載の片付け支援装置。
The tidying up work is a work of storing the items in the designated positions.
The tidying support device according to any one of claims 9 to 11.
前記片付け作業は、前記物品を前記定位置と異なる所定の位置に収納する作業である、
請求項9から請求項11のいずれか一つに記載の片付け支援装置。
The tidying up work is a work of storing the item in a predetermined position different from the fixed position.
The tidying support device according to any one of claims 9 to 11.
コンピュータに、
物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得機能と、
前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定機能と、
前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行するよう前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号と前記出力装置に出力する信号出力機能と、
を実現させる片付け支援プログラム。
On the computer,
a data acquisition function for acquiring, for each item, fixed position data indicating a fixed position of the item and current position data indicating a current position of the item, which is generated using an image of the item and a space in which the item is present, and acquiring user data indicating the user who has used the item or owner data indicating the owner of the item, which is generated using an image of the item and a user who has used the item;
a tidying up necessity determination function for determining whether or not the current position differs from the fixed position for each of the items by comparing the fixed position data with the current position data;
a signal output function for outputting, when it is determined that the current position is different from the fixed position, at least one of a first signal for notifying the user to perform a tidying up task of putting away the items or a second signal for notifying the owner to perform the tidying up task based on the owner data, and a signal for outputting information related to the number of the items at which the current position is different from the fixed position to the output device ;
A tidying up support program that makes this a reality.
コンピュータに、
物品の定位置を示す定位置データと、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得機能と、
前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定機能と、
前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行させるための信号を片付け実行装置に出力するとともに、前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行したことを前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号とを出力する信号出力機能と、
を実現させる片付け支援プログラム。
On the computer,
a data acquisition function for acquiring, for each item, fixed position data indicating a fixed position of the item and current position data indicating a current position of the item, which is generated using an image of the item and a space in which the item is present, and acquiring user data indicating the user who has used the item or owner data indicating the owner of the item, which is generated using an image of the item and a user who has used the item;
a tidying up necessity determination function for determining whether or not the current position differs from the fixed position for each of the items by comparing the fixed position data with the current position data;
a signal output function for outputting, when it is determined that the current position is different from the fixed position, a signal for executing a tidying up task of putting the items away to a tidying up execution device, and outputting at least one of a first signal for notifying the owner to execute the tidying up task based on the owner data or a second signal for notifying the owner that the tidying up task has been completed based on the owner data, and a signal for outputting information related to the number of the items at which the current position is different from the fixed position to an output device ;
A tidying up support program that makes this a reality.
片付け支援装置が、物品の定位置を示す定位置データを取得と、前記物品及び前記物品が存在する空間を撮影した画像を使用して生成され、前記物品の現在位置を示す現在位置データとを前記物品ごとに取得し、前記物品及び前記物品を使用した使用者を撮影した画像を使用して生成される前記使用者を示す使用者データまたは前記物品の所有者を示す所有者データと、を取得するデータ取得ステップと、
片付け支援装置が、前記定位置データと前記現在位置データとを比較して前記現在位置が前記定位置と異なるか否かを前記物品ごとに判定する片付け要否判定ステップと、
片付け支援装置が、前記現在位置が前記定位置と異なると判定された場合、前記物品を片付ける片付け作業を実行するよう前記使用者に報知させるための第1信号または前記所有者データに基づいて、前記片付け作業を実行するよう前記所有者に報知させるための第2信号の少なくとも一方と、前記現在位置が前記定位置と異なる前記物品の数に関連する情報を出力装置に出力させるための信号と前記出力装置に出力する信号出力ステップと、
を含む片付け支援方法。
a data acquisition step in which the tidying support device acquires fixed position data indicating a fixed position of an item , acquires current position data indicating a current position of the item for each of the items, the current position data being generated using an image of the item and the space in which the items are present, and acquires user data indicating the user or owner data indicating the owner of the item, the current position data being generated using an image of the item and a user who has used the item;
a tidying up necessity determination step in which the tidying up support device compares the fixed position data with the current position data to determine whether the current position is different from the fixed position for each of the items ;
a signal output step of outputting to an output device, when the tidying support device determines that the current position is different from the fixed position, at least one of a first signal for notifying the user to perform a tidying task of putting the items away or a second signal for notifying the owner to perform the tidying task based on the owner data , and a signal for outputting to the output device information related to the number of the items at which the current position is different from the fixed position;
This includes methods to help with tidying up.
JP2019172004A 2019-09-20 2019-09-20 Tidying up support device, tidying up support program, and tidying up support method Active JP7490347B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019172004A JP7490347B2 (en) 2019-09-20 2019-09-20 Tidying up support device, tidying up support program, and tidying up support method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019172004A JP7490347B2 (en) 2019-09-20 2019-09-20 Tidying up support device, tidying up support program, and tidying up support method

Publications (2)

Publication Number Publication Date
JP2021051346A JP2021051346A (en) 2021-04-01
JP7490347B2 true JP7490347B2 (en) 2024-05-27

Family

ID=75157822

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019172004A Active JP7490347B2 (en) 2019-09-20 2019-09-20 Tidying up support device, tidying up support program, and tidying up support method

Country Status (1)

Country Link
JP (1) JP7490347B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004103864A1 (en) 2003-05-21 2004-12-02 Matsushita Electric Industrial Co., Ltd. Article control system, article control server, article control method
JP2014164629A (en) 2013-02-27 2014-09-08 Casio Comput Co Ltd Information processor, and degree of putting in order determination method and program
JP2017036976A (en) 2015-08-07 2017-02-16 パナソニックIpマネジメント株式会社 Position management system, position management device, position management method, and program
JP2019036181A (en) 2017-08-18 2019-03-07 ソニー株式会社 Information processing apparatus, information processing method and program
JP2019113896A (en) 2017-12-20 2019-07-11 ヤフー株式会社 Device, method, and program for processing information

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004103864A1 (en) 2003-05-21 2004-12-02 Matsushita Electric Industrial Co., Ltd. Article control system, article control server, article control method
JP2014164629A (en) 2013-02-27 2014-09-08 Casio Comput Co Ltd Information processor, and degree of putting in order determination method and program
JP2017036976A (en) 2015-08-07 2017-02-16 パナソニックIpマネジメント株式会社 Position management system, position management device, position management method, and program
JP2019036181A (en) 2017-08-18 2019-03-07 ソニー株式会社 Information processing apparatus, information processing method and program
JP2019113896A (en) 2017-12-20 2019-07-11 ヤフー株式会社 Device, method, and program for processing information

Also Published As

Publication number Publication date
JP2021051346A (en) 2021-04-01

Similar Documents

Publication Publication Date Title
CN104508597B (en) Method and apparatus for controlling augmented reality
Liu et al. Towards complex activity recognition using a Bayesian network-based probabilistic generative framework
KR20210047326A (en) Determining the suitability of digital images for creating AR/VR digital content
US20140156259A1 (en) Generating Stimuli for Use in Soliciting Grounded Linguistic Information
JP2011253344A (en) Purchase behavior analysis device, purchase behavior analysis method and program
JP6713057B2 (en) Mobile body control device and mobile body control program
CN113642361A (en) Method and equipment for detecting falling behavior
JP6397250B2 (en) Concentration estimation apparatus, method and program
CN111643017B (en) Cleaning robot control method and device based on schedule information and cleaning robot
Lukin et al. A pipeline for creative visual storytelling
US20200159784A1 (en) Information processing apparatus, information processing system, information processing method, and method of determining similarity/dissimilarity
Ono et al. Solution of world robot challenge 2020 partner robot challenge (Real Space)
KR102359289B1 (en) Virtual training data generating method to improve performance of pre-learned machine-learning model and device performing the same
JP7490347B2 (en) Tidying up support device, tidying up support program, and tidying up support method
US11176693B1 (en) Rapid point cloud alignment and classification with basis set learning
Gross Interviewing Roomba: A posthuman study of humans and robot vacuum cleaners
WO2020115930A1 (en) Procedure detection device and procedure detection program
CN114504273A (en) Robot control method and device
CN110178145A (en) Support the tissue of the signal segment of sensed characteristic
CN116883733A (en) Interactive control method and electronic equipment
CN110766502B (en) Commodity evaluation method and system
CN110178148A (en) The computer auxiliary tracking of physical entity
KR20160033502A (en) Emotional chair robot and control method thereof
CN110199299A (en) Movement is taken based on physical condition
JP7174565B2 (en) Management device, management system, management method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220617

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240430

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240515

R150 Certificate of patent or registration of utility model

Ref document number: 7490347

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150