JP2017175362A - Image collection device, display system, image collection method, and program - Google Patents

Image collection device, display system, image collection method, and program Download PDF

Info

Publication number
JP2017175362A
JP2017175362A JP2016058754A JP2016058754A JP2017175362A JP 2017175362 A JP2017175362 A JP 2017175362A JP 2016058754 A JP2016058754 A JP 2016058754A JP 2016058754 A JP2016058754 A JP 2016058754A JP 2017175362 A JP2017175362 A JP 2017175362A
Authority
JP
Japan
Prior art keywords
image
image information
information
unit
collection device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016058754A
Other languages
Japanese (ja)
Other versions
JP6743441B2 (en
Inventor
靖司 小林
Yasushi Kobayashi
靖司 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2016058754A priority Critical patent/JP6743441B2/en
Publication of JP2017175362A publication Critical patent/JP2017175362A/en
Application granted granted Critical
Publication of JP6743441B2 publication Critical patent/JP6743441B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an image with reduced influence of a shielding object without image processing of the shielding object.SOLUTION: An image collection device 100 comprises: an acquisition unit 110 for acquiring image information from plural devices; a selection unit 120 for selecting image information containing no shielding object in an image, out of plural pieces of the image information acquired by the acquisition unit 110; and a storage unit 130 for storing the image information selected by the selection unit 120.SELECTED DRAWING: Figure 1

Description

本開示は、画像収集装置等に関する。   The present disclosure relates to an image collection device and the like.

位置や方向を指定することにより所定の空間の画像を切り出して表示する技術が知られている。例えば、特許文献1は、実世界を映した入力画像の部分画像を加工し、特定のオブジェクトを強調表示する技術を開示している。また、特許文献2は、特定の監視対象物について、時間的に連続する複数の画像を平均化することによって、遮蔽物を希釈化あるいは除去する技術を開示している。   A technique for cutting out and displaying an image of a predetermined space by specifying a position and a direction is known. For example, Patent Literature 1 discloses a technique for processing a partial image of an input image that reflects the real world and highlighting a specific object. Further, Patent Document 2 discloses a technique for diluting or removing a shielding object by averaging a plurality of temporally continuous images for a specific monitoring object.

特開2012−079129号公報JP 2012-079129 A 特開2006−140757号公報JP 2006-140757 A

路上や室内で撮影された画像には、人物等の遮蔽物が映り込む場合がある。このような遮蔽物は、閲覧の対象物(建造物、風景など)を視認する妨げになるだけでなく、第三者の顔や個人情報が当人の意に反して公開される問題を生じさせる可能性がある。   An image taken on the road or indoors may include a shield such as a person. Such a shield not only hinders the visual recognition of objects to be browsed (buildings, landscapes, etc.), but also causes a problem in which a third party's face and personal information are disclosed against the will of the person. There is a possibility to make it.

特許文献2には、遮蔽物の画像を平均化することによって個人情報を保護することが開示されている。しかし、画像が膨大に存在する場合、画像を一つずつチェックしてこのような画像処理を実行するのは非効率である。   Patent Document 2 discloses protecting personal information by averaging images of shielding objects. However, when there are a large number of images, it is inefficient to perform such image processing by checking the images one by one.

本開示の例示的な目的の一つは、遮蔽物を加工する画像処理によらずに遮蔽物の影響が低減された画像を提供することである。   One exemplary object of the present disclosure is to provide an image in which the influence of the shielding object is reduced without using image processing for processing the shielding object.

本開示の一態様に係る画像収集装置は、画像情報を複数の装置から取得する取得手段と、前記取得手段により取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する選択手段と、前記選択手段により選択された画像情報を格納する格納手段とを含む。   An image collection device according to an aspect of the present disclosure includes an acquisition unit that acquires image information from a plurality of devices, and image information that does not include a shielding object among the plurality of image information acquired by the acquisition unit. Selecting means for selecting; and storing means for storing the image information selected by the selecting means.

本開示の別の態様に係る表示システムは、撮影装置と、画像収集装置と、表示装置とを含み、前記画像収集装置は、画像情報を前記撮影装置から取得する取得手段と、前記取得手段により取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する選択手段と、前記選択手段により選択された画像情報を格納する格納手段とを含み、前記表示装置は、前記格納手段により格納された画像情報に応じた画像を表示する表示手段を含む。   A display system according to another aspect of the present disclosure includes a photographing device, an image collecting device, and a display device, and the image collecting device includes an obtaining unit that obtains image information from the photographing device, and the obtaining unit. A selection unit that selects image information that does not include an obstruction in the image, and a storage unit that stores the image information selected by the selection unit, and the display device includes: Display means for displaying an image corresponding to the image information stored by the storage means;

本開示のさらに別の態様に係る画像収集方法は、画像情報を複数の装置から取得し、前記取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択し、前記選択された画像情報を格納する。   An image collection method according to still another aspect of the present disclosure acquires image information from a plurality of devices, selects image information that does not include a shielding object in the image from the plurality of acquired image information, and Stores the selected image information.

本開示のさらに別の態様に係るプログラムは、コンピュータに、画像情報を複数の装置から取得する処理と、前記取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する処理と、前記選択された画像情報を格納する処理とを実行させる。   According to still another aspect of the present disclosure, a program selects, in a computer, processing for acquiring image information from a plurality of devices, and image information that does not include a shielding object from the plurality of acquired image information. And a process of storing the selected image information.

本開示によれば、遮蔽物を加工する画像処理によらずに遮蔽物の影響が低減された画像を提供することが可能である。   According to the present disclosure, it is possible to provide an image in which the influence of the shielding object is reduced without using image processing for processing the shielding object.

図1は、画像収集装置の構成の一例を示すブロック図である。FIG. 1 is a block diagram illustrating an example of a configuration of an image collection device. 図2は、画像収集装置の動作の一例を示すフローチャートである。FIG. 2 is a flowchart illustrating an example of the operation of the image collection apparatus. 図3は、表示システムの構成の一例を示すブロック図である。FIG. 3 is a block diagram illustrating an example of the configuration of the display system. 図4は、画像編集装置の構成の一例を示すブロック図である。FIG. 4 is a block diagram illustrating an example of the configuration of the image editing apparatus. 図5は、表示システムにおける動作の一例を示すシーケンスチャートである。FIG. 5 is a sequence chart showing an example of the operation in the display system. 図6は、第1記録部により記録される情報を例示する図である。FIG. 6 is a diagram illustrating information recorded by the first recording unit. 図7は、第2記録部により記録される情報を例示する図である。FIG. 7 is a diagram illustrating information recorded by the second recording unit. 図8は、表示システムにおける動作の一例を示すシーケンスチャートである。FIG. 8 is a sequence chart showing an example of the operation in the display system. 図9は、画像収集装置の変形例を示すブロック図である。FIG. 9 is a block diagram illustrating a modification of the image collection device. 図10は、画像収集装置の別の変形例を示すブロック図である。FIG. 10 is a block diagram illustrating another modification of the image collection device. 図11は、画像収集装置のさらに別の変形例を示すブロック図である。FIG. 11 is a block diagram illustrating still another modification of the image collection device. 図12は、コンピュータ装置のハードウェア構成の一例を示すブロック図である。FIG. 12 is a block diagram illustrating an example of a hardware configuration of the computer apparatus.

[第1実施形態]
図1は、一実施形態に係る画像収集装置100の構成を示すブロック図である。画像収集装置100は、所定の空間の画像を収集する装置である。ここでいう所定の空間は、例えば、特定の地域の風景や、特定の施設の内部である。ここでいう空間は、個々の位置及び方向を所定の指標(緯度及び経度、方位など)によって識別可能な場所であれば、特定の場所に限定されない。
[First Embodiment]
FIG. 1 is a block diagram illustrating a configuration of an image collection device 100 according to an embodiment. The image collection device 100 is a device that collects images of a predetermined space. The predetermined space here is, for example, a landscape of a specific region or the inside of a specific facility. The space here is not limited to a specific place as long as each position and direction can be identified by a predetermined index (latitude, longitude, direction, etc.).

画像収集装置100は、取得部110と、選択部120と、格納部130とを少なくとも含む。画像収集装置100は、他の構成要素を含んでもよい。画像収集装置100は、ソフトウェア、ハードウェア及びこれらの組み合わせのいずれによっても構成され得る。   The image collection device 100 includes at least an acquisition unit 110, a selection unit 120, and a storage unit 130. The image collection device 100 may include other components. The image collecting apparatus 100 can be configured by any of software, hardware, and a combination thereof.

取得部110は、画像情報を取得する。いくつかの態様において、この画像情報は、画像の位置を示す位置情報と、当該位置における当該画像の方向を示す方向情報とが関連付けられていてもよい。位置情報は、例えば、緯度及び経度の組み合わせによって位置を表す。あるいは、位置情報は、所定の座標系の座標によって位置を表してもよい。方向情報は、例えば、特定の方向(例えば北)を基準とし、方位を角度によって表す。位置情報及び方向情報は、画像情報に埋め込まれていてもよい。   The acquisition unit 110 acquires image information. In some aspects, the image information may be associated with position information indicating the position of the image and direction information indicating the direction of the image at the position. The position information represents the position by a combination of latitude and longitude, for example. Alternatively, the position information may represent the position by coordinates in a predetermined coordinate system. The direction information represents, for example, an azimuth by an angle with a specific direction (for example, north) as a reference. The position information and the direction information may be embedded in the image information.

取得部110は、複数の装置から画像情報を取得する。いくつかの態様において、取得部110は、インターネット等のネットワークを介して画像情報を受信する。あるいは、取得部110は、所定の記憶装置に記憶された画像情報を取得してもよい。   The acquisition unit 110 acquires image information from a plurality of devices. In some aspects, the acquisition unit 110 receives image information via a network such as the Internet. Alternatively, the acquisition unit 110 may acquire image information stored in a predetermined storage device.

選択部120は、取得部110により取得された画像情報のうち所定の画像情報を選択する。具体的には、選択部120は、取得部110により取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する。選択部120は、画像に遮蔽物が含まれるかを周知技術(例えば物体認識技術)を用いて判断してもよい。あるいは、選択部120は、画像に遮蔽物が含まれるかを別の装置に判断させ、その判断結果を取得して選択の基準としてもよい。   The selection unit 120 selects predetermined image information from the image information acquired by the acquisition unit 110. Specifically, the selection unit 120 selects image information that does not include an obstruction in the image from among a plurality of image information acquired by the acquisition unit 110. The selection unit 120 may determine whether or not the image includes a shielding object using a known technique (for example, an object recognition technique). Alternatively, the selection unit 120 may cause another device to determine whether the image contains a shielding object, acquire the determination result, and use it as a reference for selection.

ここでいう遮蔽物は、収集対象である画像(建造物、建物など)を遮蔽する物体である。例えば、遮蔽物は、画像に偶然映り込んだ人間(歩行者など)や、道路を走行する自動車である。ただし、遮蔽物は、人間と自動車のみに限定されない。例えば、上述の物体認識技術によって認識可能な物体は、いずれも遮蔽物として用いられ得る。   Here, the shielding object is an object that shields an image (building, building, etc.) that is a collection target. For example, the shield is a person (such as a pedestrian) who accidentally appears in an image or a car traveling on a road. However, the shield is not limited to only humans and automobiles. For example, any object that can be recognized by the above-described object recognition technology can be used as a shielding object.

格納部130は、選択部120により選択された画像情報を格納する。格納部130は、例えば、ハードディスク等の記憶装置を含む。あるいは、格納部130は、外部の記憶装置に画像情報を記録するように構成されてもよい。格納部130により格納された画像情報は、閲覧の用に供される。   The storage unit 130 stores the image information selected by the selection unit 120. The storage unit 130 includes a storage device such as a hard disk, for example. Alternatively, the storage unit 130 may be configured to record image information in an external storage device. The image information stored by the storage unit 130 is used for browsing.

図2は、画像収集装置100の動作を示すフローチャートである。画像収集装置100は、画像情報を取得する毎にこの動作を実行してもよいが、所定の期間に取得された複数の画像情報に対し、所定のタイミングで一括してこの動作を実行してもよい。   FIG. 2 is a flowchart showing the operation of the image collection device 100. The image collecting apparatus 100 may execute this operation every time image information is acquired. However, the image collecting apparatus 100 may execute this operation collectively at a predetermined timing for a plurality of pieces of image information acquired in a predetermined period. Also good.

ステップS11において、取得部110は、画像情報を取得する。このとき、取得部110は、画像情報に関連付けられる位置情報及び方向情報をあわせて取得してもよい。ステップS12において、選択部120は、ステップS11において取得された画像情報のうち、画像に遮蔽物を含まないと判断される画像情報を選択する。換言すれば、選択部120は、画像情報を取捨選択する。ステップS13において、格納部130は、ステップS12において選択された画像情報を格納する。格納部130は、ステップS12において選択されなかった画像情報、すなわち画像に遮蔽物を含むと判断された画像情報は、格納しない。   In step S11, the acquisition unit 110 acquires image information. At this time, the acquisition unit 110 may acquire the position information and the direction information associated with the image information together. In step S <b> 12, the selection unit 120 selects image information that is determined not to include a shielding object from the image information acquired in step S <b> 11. In other words, the selection unit 120 selects image information. In step S13, the storage unit 130 stores the image information selected in step S12. The storage unit 130 does not store the image information that has not been selected in step S12, that is, the image information that is determined to include a shielding object in the image.

以上に説明されたように、本実施形態の画像収集装置100は、複数の装置から取得した画像情報を取捨選択し、画像に遮蔽物を含まない画像情報を選択的に格納する構成を有する。この構成によれば、閲覧の用に供される画像情報を遮蔽物を含まない画像情報のみにすることができるため、この画像情報に対して遮蔽物を加工するための画像処理を実行する必要性をなくす(又は少なくする)ことが可能である。   As described above, the image collection device 100 according to the present embodiment has a configuration in which image information acquired from a plurality of devices is selected and image information that does not include a shielding object is selectively stored in the image. According to this configuration, image information provided for browsing can be limited to image information that does not include a shielding object, and thus it is necessary to execute image processing for processing the shielding object on this image information. It is possible to eliminate (or reduce) sex.

路上や屋内で撮影された画像を公開するサービスが知られている。このようなサービスにおいて、公開される画像は、一般に、サービス事業者によって撮影及び収集されている。この場合、遮蔽物がみだりに公開されないようにするためには、意図せず撮影された遮蔽物に対してモザイク処理等の画像処理を施すか、あるいは、遮蔽物が含まれない画像を撮影する必要がある。このような画像処理又は撮影をサービス事業者が単独で実施したのでは、効率が悪いといわざるを得ない。一方、本実施形態によれば、画像情報を複数の装置から取得し、画像に遮蔽物が含まれない画像情報を格納するため、画像情報を効率的に収集することが可能である。   A service for publicizing images taken on the street or indoors is known. In such a service, images to be released are generally photographed and collected by a service provider. In this case, in order to prevent the shielding object from being undisclosed, it is necessary to perform image processing such as mosaic processing on the unintentionally photographed shielding object or to photograph an image that does not include the shielding object. There is. If the service provider carries out such image processing or shooting alone, it must be said that the efficiency is low. On the other hand, according to the present embodiment, image information is acquired from a plurality of devices, and image information that does not include a shielding object is stored in the image. Therefore, it is possible to efficiently collect image information.

[第2実施形態]
図3は、別の実施形態に係る表示システム200の構成を示すブロック図である。表示システム200は、撮影装置210と、画像編集装置220と、閲覧装置230とを含む。表示システム200において、撮影装置210、画像編集装置220及び閲覧装置230のそれぞれの数は、特定の数に限定されない。
[Second Embodiment]
FIG. 3 is a block diagram illustrating a configuration of a display system 200 according to another embodiment. The display system 200 includes a photographing device 210, an image editing device 220, and a browsing device 230. In the display system 200, the number of each of the imaging device 210, the image editing device 220, and the browsing device 230 is not limited to a specific number.

なお、本実施形態において、第1実施形態に記載された用語と同一の用語は、特に定義又は説明がある場合を除き、第1実施形態と同様の意味で用いられる。また、本実施形態において第1実施形態と同一の符号を付された構成要素は、第1実施形態と同様の構成を少なくとも有する。   In the present embodiment, the same terms as those described in the first embodiment are used in the same meaning as in the first embodiment unless otherwise defined or explained. In addition, in the present embodiment, the components given the same reference numerals as those in the first embodiment have at least the same configuration as that in the first embodiment.

撮影装置210は、撮影者により所持される電子機器である。撮影装置210は、例えば、スマートフォンや通信機能付きのデジタルスチルカメラである。また、撮影装置210は、車載機器であってもよい。撮影装置210は、撮影部211を少なくとも含む。   The imaging device 210 is an electronic device that is carried by a photographer. The imaging device 210 is, for example, a smartphone or a digital still camera with a communication function. Moreover, the imaging device 210 may be an in-vehicle device. The imaging device 210 includes at least an imaging unit 211.

撮影部211は、画像を撮影し、撮影された画像を示す画像情報を生成する。撮影部211は、例えば、CCD(Charge Coupled Device)などにより構成されたイメージセンサを含んで構成される。   The imaging unit 211 captures an image and generates image information indicating the captured image. The imaging unit 211 includes an image sensor configured by, for example, a CCD (Charge Coupled Device).

いくつかの態様において、撮影装置210は、位置情報及び方向情報を取得するための構成を有する。位置情報は、例えば、GPS(Global Positioning System)を用いて取得可能である。方向情報は、例えば、いわゆる電子コンパス(地磁気センサ)を用いて取得可能である。なお、位置情報及び方向情報は、このような構成によらずに、撮影者によって入力されてもよい。   In some aspects, the imaging device 210 has a configuration for acquiring position information and direction information. The position information can be acquired using, for example, GPS (Global Positioning System). The direction information can be acquired using, for example, a so-called electronic compass (geomagnetic sensor). Note that the position information and the direction information may be input by the photographer without using such a configuration.

閲覧装置230は、閲覧者により所持される電子機器である。閲覧装置230は、例えば、スマートフォンやパーソナルコンピュータである。閲覧装置230は、表示部231を少なくとも含む。閲覧装置230は、キーボード等の入力装置を含んでもよい。   The browsing device 230 is an electronic device possessed by a viewer. The browsing device 230 is, for example, a smartphone or a personal computer. The browsing device 230 includes at least a display unit 231. The browsing device 230 may include an input device such as a keyboard.

表示部231は、例えば、液晶等の表示素子により構成された表示面を含む。表示部231は、この表示面に画像を表示する。表示部231は、タッチスクリーンディスプレイであってもよい。あるいは、表示部231は、スクリーンや壁面に画像を投射するプロジェクタであってもよい。   The display unit 231 includes a display surface configured by a display element such as a liquid crystal, for example. The display unit 231 displays an image on this display surface. The display unit 231 may be a touch screen display. Alternatively, the display unit 231 may be a projector that projects an image on a screen or a wall surface.

画像編集装置220は、撮影装置210及び閲覧装置230とデータを授受する。画像編集装置220は、インターネット、移動体通信網等のネットワークを介して撮影装置210及び閲覧装置230と通信することができる。画像編集装置220は、第1実施形態の画像収集装置100の一例に相当する。   The image editing device 220 exchanges data with the photographing device 210 and the browsing device 230. The image editing device 220 can communicate with the photographing device 210 and the browsing device 230 via a network such as the Internet or a mobile communication network. The image editing device 220 corresponds to an example of the image collection device 100 of the first embodiment.

図4は、画像編集装置220の構成を示すブロック図である。画像編集装置220は、受信部221と、選択部222と、送信部223と、第1記録部224と、第2記録部225とを含む。   FIG. 4 is a block diagram illustrating a configuration of the image editing apparatus 220. The image editing apparatus 220 includes a reception unit 221, a selection unit 222, a transmission unit 223, a first recording unit 224, and a second recording unit 225.

受信部221は、撮影装置210から画像情報を受信する。受信部221は、画像情報を受信すると、画像情報を第1記録部224に供給する。受信部221は、画像収集装置100の取得部110の一例に相当する。   The receiving unit 221 receives image information from the imaging device 210. When receiving the image information, the receiving unit 221 supplies the image information to the first recording unit 224. The reception unit 221 corresponds to an example of the acquisition unit 110 of the image collection device 100.

選択部222は、受信部221により受信され、第1記録部224により記録された画像情報から所定の画像情報を選択する。具体的には、選択部222は、第1記録部224により記録された画像情報のうち、画像に遮蔽物が含まれていない画像情報を選択する。選択部222は、選択された画像情報を第2記録部225に供給する。選択部222は、画像収集装置100の選択部120の一例に相当する。   The selection unit 222 selects predetermined image information from the image information received by the reception unit 221 and recorded by the first recording unit 224. Specifically, the selection unit 222 selects image information that does not include a shielding object in the image from the image information recorded by the first recording unit 224. The selection unit 222 supplies the selected image information to the second recording unit 225. The selection unit 222 corresponds to an example of the selection unit 120 of the image collection device 100.

送信部223は、選択部222により選択され、第2記録部225により記録された画像情報を閲覧装置230に送信する。送信部223は、閲覧装置230からの要求に応じて画像情報を読み出す。例えば、送信部223は、特定の位置及び方向に関連付けられた画像情報を第2記録部225から読み出し、閲覧装置230に供給する。   The transmission unit 223 transmits the image information selected by the selection unit 222 and recorded by the second recording unit 225 to the browsing device 230. The transmission unit 223 reads image information in response to a request from the browsing device 230. For example, the transmission unit 223 reads image information associated with a specific position and direction from the second recording unit 225 and supplies the image information to the browsing device 230.

第1記録部224及び第2記録部225は、いずれも画像情報を記録する。第1記録部224及び第2記録部225は、それぞれ所定の記憶装置に画像情報を記録する。第1記録部224は、選択部222による選択前の画像情報を記録する。一方、第2記録部225は、選択部222による選択後の画像情報を記録する。第2記録部225は、画像収集装置100の格納部130の一例に相当する。   Both the first recording unit 224 and the second recording unit 225 record image information. The first recording unit 224 and the second recording unit 225 each record image information in a predetermined storage device. The first recording unit 224 records image information before selection by the selection unit 222. On the other hand, the second recording unit 225 records the image information after selection by the selection unit 222. The second recording unit 225 corresponds to an example of the storage unit 130 of the image collection device 100.

図5は、表示システム200における動作を示すシーケンスチャートである。ステップS21において、撮影装置210は、撮影部211により撮影を実行し、画像情報を生成する。ステップS22において、撮影装置210は、画像情報を位置情報及び方向情報と関連付けて画像編集装置220に送信する。この位置情報は、撮影装置210の位置、すなわち画像が撮影された位置を示す。また、方向情報は、撮影部211が撮影した方向、すなわち画像の向きを示す。画像編集装置220は、画像情報を受信すると、ステップS23において画像情報を記録する。   FIG. 5 is a sequence chart showing the operation in the display system 200. In step S <b> 21, the photographing apparatus 210 performs photographing with the photographing unit 211 and generates image information. In step S <b> 22, the image capturing apparatus 210 transmits the image information to the image editing apparatus 220 in association with the position information and the direction information. This position information indicates the position of the photographing apparatus 210, that is, the position where the image is photographed. Further, the direction information indicates a direction taken by the photographing unit 211, that is, a direction of the image. When receiving the image information, the image editing apparatus 220 records the image information in step S23.

ステップS24において、画像編集装置220は、ステップS23において記録された画像情報を選択する。具体的には、画像編集装置220は、画像情報が示す画像に遮蔽物が含まれているか判断し、当該画像に遮蔽物が含まれている場合に当該画像情報を選択する。画像編集装置220は、この判断を終えたら、第1記録部224により記録された画像情報を削除してもよい。   In step S24, the image editing apparatus 220 selects the image information recorded in step S23. Specifically, the image editing apparatus 220 determines whether an image indicated by the image information includes a shielding object, and selects the image information when the image includes a shielding object. The image editing apparatus 220 may delete the image information recorded by the first recording unit 224 after completing this determination.

ステップS25において、画像編集装置220は、ステップS24において選択された画像情報、すなわち画像に遮蔽物が含まれていると判断された画像情報を記録する。   In step S <b> 25, the image editing apparatus 220 records the image information selected in step S <b> 24, i.e., the image information determined to include a shielding object in the image.

図6は、第1記録部224により記録される情報を例示する図である。また、図7は、第2記録部225により記録される情報を例示する図である。これらの図に示されるように、第1記録部224及び第2記録部225は、位置情報及び方向情報を画像情報のファイル名及び撮影日時と関連付けて記録する。これに加え、第1記録部224及び第2記録部225は、ファイル名が割り当てられた画像情報を記録する。この例において、画像情報は、ファイル名によって位置情報及び方向情報と関連付けられている。   FIG. 6 is a diagram illustrating information recorded by the first recording unit 224. FIG. 7 is a diagram illustrating information recorded by the second recording unit 225. As shown in these drawings, the first recording unit 224 and the second recording unit 225 record the position information and the direction information in association with the file name of the image information and the shooting date and time. In addition, the first recording unit 224 and the second recording unit 225 record image information to which a file name is assigned. In this example, image information is associated with position information and direction information by a file name.

図6及び図7に示されるように、第2記録部225は、第1記録部224により記録された画像情報の一部を記録する。すなわち、第2記録部225により記録される画像情報は、第1記録部224により記録される画像情報よりも少ない。   As shown in FIGS. 6 and 7, the second recording unit 225 records part of the image information recorded by the first recording unit 224. That is, the image information recorded by the second recording unit 225 is less than the image information recorded by the first recording unit 224.

図8は、表示システム200における動作を示すシーケンスチャートである。図8は、画像編集装置220に画像情報が蓄積された後、閲覧装置230により閲覧要求が送信された場合の動作を示す。ステップS26において、閲覧装置230は、閲覧者の操作に応じて、画像編集装置220に閲覧要求を送信する。閲覧要求は、位置情報と方向情報とを含む。すなわち、閲覧者は、所望の位置及び方向を指定して閲覧要求を送信する。   FIG. 8 is a sequence chart showing the operation in the display system 200. FIG. 8 shows an operation when a browsing request is transmitted by the browsing device 230 after image information is accumulated in the image editing device 220. In step S <b> 26, the browsing device 230 transmits a browsing request to the image editing device 220 in accordance with a browser operation. The browsing request includes position information and direction information. That is, the viewer transmits a viewing request by designating a desired position and direction.

ステップS27において、画像編集装置220は、ステップS25において記録された画像情報のうち、閲覧要求に含まれる位置情報及び方向情報に対応する画像情報を読み出す。画像編集装置220は、閲覧要求に応じて、閲覧要求に含まれる位置情報及び方向情報が関連付けられた画像情報を検索して読み出す。   In step S27, the image editing apparatus 220 reads image information corresponding to the position information and the direction information included in the browsing request from the image information recorded in step S25. In response to the browsing request, the image editing device 220 searches for and reads out image information associated with the position information and the direction information included in the browsing request.

ステップS28において、画像編集装置220は、ステップS27において読み出された画像情報を閲覧装置230に送信する。ステップS29において、閲覧装置230は、ステップS28において送信された画像情報を受信し、画像情報に応じた画像を表示する。   In step S28, the image editing apparatus 220 transmits the image information read in step S27 to the browsing apparatus 230. In step S29, the browsing device 230 receives the image information transmitted in step S28, and displays an image corresponding to the image information.

以上に説明されたように、本実施形態の表示システム200は、第1実施形態の画像収集装置100と同様の作用効果を奏することができる。また、表示システム200は、さまざまな撮影装置210から画像情報を収集することが可能である。したがって、表示システム200によれば、画像を閲覧するサービスを提供するサービス事業者に限らず、当該サービスの利用者からも画像情報を受け付けることが可能であるため、多数の画像情報を効率的に収集することが可能である。   As described above, the display system 200 of the present embodiment can achieve the same effects as the image collection device 100 of the first embodiment. In addition, the display system 200 can collect image information from various imaging devices 210. Therefore, according to the display system 200, image information can be received not only from a service provider that provides a service for browsing images but also from a user of the service. It is possible to collect.

[変形例]
本開示は、上述された第1実施形態〜第2実施形態に限定されない。本開示は、当業者が把握し得る変形又は応用を適用した形態を含み得る。例えば、本開示は、以下に記載される変形例を含む。また、本開示は、本明細書に記載された事項を必要に応じて適宜に組み合わせた形態を含み得る。例えば、特定の実施形態を用いて説明された事項は、矛盾を生じない範囲において、他の実施形態に対しても適用され得る。
[Modification]
The present disclosure is not limited to the first embodiment to the second embodiment described above. This indication may include the form which applied the modification or application which those skilled in the art can grasp. For example, the present disclosure includes the modifications described below. In addition, the present disclosure may include a form in which matters described in the present specification are appropriately combined as necessary. For example, the matters described using a specific embodiment can be applied to other embodiments as long as no contradiction arises.

(変形例1)
図9は、画像収集装置100の変形例を示すブロック図である。画像収集装置100aは、選択部120が画像認識部121を含む点において第1実施形態の画像収集装置100と相違する。画像収集装置100aは、その他の点においては、第1実施形態の画像収集装置100と同様の構成を有する。
(Modification 1)
FIG. 9 is a block diagram illustrating a modified example of the image collection device 100. The image collection device 100a is different from the image collection device 100 of the first embodiment in that the selection unit 120 includes an image recognition unit 121. The image collection device 100a has the same configuration as the image collection device 100 of the first embodiment in other respects.

画像認識部121は、画像情報が表す画像から所定の条件を満たす物体を認識する。画像認識部121は、画像認識技術(例えば、一般物体認識技術)により、あらかじめ登録された条件を満たす物体を認識する。画像認識部121は、他の物体と識別可能な一定の傾向(特徴)を有する物体を認識することができる。ここでいう物体は、例えば、人間の全身又は一部(顔など)、自動車、オートバイ、自転車、標識などである。画像認識部121は、「人間」と「自動車」を認識する、といったように、複数の種類の物体を認識するように構成されてもよい。   The image recognition unit 121 recognizes an object that satisfies a predetermined condition from the image represented by the image information. The image recognition unit 121 recognizes an object that satisfies a pre-registered condition by an image recognition technique (for example, a general object recognition technique). The image recognition unit 121 can recognize an object having a certain tendency (feature) that can be distinguished from other objects. The object referred to here is, for example, the whole body or part of a human (such as a face), a car, a motorcycle, a bicycle, a sign, and the like. The image recognition unit 121 may be configured to recognize a plurality of types of objects such as “human” and “automobile”.

選択部120は、画像認識部121によって特定の物体が認識された画像情報を、画像に遮蔽物を含んだ画像情報であると判断する。つまり、本実施形態における遮蔽物は、画像認識部121により認識可能な物体である。選択部120は、画像認識部121により物体が認識されていない画像情報を選択する。   The selection unit 120 determines that the image information in which the specific object is recognized by the image recognition unit 121 is image information including a shielding object in the image. That is, the shielding object in the present embodiment is an object that can be recognized by the image recognition unit 121. The selection unit 120 selects image information whose object is not recognized by the image recognition unit 121.

本変形例の画像収集装置100aは、第1実施形態の画像収集装置100と同様の作用効果を奏することができる。また、本変形例の画像収集装置100aによれば、画像認識部121により認識可能な物体を遮蔽物とすることが可能である。   The image collecting apparatus 100a according to the present modification can achieve the same effects as the image collecting apparatus 100 according to the first embodiment. Further, according to the image collection device 100a of this modification, an object that can be recognized by the image recognition unit 121 can be used as a shielding object.

(変形例2)
図10は、画像収集装置100の別の変形例を示すブロック図である。画像収集装置100bは、合成部140を含む点において第1実施形態の画像収集装置100と相違する。画像収集装置100bは、その他の点においては、第1実施形態の画像収集装置100と同様の構成を有する。
(Modification 2)
FIG. 10 is a block diagram illustrating another modification of the image collection device 100. The image collection device 100b is different from the image collection device 100 of the first embodiment in that the composition unit 140 is included. The image collection device 100b has the same configuration as the image collection device 100 of the first embodiment in other respects.

合成部140は、格納部130により格納された画像情報に基づいて地図情報を生成する。地図情報は、複数の画像情報を合成することによって生成される。合成部140は、個々の画像情報が表す画像の境界を目立ちにくくする画像処理を実行してもよい。   The synthesizing unit 140 generates map information based on the image information stored by the storage unit 130. Map information is generated by combining a plurality of pieces of image information. The synthesizing unit 140 may execute image processing that makes an image boundary represented by individual image information less noticeable.

地図情報は、例えば、位置及び方向が入力された場合に、これらの情報に関連付けられた画像情報を出力するように構成される。また、地図情報は、入力される位置や方向が変化した場合に、その変化に応じた画像情報を出力するように構成される。   For example, when the position and direction are input, the map information is configured to output image information associated with the information. Further, the map information is configured to output image information corresponding to the change when the input position or direction changes.

本変形例の画像収集装置100bは、第1実施形態の画像収集装置100と同様の作用効果を奏することができる。また、本変形例の画像収集装置100bによれば、複数の画像情報を合成した地図情報を閲覧の用に供することが可能である。   The image collection device 100b according to the present modification can achieve the same operational effects as the image collection device 100 according to the first embodiment. In addition, according to the image collection device 100b of this modification, map information obtained by combining a plurality of pieces of image information can be used for browsing.

(変形例3)
図11は、画像収集装置100のさらに別の変形例を示すブロック図である。画像収集装置100cは、出力部150を含む点において第1実施形態の画像収集装置100と相違する。画像収集装置100cは、その他の点においては、第1実施形態の画像収集装置100と同様の構成を有する。なお、この変形例において、画像情報は、位置情報及び方向情報に関連付けられている。
(Modification 3)
FIG. 11 is a block diagram illustrating still another modified example of the image collection device 100. The image collection device 100 c is different from the image collection device 100 of the first embodiment in that it includes an output unit 150. The image collection device 100c has the same configuration as the image collection device 100 of the first embodiment in other respects. In this modification, the image information is associated with position information and direction information.

出力部150は、特定の位置及び方向を示す閲覧要求に応じて、格納部130により格納された画像情報のうち当該特定の位置及び方向に対応する画像情報を出力する。一の態様において、出力部150は、ネットワークを介して外部の装置に画像情報を送信する。第2実施形態の送信部223は、出力部150の一例に相当する。   The output unit 150 outputs image information corresponding to the specific position and direction among the image information stored by the storage unit 130 in response to a browsing request indicating the specific position and direction. In one aspect, the output unit 150 transmits image information to an external device via a network. The transmission unit 223 of the second embodiment corresponds to an example of the output unit 150.

本変形例の画像収集装置100cは、第1実施形態の画像収集装置100と同様の作用効果を奏することができる。また、本変形例の画像収集装置100cによれば、閲覧要求に応じた画像情報を選択的に出力することが可能である。   The image collecting apparatus 100c according to the present modification can achieve the same effects as the image collecting apparatus 100 according to the first embodiment. In addition, according to the image collection device 100c of this modification, it is possible to selectively output image information corresponding to a browsing request.

(変形例4)
本開示に係る各装置(画像収集装置100、画像編集装置220など)の具体的なハードウェア構成は、さまざまなバリエーションが含まれ、特定の構成に限定されない。例えば、各装置は、ソフトウェアを用いて実現されてもよく、複数のハードウェアを用いて各種処理を分担するように構成されてもよい。
(Modification 4)
The specific hardware configuration of each apparatus (image collection apparatus 100, image editing apparatus 220, etc.) according to the present disclosure includes various variations and is not limited to a specific configuration. For example, each device may be realized using software, and may be configured to share various processes using a plurality of hardware.

図12は、各装置を実現するコンピュータ装置300のハードウェア構成の一例を示すブロック図である。コンピュータ装置300は、CPU(Central Processing Unit)301と、ROM(Read Only Memory)302と、RAM(Random Access Memory)303と、記憶装置304と、ドライブ装置305と、通信インタフェース306と、入出力インタフェース307とを備える。本開示に係る各装置は、図12に示される構成(又はその一部)によって実現され得る。   FIG. 12 is a block diagram illustrating an example of a hardware configuration of a computer apparatus 300 that implements each apparatus. The computer device 300 includes a CPU (Central Processing Unit) 301, a ROM (Read Only Memory) 302, a RAM (Random Access Memory) 303, a storage device 304, a drive device 305, a communication interface 306, and an input / output interface. 307. Each apparatus according to the present disclosure may be realized by the configuration (or part thereof) illustrated in FIG.

CPU301は、RAM303を用いてプログラム308を実行する。プログラム308は、ROM302に記憶されていてもよい。また、プログラム308は、メモリカード等の記録媒体309に記録され、ドライブ装置305によって読み出されてもよいし、外部装置からネットワーク310を介して送信されてもよい。通信インタフェース306は、ネットワーク310を介して外部装置とデータをやり取りする。入出力インタフェース307は、周辺機器(入力装置、表示装置など)とデータをやり取りする。通信インタフェース306及び入出力インタフェース307は、データを取得又は出力する手段として機能することができる。   The CPU 301 executes a program 308 using the RAM 303. The program 308 may be stored in the ROM 302. Further, the program 308 may be recorded on a recording medium 309 such as a memory card and read by the drive device 305 or may be transmitted from an external device via the network 310. The communication interface 306 exchanges data with an external device via the network 310. The input / output interface 307 exchanges data with peripheral devices (such as an input device and a display device). The communication interface 306 and the input / output interface 307 can function as means for acquiring or outputting data.

なお、各装置の構成要素は、単一の回路(プロセッサ等)によって構成されてもよいし、複数の回路の組み合わせによって構成されてもよい。ここでいう回路(circuitry)は、専用又は汎用のいずれであってもよい。   In addition, the component of each apparatus may be comprised by the single circuit (processor etc.), and may be comprised by the combination of several circuits. The circuit here may be either dedicated or general purpose.

上述された実施形態において単体の装置として説明された構成は、複数の装置に分散して設けられてもよい。例えば、画像収集装置100又は画像編集装置220は、クラウドコンピューティング技術などを用いて、複数のコンピュータ装置によって実現されてもよい。   The configuration described as a single device in the above-described embodiment may be distributed among a plurality of devices. For example, the image collection device 100 or the image editing device 220 may be realized by a plurality of computer devices using cloud computing technology or the like.

100、100a、100b、100c 画像収集装置
110 取得部
120 選択部
121 画像認識部
130 格納部
140 合成部
150 出力部
200 表示システム
210 撮影装置
211 撮影部
220 画像編集装置
221 受信部
222 選択部
223 送信部
224 第1記録部
225 第2記録部
230 閲覧装置
231 表示部
300 コンピュータ装置
100, 100a, 100b, 100c Image collection device 110 Acquisition unit 120 Selection unit 121 Image recognition unit 130 Storage unit 140 Composition unit 150 Output unit 200 Display system 210 Imaging device 211 Imaging unit 220 Image editing device 221 Reception unit 222 Selection unit 223 Transmission Unit 224 first recording unit 225 second recording unit 230 browsing device 231 display unit 300 computer device

Claims (7)

画像情報を複数の装置から取得する取得手段と、
前記取得手段により取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する選択手段と、
前記選択手段により選択された画像情報を格納する格納手段と
を備える画像収集装置。
Acquisition means for acquiring image information from a plurality of devices;
A selection unit that selects image information that does not include an obstruction in the image among the plurality of pieces of image information acquired by the acquisition unit;
An image collection apparatus comprising: storage means for storing image information selected by the selection means.
前記選択手段は、
前記取得手段により取得された画像情報が表す画像から所定の条件を満たす物体を認識する画像認識手段を備え、
前記画像認識手段により前記物体が認識されていない画像情報を選択する
請求項1に記載の画像収集装置。
The selection means includes
Image recognition means for recognizing an object satisfying a predetermined condition from the image represented by the image information acquired by the acquisition means;
The image collection device according to claim 1, wherein image information in which the object is not recognized by the image recognition unit is selected.
前記格納手段により格納された画像情報に基づいて地図情報を生成する合成手段を備える
請求項1又は請求項2に記載の画像収集装置。
The image collecting apparatus according to claim 1, further comprising a combining unit that generates map information based on the image information stored by the storage unit.
前記画像情報は、当該画像情報が表す画像の位置を示す位置情報と、当該位置における当該画像の方向を示す方向情報とが関連付けられ、
特定の位置及び方向を示す閲覧要求に応じて、前記格納手段により格納された画像情報のうち当該特定の位置及び方向に対応する画像情報を出力する出力手段を備える
請求項1から請求項3までのいずれか1項に記載の画像収集装置。
The image information is associated with position information indicating the position of the image represented by the image information and direction information indicating the direction of the image at the position,
An output means for outputting image information corresponding to the specific position and direction among the image information stored by the storage means in response to a browsing request indicating a specific position and direction. The image collection device according to any one of the above.
撮影装置と、画像収集装置と、表示装置とを備え、
前記画像収集装置は、
画像情報を前記撮影装置から取得する取得手段と、
前記取得手段により取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する選択手段と、
前記選択手段により選択された画像情報を格納する格納手段とを備え、
前記表示装置は、
前記格納手段により格納された画像情報に応じた画像を表示する表示手段を備える
表示システム。
A photographing device, an image collecting device, and a display device;
The image collecting device includes:
Acquisition means for acquiring image information from the imaging device;
A selection unit that selects image information that does not include an obstruction in the image among the plurality of pieces of image information acquired by the acquisition unit;
Storage means for storing the image information selected by the selection means,
The display device
A display system comprising display means for displaying an image corresponding to the image information stored by the storage means.
画像情報を複数の装置から取得し、
前記取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択し、
前記選択された画像情報を格納する
画像収集方法。
Obtain image information from multiple devices,
Among the plurality of acquired image information, select image information that does not include a shield in the image,
An image collection method for storing the selected image information.
コンピュータに、
画像情報を複数の装置から取得する処理と、
前記取得された複数の画像情報のうち、画像に遮蔽物が含まれない画像情報を選択する処理と、
前記選択された画像情報を格納する処理と
を実行させるためのプログラム。
On the computer,
Processing to acquire image information from a plurality of devices;
A process of selecting image information that does not include a shielding object in the image from the plurality of acquired image information;
A program for executing the processing for storing the selected image information.
JP2016058754A 2016-03-23 2016-03-23 Image collection device, display system, image collection method and program Active JP6743441B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016058754A JP6743441B2 (en) 2016-03-23 2016-03-23 Image collection device, display system, image collection method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016058754A JP6743441B2 (en) 2016-03-23 2016-03-23 Image collection device, display system, image collection method and program

Publications (2)

Publication Number Publication Date
JP2017175362A true JP2017175362A (en) 2017-09-28
JP6743441B2 JP6743441B2 (en) 2020-08-19

Family

ID=59973249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016058754A Active JP6743441B2 (en) 2016-03-23 2016-03-23 Image collection device, display system, image collection method and program

Country Status (1)

Country Link
JP (1) JP6743441B2 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007305050A (en) * 2006-05-15 2007-11-22 Olympus Imaging Corp Camera, composite image photographing method, program and recording medium
JP2010122733A (en) * 2008-11-17 2010-06-03 Nec Biglobe Ltd Image management device, its control method, and program
JP2010193508A (en) * 2010-04-15 2010-09-02 Mitsubishi Electric Building Techno Service Co Ltd Crime prevention camera system, crime prevention camera image storage device
JP2010531007A (en) * 2007-05-25 2010-09-16 グーグル インコーポレイテッド Draw, view, and annotate panoramic images and their applications
JP2011118495A (en) * 2009-12-01 2011-06-16 Saitama Univ Image processing device, image processing method, and program therefor
JP2012129961A (en) * 2010-12-17 2012-07-05 Tokyo Metropolitan Univ Image database construction system
JP2013191035A (en) * 2012-03-14 2013-09-26 Fujifilm Corp Image disclosure device, image disclosure method, image disclosure system, and program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007305050A (en) * 2006-05-15 2007-11-22 Olympus Imaging Corp Camera, composite image photographing method, program and recording medium
JP2010531007A (en) * 2007-05-25 2010-09-16 グーグル インコーポレイテッド Draw, view, and annotate panoramic images and their applications
JP2010122733A (en) * 2008-11-17 2010-06-03 Nec Biglobe Ltd Image management device, its control method, and program
JP2011118495A (en) * 2009-12-01 2011-06-16 Saitama Univ Image processing device, image processing method, and program therefor
JP2010193508A (en) * 2010-04-15 2010-09-02 Mitsubishi Electric Building Techno Service Co Ltd Crime prevention camera system, crime prevention camera image storage device
JP2012129961A (en) * 2010-12-17 2012-07-05 Tokyo Metropolitan Univ Image database construction system
JP2013191035A (en) * 2012-03-14 2013-09-26 Fujifilm Corp Image disclosure device, image disclosure method, image disclosure system, and program

Also Published As

Publication number Publication date
JP6743441B2 (en) 2020-08-19

Similar Documents

Publication Publication Date Title
US20160171781A1 (en) Server, client terminal, system, and program for presenting landscapes
US20140176606A1 (en) Recording and visualizing images using augmented image data
JP5229791B2 (en) PHOTO MAPPING METHOD AND SYSTEM, PROGRAM, AND STORAGE MEDIUM
KR20090019184A (en) Image reproducing apparatus which uses the image files comprised in the electronic map, image reproducing method for the same, and recording medium which records the program for carrying the same method
KR20070116556A (en) Information processing apparatus, information processing method, and computer program
JP5803723B2 (en) Structure inspection support method, structure inspection support program, and structure inspection support device
CN103685960A (en) Method and system for processing image with matched position information
US9232194B2 (en) Imaging apparatus, display method, and storage medium for presenting a candidate object information to a photographer
US10095713B2 (en) Information device, server, recording medium with image file recorded thereon, image file generating method, image file management method, and computer readable recording medium
JP6711137B2 (en) Display control program, display control method, and display control device
JP2008513852A (en) Method and system for identifying object in photograph, and program, recording medium, terminal and server for realizing the system
JP2010534455A (en) Portable digital imaging system combining positioning navigation information and image information
JP2010129032A (en) Device and program for retrieving image
JP2013219753A5 (en)
KR20100079833A (en) Image processing apparatus and image processing method for displaying photographing information based on digital map
KR102168110B1 (en) Camera system
WO2018000299A1 (en) Method for assisting acquisition of picture by device
JP2011119832A (en) Image display device and image display method
JP6743441B2 (en) Image collection device, display system, image collection method and program
EP3718300A1 (en) Digital ledger camera and image functions
JP2013065165A (en) Image display method and device, image display program, and image display system
KR101973865B1 (en) Electronic album management method and image device
JP2008242682A (en) Automatic meta information imparting system, automatic meta information imparting method, and automatic meta information imparting program
JP5536003B2 (en) Movie editing apparatus, movie editing method, and program
JP2013084104A (en) Position information registration device, position information registration method and electronic equipment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200529

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200713

R150 Certificate of patent or registration of utility model

Ref document number: 6743441

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150