JP6651086B1 - 画像分析プログラム、情報処理端末、及び画像分析システム - Google Patents
画像分析プログラム、情報処理端末、及び画像分析システム Download PDFInfo
- Publication number
- JP6651086B1 JP6651086B1 JP2019178900A JP2019178900A JP6651086B1 JP 6651086 B1 JP6651086 B1 JP 6651086B1 JP 2019178900 A JP2019178900 A JP 2019178900A JP 2019178900 A JP2019178900 A JP 2019178900A JP 6651086 B1 JP6651086 B1 JP 6651086B1
- Authority
- JP
- Japan
- Prior art keywords
- camera
- image
- inference
- accuracy
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
また、本発明の第1の態様による画像分析プログラム、及び第3の態様による情報処理端末によれば、1つ以上の学習済ニューラルネットワークモデルのうち、いずれかの学習済ニューラルネットワークモデルによる推論処理の精度を測定して、測定した推論処理の精度が所定の値に満たない場合、推定したカメラの設置位置及び設置角度と、操作部により指定された物体の検出位置とに基づいて、推論処理の精度を向上させるための指示情報をユーザに報知するようにした。この報知された指示情報に基づいて、ユーザが、情報処理端末のカメラの設置位置(撮影位置)や設置角度(撮影方向)を調整することにより、専門の技術スタッフが、カメラの設置場所に赴いて、カメラの設置位置や設置角度の調整を行うことなく、適切な学習済ニューラルネットワークモデル(学習済物体検出用ニューラルネットワーク又は学習済物体認識用ニューラルネットワーク)の推論精度を得ることができる。従って、ユーザが容易にカメラを設置することができる。
なお、本発明は、上記の各実施形態の構成に限られず、発明の趣旨を変更しない範囲で種々の変形が可能である。次に、本発明の変形例について説明する。
上記第1の実施形態では、推論精度測定部42が、物体検出用NNモデル(顔検出モデル22及び人物検出モデル)の推論処理の精度を測定し、報知部43が、物体検出用NNモデルの推論処理の精度を向上させるためのインストラクションをユーザに報知する場合の例を示したが、推論精度測定部が、物体認識用NNモデル(顔認識モデル及びベクトル化モデル等)の推論処理の精度を測定し、報知部が、物体認識用NNモデルの推論処理の精度を向上させるためのインストラクションをユーザに報知するようにしてもよい。
上記の各実施形態では、NNモデルの推論処理の精度を向上させるためのインストラクションをタッチパネル14に表示することにより、インストラクションをユーザに報知したが、NNモデルの推論処理の精度を向上させるためのインストラクションを、スマートフォンのスピーカを用いて、音声でユーザに報知するようにしてもよい。
上記の各実施形態では、NNモデルの推論処理の精度を向上させるためにタッチパネル14に表示されるインストラクション(指示情報)が、表示画像中の枠(赤枠61、及び緑枠63)、又はメッセージ(メッセージ64、65、70、73、76、77、88、93等)である場合の例を示したが、タッチパネル等の表示装置に表示されるインストラクションは、これに限られない。例えば、上記の赤枠の代わりに、表示画面上におけるマーク等を点滅させ、緑枠の代わりに、表示画面上におけるマーク等を点灯させてもよい。また、上記図12に示すようなカメラを動かす方向を示す(文字情報の)メッセージを表示する代わりに、カメラを動かす方向を示す矢印を表示するようにしてもよい。
上記の各実施形態では、スマートフォン1が、内蔵のGPU13を用いて、各NNモデルの推論処理等を行う場合の例を示したが、スマートフォン1が、内蔵のGPU13の代わりに、外付けのDNN推論用拡張チップを用いて、各NNモデルの推論処理を行ってもよいし、内蔵のGPU13と外付けのDNN推論用拡張チップの両方を用いて、各NNモデルの推論処理を行ってもよい。
上記の各実施形態では、請求項における情報処理端末が、スマートフォン1である場合の例を示したが、情報処理端末は、これに限られず、例えば、カメラを備えたタブレット型コンピュータであってもよい。
上記第2の実施形態では、請求項における「人の属性」が、主に、性別、年齢、体形(身長等の体格)である場合の例について示したが、「人の属性」は、これに限られず、例えば、服装や持ち物を含んでもよい。また、上記第2の実施形態では、入力画像に重畳させる3Dモデルの画像における人の属性及び人数と、この3Dモデルの画像の生成に用いる光の環境とを、次々と変更した(変化させた)が、上記の入力画像に重畳させる3Dモデルの画像における人の属性及び人数と、光の環境に加えて、入力画像に重畳させる3Dモデルの画像における人の向きを、次々と変更しても良い。これにより、報知部43が、種々の人の向きのパターンに強い設置位置及び設置角度にカメラ2を動かすように、ユーザに促すことができる。
上記第2の実施形態では、図17のフローチャート等に示したように、「3Dモデルの画像を入力画像に重畳した重畳画像をタッチパネル上に表示」−>「重畳画像(における)顔を認識」−>「インストラクション(ユーザへの指示)を表示」の処理を繰り返す。従って、例えば、200ミリ秒毎に、表示される3Dモデルの人の画像と、光の環境が変化するので、タッチパネル上に表示される画像が、かなりちらつく。この画面のちらつきを回避するために、ランダムな光の環境における3Dモデルの画像を、カメラからの入力画像に重畳した重畳画像を、実際にタッチパネル上に表示するのではなく、この重畳画像を、図16に示すグラフィックスメモリ82における、オフスクリーンメモリ(オフスクリーンバッファ)に出力して、このオフスクリーンメモリに格納した重畳画像(における顔)を、画像分析部(の顔認識モデル)が認識するようにしてもよい。
2 カメラ
4 スマホ管理サーバ(管理サーバ)
10 画像分析システム
14 タッチパネル(表示装置、ポインティングデバイス)
21 画像分析アプリケーション(画像分析プログラム)
22 顔検出モデル(学習済物体検出用ニューラルネットワークモデル)
41 画像分析部
42 推論精度測定部
43 報知部
44 カメラ位置方向推定部
61 赤枠(「指示情報」の一部)
63 緑枠(「指示情報」の一部)
64、65、70、73、76、77、88、93 メッセージ(「指示情報」の一部)
81 3Dモデル重畳部(画像重畳部)
91a〜91d 3Dモデルの人(人又は顔の画像)
Claims (16)
- カメラを備えた情報処理端末を、
前記カメラからの入力画像に映り込んだ物体を検出するための学習済物体検出用ニューラルネットワークモデルを含む、1つ以上の学習済ニューラルネットワークモデルを用いて、前記カメラからの入力画像を分析する画像分析部と、
前記1つ以上の学習済ニューラルネットワークモデルのうち、いずれかの学習済ニューラルネットワークモデルによる推論処理の精度を測定する推論精度測定部と、
前記カメラの設置位置及び設置角度を推定するカメラ位置方向推定部と、
前記カメラからの入力画像を表示するための表示装置と、
前記表示装置に表示された前記カメラからの入力画像に対して、前記物体の検出位置を指定するための操作部と、
前記推論精度測定部による測定の結果、測定した推論処理の精度が所定の値に満たない場合、前記カメラ位置方向推定部により推定された前記カメラの設置位置及び設置角度と、前記操作部により指定された前記物体の検出位置とに基づいて、前記推論処理の精度を向上させるための指示情報をユーザに報知する報知部
として機能させるための画像分析プログラム。 - 前記学習済物体検出用ニューラルネットワークモデルによる検出物体は、人又は顔であり、
前記指示情報は、前記学習済物体検出用ニューラルネットワークモデルによって前記人又は顔を検出するのに適した設置位置又は設置角度に前記カメラを動かすことを、前記ユーザに促す指示情報であることを特徴とする請求項1に記載の画像分析プログラム。 - 前記報知部は、前記指示情報を前記表示装置に表示することにより、前記指示情報をユーザに報知することを特徴とする請求項1又は請求項2に記載の画像分析プログラム。
- カメラを備えた情報処理端末を、
前記カメラからの入力画像に人又は顔の画像を重畳させる画像重畳部と、
前記画像重畳部により重畳させた人又は顔の画像を、1つ以上の学習済ニューラルネットワークモデルを用いて分析する画像分析部と、
前記1つ以上の学習済ニューラルネットワークモデルのうち、いずれかの学習済ニューラルネットワークモデルによる推論処理の精度を測定する推論精度測定部と、
前記推論精度測定部により測定された推論処理の精度に基づいて、この推論処理の精度を向上させるための指示情報をユーザに報知する報知部
として機能させるための画像分析プログラム。 - 前記指示情報は、前記いずれかの学習済ニューラルネットワークモデルによる推論処理を行うのに適した設置位置又は設置角度に前記カメラを動かすことを、前記ユーザに促す指示情報であることを特徴とする請求項4に記載の画像分析プログラム。
- 前記報知部は、前記指示情報を表示装置に表示することにより、前記指示情報をユーザに報知することを特徴とする請求項4又は請求項5に記載の画像分析プログラム。
- 前記画像重畳部は、前記入力画像に重畳させる人又は顔の画像における人の属性及び数を、種々の属性及び数に経時的に変化させ、
前記画像分析部は、前記経時的に変化させた属性及び数の人又は顔の画像を前記入力画像に重畳させた種々の画像を、次々に分析し、
前記報知部は、前記経時的に変化させた属性及び数の人又は顔の画像を前記入力画像に重畳させた種々の画像について、前記推論精度測定部により測定された推論処理の精度に基づいて、前記推論処理の精度を向上させるための指示情報をユーザに報知することを特徴とする請求項4乃至請求項6のいずれか一項に記載の画像分析プログラム。 - カメラと、
前記カメラからの入力画像に映り込んだ物体を検出するための学習済物体検出用ニューラルネットワークモデルを含む、1つ以上の学習済ニューラルネットワークモデルを用いて、前記カメラからの入力画像を分析する画像分析部と、
前記1つ以上の学習済ニューラルネットワークモデルのうち、いずれかの学習済ニューラルネットワークモデルによる推論処理の精度を測定する推論精度測定部と、
前記カメラの設置位置及び設置角度を推定するカメラ位置方向推定部と、
前記カメラからの入力画像を表示するための表示装置と、
前記表示装置に表示された前記カメラからの入力画像に対して、前記物体の検出位置を指定するための操作部と、
前記推論精度測定部による測定の結果、測定した推論処理の精度が所定の値に満たない場合、前記カメラ位置方向推定部により推定された前記カメラの設置位置及び設置角度と、前記操作部により指定された前記物体の検出位置とに基づいて、前記推論処理の精度を向上させるための指示情報をユーザに報知する報知部とを備える情報処理端末。 - 前記学習済物体検出用ニューラルネットワークモデルによる検出物体は、人又は顔であり、
前記指示情報は、前記学習済物体検出用ニューラルネットワークモデルによって前記人又は顔を検出するのに適した設置位置又は設置角度に前記カメラを動かすことを、前記ユーザに促す指示情報であることを特徴とする請求項8に記載の情報処理端末。 - 前記報知部は、前記指示情報を前記表示装置に表示することにより、前記指示情報をユーザに報知することを特徴とする請求項9に記載の情報処理端末。
- 前記操作部は、ポインティングデバイスであり、
前記報知部は、前記推論精度測定部により測定された推論処理の精度に加えて、前記カメラ位置方向推定部により推定された前記カメラの設置位置及び設置角度と、前記ポインティングデバイスにより指定された前記人又は顔の検出位置とに基づいて、前記指示情報を求めることを特徴とする請求項10に記載の情報処理端末。 - カメラと、
前記カメラからの入力画像に人又は顔の画像を重畳させる画像重畳部と、
前記画像重畳部により重畳させた人又は顔の画像を、1つ以上の学習済ニューラルネットワークモデルを用いて分析する画像分析部と、
前記1つ以上の学習済ニューラルネットワークモデルのうち、いずれかの学習済ニューラルネットワークモデルによる推論処理の精度を測定する推論精度測定部と、
前記推論精度測定部により測定された推論処理の精度に基づいて、この推論処理の精度を向上させるための指示情報をユーザに報知する報知部とを備える情報処理端末。 - 前記指示情報は、前記いずれかの学習済ニューラルネットワークモデルによる推論処理を行うのに適した設置位置又は設置角度に前記カメラを動かすことを、前記ユーザに促す指示情報であることを特徴とする請求項12に記載の情報処理端末。
- 前記情報処理端末は、前記カメラからの入力画像を表示する表示装置をさらに備え、
前記報知部は、前記指示情報を前記表示装置に表示することにより、前記指示情報をユーザに報知することを特徴とする請求項13に記載の情報処理端末。 - 前記画像重畳部は、前記入力画像に重畳させる人又は顔の画像における人の属性及び数を、種々の属性及び数に経時的に変化させ、
前記画像分析部は、前記経時的に変化させた属性及び数の人又は顔の画像を前記入力画像に重畳させた種々の画像を、次々に分析し、
前記報知部は、前記経時的に変化させた属性及び数の人又は顔の画像を前記入力画像に重畳させた種々の画像について、前記推論精度測定部により測定された推論処理の精度に基づいて、前記推論処理の精度を向上させるための指示情報をユーザに報知することを特徴とする請求項12乃至請求項14のいずれか一項に記載の情報処理端末。 - 前記請求項8乃至請求項15のいずれか一項に記載の情報処理端末と、
前記情報処理端末への前記学習済ニューラルネットワークモデルのインストールを含む、前記情報処理端末の管理を行う管理サーバとを備える画像分析システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019089608 | 2019-05-10 | ||
JP2019089608 | 2019-05-10 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6651086B1 true JP6651086B1 (ja) | 2020-02-19 |
JP2020188449A JP2020188449A (ja) | 2020-11-19 |
Family
ID=69568332
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019178900A Active JP6651086B1 (ja) | 2019-05-10 | 2019-09-30 | 画像分析プログラム、情報処理端末、及び画像分析システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6651086B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022134067A1 (zh) * | 2020-12-25 | 2022-06-30 | 深圳市优必选科技股份有限公司 | 多任务识别模型的训练方法、系统及存储介质 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220148801A1 (en) | 2020-11-12 | 2022-05-12 | Shin-Etsu Chemical Co., Ltd. | Method for Manufacturing Rare Earth Sintered Magnet |
JP7159503B1 (ja) | 2022-08-24 | 2022-10-24 | セーフィー株式会社 | 情報処理システム、情報処理方法、及び情報処理プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5325251B2 (ja) * | 2011-03-28 | 2013-10-23 | 株式会社日立製作所 | カメラ設置支援方法、画像認識方法 |
JP6115932B2 (ja) * | 2012-09-20 | 2017-04-19 | 株式会社エクシング | 音発生装置及び音発生用プログラム |
JP6633462B2 (ja) * | 2016-06-29 | 2020-01-22 | 株式会社東芝 | 情報処理装置および情報処理方法 |
-
2019
- 2019-09-30 JP JP2019178900A patent/JP6651086B1/ja active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022134067A1 (zh) * | 2020-12-25 | 2022-06-30 | 深圳市优必选科技股份有限公司 | 多任务识别模型的训练方法、系统及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
JP2020188449A (ja) | 2020-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110348543B (zh) | 眼底图像识别方法、装置、计算机设备及存储介质 | |
JP6651086B1 (ja) | 画像分析プログラム、情報処理端末、及び画像分析システム | |
CN113364971B (zh) | 图像处理方法和装置 | |
CN110807361B (zh) | 人体识别方法、装置、计算机设备及存储介质 | |
KR20160144851A (ko) | 이미지를 처리하는 전자 장치 및 그 제어 방법 | |
CN113569614A (zh) | 虚拟形象生成方法、装置、设备及存储介质 | |
CN112287852B (zh) | 人脸图像的处理方法、显示方法、装置及设备 | |
KR20160092256A (ko) | 이미지 처리 방법 및 이를 지원하는 전자 장치 | |
KR20190030140A (ko) | 시선 추적 방법 및 이를 수행하기 위한 사용자 단말 | |
CN108881544A (zh) | 一种拍照的方法及移动终端 | |
CN114026606A (zh) | 用于动态遮挡的快速手部网格划分 | |
CN116048244A (zh) | 一种注视点估计方法及相关设备 | |
WO2019000464A1 (zh) | 一种图像显示方法、装置、存储介质和终端 | |
WO2022057384A1 (zh) | 拍摄方法和装置 | |
CN112818733B (zh) | 信息处理方法、装置、存储介质及终端 | |
US11846783B2 (en) | Information processing apparatus, information processing method, and program | |
CN111753813A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN111353513B (zh) | 一种目标人群筛选的方法、装置、终端和存储介质 | |
CN112711335B (zh) | 虚拟环境画面的显示方法、装置、设备及存储介质 | |
CN109218620A (zh) | 基于环境亮度的拍照方法、装置、存储介质及移动终端 | |
CN108140124A (zh) | 提示信息确定方法、装置、电子设备和计算机程序产品 | |
WO2021244040A1 (zh) | 人脸表情编辑方法及电子设备 | |
CN115223248A (zh) | 手部姿态识别方法、手部姿态识别模型的训练方法及装置 | |
CN114359335A (zh) | 一种目标跟踪方法及电子设备 | |
CN112907702A (zh) | 图像处理方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191025 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20191025 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191028 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20191028 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191119 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191210 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6651086 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |