JP2020156033A - 情報処理装置及び情報処理方法 - Google Patents

情報処理装置及び情報処理方法 Download PDF

Info

Publication number
JP2020156033A
JP2020156033A JP2019054897A JP2019054897A JP2020156033A JP 2020156033 A JP2020156033 A JP 2020156033A JP 2019054897 A JP2019054897 A JP 2019054897A JP 2019054897 A JP2019054897 A JP 2019054897A JP 2020156033 A JP2020156033 A JP 2020156033A
Authority
JP
Japan
Prior art keywords
image
vehicle
user
information processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019054897A
Other languages
English (en)
Inventor
翔太 大久保
Shota Okubo
翔太 大久保
井上 裕史
Yasushi Inoue
裕史 井上
乘 西山
Nori Nishiyama
乘 西山
剛仁 寺口
Takehito Teraguchi
剛仁 寺口
雄宇 志小田
Yuu Shioda
雄宇 志小田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renault SAS
Nissan Motor Co Ltd
Original Assignee
Renault SAS
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renault SAS, Nissan Motor Co Ltd filed Critical Renault SAS
Priority to JP2019054897A priority Critical patent/JP2020156033A/ja
Publication of JP2020156033A publication Critical patent/JP2020156033A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】車内の個人情報またはプライバシーに係る情報の保護することができる情報処理装置及び情報処理方法を提供する。【解決手段】情報処理装置1は、車内に備えられた撮像装置によって撮像された車内の画像を車外に送信するコントローラ20を備える。コントローラ20は、画像の送信要求を受け付け、車内の所定オブジェクトを個人情報またはプライバシーの保護対象として設定し、設定された保護対象が、画像に含まれる場合、保護対象が含まれる画像の領域に、保護対象を認知できないような加工を施し、加工が施された画像を車外に送信する。【選択図】図1A

Description

本発明は、情報処理装置及び情報処理方法に関する。
従来より、プローブカーによって撮影された画像中のプライバシー情報を保護するために、画像中のプライバシー情報に画像処理を施す技術が知られている(特許文献1)。特許文献1に記載された発明は、画像を縦方向に対し2つの領域に区画し、画像下部に含まれる他車のナンバープレートに画像処理を施す。
特開2006−178825号公報
しかしながら、特許文献1に記載された発明は、車外のプライバシー情報の保護について言及しているものの、車内のプライバシー情報の保護について何ら言及していない。車内の情報(プライバシー情報を含む)を外部と共有する際に、特許文献1に記載された発明では車内のプライバシー情報を保護できないおそれがある。
本発明は、上記問題に鑑みて成されたものであり、その目的は、車内の個人情報またはプライバシーに係る情報の保護することができる情報処理装置及び情報処理方法を提供することである。
本発明の一態様に係る情報処理装置は、車内に備えられた撮像装置によって撮像された車内の画像を車外に送信するコントローラを備える。コントローラは、画像の送信要求を受け付け、車内の所定オブジェクトを個人情報またはプライバシーの保護対象として設定し、設定された保護対象が、画像に含まれる場合、保護対象が含まれる画像の領域に、保護対象を認知できないような加工を施し、加工が施された画像を車外に送信する。
本発明によれば、車内の個人情報またはプライバシーに係る情報の保護することができる。
図1Aは、本発明の第1実施形態に係る情報処理装置の構成例を示すブロック図である。 図1Bは、本発明の第1実施形態に係る情報処理装置の構成例を示すブロック図である。 図2は、オブジェクトの検出方法の一例を説明する図である。 図3Aは、オブジェクトの検出方法の他の例を説明する図である。 図3Bは、オブジェクトの検出方法の他の例を説明する図である。 図3Cは、オブジェクトの検出方法の他の例を説明する図である。 図4は、映像加工の一例を説明する図である。 図5は、オブジェクトの検出方法の他の例を説明する図である。 図6は、オブジェクトの検出方法の他の例を説明する図である。 図7は、本発明の第1実施形態に係る情報処理装置の動作例を説明するフローチャートである。 図8は、本発明の第1実施形態に係る情報処理装置の動作例を説明するフローチャートである。 図9は、本発明の第2実施形態に係る情報処理装置の構成例を示すブロック図である。 図10は、本発明の第2実施形態に係る情報処理装置の動作例を説明するフローチャートである。
以下、本発明の実施形態について、図面を参照して説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
(第1実施形態)
(情報処理装置の構成例)
図1A及び図1Bを参照して、本実施形態に係る情報処理装置1の構成例について説明する。図1に示すように、情報処理装置1は、カメラ10(撮像装置)と、コントローラ20と、記憶装置11と、ディスプレイ12と、を備える。
カメラ10は、車内に設置され、定点から車内を撮像する。カメラ10は、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を有するものであればよく、ドライブレコーダーのカメラでもよく、携帯端末(例えばスマートフォン)のカメラでもよい。カメラ10によって撮像された画像は、コントローラ20に出力される。本実施形態において、カメラ10によって撮像された画像とは、動画及び静止画を含む。また、動画は映像と表現されてもよい。
本実施形態では、車内の映像(動画)を外部と共有するシーンを想定する。具体的には、車内のユーザと、車外のユーザまたは遠隔から車内へのサービスを提供するサービス提供者などが、リアルタイムで車内の映像を共有するシーンを想定する。本実施形態では、共有される情報は、車内の映像として説明するが、これに限定されない。共有される情報は、車内の静止画でもよい。
コントローラ20は、CPU(中央処理装置)、メモリ、及び入出力部を備える汎用のマイクロコンピュータである。マイクロコンピュータには、情報処理装置1として機能させるためのコンピュータプログラムがインストールされている。コンピュータプログラムを実行することにより、マイクロコンピュータは、情報処理装置1が備える複数の情報処理回路として機能する。なお、ここでは、ソフトウェアによって情報処理装置1が備える複数の情報処理回路を実現する例を示すが、もちろん、以下に示す各情報処理を実行するための専用のハードウェアを用意して、情報処理回路を構成することも可能である。また、複数の情報処理回路を個別のハードウェアにより構成してもよい。コントローラ20は、複数の情報処理回路の一例として、要求受付部21と、加工受付部22と、設定部23と、送信部24と、追跡部25と、画像処理部26と、を備える。
記憶装置11は、コントローラ20のメモリとは異なる記憶装置であり、例えばハードディスク、ソリッドステートドライブなどである。記憶装置11には、車内のユーザによる保護設定の履歴、既定オブジェクトなどが格納される。
ディスプレイ12は、カメラ10によって撮像された映像を表示する装置であり、例えばインストルメントパネルに設置されたディスプレイである。なお、ディスプレイ12は、ナビゲーション装置のディスプレイでもよく、ナビゲーション装置のディスプレイとは異なるディスプレイでもよい。また、ディスプレイ12は、画面上に圧力が加えられることにより、圧力が加えられた画面位置の情報を感知して信号として出力するタッチパネルである。
要求受付部21は、車外のユーザまたは遠隔から車内へのサービスを提供するサービス提供者などから、車内の映像の送信要求を受信する。例えば、要求受付部21は、車外のユーザが所持する携帯端末から発信された、車内の映像の送信要求に係る信号を受信する。あるいは、要求受付部21は、サービス提供者が使用するコンピュータから発信された、車内の映像の送信要求に係る信号を受信する。車内の映像の送信要求に係る信号を受信した要求受付部21は、ディスプレイ12にカメラ10によって撮像された現在の車内の映像を表示する。
加工受付部22は、要求受付部21によってディスプレイ12に表示された車内の映像を共有する際に、共有したくない情報が含まれているか否か、車内のユーザの判断結果を受け付ける。共有したくない情報とは、一例として、個人情報またはプライバシーに関する情報である。加工受付部22は、車内のユーザの判断結果を示す信号を設定部23に出力する。
設定部23は、加工受付部22から受信した信号に基づいて、カメラ10によって撮像された現在の車内の映像から保護対象となるオブジェクトを検出したり、映像の保護が十分か否か車内のユーザの判断結果を受け付けたりする。設定部23は、図1Bに示すように、設定読込部231、オブジェクト検出部232、領域選択部233、保護内容確認部234から構成される。
設定読込部231は、記憶装置11に記憶されている車内のユーザによる映像の保護設定の履歴を読み込む。保護設定の履歴とは、車内のユーザが過去に、個人情報またはプライバシーの保護対象として設定したオブジェクトの履歴である。設定読込部231は、記憶装置11から保護設定の履歴を読み込み、読み込んだ保護設定の履歴をオブジェクト検出部232に出力する。
オブジェクト検出部232は、設定読込部231から受信した保護設定の履歴に基づいて、カメラ10によって撮像された現在の車内の映像からオブジェクトを検出する。
領域選択部233は、オブジェクト検出部232によって検出されたオブジェクトとは別の、車内のユーザが保護したいオブジェクトの選択を受け付ける。
画像処理部26は、保護対象となるオブジェクトを車外のユーザなどが認知できないように、映像に加工を施す。
保護内容確認部234は、画像処理部26による加工によって映像が十分に保護されているか否か、車内のユーザの判断結果を受け付ける。
送信部24は、車内のユーザによって映像の送信が許可された場合、映像を車外のユーザが所持する携帯端末または遠隔から車内へのサービスを提供するサービス提供者が使用するコンピュータなどに送信する。
追跡部25は、映像が送信された後、保護対象となるオブジェクトを追跡して検出する。
(情報処理装置の動作例)
次に、図2〜図6を参照して、情報処理装置1の一動作例を説明する。
図2に示す映像30は、カメラ10によって撮像された現在の車内の映像である。映像30には、車内のユーザ40、携帯端末41、ナビゲーション装置42が写っている。
要求受付部21は、車外のユーザなどが所持する携帯端末から発信された、車内の映像の送信要求に係る信号を受信したとき、ディスプレイ12に映像30を表示する。なお、映像30の送信要求に係る信号は、車外から発信されるものに限定されない。例えば、車内のユーザ(ユーザ40も含む)が、ディスプレイ12を操作して、映像30の送信要求に係る信号を要求受付部21に送信してもよい。なお、以下において、車内のユーザとは、特に断らない限り、ユーザ40も含めて車両に乗車しているユーザを意味する。車内のユーザは、ユーザ40のみでもよく、複数でもよい。
ディスプレイ12に表示された映像30を見た車内のユーザは、映像30を外部に送信する際に映像30に共有したくない情報が含まれているか否かを判断する。共有したくない情報とは、一例として、個人情報またはプライバシーに関する情報である。個人情報とは、特定の個人を識別できる情報であり、例えば、個人の顔情報、個人の名前などである。プライバシーに関する情報とは、例えば個人の秘密情報であり、携帯端末41のメッセージアプリを用いたメッセージのやり取りが表示された画面などが該当する。また、ナビゲーション装置42に表示されたルート履歴なども個人の秘密情報に該当しうる。
一般に、個人情報またはプライバシーに関する情報は慎重に扱われるべきであり、個人情報またはプライバシーに関する情報の安易な共有は、好ましくない。そこで、本実施形態では、車内のユーザは、映像30を外部に送信する際に映像30に共有したくない情報が含まれているか否かを判断する。より詳しくは、ディスプレイ12に映像30が表示された後、加工受付部22は、個人情報またはプライバシーの保護の観点から、映像30に共有したくない情報が存在するか否か、車内のユーザの判断結果を受け付ける。例えば、加工受付部22は、ディスプレイ12に「映像を保護しますか?」というテキストを表示して、車内のユーザに保護の判断を促すことができる。なお、加工受付部22は、スピーカを用いて音声で「映像を保護しますか?」と車内のユーザに尋ねてもよい。
加工受付部22からの問いかけを受けた車内のユーザは、ディスプレイ12を操作して、映像30を保護するか否かを判断する。例えば、車内のユーザはディスプレイ12に表示された「はい」、「いいえ」のどちらか一方のテキストを選択することにより、映像30を保護するか否かを判断する。車内のユーザが、ディスプレイ12に表示された「はい」のテキストを選択し、映像30を保護すると判断した場合、判断結果に係る信号が設定部23に送信される。判断結果に係る信号を受信した設定部23は、映像30から個人情報またはプライバシーの保護対象となるオブジェクトを検出する。オブジェクトを検出する際に、設定読込部231は、記憶装置11に記憶されている車内のユーザによる映像30の保護設定の履歴を読み込む。
ここでは一例として、保護設定の履歴には、人物の身体(顔、胴体、腕、及び足)、携帯端末41、ナビゲーション装置42が含まれていると仮定する。設定読込部231は、記憶装置11から保護設定の履歴を読み込み、読み込んだ保護設定の履歴をオブジェクト検出部232に出力する。保護設定の履歴を受信したオブジェクト検出部232は、映像30から保護設定の履歴に係るオブジェクト、つまり、ユーザ40の身体、携帯端末41、ナビゲーション装置42を検出する。また、よりプライバシーの保護を広く行うべく、LCDや有機ELパネルなどの表示部を備える表示装置を保護設定対象としてもよい。このような表示装置の一例として、左右のドアミラーの映像を表示する表示装置が挙げられる。ここでいう表示装置は、ディスプレイ12及びナビゲーション装置42のディスプレイとは異なる表示装置である。
オブジェクトの検出方法として、例えばエッジ検出を用いる方法が挙げられる。エッジ検出は、映像30の中から色変化の大きな箇所(エッジ)を検出する方法であり、例えば、Canny法、Sobel法、又はLaplacian法などの種々の方法が知られている。
オブジェクト検出部232は、映像30にエッジ検出を施すことによって、オブジェクトの輪郭を検出する。オブジェクト検出部232は、ユーザ40の身体、携帯端末41、ナビゲーション装置42の輪郭をエッジ画素として検出し、検出したエッジ画素によって囲まれた領域をオブジェクトとして認識する。
なお、オブジェクトの検出方法は、エッジ検出を利用した方法に限られない。例えば、オブジェクト検出部232は、物体認識方法を用いて、映像30からオブジェクトを検出してもよい。物体認識方法としては、例えば、映像中の特徴量から物体を認識するBoVW(Bag of Visual Words)法を利用してもよいし、種々のオブジェクトの基本形状を学習させた学習データと比較してオブジェクトを認識するパターンマッチング法を利用してもよい。パターンマッチング法を用いる場合、オブジェクト検出部232は記憶装置11に記憶された学習データを読み出して比較すればよい。
オブジェクト検出部232は、上述の方法を用いてオブジェクトを検出する。図2に示すように、オブジェクト検出部232がオブジェクトとして、ユーザ40の顔、胴体、腕、足、携帯端末41、及びナビゲーション装置42を検出した場合、オブジェクト検出部232はこれらのオブジェクトを示す枠線をディスプレイ12に表示する。図2に示す枠線50〜55は、オブジェクト検出部232によって検出されたオブジェクトを示す線である。枠線50は、ユーザ40の顔を示す。枠線51は、ユーザ40の胴体を示す。枠線52は、ユーザ40の腕を示す。枠線53は、ユーザ40の足を示す。枠線54は、携帯端末41を示す。枠線55は、ナビゲーション装置42を示す。オブジェクト検出部232によって検出されたオブジェクトを示す枠線50〜55がディスプレイ12に表示されることにより、車内のユーザは、保護対象となるオブジェクトを一目で確認することができる。
なお、初めて映像30を共有する場合などにおいては、保護設定の履歴は存在しない。保護設定の履歴が存在しない場合、オブジェクト検出部232は、予め記憶装置11に登録された(決定された)既定オブジェクトを用いてオブジェクトを検出してもよい。既定オブジェクトとは、一般に保護することが好ましいと想定されるオブジェクトであり、例えば、人物の身体、携帯端末41、ナビゲーション装置42が含まれる。
なお、オブジェクト検出部232はテキスト情報を用いて、検出するオブジェクトを車内のユーザに選択させてもよい。具体的には、オブジェクト検出部232はディスプレイ12に「人物の顔」、「携帯端末」、「ナビゲーション装置」というテキストを表示する。そして、オブジェクト検出部232は、車内のユーザが選択したテキストに対応するオブジェクトを映像30から検出する。例えば、車内のユーザが「人物の顔」というテキストを選択した場合、オブジェクト検出部232はユーザ40の顔を映像30から検出する。なお、オブジェクト検出部232は、車内のユーザが複数のテキスト(例えば「人物の顔」、「携帯端末」、「ナビゲーション装置」)を選択した場合、選択された複数のテキストに対応するオブジェクトを映像30から検出する。
なお、過去の履歴のオブジェクト、予め登録された既定オブジェクトの他に、車内のユーザが保護したいオブジェクトが映像30に含まれる場合がある。このため、オブジェクト検出部232によってオブジェクトが検出された後、領域選択部233は、他に保護したいオブジェクトが映像30に含まれるか否か、車内のユーザの判断結果を受け付ける。例えば、領域選択部233は、ディスプレイ12に「他のオブジェクトを保護しますか?」というテキストを表示して、車内のユーザに判断を促すことができる。なお、領域選択部233は、スピーカを用いて音声で「他のオブジェクトを保護しますか?」と車内のユーザに尋ねてもよい。
ここで、オブジェクト検出部232によって検出されたオブジェクトとは別の、車内のユーザが保護したいオブジェクトが、図3Aに示すオブジェクト60であると仮定する。領域選択部233からの問いかけを受けた車内のユーザは、オブジェクト60を保護するためにディスプレイ12を操作して、映像30のオブジェクト60を選択する。オブジェクト60の選択方法として、例えば図3Aに示すように、車内のユーザはオブジェクト60を指で囲むことによりオブジェクト60を選択することができる。図3Aに示す線61は、車内のユーザの指の軌跡を示す。あるいは、図3Bに示すように、車内のユーザはオブジェクト60を塗りつぶすことでオブジェクト60を選択してもよい。あるいは、図3Cに示すように、車内のユーザは予め用意された円形状のフレーム62をディスプレイ上で移動させてオブジェクト60を選択してもよい。なお、フレームは、円形状に限定されず、四角形状でもよく、その他の形状でもよい。
車内のユーザによってオブジェクト60が選択されると、選択されたことを示す信号が領域選択部233に出力される。選択されたことを示す信号を受信した領域選択部233は、図4に示すように、オブジェクト60を示す枠線56をディスプレイ12に表示する。これにより、ディスプレイ12には、図4に示すように、オブジェクト検出部232によって検出されたオブジェクトを示す枠線50〜55、及び車内のユーザによって追加で選択されたオブジェクト60を示す枠線56が表示される。これにより、車内のユーザは、保護対象となるオブジェクトを一目で確認することができる。車内のユーザによって選択されたオブジェクト60は、車両のユーザによる保護設定の履歴として記憶装置11に格納され、次回以降の共有の際に、設定読込部231によって読み出される。
なお、車内のユーザは、領域選択部233からの問いかけがなくても、オブジェクト検出部232によって検出されたオブジェクトとは別のオブジェクト60を選択してもよい。この場合、車内のユーザは、ディスプレイ12に表示された映像30のオブジェクト60を図3A〜図3Cに示すように選択すればよい。車内のユーザの選択を検知した領域選択部233の動作は、上述と同じである。
保護したいオブジェクトの選択が完了した後、画像処理部26は、保護対象となるオブジェクトを車外のユーザなどが認知できないように、映像30に加工を施す。例えば、画像処理部26は、図4に示すように、枠線50〜56で囲まれた領域を塗りつぶす。これにより、映像30が共有された際に、車外のユーザなどによってオブジェクトが認知されることは防止される。これにより、個人情報またはプライバシーに関する情報は保護される。なお、映像30の加工方法は、塗りつぶしに限定されない。例えば、画像処理部26は、枠線50〜56で囲まれた領域にモザイクをかけてもよく、枠線50〜56で囲まれた領域を別画像で置き換えてもよい。別画像とは例えば、人物、携帯端末などを模式的に示すアバタである。あるいは、画像処理部26は、加工を施す領域を、保護対象が存在しない状態の同一領域の画像で置換してもよい。なお、画像処理部26は、車内のユーザに好みの加工を選択させ、選択された加工を施してもよい。
次に保護内容確認部234は、画像処理部26によって加工が施される前の映像30(図2の上側の映像)と、画像処理部26によって加工が施された後の映像30(図4の下側の映像)の両方をディスプレイ12に表示する。そして、保護内容確認部234は、映像30の保護が十分か否か、車内のユーザの判断結果を受け付ける。例えば、保護内容確認部234は、ディスプレイ12に「映像の保護は十分ですか?」というテキストを表示して、車内のユーザに判断を促すことができる。なお、保護内容確認部234は、スピーカを用いて音声で「映像の保護は十分ですか?」と車内のユーザに尋ねてもよい。
保護内容確認部234からの問いかけを受けた車内のユーザは、ディスプレイ12を操作して、映像30の保護が十分か否かを判断する。例えば、車内のユーザはディスプレイ12に表示された「はい」、「いいえ」のどちらか一方のテキストを選択することにより、映像30の保護が十分か否かを判断する。車内のユーザが、ディスプレイ12に表示された「はい」のテキストを選択し、映像30の保護は十分と判断した場合、判断結果に係る信号が保護内容確認部234に送信される。判断結果に係る信号を受信した保護内容確認部234は次に、映像30の送信を許可するか否か、車内のユーザの判断結果を受け付ける。例えば、保護内容確認部234は、ディスプレイ12に「映像の送信を許可しますか?」というテキストを表示して、車内のユーザに判断を促すことができる。なお、保護内容確認部234は、スピーカを用いて音声で「映像の送信を許可しますか?」と車内のユーザに尋ねてもよい。
保護内容確認部234からの問いかけを受けた車内のユーザは、ディスプレイ12を操作して、映像30の送信の可否を判断する。例えば、車内のユーザはディスプレイ12に表示された「許可する」、「許可しない」のどちらか一方のテキストを選択することにより、映像30の送信の可否を判断する。車内のユーザが、ディスプレイ12に表示された「許可する」のテキストを選択し、映像30の送信を許可した場合、判断結果に係る信号が送信部24に送信される。判断結果に係る信号を受信した送信部24は、映像30を車外のユーザが所持する携帯端末または遠隔から車内へのサービスを提供するサービス提供者が使用するコンピュータなどに送信する。これにより、映像30の共有が開始する。なお、車両と外部との通信方法は特に限定されないが、例えばインターネットが用いられる。
映像30が共有された後、追跡部25は、保護対象となるオブジェクトを追跡して検出する。その理由は、映像内において、保護対象となるオブジェクトが移動し、位置が変化する可能性があるからである。例えば、ユーザ40が携帯端末41を持ち上げた場合、ユーザ40の腕、携帯端末41は映像内で移動して位置が変化する。この場合、携帯端末41が、認知ができないように加工が施された領域から出てしまい、保護が不十分になる可能性がある。したがって、映像30が共有された後、追跡部25は、保護対象となるオブジェクトを追跡して検出する。具体的には、追跡部25は、映像のフレームごとに逐次保護対象となるオブジェクトを追跡して検出する。そして、画像処理部26は、追跡部25による追跡結果に基づいて、保護対象となるオブジェクトを車外のユーザなどが認知できないように、映像30に加工を施す。これにより、保護対象となるオブジェクトが映像内で移動したとしても、十分な保護が担保される。なお、共有される情報が静止画である場合、保護対象となるオブジェクトが移動することはないため、追跡部25による追跡は不要である。
なお、映像30が共有された後、車内のユーザが追加で保護したいオブジェクトが映る場合がある。この場合、車内のユーザは、図3A〜図3Cで説明した方法と同様の方法で追加で保護したいオブジェクトを選択することができる。車内のユーザによる追加の選択を検知した領域選択部233及び画像処理部26の動作は、上述と同じである。
なお、図2に示す例では、ユーザ40の顔、胴体、腕、足、携帯端末41、及びナビゲーション装置42がオブジェクトとして検出され、枠線50〜55がディスプレイ12に表示されるが、保護対象となるオブジェクトが密集しており、個別に保護対象となるオブジェクトを検出あるいは選択することが煩雑である場合は、図5に示すように、設定部23は保護対象となるオブジェクトを全て含む特定の領域70を設定してもよい。そして、設定された領域70に対し、画像処理部26が塗りつぶしなどの加工を施すことにより、個人情報またはプライバシーに関する情報は保護される。保護対象となるオブジェクトを一括して保護するその他の例として、設定部23は図6に示すように後部座席を一括して特定の領域として設定してもよい。
次に、図7〜図8のフローチャートを参照して、情報処理装置1の一動作例を説明する。
ステップS101において、要求受付部21は、車外のユーザなどが所持する携帯端末から発信された、車内の映像30の送信要求に係る信号を受信する。なお、要求受付部21は、車内のユーザによる映像30の送信要求に係る信号を受信してもよい。
処理はステップS103に進み、要求受付部21は、ディスプレイ12にカメラ10によって撮像された現在の車内の映像30を表示する。
処理はステップS105に進み、加工受付部22は、ディスプレイ12に「映像を保護しますか?」というテキストを表示して、車内のユーザに保護の判断を促す。車内のユーザが、映像30を保護すると判断した場合(ステップS105でYes)、処理はステップS201に進み、設定読込部231は、記憶装置11に記憶されている車内のユーザによる映像30の保護設定の履歴を読み込む(ステップS203)。なお、車内のユーザが、映像30を保護する必要はないと判断した場合(ステップS105でNo)、処理はステップS107に進む。
ステップS203で読み込まれた保護設定の履歴はオブジェクト検出部232に出力される。その後、処理はステップS205に進み、保護設定の履歴を受信したオブジェクト検出部232は、映像30から保護設定の履歴に係るオブジェクト、つまり、ユーザ40の身体、携帯端末41、ナビゲーション装置42を検出する(図2参照)。
一方、初めて映像30を共有する場合などにおいては、保護設定の履歴は存在しない。保護設定の履歴が存在しない場合(ステップS201でNo)、処理はステップS205に進み、オブジェクト検出部232は、予め記憶装置11に登録された既定オブジェクトを用いてオブジェクトを検出する。
オブジェクト検出部232によってオブジェクトが検出された後、処理はステップS207に進み、領域選択部233は、オブジェクト検出部232によって検出されたオブジェクトとは別に、車内のユーザが保護したいオブジェクトが映像30に含まれるか否か、車内のユーザの判断結果を受け付ける。車内のユーザによって図3A〜図3Cに示すようにオブジェクト60が選択されると(ステップS207でYes)、選択されたことを示す信号が領域選択部233に出力される(ステップS209)。
処理はステップS211に進み、オブジェクト検出部232によって検出されたオブジェクトを示す枠線50〜55、及び車内のユーザによって追加で選択されたオブジェクト60を示す枠線56が表示される(図4参照)。これにより、車内のユーザは、保護対象となるオブジェクトを一目で確認することができる。車内のユーザによって選択されたオブジェクト60は、車両のユーザによる保護設定の履歴として記憶装置11に格納され、次回以降の共有の際に、設定読込部231によって読み出される。次に画像処理部26は、保護対象となるオブジェクトを車外のユーザなどが認知できないように、枠線50〜56で囲まれた領域を塗りつぶす(図4参照)。
処理はステップS213に進み、保護内容確認部234は、画像処理部26によって加工が施される前の映像30(図2の上側の映像)と、画像処理部26によって加工が施された後の映像30(図4の下側の映像)の両方をディスプレイ12に表示する。そして、保護内容確認部234は、映像30の保護が十分か否か、車内のユーザの判断結果を受け付ける。車内のユーザが、映像30の保護は十分と判断した場合、処理はステップS107に進み、保護内容確認部234は、映像30の送信を許可するか否か、車内のユーザの判断結果を受け付ける。車内のユーザが、映像30の送信を許可した場合(ステップS107でYes)、送信部24は、映像30を車外のユーザが所持する携帯端末または遠隔から車内へのサービスを提供するサービス提供者が使用するコンピュータなどに送信する。これにより、映像30の共有が開始する(ステップS109)。なお、車内のユーザが、映像30の送信を許可しない場合(ステップS107でNo)、処理はステップS105に戻る。
ステップS109で映像30が共有された後、処理はステップS111に進み、追跡部25は、保護対象となるオブジェクトを追跡して検出する。映像内において、保護対象となるオブジェクトが移動し、位置が変化する可能性があるからである。その後処理はステップS113に進み、画像処理部26は、追跡部25による追跡結果に基づいて、保護対象となるオブジェクトを車外のユーザなどが認知できないように、映像30に加工を施す。これにより、保護対象となるオブジェクトが映像内で移動したとしても、十分な保護が担保される。
(作用効果)
以上説明したように、第1実施形態に係る情報処理装置1によれば、以下の作用効果が得られる。
情報処理装置1は、車内に備えられた撮像装置(カメラ10)によって撮像された車内の画像を車外に送信するコントローラ20を備える。コントローラ20は、画像の送信要求を受け付ける。なお、画像の送信要求は、車外のユーザまたは遠隔から車内へのサービスを提供するサービス提供者によって行われてもよく、車内のユーザによって行われてもよい。コントローラ20は、車内の所定オブジェクトを個人情報またはプライバシーの保護対象として設定する。例えば、コントローラ20は、車内の所定オブジェクトとして、人物の身体(顔、胴体、腕、及び足)、携帯端末、ナビゲーション装置を個人情報またはプライバシーの保護対象として設定する。これらのオブジェクトは、画像からエッジ検出などを用いて設定されてもよく、予め既定オブジェクトとして記憶装置11に登録されていてもよい。コントローラ20は、設定された保護対象が画像に含まれる場合、保護対象が含まれる画像の領域に、保護対象を認知できないような加工を施す。そして、コントローラ20は、加工が施された画像を車外に送信する。これにより、画像が外部と共有された際に車外のユーザなどによってオブジェクトが認知されることは防止される。これにより、個人情報またはプライバシーに関する情報は保護される。なお、上述したように、カメラ10によって撮像された車内の画像とは、動画及び静止画を含む。また、動画は映像と表現されてもよい。
また、情報処理装置1は、カメラ10によって撮像された画像(画像処理部26によって加工が施される前の画像)と、画像処理部26によって加工が施された後の画像の両方をディスプレイ12に表示する。車内のユーザは、撮像された画像と、加工が施された画像とを比較することにより、自身が望む保護が行われているか否かを容易に判断することができる。
また、情報処理装置1は、送信要求を受け付けたとき、撮像された画像をディスプレイ12に表示し、加工の要否を受け付ける。車内のユーザが画像を保護すると判断した場合は、画像に加工が施される。一方、車内のユーザが画像を保護する必要はないと判断した場合は、加工は施されない。このように情報処理装置1によれば、車内のユーザの意思に反した動作が防止される。
また、情報処理装置1は、加工が施された画像をディスプレイ12に表示させた後、車外への送信の許可を受け付ける。これにより、情報処理装置1は車内のユーザの承認を担保した状態で画像を車外に送信することができる。
また、情報処理装置1は、画像上における保護対象の移動が検出された場合、移動に追従して加工を行う。図2に示すようにユーザ40が携帯端末41を持ち上げた場合、ユーザ40の腕、携帯端末41は映像内で移動して位置が変化する。この場合、携帯端末41が、認知ができないように加工が施された領域から出てしまい、保護が不十分になる可能性がある。このため、画像上における保護対象の移動が検出された場合、情報処理装置1は、移動に追従して加工を行うことにより、保護対象が画像上で移動したとしても、十分な保護が担保される。
画像の加工方法として、保護対象が含まれる画像の領域を塗りつぶす、モザイクをかける、別画像に置き換えるなどが挙げられる。これらの加工は、少なくとも1つが施されれば足りる。なお、情報処理装置1は車内のユーザに好みの加工を選択させ、選択された加工を施してもよい。これにより、ユーザの嗜好に基づいた加工が施される。なお、情報処理装置1は複数の加工を同時に施してもよい。
また、情報処理装置1は、オブジェクト検出部232によって検出されたオブジェクトとは別に、車内のユーザが保護したいオブジェクトが画像に含まれるか否か、車内のユーザの判断結果を受け付ける。車内のユーザによって図3A〜図3Cに示すように追加のオブジェクト60が選択された場合、情報処理装置1は追加のオブジェクト60にも加工を施し、保護する。このように情報処理装置1によれば、車内のユーザが新たに保護したいオブジェクトも保護される。
(第2実施形態)
次に、図9を参照して、第2実施形態に係る情報処理装置2について説明する。第2実施形態に係る情報処理装置2が第1実施形態に係る情報処理装置1と相違する点は、情報処理装置2がマイク13を新たに備える点である。第1実施形態と重複する構成については符号を引用してその説明は省略する。以下、相違点を中心に説明する。
マイク13は、車内の設置され、保護対象となるオブジェクトから出力される音声を取得する。保護対象となるオブジェクトから出力される音声とは、具体的には車内のユーザが発する音声、携帯端末41から出力される音声、及びナビゲーション装置42から出力される音声である。マイク13は、取得した音声をコントローラ20に出力する。なお、カメラ10がマイク13としての機能を有してもよい。カメラ10がマイク13としての機能を有する場合、マイク13が車内に設置される必要はない。
個人情報またはプライバシーに関する情報には、車内のユーザが発する音声、携帯端末41から出力される音声、及びナビゲーション装置42から出力される音声も含まれる。携帯端末41から出力される音声には、電話時の相手方の音声も含まれるため、保護の必要性が高いと想定される。また、ナビゲーション装置42から出力される音声には、ルート案内に係る音声が含まれるため、保護の必要性が高いと想定される。
第2実施形態において、加工受付部22は、映像30の保護に加えて、保護対象となるオブジェクトから出力される音声について、共有したくない音声が含まれるか否か車内のユーザの判断結果を受け付ける。加工受付部22は、ディスプレイ12に「音声を保護しますか?」というテキストを表示して、車内のユーザに保護の判断を促すことができる。なお、加工受付部22は、スピーカを用いて音声で「音声を保護しますか?」と車内のユーザに尋ねてもよい。
加工受付部22からの問いかけを受けた車内のユーザは、ディスプレイ12を操作して、音声を保護するか否かを判断する。例えば、車内のユーザはディスプレイ12に表示された「はい」、「いいえ」のどちらか一方のテキストを選択することにより、音声を保護するか否かを判断する。車内のユーザが、ディスプレイ12に表示された「はい」のテキストを選択し、音声を保護すると判断した場合、判断結果に係る信号が画像処理部26に送信される。
第2実施形態において、画像処理部26は、画像に加工を施す機能に加え、保護対象となるオブジェクトから出力される音声に加工を施す機能も備える。加工受付部22から判断結果に係る信号を受信した画像処理部26は、保護対象となるオブジェクトから出力される音声に加工を施す。例えば、画像処理部26は、保護対象となるオブジェクトから出力される音声をカットする。これにより、共有先では音声が出力されないため、音声は保護される。あるいは、画像処理部26は、保護対象となるオブジェクトから出力される音声を違う音声に変換してもよい。これにより、共有先では発言している人物を特定することができなくなる。
次に、図10のフローチャートを参照して、情報処理装置2の一動作例を説明する。
ステップS401において、要求受付部21は、車外のユーザなどが所持する携帯端末から発信された、車内の映像30及び音声の送信要求に係る信号を受信する。なお、要求受付部21は、車内のユーザによる映像30及び音声の送信要求に係る信号を受信してもよい。
処理はステップS403に進み、要求受付部21は、ディスプレイ12にカメラ10によって撮像された現在の車内の映像30を表示する。さらに、要求受付部21は、マイク13によって取得された音声を車内のユーザに提供する。具体的には、要求受付部21は、スピーカを用いてマイク13によって取得された音声を車内のユーザに提供する。
処理はステップS405に進み、加工受付部22は、ディスプレイ12に「映像及び音声を保護しますか?」というテキストを表示して、車内のユーザに保護の判断を促す。車内のユーザが、映像30を保護すると判断した場合(ステップS405でYes)、処理はステップS201及びステップS407に進む。なお、映像30の処理については、図8に示すステップS201〜213と同じであるため、説明を省略する。
ステップS407において、画像処理部26は、保護対象となるオブジェクトから出力される音声をカットしたり、違う音声に変換したりして加工を施す。処理はステップS409に進み、画像処理部26は、加工を施した音声をユーザに提供する。
ステップS411〜417において、映像30の処理については、図7に示すステップS107〜113と同じであるため、説明を省略する。ここでは、音声の処理について説明する。
ステップS411において、保護内容確認部234は、音声の保護が十分か否か、車内のユーザの判断結果を受け付ける。車内のユーザが、音声の保護は十分と判断した場合、保護内容確認部234は次に、音声の送信を許可するか否か、車内のユーザの判断結果を受け付ける。車内のユーザが、音声の送信を許可した場合(ステップS411でYes)、送信部24は、音声を車外のユーザが所持する携帯端末または遠隔から車内へのサービスを提供するサービス提供者が使用するコンピュータなどに送信する。これにより、映像30及び音声の共有が開始する(ステップS413)。なお、車内のユーザが、音声の送信を許可しない場合(ステップS411でNo)、処理はステップS405に戻る。
ステップS413で音声が共有された後、処理はステップS415に進み、マイク13は、引き続き音声を取得する。その後処理はステップS417に進み、画像処理部26は、マイク13によって取得された音声に対し、加工を施し続ける。これにより、音声は保護される。
(作用効果)
以上説明したように、第2実施形態に係る情報処理装置2によれば、以下の作用効果が得られる。
情報処理装置2は、マイク13によって取得された、保護対象となるオブジェクトから出力される音声に加工を施す。例えば、情報処理装置2は、保護対象となるオブジェクトから出力される音声をカットする。これにより、共有先では音声が出力されないため、音声は保護される。また、情報処理装置2は、保護対象となるオブジェクトから出力される音声を違う音声に変換してもよい。これにより、共有先では発言している人物を特定することができなくなる。
(変形例)
次に、第1実施形態の変形例について説明する。第1実施形態では、カメラ10は定点から車内を撮像すると説明したが、これに限定されない。例えば、カメラ10はヘッドマウントディスプレイ(HMD)に設けられてもよい。ヘッドマウントディスプレイとは、頭部に装着するディスプレイ装置である。カメラ10がヘッドマウントディスプレイに設けられる場合、ヘッドマウントディスプレイを装着したユーザの頭部の動きによって、カメラ10の撮像範囲は変化する。この場合、カメラ10の撮像範囲は変化に応じて、オブジェクト検出部232は保護対象となるオブジェクトが検出し、画像処理部26は、保護対象となるオブジェクトを車外のユーザなどが認知できないように、映像30に加工を施す。
車外のユーザまたは遠隔から車内へのサービスを提供するサービス提供者が共有したい映像として、運転席の映像、助手席の映像、後部座席の映像など様々なニーズが想定される。カメラ10の撮像範囲が可変であれば、このようなニーズを満たすことができる。なお、カメラ10のヘッド部分が可動式であってもよい。これにより、カメラ10が設置される位置が固定であっても、ヘッド部分の動きによってカメラ10の撮像範囲は変化する。
上述の実施形態に記載される各機能は、1または複数の処理回路により実装され得る。処理回路は、電気回路を含む処理装置等のプログラムされた処理装置を含む。処理回路は、また、記載された機能を実行するようにアレンジされた特定用途向け集積回路(ASIC)や回路部品等の装置を含む。
上記のように、本発明の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
1、2 情報処理装置
10 カメラ
11 記憶装置
12 ディスプレイ
13 マイク
20 コントローラ
21 要求受付部
22 加工受付部
23 設定部
24 送信部
25 追跡部
26 画像処理部
231 設定読込部
232 オブジェクト検出部
233 領域選択部
234 保護内容確認部

Claims (10)

  1. 車内に備えられた撮像装置によって撮像された車内の画像を車外に送信するコントローラを備えた情報処理装置であって、
    前記コントローラは、
    前記画像の送信要求を受け付け、
    前記車内の所定オブジェクトを個人情報またはプライバシーの保護対象として設定し、
    設定された保護対象が、前記画像に含まれる場合、前記保護対象が含まれる前記画像の領域に、前記保護対象を認知できないような加工を施し、
    前記加工が施された画像を車外に送信する
    ことを特徴とする情報処理装置。
  2. 前記車内の所定オブジェクトは、前記車内に存在する表示装置、携帯端末またはナビゲーション装置である
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記撮像された画像と、前記加工が施された画像とを表示するディスプレイをさらに備える
    ことを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記コントローラは、前記送信要求を受け付けたとき、前記撮像された画像を前記ディスプレイに表示し、前記加工の要否を受け付ける
    ことを特徴とする請求項3に記載の情報処理装置。
  5. 前記コントローラは、前記加工が施された画像を前記ディスプレイに表示させた後、車外への送信の許可を受け付ける
    ことを特徴とする請求項3または4に記載の情報処理装置。
  6. 前記コントローラは、前記画像上における前記保護対象の移動が検出された場合、前記移動に追従して前記加工を施す
    ことを特徴とする請求項1〜5のいずれか1項に記載の情報処理装置。
  7. 前記コントローラは、前記加工として、前記保護対象が含まれる前記画像の領域を塗りつぶす、モザイクをかける、別画像に置き換える、の少なくともいずれか1つの加工を施す
    ことを特徴とする請求項1〜6のいずれか1項に記載の情報処理装置。
  8. 前記所定オブジェクトは予め決定されている、または、車内のユーザによって選択される
    ことを特徴とする請求項1〜7のいずれか1項に記載の情報処理装置。
  9. 前記コントローラは、前記所定オブジェクトから出力される音声を保護するための加工を施す
    ことを特徴とする請求項1〜8のいずれか1項に記載の情報処理装置。
  10. 車内に備えられた撮像装置によって撮像された車内の画像の送信要求を受け付け、
    前記車内の所定オブジェクトを個人情報またはプライバシーの保護対象として設定し、
    設定された保護対象が、前記画像に含まれる場合、前記保護対象が含まれる前記画像の領域に、前記保護対象を認知できないような加工を施し、
    前記加工が施された画像を車外に送信する
    ことを特徴とする情報処理方法。
JP2019054897A 2019-03-22 2019-03-22 情報処理装置及び情報処理方法 Pending JP2020156033A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019054897A JP2020156033A (ja) 2019-03-22 2019-03-22 情報処理装置及び情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019054897A JP2020156033A (ja) 2019-03-22 2019-03-22 情報処理装置及び情報処理方法

Publications (1)

Publication Number Publication Date
JP2020156033A true JP2020156033A (ja) 2020-09-24

Family

ID=72559987

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019054897A Pending JP2020156033A (ja) 2019-03-22 2019-03-22 情報処理装置及び情報処理方法

Country Status (1)

Country Link
JP (1) JP2020156033A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113709344A (zh) * 2021-08-25 2021-11-26 佛吉亚歌乐电子(丰城)有限公司 一种图像数据处理方法、装置、设备及存储介质
WO2023043032A1 (ko) * 2021-09-17 2023-03-23 삼성전자주식회사 전자 장치 및 그 제어 방법

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007213181A (ja) * 2006-02-08 2007-08-23 Advanced Telecommunication Research Institute International プライバシー保護画像生成装置
JP2008009761A (ja) * 2006-06-29 2008-01-17 Toyota Motor Corp 車内環境記録装置
WO2009001530A1 (ja) * 2007-06-22 2008-12-31 Panasonic Corporation カメラ装置、および、撮影方法
JP2009017358A (ja) * 2007-07-06 2009-01-22 Olympus Imaging Corp ネットサービス方法およびネットサービスシステム
JP2013118606A (ja) * 2011-10-31 2013-06-13 Jvc Kenwood Corp 画像処理装置、画像処理方法、画像処理プログラム
WO2017187811A1 (ja) * 2016-04-27 2017-11-02 ソニー株式会社 撮像制御装置及び撮像制御方法、並びに撮像装置
JP2018513804A (ja) * 2015-04-10 2018-05-31 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh プライバシが保護されたリモートビューシステム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007213181A (ja) * 2006-02-08 2007-08-23 Advanced Telecommunication Research Institute International プライバシー保護画像生成装置
JP2008009761A (ja) * 2006-06-29 2008-01-17 Toyota Motor Corp 車内環境記録装置
WO2009001530A1 (ja) * 2007-06-22 2008-12-31 Panasonic Corporation カメラ装置、および、撮影方法
JP2009017358A (ja) * 2007-07-06 2009-01-22 Olympus Imaging Corp ネットサービス方法およびネットサービスシステム
JP2013118606A (ja) * 2011-10-31 2013-06-13 Jvc Kenwood Corp 画像処理装置、画像処理方法、画像処理プログラム
JP2018513804A (ja) * 2015-04-10 2018-05-31 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh プライバシが保護されたリモートビューシステム
WO2017187811A1 (ja) * 2016-04-27 2017-11-02 ソニー株式会社 撮像制御装置及び撮像制御方法、並びに撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113709344A (zh) * 2021-08-25 2021-11-26 佛吉亚歌乐电子(丰城)有限公司 一种图像数据处理方法、装置、设备及存储介质
CN113709344B (zh) * 2021-08-25 2023-08-01 佛吉亚歌乐电子(丰城)有限公司 一种图像数据处理方法、装置、设备及存储介质
WO2023043032A1 (ko) * 2021-09-17 2023-03-23 삼성전자주식회사 전자 장치 및 그 제어 방법

Similar Documents

Publication Publication Date Title
KR101688168B1 (ko) 이동 단말기 및 그 제어방법
KR101751347B1 (ko) 이동 단말기 및 이의 제어방법
US9351141B2 (en) Headset computer with handsfree emergency response
KR20170055295A (ko) 이동 단말기 및 그 이동 단말기의 제어 방법
KR20180068127A (ko) 이동단말기 및 그 제어방법
KR20160029536A (ko) 이동 단말기 및 그것의 제어방법
CN105393522A (zh) 移动终端及其控制方法
CN108986766A (zh) 信息显示终端以及信息显示方法
KR20180023310A (ko) 이동 단말기 및 그 제어방법
KR20170027189A (ko) 이동 단말기 및 그 제어방법
CN105323372A (zh) 移动终端及其控制方法
KR20160019760A (ko) 이동 단말기 및 그것의 제어방법
KR20180040409A (ko) 이동 단말기 및 그 제어방법
JP2020156033A (ja) 情報処理装置及び情報処理方法
US11366326B2 (en) Method for operating a head-mounted electronic display device, and display system for displaying a virtual content
JP2017004354A (ja) 表示制御方法、表示制御プログラム、情報処理端末、及びウェアラブルデバイス
KR20190075673A (ko) 이동 단말기 및 그 제어방법
CN109828655A (zh) 车辆多荧幕控制系统及车辆多荧幕控制方法
KR20170020090A (ko) 이동 단말기 및 이의 제어방법
KR20160001229A (ko) 이동단말기 및 그 제어방법
CN111722401A (zh) 显示装置、显示控制方法以及显示系统
KR20170004706A (ko) 이동 단말기의 홍채 인식 장치 및 그 제어 방법
KR20160086160A (ko) 이동 단말기 및 그 제어 방법
KR20160055023A (ko) 이동 단말기 및 이동 단말기의 제어 방법
KR101614315B1 (ko) 웨어러블 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230929

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231107