JP7299262B2 - vehicle display - Google Patents

vehicle display Download PDF

Info

Publication number
JP7299262B2
JP7299262B2 JP2021050492A JP2021050492A JP7299262B2 JP 7299262 B2 JP7299262 B2 JP 7299262B2 JP 2021050492 A JP2021050492 A JP 2021050492A JP 2021050492 A JP2021050492 A JP 2021050492A JP 7299262 B2 JP7299262 B2 JP 7299262B2
Authority
JP
Japan
Prior art keywords
display
displayed
vehicle
party
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021050492A
Other languages
Japanese (ja)
Other versions
JP2022148706A (en
Inventor
夕紀 青木
尚 村山
康一 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2021050492A priority Critical patent/JP7299262B2/en
Priority to CN202210157374.9A priority patent/CN115123084A/en
Publication of JP2022148706A publication Critical patent/JP2022148706A/en
Application granted granted Critical
Publication of JP7299262B2 publication Critical patent/JP7299262B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0229Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0258Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for navigation systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0005Dashboard
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement

Description

本発明は、車両の運転席の乗員に対し情報を表示する車両用表示装置に関する。 The present invention relates to a vehicle display device that displays information to an occupant in a driver's seat of a vehicle.

この種の装置として、従来、車両の運転者に対し電話着信の情報を表示するようにした装置が知られている(例えば特許文献1参照)。この特許文献1記載の装置では、電話機能を有する携帯機器と連携し、携帯機器に電話着信があった場合に発信者の氏名や電話番号などの情報を車載装置に設けられた表示装置に表示する。 As a device of this type, there is conventionally known a device that displays information about an incoming call to the driver of a vehicle (see, for example, Patent Document 1). The device described in Patent Document 1 cooperates with a mobile device having a telephone function, and displays information such as the caller's name and phone number on the display device provided in the in-vehicle device when the mobile device receives an incoming call. do.

特開2016-163176号公報JP 2016-163176 A

近年、自動運転などの高度な運転支援を備えた車両が普及しつつある。このような車両では、車両の主なユーザである運転席の乗員に対し、ディスプレイ上の映像面を介して各種の情報を伝達することが、利便性を高める上で好ましい。 In recent years, vehicles equipped with advanced driving assistance such as automatic driving are becoming popular. In such a vehicle, it is preferable to transmit various kinds of information to an occupant in the driver's seat, who is the main user of the vehicle, via an image screen on the display in order to improve convenience.

本発明の一態様は、車両の運転席の乗員に対し情報を表示する車両用表示装置であって、通信ユニットと、運転席に対向し、かつ、車幅方向に延在して配置されるディスプレイと、通信ユニットを介して通話可能に、かつ、ディスプレイに通信ユニットを介して受信した通話相手からの映像を表示可能に構成された通話装置と、を備える。通話装置は、通信ユニットを介して通話相手からの着信時および通話相手への発信時、ディスプレイの車幅方向一方側に通話相手の情報が表示され、その後、乗員から通話の許可が指令されると、ディスプレイの車幅方向一方側に表示された通話相手の情報が車幅方向他方側に消えることなく表示されたまま移動し、さらにその後、ディスプレイの車幅方向一方側に通話相手の映像が表示されるように、ディスプレイを制御する表示制御部を有する。表示制御部は、通信ユニットを介した通話中、ディスプレイの車幅方向一方側に表示される通話相手の映像より運転席側に、通話相手との通話を仲介するAIエージェントを表現したエージェント画像が表示されるように、ディスプレイを制御し、エージェント画像は、AIエージェントが、乗員と通話相手との通話に介入して、乗員又は通話相手が発話したキーワードに関連するリコメンド情報を提供するように表示される。
One aspect of the present invention is a vehicle display device that displays information to an occupant in a driver's seat of a vehicle, wherein a communication unit is arranged facing the driver's seat and extending in the vehicle width direction. A display and a communication device configured to be able to talk via a communication unit and display an image received from a communication partner on the display via the communication unit. When the call device receives a call from or makes a call to the other party via the communication unit, the information of the other party is displayed on one side of the display in the vehicle width direction, and then the passenger issues a call permission command. Then, the information of the other party displayed on one side of the display in the vehicle width direction moves to the other side of the vehicle width direction without disappearing. It has a display control for controlling the display to be displayed. During a call via the communication unit, the display control unit displays an agent image representing an AI agent mediating a call with the other party on the driver's seat side of the image of the other party displayed on one side in the vehicle width direction of the display. As displayed, controlling the display, the agent image is displayed such that the AI agent intervenes in the call between the passenger and the other party and provides recommended information related to the keywords uttered by the passenger or the other party. be done.

本発明によれば、車両の運転席の乗員に対し好適に情報を表示することができる。 Advantageous Effects of Invention According to the present invention, information can be preferably displayed to an occupant in the driver's seat of a vehicle.

本発明の実施形態に係る車両用表示装置が適用される車両のインストルメントパネル周辺の構成の一例を示す図。1 is a diagram showing an example of a configuration around an instrument panel of a vehicle to which a vehicle display device according to an embodiment of the invention is applied; FIG. 本発明の実施形態に係る車両用表示装置の全体構成を概略的に示すブロック図。1 is a block diagram schematically showing the overall configuration of a vehicle display device according to an embodiment of the invention; FIG. ビデオ通話が開始されるときの、図1および図2のディスプレイの表示画面の一例を示す図。FIG. 3 shows an example of a display screen of the display of FIGS. 1 and 2 when a video call is started; FIG. ビデオ通話が許可されたときの、図1および図2のディスプレイの表示画面の一例を示す図。FIG. 3 shows an example of a display screen of the display of FIGS. 1 and 2 when a video call is permitted; FIG. ビデオ通話中の、図1および図2のディスプレイの表示画面の一例を示す図。3 shows an example of a display screen of the display of FIGS. 1 and 2 during a video call; FIG. ビデオ通話中の、図1および図2のディスプレイの表示画面の別の例を示す図。FIG. 3 illustrates another example display screen of the display of FIGS. 1 and 2 during a video call; 図1の車両の座席配置について説明するための上面図。FIG. 2 is a top view for explaining the seat arrangement of the vehicle in FIG. 1; ビデオ通話終了後の、図1および図2のディスプレイの表示画面の一例を示す図。FIG. 3 is a view showing an example of the display screen of the display of FIGS. 1 and 2 after the end of the video call; FIG. 本発明の実施形態に係る車両用表示装置により実行される処理の一例を示すフローチャート。4 is a flowchart showing an example of processing executed by the vehicle display device according to the embodiment of the present invention;

以下、図1~図9を参照して本発明の実施形態について説明する。本発明の実施形態に係る車両用表示装置は、運転席を有する車両に適用することができ、特に自動運転機能などの高度な運転支援機能を有する車両に適用することができる。このような車両には、運転者による運転操作が不要な自動運転モードでの走行のみを行う車両だけでなく、自動運転モードでの走行と運転者の運転操作による手動運転モードでの走行とを行う車両も含まれる。 An embodiment of the present invention will be described below with reference to FIGS. 1 to 9. FIG. A vehicle display device according to an embodiment of the present invention can be applied to a vehicle having a driver's seat, and in particular to a vehicle having advanced driving support functions such as an automatic driving function. Such vehicles include not only vehicles that only run in an automated driving mode that does not require any driving operation by the driver, but also vehicles that can run in both an automated driving mode and a manual driving mode operated by the driver. It also includes vehicles that do.

図1は、本発明の実施形態に係る車両用表示装置が適用される車両1のインストルメントパネル1a周辺の構成の一例を示す図である。図1に示すように、インストルメントパネル1aは車内の前方に配置され、インストルメントパネル1aには、メータ表示ディスプレイ2と、ミラー表示ディスプレイ3R,3Lと、情報表示ディスプレイ(以下、単に「ディスプレイ」と称する)4とが設けられる。 FIG. 1 is a diagram showing an example of a configuration around an instrument panel 1a of a vehicle 1 to which a vehicle display device according to an embodiment of the invention is applied. As shown in FIG. 1, an instrument panel 1a is arranged in front of the vehicle, and includes a meter display 2, mirror displays 3R and 3L, and an information display (hereinafter simply referred to as "display"). ) 4 are provided.

メータ表示ディスプレイ2は、インストルメントパネル1a上の運転席(図1の例では、車幅方向右側)正面に配置され、車速など車両1の状態に関する情報を表示する。ミラー表示ディスプレイ3L,3Rは、インストルメントパネル1a上の車幅方向左端および右端にそれぞれ配置され、車両1の左後方および右後方を映す左右のミラーに対応した映像などを表示する。ディスプレイ4は、メータ表示ディスプレイ2とミラー表示ディスプレイ3Lとの間のインストルメントパネル1a上の車幅方向中央付近に、車幅方向に延在して配置され、乗員に対し、各種の情報を表示する。 The meter display 2 is arranged in front of the driver's seat (the right side in the vehicle width direction in the example of FIG. 1) on the instrument panel 1a, and displays information regarding the state of the vehicle 1 such as vehicle speed. The mirror displays 3L and 3R are arranged at the left and right ends of the instrument panel 1a in the vehicle width direction, respectively, and display images corresponding to the left and right rear mirrors of the vehicle 1, respectively. The display 4 is arranged extending in the vehicle width direction near the center in the vehicle width direction on the instrument panel 1a between the meter display 2 and the mirror display 3L, and displays various information to the occupant. do.

インストルメントパネル1aの運転席付近には、さらに、運転席の乗員に対し音声を出力するスピーカ5、運転席の乗員を撮像する車内カメラ6、運転席の乗員からの音声入力を受け付けるマイクなどの入力部7が設けられる(図2)。入力部7は、マイクに加え、操作入力を受け付けるタッチパネルやボタンなどを含んで構成されてもよい。 In the vicinity of the driver's seat on the instrument panel 1a, a speaker 5 for outputting voice to the driver's seat occupant, an in-vehicle camera 6 for capturing an image of the driver's seat occupant, a microphone for receiving voice input from the driver's seat occupant, etc. An input section 7 is provided (FIG. 2). The input unit 7 may include a touch panel, buttons, and the like for receiving operation input in addition to the microphone.

ディスプレイ4には、入力部7を介して入力された乗員からの指令に応じて、各種の情報が表示される。例えば、車両1の目的地の設定や、設定された目的地までの経路の案内等を行うナビゲーション画面、インターネット回線を利用するビデオチャットや電話回線を利用するテレビ電話等を行うビデオ通話画面などが表示される。以下では、特に、ビデオ通話画面について説明する。 Various types of information are displayed on the display 4 according to commands from the passenger input via the input unit 7 . For example, a navigation screen for setting the destination of the vehicle 1, guidance on the route to the set destination, etc., a video call screen for video chat using the Internet line, video call using the telephone line, etc. Is displayed. In the following, the video call screen will be described in particular.

図2は、本発明の実施形態に係る車両用表示装置100の全体構成を概略的に示すブロック図である。図2に示すように、車両用表示装置100は、ディスプレイ4と、スピーカ5と、車内カメラ6と、入力部7と、通信ユニット8と、通話装置10とを備える。 FIG. 2 is a block diagram schematically showing the overall configuration of the vehicle display device 100 according to the embodiment of the invention. As shown in FIG. 2 , the vehicle display device 100 includes a display 4 , a speaker 5 , an in-vehicle camera 6 , an input section 7 , a communication unit 8 and a communication device 10 .

通話装置10は、CPUなどの演算部11と、ROM,RAMなどの記憶部12と、I/Oインターフェースなどの図示しないその他の周辺回路とを有するコンピュータを含んで構成される。記憶部12には、各種制御のプログラムやプログラムで用いられる閾値などの情報が記憶される。演算部11は、機能的構成として、ディスプレイ4を制御する表示制御部13を有する。 The communication device 10 includes a computer having an arithmetic section 11 such as a CPU, a storage section 12 such as ROM and RAM, and other peripheral circuits (not shown) such as an I/O interface. The storage unit 12 stores information such as various control programs and threshold values used in the programs. The computing unit 11 has, as a functional configuration, a display control unit 13 that controls the display 4 .

通信ユニット8は、インターネット網や携帯電話網等に代表される無線通信網を含むネットワークを介して車外の端末装置と通信可能に構成される。ネットワークには、公衆無線通信網だけでなく、所定の管理地域ごとに設けられた閉鎖的な通信網、例えば無線LAN、Wi-Fi(登録商標)、Bluetooth(登録商標)なども含まれる。 The communication unit 8 is configured to be able to communicate with a terminal device outside the vehicle via a network including a wireless communication network such as the Internet network and a mobile phone network. The network includes not only a public wireless communication network but also a closed communication network provided for each predetermined management area, such as wireless LAN, Wi-Fi (registered trademark), Bluetooth (registered trademark), and the like.

通信ユニット8を介し、入力部7を介して入力された乗員からの指令に応じて、車内カメラ6および入力部7を介して取得された画像および音声の情報を車外の端末装置に送信することができる。また、通信ユニット8を介して車外の端末装置から受信した情報に基づいて、ディスプレイ4に画像を表示し、スピーカ5から音声を出力することができる。 Transmitting image and audio information obtained through the in-vehicle camera 6 and the input unit 7 to a terminal device outside the vehicle in accordance with commands from the occupant input through the input unit 7 via the communication unit 8. can be done. Further, based on information received from a terminal device outside the vehicle via the communication unit 8, an image can be displayed on the display 4 and sound can be output from the speaker 5. FIG.

通話装置10は、スピーカ5、入力部7、および通信ユニット8を介して通話可能に、かつ、ディスプレイ4に通信ユニット8を介して受信した通話相手からの映像を表示可能に構成される。運転席の乗員は、通話装置10を介してビデオ通話を行うことができる。表示制御部13は、入力部7を介して入力される乗員からの指令に応じ、記憶部12に記憶されたプログラムおよび通信ユニット8を介して取得された情報に基づいて、ディスプレイ4を制御する。 The communication device 10 is configured to be able to make a call via the speaker 5 , the input section 7 and the communication unit 8 , and to display an image received from the other party on the display 4 via the communication unit 8 . An occupant in the driver's seat can make a video call via the communication device 10 . The display control unit 13 controls the display 4 based on a program stored in the storage unit 12 and information obtained through the communication unit 8 in response to commands from the passenger input through the input unit 7. .

図3は、ビデオ通話が開始されるときのディスプレイ4の表示画面D1の一例を示す図である。図3に示すように、表示制御部13は、運転席に最も近いディスプレイ4の車幅方向右端に、車両1の主なユーザである運転席の乗員に対し様々なサービスを提供するAIエージェントを表現したエージェント画像40が表示されるようにディスプレイ4を制御する。AIエージェントは、予め登録されたユーザ情報やユーザからの指令に応じて取得されるユーザ情報に基づいて、ユーザの嗜好に応じたサービスを提供する。例えば、車両1に乗車中のユーザ(運転席の乗員)に対し、ユーザの嗜好に応じた音楽などの車内コンテンツや車両1の目的地、走行ルートなどを提案したり、通話相手とのビデオ通話を仲介したりする。 FIG. 3 is a diagram showing an example of the display screen D1 of the display 4 when a video call is started. As shown in FIG. 3, the display control unit 13 has an AI agent, which provides various services to the occupants in the driver's seat who are the main users of the vehicle 1, at the right end of the display 4 closest to the driver's seat in the vehicle width direction. The display 4 is controlled so that the represented agent image 40 is displayed. The AI agent provides services according to the user's preferences based on pre-registered user information and user information acquired in response to instructions from the user. For example, for a user (passenger in the driver's seat) riding in the vehicle 1, the user can propose in-vehicle contents such as music, the destination of the vehicle 1, the driving route, etc. according to the user's taste, or make a video call with the other party. to mediate.

表示制御部13は、通信ユニット8を介して通話相手との通話が開始されるとき、運転席側であるディスプレイ4の車幅方向右側4Rに通話相手の情報41が表示されるようにディスプレイ4を制御する。より具体的には、通信ユニット8を介してビデオ通話の着信情報が取得されると、着信情報に基づいて、発信者の氏名や名称、アイコン画像、電話番号などを含む通話相手の情報41が表示されるようにディスプレイ4を制御する。また、入力部7を介してビデオ通話の発信が指令されると、予め登録された連絡先情報に基づいて、発信先の名前や名称、アイコン画像、電話番号などを含む通話相手の情報41が表示されるようにディスプレイ4を制御する。 The display control unit 13 controls the display 4 so that the information 41 of the other party is displayed on the vehicle width direction right side 4R of the display 4 on the driver's seat side when a call with the other party is started via the communication unit 8. to control. More specifically, when incoming call information for a video call is acquired via the communication unit 8, caller information 41 including the caller's name, icon image, phone number, etc. is obtained based on the incoming call information. Control the display 4 to be displayed. Also, when a command to make a video call is issued via the input unit 7, information 41 of the called party, including the name of the called party, icon image, telephone number, etc., is displayed based on pre-registered contact information. Control the display 4 to be displayed.

ビデオ通話中は、運転席の乗員自身やその周辺の車内の映像が通話相手に送信され、通話相手の映像が車内に向けて表示されるため、ビデオ通話を開始する前に通話相手となる発信者や発信先の詳細な情報を表示することで、乗員に安心感を与えることができる。また、運転席に近いディスプレイ4の車幅方向右側4Rに通話相手の情報41が表示されるため、運転席の乗員にとって確認しやすい。なお、このとき、運転席から遠いディスプレイ4の車幅方向左側4Lには、特に情報が表示されない。 During a video call, the image of the occupant in the driver's seat and their surroundings in the car is sent to the other party, and the image of the other party is displayed facing the inside of the car. By displaying detailed information about the caller and caller, it is possible to give the occupants a sense of security. In addition, since the information 41 of the caller is displayed on the vehicle width direction right side 4R of the display 4 near the driver's seat, it is easy for the occupant in the driver's seat to check. At this time, no particular information is displayed on the vehicle width direction left side 4L of the display 4 far from the driver's seat.

図4は、運転席の乗員によりビデオ通話が許可されたときの、ディスプレイ4の表示画面D2の一例を示す図であり、図5は、ビデオ通話中のディスプレイ4の表示画面D3の一例を示す図である。例えば、スピーカ5を介して出力されるAIエージェントからの「○○さんに電話をつなぎますね」などのアナウンスに応じ、入力部7を介してビデオ通話を許可する指令を入力することができる。図4に示すように、表示制御部13は、乗員から通話の許可が指令されると、ディスプレイ4の車幅方向右側4Rに表示された通話相手の情報41が車幅方向左側4Lに移動して表示されるようにディスプレイ4を制御する。その後、図5に示すように、表示制御部13は、ディスプレイ4の車幅方向右側4Rに通話相手の映像42が表示されるようにディスプレイ4を制御する。 FIG. 4 is a diagram showing an example of the display screen D2 of the display 4 when the occupant in the driver's seat permits the video call, and FIG. 5 shows an example of the display screen D3 of the display 4 during the video call. It is a diagram. For example, in response to an announcement from the AI agent output via the speaker 5, such as "I'll connect the call to Mr. XX", a command for permitting a video call can be input via the input unit 7. As shown in FIG. 4, the display control unit 13 moves the caller information 41 displayed on the right side 4R in the vehicle width direction of the display 4 to the left side 4L in the vehicle width direction when the occupant issues a call permission command. The display 4 is controlled so that the Thereafter, as shown in FIG. 5, the display control unit 13 controls the display 4 so that the image 42 of the other party is displayed on the right side 4R of the display 4 in the vehicle width direction.

図4および図5に示すように、ビデオ通話の開始前の表示画面D1に表示された通話相手の情報41が消えることなく表示されたまま移動し、ビデオ通話中の表示画面D3に遷移する。このため、運転席の乗員がビデオ通話を許可した後、例えば通話相手との接続に時間を要するような場合であっても、その待ち時間中に不安を感じることがない。 As shown in FIGS. 4 and 5, the caller information 41 displayed on the display screen D1 before the start of the video call moves without disappearing, and the display screen D3 is displayed during the video call. Therefore, even if it takes time to connect with the other party after the driver's seat permits the video call, the driver does not feel uneasy during the waiting time.

図5に示すように、ビデオ通話中、表示制御部13は、事業者などの通話相手から提供サービスについての情報(サービス情報)を取得すると、ディスプレイ4の車幅方向左側4Lにサービス情報43が表示されるようにディスプレイ4を制御する。例えば、カフェのスタッフ(通話相手)から送信されたメニューの情報がサービス情報43として表示される。 As shown in FIG. 5, during a video call, when the display control unit 13 acquires information (service information) about the provided service from the other party such as a business operator, the service information 43 is displayed on the left side 4L of the display 4 in the vehicle width direction. Control the display 4 to be displayed. For example, menu information transmitted from a cafe staff (caller) is displayed as the service information 43 .

図4および図5に示すように通話相手が事業者などのサービス提供者である場合、AIエージェントによるビデオ通話中のサービス提供は行われず、待機モードに対応した態様のエージェント画像40aが表示される。この場合、図3~図5に示すように、ビデオ通話が開始されるとき、AIエージェントによるサービス提供が行われる稼働モードに対応した態様のエージェント画像40bが、待機モードに対応した態様のエージェント画像40aに変化して表示される。 As shown in FIGS. 4 and 5, when the other party is a service provider such as a business operator, the AI agent does not provide services during the video call, and an agent image 40a corresponding to the standby mode is displayed. . In this case, as shown in FIGS. 3 to 5, when the video call is started, the agent image 40b corresponding to the active mode in which the AI agent provides services is replaced by the agent image 40b corresponding to the standby mode. 40a and displayed.

図6は、ビデオ通話中のディスプレイ4の表示画面の別の例を示す図であり、通話相手がサービス提供者でなく、ユーザ情報においてAIエージェントによるビデオ通話中のサービス提供が要求されている場合の表示画面D4を示す。この場合、図6に示すように、稼働モードに対応した態様のエージェント画像40bが表示され、AIエージェントによるビデオ通話中の通話相手との会話への介入が行われる。 FIG. 6 is a diagram showing another example of the display screen of the display 4 during a video call, when the other party is not the service provider and the user information requests the AI agent to provide the service during the video call. shows a display screen D4. In this case, as shown in FIG. 6, an agent image 40b corresponding to the operating mode is displayed, and the AI agent intervenes in the conversation with the other party during the video call.

より具体的には、ビデオ通話中に乗員または通話相手が発話したキーワードに応じて、インターネットを介した情報検索が行われ、そのキーワードに関連する情報(リコメンド情報)をディスプレイ4に表示するリコメンドが行われる。なお、AIエージェントによるリコメンドサービスの提供中、エージェント画像40bは、発話内容に応じて頷くなど、会話への介入を示唆する態様で表示される。表示制御部13は、ディスプレイ4の車幅方向左側4Lに、リコメンド情報に対応するサービス情報43が表示されるようにディスプレイ4を制御する。例えば、ビデオ通話での会話で言及された飲食店の名称などをキーワードとして検索された、その店の人気メニューや店舗外観などの代表的な画像が、リコメンド情報に対応するサービス情報43として表示される。 More specifically, information is retrieved via the Internet according to a keyword uttered by the crew member or the other party during the video call, and information (recommendation information) related to the keyword is displayed on the display 4 to make a recommendation. done. While the AI agent is providing the recommendation service, the agent image 40b is displayed in a manner suggesting intervention in the conversation, such as by nodding in accordance with the content of the utterance. The display control unit 13 controls the display 4 so that the service information 43 corresponding to the recommended information is displayed on the left side 4L of the display 4 in the vehicle width direction. For example, representative images such as popular menus and store exteriors of restaurants searched using keywords such as names of restaurants mentioned in video call conversations are displayed as service information 43 corresponding to recommended information. be.

図7は、車両1の座席配置について説明するための上面図である。図7に示すように、車両1には、前部座席として、車幅方向右側に配置された運転席DRと、車幅方向左側に配置された助手席ASとが設けられる。ディスプレイ4は、助手席ASの正面から運転席DRの左前方にかけて、インストルメントパネル1a上に、車幅方向に延在して配置される。したがって、図3~図6に示すようにディスプレイ4の車幅方向右端に表示されるエージェント画像40は、通話相手の情報41や通話相手の映像42と、運転席DRの乗員との中間に位置する。このため、運転席DRの乗員と通話相手とのビデオ通話を仲介するAIエージェントの役割が明確となり、乗員にとってAIエージェントを自然に受け入れることができる。 FIG. 7 is a top view for explaining the seat arrangement of the vehicle 1. FIG. As shown in FIG. 7, the vehicle 1 is provided with, as front seats, a driver's seat DR arranged on the right side in the vehicle width direction and a passenger's seat AS arranged on the left side in the vehicle width direction. The display 4 is arranged on the instrument panel 1a from the front of the front passenger seat AS to the left front of the driver's seat DR so as to extend in the vehicle width direction. Therefore, as shown in FIGS. 3 to 6, the agent image 40 displayed at the right end of the display 4 in the vehicle width direction is positioned between the information 41 of the other party in the conversation, the image 42 of the other party in the conversation, and the occupant in the driver's seat DR. do. Therefore, the role of the AI agent mediating the video call between the occupant in the driver's seat DR and the other party is clarified, and the occupant can naturally accept the AI agent.

なお、図5に示すようにAIエージェントによるビデオ通話中のサービス提供が行われていない場合であっても、例えば入力部7を介して所定のウェイクアップワードを音声入力することで、リコメンドサービスを開始することができる。表示制御部13は、ビデオ通話中にAIエージェントが待機モードから稼働モードに移行すると、待機モードに対応した態様のエージェント画像40aが稼働モードに対応した態様のエージェント画像40bに変化して表示されるように、ディスプレイ4を制御する。 As shown in FIG. 5, even if the AI agent does not provide services during a video call, the recommendation service can be started by inputting a predetermined wake-up word through the input unit 7, for example. can start. When the AI agent shifts from the standby mode to the operating mode during the video call, the display control unit 13 changes the agent image 40a corresponding to the standby mode to the agent image 40b corresponding to the operating mode for display. to control the display 4.

図8は、ビデオ通話終了後のディスプレイ4の表示画面D5の一例を示す図である。図8に示すように、ビデオ通話が終了すると、AIエージェントによる通常のサービス提供が再開され、表示制御部13は、ディスプレイ4の車幅方向右側4Rに稼働モードに対応した態様のエージェント画像40bが表示されるようにディスプレイ4を制御する。 FIG. 8 is a diagram showing an example of the display screen D5 of the display 4 after the end of the video call. As shown in FIG. 8, when the video call ends, the normal service provided by the AI agent is resumed, and the display control unit 13 displays the agent image 40b corresponding to the operating mode on the right side 4R of the display 4 in the vehicle width direction. Control the display 4 to be displayed.

AIエージェントによるビデオ通話終了後の通常のサービスとして、例えば、ビデオ通話中の会話の内容に応じた車両1の目的地の設定などが行われる。例えば、飲食店とのビデオ通話により座席予約が行われた場合は、スピーカ5を介してAIエージェントからの「○○カフェ楽しみですね!カフェに向かいます」などのアナウンスが出力され、その飲食店が車両1の目的地として設定される。 As a normal service after the end of the video call by the AI agent, for example, setting of the destination of the vehicle 1 according to the content of the conversation during the video call is performed. For example, when a seat reservation is made through a video call with a restaurant, an announcement such as ``I'm looking forward to XX cafe! is set as the destination of the vehicle 1 .

図9は、本発明の実施形態に係る車両用表示装置により実行される処理の一例を示すフローチャートである。このフローチャートに示す処理は、例えば通信ユニット8を介してビデオ通話の着信情報が取得されると、あるいは入力部7を介してビデオ通話の発信が指令されると、開始される。図9に示すように、先ずステップS1で、ビデオ通話が開始されるときの表示画面D1(図3)が表示されるようにディスプレイ4を制御する。次いでステップS2で、ビデオ通話が許可されたか否かを判定する。ステップS2で肯定されるとステップS3に進み、否定されると処理を終了する。 FIG. 9 is a flow chart showing an example of processing executed by the vehicle display device according to the embodiment of the present invention. The processing shown in this flow chart is started, for example, when incoming video call information is obtained via the communication unit 8 or when a video call origination command is issued via the input unit 7 . As shown in FIG. 9, first, in step S1, the display 4 is controlled so that the display screen D1 (FIG. 3) when the video call is started is displayed. Next, in step S2, it is determined whether or not the video call is permitted. If the result in step S2 is affirmative, the process proceeds to step S3, and if the result is negative, the process ends.

ステップS3では、ユーザ情報および着信情報に基づいて、ビデオ通話中のリコメンドが要求されているか否かを判定する。ステップS3で否定されると、ステップS4に進み、ビデオ通話が許可されたときの表示画面D2(図4)を経由してビデオ通話中の表示画面D3(図5)が表示されるようにディスプレイ4を制御する。一方、ステップS3で肯定されると、ステップS5に進み、ビデオ通話が許可されたときの表示画面D2(図4)を経由してビデオ通話中の表示画面D4(図6)が表示されるようにディスプレイ4を制御する。次いでステップS6で、ビデオ通話の終了が指令されたか否かを判定する。ステップS6で否定されるとステップS3に戻り、肯定されるとステップS7に進み、ビデオ通話終了後の表示画面D5(図8)が表示されるようにディスプレイ4を制御して処理を終了する。 In step S3, based on the user information and the incoming call information, it is determined whether or not a recommendation is requested during the video call. If the result in step S3 is NO, the process proceeds to step S4, and the display screen D3 (FIG. 5) during the video call is displayed via the display screen D2 (FIG. 4) when the video call is permitted. 4 is controlled. On the other hand, if the result in step S3 is affirmative, the process proceeds to step S5 so that the display screen D4 (FIG. 6) during the video call is displayed via the display screen D2 (FIG. 4) when the video call is permitted. to control the display 4. Next, in step S6, it is determined whether or not an instruction to end the video call has been issued. If the result in step S6 is NO, the process returns to step S3, and if the result is YES, the process proceeds to step S7, controls the display 4 so that the display screen D5 (FIG. 8) after the end of the video call is displayed, and ends the process.

本実施形態によれば以下のような作用効果を奏することができる。
(1)車両用表示装置100は、車両1の運転席の乗員に対し情報を表示する(図3~図6、図8)。車両用表示装置100は、通信ユニット8と、運転席DRに対向し、かつ、車幅方向に延在して配置されるディスプレイ4と、通信ユニット8を介して通話可能に、かつ、ディスプレイ4に通信ユニット8を介して受信した通話相手からの映像を表示可能に構成された通話装置10とを備える(図1、図2、図7)。
According to this embodiment, the following effects can be obtained.
(1) The vehicular display device 100 displays information to an occupant in the driver's seat of the vehicle 1 (FIGS. 3 to 6 and 8). The vehicular display device 100 can communicate with a communication unit 8 and a display 4 arranged to face the driver's seat DR and extend in the vehicle width direction via the communication unit 8, and can communicate with the display 4. and a communication device 10 configured to be able to display an image received from a communication partner via the communication unit 8 (FIGS. 1, 2, and 7).

通話装置10は、通信ユニット8を介して通話相手との通話が開始されるとき、ディスプレイ4の車幅方向右側4Rに通話相手の情報41が表示され(図3)、その後、乗員から通話の許可が指令されると、ディスプレイ4の車幅方向右側4Rに表示された通話相手の情報41が車幅方向左側4Lに移動して表示され(図4)、さらにその後、ディスプレイ4の車幅方向右側4Rに通話相手の映像42が表示されるように(図5、図6)、ディスプレイ4を制御する表示制御部13を有する(図2)。 In the communication device 10, when a call with the other party is started via the communication unit 8, the information 41 of the other party is displayed on the vehicle width direction right side 4R of the display 4 (FIG. 3), and then the passenger makes a call. When permission is commanded, information 41 of the called party displayed on the right side 4R in the vehicle width direction of the display 4 is moved to the left side 4L in the vehicle width direction and displayed (FIG. 4), and then displayed on the display 4 in the vehicle width direction. It has a display control unit 13 that controls the display 4 so that an image 42 of the other party is displayed on the right side 4R (FIGS. 5 and 6) (FIG. 2).

これにより、車両1の運転席の乗員に対し好適に通話相手の情報41を表示することができる。すなわち、ビデオ通話を開始する前に通話相手の情報41を表示することで、乗員に安心感を与えることができる。また、ビデオ通話の開始前の表示画面D1に表示された通話相手の情報41が、表示されたまま移動し、ビデオ通話中の表示画面D3,D4に遷移するため、通話相手との接続中に不安を感じることもない。 As a result, the information 41 of the calling party can be preferably displayed to the passenger in the driver's seat of the vehicle 1 . In other words, by displaying the information 41 of the caller before starting the video call, it is possible to give the passenger a sense of security. In addition, since the information 41 of the other party displayed on the display screen D1 before the start of the video call moves while being displayed and transitions to the display screens D3 and D4 during the video call, I don't feel uneasy.

(2)ディスプレイ4の車幅方向右側4Rは、運転席DR側であるため(図7)、運転席の乗員にとって、ビデオ通話開始前は通話相手の情報41を確認しやすく、ビデオ通話中は通話相手の映像42を見やすい。 (2) Since the vehicle width direction right side 4R of the display 4 is on the driver's seat DR side (Fig. 7), it is easy for the occupant in the driver's seat to check the information 41 of the other party before the video call starts, and during the video call It is easy to see the image 42 of the other party.

(3)表示制御部13は、通信ユニット8を介した通話中、ディスプレイ4の車幅方向右側4Rに表示される通話相手の映像42より運転席DR側に、通話相手との通話を仲介するAIエージェントを表現したエージェント画像40が表示されるように、ディスプレイ4を制御する(図6)。これにより、通話相手の映像42と運転席DRの乗員との中間にエージェント画像40が表示されるため、通話相手とのビデオ通話を仲介するAIエージェントの役割が明確となり、運転席DRの乗員にとってAIエージェントによるサービスを受け入れやすい。 (3) During a call through the communication unit 8, the display control unit 13 mediates the call with the other party from the image 42 of the other party displayed on the right side 4R of the display 4 in the vehicle width direction to the driver's seat DR side. The display 4 is controlled so that an agent image 40 representing an AI agent is displayed (FIG. 6). As a result, since the agent image 40 is displayed between the image 42 of the other party and the passenger in the driver's seat DR, the role of the AI agent mediating the video call with the other party becomes clear. It is easy to accept services by AI agents.

(4)エージェント画像40は、AIエージェントが乗員の発話内容に応じた情報提供を行う稼働モードに対応する第1態様(図3、図6、図8)、および、AIエージェントが乗員の発話内容に応じた情報提供を行わない待機モードに対応する第2態様(図4、図5)のいずれかで表示される。表示制御部13は、乗員から通話の許可が指令されると、エージェント画像40が稼働モードに対応する第1態様から待機モードに対応する第2態様に変化して表示されるように、ディスプレイ4を制御する(図3~図5)。例えば、通話相手がサービス提供者である場合は、AIエージェントによるリコメンド情報ではなく通話相手から送信されたサービス情報43が表示され、運転席の乗員に適切な情報が提示される。 (4) The agent image 40 is the first mode (FIGS. 3, 6, and 8) corresponding to the operation mode in which the AI agent provides information according to the utterance content of the passenger, and the AI agent is displayed in one of the second modes (FIGS. 4 and 5) corresponding to the standby mode in which information is not provided according to the The display control unit 13 controls the display 4 so that the agent image 40 is displayed while being changed from the first mode corresponding to the operating mode to the second mode corresponding to the standby mode when the crew member instructs permission to talk. (Figs. 3-5). For example, if the calling party is a service provider, the service information 43 sent from the calling party is displayed instead of the information recommended by the AI agent, and appropriate information is presented to the occupant in the driver's seat.

上記実施形態では、図1などでディスプレイ4の具体例を示して説明したが、ディスプレイは、運転席に対向し、かつ、車幅方向に延在して配置されるものであれば、どのようなものでもよい。また、図2などで通話装置10の具体的な構成を示して説明したが、通話装置は、このようなものに限らず、例えば電話機能を有するユーザ端末を利用する構成であってもよい。また、図3などで通話相手の情報41の具体例を示して説明したが、通話相手の情報は、このようなものに限らない。 In the above embodiment, a specific example of the display 4 is shown in FIG. 1 and the like. Anything is fine. Further, although the specific configuration of the communication device 10 has been described with reference to FIG. Further, although a specific example of the information 41 of the calling party is shown in FIG. 3 and the like, the information of the calling party is not limited to this.

以上の説明はあくまで一例であり、本発明の特徴を損なわない限り、上述した実施形態および変形例により本発明が限定されるものではない。上記実施形態と変形例の1つまたは複数を任意に組み合わせることも可能であり、変形例同士を組み合わせることも可能である。 The above description is merely an example, and the present invention is not limited by the above-described embodiments and modifications as long as the features of the present invention are not impaired. It is also possible to arbitrarily combine one or more of the above embodiments and modifications, and it is also possible to combine modifications with each other.

1 車両、1a インストルメントパネル、4 ディスプレイ、5 スピーカ、6 車内カメラ、7 入力部、8 通信ユニット、10 通話装置、11 演算部、12 記憶部、13 表示制御部、DR 運転席 1 vehicle, 1a instrument panel, 4 display, 5 speaker, 6 in-vehicle camera, 7 input unit, 8 communication unit, 10 communication device, 11 calculation unit, 12 storage unit, 13 display control unit, DR driver's seat

Claims (3)

車両の運転席の乗員に対し情報を表示する車両用表示装置であって、
通信ユニットと、
前記運転席に対向し、かつ、車幅方向に延在して配置されるディスプレイと、
前記通信ユニットを介して通話可能に、かつ、前記ディスプレイに前記通信ユニットを介して受信した通話相手からの映像を表示可能に構成された通話装置と、を備え、
前記通話装置は、前記通信ユニットを介して通話相手からの着信時および通話相手への発信時、前記ディスプレイの車幅方向一方側に通話相手の情報が表示され、その後、乗員から通話の許可が指令されると、前記ディスプレイの車幅方向一方側に表示された通話相手の情報が車幅方向他方側に消えることなく表示されたまま移動し、さらにその後、前記ディスプレイの車幅方向一方側に通話相手の映像が表示されるように、前記ディスプレイを制御する表示制御部を有し、
前記表示制御部は、前記通信ユニットを介した通話中、前記ディスプレイの車幅方向一方側に表示される通話相手の映像より前記運転席側に、通話相手との通話を仲介するAIエージェントを表現したエージェント画像が表示されるように、前記ディスプレイを制御し、
前記エージェント画像は、AIエージェントが乗員と通話相手との通話に介入して、乗員又は通話相手が発話したキーワードに関連するリコメンド情報を提供するように表示されることを特徴とする車両用表示装置。
A vehicle display device for displaying information to an occupant in a driver's seat of a vehicle,
a communication unit;
a display facing the driver's seat and extending in the vehicle width direction;
a calling device configured to be able to make a call via the communication unit and to display an image received from the other party on the display on the display,
In the communication device, when receiving an incoming call from or making a call to the other party via the communication unit, the information of the other party is displayed on one side in the vehicle width direction of the display, and after that, permission for the call is received from the passenger. When commanded, the caller information displayed on one side of the display in the vehicle width direction moves to the other side in the vehicle width direction without disappearing, and then moves to the one side of the display in the vehicle width direction. Having a display control unit that controls the display so that the image of the other party is displayed,
During a call via the communication unit, the display control unit expresses an AI agent mediating a call with the other party on the driver's seat side of the image of the other party displayed on one side in the vehicle width direction of the display. controlling the display so that the agent image displayed is displayed;
A vehicle display device, wherein the agent image is displayed so that the AI agent intervenes in a call between the passenger and the other party and provides recommended information related to a keyword uttered by the passenger or the other party. .
請求項1に記載の車両用表示装置において、
前記ディスプレイの車幅方向一方側は、前記運転席側であることを特徴とする車両用表示装置。
In the vehicle display device according to claim 1,
A vehicle display device, wherein one side of the display in the vehicle width direction is the driver's seat side.
請求項1または2に記載の車両用表示装置において、 In the vehicle display device according to claim 1 or 2,
前記エージェント画像は、AIエージェントが乗員の発話内容に応じた情報提供を行う稼働モードに対応する第1態様、および、AIエージェントが乗員の発話内容に応じた情報提供を行わない待機モードに対応する第2態様のいずれかで表示され、 The agent image corresponds to the first mode corresponding to the operating mode in which the AI agent provides information according to the utterance content of the passenger, and the standby mode in which the AI agent does not provide information according to the utterance content of the passenger. displayed in any of the second modes,
前記表示制御部は、乗員から通話の許可が指令されると、前記エージェント画像が前記第1態様から前記第2態様に変化して表示されるように、前記ディスプレイを制御することを特徴とする車両用表示装置。 The display control unit controls the display so that the agent image is displayed while being changed from the first mode to the second mode when a call permission is commanded by a passenger. Vehicle display.
JP2021050492A 2021-03-24 2021-03-24 vehicle display Active JP7299262B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021050492A JP7299262B2 (en) 2021-03-24 2021-03-24 vehicle display
CN202210157374.9A CN115123084A (en) 2021-03-24 2022-02-21 Display device for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021050492A JP7299262B2 (en) 2021-03-24 2021-03-24 vehicle display

Publications (2)

Publication Number Publication Date
JP2022148706A JP2022148706A (en) 2022-10-06
JP7299262B2 true JP7299262B2 (en) 2023-06-27

Family

ID=83375157

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021050492A Active JP7299262B2 (en) 2021-03-24 2021-03-24 vehicle display

Country Status (2)

Country Link
JP (1) JP7299262B2 (en)
CN (1) CN115123084A (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012039022A1 (en) 2010-09-21 2012-03-29 パイオニア株式会社 Information communicating apparatus, information communicating method, information communicating program, and information communicating system
WO2015141320A1 (en) 2014-03-19 2015-09-24 ソニー株式会社 Information processing device, information processing system, and information processing method
JP2018127083A (en) 2017-02-08 2018-08-16 トヨタ自動車株式会社 Image display device
JP2019102936A (en) 2017-11-30 2019-06-24 シャープ株式会社 Display device, electronic mirror, control method of display device, and display control program
JP2020080503A (en) 2018-11-14 2020-05-28 本田技研工業株式会社 Agent device, agent presentation method, and program

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012039022A1 (en) 2010-09-21 2012-03-29 パイオニア株式会社 Information communicating apparatus, information communicating method, information communicating program, and information communicating system
WO2015141320A1 (en) 2014-03-19 2015-09-24 ソニー株式会社 Information processing device, information processing system, and information processing method
JP2018127083A (en) 2017-02-08 2018-08-16 トヨタ自動車株式会社 Image display device
JP2019102936A (en) 2017-11-30 2019-06-24 シャープ株式会社 Display device, electronic mirror, control method of display device, and display control program
JP2020080503A (en) 2018-11-14 2020-05-28 本田技研工業株式会社 Agent device, agent presentation method, and program

Also Published As

Publication number Publication date
JP2022148706A (en) 2022-10-06
CN115123084A (en) 2022-09-30

Similar Documents

Publication Publication Date Title
US7227453B2 (en) Multi-control telematics in a vehicle
JP7133025B2 (en) head up display system
US9924011B2 (en) Manual bluetooth hands free transfer mode
JP2014216714A (en) Information providing apparatus for sharing information in vehicle, portable terminal, and program
US20160065709A1 (en) Manual bluetooth hands free transfer mode
JP2005236615A (en) Handsfree speech system for vehicle, and information notification method using the same
JP7299262B2 (en) vehicle display
WO2016032533A1 (en) Manual bluetooth hands free transfer mode
FR2994316A1 (en) INFORMATION OUTPUT METHOD WITH SYNTHETIC LANGUAGE
CN113543078A (en) Vehicle machine, mobile terminal and method for controlling interaction between mobile terminal and vehicle machine
JP2013191979A (en) On-vehicle apparatus, portable terminal, and program for portable terminal
JP2013219659A (en) Vehicle communication system, vehicle communication device and mobile communication terminal
JP2005208798A (en) Information provision terminal and information provision method
JP4076747B2 (en) Videophone system and videophone connection method
EP3537712A1 (en) Method, system and computer program product for controlling a video call while driving a vehicle
JP7212091B2 (en) vehicle display
JP2013160778A (en) Vehicle control device
JP6595324B2 (en) In-vehicle device, voice recognition system
JP4297276B2 (en) In-car communication device
JP7342960B2 (en) Display control method and device
EP4207752A2 (en) In-vehicle communications and media mixing
JP2019003244A (en) Information providing apparatus, information providing method, and vehicle
WO2024018603A1 (en) Information providing device, information providing method, and program
EP4207767A1 (en) In-vehicle multi-occupant media management
JP5711068B2 (en) In-vehicle machine

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230613

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230615

R150 Certificate of patent or registration of utility model

Ref document number: 7299262

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150