JP2023094982A - Communication system, information processing device, information processing method, program, and recording medium - Google Patents

Communication system, information processing device, information processing method, program, and recording medium Download PDF

Info

Publication number
JP2023094982A
JP2023094982A JP2021210616A JP2021210616A JP2023094982A JP 2023094982 A JP2023094982 A JP 2023094982A JP 2021210616 A JP2021210616 A JP 2021210616A JP 2021210616 A JP2021210616 A JP 2021210616A JP 2023094982 A JP2023094982 A JP 2023094982A
Authority
JP
Japan
Prior art keywords
vehicle
video
image
camera
camera image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021210616A
Other languages
Japanese (ja)
Inventor
廣人 根岸
Hiroto Negishi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Electronic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Electronic Corp filed Critical Pioneer Electronic Corp
Priority to JP2021210616A priority Critical patent/JP2023094982A/en
Publication of JP2023094982A publication Critical patent/JP2023094982A/en
Pending legal-status Critical Current

Links

Images

Abstract

To provide a communication system that can switch between transmission of video outside a vehicle and transmission of video inside the vehicle at appropriate timing in accordance with a situation.SOLUTION: There is provided a communication system that performs voice video communication of sequentially transmitting voice and video in a vehicle acquired by a first device moving with the vehicle to a second device, including: a video transmission unit that transmits, to the second device, one of front camera video which is video obtained by imaging, in the vehicle, the inside of the vehicle and rear camera video which is video obtained by imaging, in the vehicle, the outside of the vehicle; and a position information acquisition unit that acquires positional information on the vehicle. The video transmission unit transmits one of the front camera video and the rear camera video that is determined by the positional information to the second device.SELECTED DRAWING: Figure 1

Description

本発明は、通信システム、情報処理装置、情報処理方法、プログラム及び記録媒体に関し、例えば、移動体からの映像を外部に提供するための通信システム、情報処理装置、情報処理方法、プログラム及び記憶媒体に関する。 The present invention relates to a communication system, an information processing device, an information processing method, a program, and a recording medium, and for example, a communication system, an information processing device, an information processing method, a program, and a recording medium for providing an image from a mobile body to the outside. Regarding.

車両に搭載される車載機と当該車両の外部に位置する車外端末との間で通信を行う通信システムがある。例えば、特許文献1には、車両の運転者と車外端末の操作者との間で音声通話を行い、当該音声通話がなされているときに、車両の前方の映像を表す映像データを車載機から車外端末に送信し、当該映像を車外端末に表示させるシステムが開示されている(例えば、特許文献1)。 2. Description of the Related Art There is a communication system that performs communication between an in-vehicle device mounted on a vehicle and an external terminal located outside the vehicle. For example, in Patent Document 1, a voice call is performed between a driver of a vehicle and an operator of a terminal outside the vehicle. A system for transmitting an image to a terminal outside the vehicle and displaying the image on the terminal outside the vehicle has been disclosed (for example, Patent Literature 1).

特開2016-213791号公報JP 2016-213791 A

上記のような通信システムでは、車載機から車外端末に向けて、車両の外部を撮影した車外映像又は車両の内部を撮影した車内映像が送信される。車外映像及び車内映像の切り替えは、通常、運転者が車載機に設けられたタッチパネル等の操作部を操作することにより行われる。 In the communication system as described above, an in-vehicle image obtained by photographing the exterior of the vehicle or an in-vehicle image obtained by photographing the inside of the vehicle is transmitted from the vehicle-mounted device to the terminal outside the vehicle. Switching between the video outside the vehicle and the video inside the vehicle is normally performed by the driver operating an operation unit such as a touch panel provided on the vehicle-mounted device.

上記のような通信システムにおいて、車両の運転中に運転者側の都合で車外映像及び車内映像の切り替えを行いたい場合がある。例えば、車両が運転者の自宅近辺に到着した場合には、プライバシーを保護するため、車外端末に送信する映像を車外映像から車内映像に切り替えることが考えられる。 In the communication system as described above, there is a case where the driver wants to switch between the outside video and the inside video while driving the vehicle. For example, when the vehicle arrives near the driver's home, in order to protect privacy, it is conceivable to switch the video to be transmitted to the terminal outside the vehicle from the video outside the vehicle to the video inside the vehicle.

しかし、運転中に車載機の操作部をその都度操作するのは大変であり、運転状況によっては停車のタイミングまで操作することが出来ない場合がある。そのような場合、状況に応じて適切なタイミングで映像の切り替えを行うことができないという問題があった。 However, it is difficult to operate the operation unit of the on-vehicle device each time while driving, and depending on the driving situation, it may not be possible to operate until the timing of stopping the vehicle. In such a case, there is a problem that video switching cannot be performed at appropriate timing depending on the situation.

本発明は、上記した点に鑑みてなされたものであり、車載機から車外端末に映像を送信する通信システムにおいて、車外映像を送信するか車内映像を送信するかを状況に応じて適切なタイミングで切り替えることが可能な通信システムを提供することを目的の一つとする。 The present invention has been made in view of the above points, and in a communication system for transmitting video from an in-vehicle device to a terminal outside the vehicle, it is possible to determine whether to transmit the video outside the vehicle or the video inside the vehicle at an appropriate timing according to the situation. One object is to provide a communication system capable of switching between

請求項1に記載の発明は、車両と共に移動する第1装置によって取得された前記車両における音声及び映像を第2装置に逐次送信する音声映像通信を行う通信システムであって、前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像のいずれか一方を前記第2装置に送信する映像送信部と、前記車両の位置情報を取得する位置情報取得部と、を有し、前記映像送信部は、前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信することを特徴とする。 The invention according to claim 1 is a communication system for performing audio-visual communication in which audio and video in the vehicle acquired by a first device that moves with the vehicle are sequentially transmitted to a second device, wherein the vehicle a video transmission unit that transmits either one of an in-camera video that is a video of the inside of the vehicle and an out-camera video that is a video of the outside of the vehicle in the vehicle to the second device; and position information of the vehicle and a position information acquisition unit that acquires the position information, wherein the image transmission unit transmits one of the in-camera image and the out-camera image determined by the position information to the second device. .

請求項5に記載の発明は、車両において撮影された映像及び前記車両の搭乗者からの音声を前記車両と共に移動する第1装置から受信して第2装置に逐次送信する音声映像通信を行う情報処理装置であって、前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像のいずれか一方を前記第2装置に送信する映像送信部と、前記車両の位置情報を取得する位置情報取得部と、を有し、前記映像送信部は、前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信することを特徴とする。 According to the fifth aspect of the present invention, information for performing audiovisual communication in which images captured in a vehicle and voices from passengers in the vehicle are received from a first device that moves with the vehicle and are sequentially transmitted to a second device. A processing device that transmits either one of an in-camera image that is an image of the interior of the vehicle captured by the vehicle and an out-camera image that is an image of the exterior of the vehicle captured by the vehicle to the second device. and a position information acquisition unit that acquires position information of the vehicle, wherein the video transmission unit selects one of the in-camera video and the out-camera video determined by the position information as the It is characterized by transmitting to the second device.

実施例1に係る通信システムの全体構成図である。1 is an overall configuration diagram of a communication system according to a first embodiment; FIG. 実施例1に係る車両の前席部分の構成を示す図である。FIG. 2 is a diagram showing the configuration of the front seat portion of the vehicle according to the first embodiment; 実施例1に係る端末装置20の構成及びアウトカメラ映像が表示される場合の表示態様を示す図である。4A and 4B are diagrams illustrating the configuration of the terminal device 20 according to the first embodiment and a display mode when an out-camera image is displayed; FIG. 実施例1に係る車載装置のブロック図である。1 is a block diagram of an in-vehicle device according to Embodiment 1; FIG. 実施例1に係るサーバのブロック図である。3 is a block diagram of a server according to Example 1; FIG. 特定エリアDBに格納されている情報の一例を示す図である。It is a figure which shows an example of the information stored in specific area DB. 映像切替により端末装置20にインカメラ映像が表示される場合の表示態様を示す図である。FIG. 7 is a diagram showing a display mode when an in-camera image is displayed on the terminal device 20 by image switching. 実施例1に係る端末装置のブロック図である。1 is a block diagram of a terminal device according to Example 1; FIG. 車載装置が実行する音声映像送信処理ルーチンを示すフローチャートである。4 is a flowchart showing an audio/video transmission processing routine executed by an in-vehicle device; サーバが実行する音声映像送信処理ルーチンを示すフローチャートである。4 is a flowchart showing an audio/video transmission processing routine executed by a server;

以下に本発明の好適な実施例を詳細に説明する。なお、以下の実施例における説明及び添付図面においては、実質的に同一または等価な部分には同一の参照符号を付している。 Preferred embodiments of the present invention are described in detail below. In the following description of the embodiments and the attached drawings, substantially the same or equivalent parts are denoted by the same reference numerals.

図1は、本実施例に係る通信システム100の全体構成図である。図1に示すように、通信システム100は、移動体としての車両Mに搭載されている車載装置10と端末装置20とサーバ30とが、ネットワークNWを介して接続されて構成されている。 FIG. 1 is an overall configuration diagram of a communication system 100 according to this embodiment. As shown in FIG. 1, the communication system 100 is configured by connecting an in-vehicle device 10, a terminal device 20, and a server 30 mounted on a vehicle M as a mobile object via a network NW.

本実施例において、車載装置10とサーバ30とがネットワークNWを介して接続され、端末装置20とサーバ30とがネットワークNWを介して接続されている。言い換えれば、車載装置10と端末装置20とは、サーバ30を介して情報の送受信が可能な構成となっている。 In this embodiment, the in-vehicle device 10 and the server 30 are connected via the network NW, and the terminal device 20 and the server 30 are connected via the network NW. In other words, the in-vehicle device 10 and the terminal device 20 are configured to be able to transmit and receive information via the server 30 .

ネットワークNWは、例えば、LTE(Long Term Evolution)、4G(4th Generation)又は5G(5th Generation:第5世代移動通信システム)等の基地局への接続を介して通信を行う移動体通信網を経由するネットワークである。 The network NW is, for example, LTE (Long Term Evolution), 4G (4th Generation) or 5G (5th Generation: 5th generation mobile communication system) via a mobile communication network that communicates via a connection to a base station. It is a network that

図2は、実施例1に係る車載装置10が搭載されている車両Mの前席部分を示す図である。車載装置10は、車両M内に設置された車外撮影カメラ11、車内撮影カメラ12、GPS受信機13、マイク14、タッチパネルディスプレイ15及びスピーカー16の各々に接続されており、これらを制御する制御部を含む。車載装置10は、例えば、車両Mの前席のダッシュボードDB内の中央部に配置されている。 FIG. 2 is a diagram showing a front seat portion of a vehicle M on which the in-vehicle device 10 according to the first embodiment is mounted. The in-vehicle device 10 is connected to each of an exterior camera 11, an in-vehicle camera 12, a GPS receiver 13, a microphone 14, a touch panel display 15, and a speaker 16 installed in the vehicle M, and a control unit for controlling these. including. The in-vehicle device 10 is arranged, for example, in the central portion of the dashboard DB in the front seats of the vehicle M. As shown in FIG.

第1撮影部としての車外撮影カメラ11は、車両Mの外部の状況を撮影する撮像装置である。車外撮影カメラ11は、1つのカメラから構成されていてもよいし、複数のカメラから構成されていてもよい。本実施例においては、車外撮影カメラ11は、フロントガラスFGを介して車両Mの前方の広い領域を撮影する広角カメラである。本実施例において、車外撮影カメラ11は、ダッシュボードDB上に配されている。 The exterior photographing camera 11 as a first photographing unit is an imaging device that photographs the situation outside the vehicle M. As shown in FIG. The exterior photography camera 11 may be composed of one camera, or may be composed of a plurality of cameras. In this embodiment, the exterior camera 11 is a wide-angle camera that captures a wide area in front of the vehicle M through the windshield FG. In this embodiment, the vehicle exterior photographing camera 11 is arranged on the dashboard DB.

第1撮影部としての車内撮影カメラ12は、車両Mの内部の状況を撮影する撮像装置である。本実施例において、車内撮影カメラ12は、車両Mの運転者を撮影するカメラである。本実施例において、車内撮影カメラ12は、フロントガラスFGの上端または当該上端付近の天井部に設けられている。 The in-vehicle photographing camera 12 as a first photographing unit is an imaging device that photographs the situation inside the vehicle M. As shown in FIG. In this embodiment, the in-vehicle photographing camera 12 is a camera that photographs the driver of the vehicle M. As shown in FIG. In this embodiment, the in-vehicle camera 12 is provided on the upper end of the windshield FG or on the ceiling near the upper end.

なお、上記した車外撮影カメラ11及び車内撮影カメラ12は、第1撮影部として1台のカメラで車両Mの外部の映像及び車両Mの内部の映像が撮影可能な多方向カメラであってもよい。 In addition, the above-described exterior photographing camera 11 and interior photographing camera 12 may be multidirectional cameras capable of photographing an image of the exterior of the vehicle M and an image of the interior of the vehicle M with a single camera as a first photographing unit. .

GPS受信機13は、GPS(Global Positioning System)衛星からの信号(GPS信号)を受信する受信機である。本実施例において、GPS受信機13は、ダッシュボードDB上に配されている。 The GPS receiver 13 is a receiver that receives signals (GPS signals) from GPS (Global Positioning System) satellites. In this embodiment, the GPS receiver 13 is arranged on the dashboard DB.

第1集音部としてのマイク14は、車内の音、例えば車両Mの運転者や同乗者(以下、これらをまとめて搭乗者と称する)が発した音声を受けて電気信号に変換する音声入力装置である。本実施例において、マイク14は、ダッシュボードDB上に配されている。 A microphone 14 as a first sound collecting unit receives sounds in the vehicle, for example, sounds emitted by the driver and fellow passengers of the vehicle M (hereinafter collectively referred to as passengers), and converts them into electrical signals for voice input. It is a device. In this embodiment, the microphone 14 is arranged on the dashboard DB.

第1表示部としてのタッチパネルディスプレイ15は、車載装置10の制御に基づいて画面表示を行うディスプレイと、車両Mの搭乗者からの入力操作を受け付けるタッチパネルとが組み合わされている表示装置である。本実施例において、タッチパネルディスプレイ15は、ダッシュボードDBの中央部に配されている。 The touch panel display 15 as the first display unit is a display device in which a display that performs screen display under the control of the in-vehicle device 10 and a touch panel that accepts input operations from passengers of the vehicle M are combined. In this embodiment, the touch panel display 15 is arranged in the center of the dashboard DB.

タッチパネルディスプレイ15には、例えば、地図に車両Mの現在の位置(以後、現在位置とも称する)及び移動予定経路(以後、移動経路とも称する)が重畳されたナビゲーション画像が表示される。 The touch panel display 15 displays, for example, a navigation image in which the current position of the vehicle M (hereinafter also referred to as the current position) and the planned travel route (hereinafter also referred to as the travel route) are superimposed on the map.

第1音出力部としてのスピーカー16は、外部から送信された電気信号に基づいて音声を出力する音声出力装置である。本実施例において、スピーカー16は、2つのAピラーAPの各々にそれぞれ設けられている。 The speaker 16 as a first sound output unit is an audio output device that outputs audio based on an electrical signal transmitted from the outside. In this embodiment, the speaker 16 is provided on each of the two A-pillars AP.

本実施例において、車両Mの搭乗者は、車載装置10に接続されているマイク14及びスピーカー16を介して端末装置20の操作者(以下、ユーザとも称する)と音声通話可能である。 In this embodiment, a passenger of the vehicle M can make a voice call with an operator (hereinafter also referred to as a user) of the terminal device 20 via the microphone 14 and speaker 16 connected to the in-vehicle device 10 .

上記した車両Mの前席部分における車載装置10、車外撮影カメラ11、車内撮影カメラ12、GPS受信機13、マイク14、タッチパネルディスプレイ15及びスピーカー16の各々の位置は例示に過ぎず、これらは他の位置に配されていてもよい。 The positions of the in-vehicle device 10, the camera outside the vehicle 11, the camera inside the vehicle 12, the GPS receiver 13, the microphone 14, the touch panel display 15, and the speaker 16 in the front seat portion of the vehicle M are merely examples, and these are not the same. position.

例えば、車外撮影カメラ11は、車両Mの周囲の状況を撮影可能であればどこに設けられていてもよく、一例としては車両Mの前方を撮影する前方撮影カメラであり、フロントガラスFGの上端または当該上端付近の天井部に設けられていてもよい。また、別例としてサイドカメラやリアカメラ等の車外を撮影するカメラであってもよい。 For example, the exterior photography camera 11 may be installed anywhere as long as it can photograph the surroundings of the vehicle M. An example is a forward photography camera that photographs the front of the vehicle M. It may be provided on the ceiling near the upper end. As another example, a side camera, a rear camera, or the like, which photographs the outside of the vehicle, may be used.

本実施例において、車載装置10は、車外撮影カメラ11によって撮影された車両Mの外部映像である「アウトカメラ映像」及び車内撮影カメラ12によって撮影された車両Mの内部映像である「インカメラ映像」の映像情報をサーバ30に逐次送信する。 In the present embodiment, the in-vehicle device 10 includes an "out-camera image" that is an image of the exterior of the vehicle M captured by the camera 11 outside the vehicle and an "in-camera image" that is an image of the interior of the vehicle M captured by the camera 12 photographed inside the vehicle. ” is sequentially transmitted to the server 30 .

なお、車載装置10から送信された映像情報を受信したサーバ30は、受信した「アウトカメラ映像」及び「インカメラ映像」のうちの一方を端末装置20に送信(すなわち、転送)する。その際、現在どちらの映像を端末装置20に送信しているのかについての情報がサーバ30から車載装置10に通知され、車載装置10のタッチパネルディスプレイ15に表示される。これにより、車両Mの搭乗者は、インカメラ映像及びアウトカメラ映像のどちらが端末装置20に表示されているのかを覚知することができる。 Note that the server 30 that has received the video information transmitted from the in-vehicle device 10 transmits (that is, transfers) one of the received “out-camera video” and “in-camera video” to the terminal device 20 . At that time, the server 30 notifies the in-vehicle device 10 of information about which image is currently being transmitted to the terminal device 20 , and the information is displayed on the touch panel display 15 of the in-vehicle device 10 . Thereby, the passenger of the vehicle M can perceive which of the in-camera image and the out-camera image is displayed on the terminal device 20 .

図3は、端末装置20の構成及び端末装置20に表示される映像の表示態様を示す図である。ここでは、アウトカメラ映像が表示される場合を例として示している。 FIG. 3 is a diagram showing a configuration of the terminal device 20 and a display mode of images displayed on the terminal device 20. As shown in FIG. Here, a case where an out-camera image is displayed is shown as an example.

端末装置20は、フレームFと、当該フレームFに収められているマイク21、スピーカー22及びタッチパネルディスプレイ23とを含む通信機器である。本実施例において、端末装置20は、通信を介して他者との通話が可能なスマートフォンである。 The terminal device 20 is a communication device including a frame F and a microphone 21, a speaker 22, and a touch panel display 23 housed in the frame F. As shown in FIG. In this embodiment, the terminal device 20 is a smart phone capable of communicating with others through communication.

第2集音部としてのマイク21は、端末装置20のユーザが発した音声を受けて電気信号に変換する音声入力装置である。マイク21は、端末装置20の一端部側に設けられている。 The microphone 21 as a second sound collector is a voice input device that receives voice uttered by the user of the terminal device 20 and converts it into an electrical signal. The microphone 21 is provided on one end side of the terminal device 20 .

音出力部又は第2音出力部としてのスピーカー22は、外部から送信された電気信号に基づいて音声を出力する音声出力装置である。スピーカー22は、端末装置20の他端部側に設けられている。 The speaker 22 as a sound output section or a second sound output section is an audio output device that outputs audio based on an electrical signal transmitted from the outside. The speaker 22 is provided on the other end side of the terminal device 20 .

上記した車載装置10の第1集音部としてのマイク14によって集音された音を示す第1音情報は、端末装置20の制御部によって音出力部としてのスピーカー22から出力される。言い換えれば、端末装置20の制御部は、スピーカー22を制御して移動体音としての車両Mにおいて集音された音を出力する音出力制御部である。 First sound information indicating the sound collected by the microphone 14 as the first sound collector of the in-vehicle device 10 is output from the speaker 22 as the sound output unit by the control unit of the terminal device 20 . In other words, the control unit of the terminal device 20 is a sound output control unit that controls the speaker 22 and outputs the sound collected in the vehicle M as the moving body sound.

第2集音部としてのマイク21によって集音された音を示す第2音情報は、上記した車載装置10の制御部によって第1音出力部としてのスピーカー16から音出力される。 The second sound information indicating the sound collected by the microphone 21 as the second sound collector is output from the speaker 16 as the first sound output section by the control section of the in-vehicle device 10 described above.

表示部又は第2表示部としてのタッチパネルディスプレイ23は、端末装置20の制御に基づいて画面表示を行うディスプレイと、端末装置20のユーザからの入力操作を受け付けるタッチパネルとが組み合わされている表示装置である。タッチパネルディスプレイ23は、端末装置20の中央に設けられている。 The touch panel display 23 as a display unit or a second display unit is a display device in which a display that displays a screen based on the control of the terminal device 20 and a touch panel that accepts an input operation from the user of the terminal device 20 are combined. be. A touch panel display 23 is provided in the center of the terminal device 20 .

本実施例において、端末装置20の操作者は、上記したマイク21及びスピーカー22を介して車載装置10が搭載されている車両Mの運転者と音声通話可能に構成されている。 In this embodiment, the operator of the terminal device 20 can make a voice call with the driver of the vehicle M in which the in-vehicle device 10 is mounted via the microphone 21 and the speaker 22 described above.

本実施例において、端末装置20は、車載装置10から送信された映像情報を、サーバ30を介して逐次受信する。具体的には、端末装置20は、車両Mにおいて撮影されたインカメラ映像又はアウトカメラ映像の映像情報を、車載装置10からサーバ30を介して逐次受信する。 In this embodiment, the terminal device 20 sequentially receives video information transmitted from the in-vehicle device 10 via the server 30 . Specifically, the terminal device 20 sequentially receives the video information of the in-camera video or the out-camera video captured in the vehicle M from the in-vehicle device 10 via the server 30 .

上記したように、本実施例において、通信システム100は、車載装置10を搭載した車両Mの運転者と端末装置20の操作者とが互いに音声通話可能に構成されている。また、本実施例において、通信システム100は、車外撮影カメラ11によって撮影されている車両Mの外部又は内部の映像、及び車両Mの現在位置と移動経路とを含む地図画像が、端末装置20のタッチパネルディスプレイ23にリアルタイム表示可能に構成されている。 As described above, in this embodiment, the communication system 100 is configured so that the driver of the vehicle M in which the in-vehicle device 10 is mounted and the operator of the terminal device 20 can communicate with each other by voice. In addition, in the present embodiment, the communication system 100 allows the image of the exterior or interior of the vehicle M captured by the exterior camera 11 and the map image including the current position and moving route of the vehicle M to be displayed on the terminal device 20. Real-time display on the touch panel display 23 is possible.

言い換えれば、通信システム100は、車載装置10が端末装置20に対してライブストリーミングを実施可能に構成されている。 In other words, the communication system 100 is configured so that the in-vehicle device 10 can perform live streaming to the terminal device 20 .

本実施例において、車載装置10と端末装置20との間の音声通信を確立しつつ、車載装置10から端末装置20に、車両Mの外部又は内部の映像をリアルタイムで送信する通信形態を、ここでは音声映像通信と称する。本実施例において、車載装置10と端末装置20とは、サーバ30を介して音声映像通信を行っている。この音声映像通信により、端末装置20を使用するユーザは、車両Mに仮想的に同乗する仮想同乗(Virtual Passenger、以下“VP”と称する)の体験をすることができる。 In the present embodiment, a communication mode in which voice communication is established between the in-vehicle device 10 and the terminal device 20 and a video image of the exterior or interior of the vehicle M is transmitted from the in-vehicle device 10 to the terminal device 20 in real time. will be referred to as audiovisual communication. In this embodiment, the in-vehicle device 10 and the terminal device 20 perform audio-visual communication via the server 30 . Through this audio-visual communication, the user using the terminal device 20 can experience a virtual passenger (hereinafter referred to as "VP") riding in the vehicle M virtually.

端末装置20が受信した映像及び地図画像は、タッチパネルディスプレイ23に表示される。例えば、図3に示すように、第1の表示領域A1には、車両Mの外部を撮影した映像であるアウトカメラ映像が表示される。第2の表示領域A2には、車両Mの現在位置PL及び車両Mの移動経路Rが記されている地図画像が表示される。 The video and map image received by the terminal device 20 are displayed on the touch panel display 23 . For example, as shown in FIG. 3, an out-camera image, which is an image of the outside of the vehicle M, is displayed in the first display area A1. A map image showing the current position PL of the vehicle M and the moving route R of the vehicle M is displayed in the second display area A2.

第1の表示領域A1には、第2の表示領域A2よりも大きい態様で画像が表示される。言い換えれば、本実施例において、車両Mのアウトカメラ映像は、地図画像よりも大きい態様で表示される。 An image is displayed on the first display area A1 in a manner larger than that on the second display area A2. In other words, in this embodiment, the out-camera image of the vehicle M is displayed in a manner larger than the map image.

次に、通信システム100を構成する車載装置10、サーバ30及び端末装置20の各々の構成について、図4~8を参照して説明する。 Next, configurations of each of the in-vehicle device 10, the server 30 and the terminal device 20 that constitute the communication system 100 will be described with reference to FIGS. 4 to 8. FIG.

図4は、車載装置10の構成を示すブロック図である。制御部17は、CPU(Central Processing Unit)やRAM(Random Access Memory)を含む処理装置である。 FIG. 4 is a block diagram showing the configuration of the in-vehicle device 10. As shown in FIG. The control unit 17 is a processing device including a CPU (Central Processing Unit) and a RAM (Random Access Memory).

記憶部18は、制御部17の処理に必要なデータを記憶管理する記憶デバイスである。記憶部18は、例えば、ハードディスク、フラッシュメモリ、SSD(Solid State Drive)等の記憶デバイスによって構成されている。記憶部18は、地図データを記憶している。 The storage unit 18 is a storage device that stores and manages data required for processing by the control unit 17 . The storage unit 18 is configured by a storage device such as a hard disk, flash memory, SSD (Solid State Drive), or the like. The storage unit 18 stores map data.

通信部19は、制御部17の指示に従って外部機器とのデータの送受信を行う通信装置である。通信部19は、例えば、ネットワークNWに接続するためのNIC(Network Interface Card)を含む。通信部19は、例えば、車両Mにおいて取得された音声、車両Mの車内映像、車外映像、及び車両Mの現在位置情報をサーバ30に送信する送信部として機能する。 The communication unit 19 is a communication device that transmits and receives data to and from an external device according to instructions from the control unit 17 . The communication unit 19 includes, for example, a NIC (Network Interface Card) for connecting to the network NW. The communication unit 19 functions as a transmission unit that transmits, for example, audio acquired in the vehicle M, an image inside the vehicle M, an image outside the vehicle M, and the current position information of the vehicle M to the server 30 .

ここで、制御部17の機能ブロックである経路生成部171について説明する。経路生成部171は、記憶部18に記憶されている地図データと、GPS受信機13を介して特定した車両Mの現在位置と、タッチパネルディスプレイ15を介して入力された目的地とに基づいて、当該現在位置から目的地までの移動経路を生成する。 Here, the route generator 171, which is a functional block of the controller 17, will be described. Based on the map data stored in the storage unit 18, the current position of the vehicle M specified via the GPS receiver 13, and the destination input via the touch panel display 15, the route generation unit 171 A moving route from the current position to the destination is generated.

制御部17は、経路生成部171によって生成された移動経路を、通信部19を介してサーバ30に逐次送信する。 The control unit 17 sequentially transmits the travel route generated by the route generation unit 171 to the server 30 via the communication unit 19 .

図5は、サーバ30の構成を示すブロック図である。制御部31は、CPUやRAMを含む処理装置である。 FIG. 5 is a block diagram showing the configuration of the server 30. As shown in FIG. The control unit 31 is a processing device including a CPU and a RAM.

通信部32は、制御部31の指示に従って外部機器とのデータの送受信を行う通信装置である。通信部32は、例えば、ネットワークNWに接続するためのNICを含む。 The communication unit 32 is a communication device that transmits and receives data to and from an external device according to instructions from the control unit 31 . The communication unit 32 includes, for example, a NIC for connecting to the network NW.

通信部32は、例えば、車両Mの外部及び内部の映像、車両Mの内部において取得された音声、及び車両Mの現在位置の情報を車載装置10から受信する受信部として機能する。また、通信部32は、例えば、車両Mの外部及び内部の映像、及び車両Mの内部において取得された音声を端末装置20に送信する送信部として機能する。 The communication unit 32 functions as a reception unit that receives, for example, images of the exterior and interior of the vehicle M, audio acquired inside the vehicle M, and information on the current position of the vehicle M from the in-vehicle device 10 . In addition, the communication unit 32 functions as a transmission unit that transmits images of the exterior and interior of the vehicle M and audio acquired inside the vehicle M to the terminal device 20, for example.

記憶部33は、制御部31の処理に必要なデータを記憶管理する記憶デバイスである。記憶部33は、例えば、ハードディスク、フラッシュメモリ、SSD等の記憶デバイスによって構成されている。 The storage unit 33 is a storage device that stores and manages data necessary for processing of the control unit 31 . The storage unit 33 is configured by a storage device such as a hard disk, flash memory, SSD, or the like.

記憶部33は、インカメラ映像及びアウトカメラ映像のうちの一方が予め送信映像の種類として設定されたエリアである特定エリアと、当該特定エリアに対応する映像の種類(インカメラ映像かアウトカメラ映像か)とを対応付けて記憶する特定エリアデータベース331(以下、特定エリアDB331と称する)を有する。 The storage unit 33 stores a specific area in which one of the in-camera video and the out-camera video is set in advance as the type of transmission video, and the type of video corresponding to the specific area (in-camera video or out-camera video). ) are stored in association with each other (hereinafter referred to as a specific area DB 331).

例えば、送信する映像の種類がインカメラ映像に設定された特定エリアに車両Mが進入した場合、当該特定エリアに進入する前に端末装置20に送信していた映像の種類がアウトカメラ映像である場合には、送信する映像の種類をアウトカメラ映像からインカメラ映像へと切り替える。一方、当該特定エリアに進入する前から端末装置20にインカメラ映像を送信していた場合には、引き続きインカメラ映像の送信を続ける。その後、車両Mが当該特定エリアに位置し続ける限り、送信する映像の種類をインカメラ映像に固定し、アウトカメラ映像への切り替えを不可とする。 For example, when the vehicle M enters a specific area in which the type of image to be transmitted is set to the in-camera image, the type of image transmitted to the terminal device 20 before entering the specific area is the out-camera image. In this case, the type of video to be transmitted is switched from the out-camera video to the in-camera video. On the other hand, if the in-camera image has been transmitted to the terminal device 20 before entering the specific area, the in-camera image continues to be transmitted. After that, as long as the vehicle M continues to be located in the specific area, the type of video to be transmitted is fixed to the in-camera video, and switching to the out-camera video is disabled.

図6は、特定エリアDB331に格納されている情報の一例を示す図である。特定エリアDB331には、特定エリアを特徴づける対象地点、当該対象地点からの距離によって示される特定エリア、及び当該特定エリアについて設定された送信映像の種類が対応付けて格納されている。 FIG. 6 is a diagram showing an example of information stored in the specific area DB 331. As shown in FIG. The specific area DB 331 stores target points characterizing the specific areas, specific areas indicated by distances from the target points, and types of transmission video set for the specific areas in association with each other.

特定エリアDB331では、「Aさん」や「Sさん」等の個人の自宅周辺が、「インカメラ映像」の特定エリアとして設定されている。例えば、Aさんの自宅から200mの範囲内に車両Mが進入した場合、サーバ30の映像送信部37は、送信する映像をインカメラ映像に固定する。すなわち、車両MがAさんの自宅から200m以内の範囲に進入する前からインカメラ映像を送信していた場合、映像送信部37は引き続きインカメラ映像の送信を続け、端末装置20からの要求に応じた映像の切り替えを不可とする。一方、車両MがAさんの自宅から200m以内の範囲に進入する前はアウトカメラ映像を送信していた場合、映像送信部37は送信する映像をアウトカメラ映像からインカメラ映像へと切り替え、以後車両MがAさんの自宅から200m以内の範囲にとどまる限り、インカメラ映像を端末装置20に送信し続ける。これにより、車両MがAさんの自宅周辺に位置している場合にはインカメラ映像のみが端末装置20に送信されるため、端末装置20を用いて音声映像通信を行う相手方の通話者にAさんの自宅の具体的な位置を知られないようにすることができる。したがって、Aさんのプライバシーを保護することが可能となる。 In the specific area DB 331, areas around individual homes such as "Mr. A" and "Mr. S" are set as specific areas for "in-camera video". For example, when the vehicle M enters within a range of 200 m from Mr. A's home, the image transmission unit 37 of the server 30 fixes the image to be transmitted to the in-camera image. That is, when the vehicle M has been transmitting the in-camera image before entering the range within 200 m from Mr. A's home, the image transmission unit 37 continues to transmit the in-camera image, and responds to the request from the terminal device 20. It is not possible to switch the video according to the On the other hand, if the out-camera image was transmitted before the vehicle M entered the range within 200 m from Mr. A's home, the image transmission unit 37 switches the image to be transmitted from the out-camera image to the in-camera image. As long as the vehicle M stays within a range of 200 m from Mr. A's home, the in-camera video is continuously transmitted to the terminal device 20 . As a result, only the in-camera video is transmitted to the terminal device 20 when the vehicle M is located near Mr. A's home. It is possible to prevent the specific location of Mr.'s home from being known. Therefore, Mr. A's privacy can be protected.

また、特定エリアDB331では、「Kタワー」や「G寺」等の著名な観光スポットの周辺が、「アウトカメラ映像」の特定エリアとして設定されている。例えば、Kタワーから500mの範囲内に車両Mが進入した場合、サーバ30の映像送信部37は、送信する映像をアウトカメラ映像に固定する。すなわち、車両MがKタワーから500m以内の範囲に進入する前からアウトカメラ映像を送信していた場合、映像送信部37は引き続きアウトカメラ映像の送信を続け、端末装置20からの要求に応じた映像の切り替えを不可とする。一方、車両MがKタワーから500m以内の範囲に進入する前はインカメラ映像を送信していた場合、映像送信部37は送信する映像をインカメラ映像からアウトカメラ映像へと切り替え、以後車両MがKタワーから500m以内の範囲にとどまる限り、アウトカメラ映像を端末装置20に送信し続ける。これにより、車両MがKタワーの周辺に位置している場合には、Kタワーを撮影した映像が端末装置20に送信され、タッチパネルディスプレイ23に表示される。したがって、端末装置20を用いて音声映像通信を行う相手方の通話者は、観光スポットを見逃すことなく音声映像通信を楽しむことが可能となる。 Further, in the specific area DB 331, areas around famous tourist spots such as "K Tower" and "G Temple" are set as specific areas for "out-camera video". For example, when the vehicle M enters within a range of 500 m from the K tower, the image transmission unit 37 of the server 30 fixes the image to be transmitted to the out-camera image. That is, when the vehicle M has been transmitting the out-camera image before entering the range within 500 m from the K tower, the image transmission unit 37 continues to transmit the out-camera image and responds to the request from the terminal device 20. Video switching is not allowed. On the other hand, when the in-camera image was transmitted before the vehicle M entered the range within 500 m from the K tower, the image transmission unit 37 switches the image to be transmitted from the in-camera image to the out-camera image, and thereafter the vehicle M continues to transmit the out-camera image to the terminal device 20 as long as remains within a range of 500 m from the K Tower. As a result, when the vehicle M is positioned around the K Tower, an image of the K Tower is transmitted to the terminal device 20 and displayed on the touch panel display 23 . Therefore, the caller of the other party performing the audio-visual communication using the terminal device 20 can enjoy the audio-visual communication without missing the tourist spot.

次に、制御部31の機能ブロックについて説明する。各機能ブロックは、例えば記憶部33に格納されているプログラムを制御部31が読み出して実行することにより形成される。 Next, functional blocks of the control unit 31 will be described. Each functional block is formed by the control unit 31 reading and executing a program stored in the storage unit 33, for example.

映像情報取得部34は、車載装置10から逐次送信される映像情報を、通信部32を介して取得する機能ブロックである。具体的には、映像情報取得部34は、車載装置10から送信された車両Mの車内映像(インカメラ映像)及び車外映像(アウトカメラ映像)を映像情報として取得する。 The image information acquisition unit 34 is a functional block that acquires image information sequentially transmitted from the in-vehicle device 10 via the communication unit 32 . Specifically, the image information acquiring unit 34 acquires the in-vehicle image (in-camera image) and the outside image (out-camera image) of the vehicle M transmitted from the in-vehicle device 10 as image information.

車両情報取得部35は、車載装置10から逐次送信される現在位置情報、すなわち車両Mの現在位置情報を逐次取得する機能ブロックである。 The vehicle information acquisition unit 35 is a functional block that sequentially acquires the current position information that is sequentially transmitted from the in-vehicle device 10, that is, the current position information of the vehicle M.

地図画像生成部36は、車両情報取得部35が取得した現在位置情報及び移動経路情報と、記憶部33に記憶されている地図データとに基づいて、車両Mの現在位置及び移動経路が記された地図画像を生成する。地図画像生成部36は、生成した地図画像を示す画像データを、通信部32を介して端末装置20に送信する。 The map image generation unit 36 draws the current position and movement route of the vehicle M based on the current position information and the movement route information acquired by the vehicle information acquisition unit 35 and the map data stored in the storage unit 33 . Generate a map image with The map image generation unit 36 transmits image data representing the generated map image to the terminal device 20 via the communication unit 32 .

映像送信部37は、映像情報取得部34が取得したインカメラ映像及びアウトカメラ映像のうちの一方を、通信部32を介して端末装置20に送信(転送)する。 The video transmission unit 37 transmits (transfers) one of the in-camera video and the out-camera video acquired by the video information acquisition unit 34 to the terminal device 20 via the communication unit 32 .

映像送信部37は、車両Mが特定エリア以外を走行している場合には、車載装置10又は端末装置20からの切替要求に応じて、送信する映像をインカメラ映像からアウトカメラ映像に、又はアウトカメラ映像からインカメラ映像に切り替える機能を有する。例えば、映像送信部37は、端末装置20のタッチパネルディスプレイに表示された切替ボタンの操作に応じて、端末装置20からの切替要求を通信部32を介して受信し、受信した切替要求に基づいて映像の切り替えを行う。 When the vehicle M is traveling outside the specific area, the video transmission unit 37 changes the video to be transmitted from the in-camera video to the out-camera video in response to a switching request from the in-vehicle device 10 or the terminal device 20, or It has a function to switch from the out-camera image to the in-camera image. For example, the video transmission unit 37 receives a switching request from the terminal device 20 via the communication unit 32 in response to the operation of a switching button displayed on the touch panel display of the terminal device 20, and based on the received switching request Switch images.

一方、映像送信部37は、車両Mが特定エリアを走行している場合、この切り替え機能を制限し、外部からの切替要求に応じた映像の切り替えを不可に設定する。すなわち、映像送信部37は、車両情報取得部35が取得した車両Mの現在位置情報及び特定エリアDB331に格納されている情報に基づいて、車両Mが特定エリアに位置していると判定した場合には、端末装置20に送信する映像の種類を当該特定エリアに対応する映像(インカメラ映像かアウトカメラ映像のいずれか)に固定する。 On the other hand, when the vehicle M is traveling in a specific area, the video transmission unit 37 restricts this switching function and disables video switching in response to a switching request from the outside. That is, when the video transmission unit 37 determines that the vehicle M is located in the specific area based on the current position information of the vehicle M acquired by the vehicle information acquisition unit 35 and the information stored in the specific area DB 331. 2, the type of image to be transmitted to the terminal device 20 is fixed to the image corresponding to the specific area (either the in-camera image or the out-camera image).

なお、制御部31は、映像送信部37によって端末装置20に送信されている映像がインカメラ映像であるのかまたはアウトカメラ映像であるのかを特定する情報を車載装置10に通知する。すなわち、制御部31は、端末装置20に送信している映像の種類を車載装置10にて告知させる告知制御部としての機能を有する。 Note that the control unit 31 notifies the in-vehicle device 10 of information specifying whether the video being transmitted to the terminal device 20 by the video transmission unit 37 is the in-camera video or the out-camera video. That is, the control unit 31 has a function as a notification control unit that causes the in-vehicle device 10 to notify the type of video being transmitted to the terminal device 20 .

また、制御部31は、映像送信部37が車両Mの現在位置情報に基づいて、送信する映像の種類を切り替えた場合、端末装置20に表示される映像の種類が切り替わったことを、通信部32を介して車載装置10に通知する。上記の通り、車載装置10のタッチパネルディスプレイ15には、現在端末装置20に表示されているのがインカメラ映像なのかアウトカメラ映像なのかについての情報が表示されており、サーバ30からの通知に基づいて、当該情報の表示も更新される。 Further, when the video transmission unit 37 switches the type of video to be transmitted based on the current position information of the vehicle M, the control unit 31 notifies the communication unit that the type of video displayed on the terminal device 20 has been switched. 32 to the in-vehicle device 10 . As described above, the touch panel display 15 of the in-vehicle device 10 displays information as to whether the image currently being displayed on the terminal device 20 is the in-camera image or the out-camera image. Based on this, the display of the information is also updated.

また、映像送信部37は、インカメラ映像及びアウトカメラ映像の切り替えを行った場合、これに伴い、端末装置20のタッチパネルディスプレイ23に表示させる地図画像の表示態様を変化させる制御を行う。例えば、本実施例では、映像送信部37は、車両Mが特定エリアに進入した際に、地図画像の表示態様の変更を要求する信号を、通信部32を介して端末装置20に送信する。例えば、車両Mが運転者の自宅から所定距離の範囲に進入した場合、映像送信部37は、地図画像の縮尺を変更して広域表示とするように要求する信号を、通信部32を介して端末装置20に送信する。 Further, when switching between the in-camera video and the out-camera video, the video transmission unit 37 performs control to change the display mode of the map image displayed on the touch panel display 23 of the terminal device 20 accordingly. For example, in this embodiment, the video transmission unit 37 transmits a signal requesting change of the display mode of the map image to the terminal device 20 via the communication unit 32 when the vehicle M enters the specific area. For example, when the vehicle M has entered a range within a predetermined distance from the driver's home, the image transmission unit 37 transmits a signal requesting that the scale of the map image is changed to display a wide area through the communication unit 32. Send to the terminal device 20 .

図7は、車両Mが特定エリアに進入し、アウトカメラ映像からインカメラ映像へと映像の切り替えが行われた際に、端末装置20のタッチパネルディスプレイ23に表示される映像及び地図画像の例を示す図である。 FIG. 7 shows an example of an image and a map image displayed on the touch panel display 23 of the terminal device 20 when the vehicle M enters a specific area and the image is switched from the out-camera image to the in-camera image. FIG. 4 is a diagram showing;

第1の表示領域A1には、車両Mの内部を撮影した映像であるインカメラ映像が表示される。また、第2の表示領域A2には、車両Mの現在位置の周辺を表す地図画像が広域表示により表示される。 An in-camera image, which is an image of the interior of the vehicle M, is displayed in the first display area A1. In addition, a map image showing the surroundings of the current position of the vehicle M is displayed in a wide area display in the second display area A2.

図7に示すように、第1の表示領域A1におけるアウトカメラ映像からインカメラ映像への表示の切り替えに応じて、第2の表示領域A2では、図3に示すアウトカメラ映像の表示時よりも小さい縮尺で周辺の地図が表示される。例えば、幹線道路等の大きな道路についてのみが表示され、それ以外の小さい道路については省略して表示される。また、図3に示すアウトカメラ映像の表示時と比べて、車両Mの位置を表すアイコン画像が大きく表示される。これにより、音声映像通信の相手方である端末装置20の操作者は車両Mの詳しい現在位置を地図画像から読み取ることができなくなるため、インカメラ映像の表示と併せて、車両Mの運転者のプライバシーの保護を図ることが可能となる。 As shown in FIG. 7, in response to switching of the display from the out-camera image to the in-camera image in the first display area A1, the second display area A2 displays more images than the out-camera image shown in FIG. A map of the surrounding area is displayed at a small scale. For example, only large roads such as trunk roads are displayed, and other small roads are omitted. Also, the icon image representing the position of the vehicle M is displayed larger than when the out-camera image shown in FIG. 3 is displayed. As a result, the operator of the terminal device 20, which is the other party of the audio/video communication, cannot read the detailed current position of the vehicle M from the map image. It will be possible to protect

図8は、端末装置20の構成を示すブロック図である。制御部24は、CPUやRAMを含む処理装置である。 FIG. 8 is a block diagram showing the configuration of the terminal device 20. As shown in FIG. The control unit 24 is a processing device including a CPU and a RAM.

通信部25は、制御部24の指示に従って外部機器とのデータの送受信を行う通信装置である。通信部25は、例えば、ネットワークNWに接続するためのNICを含む。 The communication unit 25 is a communication device that transmits and receives data to and from an external device according to instructions from the control unit 24 . The communication unit 25 includes, for example, a NIC for connecting to the network NW.

通信部25は、例えば、車両Mの外部を撮影した映像であるアウトカメラ映像や車両Mの内部を撮影した映像であるインカメラ映像をサーバ30から受信する受信部として機能する。また、通信部25は、タッチパネルディスプレイ23を用いた操作入力に応じた情報をサーバ30に送信する送信部として機能する。 The communication unit 25 functions as a receiving unit that receives from the server 30 an out-camera image that is an image of the outside of the vehicle M and an in-camera image that is an image of the inside of the vehicle M, for example. The communication unit 25 also functions as a transmission unit that transmits information corresponding to an operation input using the touch panel display 23 to the server 30 .

次に、本実施例における車載装置10、端末装置20及びサーバ30の各々の具体的な動作の一例を、フローチャートを用いて説明する。 Next, an example of specific operations of each of the in-vehicle device 10, the terminal device 20, and the server 30 in this embodiment will be described using flowcharts.

図9は、車載装置10の制御部17が実行する音声映像送信処理ルーチンREX1を示すフローチャートである。 FIG. 9 is a flowchart showing an audio/video transmission processing routine REX1 executed by the control unit 17 of the in-vehicle device 10. As shown in FIG.

制御部17は、車載装置10と端末装置20との間の音声映像通信接続が確立され、音声映像通信が開始されたか否かを判定する(STEP101)。制御部17は、音声映像通信が開始されていないと判定すると(STEP101:NO)、音声映像送信処理ルーチンREX1を終了する。 The control unit 17 determines whether or not an audio/video communication connection has been established between the in-vehicle device 10 and the terminal device 20 and audio/video communication has started (STEP 101). When the control unit 17 determines that the audio/video communication has not started (STEP101: NO), it ends the audio/video transmission processing routine REX1.

一方、音声映像通信が開始されたと判定すると(STEP101:YES)、制御部17は、車外撮影カメラ11によって撮影された車両Mの外部の映像、車内カメラ12によって撮影された車両Mの内部の映像、及びマイク14を介して入力された音声を、サーバ30に逐次送信する(STEP102)。 On the other hand, if it is determined that the audio-visual communication has started (STEP 101: YES), the control unit 17 detects the image of the exterior of the vehicle M captured by the exterior camera 11 and the image of the interior of the vehicle M captured by the in-vehicle camera 12. , and voice input via the microphone 14 are sequentially transmitted to the server 30 (STEP 102).

制御部17は、音声映像通信が終了したか否かを判定する(STEP103)。音声映像通信が終了していないと判定すると(STEP103:NO)、STEP102に戻り、制御部17は映像及び音声の送信を繰り返し実行する。一方、音声映像通信が終了したと判定すると(STEP103:YES)、制御部17は、映像及び音声の送信を停止し(STEP104)、処理を終了する。 The control unit 17 determines whether or not the audio/video communication has ended (STEP 103). If it is determined that the audio/video communication has not ended (STEP 103: NO), the control unit 17 returns to STEP 102 and repeats transmission of video and audio. On the other hand, if it is determined that the audio/video communication has ended (STEP103: YES), the control section 17 stops transmitting the video and audio (STEP104), and ends the process.

車載装置10の制御部17は、上記した音声映像送信処理ルーチンREX1によって、車載装置10と端末装置20との音声映像通信が継続する限り、映像及び音声をサーバ30に送信し続ける。 The control unit 17 of the vehicle-mounted device 10 continues to transmit video and audio to the server 30 as long as the audio-visual communication between the vehicle-mounted device 10 and the terminal device 20 continues according to the audio/video transmission processing routine REX1.

図10は、サーバ30の制御部31が実行する音声映像送信処理ルーチンREX2を示すフローチャートである。 FIG. 10 is a flowchart showing an audio/video transmission processing routine REX2 executed by the control unit 31 of the server 30. As shown in FIG.

制御部31は、車載装置10と端末装置20との間の音声映像通信接続が確立され、音声映像通信が開始されたか否かを判定する(STEP201)。制御部31は、音声映像通信が開始されていないと判定すると(STEP201:NO)、音声映像送信処理ルーチンREX2を終了する。 The control unit 31 determines whether or not the audio/video communication connection between the in-vehicle device 10 and the terminal device 20 has been established and the audio/video communication has started (STEP 201). When the control unit 31 determines that the audio/video communication has not started (STEP201: NO), it ends the audio/video transmission processing routine REX2.

一方、音声映像通信が開始されたと判定すると(STEP201:YES)、制御部31の映像情報取得部34は、車載装置10から送信された映像及び音声の逐次受信を開始する(STEP202)。 On the other hand, when it is determined that the audio/video communication has started (STEP201: YES), the video information acquisition unit 34 of the control unit 31 starts sequentially receiving the video and audio transmitted from the in-vehicle device 10 (STEP202).

映像送信部37は、STEP202で受信した映像及び音声を、端末装置20に転送する(STEP203)。 The video transmission unit 37 transfers the video and audio received in STEP 202 to the terminal device 20 (STEP 203).

制御部31は、車両情報取得部35が取得した車両Mの現在位置情報と、記憶部33に記憶されている地図情報と、に基づいて、車両Mが特定エリアに到達したか否かを判定する(STEP204)。 The control unit 31 determines whether the vehicle M has reached the specific area based on the current position information of the vehicle M acquired by the vehicle information acquisition unit 35 and the map information stored in the storage unit 33. (STEP 204).

車両Mが特定エリアに到達していないと判定すると(STEP204:NO)、STEP202に戻って、車載装置10から送信された映像及び音声の逐次受信及び端末装置20への転送を継続する。 If it is determined that the vehicle M has not reached the specific area (STEP 204 : NO), the process returns to STEP 202 to continue sequentially receiving the video and audio transmitted from the in-vehicle device 10 and transferring them to the terminal device 20 .

一方、車両Mが特定エリアに到達したと判定すると(STEP204:YES)、制御部31は、映像送信部37が送信する映像の切り替えを行う必要があるか否かを判定する(STEP205)。 On the other hand, if it is determined that the vehicle M has reached the specific area (STEP204: YES), the control section 31 determines whether or not it is necessary to switch the video transmitted by the video transmission section 37 (STEP205).

例えば、端末装置20にアウトカメラ映像を送信している状態で、「インカメラ映像」の送信に対応する特定エリアに車両Mが進入した場合、映像の切り替えを行う必要があると判定される。同様に、端末装置20にインカメラ映像を送信している状態で、「アウトカメラ映像」の送信に対応する特定エリアに車両Mが進入した場合、映像の切り替えを行う必要があると判定される。一方、インカメラ映像を送信している状態で「インカメラ映像」の送信に対応する特定エリアに進入した場合、及びアウトカメラ映像を送信している状態で「アウトカメラ映像」の送信に対応する特定エリアに進入した場合、映像の切り替えを行う必要はないと判定される。 For example, when an out-camera image is being transmitted to the terminal device 20 and the vehicle M enters a specific area corresponding to transmission of an "in-camera image", it is determined that switching of the image is necessary. Similarly, when the vehicle M enters a specific area corresponding to the transmission of the "out-camera image" while the in-camera image is being transmitted to the terminal device 20, it is determined that it is necessary to switch the image. . On the other hand, if you enter a specific area that supports transmission of "in-camera video" while in-camera video is being transmitted, or if you are transmitting "out-camera video" while transmitting out-camera video, When entering the specific area, it is determined that there is no need to switch the video.

映像の切り替えを行う必要があると判定すると(STEP205:YES)、映像送信部37は、端末装置20に送信する映像の切り替えを行う(STEP206)。例えば、端末装置20にインカメラ映像を送信している場合には、送信する映像をアウトカメラ映像に切り替える。また、端末装置20にアウトカメラ映像を送信している場合には、送信する映像をインカメラ映像に切り替える。 If it is determined that it is necessary to switch the video (STEP 205: YES), the video transmission unit 37 switches the video to be transmitted to the terminal device 20 (STEP 206). For example, when an in-camera image is being transmitted to the terminal device 20, the image to be transmitted is switched to an out-camera image. Further, when the out-camera image is being transmitted to the terminal device 20, the image to be transmitted is switched to the in-camera image.

一方、映像の切り替えを行う必要がないと判定すると(STEP205:NO)、映像の切り替えを行わず、STEP207に移行する。 On the other hand, if it is determined that there is no need to switch the video (STEP 205: NO), the process proceeds to STEP 207 without switching the video.

映像送信部37は、端末装置20に送信する映像の種類(インカメラ映像か、アウトカメラ映像か)を固定する(STEP207)。すなわち、映像送信部37は、車両Mが特定エリアから退出するまでの間、同じ種類の映像を継続的に端末装置20に送信し、映像の切り替えを不可に設定する。 The video transmission unit 37 fixes the type of video (in-camera video or out-camera video) to be transmitted to the terminal device 20 (STEP 207). That is, the video transmission unit 37 continuously transmits the same type of video to the terminal device 20 until the vehicle M leaves the specific area, and disables video switching.

例えば、車両MがAさんの自宅から200m以内に位置している限り、映像送信部37が送信する映像はインカメラ映像に固定される。したがって、例えば端末装置20から映像の切替要求があった場合でも、当該切替要求に応じたアウトカメラ映像への切り替えは不可となる。 For example, as long as the vehicle M is located within 200 m from Mr. A's home, the video transmitted by the video transmission unit 37 is fixed to the in-camera video. Therefore, even if the terminal device 20 issues a video switching request, switching to the out-camera video in response to the switching request is disabled.

制御部31は、音声映像通信が終了したか否かを判定する(STEP208)。音声映像通信が終了していないと判定すると(STEP208:NO)、STEP202に戻り、制御部31は、映像及び音声の受信及び転送を継続する。 The control unit 31 determines whether or not the audio/video communication has ended (STEP 208). If it is determined that the audio/video communication has not ended (STEP208: NO), the control unit 31 returns to STEP202 and continues receiving and transferring video and audio.

一方、音声映像通信が終了したと判定すると(STEP208:YES)、制御部31は、映像及び音声の受信、転送を停止し(STEP209)、処理を終了する。 On the other hand, when determining that the audio/video communication has ended (STEP208: YES), the control unit 31 stops receiving and transferring video and audio (STEP209), and ends the process.

以上のように、本実施例の通信システム100では、車両Mが特定エリアに進入した場合、インカメラ映像及びアウトカメラ映像のうち、当該特定エリアについて予め定められた一方を端末装置20に送信する。特に、特定エリアについて定められた映像の種類とは異なる種類の映像を当該特定エリアの進入前に送信していた場合、特定エリアへの進入に応じて映像の切り替えを行う。これにより、車外映像を送信するか車内映像を送信するかを状況に応じて適切なタイミングで切り替えることが可能となる。 As described above, in the communication system 100 of the present embodiment, when the vehicle M enters a specific area, one of the in-camera video and the out-camera video predetermined for the specific area is transmitted to the terminal device 20. . In particular, if a type of video different from the type of video defined for the specific area is transmitted before entering the specific area, the video is switched according to the entry into the specific area. As a result, it is possible to switch between transmission of the video outside the vehicle and transmission of the video inside the vehicle at an appropriate timing depending on the situation.

また、本実施例の通信システム100では、車両Mが特定エリアに位置している間、その特定エリアに対応する映像のみを送信し、異なる種類の映像への切り替えを不可とする。かかる構成によれば、例えば運転者の自宅近辺ではインカメラ映像のみを送信し、アウトカメラ映像への切り替えを不可とすることにより、映像から住所が特定されるリスクを回避し、プライバシーの保護を図ることが可能となる。 Further, in the communication system 100 of this embodiment, while the vehicle M is located in a specific area, only the video corresponding to the specific area is transmitted, and switching to a different type of video is prohibited. According to such a configuration, for example, in the vicinity of the driver's home, only the in-camera image is transmitted, and switching to the out-camera image is prohibited, thereby avoiding the risk of the address being identified from the image and protecting the privacy. It is possible to plan

また、本実施例の通信システム100では、アウトカメラ映像からインカメラ映像への切り替えに応じて、アウトカメラ映像の表示時よりも小さい縮尺で周辺の地図を表示させる。また、アウトカメラ映像の表示時と比べて、車両Mの位置を表すアイコン画像を大きく表示させる。これにより、地図画像から住所が特定されるリスクを回避し、プライバシーの保護を図ることが可能となる。 Further, in the communication system 100 of the present embodiment, in response to switching from the out-camera image to the in-camera image, a map of the surrounding area is displayed in a smaller scale than when the out-camera image is displayed. Also, the icon image representing the position of the vehicle M is displayed larger than when the out-camera image is displayed. As a result, it is possible to avoid the risk that the address is specified from the map image and to protect the privacy.

また、本実施例の通信システム100では、車両Mが特定エリアに位置している間、特定の静止画を表示する(インカメラ/アウトカメラの映像を送信しない)ように制御しても良い。これにより、映像から住所が特定されるリスクを回避し、プライバシーの保護を図ることが可能となる。 Further, in the communication system 100 of the present embodiment, while the vehicle M is located in a specific area, it may be controlled to display a specific still image (not transmit the video of the in-camera/out-camera). As a result, it is possible to avoid the risk that the address is specified from the video and to protect the privacy.

なお、本発明は上記実施例で示したものに限られない。例えば、上記実施例では、車載装置10がインカメラ映像及びアウトカメラ映像の両方をサーバ30に送信し、サーバ30がいずれか一方を端末装置20に転送する場合を例として説明した。しかし、車載装置10がサーバ30に映像を送信する段階で、インカメラ映像及びアウトカメラ映像のいずれか一方のみをサーバ30に送信する構成としてもよい。この場合、例えば車載装置10が自身の位置情報に基づいて車両Mが特定エリアに位置しているか否かを判定し、インカメラ映像及びアウトカメラ映像のうち、特定エリアに対応する一方のみをサーバ30に送信する。かかる構成においても、上記実施例と同様、車外映像を送信するか車内映像を送信するかを状況に応じて適切なタイミングで切り替えることができ、プライバシー等の保護を図ることが可能となる。 It should be noted that the present invention is not limited to those shown in the above embodiments. For example, in the above embodiment, the in-vehicle device 10 transmits both the in-camera video and the out-camera video to the server 30, and the server 30 transfers either one to the terminal device 20 as an example. However, a configuration may be adopted in which only one of the in-camera video and the out-camera video is transmitted to the server 30 when the in-vehicle device 10 transmits the video to the server 30 . In this case, for example, the in-vehicle device 10 determines whether or not the vehicle M is located in a specific area based on its own position information, and only one of the in-camera video and the out-camera video corresponding to the specific area is sent to the server. 30. Also in this configuration, it is possible to switch between transmission of the video outside the vehicle and transmission of the video inside the vehicle at an appropriate timing according to the situation, as in the above-described embodiment, so that privacy and the like can be protected.

100 通信システム
10 車載装置
11 車外撮影カメラ
12 車内撮影カメラ
13 GPS受信機
14 マイク
15 タッチパネルディスプレイ
16 スピーカー
17 制御部
171 経路生成部
18 記憶部
19 通信部
20 端末装置
21 マイク
22 スピーカー
23 タッチパネルディスプレイ
24 制御部
25 通信部
30 サーバ
31 制御部
32 通信部
33 記憶部
331 特定エリアDB
34 映像情報取得部
35 車両情報取得部
36 地図画像生成部
37 映像送信部
100 Communication system 10 In-vehicle device 11 Vehicle exterior camera 12 Vehicle interior camera 13 GPS receiver 14 Microphone 15 Touch panel display 16 Speaker 17 Control unit 171 Route generation unit 18 Storage unit 19 Communication unit 20 Terminal device 21 Microphone 22 Speaker 23 Touch panel display 24 Control Unit 25 Communication unit 30 Server 31 Control unit 32 Communication unit 33 Storage unit 331 Specific area DB
34 video information acquisition unit 35 vehicle information acquisition unit 36 map image generation unit 37 video transmission unit

Claims (8)

車両と共に移動する第1装置によって取得された前記車両における音声及び映像を第2装置に逐次送信する音声映像通信を行う通信システムであって、
前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像のいずれか一方を前記第2装置に送信する映像送信部と、
前記車両の位置情報を取得する位置情報取得部と、
を有し、
前記映像送信部は、前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信することを特徴とする通信システム。
A communication system for performing audiovisual communication in which audio and video in the vehicle acquired by a first device moving with the vehicle are sequentially transmitted to a second device,
a video transmission unit that transmits either one of an in-camera video that is a video of the inside of the vehicle taken in the vehicle and an out-camera video that is a video of the outside of the vehicle in the vehicle to the second device;
a location information acquisition unit that acquires location information of the vehicle;
has
The communication system, wherein the image transmission unit transmits one of the in-camera image and the out-camera image determined by the position information to the second device.
前記映像送信部は、前記位置情報に基づいて、前記車両が特定のエリアに位置しているか否かを判定し、
前記車両が前記特定のエリアに位置していると判定した場合に、前記インカメラ映像及び前記アウトカメラ映像のうち前記特定のエリアについて定められた一方を前記第2装置に送信することを特徴とする請求項1に記載の通信システム。
The video transmission unit determines whether the vehicle is located in a specific area based on the position information,
characterized in that, when it is determined that the vehicle is located in the specific area, one of the in-camera image and the out-camera image determined for the specific area is transmitted to the second device. The communication system according to claim 1.
前記映像送信部は、前記車両が前記特定のエリアに進入する前に前記特定のエリアについて定められた種類の映像とは異なる種類の映像を前記第2装置に送信していた場合、前記車両の前記特定のエリアへの進入に応じて前記第2装置に送信する映像の種類を切り替えることを特徴とする請求項2に記載の通信システム。 The image transmission unit transmits to the second device a type of image different from a type of image defined for the specific area before the vehicle enters the specific area, the vehicle 3. The communication system according to claim 2, wherein the type of video to be transmitted to said second device is switched according to entry into said specific area. 複数の前記特定のエリアと、前記複数の特定のエリアの各々に対応する映像の種類と、を対応付けて記憶する記憶部を有し、
前記映像送信部は、前記位置情報と前記記憶部に記憶された情報とに基づいて、前記インカメラ映像及び前記アウトカメラ映像のいずれか一方を前記第2装置に送信することを特徴とする請求項3に記載の通信システム。
a storage unit that associates and stores a plurality of specific areas and video types corresponding to each of the plurality of specific areas;
The image transmission unit transmits either one of the in-camera image and the out-camera image to the second device based on the position information and the information stored in the storage unit. Item 4. The communication system according to item 3.
車両において撮影された映像及び前記車両の搭乗者からの音声を前記車両と共に移動する第1装置から受信して第2装置に逐次送信する音声映像通信を行う情報処理装置であって、
前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像のいずれか一方を前記第2装置に送信する映像送信部と、
前記車両の位置情報を取得する位置情報取得部と、
を有し、
前記映像送信部は、前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信することを特徴とする情報処理装置。
An information processing device that performs audio-visual communication for receiving video captured in a vehicle and audio from a passenger in the vehicle from a first device that moves with the vehicle and sequentially transmitting the video to a second device,
a video transmission unit that transmits either one of an in-camera video that is a video of the inside of the vehicle taken in the vehicle and an out-camera video that is a video of the outside of the vehicle in the vehicle to the second device;
a location information acquisition unit that acquires location information of the vehicle;
has
The information processing device, wherein the video transmission unit transmits one of the in-camera video and the out-camera video determined by the position information to the second device.
車両において撮影された映像及び前記車両の搭乗者からの音声を前記車両と共に移動する第1装置から受信して第2装置に逐次送信する音声映像通信を行う情報処理装置において実行される情報処理方法であって、
前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像を取得する映像取得ステップと、
前記車両の位置情報を取得する位置情報取得ステップと、
前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信する送信ステップと、
を有することを特徴とする情報処理方法。
An information processing method executed in an information processing apparatus that performs audiovisual communication in which images captured in a vehicle and voices from passengers in the vehicle are received from a first apparatus moving with the vehicle and sequentially transmitted to a second apparatus. and
an image acquisition step of acquiring an in-camera image that is an image of the interior of the vehicle captured by the vehicle and an out-camera image that is an image of the exterior of the vehicle captured by the vehicle;
a location information acquisition step of acquiring location information of the vehicle;
a transmission step of transmitting one of the in-camera image and the out-camera image determined by the position information to the second device;
An information processing method characterized by having
車両において撮影された映像及び前記車両の搭乗者からの音声を前記車両と共に移動する第1装置から受信して第2装置に逐次送信する音声映像通信を行う情報処理装置に、
前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像を取得する映像取得ステップと、
前記車両の位置情報を取得する位置情報取得ステップと、
前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信する送信ステップと、
を実行させるためのプログラム。
An information processing device that performs audio-visual communication for receiving video captured in a vehicle and audio from a passenger in the vehicle from a first device that moves with the vehicle and sequentially transmitting the video to a second device,
an image acquisition step of acquiring an in-camera image that is an image of the interior of the vehicle captured by the vehicle and an out-camera image that is an image of the exterior of the vehicle captured by the vehicle;
a location information acquisition step of acquiring location information of the vehicle;
a transmission step of transmitting one of the in-camera image and the out-camera image determined by the position information to the second device;
program to run the
車両において撮影された映像及び前記車両の搭乗者からの音声を前記車両と共に移動する第1装置から受信して第2装置に逐次送信する音声映像通信を行う情報処理装置に、
前記車両において前記車両の内部を撮影した映像であるインカメラ映像及び前記車両において前記車両の外部を撮影した映像であるアウトカメラ映像を取得する映像取得ステップと、
前記車両の位置情報を取得する位置情報取得ステップと、
前記インカメラ映像及び前記アウトカメラ映像のうちの前記位置情報により定まる一方を前記第2装置に送信する送信ステップと、
を実行させるためのプログラムを記録する記録媒体。
An information processing device that performs audio-visual communication for receiving video captured in a vehicle and audio from a passenger in the vehicle from a first device that moves with the vehicle and sequentially transmitting the video to a second device,
an image acquisition step of acquiring an in-camera image that is an image of the interior of the vehicle captured by the vehicle and an out-camera image that is an image of the exterior of the vehicle captured by the vehicle;
a location information acquisition step of acquiring location information of the vehicle;
a transmission step of transmitting one of the in-camera image and the out-camera image determined by the position information to the second device;
A recording medium that records a program for executing
JP2021210616A 2021-12-24 2021-12-24 Communication system, information processing device, information processing method, program, and recording medium Pending JP2023094982A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021210616A JP2023094982A (en) 2021-12-24 2021-12-24 Communication system, information processing device, information processing method, program, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021210616A JP2023094982A (en) 2021-12-24 2021-12-24 Communication system, information processing device, information processing method, program, and recording medium

Publications (1)

Publication Number Publication Date
JP2023094982A true JP2023094982A (en) 2023-07-06

Family

ID=87002303

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021210616A Pending JP2023094982A (en) 2021-12-24 2021-12-24 Communication system, information processing device, information processing method, program, and recording medium

Country Status (1)

Country Link
JP (1) JP2023094982A (en)

Similar Documents

Publication Publication Date Title
JP4270222B2 (en) Data providing system and data providing method
US11057575B2 (en) In-vehicle device, program, and vehicle for creating composite images
JP2017068640A (en) Vehicle-to-vehicle data communication device
WO2015186304A1 (en) Vehicular memories sharing system, vehicle-mounted device, and memories sharing program
EP1669722A1 (en) Vehicle-mounted communication device
JP2019200478A (en) Server, vehicle photographing system, and vehicle photographing method
JP2013055416A (en) Exterior video provision system
WO2012039022A1 (en) Information communicating apparatus, information communicating method, information communicating program, and information communicating system
JP2023094982A (en) Communication system, information processing device, information processing method, program, and recording medium
JP4325410B2 (en) In-vehicle device
JP2007074081A (en) On-vehicle communication apparatus
WO2023112115A1 (en) Communication system, information processing device, information processing method, program, and recording medium
JP2005333226A (en) Video conference system for vehicle
WO2020137398A1 (en) Operation control device, imaging device, and operation control method
WO2022208656A1 (en) Information processing device, information processing method, program, and recording medium
JP7451901B2 (en) Communication devices, communication methods and programs
JP2006031583A (en) On-vehicle system and remote observation system
JP2022153972A (en) Information processing device, information processing method, program, and storage medium
JPH11205782A (en) Anterior image processor for vehicle and its system
WO2023112114A1 (en) Communication system, information processing device, information processing method, program, and recording medium
JP2022153971A (en) Information processing device, information processing method, program, and storage medium
WO2023112113A1 (en) Communication system, information processing device, information processing method, program, and recording medium
JP2022157323A (en) Video transmission device, video output device, video output system, video transmission method, video transmission program, and storage medium
WO2023127118A1 (en) Information processing device, information processing method, information processing program, and storage medium
JP2018132320A (en) On-vehicle system, on-vehicle device, program and method