JP2023142342A - Information processing apparatus, program, and information processing system - Google Patents

Information processing apparatus, program, and information processing system Download PDF

Info

Publication number
JP2023142342A
JP2023142342A JP2022049207A JP2022049207A JP2023142342A JP 2023142342 A JP2023142342 A JP 2023142342A JP 2022049207 A JP2022049207 A JP 2022049207A JP 2022049207 A JP2022049207 A JP 2022049207A JP 2023142342 A JP2023142342 A JP 2023142342A
Authority
JP
Japan
Prior art keywords
business card
participant
unit
information processing
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022049207A
Other languages
Japanese (ja)
Inventor
浩史 植木
Hiroshi Ueki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2022049207A priority Critical patent/JP2023142342A/en
Publication of JP2023142342A publication Critical patent/JP2023142342A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

To more smoothly proceed an on-line conference.SOLUTION: A first terminal device 10 (information processing apparatus) comprises: a first extraction unit (control unit 11) that, during execution of an on-line event (on-line conference) where on a first display (display 14) that a first participant (first user 1) can visually recognize, a picked-up image obtained by picking up an image of a second participant (second user 2) different from the first participant in real time is displayed, when the picked-up image includes a business card of the second participant, extracts business card data (business card image data) including information on the business card from data of the picked-up image; and a registration unit (control unit 11) that, during the execution of the on-line event, registers the information on the business card data extracted by the first extraction unit in a storage unit 32 accessible by the first participant.SELECTED DRAWING: Figure 2

Description

本発明は、情報処理装置、プログラム及び情報処理システムに関する。 The present invention relates to an information processing device, a program, and an information processing system.

近年、商談が対面ではなく、オンラインで行われる機会が爆発的に増えた。商談において名刺の交換は非常に重要であるが、オンラインでは対面のように名刺を直接手渡しすることができない。そこで、商談をオンラインで行う場合であっても、商談相手に係る情報(名刺に記載された情報等)を取得することが求められる。 In recent years, opportunities for business negotiations to be conducted online rather than face-to-face have increased explosively. Exchanging business cards is very important in business negotiations, but online it is not possible to hand over business cards in person as you would in a face-to-face meeting. Therefore, even when conducting business negotiations online, it is necessary to obtain information regarding the business partner (such as information written on a business card).

これに関連して、特許文献1、2には、オンライン会議中に参加者が利用する端末装置の表示部に参加者に係る情報を表示することが記載されている。 In connection with this, Patent Documents 1 and 2 describe displaying information about participants on a display unit of a terminal device used by the participants during an online conference.

特開2010-28715号公報Japanese Patent Application Publication No. 2010-28715 国際公開第2021/171450号International Publication No. 2021/171450

しかしながら、特許文献1、2の発明では、オンライン会議前において、参加者に係る情報をデータベース等に予め登録しておく必要があり、オンライン会議中に登録されていない参加者の名刺に関する情報を取得することができなかったため、オンライン会議を円滑に進めることが難しい場合があった。 However, in the inventions of Patent Documents 1 and 2, it is necessary to register information about participants in a database etc. before the online meeting, and information about business cards of participants who are not registered during the online meeting is obtained. In some cases, it was difficult to conduct online meetings smoothly.

本発明の課題は、オンライン会議をより円滑に進めることができる情報処理装置、プログラム及び情報処理システムを提供することである。 An object of the present invention is to provide an information processing device, a program, and an information processing system that allow online meetings to proceed more smoothly.

上記課題を解決するため、本発明の情報処理装置は、
第1参加者が視認可能な第1表示部に、第1参加者とは異なる第2参加者がリアルタイムに撮像された撮像画像が表示されるオンラインイベントの実行中において、
前記撮像画像に前記第2参加者の名刺が含まれている場合に、前記撮像画像のデータから名刺に関する情報を含む名刺データを抽出する第1抽出部と、
前記オンラインイベントの実行中に、前記第1抽出部により抽出された前記名刺データに関する情報を前記第1参加者がアクセス可能な記憶部に登録する登録部と、
を備える。
In order to solve the above problems, the information processing device of the present invention includes:
During the execution of an online event in which a captured image of a second participant different from the first participant is displayed in real time on a first display section that is visible to the first participant,
a first extraction unit that extracts business card data including information regarding the business card from data of the captured image when the captured image includes a business card of the second participant;
a registration unit that registers information regarding the business card data extracted by the first extraction unit in a storage unit accessible to the first participant during execution of the online event;
Equipped with

本発明によれば、オンライン会議をより円滑に進めることができる。 According to the present invention, online meetings can proceed more smoothly.

本実施形態に係る情報処理システムの概略構成を示す接続図である。FIG. 1 is a connection diagram showing a schematic configuration of an information processing system according to the present embodiment. 第1端末装置の主制御構成を示すブロック図である。FIG. 2 is a block diagram showing the main control configuration of the first terminal device. 第2端末装置の主制御構成を示すブロック図である。FIG. 3 is a block diagram showing the main control configuration of the second terminal device. サーバー装置の主制御構成を示すブロック図である。FIG. 2 is a block diagram showing the main control configuration of the server device. 名刺画像データの一例を示す図である。It is a figure showing an example of business card image data. 第1端末装置が表示する会議前のオンライン会議画面の一例を示す図である。FIG. 3 is a diagram showing an example of an online conference screen before the conference displayed by the first terminal device. 第1端末装置が実行する事前登録処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the pre-registration process which a 1st terminal device performs. 第1端末装置が実行する名刺撮影表示処理の流れを示すフローチャートである。It is a flowchart which shows the flow of business card photography display processing which a 1st terminal device performs. 第1端末装置が表示する会議前のオンライン会議画面の一例を示す図である。FIG. 3 is a diagram showing an example of an online conference screen before the conference displayed by the first terminal device. 第1端末装置が表示する会議前のオンライン会議画面の一例を示す図である。FIG. 3 is a diagram showing an example of an online conference screen before the conference displayed by the first terminal device. 第1端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 2 is a diagram showing an example of an online conference screen during a conference displayed by the first terminal device. 第1端末装置が実行する会議中処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the process during a meeting which a 1st terminal device performs. 第1端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 2 is a diagram showing an example of an online conference screen during a conference displayed by the first terminal device. 第2端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 7 is a diagram illustrating an example of an online conference screen during a conference displayed by the second terminal device. 第1端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 2 is a diagram showing an example of an online conference screen during a conference displayed by the first terminal device. 第2端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 7 is a diagram illustrating an example of an online conference screen during a conference displayed by the second terminal device. 第1端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 2 is a diagram showing an example of an online conference screen during a conference displayed by the first terminal device. 第2端末装置が表示する会議中のオンライン会議画面の一例を示す図である。FIG. 7 is a diagram illustrating an example of an online conference screen during a conference displayed by the second terminal device.

以下、本発明の実施の形態について、図面を参照して詳細に説明する。 Embodiments of the present invention will be described in detail below with reference to the drawings.

[1.構成の説明]
[1-1.システム構成の説明]
まず、本実施形態に係る情報処理システム100の構成について説明する。
図1は、本発明の一実施形態に係る情報処理システム100の全体構成を示す図である。
[1. Configuration description]
[1-1. Description of system configuration]
First, the configuration of the information processing system 100 according to this embodiment will be described.
FIG. 1 is a diagram showing the overall configuration of an information processing system 100 according to an embodiment of the present invention.

情報処理システム100は、図1に示すように、少なくとも1台の第1端末装置10(情報処理装置)と、少なくとも1台の第2端末装置20と、サーバー装置30を備える。第1端末装置10及び第2端末装置20の台数はこれに限らない。
情報処理システム100において、第1端末装置10、第2端末装置20及びサーバー装置30は、通信ネットワークNを介して通信を行う。通信ネットワークNは、インターネットであるものとするが、他のネットワークとしてもよい。
情報処理システム100は、第1端末装置10または第2端末装置20を使用するそれぞれのユーザ間でオンライン会議(Web会議、ウェブ会議、オンラインイベント)を実現させるためのシステムである。
As shown in FIG. 1, the information processing system 100 includes at least one first terminal device 10 (information processing device), at least one second terminal device 20, and a server device 30. The number of first terminal devices 10 and second terminal devices 20 is not limited to this.
In the information processing system 100, the first terminal device 10, the second terminal device 20, and the server device 30 communicate via a communication network N. The communication network N is assumed to be the Internet, but may be another network.
The information processing system 100 is a system for realizing an online conference (web conference, web conference, online event) between users using the first terminal device 10 or the second terminal device 20.

第1端末装置10は、オンライン会議の参加者である第1ユーザ1(第1参加者)により利用されるPC、タブレット端末、スマートフォン等のコンピューター装置である。
第2端末装置20は、オンライン会議の参加者である第2ユーザ2(第2参加者)により利用されるPC、タブレット端末、スマートフォン等のコンピューター装置である。
サーバー装置30は、後述する名刺画像データ等を記憶する装置であり、クラウド環境に設けられたクラウドサーバーである。なお、サーバー装置30は、ローカルサーバーであってもよい。
The first terminal device 10 is a computer device such as a PC, a tablet terminal, or a smartphone used by a first user 1 (first participant) who is a participant in the online conference.
The second terminal device 20 is a computer device such as a PC, a tablet terminal, or a smartphone used by the second user 2 (second participant) who is a participant in the online conference.
The server device 30 is a device that stores business card image data, etc., which will be described later, and is a cloud server provided in a cloud environment. Note that the server device 30 may be a local server.

[1-2.第1端末装置の説明]
次に、第1端末装置10の構成について説明する。図2は、第1端末装置10の機能構成を示すブロック図である。
[1-2. Description of first terminal device]
Next, the configuration of the first terminal device 10 will be explained. FIG. 2 is a block diagram showing the functional configuration of the first terminal device 10. As shown in FIG.

第1端末装置10は、図2に示すように、制御部11と、記憶部12と、操作部13と、表示部14(第1表示部)と、通信部15と、撮像部16と、音声入出力部17を備える。第1端末装置10の各部は、バス18を介して接続されている。 As shown in FIG. 2, the first terminal device 10 includes a control section 11, a storage section 12, an operation section 13, a display section 14 (first display section), a communication section 15, an imaging section 16, An audio input/output section 17 is provided. Each part of the first terminal device 10 is connected via a bus 18.

制御部11は、CPU(Central Processing Unit)及びRAM(Random Access Memory)等を備え、第1端末装置10の各部を制御する。具体的には、制御部11は、記憶部12に記憶されているシステムプログラム及びアプリケーションプログラムのうち、指定されたプログラムを読み出してRAMに展開し、当該プログラムに従って各種処理を実行する。 The control section 11 includes a CPU (Central Processing Unit), a RAM (Random Access Memory), and the like, and controls each section of the first terminal device 10 . Specifically, the control unit 11 reads out a designated program from among the system program and application program stored in the storage unit 12, expands it into the RAM, and executes various processes according to the program.

また、制御部11は、第2ユーザ2(第2参加者)がリアルタイムに撮像された撮像画像に第2参加者の名刺が含まれている場合に、撮像画像のデータから名刺に関する情報を含む名刺画像データ(名刺データ)を抽出する。ここで、制御部11は第1抽出部として機能する。
また、制御部11は、オンラインイベントの実行中に、第1抽出部により抽出された名刺データに関する情報を第1ユーザ1(第1参加者)がアクセス可能な後述する記憶部32の名刺画像データベース321に登録する。ここで、制御部11は登録部として機能する。
また、制御部11は、第2参加者の名刺が撮像画像に含まれるか否かを、撮像画像の画像データに基づいて、判定する。ここで、制御部11は判定部として機能する。
また、制御部11は、第2参加者が視認可能な後述する表示部24(第2表示部)に、撮像画像と枠141n(図15B参照)とを重畳表示させる。ここで、制御部11は第1表示制御部として機能する。
また、制御部11は、撮像画像において名刺が枠内141nに位置するように名刺を第2参加者に提示させるための案内を出力する。ここで、制御部11は出力部として機能する。
また、制御部11は、撮像画像から少なくとも第2参加者の顔部分が撮影された顔画像データから特徴量(顔特徴量)を抽出する。ここで、制御部11は第2抽出部として機能する。
また、制御部11は、撮像画像の顔画像データに対応する、記憶部32の名刺画像データベース321に登録されている名刺データに関する情報を取得する。ここで、制御部11は取得部として機能する。
また、制御部11は、取得部により取得された名刺データに関する情報を第1表示部に表示する。ここで、制御部11は第2表示制御部として機能する。
In addition, when the second user 2 (second participant) includes a business card of the second participant in a captured image captured in real time, the control unit 11 includes information regarding the business card from data of the captured image. Extract business card image data (business card data). Here, the control section 11 functions as a first extraction section.
Furthermore, during the execution of the online event, the control unit 11 stores information regarding business card data extracted by the first extraction unit in a business card image database in a storage unit 32 (described later) that is accessible by the first user 1 (first participant). Register at 321. Here, the control unit 11 functions as a registration unit.
Furthermore, the control unit 11 determines whether or not the second participant's business card is included in the captured image, based on the image data of the captured image. Here, the control section 11 functions as a determination section.
Further, the control unit 11 displays the captured image and a frame 141n (see FIG. 15B) in a superimposed manner on a display unit 24 (second display unit), which will be described later and is visible to the second participant. Here, the control section 11 functions as a first display control section.
Further, the control unit 11 outputs guidance for having the second participant present the business card so that the business card is located within the frame 141n in the captured image. Here, the control section 11 functions as an output section.
Further, the control unit 11 extracts a feature amount (facial feature amount) from the face image data in which at least the face portion of the second participant is photographed from the captured image. Here, the control section 11 functions as a second extraction section.
The control unit 11 also acquires information regarding business card data registered in the business card image database 321 of the storage unit 32, which corresponds to the face image data of the captured image. Here, the control unit 11 functions as an acquisition unit.
Further, the control unit 11 displays information regarding the business card data acquired by the acquisition unit on the first display unit. Here, the control section 11 functions as a second display control section.

記憶部12は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)、EEPROM(Electrically Erasable Programmable Read Only Memory)などにより構成される。
記憶部12には、制御部11で実行されるシステムプログラム、オンライン会議アプリケーション(以下、オンライン会議アプリ)プログラム等、これらのプログラムの実行に必要なデータが記憶されている。
The storage unit 12 includes, for example, an HDD (Hard Disk Drive), an SSD (Solid State Drive), an EEPROM (Electrically Erasable Programmable Read Only Memory), or the like.
The storage unit 12 stores a system program executed by the control unit 11, an online conference application (hereinafter referred to as an online conference application) program, and data necessary for executing these programs.

操作部13は、例えば、キーボード等のキー入力部と、マウス等のポインティングデバイスと、を有している。操作部13は、キー入力及び位置入力を受け付け、その操作情報を制御部11に出力する。 The operation unit 13 includes, for example, a key input unit such as a keyboard, and a pointing device such as a mouse. The operation unit 13 receives key inputs and position inputs, and outputs the operation information to the control unit 11.

表示部14は、LCD(Liquid Crystal Display)、EL(Electro Luminescence)ディスプレイ等で構成され、制御部11から指示された表示情報に従い各種表示を行う。 The display unit 14 is composed of an LCD (Liquid Crystal Display), an EL (Electro Luminescence) display, etc., and performs various displays according to display information instructed by the control unit 11.

通信部15は、例えば、ネットワークカード等により構成されている。通信部15は、通信ネットワークNに通信接続されて、通信ネットワークN上の機器との通信を行う。 The communication unit 15 is configured by, for example, a network card. The communication unit 15 is communicatively connected to the communication network N and performs communication with devices on the communication network N.

撮像部16は、光学系と、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子と、を有するデジタルカメラ部であり、被写体としてのユーザを撮像して、静止画や動画の画像データを生成して制御部11に出力する。 The imaging unit 16 is a digital camera unit that has an optical system and an imaging element such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor). image data is generated and output to the control unit 11.

音声入出力部17は、マイクなどの音声入力部と、アンプ、スピーカーなどの音声出力部とを有する。音声入出力部17は、音声入力部により、ユーザの音声などの音声信号を取得して音声データに変換して制御部11に出力し、また音声出力部により、制御部11から入力されるオンライン会議の音声などの音声データに基づいて音声出力する。 The audio input/output unit 17 includes an audio input unit such as a microphone, and an audio output unit such as an amplifier and a speaker. The audio input/output unit 17 uses an audio input unit to acquire an audio signal such as a user's voice, converts it into audio data, and outputs it to the control unit 11, and uses an audio output unit to receive an online signal input from the control unit 11. Outputs audio based on audio data such as conference audio.

また、制御部11は、オンライン会議に係る処理を実行する。オンライン会議に係る処理において、制御部11は、撮像部16によって第1ユーザ1を撮影するとともに、音声入出力部17によって第1ユーザ1の音声をマイクから入力させる。そして、制御部11は、通信部15を介して、第1ユーザ1の撮像画像と音声とをリアルタイムに第2端末装置20に送信する。
また、オンライン会議に係る処理において、制御部11は、通信部15を介して、第2端末装置20から送信されたオンライン会議の相手方(第2ユーザ2)の撮像画像と音声とを受信する。そして、制御部11は、この撮像画像を表示部14の画面に表示するとともに、この音声を音声入出力部17のスピーカーにより出力する。
Further, the control unit 11 executes processing related to an online conference. In the process related to the online conference, the control unit 11 causes the imaging unit 16 to photograph the first user 1, and causes the audio input/output unit 17 to input the voice of the first user 1 from the microphone. Then, the control unit 11 transmits the captured image and voice of the first user 1 to the second terminal device 20 in real time via the communication unit 15.
In addition, in the process related to the online conference, the control unit 11 receives, via the communication unit 15, the captured image and audio of the other party (second user 2) in the online conference transmitted from the second terminal device 20. Then, the control section 11 displays this captured image on the screen of the display section 14 and outputs this sound through the speaker of the audio input/output section 17.

[1-3.第2端末装置の構成の説明]
次に、第2端末装置20の構成について説明する。図3は、第2端末装置20の機能構成を示すブロック図である。
[1-3. Description of configuration of second terminal device]
Next, the configuration of the second terminal device 20 will be explained. FIG. 3 is a block diagram showing the functional configuration of the second terminal device 20. As shown in FIG.

第2端末装置20は、図3に示すように、制御部21と、記憶部22と、操作部23と、表示部24(第2表示部)と、通信部25と、撮像部26と、音声入出力部27を備える。第2端末装置20の各部は、バス28を介して接続されている。 As shown in FIG. 3, the second terminal device 20 includes a control section 21, a storage section 22, an operation section 23, a display section 24 (second display section), a communication section 25, an imaging section 26, An audio input/output section 27 is provided. Each part of the second terminal device 20 is connected via a bus 28.

制御部21は、CPU及びRAM等を備え、第2端末装置20の各部を制御する。具体的には、制御部21は、記憶部22に記憶されているシステムプログラム及びアプリケーションプログラムのうち、指定されたプログラムを読み出してRAMに展開し、当該プログラムに従って各種処理を実行する。 The control unit 21 includes a CPU, a RAM, etc., and controls each unit of the second terminal device 20. Specifically, the control unit 21 reads out a designated program from among the system program and application program stored in the storage unit 22, expands it into the RAM, and executes various processes according to the program.

第2端末装置20の記憶部22、操作部23、表示部24、通信部25、撮像部26、音声入出力部27は、それぞれ、第1端末装置10の記憶部12、操作部13、表示部14、通信部15、撮像部16、音声入出力部17と同様の構成であるため、説明を省略する。 The storage unit 22, operation unit 23, display unit 24, communication unit 25, imaging unit 26, and audio input/output unit 27 of the second terminal device 20 are the storage unit 12, operation unit 13, and display unit of the first terminal device 10, respectively. Since the configuration is the same as that of the section 14, the communication section 15, the imaging section 16, and the audio input/output section 17, a description thereof will be omitted.

また、制御部21は、オンライン会議に係る処理を実行する。オンライン会議に係る処理において、制御部21は、撮像部26によって第2ユーザ2を撮影するとともに、音声入出力部27によって第2ユーザ2の音声をマイクから入力させる。そして、制御部21は、通信部25を介して、第2ユーザ2の撮像画像と音声とをリアルタイムに第1端末装置10に送信する。
また、オンライン会議に係る処理において、制御部21は、通信部25を介して、第1端末装置10から送信されたオンライン会議の相手方(第1ユーザ1)の撮像画像と音声とを受信する。そして、制御部21は、この撮像画像を表示部24の画面に表示するとともに、この音声を音声入出力部27のスピーカーにより出力する。
Further, the control unit 21 executes processing related to an online conference. In the process related to the online conference, the control unit 21 causes the imaging unit 26 to photograph the second user 2, and causes the audio input/output unit 27 to input the voice of the second user 2 from the microphone. Then, the control unit 21 transmits the captured image and voice of the second user 2 to the first terminal device 10 in real time via the communication unit 25.
In addition, in the process related to the online conference, the control unit 21 receives, via the communication unit 25, the captured image and audio of the other party in the online conference (first user 1) transmitted from the first terminal device 10. Then, the control unit 21 displays this captured image on the screen of the display unit 24 and outputs this sound from the speaker of the audio input/output unit 27.

[1-4.サーバー装置の構成の説明]
次に、サーバー装置30の構成について説明する。図4は、サーバー装置30の機能構成を示すブロック図である。
[1-4. [Explanation of server device configuration]
Next, the configuration of the server device 30 will be explained. FIG. 4 is a block diagram showing the functional configuration of the server device 30. As shown in FIG.

サーバー装置30は、図4に示すように、制御部31と、記憶部32と、通信部33を備える。サーバー装置30の各部は、バス34を介して接続されている。 The server device 30 includes a control section 31, a storage section 32, and a communication section 33, as shown in FIG. Each part of the server device 30 is connected via a bus 34.

サーバー装置30の制御部31、通信部33は、それぞれ、第2端末装置20の制御部21、通信部25と同様の構成であるため、説明を省略する。 The control unit 31 and the communication unit 33 of the server device 30 have the same configuration as the control unit 21 and the communication unit 25 of the second terminal device 20, respectively, and therefore the description thereof will be omitted.

記憶部32は、例えば、HDD、SSD、EEPROMなどにより構成される。
記憶部32には、制御部31で実行されるシステムプログラム、アプリケーションプログラム等、これらのプログラムの実行に必要なデータが記憶されている。
The storage unit 32 is configured by, for example, an HDD, SSD, EEPROM, or the like.
The storage unit 32 stores system programs, application programs, and other data necessary for executing these programs, which are executed by the control unit 31.

また、記憶部32は、名刺画像データベース321を有する。
図5は、名刺画像データベース321に格納される、名刺に関する情報を含む名刺画像データ(名刺データ)の一例を示す図である。
名刺画像データは、第2ユーザ2の名刺を、第2端末装置20の撮像部26によって撮影した画像データ、及び/または第1ユーザ1の名刺を、第1端末装置10の撮像部16によって撮影した画像データである。
また、名刺画像データベース321は、それぞれの名刺画像データに顔画像データ及び顔特徴量を対応付けて記憶している。
当該顔画像データは、それぞれの名刺画像データに対応する第2ユーザ2の少なくとも顔部分を、第2端末装置20の撮像部26によって撮影した画像データ、及び/または第1ユーザ1の少なくとも顔部分を、第1端末装置10の撮像部16によって撮影した画像データである。
当該顔特徴量は、それぞれの顔画像データから顔認証を用いて取得した特徴量である。顔特徴量は、画像処理や認証技術として採用されている各種手法を採用することができ、例えば、目や鼻の形状や目と鼻の距離、顔の各部位の色などを利用して取得することができる。
The storage unit 32 also includes a business card image database 321.
FIG. 5 is a diagram showing an example of business card image data (business card data) containing information regarding business cards, which is stored in the business card image database 321.
The business card image data includes image data of a business card of the second user 2 photographed by the imaging unit 26 of the second terminal device 20 and/or image data of a business card of the first user 1 photographed by the imaging unit 16 of the first terminal device 10. This is the image data.
Further, the business card image database 321 stores each business card image data in association with face image data and facial feature amounts.
The face image data is image data obtained by photographing at least a face part of the second user 2 corresponding to each business card image data by the imaging unit 26 of the second terminal device 20, and/or at least a face part of the first user 1. is image data captured by the imaging unit 16 of the first terminal device 10.
The facial feature amount is a feature amount obtained from each face image data using face authentication. Facial features can be obtained using various methods used in image processing and authentication technology, such as the shape of the eyes and nose, the distance between the eyes and nose, and the color of each part of the face. can do.

なお、図5に示すように、名刺画像データベース321は、いずれかの第2ユーザ2について、名刺画像データのみを記憶していてもよい。
また、名刺画像データベース321は、顔画像データ及び顔特徴量の他に、第1ユーザ1により入力された第2ユーザ2の特徴、印象、趣味等のコメントをそれぞれの名刺画像データに対応付けて記憶してもよい。
Note that, as shown in FIG. 5, the business card image database 321 may store only business card image data for any second user 2.
In addition to the facial image data and facial features, the business card image database 321 also associates comments such as characteristics, impressions, and hobbies of the second user 2 input by the first user 1 with each business card image data. You may memorize it.

[2.動作の説明]
[2-1.オンライン会議前における動作]
次に、情報処理システム100の動作を説明する。
まず、第1ユーザ1は、オンライン会議前に、第1端末装置10にてオンライン会議アプリを起動する。
オンライン会議アプリが起動されると、第1端末装置10の制御部11は、表示部14に、図6に示すオンライン会議画面141を表示する。そして、制御部11は、撮像部16により撮影した第1ユーザ1の動画(または静止画)を、オンライン会議画面141内の領域141aに表示する。
そして、第1ユーザ1がオンライン会議画面141内の事前登録ボタン141bを押下したことを契機に、制御部11は、図7に示す事前登録処理を実行する。
[2. Explanation of operation]
[2-1. Actions before online meeting]
Next, the operation of the information processing system 100 will be explained.
First, the first user 1 starts an online conference application on the first terminal device 10 before the online conference.
When the online conference application is started, the control unit 11 of the first terminal device 10 displays an online conference screen 141 shown in FIG. 6 on the display unit 14. Then, the control unit 11 displays the moving image (or still image) of the first user 1 captured by the imaging unit 16 in the area 141a within the online conference screen 141.
Then, when the first user 1 presses the pre-registration button 141b on the online conference screen 141, the control unit 11 executes the pre-registration process shown in FIG. 7.

(事前登録処理)
まず、制御部11は、撮像部16により撮影した第1ユーザ1の動画の中から静止画を取得し、当該静止画のデータを顔画像データとする(ステップS1)。
次に、制御部11は、ステップS1において取得した顔画像データから顔認証を用いて顔特徴量を取得する(ステップS2)。
次に、制御部11は、図8に示す名刺撮影表示処理を実行する(ステップS3)。
(Pre-registration process)
First, the control unit 11 acquires a still image from a moving image of the first user 1 photographed by the imaging unit 16, and sets the data of the still image as facial image data (step S1).
Next, the control unit 11 uses face authentication to acquire facial features from the facial image data acquired in step S1 (step S2).
Next, the control unit 11 executes the business card photographing and displaying process shown in FIG. 8 (step S3).

(名刺撮影表示処理)
名刺撮影表示処理において、制御部11は、図9に示すように、領域141aに枠141cを表示する(ステップA1)。なお、制御部11は、ステップA1において、「枠内に名刺をかざしてください」等の旨をオンライン会議画面141に表示してもよい。
枠141cが表示されると、第1ユーザ1は、枠141c内に名刺が収まるように、撮像部16のデジタルカメラのレンズ前に、自分の名刺をかざす。
(Business card shooting display processing)
In the business card photographing and displaying process, the control unit 11 displays a frame 141c in the area 141a, as shown in FIG. 9 (step A1). Note that the control unit 11 may display a message such as "Please hold your business card within the frame" on the online conference screen 141 in step A1.
When the frame 141c is displayed, the first user 1 holds his business card in front of the lens of the digital camera of the imaging unit 16 so that the business card fits within the frame 141c.

次に、制御部11は、撮像部16により撮影した動画の中から静止画を取得し、当該静止画の枠141c内の領域から名刺画像データを取得する(ステップA2)。
なお、制御部11は、領域141aに枠141cを表示せずに、撮像部16により撮影した動画の中から静止画を取得し、当該静止画において名刺のエッジを検出することにより、名刺画像データを取得してもよい。
Next, the control unit 11 acquires a still image from the moving image captured by the imaging unit 16, and acquires business card image data from the area within the frame 141c of the still image (step A2).
Note that the control unit 11 acquires a still image from the video captured by the imaging unit 16 without displaying the frame 141c in the area 141a, and detects the edge of the business card in the still image, thereby generating business card image data. may be obtained.

次に、制御部11は、ステップA2において、名刺画像データを取得できたか否かを判断する(ステップA3)。
名刺画像データを取得できなかった場合(ステップA3;NO)、制御部11は、図9に示すように、オンライン会議画面141に撮影ボタン141dを表示する(ステップA4)。なお、制御部11は、ステップA4において、「枠内に名刺をかざしながら、撮影ボタンを押してください」等の旨をオンライン会議画面141に表示してもよい。
撮影ボタン141dが表示されると、第1ユーザ1は、名刺をレンズ前にかざしつつ、撮影ボタン141dを押下する。
撮影ボタン141dが押下されると、制御部11は、撮像部16により撮影した動画の中から、第1ユーザ1により撮影ボタン141dが押下されたタイミングの静止画を取得し、当該静止画の枠141c内から名刺画像データを取得する(ステップA5)。
また、名刺画像データを取得できた場合(ステップA3;YES)、制御部11は、本処理をステップA6に移行する。
Next, in step A2, the control unit 11 determines whether the business card image data has been acquired (step A3).
If the business card image data cannot be acquired (step A3; NO), the control unit 11 displays a shooting button 141d on the online conference screen 141, as shown in FIG. 9 (step A4). Note that the control unit 11 may display a message on the online conference screen 141 in step A4, such as "Please press the shooting button while holding your business card within the frame."
When the shooting button 141d is displayed, the first user 1 presses the shooting button 141d while holding the business card in front of the lens.
When the shooting button 141d is pressed, the control unit 11 acquires a still image at the timing when the shooting button 141d was pressed by the first user 1 from among the moving images shot by the imaging unit 16, and adjusts the frame of the still image. 141c (step A5).
Furthermore, if the business card image data can be acquired (step A3; YES), the control unit 11 moves the process to step A6.

次に、図10に示すように、制御部11は、ステップA2またはステップA5において取得した名刺画像データに基づく名刺画像141eを領域141a内に表示し(ステップA6)、本処理を終了する。図10に示す例においては、制御部11は、領域141aの隅に名刺画像141eを表示している。名刺画像141eを表示する位置はこれに限らない。
図7に戻り、制御部11は、ステップS3において取得した名刺画像データに、ステップS1において取得した顔画像データ、及びステップS2において取得した顔特徴量を対応付けて、通信部15を介してサーバー装置30の記憶部32の名刺画像データベース321に記憶させることで登録し(ステップS4)、本処理を終了する。
Next, as shown in FIG. 10, the control unit 11 displays the business card image 141e based on the business card image data acquired in step A2 or step A5 in the area 141a (step A6), and ends this process. In the example shown in FIG. 10, the control unit 11 displays a business card image 141e at a corner of the area 141a. The position where the business card image 141e is displayed is not limited to this.
Returning to FIG. 7, the control unit 11 associates the business card image data acquired in step S3 with the face image data acquired in step S1 and the facial feature amount acquired in step S2, and sends the data to the server via the communication unit 15. The information is registered by being stored in the business card image database 321 of the storage unit 32 of the device 30 (step S4), and this process ends.

[2-2.オンライン会議中における動作]
まず、第1ユーザ1は、オンライン会議を始める際に、第1端末装置10にてオンライン会議アプリを起動する。
オンライン会議アプリが起動されると、第1端末装置10の制御部11は、表示部14に、図6に示すオンライン会議画面141を表示する。そして、制御部11は、撮像部16により撮影した第1ユーザ1の動画(または静止画)を、オンライン会議画面141内の領域141aに表示する。
[2-2. Operations during online meetings]
First, the first user 1 starts an online conference application on the first terminal device 10 when starting an online conference.
When the online conference application is started, the control unit 11 of the first terminal device 10 displays an online conference screen 141 shown in FIG. 6 on the display unit 14. Then, the control unit 11 displays the moving image (or still image) of the first user 1 captured by the imaging unit 16 in the area 141a within the online conference screen 141.

そして、第1ユーザ1がオンライン会議画面141内の会議開始ボタン141fを押下したことを契機に、制御部11は、オンライン会議に係る処理を実行する。
オンライン会議に係る処理において、制御部11は、通信部15を介して、第2端末装置20から送信されたオンライン会議の相手方(第2ユーザ2)の撮像画像と音声とを受信する。そして、図11に示すように、制御部11は、この撮像画像を表示部14のオンライン会議画面141内の領域141gに表示するとともに、この音声を音声入出力部17のスピーカーにより出力する。
同様にして、第2ユーザ2は、オンライン会議を始める際に、第2端末装置20にてオンライン会議アプリを起動する。そして、第2端末装置20の制御部21は、第2ユーザ2のオンライン会議開始の指示操作により、オンライン会議に係る処理を実行する。
また、第1ユーザ1が会議開始ボタン141fを押下したことを契機に、制御部11は、図12に示す会議中処理を実行する。
Then, when the first user 1 presses the conference start button 141f on the online conference screen 141, the control unit 11 executes processing related to the online conference.
In the process related to the online conference, the control unit 11 receives, via the communication unit 15, the captured image and audio of the other party in the online conference (second user 2) transmitted from the second terminal device 20. Then, as shown in FIG. 11, the control unit 11 displays this captured image in an area 141g within the online conference screen 141 of the display unit 14, and outputs this sound from the speaker of the audio input/output unit 17.
Similarly, the second user 2 starts an online conference application on the second terminal device 20 when starting an online conference. Then, the control unit 21 of the second terminal device 20 executes processing related to the online conference in response to the instruction operation of the second user 2 to start the online conference.
Further, when the first user 1 presses the conference start button 141f, the control unit 11 executes the in-conference process shown in FIG. 12.

(会議中処理)
まず、制御部11は、撮像部16により撮影した第1ユーザ1の動画の中から静止画を取得する(ステップS11)。
次に、制御部11は、ステップS11において取得した第1ユーザ1の静止画において顔認証を行い、名刺画像データベース321から第1ユーザ1の名刺画像データを取得する(ステップS12)。具体的には、制御部11は、ステップS11において取得した第1ユーザ1の静止画において顔認証を用いて顔特徴量を取得する。そして、制御部11は、当該顔特徴量に類似(該当)する顔特徴量を名刺画像データベース321において検索し、類似する顔特徴量に対応付けられている名刺画像データ(第1ユーザ1の名刺画像データ)を取得する。
(processing during the meeting)
First, the control unit 11 acquires a still image from the moving image of the first user 1 shot by the imaging unit 16 (step S11).
Next, the control unit 11 performs face authentication on the still image of the first user 1 acquired in step S11, and acquires business card image data of the first user 1 from the business card image database 321 (step S12). Specifically, the control unit 11 uses face authentication to acquire facial features in the still image of the first user 1 acquired in step S11. Then, the control unit 11 searches the business card image database 321 for a facial feature similar to (corresponding to) the facial feature, and searches the business card image data (business card of the first user 1) associated with the similar facial feature. image data).

次に、図13Aに示すように、制御部11は、ステップS12において取得した名刺画像データに基づく名刺画像141eを領域141a内に表示する。
図13Bに、第2端末装置20の表示部24に表示されるオンライン会議画面241を示す。図13Bに示す例において、制御部21は、オンライン会議画面241内の領域241aに、第1端末装置10から受信した第1ユーザ1の撮像画像を表示する。また、制御部21は、領域241gに、撮像部26により撮影した第2ユーザ2の動画(または静止画)を表示する。
そして、制御部11は、通信部15を介して、第1ユーザ1の撮像画像とともに第1ユーザ1の名刺画像141eを第2端末装置20に送信することで、領域241aに第1ユーザ1の名刺画像141eを表示させる(ステップS13)。
Next, as shown in FIG. 13A, the control unit 11 displays a business card image 141e based on the business card image data acquired in step S12 in the area 141a.
FIG. 13B shows an online conference screen 241 displayed on the display unit 24 of the second terminal device 20. In the example shown in FIG. 13B, the control unit 21 displays the captured image of the first user 1 received from the first terminal device 10 in the area 241a within the online conference screen 241. Further, the control unit 21 displays a moving image (or still image) of the second user 2 captured by the imaging unit 26 in the area 241g.
Then, the control unit 11 transmits the business card image 141e of the first user 1 together with the captured image of the first user 1 to the second terminal device 20 via the communication unit 15, so that the first user 1 is displayed in the area 241a. The business card image 141e is displayed (step S13).

ここで、第1ユーザ1は、第2ユーザ2に、第2ユーザ2の顔写真を取得して良いか否かを尋ねる。
第2ユーザ2が顔写真を取得しても良いと返答した場合、第1ユーザ1は図13Aに示すオンライン会議画面141内の顔写真OKボタン141hを押下する。
また、第2ユーザ2が顔写真を取得しないでほしいと返答した場合、第1ユーザ1は図13Aに示すオンライン会議画面141内の顔写真NGボタン141iを押下する。
Here, the first user 1 asks the second user 2 whether or not it is okay to acquire the second user's 2 face photo.
When the second user 2 replies that it is OK to obtain a face photo, the first user 1 presses a face photo OK button 141h in the online conference screen 141 shown in FIG. 13A.
Further, if the second user 2 replies that he/she does not want the facial photo taken, the first user 1 presses the facial photo NG button 141i in the online conference screen 141 shown in FIG. 13A.

次に、制御部11は、第1ユーザ1によって顔写真OKボタン141hが押下されたか否かを判断する(ステップS14)。
顔写真OKボタン141hが押下された場合(ステップS14;YES)、制御部11は、第2端末装置20から送信された第2ユーザ2を撮影した動画の中から静止画を取得する(ステップS15)。
Next, the control unit 11 determines whether the face photo OK button 141h has been pressed by the first user 1 (step S14).
When the face photo OK button 141h is pressed (step S14; YES), the control unit 11 acquires a still image from the video of the second user 2 transmitted from the second terminal device 20 (step S15). ).

次に、制御部11は、ステップS15において取得した第2ユーザ2の静止画において顔認証を行い、第2ユーザ2の名刺画像データは名刺画像データベース321に登録されているか否かを判断する(ステップS16)。具体的には、制御部11は、ステップS15において取得した第2ユーザ2の静止画において顔認証を用いて顔特徴量を取得する。当該静止画のデータを顔画像データとする。つまり、第2抽出部としての制御部11は、撮像画像から少なくとも第2ユーザ2(第2参加者)の顔部分が撮影された顔画像データから特徴量を抽出する。そして、制御部11は、当該顔特徴量に類似(該当)する顔特徴量を名刺画像データベース321において検索する。そして、制御部11は、当該検索の結果、第2ユーザ2の顔特徴量に類似する顔特徴量は名刺画像データベース321に記憶されていたか否かを判断する。
第2ユーザ2の名刺画像データが名刺画像データベース321に登録されている場合(ステップS16;YES)、制御部11は、第2ユーザ2の顔特徴量に類似する顔特徴量に対応付けられている名刺画像データ(第2ユーザ2の名刺画像データ)を取得する。つまり、取得部としての制御部11は、撮像画像の顔画像データに対応する、記憶部32に登録されている名刺データに関する情報を取得する。そして、制御部11は、第2ユーザ2の名刺画像データが登録済みである旨をオンライン会議画面141内に表示する(ステップS17)。
Next, the control unit 11 performs face authentication on the still image of the second user 2 acquired in step S15, and determines whether the business card image data of the second user 2 is registered in the business card image database 321 ( Step S16). Specifically, the control unit 11 uses face authentication to acquire facial features in the still image of the second user 2 acquired in step S15. Let the still image data be face image data. That is, the control unit 11 serving as the second extraction unit extracts the feature amount from the facial image data in which at least the facial part of the second user 2 (second participant) is photographed from the captured image. Then, the control unit 11 searches the business card image database 321 for a facial feature similar to (corresponds to) the facial feature. Then, as a result of the search, the control unit 11 determines whether facial features similar to the facial features of the second user 2 are stored in the business card image database 321.
If the business card image data of the second user 2 is registered in the business card image database 321 (step S16; YES), the control unit 11 causes the business card image data of the second user 2 to be associated with facial features similar to those of the second user 2. The business card image data (business card image data of the second user 2) is acquired. That is, the control unit 11 as an acquisition unit acquires information regarding business card data registered in the storage unit 32, which corresponds to the face image data of the captured image. Then, the control unit 11 displays on the online conference screen 141 that the business card image data of the second user 2 has been registered (step S17).

ここで、第2ユーザ2の名刺画像データが登録済みであることを確認した第1ユーザ1は、第2ユーザ2に、名刺画像データベース321に登録済みの第2ユーザ2の名刺画像をオンライン会議画面141,241内に表示して良いか否かを尋ねる。
第2ユーザ2が名刺画像を表示しても良いと返答した場合、第1ユーザ1は図13Aに示すオンライン会議画面141内の名刺画像表示OKボタン141jを押下する。
また、第2ユーザ2が名刺画像を表示しないでほしいと返答した場合、第1ユーザ1は図13Aに示すオンライン会議画面141内の名刺画像表示NGボタン141kを押下する。
Here, the first user 1, who has confirmed that the business card image data of the second user 2 has been registered, sends the business card image of the second user 2, which has already been registered in the business card image database 321, to the second user 2 during the online meeting. It asks whether it is OK to display it on the screen 141, 241.
If the second user 2 replies that the business card image may be displayed, the first user 1 presses the business card image display OK button 141j in the online conference screen 141 shown in FIG. 13A.
Further, if the second user 2 replies that he does not want the business card image to be displayed, the first user 1 presses the business card image display NG button 141k in the online conference screen 141 shown in FIG. 13A.

次に、制御部11は、第1ユーザ1によって名刺画像表示OKボタン141jが押下されたか否かを判断する(ステップS18)。
名刺画像表示OKボタン141jが押下された場合(ステップS18;YES)、制御部11は、図14Aに示すように、ステップS17において取得した第2ユーザ2の名刺画像データに基づく名刺画像141lを領域141g内に表示する。つまり、第2表示制御部としての制御部11は、取得部により取得された名刺データに関する情報を表示部14(第1表示部)に表示する。そして、制御部11は、通信部15を介して、第2ユーザ2の名刺画像141lを第2端末装置20に送信することで、図14Bに示すように、名刺画像141lを領域241g内に表示させる(ステップS19)。図14A、図14Bに示す例においては、制御部11は、領域141g,241gの隅に名刺画像141lを表示している。名刺画像141lを表示する位置はこれに限らない。
Next, the control unit 11 determines whether the business card image display OK button 141j has been pressed by the first user 1 (step S18).
When the business card image display OK button 141j is pressed (step S18; YES), the control unit 11 displays the business card image 141l based on the business card image data of the second user 2 acquired in step S17 as an area, as shown in FIG. 14A. Display within 141g. That is, the control section 11 as the second display control section displays information regarding the business card data acquired by the acquisition section on the display section 14 (first display section). Then, the control unit 11 transmits the business card image 141l of the second user 2 to the second terminal device 20 via the communication unit 15, thereby displaying the business card image 141l in the area 241g, as shown in FIG. 14B. (Step S19). In the example shown in FIGS. 14A and 14B, the control unit 11 displays the business card image 141l at the corner of the areas 141g and 241g. The position where the business card image 141l is displayed is not limited to this.

なお、第2ユーザ2の名刺画像データに、第1ユーザ1により入力された第2ユーザ2の特徴、印象、趣味等のコメントが対応付けられて名刺画像データベース321に記憶されている場合、ステップS17において、制御部11は、第2ユーザ2の特徴、印象、趣味等のコメントを取得する。そして、ステップS19において、制御部11は、ステップS17において取得した第2ユーザ2の特徴、印象、趣味等のコメントを、オンライン会議画面141内のみに表示してもよい。つまり、制御部11は、第2ユーザ2の特徴、印象、趣味等のコメントを、オンライン会議画面241内には表示させない。 Note that if the business card image data of the second user 2 is associated with comments input by the first user 1 about the characteristics, impressions, hobbies, etc. of the second user 2 and stored in the business card image database 321, step In S17, the control unit 11 acquires comments about the second user 2's characteristics, impressions, hobbies, and the like. Then, in step S19, the control unit 11 may display comments such as characteristics, impressions, and hobbies of the second user 2 obtained in step S17 only on the online conference screen 141. In other words, the control unit 11 does not display comments about the second user's 2's characteristics, impressions, hobbies, etc. on the online conference screen 241.

ここで、第1ユーザ1は、例えば、ステップS19において表示した名刺画像141lに記載された情報が古い等を第2ユーザ2に指摘された場合、図14Aに示すオンライン会議画面141内の再登録ボタン141mを押下する。
次に、制御部11は、第1ユーザ1によって再登録ボタン141mが押下されたか否かを判断する(ステップS20)。
再登録ボタン141mが押下された場合(ステップS20;YES)、制御部11は、図8に示す名刺撮影表示処理を実行する(ステップS21)。
Here, for example, if the second user 2 points out that the information written in the business card image 141l displayed in step S19 is outdated, the first user 1 may re-register the information in the online conference screen 141 shown in FIG. 14A. Press button 141m.
Next, the control unit 11 determines whether the re-registration button 141m has been pressed by the first user 1 (step S20).
When the re-registration button 141m is pressed (step S20; YES), the control unit 11 executes the business card photographing and displaying process shown in FIG. 8 (step S21).

ステップS21の名刺撮影表示処理において、制御部11は、図15Aに示すように、領域141gに枠141nを表示する。そして、制御部11は、図15Bに示すように、領域241gに枠141nを表示させる(ステップA1)。つまり、第1表示制御部としての制御部11は、第2ユーザ2(第2参加者)が視認可能な表示部24(第2表示部)に、撮像画像と枠141nとを重畳表示させる。
そして、制御部11は、ステップA1において、「枠内に名刺をかざしてください」等の旨をオンライン会議画面241に表示させる。つまり、出力部としての制御部11は、撮像画像において名刺が枠141n内に位置するように名刺を第2ユーザ2(第2参加者)に提示させるための案内を出力する。
枠141nが表示されると、第2ユーザ2は、枠141n内に名刺が収まるように、撮像部26のデジタルカメラのレンズ前に、自分の名刺をかざす。
In the business card photographing and displaying process of step S21, the control unit 11 displays a frame 141n in the area 141g, as shown in FIG. 15A. Then, the control unit 11 displays a frame 141n in the area 241g, as shown in FIG. 15B (Step A1). That is, the control unit 11 as the first display control unit causes the captured image and the frame 141n to be displayed in a superimposed manner on the display unit 24 (second display unit) that can be viewed by the second user 2 (second participant).
Then, in step A1, the control unit 11 causes the online conference screen 241 to display a message such as "Please hold your business card over the frame." That is, the control unit 11 serving as an output unit outputs guidance for causing the second user 2 (second participant) to present the business card so that the business card is located within the frame 141n in the captured image.
When the frame 141n is displayed, the second user 2 holds his business card in front of the lens of the digital camera of the imaging unit 26 so that the business card fits within the frame 141n.

次に、制御部11は、撮像部26により撮影した動画の中から静止画を取得し、当該静止画の枠141n内の領域から名刺画像データを取得する(ステップA2)。つまり、判定部としての制御部11は、第2ユーザ2(第2参加者)の名刺が撮像画像に含まれるか否かを、撮像画像の画像データに基づいて、判定する。そして、第1抽出部としての制御部11は、第2参加者の名刺が撮像画像に含まれると判定された場合に、撮像画像のデータから名刺に関する情報を含む名刺データを抽出する。
なお、制御部11は、領域141gに枠141nを表示せずに、撮像部26により撮影した動画の中から静止画を取得し、当該静止画において名刺のエッジを検出することにより、名刺画像データを取得してもよい。
Next, the control unit 11 acquires a still image from the moving image captured by the imaging unit 26, and acquires business card image data from the area within the frame 141n of the still image (step A2). That is, the control unit 11 as a determination unit determines whether or not the business card of the second user 2 (second participant) is included in the captured image, based on the image data of the captured image. Then, when it is determined that the second participant's business card is included in the captured image, the control unit 11 serving as the first extraction unit extracts business card data including information regarding the business card from the data of the captured image.
Note that the control unit 11 acquires a still image from the video captured by the imaging unit 26 without displaying the frame 141n in the area 141g, and detects the edge of the business card in the still image, thereby generating business card image data. may be obtained.

次に、制御部11は、ステップA2において、名刺画像データを取得できたか否かを判断する(ステップA3)。
名刺画像データを取得できなかった場合(ステップA3;NO)、制御部11は、図15Aに示すように、オンライン会議画面141に撮影ボタン141dを表示する(ステップA4)。なお、制御部11は、ステップA4において、「枠内に名刺がかざされたら、撮影ボタンを押してください」等の旨をオンライン会議画面141に表示してもよい。
撮影ボタン141dが表示されると、第1ユーザ1は、枠141nに第2ユーザ2の名刺が収まっている状態において、撮影ボタン141dを押下する。
撮影ボタン141dが押下されると、制御部11は、撮像部26により撮影した動画の中から、第1ユーザ1により撮影ボタン141dが押下されたタイミングの静止画を取得し、当該静止画の枠141n内の領域から名刺画像データを取得する(ステップA5)。
また、名刺画像データを取得できた場合(ステップA3;YES)、制御部11は、本処理をステップA6に移行する。
Next, in step A2, the control unit 11 determines whether the business card image data has been acquired (step A3).
If the business card image data cannot be acquired (step A3; NO), the control unit 11 displays a shooting button 141d on the online conference screen 141, as shown in FIG. 15A (step A4). Note that the control unit 11 may display a message on the online conference screen 141 in step A4, such as "When the business card is held over the frame, please press the shooting button."
When the shooting button 141d is displayed, the first user 1 presses the shooting button 141d while the business card of the second user 2 is placed in the frame 141n.
When the shooting button 141d is pressed, the control unit 11 acquires a still image at the timing when the shooting button 141d was pressed by the first user 1 from among the moving images shot by the imaging unit 26, and adjusts the frame of the still image. Business card image data is acquired from the area within 141n (step A5).
Furthermore, if the business card image data can be acquired (step A3; YES), the control unit 11 moves the process to step A6.

次に、図14A、図14Bに示すように、制御部11は、ステップA2またはステップA5において取得した名刺画像データに基づく名刺画像141lを領域141g,241g内に表示し(ステップA6)、本処理を終了する。
図12に戻り、制御部11は、ステップS21において取得した第2ユーザ2の名刺画像データに、ステップS15において取得した第2ユーザ2の顔画像データ、及びステップS16において取得した第2ユーザ2の顔特徴量を対応付けて、通信部15を介してサーバー装置30の記憶部32の名刺画像データベース321に記憶させることで登録し(ステップS22)、本処理を終了する。このとき、制御部11は、第2ユーザ2の名刺画像データに、第1ユーザ1により入力された第2ユーザ2の特徴、印象、趣味等のコメントを対応付けて名刺画像データベース321に記憶させてもよい。また、制御部11は、過去に登録された第2ユーザ2の名刺画像データ、顔画像データ、及び顔特徴量を削除してもよい。つまり、登録部としての制御部11は、オンラインイベントの実行中に、第1抽出部により抽出された名刺データに関する情報を第1ユーザ1(第1参加者)がアクセス可能な記憶部32に登録する。
Next, as shown in FIGS. 14A and 14B, the control unit 11 displays the business card image 141l based on the business card image data acquired in step A2 or step A5 in the areas 141g and 241g (step A6), and performs the main processing. end.
Returning to FIG. 12, the control unit 11 adds the business card image data of the second user 2 acquired in step S21, the face image data of the second user 2 acquired in step S15, and the face image data of the second user 2 acquired in step S16. The facial feature amounts are registered by being associated with each other and stored in the business card image database 321 of the storage unit 32 of the server device 30 via the communication unit 15 (step S22), and the present process ends. At this time, the control unit 11 stores the business card image data of the second user 2 in the business card image database 321 in association with the comments input by the first user 1 about the second user's 2's characteristics, impressions, hobbies, etc. It's okay. Further, the control unit 11 may delete the business card image data, face image data, and face feature amount of the second user 2 that were registered in the past. In other words, the control unit 11 as a registration unit registers information regarding the business card data extracted by the first extraction unit in the storage unit 32 accessible by the first user 1 (first participant) during the execution of the online event. do.

また、名刺画像表示NGボタン141kが押下された場合(ステップS18;NO)、及び再登録ボタン141mが押下されない場合(ステップS20;NO)、制御部11は、本処理を終了する。 Further, when the business card image display NG button 141k is pressed (step S18; NO) and when the re-registration button 141m is not pressed (step S20; NO), the control unit 11 ends this process.

また、第2ユーザ2の名刺画像データが名刺画像データベース321に登録されていない場合(ステップS16;NO)、制御部11は、本処理をステップS21に移行する。この場合、制御部11は、ステップS21、S22により、ステップS21において取得した第2ユーザ2の名刺画像データに、ステップS15において取得した第2ユーザ2の顔画像データ、及びステップS16において取得した第2ユーザ2の顔特徴量を対応付けて、通信部15を介してサーバー装置30の名刺画像データベース321に記憶させることで新たに登録をする。 Further, if the business card image data of the second user 2 is not registered in the business card image database 321 (step S16; NO), the control unit 11 shifts the process to step S21. In this case, in steps S21 and S22, the control unit 11 adds the face image data of the second user 2 obtained in step S15 and the business card image data of the second user 2 obtained in step S16 to the business card image data of the second user 2 obtained in step S21. New registration is performed by associating the facial feature amounts of the two users 2 and storing them in the business card image database 321 of the server device 30 via the communication unit 15.

また、顔写真NGボタン141iが押下された場合(ステップS14;NO)、制御部11は、本処理をステップS23に移行する。
ここで、第1ユーザ1は、第2ユーザ2に、第2ユーザ2の名刺を撮影し、撮影した名刺画像をオンライン会議画面141,241内に表示して良いか否かを尋ねる。
第2ユーザ2が名刺画像を表示しても良いと返答した場合、第1ユーザ1は図13Aに示すオンライン会議画面141内の名刺画像表示OKボタン141jを押下する。
また、第2ユーザ2が名刺画像を表示しないでほしいと返答した場合、第1ユーザ1は図13Aに示すオンライン会議画面141内の名刺画像表示NGボタン141kを押下する。
Further, if the face photo NG button 141i is pressed (step S14; NO), the control unit 11 shifts the process to step S23.
Here, the first user 1 asks the second user 2 whether or not it is okay to photograph the second user's business card and display the photographed business card image within the online conference screen 141, 241.
If the second user 2 replies that the business card image may be displayed, the first user 1 presses the business card image display OK button 141j in the online conference screen 141 shown in FIG. 13A.
Further, if the second user 2 replies that he does not want the business card image to be displayed, the first user 1 presses the business card image display NG button 141k in the online conference screen 141 shown in FIG. 13A.

次に、制御部11は、第1ユーザ1によって名刺画像表示OKボタン141jが押下されたか否かを判断する(ステップS23)。
名刺画像表示NGボタン141kが押下された場合(ステップS23;NO)、制御部11は、本処理を終了する。
名刺画像表示OKボタン141jが押下された場合(ステップS23;YES)、制御部11は、図8に示す名刺撮影表示処理を実行する(ステップS24)。
ステップS24の名刺撮影表示処理において、制御部11は、ステップS21の名刺撮影表示処理と同様にして、図14A、図14Bに示すように、第2ユーザ2の名刺画像141lを領域141g,241g内に表示して、名刺撮影表示処理及び会議中処理を終了する。
Next, the control unit 11 determines whether the first user 1 has pressed the business card image display OK button 141j (step S23).
If the business card image display NG button 141k is pressed (step S23; NO), the control unit 11 ends this process.
When the business card image display OK button 141j is pressed (step S23; YES), the control unit 11 executes the business card photographing and displaying process shown in FIG. 8 (step S24).
In the business card photographing and displaying process in step S24, the control unit 11 displays the business card image 141l of the second user 2 within the areas 141g and 241g, as shown in FIGS. is displayed, and the business card photographing and displaying process and the in-meeting process are completed.

[3.効果]
以上のように、本実施形態に係る情報処理システム100の第1端末装置10(情報処理装置)は、第1参加者(第1ユーザ1)が視認可能な第1表示部(表示部14)に、第1参加者とは異なる第2参加者(第2ユーザ2)がリアルタイムに撮像された撮像画像が表示されるオンラインイベント(オンライン会議)の実行中において、撮像画像に第2参加者の名刺が含まれている場合に、撮像画像のデータから名刺に関する情報を含む名刺データ(名刺画像データ)を抽出する第1抽出部(制御部11)と、オンラインイベントの実行中に、第1抽出部により抽出された名刺データに関する情報を第1参加者がアクセス可能な記憶部32に登録する登録部(制御部11)と、を備える。
したがって、オンライン会議前に予め登録していない相手についても、オンライン会議中において相手の名刺に関する情報を取得することができるため、オンライン会議をより円滑に進めることができる。
[3. effect]
As described above, the first terminal device 10 (information processing device) of the information processing system 100 according to the present embodiment has a first display section (display section 14) that is visible to the first participant (first user 1). During the execution of an online event (online conference) in which captured images taken in real time by a second participant (second user 2) different from the first participant are displayed, the captured images include the second participant's A first extraction unit (control unit 11) that extracts business card data (business card image data) including information about the business card from the captured image data when the business card is included; and a registration section (control section 11) that registers information regarding the business card data extracted by the section in a storage section 32 that is accessible by the first participant.
Therefore, even for parties who have not been registered in advance before the online conference, information regarding the business card of the party can be obtained during the online conference, so that the online conference can proceed more smoothly.

また、第1端末装置10は、第2参加者の名刺が撮像画像に含まれるか否かを、撮像画像の画像データに基づいて、判定する判定部(制御部11)をさらに備え、第1抽出部は、第2参加者の名刺が撮像画像に含まれると判定された場合に、撮像画像の画像データから、名刺に係る情報を含む名刺データを抽出する。
したがって、撮像画像に第2参加者の名刺が含まれている場合、第1参加者の操作なしで第2参加者の名刺データを抽出することができる。
The first terminal device 10 further includes a determination unit (control unit 11) that determines whether or not the second participant's business card is included in the captured image, based on the image data of the captured image. The extraction unit extracts business card data including information regarding the business card from the image data of the captured image when it is determined that the second participant's business card is included in the captured image.
Therefore, if the captured image includes the second participant's business card, the second participant's business card data can be extracted without any operation by the first participant.

また、第1端末装置10は、第2参加者が視認可能な第2表示部(表示部24)に、撮像画像と枠141nとを重畳表示させる第1表示制御部(制御部11)と、撮像画像において名刺が枠141n内に位置するように名刺を第2参加者に提示させるための案内を出力する出力部(制御部11)と、をさらに備え、判定部は、撮像画像のうちの枠141n内の画像データに基づいて、第2参加者の名刺が撮像画像に含まれるか否かを判定する。
したがって、枠141n内の領域において名刺を特定できるため、より確実に名刺画像データを取得することができる。
The first terminal device 10 also includes a first display control unit (control unit 11) that displays the captured image and the frame 141n in a superimposed manner on a second display unit (display unit 24) that is visible to the second participant; The determination unit further includes an output unit (control unit 11) that outputs guidance for causing the second participant to present the business card so that the business card is located within the frame 141n in the captured image, and the determination unit Based on the image data within the frame 141n, it is determined whether the second participant's business card is included in the captured image.
Therefore, since the business card can be identified in the area within the frame 141n, business card image data can be acquired more reliably.

また、第1端末装置10は、撮像画像から少なくとも第2参加者の顔部分が撮影された顔画像データから特徴量(顔特徴量)を抽出する第2抽出部(制御部11)を備え、登録部は、名刺データに関する情報に、顔画像データ及び/または特徴量を対応付けて登録する。
したがって、第2ユーザ2の名刺データに関する情報を、顔認証を用いて検索することができる。
Further, the first terminal device 10 includes a second extraction unit (control unit 11) that extracts a feature amount (facial feature amount) from face image data in which at least a face portion of the second participant is photographed from the captured image, The registration unit registers face image data and/or feature amounts in association with information regarding business card data.
Therefore, information regarding the second user 2's business card data can be searched using face authentication.

また、第1端末装置10において、第1抽出部は、第1参加者の操作に基づいて名刺データを抽出する。
したがって、制御部11は、第2端末装置20から送信された画像の中から、第1ユーザ1により撮影ボタン141dが押下されたタイミングの静止画を取得し、当該静止画から名刺画像データを取得することができるため、より確実に名刺画像データを取得することができる。
Furthermore, in the first terminal device 10, the first extraction unit extracts business card data based on the operation of the first participant.
Therefore, the control unit 11 acquires a still image at the timing when the shooting button 141d is pressed by the first user 1 from among the images transmitted from the second terminal device 20, and acquires business card image data from the still image. Therefore, business card image data can be acquired more reliably.

また、第1端末装置10は、撮像画像の顔画像データに対応する、記憶部32に登録されている名刺データに関する情報を取得する取得部(制御部11)と、取得部により取得された名刺データに関する情報を第1表示部に表示する第2表示制御部(制御部11)と、を備える。
したがって、記憶部32に登録済みの第2ユーザ2の名刺に関する情報を自動で表示することができる。
The first terminal device 10 also includes an acquisition unit (control unit 11) that acquires information regarding business card data registered in the storage unit 32 that corresponds to the face image data of the captured image, and a business card acquired by the acquisition unit. A second display control section (control section 11) that displays information regarding data on the first display section.
Therefore, information regarding the business card of the second user 2 registered in the storage unit 32 can be automatically displayed.

以上、本発明に係る実施形態に基づいて具体的に説明したが、本発明は上記実施形態に限定されるものではなく、その要旨を逸脱しない範囲で変更可能である。 Although the present invention has been specifically described above based on the embodiments, the present invention is not limited to the above embodiments, and can be modified without departing from the gist thereof.

例えば、上記実施形態の名刺撮影表示処理において、第1ユーザ1の名刺画像データを取得する際に、制御部11は、撮像部16により撮影した動画において解像度を上げ、第1ユーザ1の名刺画像データを取得しやすくしてもよい。同様に、第2ユーザ2の名刺画像データを取得する際に、制御部11は、撮像部26により撮影した動画において解像度を上げ、第2ユーザ2の名刺画像データを取得しやすくしてもよい。 For example, in the business card photographing and displaying process of the above embodiment, when acquiring the business card image data of the first user 1, the control unit 11 increases the resolution of the video photographed by the imaging unit 16, and increases the resolution of the business card image of the first user 1. It may be possible to make data easier to obtain. Similarly, when acquiring the business card image data of the second user 2, the control unit 11 may increase the resolution of the video captured by the imaging unit 26 to make it easier to acquire the business card image data of the second user 2. .

また、上記実施形態では、名刺に関する情報は、名刺を撮影した名刺画像データであるとしたがこれに限らない。名刺に関する情報は、名刺画像から読み取った情報(例えば、会社名、部署名、役職等の文字情報)であってもよい。 Further, in the above embodiment, the information regarding the business card is business card image data obtained by photographing the business card, but the information is not limited to this. The information regarding the business card may be information read from the business card image (for example, character information such as company name, department name, position, etc.).

また、第2端末装置20の制御部21が、第2ユーザ2の名刺画像データを第1端末装置10に送信し、当該名刺画像データに基づく名刺画像を、表示部14に表示させる機能を有している場合、第1端末装置10の制御部11は、表示部14に表示された第2ユーザ2の名刺画像を名刺画像データベース321に保存してもよい。このとき、第2ユーザ2の許可が得られれば、制御部11は、第2ユーザ2の顔画像データを取得し、第2ユーザ2の名刺画像データに当該顔画像データを対応付けて名刺画像データベース321に保存する。 The control unit 21 of the second terminal device 20 also has a function of transmitting business card image data of the second user 2 to the first terminal device 10 and displaying a business card image based on the business card image data on the display unit 14. If so, the control unit 11 of the first terminal device 10 may store the business card image of the second user 2 displayed on the display unit 14 in the business card image database 321. At this time, if permission is obtained from the second user 2, the control unit 11 acquires the face image data of the second user 2, associates the face image data with the business card image data of the second user 2, and creates a business card image. It is saved in the database 321.

また、上記実施形態の会議中処理ステップS13において、制御部11は、領域241aに第1ユーザ1の名刺画像141eを表示させるとした。また、ステップS19において、制御部11は、領域241gに第2ユーザ2の名刺画像141lを表示させるとしたがこれに限らない。第2端末装置20の制御部21が外部装置から送信された名刺画像データに基づく名刺画像を表示部24に表示する機能を有していない場合、上記処理は省いてもよい。 Further, in the in-meeting processing step S13 of the above embodiment, the control unit 11 displays the business card image 141e of the first user 1 in the area 241a. Further, in step S19, the control unit 11 displays the business card image 141l of the second user 2 in the area 241g, but the present invention is not limited thereto. If the control unit 21 of the second terminal device 20 does not have a function of displaying a business card image on the display unit 24 based on business card image data transmitted from an external device, the above process may be omitted.

また、上記実施形態の会議中処理において、制御部11は、オンライン会議を開始してからの時間をカウントし、予め設定された所定時間を過ぎても、図13Aに示す顔写真OKボタン141hまたは顔写真NGボタン141iを押下する操作がされない場合、オンライン会議画面141内に当該操作を促すアラートを表示してもよい。同様に、制御部11は、会議中処理ステップS17実施後からの時間をカウントし、予め設定された所定時間を過ぎても、図13Aに示す名刺画像表示OKボタン141jまたは名刺画像表示NGボタン141kを押下する操作がされない場合、オンライン会議画面141内に当該操作を促すアラートを表示してもよい。 In the in-meeting process of the above embodiment, the control unit 11 counts the time since the start of the online meeting, and even if a preset predetermined time has elapsed, the control unit 11 presses the face photo OK button 141h shown in FIG. 13A or If the user does not press the face photo NG button 141i, an alert may be displayed on the online conference screen 141 to prompt the user to press the face photo NG button 141i. Similarly, the control unit 11 counts the time since the execution of in-meeting processing step S17, and even if a preset predetermined time has elapsed, the control unit 11 presses the business card image display OK button 141j or the business card image display NG button 141k shown in FIG. 13A. If the operation of pressing is not performed, an alert prompting the user to perform the operation may be displayed on the online conference screen 141.

また、上記実施形態では、第1端末装置10が情報処理装置として機能するとしたがこれに限らない。他の外部装置(例えば、サーバー装置30)が情報処理装置として機能してもよい。 Further, in the above embodiment, the first terminal device 10 functions as an information processing device, but the present invention is not limited to this. Other external devices (for example, server device 30) may function as the information processing device.

以上の説明では、各処理を実行するためのプログラムを格納したコンピューター読み取り可能な媒体としてHDDや不揮発性の半導体メモリを使用した例を開示したが、この例に限定されない。その他のコンピューター読み取り可能な媒体として、CD-ROM等の可搬型記録媒体を適用することも可能である。また、通信回線を介してプログラムのデータを提供する媒体として、キャリアウェーブ(搬送波)を適用することとしてもよい。 In the above description, an example has been disclosed in which an HDD or a nonvolatile semiconductor memory is used as a computer-readable medium storing a program for executing each process, but the present invention is not limited to this example. It is also possible to apply a portable recording medium such as a CD-ROM as another computer-readable medium. Furthermore, a carrier wave may be used as a medium for providing program data via a communication line.

本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
[付記]
<請求項1>
第1参加者が視認可能な第1表示部に、第1参加者とは異なる第2参加者がリアルタイムに撮像された撮像画像が表示されるオンラインイベントの実行中において、
前記撮像画像に前記第2参加者の名刺が含まれている場合に、前記撮像画像のデータから名刺に関する情報を含む名刺データを抽出する第1抽出部と、
前記オンラインイベントの実行中に、前記第1抽出部により抽出された前記名刺データに関する情報を前記第1参加者がアクセス可能な記憶部に登録する登録部と、
を備える情報処理装置。
<請求項2>
前記第2参加者の名刺が前記撮像画像に含まれるか否かを、前記撮像画像の画像データに基づいて、判定する判定部をさらに備え、
前記第1抽出部は、前記第2参加者の名刺が前記撮像画像に含まれると判定された場合に、前記撮像画像の画像データから、前記名刺に係る情報を含む名刺データを抽出する請求項1に記載の情報処理装置。
<請求項3>
前記第2参加者が視認可能な第2表示部に、前記撮像画像と枠とを重畳表示させる第1表示制御部と、
前記撮像画像において前記名刺が前記枠内に位置するように前記名刺を前記第2参加者に提示させるための案内を出力する出力部と、をさらに備え、
前記判定部は、前記撮像画像のうちの前記枠内の画像データに基づいて、前記第2参加者の名刺が前記撮像画像に含まれるか否かを判定する請求項2に記載の情報処理装置。
<請求項4>
前記撮像画像から少なくとも前記第2参加者の顔部分が撮影された顔画像データから特徴量を抽出する第2抽出部を備え、
前記登録部は、前記名刺データに関する情報に、前記顔画像データ及び/または前記特徴量を対応付けて登録する請求項1から3のいずれか一項に記載の情報処理装置。
<請求項5>
前記第1抽出部は、前記第1参加者の操作に基づいて前記名刺データを抽出する請求項1から4のいずれか一項に記載の情報処理装置。
<請求項6>
前記撮像画像の顔画像データに対応する、前記記憶部に登録されている前記名刺データに関する情報を取得する取得部と、
前記取得部により取得された前記名刺データに関する情報を前記第1表示部に表示する第2表示制御部と、を備える請求項1から5のいずれか一項に記載の情報処理装置。
<請求項7>
情報処理装置のコンピューターを、
第1参加者が視認可能な第1表示部に、第1参加者とは異なる第2参加者がリアルタイムに撮像された撮像画像が表示されるオンラインイベントの実行中において、
前記撮像画像に前記第2参加者の名刺が含まれている場合に、前記撮像画像のデータから名刺に関する情報を含む名刺データを抽出する第1抽出部と、
前記オンラインイベントの実行中に、前記第1抽出部により抽出された前記名刺データに関する情報を前記第1参加者がアクセス可能な記憶部に登録する登録部、
として機能させるプログラム。
<請求項8>
請求項1から6のいずれか一項に記載の情報処理装置としての前記第1参加者が利用する第1端末装置と、
前記情報処理装置と通信可能に接続される前記第2参加者が利用する第2端末装置と、
前記記憶部を有するサーバー装置と、
を備える情報処理システム。
<請求項9>
請求項1から6のいずれか一項に記載の情報処理装置と、
前記情報処理装置と通信可能に接続される、前記第1参加者が利用する第1端末装置及び前記第2参加者が利用する第2端末装置と、
を備え、
前記情報処理装置は、前記記憶部を有する情報処理システム。
Although several embodiments of the present invention have been described, the scope of the present invention is not limited to the above-described embodiments, but includes the scope of the invention described in the claims and its equivalents.
Below, the invention described in the claims first attached to the application of this application will be added. The claim numbers listed in the supplementary notes are as in the claims originally attached to the request for this application.
[Additional notes]
<Claim 1>
During the execution of an online event in which a captured image of a second participant different from the first participant is displayed in real time on a first display section that is visible to the first participant,
a first extraction unit that extracts business card data including information regarding the business card from data of the captured image when the captured image includes a business card of the second participant;
a registration unit that registers information regarding the business card data extracted by the first extraction unit in a storage unit accessible to the first participant during execution of the online event;
An information processing device comprising:
<Claim 2>
further comprising a determination unit that determines whether the second participant's business card is included in the captured image, based on image data of the captured image;
The first extraction unit extracts business card data including information regarding the business card from the image data of the captured image when it is determined that the second participant's business card is included in the captured image. 1. The information processing device according to 1.
<Claim 3>
a first display control unit that displays the captured image and the frame in a superimposed manner on a second display unit that is visible to the second participant;
further comprising an output unit that outputs guidance for causing the second participant to present the business card so that the business card is located within the frame in the captured image,
The information processing device according to claim 2, wherein the determination unit determines whether the second participant's business card is included in the captured image based on image data within the frame of the captured image. .
<Claim 4>
comprising a second extraction unit that extracts a feature amount from face image data in which at least a face portion of the second participant is photographed from the captured image;
The information processing apparatus according to any one of claims 1 to 3, wherein the registration unit registers the face image data and/or the feature amount in association with information regarding the business card data.
<Claim 5>
The information processing apparatus according to any one of claims 1 to 4, wherein the first extraction unit extracts the business card data based on an operation of the first participant.
<Claim 6>
an acquisition unit that acquires information regarding the business card data registered in the storage unit that corresponds to the face image data of the captured image;
The information processing apparatus according to any one of claims 1 to 5, further comprising a second display control section that displays information regarding the business card data acquired by the acquisition section on the first display section.
<Claim 7>
information processing equipment computer,
During the execution of an online event in which a captured image of a second participant different from the first participant is displayed in real time on a first display section that is visible to the first participant,
a first extraction unit that extracts business card data including information regarding the business card from data of the captured image when the captured image includes a business card of the second participant;
a registration unit that registers information regarding the business card data extracted by the first extraction unit in a storage unit accessible to the first participant during execution of the online event;
A program that functions as
<Claim 8>
A first terminal device used by the first participant as an information processing device according to any one of claims 1 to 6;
a second terminal device used by the second participant that is communicably connected to the information processing device;
a server device having the storage unit;
An information processing system equipped with.
<Claim 9>
The information processing device according to any one of claims 1 to 6,
a first terminal device used by the first participant and a second terminal device used by the second participant, which are communicably connected to the information processing device;
Equipped with
The information processing device is an information processing system including the storage unit.

100 情報処理システム
1 第1ユーザ(第1参加者)
10 第1端末装置(情報処理装置)
11 制御部(第1抽出部、第2抽出部、登録部、判定部、第1表示制御部、第2表示制御部、出力部、取得部)
12 記憶部
13 操作部
14 表示部(第1表示部)
15 通信部
16 撮像部
17 音声入出力部
18 バス
2 第2ユーザ(第2参加者)
20 第2端末装置
21 制御部
22 記憶部
23 操作部
24 表示部(第2表示部)
25 通信部
26 撮像部
27 音声入出力部
28 バス
30 サーバー装置
31 制御部
32 記憶部
321 名刺画像データベース
33 通信部
N 通信ネットワーク
100 Information processing system 1 First user (first participant)
10 First terminal device (information processing device)
11 Control unit (first extraction unit, second extraction unit, registration unit, determination unit, first display control unit, second display control unit, output unit, acquisition unit)
12 Storage section 13 Operation section 14 Display section (first display section)
15 Communication unit 16 Imaging unit 17 Audio input/output unit 18 Bus 2 Second user (second participant)
20 Second terminal device 21 Control section 22 Storage section 23 Operation section 24 Display section (second display section)
25 Communication unit 26 Imaging unit 27 Audio input/output unit 28 Bus 30 Server device 31 Control unit 32 Storage unit 321 Business card image database 33 Communication unit N Communication network

Claims (9)

第1参加者が視認可能な第1表示部に、第1参加者とは異なる第2参加者がリアルタイムに撮像された撮像画像が表示されるオンラインイベントの実行中において、
前記撮像画像に前記第2参加者の名刺が含まれている場合に、前記撮像画像のデータから名刺に関する情報を含む名刺データを抽出する第1抽出部と、
前記オンラインイベントの実行中に、前記第1抽出部により抽出された前記名刺データに関する情報を前記第1参加者がアクセス可能な記憶部に登録する登録部と、
を備える情報処理装置。
During the execution of an online event in which a captured image of a second participant different from the first participant is displayed in real time on a first display section that is visible to the first participant,
a first extraction unit that extracts business card data including information regarding the business card from data of the captured image when the captured image includes a business card of the second participant;
a registration unit that registers information regarding the business card data extracted by the first extraction unit in a storage unit accessible to the first participant during execution of the online event;
An information processing device comprising:
前記第2参加者の名刺が前記撮像画像に含まれるか否かを、前記撮像画像の画像データに基づいて、判定する判定部をさらに備え、
前記第1抽出部は、前記第2参加者の名刺が前記撮像画像に含まれると判定された場合に、前記撮像画像の画像データから、前記名刺に係る情報を含む名刺データを抽出する請求項1に記載の情報処理装置。
further comprising a determination unit that determines whether the second participant's business card is included in the captured image, based on image data of the captured image;
The first extraction unit extracts business card data including information regarding the business card from the image data of the captured image when it is determined that the second participant's business card is included in the captured image. 1. The information processing device according to 1.
前記第2参加者が視認可能な第2表示部に、前記撮像画像と枠とを重畳表示させる第1表示制御部と、
前記撮像画像において前記名刺が前記枠内に位置するように前記名刺を前記第2参加者に提示させるための案内を出力する出力部と、をさらに備え、
前記判定部は、前記撮像画像のうちの前記枠内の画像データに基づいて、前記第2参加者の名刺が前記撮像画像に含まれるか否かを判定する請求項2に記載の情報処理装置。
a first display control unit that displays the captured image and the frame in a superimposed manner on a second display unit that is visible to the second participant;
further comprising an output unit that outputs guidance for causing the second participant to present the business card so that the business card is located within the frame in the captured image,
The information processing device according to claim 2, wherein the determination unit determines whether the second participant's business card is included in the captured image based on image data within the frame of the captured image. .
前記撮像画像から少なくとも前記第2参加者の顔部分が撮影された顔画像データから特徴量を抽出する第2抽出部を備え、
前記登録部は、前記名刺データに関する情報に、前記顔画像データ及び/または前記特徴量を対応付けて登録する請求項1から3のいずれか一項に記載の情報処理装置。
comprising a second extraction unit that extracts a feature amount from face image data in which at least a face portion of the second participant is photographed from the captured image;
The information processing apparatus according to any one of claims 1 to 3, wherein the registration unit registers the face image data and/or the feature amount in association with information regarding the business card data.
前記第1抽出部は、前記第1参加者の操作に基づいて前記名刺データを抽出する請求項1から4のいずれか一項に記載の情報処理装置。 The information processing apparatus according to any one of claims 1 to 4, wherein the first extraction unit extracts the business card data based on an operation of the first participant. 前記撮像画像の顔画像データに対応する、前記記憶部に登録されている前記名刺データに関する情報を取得する取得部と、
前記取得部により取得された前記名刺データに関する情報を前記第1表示部に表示する第2表示制御部と、を備える請求項1から5のいずれか一項に記載の情報処理装置。
an acquisition unit that acquires information regarding the business card data registered in the storage unit that corresponds to the face image data of the captured image;
The information processing apparatus according to any one of claims 1 to 5, further comprising a second display control section that displays information regarding the business card data acquired by the acquisition section on the first display section.
情報処理装置のコンピューターを、
第1参加者が視認可能な第1表示部に、第1参加者とは異なる第2参加者がリアルタイムに撮像された撮像画像が表示されるオンラインイベントの実行中において、
前記撮像画像に前記第2参加者の名刺が含まれている場合に、前記撮像画像のデータから名刺に関する情報を含む名刺データを抽出する第1抽出部と、
前記オンラインイベントの実行中に、前記第1抽出部により抽出された前記名刺データに関する情報を前記第1参加者がアクセス可能な記憶部に登録する登録部、
として機能させるプログラム。
information processing equipment computer,
During the execution of an online event in which a captured image of a second participant different from the first participant is displayed in real time on a first display section that is visible to the first participant,
a first extraction unit that extracts business card data including information regarding the business card from data of the captured image when the captured image includes a business card of the second participant;
a registration unit that registers information regarding the business card data extracted by the first extraction unit in a storage unit accessible to the first participant during execution of the online event;
A program that functions as
請求項1から6のいずれか一項に記載の情報処理装置としての前記第1参加者が利用する第1端末装置と、
前記情報処理装置と通信可能に接続される前記第2参加者が利用する第2端末装置と、
前記記憶部を有するサーバー装置と、
を備える情報処理システム。
A first terminal device used by the first participant as an information processing device according to any one of claims 1 to 6;
a second terminal device used by the second participant that is communicably connected to the information processing device;
a server device having the storage unit;
An information processing system equipped with.
請求項1から6のいずれか一項に記載の情報処理装置と、
前記情報処理装置と通信可能に接続される、前記第1参加者が利用する第1端末装置及び前記第2参加者が利用する第2端末装置と、
を備え、
前記情報処理装置は、前記記憶部を有する情報処理システム。
The information processing device according to any one of claims 1 to 6,
a first terminal device used by the first participant and a second terminal device used by the second participant, which are communicably connected to the information processing device;
Equipped with
The information processing device is an information processing system including the storage unit.
JP2022049207A 2022-03-25 2022-03-25 Information processing apparatus, program, and information processing system Pending JP2023142342A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022049207A JP2023142342A (en) 2022-03-25 2022-03-25 Information processing apparatus, program, and information processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022049207A JP2023142342A (en) 2022-03-25 2022-03-25 Information processing apparatus, program, and information processing system

Publications (1)

Publication Number Publication Date
JP2023142342A true JP2023142342A (en) 2023-10-05

Family

ID=88205814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022049207A Pending JP2023142342A (en) 2022-03-25 2022-03-25 Information processing apparatus, program, and information processing system

Country Status (1)

Country Link
JP (1) JP2023142342A (en)

Similar Documents

Publication Publication Date Title
JP4931924B2 (en) Media data processing apparatus and media data processing method
JP6200483B2 (en) Image processing system, image processing method, and image processing program
JP2015513162A (en) Method and terminal for associating information
WO2017092441A1 (en) Business card information acquisition method and device
WO2016146060A1 (en) Sharing method and device for picture
US11303756B2 (en) System and method for auto-initiating conference calls from a user device
CN110765434A (en) Identity authentication method and device, electronic equipment and storage medium
CN105549300A (en) Automatic focusing method and device
JP2020505705A (en) Method and device for learning feature image and user authentication method
US11689694B2 (en) Information processing apparatus and computer readable medium
JP6428152B2 (en) Portrait right protection program, information communication device, and portrait right protection method
JP2011191839A (en) Terminal equipment, authentication system, and program
JP2019118021A (en) Shooting control system, shooting control method, program, and recording medium
JP5088257B2 (en) Self-introduction support method and self-introduction support processing device, etc.
JP2023142342A (en) Information processing apparatus, program, and information processing system
JP2018081662A (en) Image print system
CN107239490B (en) Method and device for naming face image and computer readable storage medium
CN109992937B (en) Identity authentication method and identity authentication device
JP2007334629A (en) Id card issuing system and method
JP2023142345A (en) Information processing apparatus, program, and information processing system
JP2020091876A (en) Information processing device, information processing method, program, and information processing server
JP2022032812A (en) Information processing device and program
JP2010147716A (en) Terminal, method and program for processing information
JP2014238794A (en) Server, imaging device, server control program and imaging device control program
JP2019040401A (en) Information management device, information management system, and information management method