JP2023099309A - アバターを通じて映像の音声を手話に通訳する方法、コンピュータ装置、およびコンピュータプログラム - Google Patents

Abstract

【課題】アバターを通じて映像の音声を手話に通訳する手話通訳方法、コンピュータ装置およびコンピュータプログラムを提供する。【解決手段】手話通訳方法は、インターネット電話（ＶｏＩＰ）ベースのビデオ通話に参加する参加者それぞれに対して手話通訳のためのアバターを設定する段階と、ビデオ通話中の発話者の音声を手話に変換し、発話者のアバターを通じて通訳する段階と、を含む。【選択図】図３

Description

以下の説明は、手話通訳サービスを提供する技術に関する。

近年の通信デバイスは、音声通話サービスやメッセージサービスはもちろん、無線インターネットや地上波／衛星放送などの多様なサービスを提供している。

特に、映像の圧縮技術および復元技術の発展とカメラを備えたデバイスの常用化にともない、相手の顔を見ながら通話することを可能にしたビデオ通話サービスが提供されるようになった。

ビデオ通話サービスを提供する技術の一例として、特許文献１（登録日２００３年９月２９日）では、無線環境の移動電話網で移動電話端末機間にビデオ電話サービスを提供する技術が開示されている。

韓国登録特許第１０－０４０１２６２号公報

ビデオ通話中にアバターを利用して通話音声をリアルタイムで手話に通訳することができる。

発話者それぞれのアバターを通じて手話を提供することにより、発話の主体を容易に区分することができる。

通話映像や通話音声を分析し、発話者の表情や感情をアバターの表情に反映することができる。

コンピュータ装置で実行される手話通訳方法であって、前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記手話通訳方法は、前記少なくとも１つのプロセッサにより、インターネット電話（ＶｏＩＰ）ベースのビデオ通話に参加する参加者それぞれに対して手話通訳のためのアバターを設定する段階、および前記少なくとも１つのプロセッサにより、前記ビデオ通話中の発話者の音声を手話に変換し、前記発話者のアバターを通じて通訳する段階を含む、手話通訳方法を提供する。

一側面によると、前記設定する段階は、ビデオ通話オプションにより、前記参加者それぞれに対して手話通訳とアバターを設定する段階を含んでよい。

他の側面によると、前記設定する段階は、前記参加者それぞれに対して通話映像から顔を認識し、認識した顔に基づいてアバターを生成して前記手話通訳のためのアバターとして設定する段階を含んでよい。

また他の側面によると、前記通訳する段階は、前記発話者の通話映像と通話音声のうちの少なくとも１つから前記発話者の感情状態を分析する段階、および前記発話者の感情状態を前記発話者のアバターの表情またはジェスチャで表現する段階を含んでよい。

また他の側面によると、前記通訳する段階は、２人以上の参加者が同時に発話する場合、各発話者のアバターをともに登場させて各発話者の音声を手話に通訳する段階を含んでよい。

また他の側面によると、前記通訳する段階は、前記参加者の通話映像が１つの画面で構成されたビデオ通話画面の一側に、前記発話者のアバター映像をオーバーレイで表示する段階を含んでよい。

また他の側面によると、前記通訳する段階は、前記参加者の通話映像が１つの画面で構成されたビデオ通話画面上に、別のディスプレイ要素を用いて前記発話者の通話映像を区分して表示する段階を含んでよい。

また他の側面によると、前記表示する段階は、２人以上の参加者が同時に発話する場合、前記ディスプレイ要素を発話者ごとに異なるように表示するが、発話者それぞれのアバターのディスプレイ要素の一部と前記発話者映像のディスプレイ要素とを統一させて表示してよい。

さらに他の側面によると、前記手話通訳方法は、前記少なくとも１つのプロセッサにより、前記ビデオ通話中の通話映像から手話を認識して字幕または音声で通訳する段階をさらに含んでよい。

コンピュータ装置で実行される手話通訳方法であって、前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記手話通訳方法は、前記少なくとも１つのプロセッサにより、動画プラットフォーム内の映像を対象に、登場人物それぞれに対して手話通訳のためのアバターを設定する段階、および前記少なくとも１つのプロセッサにより、前記映像の再生中の前記登場人物の音声を手話に変換し、この人物のアバターを通じて通訳する段階を含む、手話通訳方法を提供する。

前記手話通訳方法を前記コンピュータ装置に実行させるためにコンピュータ読み取り可能な記録媒体に記録される、コンピュータプログラムを提供する。

コンピュータ装置であって、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記少なくとも１つのプロセッサは、インターネット電話（ＶｏＩＰ）ベースのビデオ通話に参加する参加者それぞれに対して手話通訳のためのアバターを設定する過程、および前記ビデオ通話中の発話者の音声を手話に変換し、前記発話者のアバターを通じて通訳する過程を処理するコンピュータ装置を提供する。

本発明の一実施形態における、ネットワーク環境の例を示した図である。 本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。 本発明の一実施形態における、コンピュータ装置が実行することができる方法の一例を示したフローチャートである。 本発明の一実施形態における、手話通訳を設定するインタフェース画面の一例を示した図である。 本発明の一実施形態における、アバターを通じて発話者の音声を手話に通訳するビデオ通話画面の一例を示した図である。 本発明の一実施形態における、アバターを通じて発話者の音声を手話に通訳するビデオ通話画面の一例を示した図である。 本発明の一実施形態における、アバターを通じて発話者の音声を手話に通訳するビデオ通話画面の一例を示した図である。 本発明の一実施形態における、複数人が同時に発話した音声を手話に通訳するビデオ通話画面の一例を示した図である。 本発明の一実施形態における、複数人が同時に発話した音声を手話に通訳するビデオ通話画面の一例を示した図である。 本発明の一実施形態における、発話者の感情が反映された手話通訳アバターの一例を示した図である。 本発明の一実施形態における、映像から認識した手話を字幕に翻訳するビデオ通話画面の一例を示した図である。

以下、本発明の実施形態について、添付の図面を参照しながら詳しく説明する。

本発明の実施形態は、手話通訳サービスを提供する技術に関する。

本明細書で具体的に開示される事項を含む実施形態は、ビデオ通話においてアバターを利用して映像の音声をリアルタイムで手話に通訳することができる。

本発明の実施形態に係る手話通訳システムは、少なくとも１つのコンピュータ装置によって実現されてよく、本発明の実施形態に係る手話通訳方法は、手話通訳システムに含まれる少なくとも１つのコンピュータ装置で実行されてよい。このとき、コンピュータ装置においては、本発明の一実施形態に係るコンピュータプログラムがインストールされて実行されてよく、コンピュータ装置は、実行されたコンピュータプログラムの制御にしたがって本発明の実施形態に係る手話通訳方法を実行してよい。上述したコンピュータプログラムは、コンピュータ装置と結合して手話通訳方法をコンピュータに実行させるためにコンピュータ読み取り可能な記録媒体に記録されてよい。

図１は、本発明の一実施形態における、ネットワーク環境の例を示した図である。図１のネットワーク環境は、複数の電子機器１１０、１２０、１３０、１４０、複数のサーバ１５０、１６０、およびネットワーク１７０を含む例を示している。このような図１は、発明の説明のための一例に過ぎず、電子機器の数やサーバの数が図１のように限定されることはない。また、図１のネットワーク環境は、本実施形態に適用可能な環境のうちの一例を説明したものに過ぎず、本実施形態に適用可能な環境が図１のネットワーク環境に限定されることはない。

複数の電子機器１１０、１２０、１３０、１４０は、コンピュータ装置によって実現される固定端末や移動端末であってよい。複数の電子機器１１０、１２０、１３０、１４０の例としては、スマートフォン、携帯電話、ナビゲーション、コンピュータ、ノート型ＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）、デジタル放送用端末、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）、ＰＭＰ（Ｐｏｒｔａｂｌｅ Ｍｕｌｔｉｍｅｄｉａ Ｐｌａｙｅｒ）、タブレットＰＣなどがある。一例として、図１では、電子機器１１０の例としてスマートフォンを示しているが、本発明の実施形態において、電子機器１１０は、実質的に無線または有線通信方式を利用し、ネットワーク１７０を介して他の電子機器１２０、１３０、１４０および／またはサーバ１５０、１６０と通信することができる多様な物理的なコンピュータ装置のうちの１つを意味してよい。

通信方式が限定されることはなく、ネットワーク１７０が含むことのできる通信網（一例として、移動通信網、有線インターネット、無線インターネット、放送網）を利用する通信方式だけではなく、機器間の近距離無線通信が含まれてもよい。例えば、ネットワーク１７０は、ＰＡＮ（Ｐｅｒｓｏｎａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＣＡＮ（Ｃａｍｐｕｓ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＭＡＮ（Ｍｅｔｒｏｐｏｌｉｔａｎ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＷＡＮ（Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＢＢＮ（ＢｒｏａｄＢａｎｄ Ｎｅｔｗｏｒｋ）、インターネットなどのネットワークのうちの１つ以上の任意のネットワークを含んでよい。さらに、ネットワーク１７０は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター－バスネットワーク、ツリーまたは階層的ネットワークなどを含むネットワークトポロジのうちの任意の１つ以上を含んでもよいが、これらに限定されることはない。

サーバ１５０、１６０それぞれは、複数の電子機器１１０、１２０、１３０、１４０とネットワーク１７０を介して通信して命令、コード、ファイル、コンテンツ、サービスなどを提供する１つ以上のコンピュータ装置によって実現されてよい。例えば、サーバ１５０は、ネットワーク１７０を介して接続した複数の電子機器１１０、１２０、１３０、１４０にサービス（一例として、手話通訳サービス）を提供するシステムであってよい。

図２は、本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。上述した複数の電子機器１１０、１２０、１３０、１４０それぞれやサーバ１５０、１６０それぞれは、図２に示したコンピュータ装置２００によって実現されてよい。

このようなコンピュータ装置２００は、図２に示すように、メモリ２１０、プロセッサ２２０、通信インタフェース２３０、および入力／出力インタフェース２４０を含んでよい。メモリ２１０は、コンピュータ読み取り可能な記録媒体であって、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、およびディスクドライブのような永続的大容量記録装置を含んでよい。ここで、ＲＯＭやディスクドライブのような永続的大容量記録装置は、メモリ２１０とは区分される別の永続的記録装置としてコンピュータ装置２００に含まれてもよい。また、メモリ２１０には、オペレーティングシステムと、少なくとも１つのプログラムコードが記録されてよい。このようなソフトウェア構成要素は、メモリ２１０とは別のコンピュータ読み取り可能な記録媒体からメモリ２１０にロードされてよい。このような別のコンピュータ読み取り可能な記録媒体は、フロッピードライブ、ディスク、テープ、ＤＶＤ／ＣＤ－ＲＯＭドライブ、メモリカードなどのコンピュータ読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータ読み取り可能な記録媒体ではない通信インタフェース２３０を通じてメモリ２１０にロードされてもよい。例えば、ソフトウェア構成要素は、ネットワーク１７０を介して受信されるファイルによってインストールされるコンピュータプログラムに基づいてコンピュータ装置２００のメモリ２１０にロードされてよい。

プロセッサ２２０は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ２１０または通信インタフェース２３０によって、プロセッサ２２０に提供されてよい。例えば、プロセッサ２２０は、メモリ２１０のような記録装置に記録されたプログラムコードにしたがって受信される命令を実行するように構成されてよい。

通信インタフェース２３０は、ネットワーク１７０を介してコンピュータ装置２００が他の装置（一例として、上述した記録装置）と互いに通信するための機能を提供してよい。一例として、コンピュータ装置２００のプロセッサ２２０がメモリ２１０のような記録装置に記録されたプログラムコードにしたがって生成した要求や命令、データ、ファイルなどが、通信インタフェース２３０の制御にしたがってネットワーク１７０を介して他の装置に伝達されてよい。これとは逆に、他の装置からの信号や命令、データ、ファイルなどが、ネットワーク１７０を経てコンピュータ装置２００の通信インタフェース２３０を通じてコンピュータ装置２００に受信されてよい。通信インタフェース２３０を通じて受信された信号や命令、データなどは、プロセッサ２２０やメモリ２１０に伝達されてよく、ファイルなどは、コンピュータ装置２００がさらに含むことのできる記録媒体（上述した永続的記録装置）に記録されてよい。

入力／出力インタフェース２４０は、入力／出力装置２５０とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、またはマウスなどの装置を、出力装置は、ディスプレイ、スピーカのような装置を含んでよい。他の例として、入力／出力インタフェース２４０は、タッチスクリーンのように入力と出力のための機能が１つに統合された装置とのインタフェースのための手段であってもよい。入力／出力装置２５０は、コンピュータ装置２００と１つの装置で構成されてもよい。

また、他の実施形態において、コンピュータ装置２００は、図２の構成要素よりも少ないか多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータ装置２００は、上述した入力／出力装置２５０のうちの少なくとも一部を含むように実現されてもよいし、トランシーバ、データベースなどのような他の構成要素をさらに含んでもよい。

以下では、アバターを通じて映像の音声を手話通訳する方法および装置の実施形態について具体的に説明する。

本明細書において、ビデオ通話とは、ユーザと相手が映像と音声をやり取りする映像電話を包括したものを意味してよく、一例として、ＩＰアドレスを使用するネットワークを介して映像と音声をデジタルパケットに変換して送信する技術であるインターネット電話（ＶｏＩＰ）を意味してよい。

本実施形態は、手話通訳を通訳オプションの１つとしてインターネット電話（ＶｏＩＰ）上に提供してよい。

本実施形態に係るコンピュータ装置２００は、クライアント上にインストールされた専用アプリケーションやコンピュータ装置２００と関連するウェブ／モバイルサイトへの接続により、手話通訳サービスをクライアントに提供してよい。コンピュータ装置２００には、コンピュータで実現された手話通訳システムが構成されてよい。一例として、手話通訳システムは、独立的に動作するプログラム形態で実現されてもよいし、特定のアプリケーションのイン－アプリ（ｉｎ－ａｐｐ）形態で構成されて前記特定のアプリケーション上で動作が可能なように実現されてもよい。

コンピュータ装置２００のプロセッサ２２０は、以下の手話通訳方法を実行するための構成要素で実現されてよい。実施形態によって、プロセッサ２２０の構成要素は、選択的にプロセッサ２２０に含まれても除外されてもよい。また、実施形態によって、プロセッサ２２０の構成要素は、プロセッサ２２０の機能の表現のために分離されても併合されてもよい。

このようなプロセッサ２２０およびプロセッサ２２０の構成要素は、以下の手話通訳方法に含まれる段階を実行するようにコンピュータ装置２００を制御してよい。例えば、プロセッサ２２０およびプロセッサ２２０の構成要素は、メモリ２１０が含むオペレーティングシステムのコードと、少なくとも１つのプログラムのコードとによる命令（ｉｎｓｔｒｕｃｔｉｏｎ）を実行するように実現されてよい。

ここで、プロセッサ２２０の構成要素は、コンピュータ装置２００に記録されたプログラムコードが提供する命令にしたがってプロセッサ２２０によって実行される、互いに異なる機能（ｄｉｆｆｅｒｅｎｔ ｆｕｎｃｔｉｏｎｓ）の表現であってよい。

プロセッサ２２０は、コンピュータ装置２００の制御と関連する命令がロードされたメモリ２１０から必要な命令を読み取ってよい。この場合、前記読み取られた命令は、プロセッサ２２０が以下で説明する段階を実行するように制御するための命令を含んでよい。

以下で説明する段階は、図に示したものとは異なる順序で実行されてもよいし、段階のうちの一部が省略されたり追加の過程がさらに含まれたりしてもよい。

図３は、本発明の一実施形態における、コンピュータ装置が実行することができる方法の一例を示したフローチャートである。

図３を参照すると、段階３１０で、プロセッサ２２０は、インターネット電話（ＶｏＩＰ）ベースのビデオ通話に参加しようとするユーザそれぞれに対し、ビデオ通話オプションの１つとして手話通訳を設定してよい。プロセッサ２２０は、特定のユーザのためのオプション（例えば、聴覚障害のあるユーザのためのオプション）として、ビデオ通話進入過程などのビデオ通話と関連する環境設定によって視覚言語である手話への通訳を要請してよい。

段階３２０で、プロセッサ２２０は、手話通訳を設定したビデオ通話において、ビデオ通話参加者それぞれに対して手話表現のためのアバターを設定してよい。アバターとは、仮想環境でユーザの分身として使用されるキャラクタであって、複数のアバター構成要素を含んでよい。例えば、アバター構成要素は、アバターの外形を定義する構成要素（目の形、鼻の形、口の形、顔型、体形、ヘアースタイルなど）、アバターのジェスチャを定義する構成要素、アバターが着用するアイテムを定義する構成要素（衣服、靴、眼鏡、アクセサリなど）を含んでよい。一例として、プロセッサ２２０は、ビデオ通話参加者それぞれに対して、参加者が直接選択したアバターを設定してよい。他の例として、プロセッサ２２０は、ビデオ通話参加者それぞれに対して、任意の設定によって重複しないアバターを自動で設定してよい。プロセッサ２２０は、ビデオ通話参加者それぞれにアバターを設定するにあたり、顔認識および人工知能（ＡＩ）技術に基づいて通話映像から各参加者の顔を認識し、参加者に似せたキャラクタのアバターを生成して活用してよい。

段階３３０で、プロセッサ２２０は、ビデオ通話中の発話者の音声を手話に翻訳してよい。このとき、プロセッサ２２０は、インターネット電話（ＶｏＩＰ）ベースのビデオ通話環境において、音声認識（ＳＴＴ：Ｓｐｅｅｃｈ Ｔｏ Ｔｅｘｔ）技術を利用して通話音声を文字データであるテキストに変換してよい。この後、プロセッサ２２０は、人工知能（ＡＩ）ベースの手話翻訳モデルを利用して、前記変換されたテキストを手話に変換してよい。

段階３４０で、プロセッサ２２０は、段階３３０で翻訳された手話に該当する動作を該当となる発話者のアバターを通じて再生してよい。プロセッサ２２０は、発話者の分身であるアバターの動作を、翻訳された手話動作で表現してよい。言い換えれば、プロセッサ２２０は、手話文章に対して事前に定められた手の動作やその他の身体要素の動作をアバターの行動に変えて表現してよい。

プロセッサ２２０は、手の形状、手の方向、手の運動を含んだ手の動作はもちろん、唇の動き、表情、顔色、目の動き、身振りなどを用いながら、より自然な手話を表現することができるアバターモデルを適用してよい。一例として、プロセッサ２２０は、顔検出（ｆａｃｅ ｄｅｔｅｃｔｉｏｎ）技術に基づいて発話者の通話映像から抽出した発話者の表情をアバターモデルに反映してよい。

プロセッサ２２０は、通話音声に含まれた発話文章やイントネーションから発話者の感情状態を分析し、分析した感情情報をアバターの表情やジェスチャに反映してよい。通話音声の他にも、顔検出技術に基づいて発話者の通話映像を分析し、発話者の顔から読み取れる感情状態を抽出してよい。プロセッサ２２０は、手話通訳を提供するにあたり、手話の手の動きの他にも、発話者の感情を視覚言語で表現することが可能なその他の身振り、表情、視線、姿勢などをアバターの多様な行動で表現してよい。

プロセッサ２２０は、相手の端末からビデオ通話のための相手映像を受信し、ユーザ映像と相手映像を含んだビデオ通話画面を表示してよい。プロセッサ２２０は、ビデオ通話に参加する相手映像を個別の映像としてそれぞれ受信した後、受信した相手映像をユーザ映像とともに１つの画面にレンダリング（ｒｅｎｄｅｒｉｎｇ）してビデオ通話画面を構成してよい。

ビデオ通話サービスを提供するサーバ１５０側で複数の参加者映像を含んだ１つの映像を生成してクライアントに提供するのではなく、各参加者映像を個別の映像で送信し、クライアント側で複数の参加者画像を個別の映像としてそれぞれ受信して１つの画面のビデオ通話画面を構成するのである。

このとき、サーバ１５０は、手話を表現するアバター映像を通話映像の一側にミキシングして参加者映像として送信してもよいし、通話映像とアバター映像を個別の映像で送信してもよい。クライアントでは、前者の場合には、一側にアバター映像がミキシングされた参加者映像としてビデオ通話画面を構成してよく、後者の場合には、通話映像とアバター映像を定められたレイアウトで組み合わせてビデオ通話画面を構成してよい。例えば、通話映像を１つの画面のビデオ通話画面で構成し、ビデオ通話画面の一側（例えば、右下）に手話通訳アバター映像をオーバーレイで表示してよい。

プロセッサ２２０は、ビデオ通話参加者ごとに互いに異なるキャラクタのアバターが設定されることにより、発話者ごとに異なるアバター、すなわち、発話者それぞれに設定されたアバターを通じて手話通訳を提供してよい。

プロセッサ２２０は、手話通訳を提供するアバターがビデオ通話参加者のうちのどの参加者のアバターであるか、すなわち、現在手話に通訳されている音声の発話者が誰であるかを容易に区分できるように、別のディスプレイ要素をビデオ通話画面に適用してよい。

プロセッサ２２０は、ビデオ通話参加者のうちの２人以上の参加者が同時に発話する場合、各発話者のアバターをともに登場させ、発話者それぞれに対する手話通訳を提供してよい。

本実施形態に係る手話通訳サービスは、ビデオ通話中の発話者の音声を手話に通訳する機能はもちろん、通話映像内に登場する人物の身振りを認識し、これをテキストまたは音声で提供する機能を含んでもよい。言い換えれば、人工知能と映像認識技術に基づいて映像の手話言語をテキストに変換してこれを字幕に翻訳してもよく、またはＴＴＳ（Ｔｅｘｔ Ｔｏ Ｓｐｅｅｃｈ）技術に基づいて音声に通訳してもよい。

図４は、本発明の一実施形態における、手話通訳を設定するインタフェース画面の一例を示した図である。

図４は、ビデオ通話参加のための設定画面４００を示している。

図４を参照すると、ビデオ通話設定画面４００は、ビデオ通話と関連する各種環境設定のためのインタフェースを含んでよく、このとき、ビデオ通話中に手話通訳を使用できるように設定するための「手話通訳」メニュー４０１を含んでよい。

ユーザは、ビデオ通話に参加する前に、「手話通訳」メニュー４０１を利用して自身の通話音声に対する手話通訳を設定してよい。

図５～７は、本発明の一実施形態における、アバターを通じて発話者の音声を手話に通訳するビデオ通話画面の一例を示した図である。

図５を参照すると、プロセッサ２２０は、ユーザがビデオ通話に参加した場合、相手の端末からビデオ通話のための相手映像５２０を受信し、ユーザ映像５１０と相手映像５２０を含んだビデオ通話画面５００を表示してよい。

このとき、プロセッサ２２０は、ビデオ通話に参加する相手映像５２０を個別の映像でそれぞれ受信した後、受信した相手映像５２０をユーザ映像５１０とともに１つの画面にレンダリングすることによってビデオ通話画面５００を構成してよい。

図６を参照すると、プロセッサ２２０は、ビデオ通話中の通話音声を手話に通訳してよく、このとき、発話者に該当するアバター６５０を利用して発話者の音声に対する手話通訳を提供してよい。

サーバ１５０側が参加者それぞれの通話映像を個別の映像で送信すると同時に、手話通訳を提供するアバター６５０の映像をともに送信してよい。このとき、プロセッサ２２０は、ユーザ映像５１０と相手映像５２０が１つの画面にレンダリングされたビデオ通話画面５００上にアバター６５０の映像をオーバーレイで表示してよい。

プロセッサ２２０は、アバター６５０がビデオ通話参加者のうちのどの参加者のアバターであるか、すなわち、現在手話に通訳されている音声の発話者が誰であるかを、別のディスプレイ要素６５１を用いて他の参加者と区分してビデオ通話画面５００上に表示してよい。

図６では、ビデオ通話画面５００の右下にアバター６５０が表示されているが、他の例によると、アバター６５０は、相手映像５２０内で発話者の映像に隣接して表示されたり、発話者の映像内にオーバーレイで表示されたり、発話者の映像の代わりに表示されたりしてもよい。

プロセッサ２２０は、ビデオ通話中に発話者が変わる場合、図７に示すように、ディスプレイ要素７６１を用いて現在の発話者と他の参加者とを区分して表示すると同時に、現在の発話者のアバター７６０を利用して通話音声を手話に通訳してよい。

言い換えれば、プロセッサ２２０は、発話者を容易に区分できるように、発話者によってそれぞれ異なるアバター６５０、７６０を通じて手話通訳を提供してよい。

図８～９は、本発明の一実施形態における、複数人が同時に発話する音声を手話に通訳するビデオ通話画面の一例を示した図である。

図８を参照すると、プロセッサ２２０は、ビデオ通話参加者のうちの２人以上の参加者が同時に発話する場合、ビデオ通話画面５００上に各発話者のアバター８５０、８６０をともに登場させて発話者それぞれに対する手話通訳を提供してよい。

プロセッサ２２０は、同時発話の環境でも発話者を容易に識別できるように、図９に示すように、各発話者の通話映像のディスプレイ要素８５１、８６１を異なるように区分して表示してよい。このとき、発話者それぞれのアバター８５０、８６０のディスプレイ要素の一部と通話映像のディスプレイ要素８５１、８６１とが統一するようにしてよい。

例えば、ユーザＡとユーザＢが同時に発話する場合、ユーザＡの通話映像とアバターには赤色の枠線を適用する反面、ユーザＢの通話映像とアバターには青色の枠線を適用してよい。これにより、ユーザＡとユーザＢの発話音声に対する手話通訳を容易に分別することができる。

図９では、発話中のユーザのアバターだけが表示されているが、他の実施形態によれば、手話通訳が設定されたビデオ通話に対してユーザそれぞれのアバターを相手映像５２０にオーバーレイさせて表示してよい。このとき、発話者に対するアバターを他のユーザのアバターと区分できるように、異なる大きさまたはカラーを利用して表示してよい。

図１０は、本発明の一実施形態における、発話者の感情が反映された手話通訳アバターの一例を示した図である。

プロセッサ２２０は、ビデオ通話画面５００上に発話者のアバター１０５０を登場させて発話者の音声に対して手話通訳を提供するにあたり、発話者の通話映像、発話文章、イントネーションなどから発話者の現在の感情状態を分析し、分析した感情情報をアバター１０５０の表情やジェスチャに反映してよい。

図１０に示すように、プロセッサ２２０は、ビデオ通話中に発話者が微笑みながら「ありがとう」と発話した場合、通話映像や発話内容から感情状態「喜び」を抽出してよく、このとき、アバター１０５０の表情も感情状態「喜び」を示す笑顔で表現してよい。

図１１は、本発明の一実施形態における、映像から認識した手話を字幕に翻訳するビデオ通話画面の一例を示した図である。

プロセッサ２２０は、ビデオ通話中の通話音声を手話に通訳することはもちろん、通話映像の手話言語を文字に翻訳したり音声に通訳したりすることも可能である。

図１１を参照すると、プロセッサ２２０は、ビデオ通話中にユーザが手話を利用する場合、ユーザ映像５１０からユーザが表現する手話動作を認識し、認識した手話を文字に変換することにより、手話通訳結果として字幕１１００を提供してよい。このとき、プロセッサ２２０は、手話を利用するユーザのアバターを利用して、手話または変換された文字に該当する表情やジェスチャをアバターに適用しながら字幕１１００を提供してよい。

プロセッサ２２０は、映像の手話言語に対する通訳結果を字幕１１００で提供することはもちろん、ＴＴＳを利用して手話通訳結果を音声形態で提供することも可能である。

上述した実施形態は、ビデオ通話中に手話通訳サービスを提供するものと説明しているが、これに限定されてはならず、視覚的な情報伝達が可能な映像ベースのサービスであれば手話通訳サービスを適用することができる。例えば、動画コンテンツを共有する動画プラットフォームにおいて、映像再生中に映像に登場する人物の音声をアバターを利用して手話に通訳することも可能である。登場人物ごとに互いに異なるキャラクタのアバターを設定し、登場人物の音声をこの人物のアバターを通じて手話に通訳することができる。

このように、本発明の実施形態によると、アバターを利用して、ビデオ通話中の映像の音声をリアルタイムで手話に通訳することができる。本発明の実施形態によると、各発話者のアバターを通じて手話を提供することにより、発話の主体を容易に区別することができる。本発明の実施形態によると、通話映像や通話音声から発話者の感情を分析し、手話通訳を提供するアバターの表情に反映することができる。

上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、および／またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、プロセッサ、コントローラ、ＡＬＵ（Ａｒｉｔｈｍｅｔｉｃ Ｌｏｇｉｃ Ｕｎｉｔ）、デジタル信号プロセッサ、マイクロコンピュータ、ＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、ＰＬＵ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｌｏｇｉｃ Ｕｎｉｔ）、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、１つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム（ＯＳ）およびＯＳ上で実行される１つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および生成してもよい。理解の便宜のために、１つの処理装置が使用されるとして説明される場合もあるが、当業者であれば、処理装置が複数個の処理要素および／または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは１つのプロセッサおよび１つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。

ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの１つ以上の組み合わせを含んでもよく、望む動作をするように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび／またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、コンピュータ記録媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、１つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。

実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。ここで、媒体は、コンピュータ実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例としては、ハードディスク、フロッピーディスク、および磁気テープのような磁気媒体、ＣＤ－ＲＯＭおよびＤＶＤのような光媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌ ｄｉｓｋ）のような光磁気媒体、およびＲＯＭ、ＲＡＭ、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアやその他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。

以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ／あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって対置されたり置換されたとしても、適切な結果を達成することができる。

したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。

１１０、１２０、１３０、１４０：電子機器
１５０、１６０：サーバ
１７０：ネットワーク

Claims (20)

1. コンピュータ装置で実行される手話通訳方法であって、
   前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、
   前記手話通訳方法は、
   前記少なくとも１つのプロセッサにより、ビデオ通話に参加する参加者それぞれに対して手話通訳のためのアバターを設定する段階、および
   前記少なくとも１つのプロセッサにより、前記ビデオ通話中の発話者の音声を手話に変換し、前記発話者のアバターを通じて通訳する段階
   を含む、手話通訳方法。
2. 前記設定する段階は、
   ビデオ通話オプションにより、前記参加者それぞれに対して手話通訳とアバターを設定する段階
   を含む、請求項１に記載の手話通訳方法。
3. 前記設定する段階は、
   前記参加者それぞれに対して通話映像から顔を認識し、認識した顔に基づいてアバターを生成して前記手話通訳のためのアバターとして設定する段階
   を含む、請求項１に記載の手話通訳方法。
4. 前記通訳する段階は、
   前記発話者の通話映像と通話音声のうちの少なくとも１つから前記発話者の感情状態を分析する段階、および
   前記発話者の感情状態を前記発話者のアバターの表情またはジェスチャで表現する段階
   を含む、請求項１に記載の手話通訳方法。
5. 前記通訳する段階は、
   ２人以上の参加者が同時に発話する場合、各発話者のアバターをともに登場させて各発話者の音声を手話に通訳する段階
   を含む、請求項１に記載の手話通訳方法。
6. 前記通訳する段階は、
   前記参加者の通話映像が１つの画面で構成されたビデオ通話画面の一側に前記発話者のアバター映像をオーバーレイで表示する段階
   を含む、請求項１に記載の手話通訳方法。
7. 前記通訳する段階は、
   前記参加者の通話映像が１つの画面で構成されたビデオ通話画面上に別のディスプレイ要素を用いて前記発話者の通話映像を区分して表示する段階
   を含む、請求項１に記載の手話通訳方法。
8. 前記表示する段階は、
   ２人以上の参加者が同時に発話する場合、前記ディスプレイ要素を発話者ごとに異なるように表示するが、発話者それぞれのアバターのディスプレイ要素の一部と前記発話者映像のディスプレイ要素とを統一させて表示すること
   を特徴とする、請求項７に記載の手話通訳方法。
9. 前記手話通訳方法は、
   前記少なくとも１つのプロセッサにより、前記ビデオ通話中の通話映像から手話を認識して字幕または音声に通訳する段階
   をさらに含む、請求項１に記載の手話通訳方法。
10. コンピュータ装置で実行される手話通訳方法であって、
    前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、
    前記手話通訳方法は、
    前記少なくとも１つのプロセッサにより、動画プラットフォーム内の映像を対象に、登場人物それぞれに対して手話通訳のためのアバターを設定する段階、および
    前記少なくとも１つのプロセッサにより、前記映像の再生中の前記登場人物の音声を手話に変換し、この人物のアバターを通じて通訳する段階
    を含む、手話通訳方法。
11. 請求項１から請求項１０のうちのいずれか一項に記載の手話通訳方法を前記コンピュータ装置に実行させるためのコンピュータプログラム。
12. コンピュータ装置であって、
    メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサ
    を含み、
    前記少なくとも１つのプロセッサは、
    ビデオ通話に参加する参加者それぞれに対して手話通訳のためのアバターを設定する過程、および
    前記ビデオ通話中の発話者の音声を手話に変換し、前記発話者のアバターを通じて通訳する過程
    を処理する、コンピュータ装置。
13. 前記設定する段階は、
    ビデオ通話オプションにより、前記参加者それぞれに対して手話通訳とアバターを設定すること
    を特徴とする、請求項１２に記載のコンピュータ装置。
14. 前記少なくとも１つのプロセッサは、
    前記参加者それぞれに対して通話映像から顔を認識し、認識した顔に基づいてアバターを生成して前記手話通訳のためのアバターとして設定すること
    を特徴とする、請求項１２に記載のコンピュータ装置。
15. 前記少なくとも１つのプロセッサは、
    前記発話者の通話映像と通話音声のうちの少なくとも１つから前記発話者の感情状態を分析し、
    前記発話者の感情状態を前記発話者のアバターの表情またはジェスチャで表現すること
    を特徴とする、請求項１２に記載のコンピュータ装置。
16. 前記少なくとも１つのプロセッサは、
    ２人以上の参加者が同時に発話する場合、各発話者のアバターをともに登場させて各発話者の音声を手話に通訳すること
    を特徴とする、請求項１２に記載のコンピュータ装置。
17. 前記少なくとも１つのプロセッサは、
    前記参加者の通話映像が１つの画面で構成されたビデオ通話画面の一側に前記発話者のアバター映像をオーバーレイで表示すること
    を特徴とする、請求項１２に記載のコンピュータ装置。
18. 前記少なくとも１つのプロセッサは、
    前記参加者の通話映像が１つの画面で構成されたビデオ通話画面上に別のディスプレイ要素を用いて前記発話者の通話映像を区分して表示すること
    を特徴とする、請求項１２に記載のコンピュータ装置。
19. 前記少なくとも１つのプロセッサは、
    ２人以上の参加者が同時に発話する場合、前記ディスプレイ要素を発話者ごとに異なるように表示するが、発話者それぞれのアバターのディスプレイ要素の一部と前記発話者映像のディスプレイ要素とを統一させて表示すること
    を特徴とする、請求項１８に記載のコンピュータ装置。
20. 前記少なくとも１つのプロセッサは、
    前記ビデオ通話中の通話映像から手話を認識して字幕または音声に通訳すること
    を特徴とする、請求項１２に記載のコンピュータ装置。

Images