JP7183316B2 - 音声記録検索方法、コンピュータ装置およびコンピュータプログラム - Google Patents

音声記録検索方法、コンピュータ装置およびコンピュータプログラム Download PDF

Info

Publication number
JP7183316B2
JP7183316B2 JP2021018726A JP2021018726A JP7183316B2 JP 7183316 B2 JP7183316 B2 JP 7183316B2 JP 2021018726 A JP2021018726 A JP 2021018726A JP 2021018726 A JP2021018726 A JP 2021018726A JP 7183316 B2 JP7183316 B2 JP 7183316B2
Authority
JP
Japan
Prior art keywords
words
recording
search
voice
word
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021018726A
Other languages
English (en)
Other versions
JP2022056307A (ja
Inventor
ジウン シン
ギルファン ファン
イェリム チョン
ヒャンナム オ
ユジン チョン
デヒョン イム
ドンヨル イ
ジョンミン チェ
ヒョンジン キム
デグン ソン
ヨンス ソン
ジンミョン イ
ドクス キム
ゴンミン キム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Naver Corp
Original Assignee
Naver Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Naver Corp filed Critical Naver Corp
Publication of JP2022056307A publication Critical patent/JP2022056307A/ja
Application granted granted Critical
Publication of JP7183316B2 publication Critical patent/JP7183316B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/432Query formulation
    • G06F16/433Query formulation using audio data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/3332Query translation
    • G06F16/3338Query expansion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3343Query execution using phonetics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/632Query formulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/237Lexical tools
    • G06F40/247Thesauruses; Synonyms
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems

Description

以下の説明は、音声をテキストに変換した音声記録から単語を検索する技術に関する。
一般に、モバイル音声変換は、モバイルデバイスで音声を録音し、音声録音の後に、録音された区間の音声をテキストに変換してディスプレイ上に表示することにより行われる。
このような音声変換技術の一例として、特許文献1(公開日2014年5月23日)には、音声録音およびテキスト変換を実行する技術が開示されている。
韓国公開特許第10-2014-0062217号公報
音声をテキストに変換した音声記録から単語を検索するときに、似た発音の単語を含んで検索する方法とシステムを提供する。
発音に基づく検索結果に含まれた単語を検索正確度によってフィルタリングする方法とシステムを提供する。
発音に基づく検索結果に含まれた単語のディスプレイ要素を検索正確度によって異なるように表示する方法とシステムを提供する。
発音に基づく検索結果に含まれた単語を他の単語に修正する方法とシステムを提供する。
コンピュータ装置が実行する音声記録検索方法であって、前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも1つのプロセッサを含み、前記音声記録検索方法は、前記少なくとも1つのプロセッサにより、音声をテキストに変換することによって生成された音声記録から検索語に対応する単語を検索する段階を含み、前記検索する段階は、前記音声記録から前記検索語と似た発音の単語である類似単語を含んで検索することを特徴とする、音声記録検索方法を提供する。
一側面によると、前記検索する段階は、単語が分離される単位を利用した単語間の比較により、前記検索語と一定の割合以上の類似度をもつ単語を前記類似単語として検索してよい。
他の側面によると、前記検索する段階は、字素単位、語幹単位、ターム単位のうちの少なくとも1つの単位に基づく単語間の比較により、前記検索語と一定の割合以上の類似度をもつ単語を前記類似単語として検索してよい。
また他の側面によると、前記音声記録検索方法は、前記少なくとも1つのプロセッサにより、検索結果に含まれた少なくとも1つの単語を他の単語に修正する段階をさらに含んでよい。
また他の側面によると、前記修正する段階は、前記検索結果に含まれた単語全体を一度に修正する機能または前記検索結果に含まれた単語の一部を選択して修正する機能を利用して、前記他の単語に修正してよい。
また他の側面によると、前記検索する段階は、検索結果に含まれた単語のディスプレイ要素を前記検索語との類似度によって異なるように表示する段階を含んでよい。
また他の側面によると、前記検索する段階は、前記検索語との類似度に基づき、検索結果に含まれた単語をフィルタリングする段階を含んでよい。
また他の側面によると、前記音声記録は、前記音声の録音中または再生中に作成されたメモとマッチングされて管理され、前記検索する段階は、前記音声記録と前記メモを検索範囲として前記類似単語を検索してよい。
また他の側面によると、前記音声記録検索方法は、前記少なくとも1つのプロセッサにより、前記音声記録と前記音声の録音中または再生中に作成されたメモとを連係させて提供する段階をさらに含んでよい。
さらに他の側面によると、前記提供する段階は、デュアルビュー方式によって前記音声記録と前記メモをともに表示する段階を含んでよい。
前記音声記録検索方法をコンピュータに実行させるためのプログラムが記録されている、コンピュータ読み取り可能な記録媒体を提供する。
コンピュータ装置であって、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、音声をテキストに変換することによって生成された音声記録から検索語に対応する単語を検索する音声記録検索部を含み、前記音声記録検索部は、前記音声記録から前記検索語と似た発音の単語である類似単語を含んで検索することを特徴とする、コンピュータ装置を提供する。
本発明の実施形態によると、音声をテキストに変換した音声記録から単語を検索するときに、似た発音の単語を含んで検索することにより、音声記録の単語検索の性能を高めることができる。
本発明の実施形態によると、発音に基づく検索結果に含まれた単語を検索正確度によってフィルタリングする機能、発音に基づく検索結果に含まれた単語を他の単語に修正する機能などを提供することにより、サービスの利用に対するユーザの利便性を高めることができる。
本発明の一実施形態における、ネットワーク環境の例を示した図である。 本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。 本発明の一実施形態における、コンピュータ装置のプロセッサが含むことのできる構成要素の例を示した図である。 本発明の一実施形態における、コンピュータ装置が実行することのできる方法の例を示したフローチャートである。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。 本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。
以下、本発明の実施形態について、添付の図面を参照しながら詳しく説明する。
本発明の実施形態に係る音声記録管理システムは、少なくとも1つのコンピュータ装置によって実現されてよく、本発明の実施形態に係る音声記録検索方法は、音声記録管理システムに含まれる少なくとも1つのコンピュータ装置によって実行されてよい。コンピュータ装置においては、本発明の一実施形態に係るコンピュータプログラムがインストールされて実行されてよく、コンピュータ装置は、実行されるコンピュータプログラムの制御にしたがって本発明の実施形態に係る音声記録検索方法を実行してよい。上述したコンピュータプログラムは、コンピュータ装置に結合されて音声記録検索方法をコンピュータに実行させるためにコンピュータ読み取り可能な記録媒体に記録されてよい。
図1は、本発明の一実施形態における、ネットワーク環境の例を示した図である。図1のネットワーク環境は、複数の電子機器110、120、130、140、複数のサーバ150、160、およびネットワーク170を含む例を示している。このような図1は、発明の説明のための一例に過ぎず、電子機器の数やサーバの数が図1のように限定されることはない。また、図1のネットワーク環境は、本実施形態に適用可能な環境の一例を説明したものに過ぎず、本実施形態に適用可能な環境が図1のネットワーク環境に限定されることはない。
複数の電子機器110、120、130、140は、コンピュータ装置によって実現される固定端末や移動端末であってよい。複数の電子機器110、120、130、140の例としては、スマートフォン、携帯電話、ナビゲーション、PC(personal computer)、ノート型PC、デジタル放送用端末、PDA(Personal Digital Assistant)、PMP(Portable Multimedia Player)、タブレットなどがある。一例として、図1では、電子機器110の例としてスマートフォンを示しているが、本発明の実施形態において、電子機器110は、実質的に無線または有線通信方式を利用し、ネットワーク170を介して他の電子機器120、130、140および/またはサーバ150、160と通信することのできる多様な物理的なコンピュータ装置のうちの1つを意味してよい。
通信方式は限定されず、ネットワーク170が含むことが可能な通信網(一例として、移動通信網、有線インターネット、無線インターネット、放送網)を利用する通信方式だけではなく、機器間の近距離無線通信が含まれてもよい。例えば、ネットワーク170は、PAN(personal area network)、LAN(local area network)、CAN(campus area network)、MAN(metropolitan area network)、WAN(wide area network)、BBN(broadband network)、インターネットなどのネットワークのうちの1つ以上の任意のネットワークを含んでよい。さらに、ネットワーク170は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター-バスネットワーク、ツリーまたは階層的ネットワークなどを含むネットワークトポロジのうちの任意の1つ以上を含んでもよいが、これらに限定されることはない。
サーバ150、160それぞれは、複数の電子機器110、120、130、140とネットワーク170を介して通信して命令、コード、ファイル、コンテンツ、サービスなどを提供する1つ以上のコンピュータ装置によって実現されてよい。例えば、サーバ150は、ネットワーク170を介して接続した複数の電子機器110、120、130、140にサービス(一例として、音声記録管理サービス(または、議事録管理サービス)、コンテンツ提供サービス、グループ通話サービス(または、音声会議サービス)、メッセージングサービス、メールサービス、ソーシャルネットワークサービス、、地図サービス、翻訳サービス、金融サービス、決済サービス、検索サービスなど)を提供するシステムであってよい。
図2は、本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。上述した複数の電子機器110、120、130、140それぞれやサーバ150、160それぞれは、図2に示したコンピュータ装置200によって実現されてよい。
このようなコンピュータ装置200は、図2に示すように、メモリ210、プロセッサ220、通信インタフェース230、および入力/出力インタフェース240を含んでよい。メモリ210は、コンピュータ読み取り可能な記録媒体であって、RAM(random access memory)、ROM(read only memory)、およびディスクドライブのような永続的大容量記録装置を含んでよい。ここで、ROMやディスクドライブのような永続的大容量記録装置は、メモリ210とは区分される別の永続的記録装置としてコンピュータ装置200に含まれてもよい。また、メモリ210には、オペレーティングシステムと、少なくとも1つのプログラムコードが記録されてよい。このようなソフトウェア構成要素は、メモリ210とは別のコンピュータ読み取り可能な記録媒体からメモリ210にロードされてよい。このような別のコンピュータ読み取り可能な記録媒体は、フロッピー(登録商標)ドライブ、ディスク、テープ、DVD/CD-ROMドライブ、メモリカードなどのコンピュータ読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータ読み取り可能な記録媒体ではない通信インタフェース230を通じてメモリ210にロードされてもよい。例えば、ソフトウェア構成要素は、ネットワーク170を介して受信されるファイルによってインストールされるコンピュータプログラムに基づいてコンピュータ装置200のメモリ210にロードされてよい。
プロセッサ220は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ210または通信インタフェース230によって、プロセッサ220に提供されてよい。例えば、プロセッサ220は、メモリ210のような記録装置に記録されたプログラムコードにしたがって受信される命令を実行するように構成されてよい。
通信インタフェース230は、ネットワーク170を介してコンピュータ装置200が他の装置(一例として、上述した記録装置)と互いに通信するための機能を提供してよい。一例として、コンピュータ装置200のプロセッサ220がメモリ210のような記録装置に記録されたプログラムコードにしたがって生成した要求や命令、データ、ファイルなどが、通信インタフェース230の制御にしたがってネットワーク170を介して他の装置に伝達されてよい。これとは逆に、他の装置からの信号や命令、データ、ファイルなどが、ネットワーク170を経てコンピュータ装置200の通信インタフェース230を通じてコンピュータ装置200に受信されてよい。通信インタフェース230を通じて受信された信号や命令、データなどは、プロセッサ220やメモリ210に伝達されてよく、ファイルなどは、コンピュータ装置200がさらに含むことのできる記録媒体(上述した永続的記録装置)に記録されてよい。
入力/出力インタフェース240は、入力/出力装置250とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、マウスなどの装置を、出力装置は、ディスプレイ、スピーカなどのような装置を含んでよい。他の例として、入力/出力インタフェース240は、タッチスクリーンのように入力と出力のための機能が1つに統合された装置とのインタフェースのための手段であってもよい。入力/出力装置250は、コンピュータ装置200と1つの装置で構成されてもよい。
また、他の実施形態において、コンピュータ装置200は、図2の構成要素よりも少ないか多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータ装置200は、上述した入力/出力装置250のうちの少なくとも一部を含むように実現されてもよいし、トランシーバやデータベースなどのような他の構成要素をさらに含んでもよい。
以下では、音声をテキストに変換した音声記録から似た発音の単語を含んで検索する方法およびシステムの具体的な実施形態について説明する。
最近は、多くの人が、会議などの多様な環境で音声機能を利用して音声を録音している。このとき、録音とは別に、重要な内容や付随する内容などをメモとして記録することが望まれる場合がある。
従来技術では、音声録音機能とメモ機能は個別の機能として提供されているので、音声録音ファイルとメモを同時に確認することは必ずしも容易ではなく、メモを見ながら内容を推測するに留まることが多かった。言い換えれば、音声とメモをそれぞれ別に確認せざるをえず、これにより、録音された内容の全体の流れを把握しながらメモを確認することは困難であった。
このような問題を解決するために、本実施形態では、録音された音声をテキストに変換した結果(以下、「音声記録」と称する)と、録音された音声と関連して作成されたメモとをマッチングして管理する音声記録管理サービスを提供する。
本実施形態は、音声録音およびテキスト変換を含む音声記録機能とメモ機能を統合された1つの機能として提供し、音声記録とメモをマッチングしてともに管理することを目的とする。
特に、本実施形態では、音声をテキストに変換するときに、音声認識エラーによって正確でない単語が認識される場合などを勘案した上で、音声記録から似た発音の単語を含む検索機能を提供することを目的とする。
図3は、本発明の一実施形態における、コンピュータ装置のプロセッサが含むことのできる構成要素の例を示したブロック図であり、図4は、本発明の一実施形態における、コンピュータ装置が実行することのできる方法の例を示したフローチャートである。
本実施形態に係るコンピュータ装置200は、クライアントを対象に、クライアント上にインストールされた専用アプリケーションやコンピュータ装置200と関連するウェブ/モバイルサイトへの接続により、音声記録管理サービスを提供してよい。コンピュータ装置200には、コンピュータによって実現された音声記録管理システムが構成されてよい。
コンピュータ装置200のプロセッサ220は、図4に係る音声記録検索方法を実行するための構成要素として、図3に示すように、音声記録管理部310、音声記録検索部320、および音声記録修正部330を含んでよい。実施形態によって、プロセッサ220の構成要素は、選択的にプロセッサ220に含まれても除外されてもよい。また、実施形態によって、プロセッサ220の構成要素は、プロセッサ220の機能の表現のために分離されても併合されてもよい。
このようなプロセッサ220およびプロセッサ220の構成要素は、図3の音声記録検索方法が含む段階410~430を実行するようにコンピュータ装置200を制御してよい。例えば、プロセッサ220およびプロセッサ220の構成要素は、メモリ210が含むオペレーティングシステムのコードと、少なくとも1つのプログラムのコードとによる命令(instruction)を実行するように実現されてよい。
ここで、プロセッサ220の構成要素は、コンピュータ装置200に記録されたプログラムコードが提供する命令にしたがってプロセッサ220によって実行される、互いに異なる機能(different functions)の表現であってよい。例えば、コンピュータ装置200が音声記録を提供するように上述した命令にしたがってコンピュータ装置200を制御するプロセッサ220の機能的表現として、音声記録管理部310が利用されてよい。
プロセッサ220は、コンピュータ装置200の制御と関連する命令がロードされたメモリ210から必要な命令を読み取ってよい。この場合、前記読み取られた命令は、以下で説明する段階410~430をプロセッサ220が実行するように制御するための命令を含んでよい。
以下で説明する段階410~430は、図4に示した順とは異なる順で実行されることもあるし、段階410~430のうちの一部が省略されたり追加の過程が含まれたりすることもある。
音声記録管理部310は、サービス提供のために音声をテキストに変換した音声記録を管理する役割を担う。音声記録管理部310は、クライアントから受信された音声をテキストに変換することによって音声記録を生成してよい。クライアント側のデバイスでは、録音機能を実行させて録音した音声ファイルを伝達してもよいし、デバイス上に記録された音声ファイルを伝達してもよい。音声記録管理部310は、周知の音声認識技術を利用して、話者による発声区間に該当する音声データをテキストに変換した結果である音声記録を生成してよい。このとき、音声記録管理部310は、音声記録を生成する過程において話者ごとに発声区間を分割する話者ダイアライゼーション技術を適用してよい。音声記録管理部310は、会議、インタビュー、取引、裁判などのように多くの話者が順不同に発声する状況で録音された音声ファイルの場合には、発声内容を話者ごとに分割して自動記録してよい。
また、音声記録管理部310は、クライアントが音声録音中または音声再生中に作成したメモをクライアントから受信し、該当の音声記録とマッチングして管理してよい。音声記録管理部310は、クライアントが音声を録音した時間を基準として、音声記録中または録音実行中に作成されたメモをマッチングしてよい。音声記録は、話者発声区間の基点を示すタイムスタンプを含んでよく、音声記録管理部310は、音声記録のタイムスタンプを基準として、該当の区間に作成されたメモをともに管理してよい。これと同じように、音声記録管理部310は、音声記録が存在する音声ファイルに対し、クライアントが音声を再生する時間を基準として、音声記録中および音声再生中に作成されたメモをマッチングして記録してよい。言い換えれば、音声記録管理部310は、特定の時点の発声区間に作成されたメモを該当の時点の音声記録とマッチングして管理してよい。
図4を参照すると、段階410で、音声記録管理部310は、クライアントから特定の音声記録に対する選択命令が受信される場合、該当の音声記録を提供してよい。このとき、音声記録管理部310は、タイムスタンプを基準として、音声記録に含まれた話者発声区間ごとにテキストを整列して表示してよい。
音声記録管理部310は、音声記録を提供するにあたり、該当の音声記録をマッチングされたメモと連係させて提供してよい。音声記録管理部310は、音声録音中または音声再生中に作成されたメモを音声記録とともに簡単かつ便利に確認できるように、音声記録とメモをデュアルビュー方式によって並べて表示してよい。デュアルビュー方式とは、音声記録とメモを二列に並べて表示する方式であって、これは、音声をテキストに変換した音声記録と該当の音声の録音時間や再生時間に作成されたメモを並べて表示することで対話記録を簡単に探索できるようにするインタフェースを提供するものである。音声記録管理部310は、音声記録とメモをデュアル表示する方式の他にも、クライアントの選択にしたがい、音声記録とメモのうちの1つを単独表示する方式で実現することも可能である。
段階420で、音声記録検索部320は、段階410で提供された音声記録に対する検索機能を提供してよい。このとき、音声記録検索部320は、音声記録から、検索語に対応する単語と、検索語と似た発音の単語を検索してよい。言い換えれば、音声記録検索部320は、音声記録から特定の単語を検索しようとする場合に、発音に基づいて類似する単語をともに探索する機能を提供してよい。
一例として、音声記録検索部320は、音声記録に含まれた単語のうちで検索語と一致する同義語はもちろん、検索語に対応する英文の同義語や外来語などを検索してよい。特に、音声記録検索部320は、検索語と似た発音で発話された単語として、単語分離基準、例えば、字素単位、語幹単位、ターム(term)単位などに基づく単語間の比較により、検索語と一定の割合以上の類似度をもつ類義語を検索してよい。
音声記録検索部320は、検索過程において、検索語との類似度を示す正確度によるフィルタリング機能を提供してよい。例えば、音声記録検索部320は、ユーザの要求にしたがい、検索語との類似度が90%以上の単語を検索対象に設定して検索結果を提供してよく、検索語との類似度が90%未満の単語は検索結果から除外してよい。
検索範囲としては、音声記録はもちろん、該当の音声記録とマッチングされたメモを含んでよく、音声記録検索部320は、音声記録とメモから、検索語に対応する単語と検索語と発音が似た単語を検索してよい。
また、音声記録検索部320は、検索過程において、単語の結合による検索を許容してよい。言い換えれば、複数の単語を利用した検索を支援してよい。単語単位の検索はもちろん、文章単位の検索の実現も可能である。
音声記録検索部320は、音声記録に対する検索結果を提供してよく、このとき、音声記録では、検索結果に含まれた単語を他の単語と区分して表示してよい。一例として、音声記録検索部320は、正確度により、検索結果に含まれた単語のディスプレイ要素(例えば、ハイライト色など)を異なるように表示してよい。例えば、検索語との類似度が90%以上である単語は青色で、検索語との類似度が90%未満~70%以上の単語は水色で、検索語との類似度が70%未満~50%以上の単語は灰色で強調表示してよい。
段階430で、音声記録修正部330は、検索結果に含まれた少なくとも1つの単語を他の単語に修正してよい。一例として、音声記録修正部330は、検索結果に含まれた単語を、検索語として入力された単語、あるいはユーザが新たに入力した単語に修正してよい。このとき、音声記録修正部330は、ユーザの選択にしたがい、検索結果に含まれた単語全体を一括で修正してもよいし、検索結果に含まれた単語の一部を選択的に修正してもよい。
したがって、プロセッサ220は、音声がテキストに変換された音声記録から検索語と似た発音で発話された単語を含んで検索する機能を提供することができ、検索された単語を他の単語に修正することができる修正機能もともに提供することができる。
図5~11は、本発明の一実施形態における、音声記録管理のためのユーザインタフェース画面の例を示した図である。
図5~11は、クライアント上にインストールされた専用アプリケーションやコンピュータ装置200と関連するウェブ/モバイルサイト上のインタフェース画面であって、音声記録管理画面500の例を示している。
図5~9は、音声記録を生成する過程を説明するための音声記録管理画面500の例を示している。
図5を参照すると、音声記録管理画面500は、音声記録管理サービスのホーム画面構成であって、サービス提供のための主要メニューリストが含まれてよく、一例として、音声記録をフォルダ単位で管理するためのフォルダリスト501が含まれてよい。また、音声記録管理画面500には、新たな音声記録を生成するための「新規ノート作成」メニュー502が含まれてよい。
プロセッサ220は、音声記録管理画面500から「新規ノート作成」メニュー502が選択される場合、図6に示すように、音声記録生成画面610を提供してよい。音声記録生成画面610には、音声記録のタイトルを入力するための「タイトル」入力欄611、参加者情報を入力するための「参加者」入力欄612、音声録音のための「録音開始」メニュー613、音声ファイルをアップロードするための「ファイルアップロード」メニュー614などが含まれてよい。言い換えれば、プロセッサ220は、音声記録を生成するために、録音機能とファイルアップロード機能を提供してよい。
プロセッサ220は、音声記録生成画面610から「録音開始」メニュー613が選択される場合、図7に示すように、音声録音画面720を提供してよい。音声録音画面720は、基本的な録音インタフェースであって、録音が実行された時間情報、録音を一時停止するための一時停止ボタン、録音を終了するための終了ボタンなどが含まれてよい。
特に、音声録音画面720には、録音中にメモを作成できるようにするメモインタフェース721と、録音中にブックマークを記録できるようにするブックマークインタフェース722が含まれてよい。このとき、メモインタフェース721には、テキストによる入力はもちろん、写真や動画撮影機能、ファイル添付機能などが含まれてよい。ユーザは、メモインタフェース721を利用することにより、録音中に該当の音声と関連する重要な内容や添付する内容などをメモとして作成することができ、メモの他にも、ブックマークインタフェース722を利用することにより、重要区間の録音時点にブックマークを記録することができる。録音実行時間を基準として録音中に入力されたメモやブックマークが記録されてよく、例えば、メモの作成が始まった時点の録音実行時間がメモ作成時間として記録されてよく、ブックマークが入力された時点の録音実行時間がブックマーク指定時間として記録されてよい。
音声記録に対するブックマークとしては、ブックマークインタフェース722を利用した手動設定を説明しているが、これに限定されてはならず、自動設定機能による実現も可能である。例えば、事前に定められた主要キーワード(一例として、音声記録のタイトルやタグなど)が発声される区間にブックマークが自動で記録されるようにしてよい。
プロセッサ220は、音声記録生成画面610から「ファイルアップロード」メニュー614が選択される場合、クライアントが音声ファイルを探索できるようにするためのファイル探索画面を提供し、ファイル選択画面から特定のファイルが選択されれば、図8に示すように、選択されたファイルをアップロードするファイルアップロード画面830を提供してよい。ファイルアップロード画面830には、選択されたファイルに関する情報(例えば、ファイル名、ファイルの長さなど)とともに、ファイルアップロードの進行状況を示すプログレスバー831が含まれてよい。
プロセッサ220は、音声録音画面720による音声録音が完了するか、ファイルアップロード画面830によるファイルアップロードが完了すれば、図9に示すように、音声をテキストに変換する音声記録生成過程の進行状況915を音声記録生成画面610に表示してよい。録音の場合は、録音と同時進行で音声ファイルがリアルタイムでアップロードされるか、あるいは録音の完了にともなって録音された音声ファイル全体が一括でアップロードされてよい。
プロセッサ220は、音声記録生成過程が完了した音声ファイルに対し、音声記録とメモ(および、ブックマーク)を時間的にマッチングしてともに提供してよい。
図10~11は、音声記録を提供する過程を説明するための音声記録管理画面500の例を示した図である。
プロセッサ220は、音声記録管理画面500に提供されたファイルリストから特定の音声記録が選択される場合、図10に示すように、該当の音声記録に対するビューモードに該当する音声記録詳細画面1000を提供してよい。
プロセッサ220は、音声記録詳細画面1000に音声記録領域1040とメモ領域1050を表示してよい。音声記録詳細画面1000には、音声記録生成過程で入力されたタイトル1041と参加者情報1042がともに提供されてよい。
プロセッサ220は、音声記録領域1040とメモ領域1050を、一画面上で区分される個別のタップページとして提供してよい。他の例としては、クライアントデバイスの画面比により、デュアルビュー方式によって音声記録領域1040とメモ領域1050をともに表示してもよい。
音声記録領域1040では、発声区間ごとに、該当の区間の音声を変換したテキストが表示されてよく、このとき、音声ファイルでテキストが発声される時点を基準にタイムスタンプが表示されてよい。メモ領域1050には、音声ファイルの録音中に作成されたメモが表示されてよく、各メモには、メモ作成が始まった時点の録音実行時間が該当のメモのタイムスタンプとして表示されてよい。
音声記録領域1040とメモ領域1050がデュアルビュー方式によって提供される場合は、音声記録領域1040とメモ領域1050を二列に並べて表示してよい。このとき、音声記録領域1040とメモ領域1050は、タイムスタンプを基準にマッチングさせて表示してよい。例えば、話者1が発声した00分02秒時点に作成されたメモは、該当の発声区間のテキストと同一線上に表示されるようにしてよい。
音声記録領域1040とメモ領域1050が個別のタップページとして提供される場合は、音声記録領域1040とメモ領域1050を、タイムスタンプを基準とした同一線上に表示するのではなく、単にそれぞれの時間順にしたがって整列することも可能である。
音声記録詳細画面1000には、検索のための「検索」メニュー1001が含まれてよい。プロセッサ220は、音声記録詳細画面1000から「検索」メニュー1001が選択される場合、図11に示すように、該当の音声記録に対する検索画面1160を提供してよい。
検索画面1160には、検索語を入力するための検索語入力欄1161が含まれてよく、プロセッサ220は、音声記録詳細画面1000上の音声記録から検索語に対応する単語と検索語と似た発音の単語とを検索し、この検索結果を表示してよい。
音声をテキストに変換するときに、発音によって互いに異なる単語として認識される場合があり、このような場合には検索に困難が生じる。例えば、2人が同じ単語として「デモサイト」を発話したとしても、ある人の音声では「デモサイト」が正確に認識される反面、他の人の音声では「対面サイト」(韓国語読み:テミョンサイト)と認識されることがある。プロセッサ220は、検索語として「デモサイト」が入力される場合、音声記録から「デモサイト」はもちろん、これと似た発音の単語である「対面サイト」もともに検索結果として提供してよい。
プロセッサ220は、検索画面1160で、検索語に対する検索結果に含まれた単語をハイライト表示してよい。このとき、検索結果に含まれた単語の正確度により、各単語のハイライト色を異なるように表示してよい。検索結果のうち、検索語と正確に一致する単語には第1色(例えば、青色)ハイライト1162を、検索語とは一致しないが類似する発音の単語には第1色とは異なる第2色(例えば、水色)ハイライト1163を適用して表示してよい。
プロセッサ220は、検索結果に対するフィルタリング条件が設定されている場合、例えば、検索語との類似度が90%以上の単語が検索条件として設定された場合、該当の条件を満たす単語だけを検索結果として表示してよい。
プロセッサ220は、検索語に対して音声記録領域1040とメモ領域1050をともに検索してもよいし、他の例としては、ユーザの設定にしたがい、音声記録領域1040とメモ領域1050のうちの1つだけを選択的に検索してもよい。
プロセッサ220は、検索語に対する検索機能の他にも、検索結果に含まれた単語を検索語に修正する機能をともに提供してよい。検索語「デモサイト」と類似する発音である「対面サイト」を探索した後、「対面サイト」を「デモサイト」に修正してよい。修正機能では、検索された単語を他の単語に修正するときに、検索結果内の単語全体を一度に修正するか、ユーザ選択にしたがって一部の単語だけを選択的に修正するインタフェースを提供してよい。
このように、本発明の実施形態によると、音声をテキストに変換した音声記録から単語を検索するときに、似た発音の単語を含んで検索することにより、音声記録の単語検索の性能を高めることができる。また、本発明の実施形態によると、発音に基づく検索結果に含まれた単語を検索正確度によってフィルタリングする機能、発音に基づく検索結果に含まれた単語を他の単語に修正する機能などを提供することにより、サービスの利用に対するユーザの利便性を高めることができる。
上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、および/またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、プロセッサ、コントローラ、ALU(arithmetic logic unit)、デジタル信号プロセッサ、マイクロコンピュータ、FPGA(field programmable gate array)、PLU(programmable logic unit)、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、1つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム(OS)およびOS上で実行される1つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および生成してもよい。理解の便宜のために、1つの処理装置が使用されるとして説明される場合もあるが、当業者であれば、処理装置が複数個の処理要素および/または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは1つのプロセッサおよび1つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。
ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの1つ以上の組み合わせを含んでもよく、思うままに動作するように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび/またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、コンピュータ記録媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、1つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。
実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。ここで、媒体は、コンピュータ実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク、および磁気テープのような磁気媒体、CD-ROMおよびDVDのような光媒体、フロプティカルディスク(floptical disk)のような光磁気媒体、およびROM、RAM、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアやその他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。
以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ/あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって対置されたり置換されたとしても、適切な結果を達成することができる。
したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。
220:プロセッサ
310:音声記録管理部
320:音声記録検索部
330:音声記録修正部

Claims (20)

  1. コンピュータ装置が実行する音声記録検索方法であって、
    前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも1つのプロセッサを含み、
    前記音声記録検索方法は、
    前記少なくとも1つのプロセッサにより、音声をテキストに変換することによって生成された音声記録から検索語に対応する単語を検索し、検索結果を表示する段階
    を含み、前記検索する段階は、前記音声記録から前記検索語と似た発音の単語である類似単語を含んで検索し、前記類似単語が前記検索語に修正された検索結果を表示すること
    を特徴とする、音声記録検索方法。
  2. 前記検索する段階は、
    単語が分離される単位に基づく単語間の比較により、前記検索語と一定の割合以上の類似度をもつ単語を前記類似単語として検索すること
    を特徴とする、請求項1に記載の音声記録検索方法。
  3. 前記検索する段階は、
    字素単位、語幹単位、ターム単位のうちの少なくとも1つの単位に基づく単語間の比較により、前記検索語と一定の割合以上の類似度をもつ単語を前記類似単語として検索すること
    を特徴とする、請求項1に記載の音声記録検索方法。
  4. 前記音声記録検索方法は、
    前記少なくとも1つのプロセッサにより、検索結果に含まれた少なくとも1つの単語を他の単語に修正する段階
    をさらに含む、請求項1に記載の音声記録検索方法。
  5. 前記修正する段階は、
    前記検索結果に含まれた単語全体を一度に修正する機能または前記検索結果に含まれた単語の一部を選択して修正する機能を利用して、前記他の単語に修正すること
    を特徴とする、請求項4に記載の音声記録検索方法。
  6. 前記検索する段階は、
    検索結果に含まれた単語のディスプレイ要素を前記検索語との類似度によって異なるように表示する段階
    を含む、請求項1に記載の音声記録検索方法。
  7. 前記検索する段階は、
    前記検索語との類似度に基づき、検索結果に含まれた単語をフィルタリングする段階
    を含む、請求項1に記載の音声記録検索方法。
  8. 前記音声記録は,前記音声の録音中または再生中に作成されたメモとマッチングされて管理され、
    前記検索する段階は、
    前記音声記録と前記メモを検索範囲として前記類似単語を検索すること
    を特徴とする、請求項1に記載の音声記録検索方法。
  9. 前記音声記録検索方法は、
    前記少なくとも1つのプロセッサにより、前記音声記録を前記音声の録音中または再生中に作成されたメモと連係させて提供する段階
    をさらに含む、請求項1に記載の音声記録検索方法。
  10. 前記提供する段階は、
    デュアルビュー方式によって前記音声記録と前記メモをともに表示する段階
    を含む、請求項9に記載の音声記録検索方法。
  11. 請求項1~10のうちのいずれか一項に記載の音声記録検索方法をコンピュータに実行させるためのコンピュータプログラム。
  12. コンピュータ装置であって、
    メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも1つのプロセッサ
    を含み、
    前記少なくとも1つのプロセッサは、
    音声をテキストに変換することによって生成された音声記録から検索語に対応する単語を検索し、検索結果を表示する音声記録検索部
    を含み、前記音声記録検索部は、前記音声記録から前記検索語と似た発音の単語である類似単語を含んで検索し、前記類似単語が前記検索語に修正された検索結果を表示すること
    を特徴とする、コンピュータ装置。
  13. 前記音声記録検索部は、
    単語が分離される単位を利用した単語間の比較により、前記検索語と一定の割合以上の類似度をもつ単語を前記類似単語として検索すること
    を特徴とする、請求項12に記載のコンピュータ装置。
  14. 前記音声記録検索部は、
    字素単位、語幹単位、ターム単位のうちの少なくとも1つの単位に基づく単語間の比較により、前記検索語と一定の割合以上の類似度をもつ単語を前記類似単語として検索すること
    を特徴とする、請求項12に記載のコンピュータ装置。
  15. 前記少なくとも1つのプロセッサは、
    検索結果に含まれた少なくとも1つの単語を他の単語に修正する音声記録修正部
    をさらに含む、請求項12に記載のコンピュータ装置。
  16. 前記音声記録修正部は、
    前記検索結果に含まれた単語全体を一度に修正する機能または前記検索結果に含まれた単語の一部を選択して修正する機能を利用して、前記他の単語に修正すること
    を特徴とする、請求項15に記載のコンピュータ装置。
  17. 前記音声記録検索部は、
    検索結果に含まれた単語のディスプレイ要素を前記検索語との類似度によって異なるように表示すること
    を特徴とする、請求項12に記載のコンピュータ装置。
  18. 前記音声記録検索部は、
    前記検索語との類似度に基づき、検索結果に含まれた単語をフィルタリングすること
    を特徴とする、請求項12に記載のコンピュータ装置。
  19. 前記音声記録は、前記音声の録音中または再生中に作成されたメモとマッチングされて管理され、
    前記音声記録検索部は、
    前記音声記録と前記メモを検索範囲として前記類似単語を検索すること
    を特徴とする、請求項12に記載のコンピュータ装置。
  20. 前記少なくとも1つのプロセッサは、
    前記音声記録を前記音声の録音中または再生中に作成されたメモと連係させて提供する音声記録管理部
    をさらに含み、
    前記音声記録管理部は、
    デュアルビュー方式によって前記音声記録と前記メモをともに提供すること
    を特徴とする、請求項12に記載のコンピュータ装置。
JP2021018726A 2020-09-29 2021-02-09 音声記録検索方法、コンピュータ装置およびコンピュータプログラム Active JP7183316B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020200127519A KR102503586B1 (ko) 2020-09-29 2020-09-29 음성을 텍스트로 변환한 음성 기록에서 유사 발음의 단어를 포함하여 검색하는 방법, 시스템, 및 컴퓨터 판독가능한 기록 매체
KR10-2020-0127519 2020-09-29

Publications (2)

Publication Number Publication Date
JP2022056307A JP2022056307A (ja) 2022-04-08
JP7183316B2 true JP7183316B2 (ja) 2022-12-05

Family

ID=80998774

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021018726A Active JP7183316B2 (ja) 2020-09-29 2021-02-09 音声記録検索方法、コンピュータ装置およびコンピュータプログラム

Country Status (2)

Country Link
JP (1) JP7183316B2 (ja)
KR (2) KR102503586B1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013092912A (ja) 2011-10-26 2013-05-16 Sony Corp 情報処理装置、情報処理方法、並びにプログラム
US20180068657A1 (en) 2016-09-07 2018-03-08 Microsoft Technology Licensing, Llc. Ambiguity Resolving Conversational Understanding System

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5311348B2 (ja) * 2009-09-03 2013-10-09 株式会社eVOICE 音声データ内の音声キーワード照合システム、その方法及び音声データ内の音声キーワード照合プログラム
JP5669707B2 (ja) * 2011-09-30 2015-02-12 Kddi株式会社 類似文書検索装置
KR102042265B1 (ko) * 2012-03-30 2019-11-08 엘지전자 주식회사 이동 단말기
KR20150024188A (ko) * 2013-08-26 2015-03-06 삼성전자주식회사 음성 데이터에 대응하는 문자 데이터를 변경하는 방법 및 이를 위한 전자 장치
KR102144345B1 (ko) * 2018-09-12 2020-08-13 주식회사 한글과컴퓨터 사용자 정의 단어에 기초하여 음성 인식 결과의 보정 처리를 수행하는 음성 인식 처리 장치 및 그 동작 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013092912A (ja) 2011-10-26 2013-05-16 Sony Corp 情報処理装置、情報処理方法、並びにプログラム
US20180068657A1 (en) 2016-09-07 2018-03-08 Microsoft Technology Licensing, Llc. Ambiguity Resolving Conversational Understanding System

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
セルコ ジョー,プログラマのためのSQL 第4版,第1版,日本,株式会社翔泳社,2013年07月05日,pp. 249--256
山田井 ユウキ,iPhone 10周年記念企画 PART 2 2016-2017からiPhoneアプリを厳選! 使える!新定番アプリ あなたのiPhoneライフを彩る秀逸作品が勢揃い,Mac Fan,日本,株式会社マイナビ出版,2017年11月01日,第25巻 第11号 通巻417号,p. 133
岡田 充弘,結果もスピードも手に入る 神速スマホ仕事術 ,第1版,日本,株式会社すばる舎,2019年08月17日,pp. 88--89

Also Published As

Publication number Publication date
KR102503586B1 (ko) 2023-02-24
JP2022056307A (ja) 2022-04-08
KR20230034246A (ko) 2023-03-09
KR20220043753A (ko) 2022-04-05

Similar Documents

Publication Publication Date Title
US9824150B2 (en) Systems and methods for providing information discovery and retrieval
US8620667B2 (en) Flexible speech-activated command and control
US8719027B2 (en) Name synthesis
KR20140047633A (ko) 컨텍스트 정보를 이용한 음성 인식 복구
TWI807428B (zh) 一同管理與語音檔有關的文本轉換記錄和備忘錄的方法、系統及電腦可讀記錄介質
US20110119590A1 (en) System and method for providing a speech controlled personal electronic book system
US20200403816A1 (en) Utilizing volume-based speaker attribution to associate meeting attendees with digital meeting content
JP7254842B2 (ja) アプリとウェブサイトの連動によって音声ファイルに対するメモを作成する方法、システム、およびコンピュータ読み取り可能な記録媒体
JP7183316B2 (ja) 音声記録検索方法、コンピュータ装置およびコンピュータプログラム
KR102437752B1 (ko) 인공지능 디바이스와 연동하여 음성 기록을 관리하는 방법, 시스템, 및 컴퓨터 판독가능한 기록 매체
US11783819B2 (en) Automated context-specific speech-to-text transcriptions
JP7166370B2 (ja) 音声記録のための音声認識率を向上させる方法、システム、およびコンピュータ読み取り可能な記録媒体
JP7166373B2 (ja) 音声ファイルに対するテキスト変換記録とメモをともに管理する方法、システム、およびコンピュータ読み取り可能な記録媒体
JP7128222B2 (ja) 映像コンテンツに対する合成音のリアルタイム生成を基盤としたコンテンツ編集支援方法およびシステム
KR102353797B1 (ko) 영상 컨텐츠에 대한 합성음 실시간 생성에 기반한 컨텐츠 편집 지원 방법 및 시스템
US20230153061A1 (en) Hierarchical Context Specific Actions from Ambient Speech

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210209

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20210414

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20210412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221122

R150 Certificate of patent or registration of utility model

Ref document number: 7183316

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350