JP2023500879A

JP2023500879A - 人工知能に基づく有害コンテンツ遮断装置

Info

Publication number: JP2023500879A
Application number: JP2022525728A
Authority: JP
Inventors: ソクキム，ミン
Original assignee: Individual
Current assignee: Individual
Priority date: 2019-10-31
Filing date: 2020-10-21
Publication date: 2023-01-11
Also published as: CN114514518A; EP4053781A4; EP4053781A1; US20220398314A1; WO2021085921A1; KR102259730B1; KR20210051725A

Abstract

本発明は人工知能に基づく有害コンテンツ遮断装置に関するものであり、有害ＵＲＬリスト及び複数の有害性判断モデルファイルを備えた有害性判断部を含むライブラリサーバーと、前記ライブラリサーバーの前記有害性判断部から有害ＵＲＬリスト及び一つ以上の有害性判断モデルファイルをダウンロードし、コンテンツを要請して実行するユーザー端末とを含み、前記ユーザー端末は、前記ライブラリサーバーからダウンロードした前記有害ＵＲＬリストに基づいて前記コンテンツの有害ＵＲＬ登録を検査し、有害ＵＲＬとして登録されていない場合、前記ライブラリサーバーからダウンロードした前記有害性判断モデルファイルに基づいて前記コンテンツの有害性有無を判断することを特徴とする。【選択図】図１

Description

本発明は人工知能に基づく有害コンテンツ遮断技術に関し、より詳しくはインターネットに掲載される多様なコンテンツのうち有害コンテンツを早くて正確に検査してユーザーの要求に合う安全なコンテンツを提供することができる人工知能に基づく有害コンテンツ遮断装置に関する。

インターネット普及が活発になり、ユーザーの大部分のインターネット使用頻度及び使用能力が増加するのに伴い、インターネットを介して有害コンテンツに露出される可能性が高くなっている。

通常有害コンテンツとは、性行為を描写するアダルト物と、暴力性がひどい暴力物とがある。このような有害コンテンツはインターネットを介してアダルト認証を通過すれば老若男女の誰でも容易に用いることができる実情であり、アダルト認証によって未成年者の出入を防止していても、親または他の大人の情報を用いて容易にアダルト認証を通過することができる。

近年、各種の媒体を介して有害コンテンツが多様な年齢層に無分別に露出されている。特に、眼力の足りない児童にまで有害コンテンツが露出されているので、極めて心配になる状況である。

よって、近来には有害コンテンツを自動で分析して遮断することができる技術が開発されている。例えば、ＵＲＩ（ＵｎｉｆｏｒｍＲｅｓｏｕｒｃｅＩｄｅｎｔｉｆｉｅｒ）やネットワークアドレスに基づく遮断、淫乱物情報ＤＢを用いた遮断、テキスト分析による探知、及び映像分析による探知などがある。

しかし、既存の有害コンテンツ検査及び遮断方式はユーザーの要求を反映することができず、一律的な基準で有害コンテンツを判定して無条件で遮断する問題点があった。

韓国登録特許第１０－１０２７６１７号公報韓国公開特許第１０－２０１４－００２５１１３号公報

本発明の一実施例は、インターネットに掲載される多様なコンテンツのうち有害コンテンツを早くて正確に検査してユーザー要求に合う安全なコンテンツを提供することができる人工知能に基づく有害コンテンツ遮断装置を提供しようとする。

本発明の一実施例は、有害ＵＲＬリストが保存されるローカルＤＢを構成し、実時間でオフライン状態でローカルＤＢに保存された有害ＵＲＬリストと対照して有害コンテンツを検査することができる人工知能に基づく有害コンテンツ遮断装置を提供しようとする。

本発明の一実施例は、有害性判断モデルをカテゴリー別に細分化したモデルファイルから構成してユーザー基準の選別的な検査を遂行することにより、検査所要時間を減らすことができ、個人性向に合う個人別コンテンツ遮断を遂行することができる人工知能に基づく有害コンテンツ遮断装置を提供しようとする。

実施例による人工知能に基づく有害コンテンツ遮断装置は、有害ＵＲＬリスト及び複数の有害性判断モデルファイルを備えた有害性判断部を含むライブラリサーバーと、前記ライブラリサーバーの前記有害性判断部から有害ＵＲＬリスト及び一つ以上の有害性判断モデルファイルをダウンロードし、コンテンツを要請して実行するユーザー端末とを含み、前記ユーザー端末は、前記ライブラリサーバーからダウンロードした前記有害ＵＲＬリストに基づいて前記コンテンツの有害ＵＲＬ登録を検査し、有害ＵＲＬとして登録されていない場合、前記ライブラリサーバーからダウンロードした前記有害性判断モデルファイルに基づいて前記コンテンツの有害性有無を判断することを特徴とする。

前記ユーザー端末は、ユーザーが要請するコンテンツを受信するコンテンツ受信部と、前記有害ＵＲＬリストを保存するローカルＤＢ及び前記有害性判断モデルファイルを保存するローカルライブラリを含み、前記コンテンツ受信部で受信したコンテンツの有害性有無を判断する有害性判断部と、前記コンテンツ受信部に受信されたコンテンツのうち有害性判断基準を満たすコンテンツを表示するコンテンツ表示部とを含むことができる。

前記有害性判断部は、前記ライブラリサーバーから提供される有害ＵＲＬリストにユーザー基準を含む有害コンテンツのＵＲＬを保存し、個人化した有害ＵＲＬリストでローカルＤＢを構成することができる。

前記有害性判断部は、ユーザーが要請したコンテンツのＵＲＬを前記ローカルＤＢに保存された有害ＵＲＬリストと対照して有害ＵＲＬ登録有無を検査し、有害ＵＲＬとして登録された場合には、前記コンテンツ表示部を介してＵＲＬ検査結果を表示し、前記コンテンツを遮断するかユーザーの要求したコンテンツに代替して表示することができる。

前記有害性判断部は、前記有害ＵＲＬとして登録されていない場合、前記ローカルライブラリに保存された有害性判断モデルを用いて前記コンテンツの有害性有無を検査し、多面検証によってエラーを防止することができる。

前記ローカルライブラリは前記ライブラリサーバーから実時間でアップデートされるかユーザー要請によって前記ライブラリサーバーから提供されるカテゴリー別に細分化した複数の有害性判断モデルファイルから構成され、前記複数の有害性判断モデルファイルのうちユーザーによって選択されたいずれか一つの有害性判断モデルファイルが基本モデルに設定されることができる。

前記有害性判断部は、アダルト及び淫乱物カテゴリーの有害性判断を基本的に検査し、タグ及び文字列検査、ユーザーが選択したカテゴリー及び設定値による検査を追加して有害性判断を検証することができる。

実施例による人工知能に基づく有害コンテンツ遮断装置は、前記有害ＵＲＬとして登録されていない場合、前記コンテンツ受信部で前記コンテンツをローディングし、前記コンテンツのローディング中に前記コンテンツ出力部でイメージまたは広告映像を表示し、前記有害性コンテンツと判断された場合、前記有害性判断部で前記コンテンツのＵＲＬを前記ローカルＤＢに有害ＵＲＬとして登録し、前記コンテンツ出力部でユーザー設定によって有害性コンテンツの文、イメージまたは動画などを他の文、イメージまたは動画に純化して表示することができる。

開示の技術は次の効果を有することができる。ただ、特定の実施例が次の効果を全部含まなければならないとか次の効果のみを含まなければならないという意味ではないので、開示の技術の権利範囲はこれによって限定されるものと理解されてはいけないであろう。

本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置は、人工知能を活用して、インターネットに掲載される多様なコンテンツのうち有害コンテンツを早くて正確に検査することができ、ユーザー要求に合う安全なコンテンツを提供することができる。

本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置は、有害ＵＲＬリストが保存されるローカルＤＢを構成し、実時間でオンラインだけでなくオフライン状態でもローカルＤＢに保存された有害ＵＲＬリストと対照して有害コンテンツを検査することができ、多面検証プロセスによって検査エラーを最小化することができる。

本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置は、有害性判断モデルをカテゴリー別に細分化したモデルファイルから構成してユーザー基準の選別的な検査を遂行することにより、検査所要時間を減らすことができ、ユーザーの性向または管理者の基準に合うコンテンツ遮断を遂行するか純化した内容に代替することができる。

本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置を概略的に示すブロック図である。本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置の基本構成を示すブロック図である。本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置のユーザー端末の構成を示すブロック図である。本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置のライブラリサーバーの構成を示すブロック図である。本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置の駆動過程を示すフローチャートである。本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置の駆動過程を示すフローチャートである。

本発明についての説明は構造的乃至機能的説明のための実施例に過ぎないので、本発明の権利範囲は本文で説明する実施例によって限定されるものと解釈されてはいけない。すなわち、実施例は多様な変更が可能であり、さまざまな形態を有することができるので、本発明の権利範囲は技術的思想を実現することができる均等物を含むものと理解されなければならない。また、本発明で提示する目的または効果は特定の実施例がこれを全部含まなければならないとかそのような効果のみを含まなければならないという意味ではないので、本発明の権利範囲はこれによって限定されるものと理解されてはいけないであろう。

一方、本出願で敍述する用語の意味は次のように理解されなければならないであろう。

「第１」、「第２」などの用語は一構成要素を他の構成要素と区別するためのものであり、これらの用語によって権利範囲が限定されてはいけない。例えば、第１構成要素は第２構成要素と言うことができ、同様に第２構成要素も第１構成要素と言うことができる。

ある構成要素が他の構成要素に「連結」されていると言及するときには、その他の構成要素に直接的に連結されることもできるが、中間に他の構成要素が存在することもあると理解されなければならないであろう。一方、ある構成要素が他の構成要素に「直接連結」されていると言及するときには、中間に他の構成要素が存在しないものと理解されなければならないであろう。一方、構成要素との関係を説明する他の表現、すなわち［～の間に］と「すぐ～の間に」または「～に隣り合う」と「～に直接隣り合う」なども同様に解釈されなければならない。

単数の表現は、文脈上明白に他に指示しない限り、複数の表現を含むものと理解されなければならなく、「含む」または「有する」などの用語は実施される特徴、数字、段階、動作、構成要素、部分品またはこれらの組合せが存在することを指定しようとするものであり、一つまたはそれ以上の他の特徴、数字、段階、動作、構成要素、部分品またはこれらの組合せなどの存在または付加の可能性を予め排除しないものと理解されなければならない。

各段階で識別符号（例えば、ａ、ｂ、ｃなど）は説明の便宜のために使われるものであり、識別符号は各段階の手順を説明するものではなく、各段階は、文脈上明白に特定の手順を記載しない限り、明記された手順と異なるように遂行されることができる。すなわち、各段階は明記された手順と同じに遂行されることもでき、実質的に同時に遂行されることもでき、反対の順に遂行されることもできる。

本発明はコンピュータが読める記録媒体に記録されたコンピュータ可読のコードによって具現されることができ、コンピュータ可読の記録媒体はコンピュータシステムによって読められるデータが保存されるすべての種類の記録装置を含む。コンピュータ可読の記録媒体の例としては、ＲＯＭ、ＲＡＭ、ＣＤ－ＲＯＭ、磁気テープ、フロッピーディスク、光データ記録装置などがある。また、コンピュータ可読の記録媒体はネットワークを介して連結されたコンピュータシステムに分散され、分散方式でコンピュータが読めるコードが保存されて実行されることができる。

ここで使うすべての用語は、他に定義しない限り、本発明が属する分野で通常の知識を有する者によって一般的に理解されるものと同じ意味を有する。一般的に使われる辞書に定義されている用語は関連技術の文脈上で有する意味と一致するものと解釈されなければならなく、この出願で明白に定義しない限り、理想的にまたは過度に形式的な意味を有するものと解釈されることができない。

図１は本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置を概略的に示すブロック図である。

図１を参照すると、人工知能に基づく有害コンテンツ遮断装置１００は、ユーザー端末１１０と、ライブラリサーバー１２０とを含む。

まず、ユーザー端末１１０は有無線ネットワークを介してライブラリサーバー１２０と連結されたコンピュータ装置に相当する。例えば、デスクトップ型ＰＣ、ノートブック型ＰＣ、タブレット型ＰＣまたはスマートフォンによって具現されることができる。ユーザーはユーザー端末１１０を介してオンライン掲示板などにアップロードされた新しい文、イメージまたは動画などの多様なコンテンツを購読することができる。

ライブラリサーバー１２０は、ユーザー端末１１０からコンテンツの要請を受ければ、ＵＲＬ検査を実施した後、当該コンテンツの有害性有無を判断する有害性判断部１２５を含む。有害性判断部１２５は有害ＵＲＬリスト及び複数の有害性判断モデルファイルを保有している。有害性判断部１２５は有害ＵＲＬリスト及び複数の有害性判断モデルファイルをユーザー端末１１０に伝達してユーザー端末１１０の購読コンテンツの有害性有無を実時間で判断する。

図２は本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置の基本構成を示すブロック図である。

図２を参照すると、インターネット、放送、ケーブルＴＶなどのコンテンツ２１０がスマートプロテクター２３０に入力され、スマートプロテクター２３０はライブラリサーバー２２０から伝達された有害性判断プログラムによって、入力されたコンテンツの有害性有無を判断する。有害性有無判断の結果、有害でないと判断されたコンテンツのみを複数の端末機２４０を介して出力する。スマートプロテクター２３０はコンピュータまたは各種のデバイス機器から構成される複数の端末機２４０のそれぞれに組み込まれて運営される。

図３は本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置のユーザー端末の構成を示すブロック図である。

図３を参照すると、ユーザー端末１１０は、有害性判断部３１０、コンテンツ受信部３２０、コンテンツ表示部３３０、及び制御部３４０を含む。

有害性判断部３１０にはライブラリサーバー１２０からダウンロードされた有害性判断用プログラムが組み込まれる。有害性判断用プログラムは人工知能機能が含まれたプラグイン、エクステンション、クラス、独立プログラムなどに多様に作られることができる。有害性判断部３１０は、有害ＵＲＬリストが保存されるローカルＤＢ３１１と、一つ以上の有害性判断モデルファイルが保存されるローカルライブラリ３１３とを含むことができる。

一実施例で、ローカルＤＢ３１１は、有害性判断用プログラムを最初に組み込むときにまたはユーザー要請に応じてライブラリサーバー１２０から有害ＵＲＬリストを受けて保存することができる。ここで、ローカルＤＢ３１１は特定の有害サイトアドレスリストとともにユーザーが訪問した記録に基づいて有害コンテンツが見つかったサイトアドレスを含むユーザー別有害ＵＲＬリストを保存することができる。これにより、有害ＵＲＬリストのネットワーク伝送によるネットワークリソースを減らすことができ、ライブラリサーバー１２０の負荷及び容量を減らすことができる。また、有害ＵＲＬリストが逆に共有されることを防ぐことができる。

一実施例で、ローカルライブラリ３１３は、ライブラリサーバー１２０からそれぞれの有害カテゴリー別にモジュール化した有害性判断モデルファイルを受けて保存することができる。ここで、ローカルライブラリ３１３はカテゴリー別有害性判断モデルファイルを実時間でまたはユーザー要請に応じてアップデートすることができる。

コンテンツ受信部３２０は、ライブラリサーバー１２０からユーザーが要請したコンテンツを受信することができる。ここで、有害性判断部３１０は、ローカルＤＢ３１１に保存された有害ＵＲＬリストに基づいてユーザーがコンテンツを要請したサイトのＵＲＬ検査を実施することができる。コンテンツ受信部３２０は、有害ＵＲＬとして登録されたサイトではない場合、当該コンテンツを受信することができる。

コンテンツ表示部３３０は、コンテンツ受信部３２０からコンテンツを受信するうちと受信されたコンテンツの有害性を検査するうち、ユーザーが退屈さを感じないようにユーザーの興味及び楽しさをひくことができる文、イメージ、広告、動画などの絶え間のないサービスを提供することができる。コンテンツ表示部３３０は、有害性判断基準を通過したコンテンツをユーザーが購読することができるように画面に表示することができる。ここで、有害性判断部３１０は、ローカルライブラリ３１３に保存されたカテゴリー別有害性判断モデルファイルに基づいてユーザーの基準に合うコンテンツ有害性有無を判断することができる。コンテンツ表示部３３０は、ユーザーの有害性判断基準を通過したコンテンツに対しては正常に表示し、ユーザーの有害性判断基準を通過することができなかったコンテンツに対しては他のコンテンツに変更して表示することができる。例えば、禁止された用語を順化した用語に変更するか、有害性のあるイメージを仄かに処理するなどの過程によってコンテンツを表示することができる。

制御部３４０は、ユーザー端末１１０で人工知能を活用してインターネットに掲載されている多様なコンテンツのうちユーザーが要請したコンテンツを受信して有害性を検査し、ユーザーの要求に合う安全なコンテンツを示すように、有害性判断部３１０、コンテンツ受信部３２０及びコンテンツ表示部３３０の動作を全般的に制御し、これらの間の制御及びデータ流れを管理することができる。

図４は本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置のライブラリサーバーの構成を示すブロック図である。

図４を参照すると、ライブラリサーバー１２０は、有害性判断部４１０及びコンテンツ提供部４２０を含む。

有害性判断部４１０は、有害ＵＲＬリスト４１１及び複数の有害性判断モデルファイル４１３を保有することができ、ユーザー端末１１０からコンテンツの要請を受ければ、オンライン状態で要請したコンテンツの有害性有無を判断することができる。一実施例で、有害ＵＲＬリスト４１１には放送通信審議委員会で提供した有害サイトアドレスリストが保存されることができる。複数の有害性判断モデルファイル５１０はカテゴリー別に区分されて備えられる。例えば、大人、暴力、賭博、恐怖、個人的に嫌がる動物、嫌悪感などの多様なカテゴリーに区分されることができる。有害性判断モデルファイル４１３をカテゴリー別に区分してモジュール化することにより、使用別、企業別のモデルを容易に構築することができる。複数の有害性判断モデルファイル４１３をそれぞれダウンロードして判断を遂行することができるので、ダウンロード時間を減らすことができる。また、個人別設定によって不必要なカテゴリーに対しては判断しなくても良いので、ユーザー端末１１０から要請したコンテンツの検査時間も減らすことができる。

そして、ライブラリサーバーには複数の有害性判断モデルファイル４１３の中で選択された一つの有害性判断モデルファイル４１３が基本モデルに設定されており、基本モデルに設定された有害性判断モデルファイル４１３は別途のダウンロードなしに検査を遂行することができる。また、基本モデルに設定された有害性判断モデルファイル４１３はオフライン状態及びオンライン状態で共に検査可能である。

コンテンツ提供部４２０は、有害性判断基準を通過したコンテンツと有害性判断基準を通過することができなかったコンテンツとを共にユーザーに提供することができる。

図５及び図６は本発明の一実施例による人工知能に基づく有害コンテンツ遮断装置の駆動過程を示す図である。

図５はユーザー端末１１０のコンテンツ要請による有害コンテンツ検査過程を示す図である。

まず、ユーザーはユーザー端末１１０を介してライブラリサーバー１２０にコンテンツを要請することができる（段階Ｓ５１０）。一実施例で、ユーザー端末１１０はウェブブラウザ、アプリ、ＩｏＴデバイスなどを介して所望のコンテンツを要請することができる。ここで、要請可能なコンテンツは、ウェブサイト、イメージ、動画、スマートフォンＳＭＳなどを多様に含むことができる。ユーザー端末１１０でコンテンツを要請すれば、ライブラリサーバー１２０を介して有害性判断プログラムがユーザー端末１１０にダウンロードされることができる。また、有害ＵＲＬリスト及びカテゴリー別有害性判断モデルファイルがダウンロードされることができる。ここで、カテゴリー別に細分化した複数の有害性判断モデルファイルのうち所望のカテゴリーのみをダウンロードすることによってダウンロード時間を節減することができる。

インターネットに基づく有害コンテンツ遮断装置１００は、ユーザーが要請したコンテンツに対して優先的にＵＲＬ検査を実施して有害ＵＲＬ登録有無を判断することができる（段階Ｓ５２０）。一実施例で、ユーザー端末１１０は、有害性判断部３１０によってローカルＤＢ３１１に保存された有害ＵＲＬリストと対照してオフライン状態で実時間でＵＲＬ検査を実施することができる。ここで、ローカルＤＢ３１１にはライブラリサーバー１２０で提供される公共有害ＵＲＬリストとユーザー個人性向によって登録された個人有害ＵＲＬリストとが一緒に保存されるので、有害性判断部３１０はユーザーの基準を満たすＵＲＬ検査を実施することができる。もちろん、ユーザー端末１１０は、ライブラリサーバー１２０の有害性判断部４１０によって有害ＵＲＬリスト４１１と対照してオンライン状態で実時間でＵＲＬ検査を実施することもできる。ＵＲＬ検査の結果、有害ＵＲＬとして登録された場合には、ユーザー端末１１０に結果を表示することができる。ここで、ユーザー設定と本有害性判断プログラムの分類（企業用、無料、ＯＥＭなど）によってユーザー端末１１０の表示内容を異にすることができる。例えば、本有害性判断プログラムが個人用の場合にはユーザー要請コンテンツを遮断して安全サイトに移動することができ、企業用の場合には企業顧客が要求した内容に代替して表示することができる。

インターネットに基づく有害コンテンツ遮断装置１００は、ＵＲＬ検査の結果、有害ＵＲＬとして登録されていない場合には、当該コンテンツをローディングし、ローディング中のコンテンツ上にユーザー設定代替コンテンツを表示することにより、ユーザーが退屈さを感じないようにすることができる（段階Ｓ５３０）。一実施例で、ユーザー端末１１０は、ライブラリサーバー１２０からコンテンツをローディングする過程でユーザー設定または企業で要求したイメージ、アニメーション、案内文、広告映像などを表示することにより、ユーザーが退屈さを感じないようにすることができる。

インターネットに基づく有害コンテンツ遮断装置１００は、コンテンツのローディングと同時にユーザー端末１１０の画面に出力するに先立ち、実時間で有害性判断を遂行することができる（段階Ｓ５４０）。一実施例で、ユーザー端末１１０は、有害性判断部３１０によってローカルライブラリ３１３に保存されたカテゴリー別有害性判断モデルファイルに基づいてオフライン状態で実時間で有害性コンテンツ検査を実施することができる。ここで、ローカルライブラリ３１３はカテゴリー別に細分化した有害性判断モデルファイルから構成されることにより、個人別にまたは管理者設定によってカテゴリーを選別して有害性を判断することができるので、コンテンツの検査時間を節減することができる。もちろん、ユーザー端末１１０はライブラリサーバー１２０の有害性判断部４１０によって有害性判断モデルファイル４１３に基づいてオンライン状態で実時間で有害性コンテンツ検査を実施することもできる。

インターネットに基づく有害コンテンツ遮断装置１００は、コンテンツ分析エラー防止のための多面検証プロセスを実施することができる（段階Ｓ５５０）。ここで、多面検証プロセスは、人工知能を活用したイメージ認識方法によってエラーを防ぐために、文字列検査、アダルト淫乱物検査、ユーザー設定有害物検査などの多方面の検査を実施することができる。

インターネットに基づく有害コンテンツ遮断装置１００は、安全コンテンツと判断された場合にはユーザー端末１１０の画面に正常にコンテンツを表示することができ、有害コンテンツと判断された場合にはローカルＤＢ３１１に有害ＵＲＬとして登録した後、ユーザー端末１１０の画面に基準からはずれた部分を純化した内容に交替して出力するかスクリーニングまたは完全遮断することができる（段階Ｓ５６０）。

図６を参照すると、多面検証プロセス過程を示す例示図である。

人工知能に基づく有害コンテンツ遮断装置１００は、人工知能に基づいてコンテンツに含まれたイメージを認知するか認識するときにエラーを防止するために多面検査を実施することができる。例えば、ケチャップが注がれている状況を血と見誤る状況などが発生することがある。このために、タグ（ｔａｇ）検査及びキーワードなどの文字列検査を実施することができる（段階Ｓ６１０）。タグ及びキーワード検査で有害性を発見して人工知能に基づくイメージ検査のエラーを減らすことができる。

タグ及びキーワード検査で有害性が見つからなければ、アダルト／淫乱物検査を実施することができる（段階Ｓ６２０）。ここで、アダルト／淫乱物検査は基本的に実施することができ、アダルト／淫乱物の場合、権限管理者のみが表示可否を設定することができる。

アダルト／淫乱物検査で有害性が見つからなければ、ユーザー要請による検査を実施することができる（段階Ｓ６３０）。例えば、ユーザーが嫌悪、恐怖、賭博などの個人性向によって有害物を選択することができ、このときに選択した有害物に対して基準値を可変して設定することができる。ここで、ユーザーが選択した有害物と設定基準値によって検査を実施することができる。例えば、ユーザーが、嫌悪度９０％以上であれば確実に嫌悪を感じることができ、７０％以上であれば嫌悪を感じることもできると設定することができ、ユーザーが選択した有害物と設定基準値を満たす場合に有害物と判断することができる。

多面検証プロセスによって有害性が見つからない場合には、ユーザー端末１１０にユーザーが要請したコンテンツを正常に表示することができる（段階Ｓ６４０）。

多面検証プロセス過程で有害性が見つかった場合には、ローカルＤＢ３１１の個人有害ＵＲＬリストに登録し、ユーザーが要請したコンテンツを完全に遮断するか純化した内容に代替して表示することができる（段階Ｓ６５０）。

上述したように、ユーザー端末を介してオフライン状態で実時間で有害性コンテンツを検査及び遮断することができ、検査過程で他のコンテンツを提供することにより、ユーザーが退屈さを感じないようにする効果がある。

有害ＵＲＬリストでローカルＤＢを構成することにより、有害ＵＲＬリストのネットワーク伝送によってネットワークリソースを減らし、ライブラリサーバーの負荷及び容量を減らすことができ、有害ＵＲＬリストが逆に共有されることを防ぐことができる利点がある。

有害性判断基準を多様なカテゴリーに分類して適用し、個人性向に合う基準を適用することができ、分類されたカテゴリーを個別的に使うかまたは統合して使うことができるので、有害性判断モデルファイルのダウンロード所要時間を減らし、検査速度を向上させることができる。

多面検証プロセスによってコンテンツ分析エラーを防止してユーザーの要求に合う安全なコンテンツを示すことができる。

以上では本発明の好適な実施例を参照して説明したが、当該技術分野の熟練した当業者は下記の特許請求の範囲に記載された本発明の思想及び領域から逸脱しない範囲内で本発明を多様に修正及び変更することができるというのを理解することができるであろう。

１００人工知能に基づく有害コンテンツ遮断装置
１１０ユーザー端末
１２０、２２０ライブラリサーバー
１２５、３１０、４１０有害性判断部
２１０コンテンツ
２３０スマートプロテクター
２４０端末機
３１１ローカルＤＢ
３１３ローカルライブラリ
３２０コンテンツ受信部
３３０コンテンツ表示部
３４０制御部
４１１有害ＵＲＬリスト
４１３有害性判断モデルファイル
４２０コンテンツ提供部

Claims

有害ＵＲＬリスト及び複数の有害性判断モデルファイルを備えた有害性判断部を含むライブラリサーバーと、
前記ライブラリサーバーの前記有害性判断部から有害ＵＲＬリスト及び一つ以上の有害性判断モデルファイルをダウンロードし、コンテンツを要請して実行するユーザー端末とを含み、
前記ユーザー端末は、前記ライブラリサーバーからダウンロードした前記有害ＵＲＬリストに基づいて前記コンテンツの有害ＵＲＬ登録を検査し、有害ＵＲＬとして登録されていない場合、前記ライブラリサーバーからダウンロードした前記有害性判断モデルファイルに基づいて前記コンテンツの有害性有無を判断することを特徴とする、人工知能に基づく有害コンテンツ遮断装置。
前記ユーザー端末は、
ユーザーが要請するコンテンツを受信するコンテンツ受信部と、
前記有害ＵＲＬリストを保存するローカルＤＢ及び前記有害性判断モデルファイルを保存するローカルライブラリを含み、前記コンテンツ受信部で受信したコンテンツの有害性有無を判断する有害性判断部と、
前記コンテンツ受信部に受信されたコンテンツのうち有害性判断基準を満たすコンテンツを表示するコンテンツ表示部とを含むことを特徴とする、請求項１に記載の人工知能に基づく有害コンテンツ遮断装置。
前記有害性判断部は、前記ライブラリサーバーから提供される有害ＵＲＬリストにユーザー基準を含む有害コンテンツのＵＲＬを保存し、個人化した有害ＵＲＬリストでローカルＤＢを構成することを特徴とする、請求項２に記載の人工知能に基づく有害コンテンツ遮断装置。
前記有害性判断部は、ユーザーが要請したコンテンツのＵＲＬを前記ローカルＤＢに保存された有害ＵＲＬリストと対照して有害ＵＲＬ登録有無を検査し、有害ＵＲＬとして登録された場合には、前記コンテンツ表示部を介してＵＲＬ検査結果を表示し、前記コンテンツを遮断するかユーザーの要求したコンテンツに代替して表示することを特徴とする、請求項３に記載の人工知能に基づく有害コンテンツ遮断装置。
前記有害性判断部は、前記有害ＵＲＬとして登録されていない場合、前記ローカルライブラリに保存された有害性判断モデルを用いて前記コンテンツの有害性有無を検査し、多面検証によってエラーを防止することを特徴とする、請求項４に記載の人工知能に基づく有害コンテンツ遮断装置。
前記ローカルライブラリは前記ライブラリサーバーから実時間でアップデートされるかユーザー要請によって前記ライブラリサーバーから提供されるカテゴリー別に細分化した複数の有害性判断モデルファイルから構成され、前記複数の有害性判断モデルファイルのうちユーザーによって選択されたいずれか一つの有害性判断モデルファイルが基本モデルに設定されることを特徴とする、請求項５に記載の人工知能に基づく有害コンテンツ遮断装置。
前記有害性判断部は、アダルト及び淫乱物カテゴリーの有害性判断を基本的に検査し、タグ及び文字列検査、ユーザーが選択したカテゴリー及び設定値による検査を追加して有害性判断を検証することを特徴とする、請求項５に記載の人工知能に基づく有害コンテンツ遮断装置。
前記有害ＵＲＬとして登録されていない場合、前記コンテンツ受信部で前記コンテンツをローディングし、前記コンテンツのローディング中に前記コンテンツ出力部でイメージまたは広告映像を表示し、
前記有害性コンテンツと判断された場合、前記有害性判断部で前記コンテンツのＵＲＬを前記ローカルＤＢに有害ＵＲＬとして登録し、前記コンテンツ出力部でユーザー設定によって有害性コンテンツの文、イメージまたは動画などを他の文、イメージまたは動画に純化して表示することを特徴とする、請求項５に記載の人工知能に基づく有害コンテンツ遮断装置。