生成AIの安全な利用環境を実現する「AIチャットフィルター」に新 ... - こどもとIT

Webコンテンツフィルタリングなどを開発するデジタルアーツ株式会社は、「i-FILTER」シリーズに標準搭載している、生成AIの利用コントロールや利用状況を可視化できる機能「AIチャットフィルター」に新たな機能を追加し、提供を開始した。

新しく搭載される機能は、「AIチャットログ（応答メッセージ）」、「マスキング送信」、「単語テンプレート」、「DLPスキャン」の4つとなる。

新たに追加される機能

AIチャットログ（応答メッセージ）は、利用者が生成AIから得た応答文のログを取得する機能。AIチャットログの送信メッセージ・応答メッセージ、両方のログ取得が可能になったことで、より詳細な利用状況の把握やデータの可視化を行うことができ、情報漏えいリスクの早期発見に寄与する。

マスキング送信は、事前にマスキング対象として設定した特定の単語を表示させずにメッセージを送信する機能。個人情報や機密情報に繋がるキーワードが該当する場合、ブロックせずテキストを置き換えられるため、利便性を維持しながら情報漏えいリスクを低減する。

単語テンプレートは、デジタルアーツがブロックすべき単語の推奨テンプレートを提供するもの。これを活用することで、「AIチャットフィルター」導入時の設定負担を軽減する。

DLPスキャンは、生成AIへの送信内容をDLPスキャンすることで、個人情報や機密情報に該当する恐れのあるメッセージの送信をブロックできる機能。マスキング送信と組み合わせて利用することで、入力した内容が個人情報や機密情報だと検知した場合、自動的に該当箇所をマスキングさせてメッセージを送信することができる。

DLPスキャンの動作イメージ

「AIチャットフィルター」では、いつ・誰が・どんなメッセージを生成AIに送信したのか、情報をログとして表示する。機密情報など特定単語を含む生成AIへのメッセージ送信をブロックするフィルタリング機能もあり、ブロックした単語をログから閲覧することも可能。生成AI利用時には、機密情報の漏えいの注意を促す警告画面も表示する。

Adblock test (Why?)

からの記事と詳細 ( 生成AIの安全な利用環境を実現する「AIチャットフィルター」に新 ... - こどもとIT )
https://ift.tt/Zm41gpT