日本語DNNモデルの脆弱性を発見する攻撃技術です。
■日本語DNNモデルの脆弱性を発見する攻撃技術(提案手法1) ・日本語DNNモデルに、日本語特有(ひらがな・カタカナ・漢字)の字種変換や語順変更などを加えて、 意味はそのままにDNNが誤った判定をする事例を自動生成する技術です。 ・日本語モデルの弱点を効率的に検出し、DNNの品質や安全性の向上に活用できます。 ■モデルの安全性を高める防御技術(提案手法2) ・提案手法1で発見した脆弱性に対して、再度、字種変換などの微弱な摂動(再攻撃)を加え、 多数決で正しい判定に修正することで、誤判定を防止する技術です。 ・DNNモデルの弱点による誤判定を防ぎ、信頼性の向上に活用できます。 【商用モデルでの検証結果】 攻撃技術(提案手法1) ・従来手法では発見できなかった日本語DNNモデルの脆弱性を効率的に発見。 ・商用モデル(Microsoft Azure Text Analytics)への攻撃にも成功。 防御技術(提案手法2) ・従来手法と比べて、大幅に高い防御成功率を達成。
この製品へのお問い合わせ
基本情報
※詳しくはPDF資料をダウンロードしてご覧いただくか、お気軽にお問合せください。
価格帯
納期
用途/実績例
【想定される用途】 ・脆弱性診断・品質評価(AIサービス/システム) ・AIセキュリティ強化・AIファイアウォール ・文書の機密性判定 ・誹謗中傷・スパム排除 ・偽ニュース検出
カタログ(1)
カタログをまとめてダウンロード企業情報
創業以来、様々な企業の事業化支援を行ってきました。 大学等で開発された技術の事業化、補助金を活用した新規事業の立ち上げなど、豊富な経験と実績があります。 御社の製品/技術開発/研究に適した、研究者や技術シーズをご紹介いたします。 ぜひ、お気軽にお問い合わせください。




