ニュース

SNSなどの不審なコンテンツの安全性を確認できるAI搭載ツール「NordBot」

 NordVPNが運営する実験的なイノベーションスペース「NordLabs」が、「NordBot」の提供を開始した。ユーザーが日常的に使用するプラットフォームで詐欺が増加していることを受け、このツールを開発した。

 NordBotは、SNSやメッセージングアプリの不審なコンテンツの安全性を確認できるAI搭載ツール。気になるコンテンツをクリック、返信、共有する前にNordBotに送信することで、安全性の評価結果を確認できる。

 対応プラットフォームは、Instagram、Facebook Messenger、Telegram、WhatsApp、Xなど。プラットフォームに応じて、NordBotにダイレクトメッセージを送信するか、公開投稿またはタグ付けして返信する。

 NordBotでは、3種類のコンテンツ(メッセージ、URL、画像)を確認。AIで生成された可能性のある画像や、見覚えのないアカウントから送られてきたリンクなど、不審に思うコンテンツに対応できるよう設計されている。

 ユーザーが送信したコンテンツのみを確認するため、不審なものを受け取った、または発見した場合は、対応しているプラットフォームから同ツールに共有すると、メッセージやリンク、画像を分析し結果を返信する。

 判定結果は、次の4種類に分けられる。

  • 「安全」:そのコンテンツに明らかな危険の兆候が見られない。
  • 「不審」:注意が必要な要素が含まれている。
  • 「危険」:有害または虚偽的である可能性が高い。
  • 「AI生成」:AIによって作成された、または大幅に改変された可能性がある。

 ほかのAIツールと同様に、NordBotも誤って判定する可能性がある。危険なコンテンツを見逃したり、無害なコンテンツを危険と判定したりすることもあるため、適切なセキュリティ対策や、NordVPNに組み込まれた次世代のウイルス対策の代わりではなく、追加の判断材料として利用することが薦められている。

 NordBotは、実験的なツールをテストし、インターネットをより安全に利用するための新しい方法を探る取り組みであるNordLabsの1つ。初期ユーザーから寄せられるフィードバックは、NordLabsが同ツールによるさまざまなプラットフォームでの危険なコンテンツの検出精度を高めるために活用される。