サイバーセキュリティの攻守でChatGPTを活用する例-2023年版-

Jul 9, 2023 16:35 · 1320 words · 3 minute read Security ChatGPT

先日CSAジャパンから「Security Implications of ChatGPT」の日本語訳が公開されました。

翻訳WGが「「ChatGPTのセキュリティへの影響」を公開しました！ – csajapan

ChatGPTの有用性は様々な分野で議論されており、サイバーセキュリティの分野も例外ではありません。 そしてセキュリティの分野では、様々な技術を攻撃者がどのように活用するのかを知った上で対策をすることが重要です。

このドキュメントでは、攻撃する側と守る側それぞれの視点でChatGPTを活用する例が紹介されていました。 きっと数年後にはChatGPTをはじめとしたLLMや生成AIのような技術が当たり前になり、各所で実用化されていることでしょう。 数年後に振り返る材料として、2023年現在のChatGPTの活用例をブログに残しておこうと思います。

※注意※
この記事は「Security Implications of ChatGPT」日本語訳の紹介および、数年後に振り返ることを目的としたものです。 攻撃者視点の活用方法を推奨する目的はありません。むしろ攻撃者の活用例を知った上で、対策に役立てることを目的としています。
また、記事内の情報によるいかなる結果や損害も保証できません。 情報の活用は必ず自身の責任の範囲内にとどめ、自分の管理していない環境での実行はしないでください。 日本の不正アクセス禁止法やその他の法律、もしくは各国の同様の法律により逮捕されます。

目次

攻撃側視点の活用方法

  • ポートスキャナーで検知したポートで動作しているアプリケーションを調べる
  • アプリケーションのデフォルトのURLやフォルダ構成などを調べる
  • ソースコードから脆弱性を見つける
  • 特定業界の組織名やドメインのリストをCSVで出力する
  • 特定組織の役員の情報を集め、リストを作成する
  • フィッシングメール文案の作成
  • 機能を維持したまま、ソースコードを変換する（セキュリティ対策ソフトによる検知の回避）

防御側視点の活用方法

  • 脆弱性識別子に紐づく脆弱性の概要を説明してもらう
    • 例：MITRE ATT&CKフレームワークの識別子など
  • 安全でないコードパターンの検出（GitHub Copilot）
  • Microsoft 365 Defender Advanced Hunting、YARA、KQLのクエリを作成する
    • 例：攻撃を受けたIDのログインイベントを抽出する
  • SQLやプログラミング言語を別の言語に変換する
  • ソースコードの脆弱性を見つける
  • 自動生成されたフィッシングメールを見分ける
  • サイバーセキュリティ対策を相談する
    • 例：目的に合った機能をもつツールや導入手順を提案してもらう
  • SIEMとの連携
    • 例：検知したインシデントに関連する脆弱性の情報と対策を整理し、管理者に伝える
  • ソースコードや設定ファイルの内容を解説してもらう
  • 特定のURLにセキュリティ関連の情報が含まれているか確認する
  • bashスクリプトやPythonスクリプトを作成する

最後に

「Security Implications of ChatGPT」は、これからますます発展していくであろうLLMや生成AIを活用するアイデアが詰まった面白いドキュメントでした。 おそらく定期的に更新があると思うので、新版が出たらまた読みたいですね。

tweet Share