LLMの抜け穴をテストするレッドチーミングツール「PyRIT」

• PyRIT Microsoftが2024年2月22日に、LLMのリスクを特定する自動化ツール「PyRIT」をGitHubで公開しました。
• PyRITの立ち位置 期待値を合わせるためにあえてはじめに記載しますが、PyRITは最先端の論文の実装や全く新しいアプローチを実装したものではなく、レッドチーミングにおける一連の流れの 一部を自動化するUtilツール です。
• PyRITのアプローチ・動作 サポートしているLLMモデル
• 使い方 本記事執筆時点ではPyRITはPython 3.10で動作させる必要があります。
• まとめ 現時点ではVer 0.11ということもあり、単純にAPIの呼び出しや状態の管理をラップしてくれるツールとしての位置づけが強いです。