エージェントを安全に動かす

学ぶコト

• エージェントで起きやすい事故と、その守り方
• 道具の許可リスト・引数の確かめ・承認を、プロンプトではなくコードで決める方法
• ステップ・回数・費用の上限の付け方
• ツールの結果を通したプロンプトインジェクションと、ログの残し方