下書きの生成や下調べは、気に入らなければ何度でもやり直せます。一方、メールの送信や請求の確定、外部への通知は、一度実行すると取り消せません。同じ「AIに任せる」でも、やり直せる作業と一発勝負の作業は、設計上まったく扱いが違います。
任せたい作業を、繰り返せるものと不可逆なものに分けてみてください。不可逆な一手の前に人の確認を挟むだけで、自律化の安全性は大きく変わります。
評価と運用ガバナンス › 失敗復旧と再実行を設計する
Skunc編集部
下書きの生成や下調べは、気に入らなければ何度でもやり直せます。一方、メールの送信や請求の確定、外部への通知は、一度実行すると取り消せません。同じ「AIに任せる」でも、やり直せる作業と一発勝負の作業は、設計上まったく扱いが違います。
任せたい作業を、繰り返せるものと不可逆なものに分けてみてください。不可逆な一手の前に人の確認を挟むだけで、自律化の安全性は大きく変わります。