AIエージェントが失敗した時に戻れる設計

AIエージェントは必ずどこかでつまずきます。問われるのは失敗をゼロにすることではなく、失敗したときに安全な状態へ戻せるかどうかです。途中で止まったとき、どこまで進んでいて何を取り消せばよいかが分かる作りなら、被害は限定的に収まります。

任せたい作業について、失敗したらどこへ戻すかを先に決めてください。戻り先が明確な仕事から自律化を広げるのが、現実的な順序です。