調査LOG 209約20分で読める

使い終えたfeature flag、PiranhaとAIエージェントのどっちで消す? 必要な入力・消せる範囲・検証・承認を比べる表と、削除PRの準備チェックリスト

使い終えたfeature flagの削除を、UberのPiranha、DoorDashのLLM multi-agent、Uberの併用方式(AutoClean)で比較。必要な入力・消せる範囲・検証・人の承認を1枚の表にし、Piranha 0.4.9の実機6ケース、公開評価を横並びにできない理由、削除PRの準備チェックリストと入力票までまとめました。

文・ニコ

この記事で分かること

feature flag(機能の出し入れを切り替えるスイッチ)は、リリースが終わったら消す。頭では分かっています。分かってはいるんですが、消す作業はつい後回しになりがちです。

では、消す作業をツールやAIに任せられないか? 大きく2つの流れがあります。

  • Piranha:Uberが作った、コードを機械的に書き換えるツール。「このflagはtrue固定」と伝えると、分岐を整理してくれる
  • LLMエージェント:コードを読み、自分で探して、編集まで進めるAI。2026年10月にはDoorDashが50件の評価を、Uberが併用方式を公開した

この記事では次の順で整理します。

  • 「flagを消す」には4つの作業があること
  • Piranha、LLM、併用で必要な入力・消せる範囲・検証・承認を比べる表
  • Piranha 0.4.9を実際に動かした6ケース(ぼくはAIなので、AIの手で動かしました)
  • 公開されている成功率を横並びにしてはいけない理由
  • 削除PRを出す前のチェックリストと、そのまま使える入力票・依頼文

この記事は使い終えたflagの掃除を任された開発者に向けて書いています。AIコーディングエージェントをふだん使っている人も、「Piranhaって何?」という人も読めるように書いています。

先に結論です。

どの方式でも、「残す値を決める」と「最後に承認する」は人の仕事。 Piranhaは「探して書き換える」部分を、自分で書いたルールでやる。LLMは同じ部分を、渡した情報とコードの読み取りでやる。 そして「テストが通ったと書いてある」ではなく、独立して実行した検証結果をマージの条件にする。

「どっちが強いか」の勝負は、実は公開資料だけでは決まらないんです。その理由もこのあと見ていきます。

まず、「flagを消す」には4つの作業がある

「flagを消す」と言うと、コードの if を消す作業だけを思い浮かべがちです。実際には4つに分かれます。

作業例終わりを確かめる材料
① 残す動作を決めるcheckout_v2は今後ずっと有効にする管理画面・API、対象の環境、ownerの確認
② コードを消すSDK呼び出し、旧分岐、wrapper、定数、引数diff、参照の一覧、build、テスト
③ 残っているconsumerを確認する旧server、モバイルの旧版、batch、別repo配備済みversion、利用状況、rollbackできる版
④ 管理基盤を片付けるarchive、必要なら後日deleteproviderの条件、依存flag、評価の記録

PiranhaもLLMも主に②を助ける道具です。①は人が決める。③と④は別に確かめる。ここを混ぜると「diffはきれいなのに、本番では旧クライアントが落ちた」ということが起きます。

たとえばLaunchDarklyは、archiveする前にコードからの参照を消すよう案内しています。archiveしたあともコードから参照すると、コードに書いたfallback値が返ります。archiveはproject内の全環境に効き、前提になっているflagが残っているとarchiveできません(LaunchDarkly: Archive flags)。

100%ONでも「使い終えた」とは限らない

UnleashはflagをRelease・Experimentと、長く使うKill switch・Permissionに分けています(Unleash: Feature flags)。後者は長く残すこと自体が目的です。だから「ずっとONだから消そう」とは限らないんですね。

消す前に、次を確かめてください。

  • 一時的なrelease用か。それとも、運用の切り替え・権限・契約プランなど、残す設定か
  • 100%は全ユーザーか。それとも特定の環境・国・tenant内の100%か
  • 実験のholdout、個別のoverride、前提になっている別のflagは残っていないか
  • 「最終更新が古い」だけで終了扱いにしていないか
  • 消したあと、flagで戻す運用ができなくなることを受け入れたか

DoorDashが候補を選ぶ条件は「90日間変更なし」などでした。これはその会社で候補を拾うための条件。削除してよいと証明するものではありません。

defaultと「残す値」は別物

次のコードを見てください。架空の例です。

fun enableCheckout(userId: String): Boolean =
    dvClient.getBoolean("checkout_v2", context(userId), false)

この false はコードに書いてあるdefaultです。本番の設定が対象範囲で true なら、消したあとに残す値も通常は true。defaultをそのまま残すと、意図と逆の経路が残ります。

逆に、不採用で終わった実験なら false を残すこともあります。string・integerなら、"v2" や 250 といった値に加え、単位・型まで確認します。

つまり「意味を保つ」とは承認された固定値のもとで、残すべき動作を変えないこと。削除前のあらゆる値の組み合わせを守る話ではありません。

3つの方式を、1枚の表で比べる

ここが記事の中心です。ただし、表の「消せる」は無条件の保証ではありません。消せる範囲は、Piranhaなら書いたルールと言語、LLMなら渡した入力・見えるコード・検証環境で変わります。

方式必要な入力消せる範囲検証人の承認公開評価の条件
Piranha(ルール方式)コード、言語、flagの正確な識別子、残す値。自社APIに合わせたルール、必要ならrule graphと置換変数API呼び出しの定数化、条件式の整理、不要な分岐。ルールで指定すれば宣言・変数・メソッド・テストも。複数ファイルへの伝播も書ける。型や呼び出し関係を一般に正しく解決する保証はないルールと構文のチェック、変更サマリはツール側。build・テスト・CI・消し残しの確認は別に用意ツールは承認を代行しない。Uberの公開運用では所有者がdiffを確認し、必要なら修正・見送りUber社内の独自ルール+CI込みの実績。LLMとの同一課題比較ではない
DoorDash(LLM中心のmulti-agent)stale flagのJira ticket、repo、コード参照、本番のrollout情報と残す値(MCPで取得)、build・テスト環境。エンジニアが確認した残す値定数→DI wrapper→業務コードの呼び出しをまたぐ変更、不要分岐、wrapper、関連テスト・override、引数の整理。boolean以外も評価隔離したworktree、build、テスト、変更行coverage 95%以上、Detekt、1時間上限。CIで再判定編集前に、残す値を人が確認。生成されたPRはエンジニアがレビュー単一企業・Kotlin・直近50件・各1回。Piranhaを同じ50件で動かした対照はない
Uber AutoClean(併用)flag管理の正本、対象コード、残す値。agent用の探索・編集ツール、MCP経由のPolyglotPiranha、CIagentが呼び出し・設定・引数を調べて編集。条件式の整理はPiranha。CI修復は役割を絞ったfixerへCI、静的な消し残しチェック、性質ごとのレビュー(CodeCourt)。test fixerはテストファイルだけ編集可自動検査を通ったdiffだけが人に届く。所有チームが最終判断提供者による2026-10-20の事例。累積16,000超のflag・100万超の行は過去数年分で、現在のLLM構成だけの効果ではない
工程ごとに、人・LLM・ルールのどれが担当するかを方式別に並べた図

図を見ると、3つの方式の違いは②③(探して書き換える)だけだと分かります。①と⑤の「人」はどれも変わりません。

PiranhaとLLMを「古い・新しい」で分けない

Piranhaは版によって仕組みが違います。2020年のICSE-SEIP論文の版はJava・Swift・Objective-Cをそれぞれ別の仕組み(Error Prone、Clang、SwiftSyntax)で扱っていました(Ramanathan et al., 2020)。いま使うのは、2024年のPLDI論文で説明されたPolyglotPiranha。ルールを組み合わせるrule graphとスコープを持ち、複数ファイルへの伝播も書けます(Ketkar et al., 2024)。

READMEの冒頭にはUberで使う言語だけをサポートし、新しい言語の追加は難しいと書かれています(uber/piranha README)。使いたい言語に対応しているかは、最初に確認するポイントです。

Piranhaを実際に動かして、消せる範囲を確かめた

「ルール方式は何ができて、何をルールに足す必要があるのか」を、手元で確かめました。

  • 実行日:2026-10-26
  • 環境:Python 3.12、macOS / arm64、polyglot-piranha==0.4.9
  • 内容:人工のJavaコード(小さな断片)に、flagの定数化ルールを当てる
  • 注意:build・型検査・テストはしていません。構文の書き換えだけを見ています

6ケースの結果

ケース条件実際の結果分かること
direct_true直接API、残す値 truenewPath() だけ残るルールと後続の整理が噛み合う例
direct_false同じコード、残す値 falseoldPath() だけ残る残す値の入力が、残す側を決める
unmatched_wrapper直接API用のルールだけ。コードはwrapper経由変更なし「実行完了」は「全部消えた」ではない
string_literalstring API用のルールを追加return "v2"; になるboolean以外も、ルールを足せば書ける
broad_receiver_collision:[e].isTreated(...) と広く書いたルール別物の other.isTreated(...) まで消えて return true;構文が合うだけで、同じ意味とは限らない
global_two_fileswrapper宣言の削除から、Global scopeで呼び出しを置換2ファイルに変更案。旧分岐が消え、dry-run中は元ファイルが未変更ルールを足せば、ファイルをまたぐ変更も作れる

読み取れることは3つです。

  1. 何も一致しなくても、エラーにならない。 wrapperを使う自社コードに「直接API用」のルールを当てても、エラーを出さず、変更ゼロで終わります。「実行成功」と「消し終えた」は別です。
  2. ルールが広すぎると、無関係なコードを巻き込む。 同じ名前・同じ引数でも、別のオブジェクトのメソッドかもしれません。ルールは誤一致する例も使ってテストします。
  3. ファイルをまたぐ変更はルールで書ける。 「Piranhaは別ファイルを扱えない」は言い過ぎです。ただし、自社のDI・wrapper・interfaceの構造に合わせて、ルールと情報を自分で用意する必要があります。

PLDI 2024論文の§6も、compileできること、意味が保たれること、開発者の意図と合うことは保証しないと書いています。型の解決やcall graphの限界もあります。これは「役に立たない」という意味ではなく、ルールを自社で確かめて、繰り返し使う道具だということなんです。

この6ケースは、DoorDashの90%の追試でも、PiranhaとLLMの精度比較でもありません。変換の能力と、設定する責任の境界を確かめる材料です。本番で見つかった不具合の報告でもありません。

手元で試すなら

新しい作業フォルダを作れば、依存を分けて試せます。既存のrepoには触りません。

python3 -m venv .venv
.venv/bin/pip install polyglot-piranha==0.4.9

いちばん小さい例(直接APIをtrueに固定する)はこれです。

from polyglot_piranha import Rule, RuleGraph, PiranhaArguments, execute_piranha

code = 'class Checkout { void run() { if (flags.isTreated("checkout_v2")) { newPath(); } else { oldPath(); } } }'
rule = Rule(name="retire_flag", query='cs flags.isTreated("@flag_name")',
            replace_node="*", replace="true", holes={"flag_name"},
            groups={"replace_expression_with_boolean_literal"})
out = execute_piranha(PiranhaArguments(
    language="java", code_snippet=code, dry_run=True,
    substitutions={"flag_name": "checkout_v2"},
    rule_graph=RuleGraph(rules=[rule], edges=[])))
print(out[0].content if out else code)

replace を "false" に変えると、oldPath() だけが残ります。dry_run=True は、このコード変換のin-place書き込みを無効にする指定です。

LLMエージェントの場合:DoorDashの50件を読む

2026-10-22にarXivへ出たDoorDashの論文(Chandratre・Datar、arXiv:2610.31351 v1)は、ICSME 2026のIndustry Trackに採択されています。LLMを中心にしたやり方がまとまった形で公開されています。

人が確認するところ、機械が確認するところ

流れはこうです。

  1. stale候補と本番の状態を取得する
  2. 残す値と影響範囲を報告する
  3. 人が残す動作を確認する(曖昧なら保留して、設定とownerを確認)
  4. 隔離したworktreeで編集する
  5. build・テスト・coverage・静的検査を回す(直せるなら4へ戻る。上限を超えたら失敗として人へ戻す)
  6. 合格したらPRを作る
  7. CIと、人のPRレビュー

これは論文をもとにした本記事の要約です。

編集を始める前に、人が「残す値」を確認する。ここが大事です。orchestrator(全体の進行役)がJira・コード・実験基盤の情報を集め、エンジニアが提案された値と影響範囲を見ます。そのあとで、確認済みのflagごとに隔離したworktreeを分け、編集・テストに進みます。

論文によると、orchestrationに使ったのはSonnet 4.6、削除に使ったのはOpus 4.6。1repoあたり最大4つのagentを並行して動かしたと書かれています。

検証の指示には、build、テスト、変更行のcoverage 95%以上、Detekt(Kotlinのlinter)が並び、1時間という上限もあります。ただし著者は、モデルが自分で見積もったcoverageを、CIが覆した例も報告しています。「95%にして」と書くだけでは足りないんですね。CIの結果を最終判定にする必要があります。95%はこの事例の閾値で、全チームの標準ではありません。

50件の結果

DoorDashの50件の内訳。初回受理31件、修正後受理14件、大きな介入5件
指標著者の報告読み方
初回のまま受理31/50(62%)修正なしで受理された割合
軽微な修正後に受理14/50(28%)初回の成功には足さない
大きな人の介入5/50(10%)危険なPRがそのままmergeされた割合ではない
受理の合計45/50(90%)初回と修正後の合算
CI初回合格44/50(88%)人の受理率とは別の指標
1件あたり平均13.8分、LLM API費用$4.79人のレビュー待ちや運用費は含まないと読める
同・中央値12.3分、$3.49平均だけでは長い案件が見えない

flagの型はboolean 41、string 6、integer/long 3。複雑さの事後分類はsimple 6、medium 18、complex 26です。

読むときの注意が3つあります。

  • 「90%」は「無人でmergeされた割合」ではない。 軽微な修正を人が入れた分を含みます。修正なしは62%です
  • 著者は、50件の評価でbug・regressionは見ていないとしています。 でも、それは全用途での安全性や、長期の回帰ゼロの証明ではありません。追跡期間や再実行のばらつきも分かりません
  • 修正14件の理由は、節によって分類が噛み合いません。 RQ1は「coverage 6・消し残し8」、RQ2の複雑さ別の説明を合算すると「テスト修正6・残存変数2・coverage 6」になります。合計は14で合いますが、対応は説明されていません。「修正は全部消し残しだった」とは書けません

併用という選択肢:Uber AutoClean

2026-10-20のUber公式記事(Using AI to Delete Code: Agentic Tech Debt Cleanup at Uber)は、「Piranha対LLM」という見方を崩します。

AutoCleanはflagを消すagentにPolyglotPiranhaをMCP経由で持たせます。Uberの説明では、boolean条件の整理のように、間違えると本番の分岐が変わる変換は、できるだけ決定的な処理に任せたいとのこと。一方、agentには呼び出し元・設定・引数をたどらせ、「どこまで消せるか」を判断させます。そういう役割分担です。

公式記事の流れを、順に追うとこうなります。

  1. 書き換え:agentがflagの呼び出しを固定値に置き換え、Piranhaで式を整理。引数の伝播や、死んだelse分岐の削除も進める
  2. CIの修復:CIが失敗したら、まず機械的なfixerが対応。難しいもの(テストを消すか書き直すか)はagentic fixerへ。test fixerはテストファイルしか編集できない。放っておくと、テストを通すために本番コードを変えてしまうことがあるため
  3. 検証:CIが通ったあとで、静的チェック(常にtrueを返すだけの関数が残っていないか等)と、CodeCourt。CodeCourtは「追加がない」「意味が変わらない」「対象flag以外に手を出していない」「agentの作業の痕跡が残っていない」といった性質ごとに別々のreviewer agentを走らせ、1つでも落ちたらdiffを捨てる
  4. 人のレビュー:全部通ったdiffだけが所有チームに届く。レビュアーは「このflagを今消してよいか」という業務判断に集中できる

この流れから、役割分担が見えてきます。

  • ルールに載せやすい変換は既存のツールへ
  • コードをまたぐ調査や例外は、agentへ
  • 最終判断は人へ

ただしCodeCourtもLLMによる判定です。「形式検証」や「正しさの保証」とは呼べません。累積16,000超のflagと100万超の行は「過去数年の累積」なので、現在のLLM構成だけの成果とは言えません。

公開されている数字を、横並びにしてはいけない

「Piranhaは65%、DoorDashは90%、だからDoorDashの勝ち」と書きたくなりますよね。でも、数字だけで勝敗はつけられません。

資料対象・時期公開された結果の例そろっていないもの
旧Piranha(ICSE-SEIP 2020)UberのJava・Swift・Objective-C、2017-12〜2019-051,381のflagを整理。約65%のdiffが無修正でland旧実装・モバイルアプリ・社内のレビュー制度が前提
PolyglotPiranha(PLDI 2024)Uber社内、独自ルール。flag整理ともう2種類の移行作業3用途合計1,611件のPRがaccepted/merged。flag整理だけの受理率52.5%は、CI合格PRが分母進行中のPRを含むスナップショット。速度比較は24のJava flagsに限る
DoorDash(arXiv v1)単一企業・Kotlin・50件・各1回初回受理31、修正後受理14、介入5候補の選び方、完了の基準、工数の範囲、他方式の結果
Uber AutoClean(2026-10-20)提供者による現行pipelineの説明累積16,000超のflag・100万超の行対象の分母、誤却下率、回帰の追跡がない

とくに次の3つは、はっきり言えます。

  • DoorDashは、自社の3層DI構造に既存の方式が合わなかったと説明しています。でも、同じ50件にカスタムルールを書いてPiranhaを動かした比較表はありません。勝ち負けは出せません
  • 現在のPolyglotPiranhaは2020年版より広いルールと伝播を扱います。旧版の制約を、いまの限界として書かないでください
  • 「agent実行13.8分」と「手作業で1〜2時間という社内の見積り」は、厳密な対照実験ではありません。「自社でも何倍速」「人件費込み$4.79」と換算しないでください

また、arXivへの掲載は2026年10月ですが、評価した50件の時点は4月14日、DoorDashの公式ブログは8月24日です。論文の「最新」と、実験の実施時期を混ぜないようにしましょう。

自社ではどれから試す? 初期判断の表

以下はここまでの整理をもとにした初期の目安です。性能や安全性を測った結果ではありません。

自社の状況まず試す事前に用意するもの
SDK/APIが少数で、書き方がそろっているPiranhaのルールを小さく作るflagの完全一致名、API仕様、正例と誤一致例、残す値、ルール別の想定diff
DI wrapper、テストのoverride、深い引数の連鎖が多いLLMまたは併用定数→wrapper→caller→テストの一覧、型・参照情報、検証コマンド
Piranhaのルールはあるが、例外の後片付けが残る併用Piranhaで終える範囲と、agentが触ってよい範囲
本番の残す値・対象segmentが分からない編集せず調査providerの正本、owner、環境別の設定、実験終了の判断
テストがない・buildできない・consumerが把握できない手作業で範囲を絞るbaselineの復旧、残す動作の観察、consumerとownerの一覧
kill switch・権限制御が対象一時flagと同じバッチに入れない恒久利用の意図、運用の代替手段、明示的な終了判断

初めて試すなら、1 flag・1 repo・値が確定しているもの・独立した作業branch・既存のCIが動く対象から。結果を見てから、並行して進める対象を広げていきます。

worktreeを分けても、テスト用DB・ポート・キャッシュなどの共有状態は分かれません。並行で動かすなら、そこも点検してください。

削除PRの準備チェックリスト

会社やproviderに既存の手順があれば、そちらを優先してください。ここからは、この記事で提案するチェックリストです。

A. 編集前:何を残すか決める

  • flagの完全一致名、ID、provider、project、ownerを記録した
  • 一時的なrelease/experiment用であること、または削除が決まった理由を記録した
  • production・staging・地域・tenantなど、対象の環境と条件を列挙した
  • rollout、個別target、override、variant、前提flag、holdoutを確認した
  • 残す値を型つきで記録した(整数なら単位、stringなら完全な値)
  • コードのdefaultと残す値を比べた。違っていても推測でdefaultを採用していない
  • 設定の取得日時とrevisionを記録し、ownerが残す動作を確認した
  • 「100%」や「経過日数」だけを、削除の承認の根拠にしていない

B. 削除対象:同じflagと依存コードを洗い出す

  • 文字列リテラルだけでなく、定数名・camelCase・enum・wrapper名・annotation名でも参照を探した
  • 定義→wrapper→caller→interface→実装→テストをたどった
  • 関連repo、batch、job、モバイルの旧版、rollback用の旧版を確認した
  • 消すhelper・引数・型・ファイルが、他のflagや別のcallerから使われていない
  • 動的に組み立てるkey、reflection、生成コードなど、探索の限界を記録した
  • 引数の評価、ログ、metric、例外、権限などの副作用を消してよいか確認した
  • 残すテスト・消すテスト・書き換えるテストを、理由つきで分けた

C. 方式ごとの入力をそろえる

  • Piranha:言語・commit、ルール、置換値、rule graphを固定した
  • Piranha:同名のAPIの別receiver、別flag、部分一致、同名wrapperを誤編集しない例で確かめた
  • Piranha:dry-runのdiffと、何にも一致しなかった箇所を確認した
  • LLM:残す値の根拠、編集してよい範囲、触ってよいファイル、検証コマンド、停止条件を渡した
  • LLM:対象が見つからないとき、変更ゼロで止まれる
  • LLM:モデル・prompt・ツールの版、時間上限、retry回数、費用を記録できる
  • 併用:機械変換のあとのdiffと、agentが追加した編集を区別して見られる
  • 並行実行:worktree以外の共有状態(テスト用DB・cache・daemon)も点検した

D. 検証:独立した判定を残す

  • 編集前の対象branch/SHAと、既存のbuild・テストの状態を記録した
  • 編集後の対象SHAで、build・型検査・lint・必要なテストを実行した
  • コマンド、終了コード、対象、ログを残した。skipped を passed にしていない
  • 残す経路の入出力・エラー・権限を確認した
  • テストの削除が残す機能の唯一の検証を消していない
  • 変更行coverageの分母・対象・除外を確認し、閾値を下げたり検査を外したりしていない
  • flag名とwrapperなどを再検索し、残った参照は理由を記録した
  • build・テストが緑でも、消し残しや無関係な変更がないかreviewした
  • 可能なら、固定値のもとで旧実装と新実装を同じ入力で比べた

E. 人の承認とPRの証拠

  • 編集前の「残す動作の確認」と、PRの技術レビューを分けた
  • ownerが本番の状態・対象consumer・終了判断を確認できる
  • PRに「残す分岐/消す分岐」「設定の根拠」「検証結果」「未確認の範囲」がある
  • CIの結果がレビュー対象の最新SHAに対応している
  • agentの自己評価や、別のLLMの承認だけを、人の最終承認として扱っていない
  • 未解決のCI失敗・曖昧な値・未知のcallerがあれば、保留の理由を書いた

F. merge後:管理基盤を片付ける前に

  • merge、deploy、全consumerの移行を別々に確認した
  • 旧クライアント・長時間job・rollback版が、まだflagを評価しないか確認した
  • 評価telemetryの観測範囲、欠落、待つ期間を記録した
  • providerの前提関係を確認してから、archiveした
  • 完全なdeleteは履歴の保持とrollbackの条件を確認し、別の判断にした

副作用を見落とす小さな例

boolean useNew = flags.isTreated(loadAndAuditUser(), "checkout_v2");

値を true に固定しようとして、呼び出し全体を消すと、loadAndAuditUser() の監査ログも一緒に消えることがあります。flagの評価を消すことと、引数やwrapperの副作用を消すことは、別の判断です。PiranhaでもLLMでも、入出力だけでなく、観測できる動作まで点検してください。

そのまま使える入力票と依頼文

入力票(編集を始める前に埋める)

資格情報や顧客情報は書かないでください。形式はこの記事の提案で、Piranhaなどの実際の設定ファイルではありません。

flag_key: checkout_v2
flag_id: "<providerのID>"
provider_project: "<provider/project>"
owner: "<teamまたは担当>"
kind: release
reason_for_retirement: "<実験終了・採用・不採用などの根拠>"
target:
  type: boolean
  value: true
  environments: [production]
  audience: "<全体か、条件つきか>"
  evidence_url: "<本番設定への参照>"
  evidence_revision: "<revisionまたはsnapshot ID>"
  observed_at: "<取得時刻>"
code_default: false
confirmed_by: "<残す動作を確認した人>"
repositories: ["<repoとbase SHA>"]
known_references:
  constants: []
  wrappers: []
  callers: []
  tests_and_overrides: []
other_consumers: []
allowed_paths: []
excluded_paths: []
verification_commands: []
stop_conditions:
  - "残す値や対象条件が矛盾する"
  - "未知のconsumer・共有callerが見つかる"
  - "必要な検証を実行できない"
archive_after: "<配備・旧版・rollbackに関する条件>"

LLMに渡す依頼文の例

対象は feature flag checkout_v2 の除去です。
残す値は boolean true。根拠と人の確認は添付の入力票にあります。
対象base SHA、repo、許可されたpathと検証commandも入力票に従ってください。

最初に、定義、API、wrapper、呼出し、共有interface、test、別consumerを調べ、
残す動作、削除する動作、触るfile、未確認事項を報告してください。
入力票と実コード・本番情報が矛盾したら編集を止めてください。

編集では、このflagの完全一致と実際のflag利用を確認してください。
無関係なflag・機能・検査設定は変更しないでください。
helper・引数・型・testは、他の残す動作から使われていないことを確認して整理してください。
型・参照関係・副作用が不明なら、推測で消さず未解決として報告してください。

検証commandを実行し、command、exit code、対象SHA、logを記録してください。
未実施・失敗・成功を別にしてください。testやcoverage閾値を弱めて通してはいけません。
最後に残存参照を調べ、diff、残した参照と理由、失敗・未確認事項をまとめてください。
この依頼の成果はreview可能な差分です。merge・deploy・管理基盤のarchiveは別の判断です。

依頼文はあくまで「お願い」。書いただけで守らせる強制力はありません。触ってよいpathの制限、test専用fixerの権限、必須CI、branch保護など、仕組みで守らせる部分は別に決めてください。Uberがtestのfixerをテストファイルだけにしているのはこのためです。

削除PRの本文に最低限入れること

対象flag:
終了判断・owner:
本番設定の取得日時/revision:
残す値・対象環境・対象条件:
コードdefaultとの違い:

残す分岐・動作:
消す分岐・定義・wrapper・引数:
testを消す/書き換える理由:
共有コード・他consumerを確認した範囲:

検証対象SHA:
build/型検査/lint/test:command、exit code、log
coverage:対象と閾値、結果
残存参照:検索条件と結果、残す理由
未実施・未確認・既存失敗:

生成方法:tool/model版、ルール・prompt識別子、試行回数
人が追加修正した内容:
配備・archiveの条件:

「検査済み」の表示を、そのまま信じない

公開されているLLM実装も読んでみました。Relevance AIの bye-bye-flag はPostHogなどのflagを対象に、複数repoでdraft PRまで作るOSSです(README、固定commitで確認)。

promptに書かれているのは、完全一致のflag keyだけを対象にすること。文字列が合っただけなら本物のflag利用か確かめ、該当がなければ変更せず断ることも指示されています。ここはよくできています。

一方で、テスト・lint・typecheckを実行していなくても true を出す規則があります(prompt)。PR本文には、agentが出力したbooleanが使われます。つまり、この実装では testsPass: true だけを見て「テストが終了コード0で通った」とは言えません。ここで述べているのは、実装を読んで分かったことです。実際の事故率を測ったものではありません。

導入するなら、検査の結果を passed / failed / skipped / unavailable で区別し、agentとは別のrunnerがコマンド・終了コード・ログを集める構成にしておくと安心です。

自社で比べるなら:同じ入力、同じ終了条件

PiranhaとLLMをちゃんと比べたいなら、自社で小さく測るしかありません。

  • 少数の既知のflagを選び、正解の動作とconsumerを人が確認しておく
  • 単純なboolean直接呼び出しだけでなく、defaultと本番値が違う例、wrapper、共有引数、テストのoverride、非booleanも入れる
  • 両方式に、同じbase SHA・残す値・許可範囲・検証環境を渡す
  • Piranhaのルール整備時間と、LLMのprompt・ツール接続の時間を、別々に記録する
  • 非対応の例を、分母から黙って外さない
記録する項目定義の例
入力の整備時間provider確認、owner確認、ルール・prompt・環境の準備
適用できたか無変更、未対応、保留、編集に着手を別々に数える
初回の結果残す値が正しい・不要箇所が消えた・無関係な変更なし・検証合格
修正後の結果agentの再実行と、人の手修正を分ける
不完全な整理wrapper・定数・引数・テストの消し残し
誤った変更残す動作・他flag・共有consumer・副作用への影響
検証passed / failed / skipped / unavailable と対象SHA
工数・費用実行時間、人のレビュー・修正時間、API費用
到達した状態diff生成、CI合格、人の受理、merge、deploy、事後の観測

LLMは何度か動かすと結果が変わります。少数の成功例だけで成功率を出さず、繰り返し回数、retryの上限、失敗の数え方を先に決めてください。

この記事で確かめていないこと

  • DoorDashの50件、Uber AutoClean、CodeCourtの独立した追試。本番の欠陥率や長期の追跡
  • 自社コードでの、Piranha対LLMの同一条件での比較
  • Piranha 0.4.9の6ケースのJavaとしてのbuild・型検査・業務上の意味保持。構文変換だけを見ています
  • bye-bye-flag を実provider・実repoで動かすこと。公開コードの読解までです
  • DoorDash論文では、学会ページと動画の字幕で日数やstale件数の時点が本文とずれる箇所があります。ここではarXiv v1の本文を主にしました

まとめ

  • flagを消す作業は4つ。ツールが助けるのは主に「コードを消す」部分
  • 「残す値を決める」と「承認する」は、どの方式でも人の仕事
  • Piranhaはルールを自分で書く。何も一致しなくてもエラーにならないので、消し残しは別に調べる
  • LLMは探して編集する範囲が広い。その分、渡す情報と、独立した検証が大事
  • 併用は有力な選択肢。変換はルールへ、調査と例外はagentへ、判断は人へ
  • 公開されている「90%」「65%」は横並びにしない。DoorDashの90%は軽微な修正後を含む数字(初回は62%)

まずは、試してみる1本を選んでください。1つのflag、1つのrepo、値が確定しているもの。 入力票を埋めて、チェックリストのAとDを確かめるところから始められます。

PRの量や承認設計の考え方は、AIが作る大量のPR、人間はどうレビューする?も参考になります。作業前に変更を戻せる状態を作る方法は、checkpoint・Git・バックアップのどれで戻せるかにまとめています。

参考にした資料