一人と AI で作るサービスの正しさを、注意力ではなく構造で守る

English

この記事の目次

あらまし

役割を分けた AI エージェントにコードの多くを書かせながら、僕は、お金を受け取る会員制のサービスを一人で二週間ほどかけて組み立ててきました。AI にコードを書かせてみると、次の問題がすぐに出てきます。AI が書いたそのコードが正しいかどうかを、誰がどうやって確かめるのか、という問題です。一人で作っているので、コードを書く人とは別に、それを疑って調べる役を置く余裕はありません。

そこで僕は、コードの正しさを、書いた本人が注意深く見直すことに頼るのをやめました。代わりに、間違いが起きにくい作りへ変えていき、開発を進める AI とは別に、どう壊れるかを探すことだけを目的にした監査を独立に立てて、検証させることにしました。このやり方で、公開する前に不具合を四つ捕まえています。どれも、部品ごとのテストは全部通るのに、部品を組み合わせたり状態が変わったりしたときにだけ壊れる不具合でした。この記事では、僕が AI にどこまでを任せ、毎回まっさらな状態で立ち上がる AI へ決まりごとをどうやって届け、書いた本人には見つけられない間違いをどうやって独立の監査に見つけさせ、最後には間違えようのない作りへどう変えていったかを書きます。

対象読者と持ち帰れるもの

一人か少人数で、AI にコードを書かせながら、課金のある会員制サービスを作ろうとしている人へ向けて書きます。読み終えると、AI がどこまでを自分の判断で進めてよく、どこからは人が確かめてから指示するのか、その線を操作の種類ではなく満たすべき条件で引く、という考え方を持ち帰れます。僕がこのサイトを一人で AI と作ってきた記録に基づいています。