会話AIの一人称は誰を指すのか - 読者の指摘から話者ラベルを付けるまで

本記事の概要

対話の途中で読者から、話に出てくる一人称の僕が私を指すのか、答えているAI自身を指すのかが分からない、という指摘が入りました。このサイトでは、私の語り口を学んだAIが記事を根拠に答えるチャットを運用していて、冒頭の指摘はそこで実際に受けたものです。私はこの指摘をきっかけに、会話の履歴をモデルへ渡す前に、発言ごとの話者ラベルを付けるようにしました。根拠として渡す抜粋には、それより前に起きた別の取り違えへの対策として出所の種別ごとのラベルを先に入れてあり、会話の話者ラベルは、その対策を、会話履歴をモデルへ渡す文字列の組み立てへ拡張したものです。ラベルは執筆時点で会話が2種類、抜粋が4種類です。対策が必要になった箇所は4つあります。第一に、ルールを定めた文書の各規則を、誰が決定したのか。第二に、根拠としてモデルへ渡す抜粋が、どこから来た文章か。第三に、会話履歴の中の各発言を、誰が話したか。第四に、回答に付く引用番号が、どの資料を参照しているか、です。どの箇所でも、私とAIは、出典や話者が異なる文章を、その記録を付けないまま同じコンテキストへ混在させていました。この混在が、4つに共通する原因でした。

ただし、ラベルを付ければモデルが出典や話者を正しく識別する、とは言えません。2026年のICMLに発表された論文では、モデルは与えられた役割のラベルではなく、文体でテキストの出典や話者を判断していると判明しました。この役割の取り違えを測定した研究によって、ラベルだけではモデルが話者や出典を正しく識別できないと判明し、ラベルの有効性への私の期待は覆されました。

本記事では、まず帰属が混ざった4か所を一覧で整理し、会話履歴と抜粋に付与したラベルの実装方法を説明します。そのうえで、読者の指摘で見つかった一人称の混線と、資料に無い主張へ引用番号が付与されていた不具合を取り上げます。そして、回答を、記録に基づく主張と、そこから導いた解釈と、答え方として定めた方針と、回答できないことの4つに区別して出力させるまでの経緯を説明します。最後に、デプロイの前に実測した範囲と未計測の範囲、ラベルの効果への反証とサーバで検証できない限界、発言の帰属を扱う研究の動向、AIとやりとりしていることを知らせる義務とこちらの開示を順に説明し、読者が自分の運用へ当てはめられる4項目の規則で締めます。

記事から得られること

この記事では、特定の人の語り口を学ばせたAIを運用している方に向けて、次の4つを解説します。

• 帰属が混ざる箇所を特定する: ルールの決定者、抜粋の出所、会話の発言者、引用番号の参照先の4つの対象で、それぞれ何が起きたか
• 渡す前に出所を分ける: 会話履歴と抜粋にラベルを付ける実装と、根拠として採用してよい情報の優先順位をプロンプトへ明文化する方法
• 語り分けを設計する: 記録に基づく主張と、そこから導いた解釈と、答え方として定めた方針と、回答できないこととを、AIに区別して話させるまでの経緯
• ラベルの限界を見積もる: モデルは文体で出典や話者を判断するという2026年の研究と、サーバでは検証できない範囲

この記事は、このサイト自身のチャットを運用し改修した一次記録に基づく考察です。