会話AIの一人称は誰を指すのか - 読者の指摘から話者ラベルを付けるまで

本記事の概要

対話の途中で読者から、話に出てくる一人称の僕が私を指すのか、答えているAI自身を指すのかが分からない、という指摘が入りました。このサイトでは、私の語り口を学んだAIが記事を根拠に答えるチャットを運用していて、冒頭の指摘はそこで実際に受けたものです。私はこの指摘をきっかけに、会話の履歴をモデルへ渡す前に、発言ごとの話者ラベルを付けるようにしました。根拠として渡す抜粋には、それより前に起きた別の取り違えへの対策として出所の種別ごとのラベルを先に入れてあり、会話の話者ラベルはその対策を会話の層へ広げたものです。ラベルは執筆時点で会話が2種類、抜粋が4種類です。対策が必要になった箇所は4つあります。第一に、ルールを定めた文書の各規則を、誰が決定したのか。第二に、根拠としてモデルへ渡す抜粋が、どこから来た文章か。第三に、会話履歴の中の各発言を、誰が話したか。第四に、回答に付く引用番号が、どの資料を参照しているか、です。どの箇所でも、私とAIは、出どころの違う文を、出どころの記録を付けないまま同じ並びへ置いていました。この置き方が、4つに共通する原因でした。

ただし、ラベルを付ければモデルが出どころを正しく読む、とは言えません。2026年のICMLに発表された論文によると、モデルは与えられた役割のラベルではなく、文体でテキストの出どころを判断していると判明しています。この役割の取り違えを測定した研究は、ラベルの有効性に対する私の期待を、正面から否定する結果を示していました。

本記事では、まず帰属が混ざった4か所を一覧で整理し、会話履歴と抜粋に付与したラベルの実装方法を説明します。そのうえで、読者の指摘で見つかった一人称の混線と、引用番号が資料に無い主張にも付いていた一件を取り上げ、記録に基づく主張と、そこから導いた解釈と、答え方として決めていることと、分からないことを語り分けさせるまでの経緯を説明します。最後に、デプロイの前に実測した範囲とまだ数字の無い範囲、ラベルの効果への反証とサーバで検証できない限界、発言の帰属を扱う研究の現在地、AIとやりとりしていることを知らせる義務とこちらの開示を順に説明し、読者が自分の運用へ当てはめられる4項目の規則で締めます。

記事から得られること

この記事では、特定の人の語り口を学ばせたAIを運用している方に向けて、次の4つを解説します。

• 帰属が混ざる箇所を数え上げる: ルールの決定者、抜粋の出所、会話の発言者、引用番号の参照先の4つの対象で、それぞれ何が起きたか
• 渡す前に出所を分ける: 会話履歴と抜粋にラベルを付ける実装と、どれを根拠に数えてよいかの序列を明文で書く方法
• 語り分けを設計する: 記録に基づく主張と、そこから導いた解釈と、答え方として決めていることと、分からないことを、AIに区別して話させるまでの経緯
• ラベルの限界を見積もる: モデルは文体で出どころを判断するという2026年の研究と、サーバでは検証できない範囲

この記事は、このサイト自身のチャットを運用し改修した一次記録に基づく考察です。