REGAN G.K.
AI / Technology

AIの答えに、出典をつなぐ ── 地域のAI窓口が信用されるための設計

公開日:2026/11/19

「AIが言っていた」では、人は動けない

栃木県南で、地域の仕事や案内に使うAIを作りながら、私たちはいつも「どうすれば信じてもらえる道具になるか」を考えている。

前回の記事「試験運用のAIコンシェルジュが教えてくれたこと」では、現場で運用を継続していくための「5つの設計」について触れた。今回はその中から、最も根底にある「信用」という主題を掘り下げてみたい。

自治体や地域の観光窓口において、AIがどれほど流暢に応答したとしても、その根拠が見えなければ住民も職員も安心することはできない。「AIがそう言っていたから」という言葉は、責任の所在を曖昧にするだけであり、誰もその答えを信じて次の行動を起こすことはできないからだ。確かめる術がない言葉は、地域の中では機能しない。

一文ごとに根拠の所在を明かす

信用を生む設計は、とても地味なところから始まる。それは、AIの応答の一文ごとに、どの資料のどの箇所を根拠にしているのかを明確に示すことである。

たとえば観光窓口で「雨の日でも楽しめる場所はありますか?」と尋ねられたとする。このとき、単におすすめの屋内施設を並べるのではなく、それぞれの施設について「どの公式案内ページの、どの記述に基づいているのか」を出典として併記する。リンクや参照元が提示されていれば、受け取った側は必要に応じて自らの目で一次情報を確かめることができる。

重要なのは、AIの精度そのものを誇ることではなく、「利用者が自分で確かめられる余白」をあらかじめ設計に組み込んでおくことだ。

言葉の出どころを混同させない

もうひとつ、応答を組み立てる上で欠かせないのが、情報の性質を分けて提示することである。地域の窓口で扱われる情報には、いくつかの異なる層が存在する。

  • 公開資料に書かれていること: 公式サイトや広報紙などに明記された確定的な事実。
  • 担当者や関係者が話したこと: 口頭で共有された補足や、現場の運用上のニュアンス。
  • 資料をもとにしたAIの説明・提案: 事実を要約したり、条件に合わせて整理した推測や案内文。

これらを一つの文章の中に混ぜ合わせてしまうと、AIが言葉を補った推測の部分まで、あたかも公式な事実であるかのように読まれてしまう。どこまでが資料の記述で、どこからがその整理なのか。その境界線を曖昧にしない見せ方が求められる。

「分からない」と言えることの価値

案内を成り立たせる上で、最も勇気を要し、かつ最も信用につながるのが「分からない」と答える設計である。

たとえば「来月のイベントは雨天でも開催されますか?」と尋ねられた際、手元の資料にその記載がなければ、私たちのAIは、推測で「通常は開催されます」とは答えない。「公開されている資料からは確認できません」と伝えて、担当の窓口や問い合わせ先へつなぐようにしている。

何でも即答する道具よりも、根拠のないことには踏み込まず、人の手による確実な窓口へつなぐ道具のほうが、現場にとってははるかに頼もしい。分からないと言える姿勢こそが、地域のAI窓口における信用の土台となる。

情報の形を整えることから始まる

こうした応答を実現するためには、AIの調整以前に、読み込ませる資料自体の設計が問われることになる。参照する資料の一つひとつに、「いつ更新された情報なのか」「どこから発行されたものなのか」という出どころの記録が整っていなければ、AIもまた出典を示すことができない。

これは、前回書いた「情報の形を設計する」という話とそのまま地続きになっている。日々の資料をどのように残し、どう整理しておくかという地道な準備が、そのままAIの信用の厚みとなって返ってくる。

華やかな技術に見えるものの足元には、常にこうした丁寧な事実の積み重ねがある。地域で長く使われる道具を育てるために、私たちはこれからも、出典をつなぐという小さな設計を、これからも大切にしていきたい。

※ 本稿は、前回の記事「試験運用のAIコンシェルジュが教えてくれたこと」で触れた運用の視点と深く結びついています。ぜひあわせてお読みいただければ幸いです。

REGAN G.K. Founder & Director — Atsuho Oki

N × A.O.

Written with resonant intelligence.