AIに事実を作らせない、という運用
これらのサイトはAIを使って作っています。どこまで任せ、どこから任せないかの実際について。
サイトの実装、データの整形、文章の下書き、検査の作成——これらにはAIを使っています。隠すことではないので、どう使っているかを書いておきます。
最大の危険は、もっともらしい事実
生成AIの誤りで最も厄介なのは、明らかにおかしい出力ではありません。自然な文章の中に、それらしい数値や固有名詞が混ざることです。周囲の文が正しいので、混ざったものだけを見つけるのが難しくなります。
実際に、記事の下書きに裏付けのない距離の数値が入り込み、公開前に取り除いたことがあります。文章としては何の違和感もありませんでした。出典を確認しに行ったから見つかったのであって、読んで気づいたのではありません。
だから手順の側を固定する
対策として、書き方ではなく手順を固定しています。事実は必ず出典から取り、出典に無いものは書かない。この順序を先に決めておき、文章を書く段階で例外を作らないようにしています。
- 数値・固有名詞は出典から。 裏が取れないものは書かず、空けておく
- 照合は別の経路で。 変換や抽出の結果は、独立した出典と突き合わせて確かめる
- 迷ったら見送る。 判断がつかない項目を、それらしく埋めない
- 修正は横断で。 元データを直したら、記事側に古い記述が残っていないかを検索して確認する
最後の項目は、実際の取りこぼしから来ています。データを直したのに、記事本文に古い記述が残っていたことがありました。直した気になるのが一番危ないので、直したら必ず全体を検索するようにしています。
辞典では、原則として明示した
方言辞典では、この考え方を「AIに方言を作らせない」という形で明示しています。言語の情報は、それらしく生成できてしまう典型です。誤った語が混ざれば、学ぶ人にも、その言葉を研究する人にも害になります。
そのため、収録するのは出典のある語だけで、判断に迷うものは見送ります。見送れば収録数は増えませんが、「載っている語は信用できる」という性質を優先しました。
責任の所在
何を載せて何を載せないか、出典を確認したか、公開してよいか——これらの判断は人が行っています。そして誤りの責任も人が負います。AIを使ったことは、誤りの言い訳にはなりません。
誤りを見つけられた場合は、お問い合わせからご連絡ください。掲載内容の修正・削除のご依頼は優先して対応します。
この記事の元
この記事は、「ゆんたくことば」と「まちぐゎーさんぽ」の制作で実際にやったことから書き起こしています。 方針そのものは運営方針にまとめています。