AI活用 自動化どうしの衝突

紙の書類を片づける仕組みを、いま2つ並行で動かしています。ひとつは子どもの学習プリントを担当するもの、もうひとつは大人が読む事務的な書類を担当するものです。それぞれ別の曜日に勝手に動いて、スキャンした紙を正しい場所に振り分けてくれます。

仕組み自体の話は前に書きました。今回は、その2つを同時に走らせたときに起きた、ちょっと間抜けな話です。

「無限ループの疑いがあります」と報告されました

ある週の報告に、こんな一文が入っていました。

「このファイルは数日前にも別のフォルダに置かれていました。もう一方の仕組みが送り込んだ疑いがあります。同じファイルが来週また現れる場合は、判定を見直す必要があります」

一瞬ひやっとしました。2つの自動化がお互いに「これはそっちの担当だ」とファイルを押しつけ合って、永遠に往復し続ける。ありそうな話です。

でも、よく見たら違いました。問題のファイルは毎週決まって配信されるおたよりで、片方が受け取って、中身を見て、もう片方に渡す。それが最初から想定していた正しい流れだったんです。ループでも事故でもなく、ただの通常運転でした。

正常なのに、毎回あやしまれる

厄介なのは、放っておくと毎週これが出ることでした。同じおたよりは毎週届きます。そのたびにAIは初めて見たつもりで中身を読み、「これは教材ではないので転送します」と判断し、ついでに「往復しているかもしれません」と心配してくれる。

異常を知らせる機能は、たいてい見逃さない方向に倒れています。それ自体はありがたいのですが、正常なものまで毎回引っかかると、報告がどんどん長くなります。そして長い報告は、読まなくなります。読まなくなった時点で、本当に何かあったときにも気づけません。

なので、こう伝えました。「それは単にダウンロードされただけで、そっちに送るのが想定どおりのパターンだからこれでいい。毎週来るけど淡々と転送して」と。

「想定内です」を書いておく

やったことは単純で、判定ルールのファイルに「このパターンのファイルは定常フロー。中身を確認せずに転送してよい。報告は1行でよい」と書き足しただけです。

翌週の報告は、ちゃんと1行になっていました。

ここで気づいたのは、定期的に動くAIには「異常の条件」より先に「正常の条件」を教えたほうがいいということでした。何が異常かだけを伝えると、それ以外のすべてがグレーになります。判断に迷ったAIは、とりあえず報告します。親切なので。

逆に「これは毎週起きる、正しい動きです」と一行書いておくだけで、迷いも報告も消えます。手間としては本当にそれだけでした。

自動化は、増やすと境目でぶつかります

ひとつだけ動かしているうちは、こういうことは起きませんでした。2つに分けて、お互いに仕事を渡すようにした瞬間に、境目でぶつかりはじめました。

役割を分けること自体は正解だったと思っています。ひとつのタスクにあれもこれも持たせると、判断がぶれるからです。ただ、分けるなら受け渡しのルールも一緒に決めておかないと、境目が毎回グレーゾーンになる。そこを書き忘れていました。

いまは、片方から片方へ渡っていいファイルの種類を、名前のパターンで明示してあります。次に3つ目を足すときは、最初から書こうと思います。

同じことをやってみたい方へ

定期的に動く仕組みを作ったあと、報告がだんだん長くなってきたら、この形で頼んでみてください。中身はご家庭の運用に合わせて書き換えてください。

定期タスクの報告が毎回長くなってきたので、整理したいです。

■ まず現状を見せてください
・直近3回の報告を読み返して、毎回同じ内容が出ている項目を挙げてください
・そのうち「実際には対応が不要だったもの」を分けてください

■ 「正常パターン」を登録します
・対応不要だったものについて、今後は正常として扱う条件を
 私に確認したうえで、判定ルールのファイルに追記してください
・書き方は「このパターンに当てはまるものは定常フロー。
 中身の確認をせず処理してよい。報告は1行でよい」の形で

■ 報告の書き方を変えてください
・定常フローの処理は、件数と行き先だけの1行にまとめる
・私の対応が必要なものだけ、理由をつけて詳しく書く
・その2つを見出しで分けて、対応が必要なほうを先に書く

■ 複数の自動化がある場合
・タスクどうしでファイルやデータを渡している箇所があれば挙げてください
・渡していいものの条件が明文化されていない箇所があれば指摘してください
 (ここが曖昧だと、正常な受け渡しを異常として報告してしまうので)

まとめ

自動化を育てるというのは、新しい機能を足すことよりも、「これは気にしなくていい」を一つずつ教えていく作業なのかもしれません。