チラシをご覧いただいた方限定 ─ 初回何でも相談 1時間 5,000円(2026年12月末まで)
お申し込みの際に「チラシを見た」とご記入ください。
やってはいけないAI導入 ⑨

AIへの指示は「お願い」ではなく
「仕組み」で守る

AIに決まりごとを伝えても、毎回は守られません。僕は❌を押したのに、断れていませんでした。守らなかった一回が事故になるなら、そこは仕組みで止めるところです。

公開日: 2026年8月25日|大阪の中小企業向け AI・DX伴走支援 けんちろワークス

AIへの指示は「お願い」ではなく「仕組み」で守る

断ったのに、断れていませんでした

僕は自分の事務作業をAIに任せていて、返事の下書きまで作らせています。送るかどうかを決めるのは僕です。手元に通知が届きます。いいねか❌を押すだけで、送る・送らないが決まります。

ある日、届いた案がどうも違ったので、❌を押しました。すると、こう返ってきました。

複数あるため判断できません

押したのに、何も起きません。断ったつもりが、断れていませんでした。

1通に、2件ぶん書いてありました

原因はすぐ分かりました。その日の通知は、1通の中に2件の案がまとめて書かれていたのです。

ところが、押す合図のほうは1通につき1つしか運べません。❌が1つ届いても、どちらを断ったのかが分かりません。だから「判断できません」と返すしかなかったのです。

仕組みは正しく動いていました。間違っていたのは、通知の書き方のほうでした。

「次からは1件ずつにしてね」では直りません

そこで最初に考えたのは、AIへの指示に一行足すことでした。「通知は1件ずつ出すこと」。これで直る気がしますよね。僕もそう思いました。

でも、直らないんです。その通知の文章を書いているのは、AIだからです。指示を読んで、たいていは守ってくれます。ただ、毎回必ずとは限りません。まとめて書いたほうが早い場面では、まとめて書きます。

そして、守らなかった一回が、そのまま事故になります。お願いは、決まりごとにはなりません。

AIへの指示は、書いただけでは守られない。守らせたいことは、機械が検査して落とす形にする。書いてはいけない言葉、根拠のない数字、決めた形式は、公開の手前で検査して合わなければ止める。
守らせたいことは、機械が読める検査に書き換えられないかを先に考えます。

だから、出口の側で決めました

直したのは、AIへの指示ではなく通知を出す部分です。文章がどう書かれていても、出口で必ずこうなるようにしました。

AIが何をどう書こうと、押す場所は1件につき1つ。守るかどうかをAIの心がけに預けるのを、やめました。

AIに任せる前に決めておくこと

文の形が合っていても、動くとは限りません

同じ日に、もう一つやらかしました。この通知の部分を直したあと、文法の間違いが無いことだけ確かめて、そのまま動かしたのです。結果、起動した瞬間に落ちました。文の形は合っていても、部品どうしのつなぎ方が合っていませんでした。

止まっていたのは約3分です。短いですが、気づけたのはたまたまでした。いまは、そこを触ったら、再起動の前に必ず一度起こしてみます。その手順を足しました。

結局、どちらも同じ話です。気をつけるのをやめて、確かめる手順に置き換える。相手が人でもAIでも、ここは変わらないと思っています。

この話、他人事ではないと思われたら

「AIに手順を書いて渡しているのに、たまに違うことをする」——それは指示の書き方ではなく、仕組みで止める場所かもしれません。Claude Code 導入支援AI・DX伴走支援では、お願いに頼らず、外せないところを形で固めるところまでお手伝いします。

コラム一覧をすべて見る

まずは初回相談から

1時間 9,900円(税込) ※現在特別価格/初回相談だけで終えていただいてもかまいません

「うちの場合はどうか」を、現状を見たうえでお答えします。
大阪を拠点に、直接お伺いします。

初回相談を申し込む