チラシをご覧いただいた方限定 ─ 初回何でも相談 1時間 5,000円(2026年12月末まで)
お申し込みの際に「チラシを見た」とご記入ください。
やってはいけないAI導入 ①

「動いているつもり」が
いちばん怖い

自動化でいちばん怖いのは、失敗することではありません。失敗したことに、誰も気づかないことです。

公開日: 2026年8月18日|大阪の中小企業向け AI・DX伴走支援 けんちろワークス

「動いているつもり」がいちばん怖い

1時間半、無言で止まっていました

僕は自分の事業で、連絡用の仕組みを24時間動かしています。届いたものを見張って、急ぎのものだけ手元へ知らせてくれる、地味ですが毎日効いている仕組みです。

ある日、これが止まりました。原因は一瞬の停電でした。数十秒だけ電気が切れて、パソコンが電池側に切り替わった。そのはずみでプログラムが強制終了しました。電気はすぐ戻りましたが、止まったプログラムは自動では戻ってきません。

止まっていた時間は、およそ1時間半。僕がそれに気づいたきっかけは、システムからの警告ではありませんでした。「あれ、止まってない?」と人から言われて、初めて知りました。

なぜ気づけなかったのか

人がやっている仕事なら、休めば周りが気づきます。書類が上がってこない、返事が来ない、机に人がいない。止まったことが目に見えます。

ところが自動化した仕事は違います。うまく動いているときは何も言いません。止まったときも、同じように何も言いません。動いているときと止まっているときが、外からは同じに見えるのです。

しかも自動化するのは、たいてい「毎日やっているが、その日の売上には直結しない」仕事です。1日止まっても、その日は誰も困りません。困らないから、発覚が遅れます。

自動化した仕事は、動いているときも止まっているときも何も言わないので、外からは同じに見える。だから止まったことに気づけない。作り終わってから考えるのではなく、動かす前に止まったらどう気づくかを決める。通知は成功したら静か・失敗したら知らせる形にする。生きているかどうかは別の仕組みから見る。復帰は自動にする。
動かすことと、動いていると確かめられること。この2つは別の仕事です。

僕が間違えたのは、完成の定義でした

作ったときの僕は、「動くところまで作れたら完成」だと思っていました。実際、動いていましたし、毎日きちんと仕事をしていました。

いま思えば、あれは半分しかできていませんでした。本当の完成は「止まったら分かる」ところまでです。動かすことと、動いていると確かめられること。この2つは別の仕事です。

同じ失敗をしないための決めごと

これは、社内に詳しい人が一人だけの会社ほど起きます

「詳しい◯◯さん」が作った便利な仕組みは、たいてい◯◯さんの頭の中にしか設計図がありません。止まったことに気づけるのも◯◯さんだけです。その人が休んだ日・辞めた日に、静かに止まります。

AIを業務に入れるときも、まったく同じことが起きます。むしろAIのほうが厄介かもしれません。おかしくなっても「それらしい答え」を返し続けるので、気づく手がかりが出ないのです。

この話、他人事ではないと思われたら

「便利な仕組みはあるが、止まったときに誰も気づけない」——そういう状態でしたら、一度見せてください。Claude Code 導入支援AI・DX伴走支援では、動かすところだけでなく、止まったら分かる形にするところまでをお手伝いしています。

コラム一覧をすべて見る

まずは初回相談から

1時間 9,900円(税込) ※現在特別価格/初回相談だけで終えていただいてもかまいません

「うちの場合はどうか」を、現状を見たうえでお答えします。
大阪を拠点に、直接お伺いします。

初回相談を申し込む