「AIに仕事を丸ごと任せたら、人間より正確にやってくれるんじゃないか」
生成AIを使っていると、そんな期待を持つことがあります。文章はすぐに書く。計算もする。疲れない。しかも24時間動ける。ここまでそろうと、店長だって任せられそうに思えてきます。
ところが、実際にGoogle Geminiを使ったAI店長へカフェの運営を任せてみたら、届いたのは6,000枚のナプキン。さらに、その店では使い道のない22.5kgのトマト缶まで注文していました。
それだけ聞くと、ちょっとしたコントです。
ナプキンは山ほどある。トマト缶もある。でも、毎日必要なパンはない。
正直、最初にこの話を知ったときは「AI店長、ずいぶん派手にやったな」と笑ってしまいました。ただ、笑ったあとで少し引っかかったんです。これ、AIだけの変な失敗ではないな、と。
私たちもAIが一度うまく答えてくれると、「次もたぶん大丈夫だろう」と思ってしまいます。下書きが上手だった。表もきれいに整理できた。だったら、その先の送信や発注まで任せても平気ではないか。気持ちとしては、よく分かります。
でも、一回の作業を上手にこなすことと、毎日続く仕事を安心して任せられることは、どうやら別の話でした。
このAI店長の失敗は大げさで分かりやすいぶん、AIを仕事で使うときの落とし穴をよく見せてくれます。今回は「AIは危ない」で終わらせず、どこまでなら頼ってよいのかを、初心者の方にも分かるように整理してみます。
🎥 元になった海外動画はこちら
今回の話の元になった動画です。英語ですが、実際のカフェや大量に届いた品物が映るので、話の妙な現実味が伝わってきます。
もちろん、動画を全部見なくても大丈夫です。ここから何が起きたのかを順番にお話しします。
☕ そもそも、AI店長には何を任せていたのか
この実験を行っているのは、AIを現実の仕事に参加させ、安全性や課題を調べているAndon Labsです。舞台はストックホルムにある実在のカフェ。AI店長の名前は「Mona」で、Google Geminiを基盤にして動いています。
Monaは、お客様と雑談するだけの案内係ではありません。開店準備、求人、仕入れ、価格の検討、スタッフへの指示まで、店長らしい仕事をかなり広く担当しました。
- 開店までに必要な手続きの整理
- 電気やインターネットの契約
- 求人広告の作成と応募書類の確認
- 仕入れ先とのやり取り
- パンや備品の発注
- メニューや価格の検討
- スタッフへのSlackでの指示
こうして並べると、「本当にそこまで任せたの？」と思うくらい本格的です。
しかも最初から何もできなかったわけではありません。求人文を書く、契約書から必要な作業を拾う、仕入れ先へ連絡する。こうした仕事は、むしろAIの得意分野です。短時間でそれらしいものを出してくれるので、見ている側も「これはいけそうだ」と思ったはずです。
ここが少し怖いところでもあります。最初から失敗ばかりなら、誰も大事な仕事を任せません。何度かきれいに成功するから、つい任せる範囲を広げたくなるんですよね。
📦 ナプキンは6,000枚。でも肝心のパンがない
営業が続くにつれて、Monaの発注に妙なものが混じり始めました。
代表的なのが、6,000枚のナプキンと22.5kgのトマト缶です。ナプキンはいずれ使うでしょう。ただ、小さなカフェに6,000枚です。「腐らないから大丈夫」と言われても、まず置き場所に困ります。
トマト缶はもっと困ります。当時のメニューには、まとまった量のトマトを使う料理がありませんでした。海外動画では、ほかにも3,000枚のゴム手袋や、コンロがないのに大量の卵を注文した例が紹介されています。
その一方で、毎日必要なパンの発注は安定しません。前に頼んだことを忘れて重ねて注文したり、反対に締め切りを逃してパンが届かなかったり。
店にはナプキンとトマト缶があふれているのに、売るためのパンがない。
文章だけ読むと、やはり笑ってしまいます。ただ、現場で働く人からすれば笑い話では済みません。届いた箱を運ぶのも人間ですし、置き場所を作るのも人間。パンがないことをお客様へ説明するのも人間です。
では、なぜこんなことが起きたのでしょうか。
人なら倉庫を見て、「まだ先週の分が残っている」と気づきます。注文履歴を見て、「明日届く予定だから、今日は頼まなくていい」と考えます。コンロがなければ、「この卵、どうやって出すんだろう」と手が止まるはずです。
AIには、この“なんとなく変だぞ”という感覚が自動で備わっているわけではありません。在庫、注文履歴、納品予定、設備、予算。それらがきちんとつながっていなければ、その瞬間だけもっともらしい判断をしてしまいます。
🧠 AIは一回きりのお願いには強い。毎日の仕事は話が違う
この話を自分たちの仕事へ置き換えると、急に身近になります。
たとえば、次のようなお願いならAIはかなり頼りになります。
- この商品を紹介する文章を3案作って
- お客様への返信を、失礼のない文章に直して
- 会議メモから、次にやることを一覧にして
- 教室のお知らせを初心者にも分かる言葉にして
必要な材料をその場で渡せますし、出来上がったものを人が確認できます。少し違っていても、公開前なら直せます。
ところが、「これから毎日在庫を見て、必要な商品を判断して、予算内で注文し続けて」と頼んだ瞬間、必要な情報が一気に増えます。
昨日の注文。今ある在庫。商品の減り方。次の納品日。保管場所。今月あといくら使えるのか。
一つでも見落とせば、判断はずれます。ChatGPTやGeminiとの長い会話で、「さっき伝えた条件が抜けているな」と感じたことはないでしょうか。文章なら書き直せば済みますが、それが発注や送金だったら、修正だけでは済まない場合があります。
だから私は、AIに何ができるかを考えるより先に、間違えたときに何が起きる仕事なのかを考えた方がよいと思っています。
失敗しても下書きを捨てれば済む仕事と、実際にお金や商品が動く仕事。同じ「AIに任せる」でも、重さはまったく違います。
✅ この失敗から、私たちが先に決めておきたい5つのこと
1. 最初から買わせない。まずは「候補を出すところまで」
AIが発注候補を作るところまでは任せても、最後の購入ボタンは人が押す。まずはこの形が安心です。
在庫管理なら、「不足しそうな商品と、その理由、推奨数量を一覧にして」と頼みます。メールなら下書きまで。SNSなら予約画面へ入れる前まで。AIの便利さは十分に使いながら、最後の一手だけ人が持っておくイメージです。
一手間増えるように見えますが、全部を人が作るよりはずっと速い。しかも、ナプキン6,000枚を片づける手間よりは、間違いなく軽いです。
2. 「いい感じに」ではなく、止まる数字を決める
「必要な分だけ」「高すぎない範囲で」は、人間同士でも受け取り方が違います。AIならなおさらです。
「1回5,000円を超えたら止める」「月3万円に達したら確認する」「前回の2倍を超える注文は保留する」。このように数字で線を引きます。
もしMonaに「ナプキンは一度に500枚まで」と決めてあれば、少なくとも6,000枚が一度に届くことはありませんでした。AIを賢くするというより、暴走できない狭い道を作っておく感じです。
3. AIの記憶より、確認できる台帳を用意する
在庫は表計算、注文履歴はメール、予算は会計ソフト。人間でも見失いそうな状態なら、AIにもつらいはずです。
現在数、発注済み数、納品予定日、上限数。このあたりを同じ場所で確認できるだけでも、判断はかなり変わります。
「AIなら覚えているだろう」と期待するのではなく、忘れても必ず見直せる場所を作る。地味ですが、私はここがかなり大事だと思います。
4. お金・公開・お客様対応には、人の確認を残す
私なら、お金が動く操作、外部へ公開する操作、お客様へ直接届く操作には、まだ人の確認を残します。
商品購入、契約、メールの一斉送信、SNS投稿、Webサイトの更新などです。AIが9割準備してくれれば、それだけでもかなり助かります。最後の1割まで無理に手放す必要はありません。
5. 「動いている」ではなく、「結果がよいか」を見る
自動化は、一度動き始めると安心してしまいます。エラーが出ていない。毎日処理されている。だから大丈夫だろう、と。
でもMonaも、止まっていたわけではありません。むしろ、しっかり動いた結果としてナプキンを6,000枚注文しました。
週に一度でも、「無駄な注文はなかったか」「人の修正が増えていないか」「本当に時間が減ったか」を見た方がよいです。動作確認だけでなく、結果確認までして初めて“うまく動いている”と言えるのだと思います。
「任せる・確認する・まだ任せない」に分けると考えやすい
難しい仕組みを作る前に、普段の仕事を三つに分けてみると考えやすくなります。
- 任せる：文章のたたき台、要約、アイデア出し、情報整理
- 確認して使う：見積書、予約投稿、発注候補、お客様への返信
- まだ任せない：高額決済、重要な契約、個人情報を含む判断、最終的な責任判断
もちろん、仕事によって境界は変わります。「絶対にこの分け方が正しい」という話ではありません。
ただ、「全部任せる」か「怖いから何も使わない」かの二択にしなくてもよい、ということです。下準備はAI、最後の判断は人。この組み合わせだけでも、仕事はかなり楽になります。
ナプキン6,000枚を見ても、AIは使えないとは思わなかった
ここまで失敗ばかり書きましたが、私はこの話を見て「やっぱりAIは仕事に使えない」とは思いませんでした。
Monaは、開店準備の整理、求人文の作成、仕入れ先とのやり取りなど、実際にいくつもの仕事を進めています。Andon Labsの公式ページを見ると、カフェも現在まで営業を続けています。海外動画のタイトルにある「破産寸前」という言葉だけで、実験全部を失敗と決めるのは少し違う気がします。
むしろ面白いのは、AIが得意なところと、急に危なっかしくなるところが、これほどはっきり見えたことです。
文章を作る。情報を整理する。候補を並べる。ここはどんどん手伝ってもらう。一方で、記憶が積み重なる仕事や、現実のお金が動くところには、人が確認できる仕組みを置く。
AIを「何でも任せられる店長」にしようとするより、仕事の速い相棒だけれど、たまに盛大な勘違いをするくらいに考えておく方が、今はちょうどよいのかもしれません。
少なくとも、AIに「全部よろしく」と言って帰るのは、もう少し先です。帰る前に、一度だけ倉庫をのぞいておきましょう。ナプキンの箱が天井まで積まれてからでは遅いですからね。
🤝 AIを仕事で使ってみたい方へ
SCROOMでは、ChatGPTやGoogle Geminiなどの生成AIを、実際の仕事や発信へどう取り入れるかを一緒に考えています。
「便利そうだけれど、何を頼めばよいか分からない」
「自分の仕事では、どこまで任せて大丈夫なのか知りたい」
「文章作成の次に、もう少し実務へ踏み込んでみたい」
そんなときは、普段やっている作業を一つ持ってきてください。いきなり大きな自動化を作らなくても大丈夫です。時間がかかっているところを見つけて、AIに任せる部分と、人が見た方がよい部分を一緒に分けるところから始められます。
今回参考にした実験の詳細は、Andon Café公式ページと、Andon Labsの公式記事でも確認できます。