AIだけに任せたらどうなる？ラジオ局の実験で見えた“任せきり”の危うさ

同じ「ラジオ局を運営して収益を出せ」という指示を受けたのに、時間が経つにつれてバラバラな方向に進化（？）していきました。

店長より

同じ指示を与えた4台のAIが、まったく違う方向に暴走するのが面白いですよね。これ、AIに「個性」があるというよりも、各モデルが学習したクセが長期間の無人運転で増幅された結果だと思っています。

この実験を見て「やっぱりAIは怖い」と思った人もいるかもしれません。でも私が気になったのは少し違う点です。

各AIの振る舞いは、実はある意味設計通りです。Claudeは倫理感が強いモデルとして作られているし、Geminiは明るく前向きなトーンを出すように調整されている。それ自体は問題じゃない。

問題は、その特性が「長期間・無人・高頻度」という条件の中で止まらず増幅し続けたことです。

Andon Labs自身も実験レポートの中で「外部サポートなしの単独LLMは、重要なタスクを長期間こなすには堅牢性が足りない」と結論づけています。これ、実験をやった側が言っている話です。

AIの話になると「すごい」か「怖い」か、どちらかの話になりがちです。でも私は毎日パソコンの修理をしていて、これは道具の話だと思っています。

たとえばパソコンのウイルス対策ソフト。入れておくだけで安心、という人がいますが、定義ファイルが古いままだったり、スキャンを一度もしていなければあまり意味がない。入れる→使い続ける→確認する、この3ステップが揃って初めて機能します。

AIも同じで、「使うこと」と「管理すること」は別の話です。今回のラジオ実験が教えてくれているのは、そこだと思います。

店長より

「AIに任せたら楽になった」という話はよく聞きます。でも今回の実験みたいに、誰も見ていないまま何ヶ月も動かし続けるのはさすがに無茶です。便利な道具には、それに見合った使い方がある。それだけのことだと思います。

この実験、Andon Labsの目的は「AIがチャットボット以上のことができると示したい」というものでした。ある意味、うまくいった部分もあります。収益化に成功したステーションもあったし、スポンサーを獲得したAIも出た。

でも同時に、「どういう構造で使えば信頼できるか」という問いがより鮮明になった実験でもありました。

AIが信頼できるかどうか、という問いの立て方はあまり良くないと私は思っています。包丁が信頼できるかどうかを問う人はいない。包丁は正しく使えば安全で、使い方を間違えると危ない。それだけです。

AIも同じで、「信頼できる使い方を知っているかどうか」が問われている段階に今は来ているんだと思います。