【対談記事】AI研究の生き字引に聞く！（後編）——AIエージェントの未来と、人間に求められること

 

でじどうラジオは、株式会社フィンチジャパンが配信する、AIエージェントと人が“共に番組を運営する”新感覚の実践型トークシリーズです。「答えるAI」ではなく、番組制作に実際に関わるエージェントを“デジタル同僚”として取り上げることで、「人とAIがどのように一緒に働くのかを体感的に知る」ラジオです。
本記事はフィンチジャパン代表高橋とひげおぢによるポッドキャスト『でじどうラジオ』へ日本のAI黎明期を知る インフォグリーン株式会社の竹原司さん と、第二次AIブームを現場で経験した 辻野孝一さんをお招きしたゲスト回の対談記事です。
「AI前史」を知るお二人から、ディープラーニング誕生以前の研究背景と、いまの大規模言語モデルがどのように生まれたのか、その本質について伺いました。

中編はこちら：https://www.finchjapan.co.jp/interview/6472-2/

エージェントの限界—「作業手順書を書いている状態」

辻野：今のいろんなフレームワークを使う時には、中の手順を一生懸命人間がローコードにしろノーコードにしろ組み立てないといけないですよね。これって作業手順書を書いている状態なんです。その領域では効果があるでしょうけど、費用対効果で見ると、まだまだ少ない。

ひげおぢ：しばらくは「定型業務をやらせるのがAIエージェントだ」という時代が続くと思いますか？

辻野：現時点ではそうでしょうね。

竹原：今はそれしかできないでしょうね。ただ、それをやるにしても、全部業務ごとに違うから、それを作るためのコストがかかる。単にAIを持ってきたら全部勝手にやってくれる、という話とは全然違っていて、さっき言ったルールベースの部分を人が作らなければならない。AIは単に文字を入れたら文字を返すことしかできないから。そのルールも業務ごとに全部違うんですよね。

ちゃんと業務の流れを分析して、矛盾のないルールを作らない限りは終わらない。そういう業務が発生したら、果たしてそのコストはどうなのかという話になりますね。

代替される仕事—プログラミングとコーダー

ひげおぢ：生成AIが人間の仕事を奪うケースとしては、企画書を作ったりする能力とか。

高橋：あと調査ですよね。

ひげおぢ：そうです。調査はディープリサーチにやらせればいい。他に代替される仕事というと、何がありそうですか？

辻野：プログラミングですよね。特にアメリカではレイオフの話も出ていますし、プログラミングがかなりできるようになっている。バイブコーディングとか自動プログラミングとか言われているやつですけど、これも何を作れというのを人間が指示しないといけない。

ひげおぢ：全部今日の話はそこに戻ってくる（笑）

辻野：ということになると思いますので、日本のITゼネコン的な世界でいうと、一番下の「コーダー」と言われている人たち、ここはかなり影響を受けるでしょうね。

竹原：コーダーはこれまでの10分の1以下、いやなくてもいいくらいですよね。いわゆるSEと言われる人たちがコーダーの代わりにAIを使ってコーディングする。ただ、SEの人も出てきたコードを理解できないと完成まで持っていけないから、プログラミングの知識は要りますよ。でもコーダーが下に20人いたとしたら、おそらく1人か2人でいいという……がんっと減りますよね。

辻野：ウォーターフォールモデルでシステムを作っている時の、一番最後のコーディングをする人って、すごく定型判断業務ですよね。ドキュメントがあって、その通りに作る。何を作るかは仕様で決められているわけですから。案外、定型判断業務であって、ある意味そんなに知識がいらない。そんな感じがしますね。

生成AIの「気が利く」と「お節介」

高橋：先ほどから「教えなきゃいけない」とおっしゃっていますけど、私が使っている感じだと、確かに「こういう企画書が欲しい」とは言わないとやってくれないけど、ここ1年くらいは出てくるものが結構気が利いていて。2行しかプロンプトを入れていないのに、1ページくらいのパワーポイントにしてくれたりする。

その気が利く範囲が、ちょっとした若手社員よりも気が利くので、人に教える効率と比べると、Geminiに一生懸命教えた方が戻ってくるものが大きいんですけど（笑）

辻野：かもしれない（笑）

竹原：要求してから出るまでの時間が一瞬ですからね。しかもいつ使っても、夜中でもいい。

高橋：そうなんですよね。最近、GeminiとGensparkというパワーポイントを作れるサービスを組み合わせると、夜中に30枚、40枚簡単に作ってくる。本当に教えがいがあるというか……。

竹原：私もパワーポイントをよく作るんですけど、こっちが言っていないことまで提案してくる。

辻野：それがかえって迷惑で（笑）。いろんなところで指示を入れるようにしています。「元々のやつをなるべく変えないでね」とか、「複雑にするな」とか、「シンプルに考えて」とか。やらないと「小さな親切、大きなお世話」をどんどんやってくるので。

竹原：提案書をやらせると、勝手に導入のステップとか出してくる（笑）

高橋：そうそうそう（笑）

竹原：そんな数字をちょっと出すのは逆にまずいですよね。

高橋：こないだ僕も提案書を作ってって言ったら、最後に金額まで出してきた。

ひげおぢ：根拠のない金額（笑）

高橋：そう、根拠のない金額をね。

マイクロマネジメントからMBOへ—エージェントの進化

辻野：こういうのとエージェントの関係で言いますと、普段の業務でも、詳細に指示をして「あれして、これして」と指示書を出してメンバーに頼むというやり方、これは繰り返しになりますが定型判断業務なんです。
それとある意味対極として、マネジメントの世界でよく言われるのが「目標による管理」、MBO（Management：by：Objectives）というやつです。

ひげおぢ：大企業では結構やっていますよね。半期や1年で目標を出して、今何をどうしてゴールがこうだって。よく言われるのがゴルフ場のグラウンドキーパーの例です。グリーンを整備する仕事で、マイクロマネジメントだと「毎日何時に水をやって、草刈りをして、この日にはこういう肥料をやって」と細かく指示する。MBOの考え方だと「最後のグリーンの状態がこうなるようにしてください、あとは任せた」となる。

辻野：これがMBOなんですよね。一方、今のフレームワーク等のエージェントは指示型で、MBOにはなっていない。だからこれから先は、目標を示して、方策はエージェントが考えて、目標に合うようなやり方を作り上げるという世界に入っていく。もう入っているでしょうね。

高橋：今後はそういう風にエージェントもなっていく可能性がある？

辻野：どころか、もう既にその萌芽が出ています。例えばAutoGPTというエージェントフレームワークがあるんですけど、目的を理解して分割して、計画を立てて、外部ツールと連携して評価していって、目標に合致しなければグルグルやり直す、というのが出てきていますから。

高橋：リサーチをしてくれるAIのように、「こんなの調べて」っていうと「こういう手順でこんな風に進めていいですか？」と一回確認が入って、「いいよ」っていうとワーッと調べてくれる、みたいな。

辻野：そのコンセプトがウェブアプリやGPTにどんどん取り入れられていますから。1週間、2週間、3週間のレベルでどんどん進化している。自律的エージェントの考え方が、ウェブアプリとしてもどんどん取り込まれてきている。その方向であることは間違いない。

高橋：今はちょうど過渡期で、少し作業の指示を細かくすれば動くけど、徐々に学習されてくると、ある程度目標を与えると、自分で作業指示書も作って自律的に動くというのは、おそらく技術的にはできてくるし、近い将来そうなる。

辻野：その方向にどんどんなる、確実に。ちょっと前まではChatGPTが会話履歴を記憶しているだけだと思っていたのが、どうやらその会話履歴をベクトル化して記憶しているというレベルにまできている。履歴をパターンとして並べるだけでどんどん増えていくので圧縮しないといけないんですが、個人用に覚えている形になってきている。これも日進月歩ですよね。本当の日進月歩の状態です。

竹原：リサーチする力があるんだから、例えばグリーンの芝を良くしなさいと言ったら、その方法を調べてきて、手順を勝手に考えるということは多分できますよね。

AIへの感情移入—「ありがとう」と言ってしまう

高橋：私もGPTを使っていて、結構気の利いたことをやってくれて、自分の欲しかったものが来た時に、うっかり「ありがとう」って打ったりするわけですよ。すると向こうは「そんなことないですよ」とか言ってくれるんだけど、その繰り返しをしていくと、だんだん感情移入が……錯覚ですけどね。「ありがとう」と言わなくてもいいのに、自然に打っちゃった（笑）

今後エージェント型になって自律的にやってくれたりすると、「ありがとう」とか「悪いね」とか日常的に打ってしまいそうで、なんでこんなに感情移入するのかなと自分でも不思議なんですよ。

竹原：それが本当にロボットになって、身体も持っていて、感情を出したら、もう区別できなくなりますよ。今ね、中国のXiaomiが作ったロボットの動き、見ました？人間と全く変わらない。区別できない。関節の自由度をこれまでの何倍かに上げているらしくて。

辻野：そこはクールになる必要があって、ただ単にモーションキャプチャーでプレイバックしているだけかもしれませんよ（笑）

竹原：散々言われていたけど、でも一応ロボットがああいう風に動くのも確かにね。

辻野：とは言いながらも、ロボットの動きも人間が学習させていますよね。映画のCGがそうじゃないですか。あの動きは人間がマーカーを付けてモーションキャプチャーでやっている。1からコーディングしてシステムを作るのはすごく大変なので、もうモーションキャプチャーですよね。いわゆる人間が作ったデータを学習する、強化学習型のパターンだと思います。

竹原：ロボットはCGのシミュレーション空間ができていて、その中で試行錯誤をするんですよ。現実世界の複製を作って、それでデータを作っているから、いちいち人がこうやって教える必要がない。この目的を達成しようとしたら、シミュレーション空間の中で物理法則も全部入っているから、そこで何万回も繰り返して一番いい方法を見つけちゃうんですね。

辻野：竹原さんは結構楽観的ですけど、私はどちらかというとかなり悲観的です。

AI依存のリスク—「人間が滅びる」可能性

高橋：ニュースで、GPTと結婚しましたという女性が結婚式を挙げたという話が一時期話題になりましたけど、まさに感情移入の最たるものですよね。どんどん感情移入をして、それが物理的にロボットのように、動きが人間と区別がつかなくなっていった先で、しょうがないというか、錯覚だけど感情が上回ってくるのでしょうか。

竹原：ロボットもそうですね、結局自分が一番望ましい対象を作っちゃうじゃないですか。でも普通、人間はそうじゃない。思い通りにいかないからこそ人間は成長するんでね。自分の望み通りのパートナーを作っちゃって、その対象としか話をしないとなると、人間は多分それで滅びますよね。

他の人と話ができなくなります。一番自分のことを分かってくれて、「そうそう」としか対話しないから。なんていうの？究極のマザーコンプレックス、ファザーコンプレックス（笑）

高橋：そういうことですよね。

竹原：一種の麻薬みたいになりますよ。一番分かってくれるから、逆に他のコミュニケーションを遮断しちゃう可能性がある。人はややこしいからね。

高橋：これ本当にやばいですよ。

竹原：やばいですよね。依存症です。

ひげおぢ：昨日かおとといに見たんですけど、趣味で能動的に体を動かすことをだんだんやめて、結局余暇で何をしているかというと動画を見ている。自分とデジタルしかない関係で時間を潰すようになっているらしくて。その流れでGPTと時間を潰すというふうに、他者がいなくなる状況というのは、実はもうすでに始まっていますよね。

辻野：どんどん増えていると思いますよ。動画の生成もかなりの水準にきていますから、出力に動画を出してくるような生成AIも早晩出てくるでしょうから。

竹原：最後あれですね、映画のマトリックスですね。完全に脳の中に情報だけが残って、現実世界が一切分からない状態になるというのに近づいていますよね。AIって人間を滅ぼす可能性があると僕は思いますよ。

高橋：そのくらい技術的に。

竹原：中毒しないようにしないと。こっちの方が絶対いいですからね。楽だし。

ビジネスとしてのAI—「正解は人間が作る」

ひげおぢ：ゴールとしては、こうやって人と対話して、ちゃんとAI以外と会話しなさい、と（笑）

辻野：そうは言ってもいろいろ議論は必要でしょうけど、ビジネスで見ればいかに使いこなすかというところに尽きると思うので、そう簡単に使いこなせるものではないという現状ですよね。

繰り返しになりますけど、正解は人間が作っているんです。人間が作らないといけない。：企業の中でいろんなノウハウや過去のトラブル事例を何とかしたいとか、いろいろあると思うんですけど、それってコンテンツ、正解や資料は人間が作らないといけない。

竹原：しかし、正解を作るためには人間は経験がないとできないですよね。一度正解を作ってAIに渡しちゃうと、人間は経験できなくなる。新入社員の教育をどうするかって話で、生成AIが代行するようになると、人を教育する必要がなくなっちゃうから、将来AIに教える立場の人が出てこないってことになりそうですよね。

高橋：今ってAIは自己学習はしていないんですか？自分で調べて学習するってことをやっていなくて、基本は人が教えている？

竹原：どうなんだろうね。やろうと思えばできますので。

高橋：勝手にネットを調べに行って学習することは技術的にできるんでしょうね。ただ、そこに倫理観というか、これを学んじゃいけないものとか。

辻野：やっぱりインストラクションをしないといけないですよね。指導しないといけない。

竹原：ネット上はもう何でもありですからね。AIを規制しないと人類が滅びるとなった時に、何らかの共通ルールを作っていくしかないかな、と。

辻野：ヨーロッパあたりは結構その辺を規制しようという議論が随分出てきているようですけどね。

高橋：例えば生成AIがネット上で、戦争を擁護するようなページもあれば戦争反対のページもあって、両方にアクセスできた時に、AI自身はそれをどう判別するのか、あるいは意見を持つようになるのか。

竹原：多分ほっとけば多数決ですね。単なる統計処理だから。

高橋：そうか、ネット上に反対が多ければ……

竹原：現状まだこっちの方のデータが多いからまともになっているけど、悪い人が増えたら当然そっちに傾いてきますよね。何のチューニングもしなければ。

AI時代の人材育成—若者とベテランの逆転

ひげおぢ：余談なんですけど、若い人が生成AIを使うようになると結局生成AI頼りになって考える力がつかないという話がありますよね。でもおじさんから見ると、若い人のプロンプト、お願いの仕方がなっていないんですよ。

なので今、若手には「何を聞くべきなのかをきちんと考えなさい」と言っています。生成AI頼りになるという面もあるんですけど、やっぱり人間が考えるということが、より一層精緻化されるというか、そこが本当に重要になるなという感じがしてきました。

結局、若い人に求められるものが変わってくる。指示を受けたらやるんじゃなくて、どういう指示を出さないといけないのかを必死で考えなさい、という話が増えてきました。

竹原：それはいろいろ経験しないと出てこないし。

ひげおぢ：そうなんです。考えろと言っても考える材料がないから。我々ベテランには追い風が吹いていると思っています（笑）

この生成AI時代を一番乗りこなせているのは、我々以上の先輩世代なんじゃないかと。

辻野：とある人が言っていたんですけど、現代はシステムが高度化・複雑化しているから年寄りの出番だ、と。この世界で50年くらいうろうろしていますから、昔からの広く深くいろんなことを知っているわけです。若いと大変だと思いますよ。

竹原：プログラムのシステムなんて屋上みたいなもんでしょ。その下にハードウェアから始まって何層もある。今いじれるのは上の方しかできないじゃないですか。中のことは全く分からないし、本当は分かっていないと、上をどうしたらいいかも分からないんですよ。表面的な話ではできませんからね。ただ、この蓄積を全部学習するのはなかなか難しいですよね。時間もないしね。

ひげおぢ：規制論で言うと人間が間違った方向に行くという話と、人材育成で言うと「20代は生成AIを使わないで仕事した方がいい」みたいなところもあるのかもしれないですね。

辻野：時代に即した教育プログラム、教育法というのが必要ですね。

竹原：大学を出た人の方が失業率が高いんですよ。肉体労働の方がまだ仕事がある。今の日本の一般論で、子供を学校に行かせるんだったら超天才なら別だけど、そうじゃなかったら大学に行かないで直接技能をやった方がいいと言われているわけですよ。中途半端に学校に行って勉強しても全然意味がない。

ひげおぢ：AIに負けちゃう（笑）

生成AI時代の教育—ビジネスチャンスはここにある

辻野：ビジネス的な視点で言うと、ここに結構チャンスがあるかもしれませんよ。生成AI時代の新人教育法とか、生成AI時代の人材育成法とか、生成AI時代の学校教育法とか。教育学、人材育成、ここにひと山あるかもしれませんね。

ひげおぢ：この前のポッドキャストでもそういう話題になったんですよ。

辻野：今話をしていてすごく思います。

竹原：これね、今の親はみんな悩んでいます。子供に何を教えればいいのか。

ひげおぢ：ぜひテーマにしたいですね。この時代に適した人材育成はどういうものか。

辻野：これも歴史的にそうなんでしょうけど、こういうフレームワークを作るのは日本ってすごく下手ですよね。大体アメリカが多い。直近だとマインドマップとか、KT法とか、各種コンサルティング会社のフレームワークとか。日本人は不得意で、全部が属人的な仕事の進め方になっている感じがします。

とは言いながらも、日本の企業や人材、人の行動様式に合った生成AI時代の人材教育法というのは、悩ましいしニーズはあるし、いい学校を立ち上げればビジネスになるかもしれない。

ひげおぢ：今日の話の中で、属人を突き詰めた方が、自分のやり取りを生成AIが記録するから、よりいいパートナーになるという話がありました。実は日本的な属人を個人で突き詰めた方が、短期的にはその人が一番エージェントを使いこなせるんじゃないかという気もしています。

一方で、もうちょっと広く人生を見ると、それだけだと行き詰まるところもあるので、どうバランスを取るかという問題はありますね。

バイブコーディングとプログラミングの未来

辻野：身近なところで言うと、バイブコーディング、プログラミング、コーディングという作業は早晩誰もやらなくなる可能性がありますけど、バイブコーディングのやり方のオンラインレクチャーが今大流行ですよね。そういう部分はビジネスになる。

竹原：プログラム自体を知らなくて、本当に問題が起きないのかな？

辻野：起こらないんでしょう。

竹原：そうなっちゃうと、全然プログラムを読めなくてもブラックボックスでいいという世界になりますか？

辻野：いや、できたコードから解説してもらえばいいんで。私もバイブコーディングやっていますけど、結局くだらないコードを書いてくるから、「このコードを説明してくれ」と言って、「これはどういう意味？」とか理解するところでやり取りしている感じです。

ひげおぢ：間違ったプログラムを書いてきて、「それはどうしてそうなるんだ？」と遡って遡ってというふうにしないと、結構間違いますよね。

竹原：結局コードを書かなくなれば、自然言語で指示するしかないわけですね。丸ごとお願いするしかない。

来年1年、どう過ごせばいいのか

ひげおぢ：最後にこのポッドキャストを締めたいと思いますが、「これからどうしていけばいいか」だと広すぎるので、来年1年、どうやって過ごせばいいですか？

辻野：結論としては、もう必死になってついていくしかないですよね。来年なんて話を誰もしていないと思いますよ。いつ新しいものがリリースされるか、継続的に変わっていますから、そこについていくしかないでしょうね。

竹原：ビジネスにしろ起業にしろ、AIに判断を委ねるようになるのはもう間違いないんで、それを使わないと競争に勝てない。じゃあそれをやるためには、やっぱりさっき言ったようにデータが大事だから、まず自分のところの会社なり組織なりを説明するデータをちゃんと集めて、それをいかに定義するか。そこに投資する意味があるんであって、それさえできれば、どんなAIも使えるわけですから。

今言えることは、データをちゃんときれいにする、集める、整理することが企業にとって一番大事かなと思います。

ひげおぢ：ありがとうございます。実はもうかなり長い時間、1時間以上お話をいただきました。ぜひ来年また答え合わせで、この1年がどうだったかというのを年末にお越しいただいて振り返りたいですね。

それまでに我々は、生成AI時代の人材育成をどうするかという話を考えるというところをやればいいかなという印象でした。長々とありがとうございました。改めて竹原さん、辻野さん、ありがとうございました。

竹原・辻野：ありがとうございました。

 

【でじどうラジオ】