ヒトとAIの境界線はどこにあるのか:能力の拡張、組織の変容、そして人間に残る「自由と責任」
PIVOT 公式チャンネル急速に発展を続けるAIは、これまで人間固有のものと考えられていた創造性や専門的な思考領域にまで踏み込みつつある。AIと人間の究極的な違いはどこにあるのか、そして知能の大部分が機械によって代替可能になった世界で、人間に残る本質的な役割とは何か。株式会社Preferred Networks(PFN)の共同創業者であり代表取締役社長を務める岡野原大輔氏が、近著『ヒトとAI』の知見をもとに、AIの技術的特性、組織や社会の構造変化、そして人間にしか担えない「自由と責任」について語った。
物理的存在としての人間と、複製可能な知能としてのAI
AIと人間の究極的な違いについて、岡野原氏は「未だに明確な答えが出ていない問題である」と前置きしつつ、物理的な条件の差異を指摘する。
人間は肉体と不可分に結びついており、不可逆な時間の流れの中で始まりと終わり(死)を持つ。さらに、個体をそのままコピーすることはできない。一方、現在のAIはそのような制約から完全に切り離されている。いくらでも複製が可能であり、物理的な意味での「死」も存在しない。それにもかかわらず、人間と同等かそれ以上の知能を持ち、判断や処理を実行できる存在として立ち現れている。岡野原氏は、人間側から見れば、AIは「宇宙人のような存在」になりつつあると表現する。
また、感情の有無についても、人間と全く同じ生体メカニズムで実現されるかどうかは別として、他者の感情を推定したり、感情的な反応をシミュレーションしたりする能力については、AIはすでに高い精度で実行可能であるとの見方を示した。
継続学習の壁と「経験の厚み」:抽象化能力の差
技術的な観点において、現在のAIが抱える本質的な課題の一つとして「継続学習(破滅的忘却)」が挙げられる。人間であれば、算数を学んだ後に自転車の乗り方を覚えたとしても、算数の解き方を完全に忘れてしまうことはない。しかし現在のニューラルネットワークでは、内部の結合パラメータ全体が密接に影響し合っているため、新しい知識や技能を追加で最適化しようとすると、過去に学習した調整が壊れてしまう現象が起こりやすい。
岡野原氏はこの問題について、人間が実現できている以上、技術的・工学的な工夫によっていずれ克服される可能性が高いとみる。現在でも、コンテキスト(文脈情報)をプロンプト等として入力することでその場の挙動を適応させる手法が進展しており、この制約自体が恒久的な弱みであり続けるとは限らない。
一方で、人間とAIでは「学習における経験の質」に大きな隔たりがある。人間が何か一つの事象を経験する際、そこには過去の全人生の履歴という時間的な厚みがある。さらに、言語情報だけでなく空間の知覚、身体感覚、内発的な情動など、多様な情報が同時に統合されて記憶や知識が更新される。対して現在のAIの学習は、いわば断片的な「ショート動画」を大量に集積したような状態に近い。
人間は、ごくわずか1、2例の経験から因果関係を見出し、「こういうことではないか」と見通しを立てる抽象化能力が突出して高い。AIは膨大なデータ量と具体的な事例を与えられて初めて汎化できるケースが多いが、人間は限られた初見の状況からでも概念を抽象化し、未知の事態に対応できる。
ただし、この差も絶対的な境界とは言えないと岡野原氏は指摘する。たとえば自動運転技術において、個々のドライバーが一生のうちに重大事故を経験することは稀だが、世界中を走る無数の車両から事故データを集約すれば、個人の経験を超えた知見を蓄積できる。人間が行っている抽象化のプロセスも物理法則や情報処理の範疇にある以上、長期的な時間軸で見ればAIが追いつく可能性は否定できないという。
言語の獲得と「自由・責任」の所在
人間にとって、思考を深め、まとめ、他者へ伝達する上で「言語」は決定的な役割を果たしてきた。初期のAIは限定的な領域でしか機能しなかったが、大規模言語モデルの登場により、自然言語を精緻に読み解き、活用できるようになったことで急速に汎用性を獲得した。数百ページから千ページに及ぶテキストを瞬時に読み込み、要約して論点を提示する処理能力においては、すでに人間を凌駕している。文章生成における不自然さや紋切り型の表現についても、人間のフィードバックを受けて改善されていくため、解消されるのは時間の問題であると岡野原氏はみている。
では、言語能力や高度な推論がAIに実装された後、人間側に最後に残る決定的な要素は何なのか。岡野原氏はそれを「自由と責任」に見出している。
岡野原氏は、本書の中で自由と責任について次のように定義を試みている。
- 自由:不可逆性を伴った選択を引き受け続けること
- 責任:その選択によって生じた結果を、その後も自身の判断として引き受け続けること
単に選択肢の中からどれかを出力するだけであれば、乱数を発生させることやアルゴリズムによる最適化でも可能である。しかし、それは「自由意志」とは呼ばない。複数の可能性の中からあえて一つを選び取り、その結果に対して継続的に向き合い続けることこそが自由であり、そのプロセスと不可分なものが責任である。
AIはアルゴリズムとして推薦や判断の出力を提示できるが、その結果に対して責任を負うことは原理的にできない。たとえば、AIの出力に従って採用や企業経営の意思決定を行い、それが破滅的な結果を招いたとしても、AI自身が法的・倫理的な責任を引き受けることはない。人間の社会においては、行為の結果が特定の個人や法人に「コミット(刻印)」され、その主体が将来にわたって賠償を行ったり、対策を講じたり、あるいは記憶を背負い続けたりすることで秩序が維持されている。
高度なAI社会になっても、誰かが決定の不可逆な結果を引き受けなければ社会は成り立たない。自動運転における事故責任を事業者が負い保険制度で補償するような枠組みも含め、最終的に結果を自らのものとして背負う「人」または「法人」の存在が、社会システムの不可欠な結節点であり続ける。
専門知識と「自分自身の評価軸」を保つ重要性
AIがあらゆる領域で高度な専門知識を持ち、最適な提案をしてくれるようになると、人間の側が自律的な判断力を失ってしまうのではないかという懸念が生じる。これに対し岡野原氏は、専門家と接する際の態度を例に挙げて説明する。
医療や金融の分野で専門家に相談する際、相手が優れた知識を持っていても、誤謬や悪意によって騙されるリスクは常に存在する。そのため、受ける側には専門家の発言を検証し、疑いを持った上で判断するリテラシーが求められる。AIに対しても同様の姿勢が必要となる。
さらに重要なのは、何を良しとし、何を望むのかという「価値観」や「評価軸」そのものをAIに委ねてしまわないことである。評価軸まで外部化してしまうと、人間はAIのアルゴリズムに振り回されるだけの存在になってしまう。AIと建設的に協働するためには、判断の妥当性を検証できるだけの専門知識を人間側も保持しつつ、哲学や倫理に根ざした自前の軸を持ち続けることが不可欠となる。
組織の変容:実行の分散と判断の集約
AIエージェントの普及は、実務の進め方や組織構造にも大きな変化をもたらしている。ソフトウェア開発の現場ではすでに、人間が自らコードを書く時間は減少し、複数のコーディングエージェントに対して「この機能を実装してほしい」「調整してほしい」と指示を出す形態へ移行しつつある。
ここでは「実行は分散し、判断は集約される」という現象が起きている。無数のエージェントが並行して作業を実行(分散)する一方で、生成された成果物を統合し、本番環境に反映させるかどうかの最終判断(集約)は人間が引き受けなければならない。
この変化は、企業組織のガバナンスにも影響を与える。従来、経営者が担ってきた統合機能がどのように変わるかについて、岡野原氏は「二極化が進む」と分析する。
AIエージェントを動かすための計算資源や資金力を持つ主体には、従来であれば大規模な組織を動員しなければなし得なかった研究開発や事業展開を、ごく少数の人員で統括できる権力集中が起きる可能性がある。他方で、AIを活用すれば組織内の全メンバーがどのような判断を下したかをリアルタイムに把握できるようになるため、現場への大幅な権限委譲(分散型決定)を進めつつ、全体の一貫性を保つという新たな経営手法も成立し得る。
経営者一人に見えている世界や価値観には限界があるため、多様な視点を持った個人がエージェントを駆使して自律的に判断し、組織として連携していく重要性は今後も変わらない。
単一の最適化を超えて:人間に残る仕事の領域
「人間は単純作業から解放され、より創造的な活動に専念できるようになる」という言説について、岡野原氏は「楽観視しすぎている」と警鐘を鳴らす。AIは創造的な作業が苦手なわけではない。むしろ、過去の常識や業界の固定観念にとらわれないという点において、人間には思いつかないような創薬の分子構造を設計したり、定石を覆すような着想を提示したりすることが極めて得意である。人間が恐怖やためらいを覚えるような未知の領域に踏み込める創造性を、AIはすでに示し始めている。
また、肉体を使うブルーカラーの仕事が安全であるという見方に対しても、ロボティクスとAIを融合させた「フィジカルAI」の進展があるため、一概に安泰とは言えない。
不確実性が極めて高い未来において、最後まで人間に残り続ける役割として岡野原氏が挙げるのは、以下の領域である。
- 何を優先するかという価値判断
- 不可逆な決定の引き受け
- 長期的な関係の設計
単一の評価関数(たとえば資本効率や利益の最大化など)が定まっている問題であれば、AIが最適な解を導き出すことができる。しかし、実際の人間社会や企業経営においては、目的関数そのものが多岐にわたり、トレードオフや制約条件も人や環境によって異なる。何を目指し、何を優先するのかという前提条件(ポリシー)を定める作業は、正解が存在しないためアルゴリズムでは完結しない。
人間関係の構築や長期的な関係の設計も同様である。どの企業で働くか、誰と協働するか、どのような社会関係を結ぶかといった選択には唯一の正解がなく、ダイナミックに変化し続ける。AIは自己理解や他者理解を深め、自身にかかっているバイアスに気づかせるツールとしては極めて有用だが、その関係性の中で何を選択し、どう生きていくかという「意味の探求」は、人間に固有の営みとして残り続ける。
今後10年のスパンで見れば、現時点では誰も想像していないような新しい職種が生まれ、労働人口の3割から5割がそうした仕事に就いている可能性は十分にある。AI時代において人間が価値を発揮し続けるためには、知識の獲得を放棄するのではなく、AIの出力を批判的に吟味できる知見を備え、他者と複雑でやっかいな議論を重ねながら合意を形成していく能力が、これまで以上に強く求められている。
究極的なAIと人間の違いって、結局何になるんですか?未だにまだ答えが出ていない、人間からするとちょっと宇宙人的な存在に今なってきているのかなと。AIって結局やっぱり責任を取れない。「とんでもない決定をAIが出しました」ということでは社会が回らないので、「人」というところがすごく大きい軸になる。
「人間は単純作業から解放され、より創造的な活動に専念できる」というのは、やっぱりちょっと楽観視しすぎで、人間とは全く違う創造性を持ったものができるかもしれない。
皆さん、こんにちは。PIVOTの佐々木です。今回のPIVOT TALKは「ヒトとAI」をテーマにお話を伺います。ゲストにお迎えしましたのは、Preferred Networks共同創業者で社長の岡野原大輔さんです。よろしくお願いします。
よろしくお願いします。
岡野原さん、今回『ヒトとAI』という本を出されて、これすぐ読んだんですけど、頭のいい人って分かりやすく書くのがうまいんだなと。文章うまいですね。
元々、技術の色んな難しい話を一般の人に向けて解説して文章を書くということは多かったので、今回に関してもそれと同じようなテイストで書いています。
岡野原さんは一言で言うと「日本のアモデイ」みたいな人ですか?言いすぎですか?
いやいや、恐れ多いですね。アモデイはアモデイでかなり尖っているので。
大学院在学中にPreferred Networksを作られて、Preferred Networksは今、何人ぐらいまでになったんですか?
今、グループとして今年500人行くかどうかぐらいの規模ですね。
日本のユニコーンの代表格ですよね。上場するんですか?ノーコメントですよね。
その辺はノーコメントですね。
ノーコメントですね、分かりました。社長にも就任されて、最近も発表されましたけど、国産AIを作るノエトラという会社の共同開発者というか、技術者のトップも務められていますね。
会社が参加してやっている中で、開発に関して私たちPreferred Networksとして参加していて、そこだけじゃなく全体の開発リードを、会社から集まってきている方々と話しながらやっているという感じです。
日本の錚々たる企業が参加している、オールスターみたいな会社ですよね。
各分野を代表するところが集まっているので、どうやって意見をまとめていくのかだとか、我々AI開発側として「ここまではできます」というところと、社会に向けて「こういうのが求められています」というところを合わせていくということが、会社の中で実際に行われています。
複数の社長業やトップ技術者の仕事など色々あって、どう両立されているんですか?
単純に時間で分けていますけど、どちらかというと本を書くというのは完全に趣味というか余暇です。会社経営のところは自分1人ではできないことをやる面白さもありますけども、それに対して1人で突き詰めてやっていく本の執筆などは自己責任で終わるので、それが対照的にいいストレス解消として存在しているのかなとは思います。
今日は本についてですので、言いたいことが言えるということで。岡野原さんは経営者としてはどんな社長なんですか?
タイプとしては、あんまり細かくマネジメントするタイプでは全然ないです。調整役というか、調整しながらも、時々技術的な大きいブレークスルーがあったりしたら、とんでもないことを言い始めるとか、そういった感じなんじゃないかなと思います。
ファイナンスの話とか、人の話、組織の話とか色々あるじゃないですか。そういうのも結構好きなんですか?
元々は研究者出身なので分からなかったんですが、何にでも興味を持ち始めたらはまるので、お金や人、会社成長、事業成長みたいなところも、実際にやってみると本当に面白いところや学ぶところがたくさんあって、そこはそこで面白いと思います。
分かりました。今日はそんな岡野原さんに3つのテーマでお話を伺います。まず最初に「AIと人間」の話、パート2で「AIと仕事・教育」の話、最後は「AIと日本」という話です。
今、AIと人間の話は色んなところで言われているんですけど、結局AIって人間のどこまで置き換わっていくのか、究極的なAIと人間の違いって何になるんですか?
これは未だにまだ答えが出ていない問題です。それを考えるために、私自身も知りたくて本を書いたということもあるんですけども、物理的には明らかに違うところがあります。例えば人間は肉体と紐づいていて、一生が始まりから終わりまであって、しかもコピーできない。将来クローンが出てきたら分からないですけども、コピーできたりしないというのが人間の特徴です。
今のAIに関して言うと、今言ったことは全部関係なく、いくらでも無限に存在できますし、コピーもできる。人間における死みたいなことは、AIにとっては今のところはないにも関わらず、知能などは同じように持ったり判断したりするものになっているので、人間からすると宇宙人的な存在に今なってきているのかなとは思いますね。
クリエイティブなところもできるようになり、感情は結局どうなんですか?
感情も、人間と全く同じような形で実現するかは置いといても、少なくともシミュレーションしたり、他の人がどういう感情を持っているのかの推定はかなりうまくできると思います。
本の中で結構印象的だったのが、学習の仕方が違うと。継続学習が苦手で、新しいことを学ぶと過去に学んだことを失いやすいんですね。
壊れちゃう部分に関しては、どちらかというとまだAIが技術的に未熟な、数少ない残っている本質的な問題のところだとは思います。
例として、「算数を勉強したら、なぜか自転車に乗れなくなってしまう」という、人間には絶対にあり得ないことが起きると書かれていました。
人間だと色んなことを順番に学んでいって、忘れてしまうことももちろんあるんですけれども、基本的に新しいことを学んだからといって過去のものが全て壊れるということは、よほどのことがないと起きないです。
一方でAIの場合だと、記憶の部分が全部繋がってしまっているので、新しいことを覚えると過去うまく調整できていた部分が、例えば新しく自転車の乗り方を覚えるように調整してしまったら、昔の算数ができなくなったりすることが今だとまだ起きてしまうことがあります。
これも時間の問題で克服できるんですか?
人間ができているので、できるんだと思います。
一時的なものと考えるのがいいんですか?
そうですね。もしかしたら、今はAIの方が優れているところもたくさんあって、今言ったような話は実は弱みでもあるけれども、何かトレードオフを取って強みとして出している部分もあるのかもしれないとは思います。
そうしたら、これはこれからそんなに弱みにならないかもしれないということですね。
技術的には、いわゆるコンテキストと呼ばれるテキストをどんどん前につけていって、それを見てその場で挙動を変えるということがAIでできているので、人間と同じではないですけども、エンジニアリングの方で何とかしてしまうというのは進んでいるとは思います。
人間の学習の方ですけど、世界の厚みが分厚いというところは強みなわけですよね。
例えば私が何か新しいことを経験したことに関しては、私の今までの全部の人生の履歴を持った上で経験したという時間的な厚みもありますし、言語だけじゃなくて空間も味わっていますし、自分の中での内発的な感情も起きて、それら全部の影響を受けてアップデートしているというのがあります。
これに対してAIは、本にも書いていますけど、ショート動画のように色んな盤面を断片的に取った上で学習をしているので、そこはやっぱ厚みが違うというのはあると思います。
人は少ない経験から学べるということで、この抽象化能力というのは人間が突出して高いんですか?
異常なぐらい高いと思います。1例、2例でピンと「こういうことだね」と因果関係の見通しを立てて、間違っちゃう場合ももちろんあるんですけども、「原因はこれだね」と見つけてやるということができるのは、今のAIはまだできないです。
逆にAIは圧倒的なデータ量があって、具体例がないと抽象化できないということなんですか?
でき始めている部分もあるかもしれないですけど、人間に比べたらまだまだできないと思います。
本でも書いてありましたけど、抽象化によってバイアスもかかるというのが人間にはあるわけじゃないですか。そうすると、データ数さえいっぱいあれば、AIが行う抽象化の方が正確ではあるということですよね。
可能性としてはありますね。ただ人間が生きている世界は変化が激しいので、例えば会社経営とかまさにそうですけど、ほとんどが初見なわけですね。今のようなAIや半導体がある中で経営判断しなければいけないというのは過去にないわけなので、実世界で生きている場合には、ほとんどがそういう初見のところで対応していくことがあるのかなとは思います。
初見の少ない経験を抽象化していくというのは、これからも絶対に人間にしかできないものなんですか?
人間が今のところは得意で、ただAIが追いついてくるとは思います。人間がやっているということは何らかの方法で実現しているはずなので、物理的に絶対にできないというわけではないです。ただ、それが時間の問題で、次の100年や500年はできないかもしれないというのはあるかもしれないですけど。
自分では初見と思っていても、他ではいっぱい起きていることってありそうですもんね。
例えば自動運転みたいなものを作ろうと思った時に、人の場合だと事故が起きるシーンはほとんどの人が一生経験しないわけです。しかし、車がたくさん走っていれば世界のどこかでは事故が起きていて、その情報を集めれば経験としては貯められます。人間はできなかったような経験も、データ集める形でできればAIもできるというのはあるとは思います。
よく言われる人間の五感みたいなものは、ほとんど置き換えられるんですか?
これにはやはり2段階あって、理論的にはいけない理由がないです。ただ、現実的な時間軸でどれぐらいできるかというのは、すごく時間かかる問題もあれば、今年中にできちゃうというのもあるかもしれないですね。
究極の抽象としての言語の話も非常に面白かったんですけど、言語ってそれぐらい人間の強みなんですか?
間違いなく人間が今これだけ考えたり、考えをまとめたり、情報伝達できているという意味では、言語というのは決定的な役割を果たしていると思います。
でも、AIも言語は何でも詳しいじゃないですか。その意味じゃすごそうなんですけど。
今までAIは、言語を扱える前まではどれだけ学んでも限定的なことしか学べなかったんですけども、今のAIは言語が読めるようになって、ちゃんと読んで理解して活用できるようになったのはここ数年です。そこから急速に色んなことができるようになったのは、言語を扱えるようになったというのが非常に大きいです。
英会話とか完璧に近いですもんね。
言語においても人を超えているようなところ、例えば100ページや1000ページあるような文章をバンと読んで、数秒で要約してポイントを教えるみたいなことは人間にはできないですけども、そういうのはもうできちゃうので。
言語も別に人間の強みではないということですか?
言語だけが人間の強みではないというのは、そうだと思います。
最近、AIによる言語とかスライドが増えすぎてイラッとすることが増えるんですけど、あれも一時的なものですか?もっとナチュラルになっていきますか?
ナチュラルになるのは時間の問題だとは思います。人間がちゃんとフィードバックして「こういうのが欲しいですよ」というのを返すことができていれば、今のようなAIっぽい文章をなくすというのは、みんなやっていくと思います。
結論として、本でも書いているように「自由と責任を担う」、これだけが人間に残るんですか、究極的には?
本でも色々考えてみて、残るとしたらここですし、今後色んなことを考える上でも決定的に重要なところになると思います。
自由と責任の定義がうまいですね。「不可逆性を伴った選択を引き受け続けることが自由で、その選択によって生じた結果をその後も自分の判断として引き受け続けることが責任だ」と。これはご自分のオリジナルの定義ですか?
今のAIと比較した時にどう考えられるのかというところから出てきた話です。自由や責任の定義の話は、私も最初知らなかったんですけども、哲学や法学の分野でずっと議論されていることと接点や関連性はあるというのは分かってきてはいます。
選択をすること自体はAIでもできるじゃないですか。これを「引き受け続けること」が自由ということですか?違いは何ですか?
自由の一般的な意味より、ここはかなり踏み込んだ定義にはなっているんですけど、どちらかというと「自由意志」に結構近いところです。本当にランダムにサイコロを振って出たものを選んでいるのは自由とは言わないと思うんですけど、本当は可能性がたくさんあるのにあえて自分で選んで、出した結果を引き受けるということが自由の定義としてあり得ると。
これは責任もセットで話さないと意味が通じないと思うんですけども、AIって結局やっぱり責任を取れないというのは、感覚的には皆さん持っているかなと。例えばAIが「この人を採用します」だとか「会社でこういう判断をします」というのを出して、やってみてダメだった、言っていることが出鱈目だったとAIを叱ったとしても、AIは責任を取ってくれないですよね。
この辺りの議論を考える上で、人や会社が責任を取るということに関して言うと、金銭的な責任の取り方など色々ありますけれども、究極はその人や法人がその後も残り続けて、「この人はこれをやった人です」という記録が刻まれると。刻まれた上で、その人はその後責任を取って賠償をやったり、対策を考えたり、対策が取れないとしてもその人の記憶に残り続けたりといった形で責任を引き受けることがあります。一方でAIというのは、そういったものを設計するのは基本的には非常に難しいというのが問題として残ると思います。
今後、高度なAI社会になった時、自由と責任を引き受けるのはその事業主体なんですか?それとも事業主体はそこを保留して、「あなたたちがちゃんと見てください」とユーザー側に委ねるんですか?ケースバイケースですか?
事業主体でもあり、その事業主体の中で各個人がAIを使った結果を引き受ける形に実質今はなっているし、今の社会構造からすると今後も残り続けるとは思います。誰かしらが責任を取らないと、出した結果に対して「とんでもない決定をAIが出しました」ということでは社会が回らないので、そこは「人」というところがすごく大きい軸になるという風には思っています。
例えば自動運転ですと、それを作っている事業者が責任を取り、そこに保険をかけると思うんですけど、保険でどうにか回していくみたいな構図になるんですか?
保険などのお金の設計で回るのであれば、そういうことを考えていくことになるとは思います。
自由と責任だけなんですね。
人間側としては「そうじゃない」と思いたいところなんですけども、能力的に見るとAIがやれる範囲というのは、技術的に限定されるものではないと思っています。
自由と責任って、すごい高度なものですよね。これを担う責任は分かりますけど、自由って心地よいものでもあり、大変なものでもあるじゃないですか。だから自由を放棄する人が増えそうですね。
結果として引き受けることにはなると思うんですね。例えば個人であっても、自分がどの仕事に就くのかというところ1つ取ったとしても、AIが自分におすすめを出したとして、仕事をするかもしくは仕事しないという選択肢を取ってもいいですけど、それはその人がやっぱり引き受けることにはなるというのは残るんだと思います。
自由と責任を判断していく能力って、アルゴリズムに頼っていると弱っていくというか、アルゴリズムなしにできるようなものも出てくるみたいですけど、自分の自由責任力を磨くにはアルゴリズムをやめた方がいいんですかね?
AIは基本的に高度な能力を持って、専門的な知識も持った上でやってくれます。この構造って、今までもお医者さんに相談して病気のこと聞いたり、金融の専門家に聞いて「なるほど、この人が言っているから」と受け入れるのと、基本的には同じ構造を持っています。一方で、専門家であっても騙されたりもするわけですね。
なので、その人は必ずしも高度な能力を持つというよりは、言っていることに対して検証したり疑ったり、どんな専門家が言ったとしても疑いを一歩持った上で判断をするというリテラシーを持っていないといけないというのはあると思います。もう1つすごく重要な軸としては、評価軸や価値観を委ねていると、自分の軸が何だか分からなくなり、AIに振り回されているだけになるので、そこの軸をちゃんと持っていくということがむしろすごく重要になると思います。
パート2の仕事や教育のところにも絡みますけど、だからこそ監査できるだけの専門知識を持ち、哲学や倫理の軸みたいなものを持つということですね。
そういう意味でAIと仕事・教育のところに行きたいと思うんですけど、「実行は分散し、判断は集約される」というのはどういう意味ですか?
今のソフトウェア開発でコーディングエージェントというAIを使っている場合が代表例なんですけど、人間はもうほとんど自分でプログラムすることが少なくなってきていて、たくさんのエージェントたちに「こういう実装をしてください」だとか調整を頼んでいると。そこでもうたくさんのエージェントたちが、実行を分散して行っているわけです。
先ほど「誰かが責任を取らなきゃいけない」というところがありましたけども、出した結果の中身は全部見ていないとしても、「これをコミットして本番のソフトウェアのサービスに入れます」という判断を誰かがそこでしなきゃいけない。これが色んなところで起きてくると思います。
岡野原さんはAIエージェントを何人ぐらい使っているんですか?
常にではないですけど複数、1桁ですね。
結構絞ってですね。判断が中心の人に来るということですよね。その意味で、組織の話も面白かったんですけど、「経営者が担ってきた統合の機能が組織の内部へと拡散していく」と。さっきの理屈から言うと判断が経営者に集約されるのかなと思ったんですけど、それは違うんですね。
各個人もエージェントをたくさん使った上でそこでの判断を行いますし、経営者は経営者で自分自身もエージェントを使うと思うんですけど、良くも悪くも各経営者が見ている世界って狭かったり、ある価値観しか持っておらず判断軸が限られていたりするので、集団として色んな人たちの組織を連携してやるというのが残ると思います。
組織の形として、単純化するとトップダウンが強化されるんですか?それともよりフラット型で色んなところで意思決定が行われていて、その意思決定を最終的に統合する役割として経営者がいるみたいな感じで、書かれているように意思決定は分散していくんですか?
これはAIに限らず、分散型で決定していった方がスピード感も出て速いけども、ガバナンスが利いていない状態になって方向が分散してしまうというトレードオフの問題は常にあるんだとは思います。
ただ今までとは違って、今AIエージェントのようなものが出てきて、人では見きれないようなたくさんの量をAIは見られます。「全員が今日どういう判断をしましたか」というのは人では見きれないですけども、数千人ぐらいでもAIならリアルタイムで余裕で見られるわけですね。そういったツールがある上での経営の新しい仕組みを、これから新たに発明していくんじゃないかなとは思います。
ソロプレナーみたいな話もありますけど、権力は集中するんですか、分散するんですか?国家レベルとか企業レベルとかでまた違うかもしれませんけど。
今まで見られていなかったような集中はある程度起きちゃうかもしれないとは思ってはいます。例えば先ほどのソフトウェア開発や研究開発の分野ですと、これまででは考えられなかったような規模の、数千や数万のAIエージェント群を使って仕事をするというのは、今までできなかったわけですね。
一方で、現実世界に照らし合わせてみると、それだけのエージェントをまとめて動かすために必要な資金力や計算能力を誰かが判断することになるので、今までは組織を運営しなきゃいけなかったのに比べたら、お金と計算資源があればずっと簡単に使えてしまうことになるので、そういったところは集約される部分があるかもしれないです。
そうすると、「統合の機能が内部へと拡散していく」というのは本当なんですか?
二極化はするとは思います。AIがどんどんすごくなって、一番強いAIを持っているところが世界をコントロールするみたいな絵を考える場合もあるんですけども、実際の世界はそれより遥かに複雑で、色んな課題もあるし、色んな価値観を持った人がやらないと回らない社会になってはいます。そういった面だと、集約される部分はありつつも、実際はかなり多様なものが回ると思います。
極端な中央集権みたいなところもあれば、うまく分散されてそれぞれが意思決定権を持っている組織も出てきて、そこを強みとして持っているということも出てくるとは思います。
中央集権に行きたがる人も、あんまり多くないかもしれませんね。
そう思います。
そこは分かれていくということですね。人に残るのは「何を優先するかという価値判断」「不可逆な決定」「長期的な関係の設計」。この「価値判断」「不可逆な決定」は、先ほどの自由と責任のところにも重なるかなと思うんですけど、同じことと捉えていいですか?
そうですね。ここには答えがない世界です。何か1つ最適化したいものが定まっていてそれだけを最適化するという話ではなくて、人や置かれている環境ごとに目的関数や制約は全部違うので、そこを自分が定めるというのは残ると思います。
価値判断を重視し始めると、みんな直感とか気分とかで決めるんですかね?
そこは今がむしろちょっと単純化されすぎていて、これからもっと多軸で見るべきだと思います。
資本主義のような考え方ですと「資本効率を最大化してお金を最大化していくか」という1つの軸があったとしても、実際の企業経営はそれを必要条件としてありつつも、「自分の会社としては何を達成したいのか」というたくさんの軸や制約もあります。私たちで言えば日本という国の中で活動しているので、日本というある種の制約や特性を持った上でどうするのかという軸があると。
全体として見ると、本の中でも述べているんですけども、集団として強いのは多様性を持っていることが重要で、どこか1つの目的関数に集約されていくというよりは、色んな考え方を持った多様な個人や組織があって、ある時代や瞬間ではどれか1つが最適かもしれないけど、環境が変わったらまた違うところが勝ち残っていく、強くなっていくという世界が全体としてもいいので、そういった方向に向かっていくんだろうなとは思います。
この価値判断というのは、アルゴリズムにはできないんですか?例えば佐々木さんの価値観を全部データで取ったら、色んな要素を統合して「この判断だ」とAIが言いそうな気もするんですけど。
それを手伝ってくれるというのは実際あるとは思います。「あなたはこういうところが実はすごく重要視しているし、こういったところはそこそこだと思っている」というのはあると思いますし、ライフステージによっても変わるでしょう。今まではこれが結構はっきりしていないがゆえに悩んでいた人もいたかもしれないので、そういった部分を助けるというのはAIのかなり重要な使い方として出てくるとは思います。
人の価値判断や哲学、思想みたいなものも、意外と単純化できそうなところもありますよね。宗教とか生まれとか、どんな環境で育ったかとか、法則性がありそうですよね。
あると思いますね。例えば経営陣に対して「どういう強みを持っているか」というインタビューや調査があった時に、生まれや生い立ちから何があって、家族構成や小さい頃に悔しかったことなどが全部繋がっていて、その人の価値観や目標、強みや弱みになっていると。
全部が強いということは無理で、何かの強みを持っていたらそれが裏返すと弱みになっていたりして、それがその人自身なんですね。そこの解像度が上がること自体はすごくプラスが大きくて、「自分でもこういうの知らなかった」ということがどんどん出てくるのはAIが助けてくれると。
一方で、それがすごく単純化されるかというと、おそらくそうではないとは思っていて、そこの意味を探し続けること自体が、人間にとってこれまでずっと連綿と繋がってきた生きる意味のところになるんじゃないでしょうか。
人間も変わっていきますもんね。昔の刑事ドラマにあったようなプロファイリングみたいなものを、今AIを全部駆動してやったらどれぐらい正確なんですかね?
今までできていなかったことができるようになった大きいところだと思います。AIを使って会話して、「どういう時にどういう反応をしているのか」という情報がずっと溜まっている中で、「私どういう人ですか?」と聞くと、当たっているかどうかは結局分からないですけども、少なくとも自分が見えていなかったような「こういう時にこういう判断をしているから、あなたこれ嫌なんでしょう」といったことはできるというのはあると思います。
もう1つの「長期的な関係の設計」、これも人間に残るんですね。
残ります。ここも一種の重要な判断軸というか、正解がないところですね。一番分かりやすいのはどういう会社に勤めるかとか、どこに住むかとか、誰と結婚するかとか、そういった関係の話もありますし、人間関係のところだけではなくて、そこが定まった上でダイナミックに色々変わっていく中で、どういう関係を作っていくのか、持っていくのかということ自体も重要な正解がない判断になるんだと思います。
人間関係のごたごたなどは、AIは永遠に解決できないんですか?
これはすごく重要なテーマで、人間が悩んでいる時間のほとんどは人間関係だったりしますし、今AIがこれだけ賢くなったとしても国際問題ですら解決できないですよね。ここは根本的にAIだけではなくて、何かしらの新しい仕組みなどを必要としているんだと思います。
ただ、先ほどあったような自己理解などにAIを使って役に立てるというのはあると思いますし、他者理解もそうですね。人間は私も含めて常にバイアスがかかっているので、「違う視点で世界を見られますよ」というところを言ってくれるだけでも、解決できる部分はかなりあるんじゃないかなとは思います。
「楽観は危険」ということで、よくある話として「人間は単純作業から解放され、より創造的な活動に専念できる」という話がXなどでもいつも出ていますけど、これはやっぱりちょっと楽観視しすぎですか?
創造的と言っている仕事がAIは苦手かというとそういうわけではなくて、考え方によっては固定観念を持っていたところを外して色んなことを考えられます。人間とは全く違う創造性を持ったものができるかもしれないです。
クリエイティブな仕事だけではなくて、技術開発でも例えば新しい薬を作る時、専門家が「こういう薬の作り方をするのが常識だ」と思っていたところに対して、全く違う概念を投入してブレークスルーが起きる可能性があると。将棋や囲碁でも同じで、連綿と培ってきたようなところと全く違うところに飛び込んでいける、人間だったら怖いなと思うところに行けちゃうというのが、AIはすごく得意だと思います。
ヒューマンタッチのある仕事や、一時期よく言われたブルーカラービリオネアみたいな肉体性のある仕事は、ある程度安全なんですか?
そこもフィジカルAIみたいな話があるので、単純には言えないとは思います。単純にブルーカラーかそうじゃないかという軸ではなくて、私自身もこれが分かっていたら言い切れますけど、基本的にはもうすごく不確実性が高い世界になっていて、何かが起きていくことには備えなければいけないとは思います。
自由と責任というところでの判断となると、経営者や、どこに投資するかを決める投資家などは残るんですか?投資も分析はAIができると思いますけど、どっちにいくら投資するかは最終的に人間になるのか、そういうところは残るんですか?
個別の判断などは、AIがある最適化関数や制約に基づいてやるのがすごい得意だと思いますけど、最初の最適化関数や制約のポリシー、「こういう考え方でやってください」というのを決めるのは人がやる部分として残るんだとは思います。
AI時代に一番強い、絶対に残る仕事って何ですか?
これは言い切れないとは思いますが、絶対何かしらの仕事は残るはずですし、今想像していない仕事に10年後、人口の30%や50%の人が就いている、誰も想像していない仕事をやっているとかは全然あると思います。
「自分の中に知識はいらないよ」みたいなこともよく言われますけど、それはちょっと違うということですかね?
むしろ今以上に必要になります。その場でちゃんと議論できるような能力というのは、当然のように求められます。
他者との生の議論の場などは、意識的に作っていった方がいいんですかね?
今後の糧になるし、むしろそういうややこしい問題しか人間に残されていかない可能性すらあります。
結局AIにおいて、日本はどこで勝負するんですか?
自国である程度強いものをみんなが使えるような状態になっていないといけないと、かなり危機感としてはあります。
PIVOTアプリで動画を視聴するとマイルが貯まり、豪華特典に応募できます。定番のAmazonギフト券、図書カード、さらには毎月MC厳選のプレゼントもご用意しております。YouTube視聴だけでは得られない特典を、PIVOTアプリでお楽しみください。
記事公開 · 更新
