AIに乗っ取られる未来は来るのか

「AIに仕事が奪われる」という話は最近よく聞くようになったけれど、それよりもうちょっと根本的なことが気になっている。AIが判断を代わりにしてくれるようになった時代に、人間はどんな風に変わっていくんだろう、という問いだ。

「AI乗っ取り」という言葉は少々物騒に聞こえるけれど、実際にはいくつかの異なるシナリオが混在している気がして、整理してみた。

「AIに乗っ取られる」という言葉に含まれる3つのシナリオ

改めて考えると、「AIに乗っ取られる」という懸念には、少なくとも3種類の意味がありそうだ。

シナリオ1：仕事が変わる、なくなる（現在進行中）

これはすでに現実として起きていることが多い。コールセンターの自動化、経理や法務の定型書類作成、プログラムのコーディング補助、画像生成を使ったデザイン作業の一部代替。「翻訳者の収入が下がっている」「ライティングの案件が減った」という声は、2025年時点でかなり聞くようになった。

一方で「AIを使いこなせる人への需要が増している」という面もある。産業革命のときも「機械に仕事を奪われる」と言われたが、実際には仕事の中身が変化した——という歴史と重なる部分もある。ただし変化のスピードが今回は速い、という指摘もあって、そこは楽観も悲観もしにくいと感じている。

シナリオ2：意思決定をアルゴリズムに委ねていく（静かな変化）

個人的にはこちらのほうが気になっている。「今夜何を食べるか」「どの記事を読むか」「どんな音楽を聴くか」——これらをアプリのレコメンドに任せることが増えている。Netflixが次に観る作品を提案し、SNSのタイムラインはアルゴリズムが並べ替えている。

一つひとつは小さなことだけれど、積み重なると「自分で選んでいる」という感覚の割合が少しずつ変わっていくかもしれない、と思う時がある。フィルターバブル（アルゴリズムが自分に見せたいものを優先的に表示する現象）の中にいる人は、自分がバブルの中にいることに気づきにくい、という研究もある。

シナリオ3：強力なAIが人間の制御を離れる（SF的シナリオ）

映画やSF小説でよく描かれる、AGI（汎用人工知能）が自己増殖して人間の指示に従わなくなる世界だ。イーロン・マスクが「AIは人類にとって最大の実存的脅威」と言ったのはこのシナリオへの言及だったと思う。

研究者の間でも真剣な議論が続いているテーマだが、「いつ起きるか」については意見が大きく分かれている。「数年後にありうる」という人から「今世紀中は現実的ではない」という人まで幅広い。現時点では確率を見積もるのが難しいシナリオだと感じている。

シナリオ2がなぜ気になるか

個人的にシナリオ2をよく考えるのは、「すでに起きていて、気づきにくい」という点が大きい。シナリオ3は将来のことだけれど、シナリオ2は今日の話だ。

フィルターバブルが政治的な分極化に影響しているという研究がある。アルゴリズムが感情を刺激しやすい投稿を優先する結果、特定の意見が増幅されやすくなるという現象だ。「何を見るか」を決めるアルゴリズムが、社会全体の意見分布に影響を与えているとしたら、それはかなり大きな話だと思う。

もちろん「便利で何が悪い」という視点も正当だと思う。レコメンドのおかげで良い本や音楽に出会えることもある。問題はその比率や、自分でコントロールできているかどうかの感覚なのかもしれない。

マスクとアルトマンの考え方の違い

AIリスクへの姿勢として対照的なのが、イーロン・マスクとサム・アルトマン（OpenAI CEO）だ。追いかけていると面白い。

マスクは2023年にOpenAIとの縁を切りxAIを設立し、AI開発が特定の企業に集中することへの懸念を繰り返し表明している。一社が「全人類の知性インフラ」を独占的に持つことへのリスク意識、と言い換えると分かりやすいかもしれない。情報の流れを民間企業一社に任せてはいけない、という発想はX（旧Twitter）の買収動機とも地続きな気がする。

アルトマンは「AIは人類にとって有益な道具で、リスクは管理可能」という立場を取ることが多い。ただし「AGIが存在論的なリスクになりうる」ということは認めていて、OpenAI内でのAI安全研究への投資も続けている。2024年に安全研究チームの主要メンバーが相次いで離脱したことは、方向性について議論があることを示唆しているかもしれない。

二人の対立の核心は「誰がAIを管理するか」という問いにあると感じる。政府か、民間企業か、オープンソースコミュニティか。この答えはシナリオ2にもシナリオ3にも影響してくる。

日常にすでにある「小さな変化」に目を向けてみる

「AIに乗っ取られる」というと大仰に聞こえるけれど、Googleマップなしでは道を覚えにくくなった、レシピをアプリで調べることが増えた、文章を書くときChatGPTに相談するようになった——そういう小さな変化はすでにたくさんある。

これが良いことか悪いことかは、一概には言えないと思う。道を覚えなくて済む分、別のことを考える余裕ができるとも言えるし、ナビがない環境では困るようになった、という面もある。

筋肉と同じで、使わなければ衰えていく能力があるとすれば、どの能力を維持してどの能力をツールに任せるかを意識的に考えることは、これからの時代に大切なことかもしれない、と個人的には思っている。ただしそれは「AIを使うな」ということではなく、「自分の中で選択している意識を持つ」ということなのかな、と。

結論というより問いの共有

「AIに乗っ取られる未来が来るか」という問いへの答えは、シナリオによって全然違う。仕事の変化はすでに始まっている。意思決定のアルゴリズム依存は静かに進んでいる。SF的な制御逸脱は今のところ現実のものとは言いにくい。

自分が気にしているのは「AIを使いながら、自分の思考をどう保つか」というバランスの問いだ。AIは本当に便利なツールだし、積極的に使いたいと思っている。ただ、使い方を自分で選んでいる感覚は手放したくないな、とも思っている。

この感覚が正しいのかどうかは分からないけれど、考え続けること自体が大事なのかもしれない、と最近は感じている。