# チャプター 1 こんにちは。鳥居博文です。 働くをテーマにした台場型オンラインコミュニティ、和製サロンを運営しています。 さて、本日のお題は AI最高と無邪気に言えなくなる日というテーマでお話ししてみたいと思います。 今日も昨日ブログに書いた内容です。 それでは早速本題に入っていきますね。 先日、言論カフェで行われていたチーム未来の庵野孝博さんと あずまひろきさんの対談。 日本はAI時代を生き残れるのかという動画を見ていました。 その中でテックのモードが今完全に変わったという種種の話が出てきて この言葉が妙に頭に残ってしまったんです。 なぜこんなに残ったのかといえば ここ最近、AIを眺めていて感じていた うまく言葉にならなかった違和感みたいなものを あまりにも的確に言い当てられてしまっていたからだというふうに思います。 つい数年前までは AIの話は仕事が便利になるとか 日本企業も使わないと遅れるという話でした。 少なくとも僕らが日常的に触れていた文脈は そういうビジネスの文脈でしたよね。 でも今はそのAIが安全保障や軍事と切っても切り離せない技術であることが 僕らの目にもはっきりと見えるようになってきたわけです。 少し振り返ってみると 生成AIブームが始まった以降 僕らの身近でずっと語られてきた AI競争みたいなものは基本的には経済の話でした。 だから日本でも規制ばかりをしていたら海外に負けてしまうんだという そういう主張はかなり素直に口にできたわけですよね。 ところがその競争のモードが今完全に変わり始めている。 より優秀なAIを持っていることが企業の利益だけではなくて 国家の軍事的な優位にも直結していくというような状況です。 世界で一番優れたAIを作りたいというそういう企業の競争と 他国より強いAIを持ちたいという国家の競争が見事に重なっているわけですよね。 テクノロジーと軍事の結びつき自体は昔からあったというふうに思います。 ただこれまではその結びつきを意識しなくても 僕らは新しいサービスの便利さを無邪気に喜んでいられた。 僕らがまたAIが賢くなったすごいって喜んでいる その同じ進捗を全く別の角度というか別の目的で喜んでいる人たちもいるわけです。 そうなると真AI派であることの意味まで少しずつ変わってきてしまうなというふうに思います。 これまでAI最高と言っていてもそこに大した政治的な意味みたいなものは含まれませんでした。 新しいものが好きでただただ仕事を効率化したくて便利なツールを使いたいだけなんだと せいぜいその程度であってiPhone派かAndroid派かみたいなそういう話と全く変わらなかったというふうに思うんですよね。 でもAI開発と軍事競争の結びつきが前面に出てくればもっとAIを進めようという発言みたいなものは それは軍事のAI活用も認めようということですかというふうにそうやって読み換えられる可能性が少しずつ出てくるわけです。 本人には全くそんなつもりはなくてもでも社会の側がそう読むようになっていくということですよね。 AI推進派からすれば戦争を肯定しているわけじゃない。便利だから使っているだけなんだというふうになる。 でもAI新潮派から見ればでもその開発競争は軍事利用にもつながっているでしょう。 そこを無視してAI最高と言い続けるのは大人として無責任なのではというふうにもなっていく。 そして議論はいつの間にか技術の話からお互いの人格の話へと移っていくわけです。 AIをどう使うかということを議論していたはずなのに気づけばあなたはどういう人間なのかというふうにお互いの人格をそうやって問い始めるわけですよね。 たぶんこれは原発をめぐる議論なんかと似たような構図です。AIも今後そういうテーマになっていくということですよね。 AIについてどう思うというふうに聞かれて答えただけで雇用感も人間感までもが判断されるというようにです。 そしてこの問題というのは日本でこそ大きくなっていくような気がしています。 日本では安全保障とか軍事の話になった途端議論の温度みたいなものが一気に変わりますよね。 集団的自衛権とか武器輸出そして核の問題なんかです。 こうしたテーマっていうのは政策の細部というよりもその考え方自体が倫理的に許されるのかどうかというそういう大きい問題になりやすい。 AIも安全保障との結びつきが広く意識されればAIをもっと推進しようというそういう主張は、 じゃあ軍事転用はどう考えるのかという問いをこれまで以上に引き受けることになるわけです。 その合意形成にはこれまでとは全く違う難しさが生まれるような気がしています。 日本がAIで遅れる理由としてよく投資額や人材不足が挙げられますが、 でも今回の対談内容を見てて感じたのはこれからは国内の政治的摩擦がAIの進み方を大きく左右するようになるんじゃないかということでした。 ここまでだけならだから日本も冷静に国際情勢を眺めて国内の政治的摩擦をできる限り減らしてさっさと進めていきましょうというよくあるようなテック推進論に落ち着きがちです。 でも僕が一番引っかかっているのはそこじゃないんですよね。 軍事利用を抑えられる可能性のある技術に対して社会が慎重になることを単なる遅れみたいな風に呼んでしまっていいんだろうかと。 世界中が他国より先に進めという風に競争している時にその技術をどこまで使っていいのか一度立ち止まって考えてみましょうということまで 競争力のなさとして処理をしてしまっていいんだろうかと。 ここだけは本当にわからないし、全然自分の中でも答えがまとまらない点だなという風に正直に思います。 他国に負けてしまうからという理由があればどこまでも進めていいのだとしたら倫理は最初から競争に余裕がある時だけの趣味の領域になってしまいますからね。 言い換えると一番それ、つまりその倫理を問う必要がある時に一番倫理みたいなものは邪魔者として扱われてしまう。 それが倫理だってことになってしまうんですよね。 以前人間は人間が大好きで人間のことが大嫌いという記事の中で人間同士の摩擦をAIに任せて滑らかにしてしまうことのそんな危うさを書いたことがあります。 あの時は個人と個人の話でした。でも国家単位で見ても多分同じことが言えるんですよね。 この摩擦っていうのはその社会が何を大事にしているのかが見事に現れる瞬間でもあるわけですから。 ただ摩擦なら何でもいいわけでもないわけですよね。 あいつらは軍閣、皇帝派だ。あいつらは反技術だっていう風にそうやって互いにレッテルを張って相手を議論の席から追い出す摩擦は共に考えるってことを止めてしまうわけです。 その用途にも使ってもいいのか。誰が止められるのか。間違えた時に誰が責任を引き受けるのかという風にそうやって問い続ける摩擦みたいなものは考えずに進むこと自体を止めてくれるわけです。 同じように面倒であって同じように時間がかかるプロセスなんだけれども、でもやっぱりこの二つってのは全く違うんだっていう風に僕は思うんです。 そして推進する側から見ればどちらもひとまとめに足を引っ張る人たちに見えてしまうわけです。僕が怖いのはその一色他にされてしまう感じなんですよね。 広島と長崎の悲惨な歴史を持つこの国ってのは最先端のテクノロジーが成し遂げたことをすごいっていう風に手放しに受け取れない明確な理由があるはずなんです。 日本が他国より倫的に優れているとかそういう話ではなくて、ただテクノロジーにできることをやっていいこととは違う、そういう問いを他国との競争に負けるからという理由だけで引っ込めたくはないよなという風に思うんですよね。 以前巨神兵のようなAIに焼き払えと命令してしまわないためにという内容も配信したことがあるという風に思います。僕は巨神兵の性能が上がるたびに喜んでいた側の人間でもあるわけです。 その僕が焼き払えという風に命令される段階になってからこの技術の使われ方は自分には関係のない話だったという風に割り切れるんだろうかとそんな風に思ってしまうわけです。 つまり自分自身が焼き払われる側になってしまう可能性があるということでしょうね。今日の話っていうのはAI推進派イコール軍革賛成、AI伸長派イコール技術反対と2つに分けてどちらの陣営に自分自身がつくかを決めればいいというそういう話でもないという風に思うんです。 AIを使うか使わないかではなくてどう使いどこで立ち止まるのか。ただそのような議論が始まる前にお互いの人格までを疑い始めてしまうと線を引くどころか議論の責任すらお互いにつけなくなってしまうわけです。 そしてその間にもAI開発は他国でどんどんと進んでいく。僕らが相手の思想を疑っているうちに何を許容するのかは先に実装した人たちによって事実上決められてしまうわけですよね。 それが一番怖いシナリオだなというふうに思うんです。ここまで語ってきてやっぱり自分自身にも見事に返ってくる話だなというふうに強く思います。 僕は毎日のようにAIを使っているし新しいモデルが出てくればこれまでできなかったことができるようになって素直に興奮する側の人間です。 でも僕の日常の仕事を驚くほどそうやって快適にしてくれるその同じ能力の進歩が別の場所では軍事目的に使われる。 そこまで考え始めると便利だから使ってるだけですという言葉では自分自身を納得させられなくなってきている瞬間があるようなというふうに思うんです。 便利さの恩恵はちゃんと受け取りたい。でもその技術が社会の中で何か悪い意味を持つときには自分の関係ない話にしておきたい。 そうやって僕の中にも明らかにそういう矛盾というか都合の良さが明確にあるなというふうに思います。 AI最高っていうふうに無邪気に言えなくなるというのは誰かに批判されるのが怖くて口をつぐんでしまうことではなくて 自分が何を喜んでいるのかを自分でも問い直さずにはいられなくなるということなんだというふうに思うんですよね。 少し前まではチャットGPTを使っているという質問はiPhoneを使っているとほとんど同じような質問でした。 でもこれからはAIへの態度に自分が答えたつもりのない問いへの答えまで含まれて読まれるようになっていくわけです。 僕はこれからもAIを使うしその進化を喜んでしまうというふうに思います。 ただ繰り返しますが僕は今この問いや葛藤の答えが全く分からないなというふうに思うんです。 誰かが立ち止まれっていうふうに言ったときその人を時代についてこられない遅れた人だっていうふうに安易に片付けたくはないなって その声が邪魔だっていうふうに感じるその瞬間こそ自分が何を優先し何を見ないことにしたのかが一番はっきりと現れてしまっているような気がするからです。 さて今日のお話は以上となります。 いつもこのボイスを聞いてくださっている皆さんにとっても今日のこのお話が何かしらの考えるきっかけとなっていたら幸いです。 それでは今日はこの辺で。また明日。