# ChatGPTなど生成AI全盛の時代に考える「AIが得意なこと／苦手なこと」／「パターンの認知」と「コンテキストの認知」／ギャップからくるミスの多くは「コンテキストのズレ」から生まれる。そこの精度を上げよう／公式LINEやってます↓のリンクより登録下さい あずさんのコミュニティ思考A to Z ポタージュ・コミュニティアクセラレーター 河原あずさです。 コミュニティづくりの教科書の強調者で コミュニティづくりの専門家として活動しています。 この番組ではそんな僕の日々の気づきから 働き方や人生を一歩アップデートする 今すぐ使えるヒントをお届けしています。 あずさんでございます。 そして今一緒にお散歩しているのが 2歳8ヶ月の息子の渚くんです。 こんにちは。 渚くん、得意なお歌を歌ってください。 きらきらきらきらきら 聞きました? キラキラ星ですよ。 旋律はやふやなので 雑楽的にも問題ないですよ。 キラキラ星ってモッサルトの作曲なので 雑楽も何もないんですけれども 渚くんがお歌を披露してくれる日は ラッキーでです。 ということで 今僕渚くんにお歌を歌ってみてって言って 渚くんが好きなお歌である キラキラ星を歌ってくれたじゃないですか。 コミュニケーションってやっぱり こういう感じで成立していて こういうことをやってほしいよとか こういうことを調べたいんだけどとか 相手に伝えた時に反応を返してくれる そういうもんだと思うんです。 それが自動化されているのが 昨今話題になっている 生成AIというやつで チャットGPTを筆頭とした いろいろな会社さんが出されている 何か問いかけをした時に それに見合うアウトプットを返してくれる 人工知能というものがどんどん普及していって 世の中のありようを変えているというのが 今の状況なわけですね。 ただAIというものは 可能性があふれる一方で まだまだ限界があるというお話をしつつ 今日はコミュニケーションにおいて なんでギャップが起きたりとか コミュニケーションのギャップから 発生するミスが起きるのか この辺りについて解説したいと思います。 AIというものは 過去の放送でもちょっと しゃべったことがあるんですけれども 得意としていることと 苦手としていることというのがあるんですね。 もうAIの研究って 何十年と続いているわけなんですけれども その間ずっと専門家たちが極めてきたものと その極めてきたものに対して なかなか対応できない部分というのは 実は普遍的にそんなに多くは変わっていなくて ちょっとその辺を解説したいと思います。 AIが得意としていることって何かというと これがいわゆるパターン認識 っていうやつなんですよ。 ある種のパターンを学習するということに関して コンピューターというものは ものすごく性能を発揮するわけですね。 コンピューターが一番最初にやっぱり 性能を発揮したのは いわゆる数字の計算だという風に言われていて これが出てくることによって それまで人間が何十年とかけて 計算していたものが数秒でできるようになった これが革命的だったわけです。 数字の次にやっぱり人間が これをコンピューターにやらせたいと思ったのが やっぱり言葉なんですよ。 ただこの言葉を学習させるっていうのが 想像以上に難しかったわけですね。 これかなり歴史を要しました。 だんだんと自然言語処理っていうんですけれども そこのクオリティが上がってきて 学習データも膨大に学習できるようになったことから どんどんどんどんその言語の把握というものが コンピューターができるようになってきたんですね。 それで今のAIの生成AIとかの こういう風に聞くと的確に返してくれる しかも言葉で返してくれる そういうコミュニケーションが作れるようになった ということなんです。 これは全て基本的にパターンの学習によって成立しているんですね。 ところが苦手なことっていうのがあるんです。 これはもう聞けば想像つくかもしれないんですけど パターンの学習が得意ということは パターンが外れたことの理解というものは とても苦手としているんですね。 これAI将棋の世界で聞いたことある方いると思うんですけど そのAIと将棋で騎士が対決したときに それまでの騎士が全く打たないようなパターンで 一手を打った騎士の方がいましたとなったときに どういうことが起きたかというと その将棋のAIは大混乱を起こして その後ハチャメチャになっちゃったと言うんですよ。 それまでも対局だとうまくいっていたのに そのパターンを持っていないものを 一つ相手に与えることによって それが成立しなくなったわけです。 あとハブヨシハルさんが言った言葉で有名な言葉があって 何かというと もしAIがその騎士を追い抜く事態が来たら どうすればいいと思います。勝てますかって聞いたんです。 ハブさんはこう答えたって言うんですよ。 勝てますよ。だってルールを変えればいいですからって言うんですよ。 これはめっちゃ本質を得ていて 要するにそれまでのルールの中でパターン学習しているから その範囲でないとAIって考えられないんですね。 けどルールが変わった瞬間に AIは物が考えられなくなってしまって混乱してしまう そういう特徴がよくも悪くもあるということで 想定外の出来事に関しては対応が難しいというのが 結論的にはAIの弱点になってくるわけです。 ただこのAIが弱点としていることって 実は弱点としている人間も結構多いぞというのが 今日のお話なんですよ。 これらの話から分かる通り認知というものは 二つの種類の認知から成り立っていると思うんです。 それが何かというと 一個がAIが得意としているパターンの認知で もう一個がコンテキストの認知だと思うんですよ。 パターンというのは要するに言語ですよね。 相手がどういうことを喋っているのかというのを知るということで コミュニケーションは成立しているわけです。 チャットGPTも相手のパターンを認識して そのパターンに成功するようなパターンを返すことによって コミュニケーションを作っています。 ただ逆に言って今難しいのが コンテキストまで理解するということなんです。 例えば最近チャットGPTってどんどん優秀になって 画像を返せるようになったんですよ。 プロンプトという文章を入れると その文章に見合う絵を返してくれるんですけど 僕一個困っていることがあるんですね。 何かというと絵のほんの一部をこうしてほしい。 例えば帽子をかぶったキャラクターの人が ボウボウのヒゲを生やしているみたいな絵が出てきたら このヒゲをなくしてほしいというと どんな結果になるかというと 全く別の人の顔が出てくるんですよ。 ヒゲはツルツルになっているけど いやいやさっきの顔でやってほしいのに みたいなことが起きるんですね。 これはどういうことを意味しているかというと 僕のヒゲをなくしてほしいというパターンに関しては 理解しているけど この絵からヒゲを取り除いてほしいという 僕が求めているコンテキストの理解が外れているから 結果的にちょっと的違いなアウトプットを 出してしまうということなんですよ。 やっぱりコミュニケーションによって大事なのは まずはコンテキストを理解するということだと思うんです。 特に日本の場合は言語が あるいは召喚衆とかカルチャー自体が ハイコンテキストと呼ばれる そのコンテキストを重視する 暗黙の了解みたいなものを重要視する文化だから このコンテキストがずれてしまうと 相手の言う通りに行動を返したり マニュアル通りに行動をしたとしても 結果間違っているとされるということが めちゃくちゃ多いんですよ。 これコミュニティ作りにおいてもそうで 言っているビジョンとかは共感できるけど 中に入ってみると全然カルチャーが違って 合わないみたいなことって本当によくあるんです。 これはそこのコミュニティの中で 共有されているコンテキストが 自分の持っているコンテキストと外れているから そのギャップとして違和感が覚えるということなんですよね。 だからコミュニケーションをやるにおいて 実はやっぱり大事になってくるのは どういう背景で相手がそういう発言をしているのかとか どういう背景でこういったルールが生まれているのかとか そこを突き詰めて理解するということ これが大事になってきますよという話でした。 このコンテキストのずれが起きると 結果的にあなた間違ったことやってるよね あなたミスしたねみたいな感じになっちゃうんですよ。 逆にルールとはちょっとずれたことやっても コンテキストが合っていれば それはミスと捉えられないみたいなことも起きるわけです。 もちろん相手が言っていることをちゃんと理解するというのは 大前提として大事なんですけど これはパターン認識の世界ですよね。 パターン認識、言語の認識を適切にやるというのはもちろんなんだけど そこの背景にどういうコンテキストが眠っているのか そこの把握に努める。 コンテキストの把握の精度を高めることで ミスというものは結果的に減ってくるし 自分のやったアウトプットに対する周りの信頼性も上がってきますよ という今日はそんなお話でございました。 今日のお話は以上です。 面白かったという方がいらっしゃいましたら おひねり代わりにフォローボタンをポチッと押していただきまして 明日以降も聞いていただけるととても嬉しいです。 ハートマークのいいねも大歓迎です。 更新のモチベーションと日々になっております。 渚くん、今日のお話理解できましたか? 愛想笑いしてます。 渚くん、数数えられる? 1、2、3、4、5 すごい。渚くん、数を2倍速で喋ってみて。 まだ複雑なパターン認識はできないようです。 あなたの1日がラッキー例でありますように ポタージュコミュニティアクセラレーター川原渚でした。 ではまた明日お会いしましょう。失礼します。 バイバイ。