# お散歩収録 — 愛知は快晴、東京の台風を心配しながら どうも、支部長です。 モノづくりの視点は産業機械の現役エンジニアである私、支部長がモノづくりに関するトピックを独自の視点で解説する番組です。 今日はお散歩収録となりますね。結構久しぶりなんですけども。 今、愛知県にいまして、月曜日ですね。今日は21日の月曜日なんですけど、愛知県にいて。 今日ですね、東京に向かうんですけど、夕方ぐらいに。 なんか台風が直撃するとかしないとかで台風が止まるんじゃないかな、台風じゃない、新幹線が止まるんじゃないかなってすごく心配しているんですけども。 愛知県はめっちゃ快晴ですね。こんな晴れていると。 で、ちょっと1時間半ぐらい新幹線で行った先の東京が本当にそんなに豪雨なのかっていう感じがするんですけど、台風ってもうどっか行っちゃったのかな。 まあ、それはさておきですけども。 今日も京都でですね、いろいろ喋っていきたいと思います。 今日はですね、いま最近AI界隈で話題のジェブというね。ジェブでいいんですね。 ジェブというモデルについてちょっとお話ししていきたいと思います。 多分、今日上がる落ち着きAIの中でも喋ってはいるとは思うんですけども、すごくね、界隈で話題になっているんですよ。 このモデルについて私なりどういうふうに考えているかみたいなことをお話しできればなと思います。 それでは早速いきましょう。 # Jevは言葉ではなく「判断」を返すモデル。安くて速い このJEBというモデルですね、なんで話題になっているかというと、 今までのLLMというものと違ってですね、言葉を生成するんじゃなくて、 判断を返すというモデルということですごく話題になっています。 なので、例えばおはようって言ったら、おはようございますって返してくるじゃないですか、今のLLMって。 そういう会話のやり取りをするんじゃなくて、思考のプロセスというか、 あらかじめ指定した選択肢の中から、じゃあこれが1ですよ、2ですよとかって返したりとか、度合いを返したりとかですね。 そういう何か与えたことに対して判断をするという思考の部分だけを切り取って、 その判断の機能だけを提供するみたいな、そういう感じのモデルになっているんですね。 これがですね、結構すげえんじゃないかということで話題になっているんです。 ただ、分かりづらいというか、どこをどういうふうに驚けばいいのか、普通に見ていたらなかなか分からないと思います。 私の所感としては結構面白いなと、結構かなり面白いなとは思うんですけど、SNSをいろいろ見ててもですね、 結構みんなゲームを動かしたりとか、車を自動運転させたりみたいな感じで、 結構応用的なことをやってるんで、そもそもゲームって何なんだみたいなことで、いろんな人が混乱してるんですけど、 やってることは判断ですね。これが良い、悪い、イエス、ノーとか。 よくSNSで分かりやすいのは、メールの分類とかですよね。迷惑メールの中そうじゃないのかを、メールの内容を見てポンと判断するみたいな。 そういう判断だけを出すというところに、このようなモデルが使われると。 驚くべきことにですね、めちゃくちゃ安いんですね。 安いと。入力100万トークンで0.0何ドルだったか、とにかくもうタダに近いようなぐらいの料金体系になっているのと、 あとですね、出力。だからこの判断を返すという出力自体はもう無料というですね、破格のモデルになっているわけですね。 この安さ。あともう一個特徴がある。スピードですね。応答がめちゃくちゃ早いんで、このスピードと安さを生かしたら、実はすごいことができるんじゃないかなということで、すごく話題になっているということですね。 ただ、LLMとしての、LLMじゃないからLLMとしてのっておかしいんだけど、AIとしての頭の良さ性能みたいなものは、 オープンAIの例えば、テラとかね、5.6テラ相当ですよ、みたいなことは言われているんで、 なんかめちゃくちゃ賢い、とんでもない判断できるモデルが出てきたというわけではなくて、あくまでも判断だけを返すよ、スピーディーに返すよというですね、すごく安いモデルが出てきたというふうに捉えるのがいいんじゃないかなと思いますね。 # ハルシネーションが起きない理由は型保証。確率を正確に返す あと、これもちょっと注意が必要なのは、ハルシネーションが起きない時代みたいなことで、すごく話題になってたりもしたんですけど、 ハルシネーション自体はね、AIが見る幻覚ということで、事実じゃないことを、さらかも事実のように生成してしまうということが、 LLMではよく起きていて、最近は結構ハルシネーション対策も進んではいるんですけども、一つの問題だと、 それが絶対構造上起きないよということで、とんでもないモデルだと、ジェミスすごいぞってなってるんですけど、 そもそも、型保証といって、ジェミはさっき言ったように判断を返すんですね。 判断を返すんで、あらかじめこちらが指定した判断というか、アウトプットしか出ないんですよ。 だから、イエスかノーかで答えてねって言ったら、イエスかノーかしか出さないので、それ以外の選択肢が出てこないということなんで、 ハルシネーションってね、幻覚を見るということですけど、その予想外のアウトプットが出てこないというところに特徴があるというところですね。 だから、絶対正しい判断をする、嘘をつかないという文脈でのハルシネーションがないということではないということを理解しておくといいかなと思います。 ただ、すごく重要なのが、今までのLLMでも一応こういう判断ができるんですね。 一応この内容、このメールって迷惑なの?迷惑じゃないの?っていうふうにLLMでも打ったら、迷惑ですよとか迷惑じゃないですよっていう判断をしてはくれるんですけど、 今までのそれと何が違うかというと、まず、さっきも言ったように型保証といってですね、アウトプットの型が必ず保証されています。 だから、プログラムの中ですごく応用的に使いやすいと、本当に部品の一個としてLLMを組み込むということが、仕組みの中にできるようになったというのが一つの特徴としてありますね。 もう一つは、この確率に沿ってアウトプットできるようになっているということです。 だから、今までのLLMって、じゃあこれが迷惑ですか迷惑じゃないですかって言ったら、多分迷惑メールだと思いますみたいな感じのアウトプットにどうしてもなるんですね。 なんですけど、このJEBっていうモデルの特徴は確率確らしさ、確率ですね、をすごく正確に学習している、正確に学習の指標として使っているということなんですよ。 80%正しいですよと、80%正しそうですよっていう辞書に対しては、大体80%正しいぐらいのちゃんとした根拠があって出してくるみたいな、そういうイメージですね。 だから確率、70%この確率がありますよっていう、その70%っていうところを結構ちゃんと学習して出してくるというところなので、 そういう確率何%これ確かだと思ってますっていうところを正確に出せるようになっているっていうのが一個特徴かなと思いますね。 こういうものを使っていくと、いろんな判断ができるようになってくるんじゃないかということです。 でもこれすごく懐かしい気分になって、最近は生成AIとLLMだって感じですけど、その前ってすごく機械学習というものが行われていて、 Classifierですね、分類機とか、あと出てくる分類機で犬の確率、この画像は犬の確率何%、猫の確率何%みたいな風に出したりしてですね、やってたんですよ。 それと別にアウトプットとしては似てると。ただその機械学習とかAIのモデルを作るというところ以上に、 そのモデルをオリジナルで作らなくても判断をジェブに投げれるよと、判断をジェブ側にしてもらえるという、そういう作りになっているというところで、 かなり機械学習ライクなんですけども、使いやすさは上がっているのかなっていうところが私の主観ではありますね。 これは結構すごく仕組みの中に埋め込みやすいですね。いろんな人がやってるのはやっぱりさっき言ったように迷惑メールの分類とか、 ある人はクソリップ判定機みたいなやつをね、Xに投稿されるクソリップを、これはクソリップですよみたいな感じで判定するみたいな仕組みを作ってたりとかしましたので、 あとはゲームですよね。音が速いということで、この状況の場合はどのボタンを押すといいかみたいなことを適時判定させると、ゲームの操作もできるみたいな、そんな感じのモデルになっているよというイメージでございますね。 # アキネーターでヒカキンに辿り着かせてみた やっぱりこう歩きながら喋るとどうしても息が切れますね 暑い だいぶ汗をかいてしまったということで自分に関していろいろ話してきたんですけど 渋ジョーさんなんか使ったんですかって言うと一応触りはしたんですけど ちょっと土日がちゃがちゃ忙しくてなかなか触りはしなかったんですけど あのね私なりにどういうふうに使うと なんかねどういうふうな使い方が革新的かとか新しいかみたいなところはね もっと頭の良い人たちがいっぱいやってるんで そういうとこに追いつくことはできないんで ちょっとなんか自分がわかりやすいようなやり方 なんか伝えれることないかなと思っていろいろと作っていたんですけど で一個ひらめいたのがアキネーターなんですよね アキネーターってわかります?あのイエスかノーかを答えたりとか わかるわからないを答えるとある人物にたどり着くみたいなゲームあるじゃないですか あのアキネーターをなんか自分にやらせて なんかうまいこと自分がわかりやすく説明できないかなーみたいなことで いろいろやっててブログ書こうかなと思ってる今途中って感じですね だけどAI界隈はですね出た次の日ぐらいにブログ書かないと全然早くないので もうスピード感としてはね一周遅れ二周遅れなんで このブログも完成させようかこのまま遅れにしようかって迷ってるんですけど ジェブの特徴の一つがステートって言ってですね この事実から判断してねみたいなその事実をそこに入れておけるんですね だからこういう情報がありますよと でその上でこういう判断指標がある判断の軸がありますと じゃあこの入力に対してこの判断はどれですかみたいなことを選ばせることができるんですね すごくわかりやすく言うと私がやったのは ジェブが秋ネタの中でどれだけ早くヒカキンにたどり着けるかみたいなことをやって ヒカキンという名前を入れずにステートの中にヒカキンの特性みたいなやつを数行入れておくんですね でジェブはその入れられた人物像を元に質問に対して秋ネタが出してくる質問に対してYouTuberですかとか なんかなんとかですかみたいな質問に対してイエスのあとは部分的にそう部分的にそうではないとわからないってこの4つの 5つの判断から選択していくとでヒカキンにたどり着けるかなみたいなことをどれだけ一番少ない ステート事実の情報でヒカキンにたどり着けるかなというやつをずっとやってましたね で面白いのはやっぱりねこのジェブって判断の 判断のモデルなのでわからないってことをちゃんと言えるんですよ それがある種ハルシュ認証がないってことなのかなと思ってその選択肢にわからないを入れておくと 結構やっぱり事実として入ってないことに対してはわからないというふうに言えるし そのやっぱ同じ条件でそのソネットとかオーパスに秋ネタを溶かしてみても インテナを溶かしてヒカキンにたどり着けって言ってもですね どうしても時間かかったりとかトークンの消費量がねやっぱ もう一番大きいと数百倍ぐらいになるんですよねそれだけ軽くて早い 判断で同じアウトプットというか同じアウトプットというとちょっと語弊があるんですけど 言葉でいちいち思考して考えるか判断としてポンと出せるかどうかそこにこう思考の プロセスがないっていうことが相当強いなというふうに思いますね だからまあなんかそんな感じですよ このブログがまた完成したら皆さんにお伝えしますけど私のモチベーションがあれば書き切るかなって感じです 今のところちょっとこんな感じで満足したからもしかしたらまとめないかもしれないですけど ということでそうやって早くて安いモデルなどで今後いろいろロボティクスとかロボット分野にも使えるんじゃないかというふうに騒がれているんですけど ちょっとそれには怪異的であまりにもブラックボックスすぎるかなっていう部分があるので ちょっとねそう中身がわかんないし判断根拠も可視化されてないから動くものに使うのは結構怖いというか難しいかなと思います ただこれがローカルで動くようになったりとかしてきたらお聞く話は変わるかなと思うし 誰かSNSでも言ってたけど次のステップは多分画像入力ができるようになるとかじゃないかな それ確かに筋がいいなと思って画像入力したときの入力に対して判断を返せるよっていうマルチモデル化が進んでいくとよりいろんなところで使えるんじゃないかなと思うので いろいろ騒がれているしいやこんなの騒ぐほどでもないよみたいな人もいるし 怪我が出てざわついているんですけど個人的にはすごく期待できるモデルかなと思います これを使いこなすためには結構中身 自分がAIにお願いしていることのフローチャートみたいなものをちゃんと頭の中に描けているかどうか ここに判断があるからここに自分使ってやろうみたいな感じで埋め込めていけないと使いこなせないと だから何でもAIに丸投げします お任せしますっていうやり方をしている人は結構凄さがわかんないし使い方がわかんないって感じになってくると思います 自分がAIに投げている仕事とかをタスク分解してちゃんとこういうプロセスで動くよねみたいなことをコントロールしていくっていうことから始めていくと だんだんこのジェブをどうやって活かそうっていうところの視点になるのかなと思いましたので AIに丸投げしてますよっていう方は是非ともそういう視点で何か自分のAIの使い方を変えて自分を活用できるような部分を見つけていけばいいんじゃないかなと思います ちなみにまだアーリーアクセスなのかな とりあえず申し込んでおけば時間が経つとあれ使いますよあなたって言って順番回ってくるという感じなんで 使うか使わないかを置いておいてそれを申し込むのはいいと思いますよ 私の場合は数時間で返信きましたね そんなに時間かかんないけど今ちょっとガッて人が集まってるからもしかしたら時間かかるかもしれないけど早めに申し込んでおくことをお勧めしておきます # 無事に帰れるか、台風と新幹線 はい、というわけでちょっともう今日は時間ないのでここまでさせていただきます。 私は、支部長技術研究所で技術ブログも運営しています。 また、X毎日役立つ技術情報の発信を行っておりますので、よろしくお願い致します。 ポットキャストものづくりのラジオの方も毎週土曜日、週一で配信中です。 ポットキャスト落ち着きAIのラジオも毎週火曜日、金曜日、週二で配信中です。 こちらもぜひとも聞いてください。 本日、落ち着きAIが配信されているはずです。 今日、台風で東京に帰れないということがなければ、無事に撮れているはずなんでね。 それをお願いしたいところですね。 愛知県はめっちゃ晴れてるからね。 多分大丈夫そうなんじゃないかなと思うけど、ちょっと離れると違うからね。 まだ到着しないということだと思うしね。 面白いエクサルバトリーのリスナー向け、おみじも運営しております。 こちらもお願いします。 LINEオープンチャットもあります。 お願いします。 そうですね。 Voiceの方ではプレミアムリスナーを随時募集しております。 いつもの配信ではしないので、つっこの足を毎週水曜日、日曜日、週二で配信しています。 こちらもよろしくお願いいたします。 久しぶりに歩きながら撮ったけども、疲れるね。 ということで、今日もいろいろこなしながらですね、無事に東京に帰れるように頑張りたいと思います。 というわけで、今回はここまで。 吉部長でした。 ではでは。 # 【おまけ】9/22 21時からくろたかさんとVoicyコラボ すいませんすっかり言い忘れてました。というか無事に帰ってくれました。 台風全然大丈夫だったね。 なんか新幹線止まってやべぇことになるんじゃないかと思ったんですけど、東京に着いてもですねそんなに雨もパラパラという感じなんで無事に帰ってこれましたと。 でちょっと追加取ったのはあのコラボの告知を忘れていました。本日ですね9月22日火曜日 21時からですねVoicyパーソナリティコラボをやります。 コラボ相手はですねもはやお馴染みですね純レギュラーと言っても過言ではない黒鷹さんでございますね。 黒鷹さんとのコラボは3回目?4回目? ちょっと結構やってるんでわかんないですけど、前半後半どっちかわかんないですけど。 前半後半黒鷹さんのチャンネルと私のチャンネルでコラボをやりますので生放送ですね。 ぜひぜひあの聞きに来ていただけると嬉しいです。 くしゃみが出てるねすみません。 ちょっと撮り直さずにそのまましちゃいますけど。 はいというわけであの楽しみにしておいてください。ぜひね9時から21時からなんで比較的聞きやすい時間かなと思うのでぜひぜひよろしくお願いいたします。 以上しぶちょーでした。ではでは。