# ITやビジネスの最新ニュースを毎朝インプット！ Voicy ITビジネスニュース この番組では、今押さえておきたいITやビジネスの最新ニュースを毎朝お送りします。 8月4日火曜日、本日は小林マイラがお届けします。 # Claudeも他社システムに不正侵入--「本物かもしれない」と気づいても攻撃続行 クロードも他社システムに不正侵入。本物かもしれないと気付いても攻撃続行。 アンソロピックは7月30日、AIモデルクロードがサイバーセキュリティ評価中の設定ミスによって、 実際のインターネットへ接続され、実在する3社のシステムへ不正アクセスしていたと発表しました。 クロードは模擬環境で作業していると認識していましたが、 CTF形式の課題で実在する企業を攻撃対象としていました。 その結果、認証情報の取得や本番データベースへのアクセス、 パイPIへの悪意あるパッケージの公開、公開アプリへの侵入が発生しました。 アンソロピックは過去14万1006件の評価ログを点検し、この問題に該当する3件を確認しました。 影響を受けた3社と評価パートナーには通知を済ませています。 現在は評価を全面停止し、第3社機関、メーターの検証を受け入れるほか、 パイPIの事例については一途を伏せた形で1週間以内に公開する方針です。 # 東芝が「国産迎撃ドローン」開発へ　スタートアップと共同で 東芝が国際迎撃ドローン開発へスタートアップと共同で、 東芝は7月31日、産業用ドローンを手掛けるスタートアップ プロドローンと防衛分野の国際迎撃ドローンで技術連携を始めると発表しました。 両社は偵察や攻撃を目的に肥大する無人機への対処能力の実現を目指します。 東芝はレーダーや防空、式統制の技術に加え、 防衛装備品の品質保証や法令対応、システム統合を担います。 一方、プロドローンは機体設計や自立飛行制御など無人機の中核技術を提供します。 これにより開発期間の短縮やコスト競争力、量産性の向上を図ります。 また両社は国産部品を基本としたサプライチェーンを構築し、 安定した供給体制の確立を目指すとしています。 # 「Google Earth」のAI画像生成機能、わずか1日で撤回　悪用懸念で Google EarthのAI画像生成機能 わずか1日で撤退 悪用懸念で Googleは7月30日 Google Earthの衛星画像や 航空写真、3D画像をもとに AIモデル ナノバナナ2で画像を生成する 新機能の提供を開始しました。 しかし、この機能によって 本物そっくりの偽の衛星画像を 作成できるため ご情報の拡散に 恐れがあると指摘を受けました。 このため、Googleは 翌31日に機能を 撤回すると発表しています。 この画像は デスクトップ版限定で 現実世界に目指したコンセプト作成を 目的としていました。 Googleはポリシーに違反する画像の スクリーンショットを確認したため 対策を強化する間は 機能をロールバックすると説明しています。 また、生成された画像は Google Earthのメイン画面には 表示されず、 AIによる生成であることを示す スカシが入る仕組みだったとしています。 # 「Siri AI」は使いすぎると追加料金？ アップルCEOが示唆 Siri AIは使いすぎると追加料金?Apple CEOが示唆 AppleのTim Cook CEOは、7月30日の市販期決算説明会で AIを搭載した新しい音声アシスタント、Siriについて 頻繁に利用するユーザー向けにiCloud Plusのアップグレードとして 有料で提供する可能性を示しました。 この構想は初期段階にあり、具体的な計画はまだ決まっていません。 新しいSiriは、6月の開発者会議、WWDCで刷新が発表されたもので iPhoneやiPad、Mac、Apple Vision Pro向けの次世代OSに対応します。 また、独立したアプリやカスタマイズ機能、ビジュアルインテリジェンス、 新しいデザインを採用します。 これによりコンサート情報の検索や通知、メッセージの検索、 写真の整理や撮影場所の特定など、さまざまな機能が利用できるよう になる見込みです。 # 米アマゾン、関税還付金約940億円の一部を顧客に返金へ アメリカ・アマゾン関税カンプ金約940億円の一部を 顧客に返金へ。アマゾンは7月30日、関税に伴う輸入所費用を 支払った対象の顧客へ返金すると発表しました。 返金の時期や金額は現時点では未定です。 これはアメリカの最高裁判所がトランプ大統領の関税を 違法と判断したことを受け、アマゾンがアメリカ政府から カンプ金を受け取り次第、対象となる顧客へ連絡し 自動で返金する仕組みとしています。対象となるのは商品購入時に 関税関連の費用を負担した限られたケースで、 大半の顧客は対象外だということです。また、アマゾンは 関税による値上がり分を概ね吸収したほか、関税の発動前に 在庫を積み増すことで負担を回避したと説明しています。 # Pickup⚡️なぜAnthropicは「失敗」を隠さなかったのか？ それでは、きょうのピックアップニュースです。 アンソロピックは、クロードが評価中の設定ミスによって、 実際のインターネットへ接続され、 実在する企業3社へ不正アクセスしていたことを発表しました。 評価は停止され、第3社機関によって検証も始まっています。 今回注目したいのは事故そのものではなく、 アンソロピックが自社の失敗をここまで詳しく公表したということです。 アンソロピックは事故の原因、影響範囲、 さらに詳細レポートを公開する予定まで明らかにしています。 普通なら、企業はここまで公開したくはありません。 評判が下がるかもしれませんし、 攻撃方法まで知られてしまう可能性もあるからです。 ではなぜアンソロピックは公開するのでしょうか。 それは公開したほうが、 AI全体業界の安全性が高まるという考え方だからです。 アンソロピックはもともと、 オープンAIの元幹部や研究者が設立した会社です。 設立の背景には、 AIの性能だけを競うのではなく、 安全性や社会への影響を最優先に研究すべきだという考え方がありました。 そのため、アンソロピックは AIをより賢くすることだけでなく、 失敗から学び、その知見を社会全体へ共有することも 安全なAI開発の一部だと考えています。 航空事故が起こると原因を調査し、 世界中で共有して同じ事故を防ぎますよね。 アンソロピックは、 AIもそれに近い社会インフラになると考えているのです。 一方で、オープンAIは少し考え方が異なります。 GPT 5.6などでは、 安全性評価や攻撃テストの結果は公表していますが、 攻撃手法や内部システムの詳細までは公開していません。 透明性は大切ですが、 公開しすぎると悪用される可能性があるからです。 つまり、透明性と安全性のバランスを重視しているといえます。 一方、グーグルやマイクロソフトはさらに慎重です。 問題が起きたことや対策は公表しますが、 悪用につながる内部評価や攻撃手法については、 必要最低限しか公開しない傾向があります。 利用者が非常に多いサービスだからこそ、 情報公開が新たなリスクを生まないことを 優先していると考えられます。 つまり、今、AI業界では 透明性にも大きく3つの考え方があるのです。 アンソロピックは、 失敗も公開して社会全体で学ぶ。 オープンAIは公開はするが、 安全を損なう情報は防ぐ。 グーグルやマイクロソフトは 利用者保護を優先し、 必要最低限を公開する。 どれが正しいのかは、 まだ世界でも答えは出ていません。 公開すれば攻撃者にもヒントを与えてしまいます。 一方で、公開しなければ 企業や政府はそのAIが 本当に安全なのか判断がつきません。 つまり、これからは AI企業を評価するポイントは 性能だけではなく、 どこまで透明性を保って 社会へ説明するのか。 この答えを世界中のAI企業が 今まさに模索している最中なのです。 以上、本日は熊谷シマイラがお送りしました。 今日のニュース、いかがでしたでしょうか。 少しでも視点が増えたと感じられた方は ぜひ、いいねを押していただけると嬉しいです。 このチャンネルは毎朝6時20分に更新です。 アプリからチャンネルをフォローすると ITやビジネスの最新ニュースを 毎日インプットできます。 ぜひ、フォローしてお聞きください。