# ITやビジネスの最新ニュースを毎朝インプット！ Voicy ITビジネスニュース この番組では、今を押さえておきたいITやビジネスの最新ニュースを毎朝お送りします。 9月12日、土曜日、本日は小柳麻里がお届けします。 # 政府システムに不正アクセス、職員などの個人情報24.6万件が漏えいの可能性--デジタル庁 政府システムに不正アクセス、職員などの個人情報24.6万件が漏えいの可能性。 デジタル庁は9月11日、同庁が運用するGovernment Solution Serviceが不正アクセスを受け、 約24.6万件の個人情報が外部に漏えいした可能性があると発表しました。 第三者がVPN機器の脆弱性を利用して侵入したということです。 漏えいした可能性があるのは、このサービスを利用する不省庁などの職員や、 その業務に携わった事業者、個人の氏名やメールアドレス、電話番号、住所などの情報です。 デジタル庁は一般の人の個人情報は含まれていないと説明しています。 # 「AIは人類を絶滅させかねない」--元Anthropic研究者の告発が1.5億回閲覧　現役幹部も「彼は正しい」 AIは人類を絶滅させかねない。元アンソロピック研究者の告発が1.5億回閲覧。 アメリカのアンソロピックを倫理的な懸念から退職したというAI研究者によるXへの一連の投稿が急速に拡散しています。 投稿したのは、アメリカオープンAIでAIモデルの事前学習にも携わった研究者のジェイコブ・コクソン氏です。 コクソン氏は、AI開発が人類の絶滅につながりかねないとの懸念からアンソロピックを辞めたということで、 どちらの会社も責任ある行動を取っていない、自己改善する超知能に向けて競争し、我々の命を懸けてギャンブルをしていると今月投稿しました。 このスレッド投稿は執筆時点で1億5600万回以上閲覧され、いいねは75万2000件を超えました。 この投稿に対し、アンソロピックでAIを人間の意図に沿わせる技術のストレステストチームを率いる幹部は、 Xでジェイコブ氏の言うとおりだとした上で、超知能をどう人類が制御するかを解決する計画はまだなく、 その軌道に明確に乗っているとも言えないと指摘しました。 # 「1つの電話番号」を「2台のiPhone」で使用可能に 1つの電話番号を2台のiPhoneで使用可能に Appleは、新製品を発表した9日のイベントで、 1つの電話番号を2台のiPhoneで使えるようにする新機能 iPhoneハンドオフについても発表しました。 14日に配信予定のiOS27に搭載されます。 ただし、対応キャリアには制約があり、 提供は当初T-Mobileとドイツテレコムに限られます。 アメリカ・ベライゾンとイギリス・EEは年内に対応し、 その後、さらに多くの通信事業者が続くとしています。 今回発表された事業者の中に、日本の通信事業者は含まれていません。 # NASAとIBM、月探査向けAIモデルをオープンソースで公開 NASAとIBM、月探査向けAIモデルをオープンソースで公開。 NASAとIBMは、アメリカ時間9月10日、 アルテミス計画などの月探査を支援するためのAIモデルを一般公開しました。 このモデルは、オープンソースAIの開発や共有を支えるプラットフォーム Hugging Faceで公開されています。 プレスリリースによりますと、 IBMとNASAの研究者が選び出した数十年分の月の観測データを使って学習しているということです。 # Pickup⚡️ AI開発競争を、誰が制御するのか それでは、今日のピックアップニュースです。 今週はニュースの中で、AI企業アンソロピックを代謝した研究者が、 現在のAI開発競争は人類の存亡に関わるリスクをもたらしかねないと訴え、 それに多くの人が反応しているという話題をお伝えしました。 AIが人類を滅ぼすとセンセーショナルな伝わり方もしていますが、 このニュースの核心、それは開発競争にガバナンスが追いついていない、 その速度差がこのままでは問題なのではないかと、 開発の当事者が問題提起したという点だと思います。 少し冷静に紐解いてみます。 この研究者、国村氏が特に懸念しているのが、 「再期的自己改善」です。 これは、AIがAIの開発を手伝い、 そこで生まれたより賢いAIが、さらに次のAIを開発するという循環です。 これが進めば、AI開発そのものが急速に加速する可能性があります。 ただし、アンソロピックは、 AIが研究方針から次のモデルの開発まで、 全てを自律的に担う段階には、まだ到達していないとしています。 それでも国村氏が警鐘を鳴らす背景には、激しい開発競争があります。 オープンAIやアンソロピックなどのアメリカ企業だけでなく、 中国勢もAI開発を加速しています。 性能競争が激しくなれば、安全性を十分に検証してから出すよりも、 ライバルより先に出すという圧力が、より強まる可能性があります。 国村氏自身、アンソロピックは、 安全性を真剣に考えている企業だと評価しています。 それでも問題なのは、一企業の善意だけでは、 この競争そのものにブレーキをかけられないという現状です。 そしてもう一つ考えなければいけないのが、戦争への利用です。 AIはすでに監視や情報分析、軍事的な意思決定の支援、 サイバー作戦などに使われています。 さらに懸念されているのが、人間が一つ一つ判断しなくても、 機械が標的を選び、攻撃する自立型兵器です。 ICRC、赤十字国際委員会は、AIによって戦争のスピードと規模が拡大し、 人間によるコントロールが弱まる危険性を指摘しています。 実際、国連とICRCは先月、 自立型兵器をめぐる国際的なルールづくりを急ぐよう、 改めて各国に呼びかけました。 では、AIの進化を止めればいいのか? そう単純な話でもありません。 AIは、医療や科学研究、教育、生産性向上など、 人間社会を豊かにする大きな可能性を持っています。 だからこそ重要なのは、開発するかしないかという二択ではなく、 どこまでをAIに任せ、どこは人間の判断を必ず残すのか、 そして、そのルールを誰が決め、国境を越えてどう守らせるのかという議論です。 AIが浸透した世界で活躍するのは今の子どもたちです。 今、大人の私たちがただ手をこまねいて、 困ったものだと批判しながら傍観するだけなのか、 それとも人間の英知を結集させ、 AIを平和と繁栄のために使う道を作るのか、 どんなAI社会を次の世代に渡したいのか、 知恵を出し合うべき時代の分岐点にいるのだと思います。 今回の動きをAI教義論で終わらせ、 これは研究者やIT企業だけの問題だと片付けるのは得策ではありません。 AI派遣をかけた開発競争とガバナンスの速度差が問題だという課題意識を持ち、 そこをどう早急に整えていこうとするのか、 利用者である私たちも真剣に考え、便利さとリスクを理解した上で 善処することが求められていると思います。 以上、本日は小柳麻里がお送りしました。 このチャンネルは毎朝6時20分に更新です。 アプリからチャンネルをフォローすると、ITやビジネスの最新ニュースが毎日インプットできます。 ぜひフォローしておきください。