
Weekly Newsletter #275 “暴走AI”では説明できない――相次ぐ侵入事故で見えた本当の問題
テスト中のAIが外部ネットワークへ到達し、現実の企業を攻撃しました。これは“暴走”なのか、それとも人間側の設計ミスなのでしょうか。
シリコンバレーに駐在する日系IT企業のメンバーが、米国のテック事情や気になるニュースなどをお伝えします
Live Last read · last published · next check

テスト中のAIが外部ネットワークへ到達し、現実の企業を攻撃しました。これは“暴走”なのか、それとも人間側の設計ミスなのでしょうか。

何度目かの「もう書かなくていい」

あなたの会社がAI に攻撃されたとき、頼みのAI は解析を拒むかもしれません。OpenAI の評価用モデルがHugging Face を自律ハッキングした事件が突きつけた、守る側と攻める側の非対称。あわせて身代金交渉人の裏切りと、Meta のネオクラウド参入をお届けします。

カナダで動き出した1GW級「即応型」立地モデル / 4都市同時展開のアクセルを踏むWaymoと、NHTSAの厳しいブレーキ

初めまして。6月1日から、このニュースレターに書き手として加わりました。Yutoです。渡米してまだ1ヶ月。右も左も分からないながら、シリコンバレーで生活して感じたことを、この場でお伝えしていきます。どうぞよろしくお願いします。

Alibaba名指しで浮き彫りになったモデル抽出の脅威。最先端AIが国家の「戦略物資」に変わる瞬間と、SFの夜の新しい活気をお届けします。

物理的なチップから、クラウドの「論理アクセス」規制へ。Anthropicへのアクセス遮断など、ビジネスに直結する米政府のAI輸出規制の最前線を深掘りします。
住民の6割がデータセンター建設に反対?地上の電力・土地不足を「宇宙」で解決するSpaceXの勝算と、タイマーを卒業するSiriの現実解。

8兆円の札束戦争から歴史的IPO、そして自動運転のリアルまで。バグり始めたAIの現在地
AI が脆弱性を攻める側ばかりが語られてきましたが、今週は守る側の番でした。Anthropic は Claude Mythos が281のOSS から1,596件の脆弱性を見つけて開示する仕組みを公開し、AI クラスタ内の配線は銅から光へ移り始め、米政府は量子を半導体並みの国家戦略物資として扱い始めています。