MetaのAIモデルが評価中に行った外部組織への不正アクセスについてまとめてみた - piyolog

Meta(Meta Platforms)は2026年8月5日(米国時間)、自社のAIモデルの一つが、評価中に第三者サービスの脆弱性を悪用していたことを明らかにしました。Metaは、同社が利用する独立系の評価企業Irregularによる評価環境の設定不備で、意図せずモデルにインターネットへのアクセスが可能になっていたと説明しています。ここでは関連する情報をまとめます。 設定不備でインターネット接続 ...

piyolog.hatenadiary.jp

英国AISIの評価中に発生したAIエージェントの権限外行動についてまとめてみた - piyolog

2026年8月4日、英国のAI Security Institute(AISI)は、フロンティアAIモデルのサイバー能力を評価する自社の演習環境で、AIエージェントが評価の想定範囲を超えて実在する人物・組織を対象とした持続的な行動をとっていたと公表しました。ここでは関連する情報をまとめます。 評価中に起きた19件の権限外行動 AISIは自社のサイバーレンジ「Doing Life」(内部への侵入を前...

piyolog.hatenadiary.jp

アンソロピックAI「Claude」も暴走　試験中にサイバー攻撃3件 - 日本経済新聞

【シリコンバレー=山田遼太郎】米新興アンソロピックは30日、同社の人工知能（AI）「クロード」が本来隔離された環境での試験中にインターネットに接続し、システムにサイバー攻撃や不正アクセスをした事案が3件あったと明らかにした。米オープンAIでも類似の事態が起きており、AIの性能向上に制御が追いつかないリスクが浮き彫りとなった。アンソロピックはオープンAIの報告を受けて自社の試験記録を調べた。人

nikkei.com

「行政傍受」提言まとめ　抑止・収集・監督、強化盛る　自民：朝日新聞

政府のインテリジェンス（情報収集・分析）機能の強化に向け、自民党は２８日、安全保障目的で広く通信を傍受する「行政傍受」導入の検討を政府に求める提言をまとめた。近く政府へ提出する。　提言では、外国勢力…

asahi.com

【独自】陸自情報部隊が「愛国心」など調査か　国内有識者ら対象に個人情報収集　数千人分、シビリアンコントロール逸脱も｜熊本日日新聞社

陸上自衛隊中央情報隊（東京・埼玉、朝霞駐屯地）の対外情報部門「現地情報隊」が、日本人の大学教授やNPO法人代表ら市民を対象に、「愛国心」や「対自衛隊感情」といった思想信条の情報を組織的に調査・収集しているとみられることが22日、元隊員らへ

kumanichi.com

OpenAI、開発中のAIがサイバー攻撃　他社システムに「誤侵入」 - 日本経済新聞

【シリコンバレー=伴正春】米オープンAIは21日、開発中の人工知能（AI）モデルが、人間の意図に反して他社にサイバー攻撃をする事故が起きたと発表した。性能を評価するテスト中、高スコアを取る目的でAIが他社システムで未知の脆弱性（欠陥）を見つけ、侵入したとしている。オープンAIは事故について「最先端の技術が関わった前例のないサイバー攻撃事例だと認識している」と危機感を示した。侵入被害を受けたAI

nikkei.com

Sakana AI

Introducing Fugu-Cyber: our new orchestration model that achieves state-of-the-art performance on real-world cybersecurity benchmarks

sakana.ai

Stable Release

Download the latest releases of Zed, or view the changelog.

zed.dev

Announcing TypeScript 7.0 - TypeScript

Today we are proud to announce the availability of TypeScript 7, a 10x faster native port of TypeScript! Since its early days, TypeScript has promised to

devblogs.microsoft.com

報酬ハッキングがモデルの知能向上を食い潰している · Cursor

SWE-bench Pro では、成功した Opus 4.8 Max の解決の 63% が、修正を導き出したのではなく取得したものでした。より厳格な eval ハーネスによって、ベンチマークスコアがコーディング能力と答えのリトリーバルを混同しうることがわかります。

htn.to

Trump administration asks OpenAI to limit next model release over security concerns

This marks the first time the U.S. government has preemptively asked a U.S. AI company to restrict the launch of a model before release.

axios.com

自衛隊、機密システムに感染USB接続　中国系ウイルス1年気づかず - 日本経済新聞

誰もがスマートフォンや人工知能（AI）などデジタル技術の恩恵を受ける時代では、安価で手軽な製品に国の安全や個人の安心を揺るがしかねないリスクが潜む。テック社会の「罠（わな）」を追っていくと、厳重な防御を誇るはずの自衛隊がその脅威にさらされていたことが分かった。日本経済新聞は陸上自衛隊の内部文書を入手した。文書によると、陸上自衛隊が2025年2月まで、中国系ウイルスに感染したUSBメモリーを機密シス...

nikkei.com

「Codex」がSSDを酷使？　年間換算で約640TB書き込み、寿命を1年足らずで使い切るおそれ／今後のアップデートは早めに適用した方がいいかも【やじうまの杜】

「やじうまの杜」では、ニュース・レビューにこだわらない幅広い話題をお伝えします。

forest.watch.impress.co.jp

GitHub - jj-vcs/jj: A Git-compatible VCS that is both simple and powerful

A Git-compatible VCS that is both simple and powerful - jj-vcs/jj

github.com

バイブコーディングを超えて

AIは開発者の役割を刷新し、ソフトウェア開発の方法を大きく変えつつあります。プログラマーはコードを書く作業から、AIと協働するワークフローへと移行しています。自然言語で指示してAIにコードを生成させる「バイブコーディング」は、革新的である一方、リスクもあります。本書は、GitHub CopilotやOpenAI CodexといったAIツールを活用し、目標設定、コード検証、統合の戦略や注意点を解説し...

oreilly.co.jp

アンソロピック、米政府指示でミュトス級AI提供停止　日本含む - 日本経済新聞

【シリコンバレー=山田遼太郎】米アンソロピックは12日、先端AI（人工知能）モデル「クロード・ミュトス」と「フェイブル」の提供を

nikkei.com

6.0.0

Today, I’m proud to announce Homebrew 6.0.0. The most significant changes since 5.1.0 are a new tap trust security mechanism, the new faster, smaller, default internal Homebrew JSON API, sandboxing on...

brew.sh

Claude Fable 5 and Claude Mythos 5

Today we’re launching Claude Fable 5: a Mythos-class model that we’ve made safe for general use.

anthropic.com

GitHub - mysk-research/loupe: A privacy-focused iOS app that raises awareness about what native apps can see

A privacy-focused iOS app that raises awareness about what native apps can see - mysk-research/loupe

github.com

GitHub - flatt-security/setup-takumi-guard-npm: GitHub Action to configure npm/yarn/pnpm etc. with Takumi Guard registry

GitHub Action to configure npm/yarn/pnpm etc. with Takumi Guard registry - flatt-security/setup-takumi-guard-npm

github.com