#安全性・アライメント
今日 12件9月29日（火）
· 5件OpenAI、
フロンティア AI 学習の 安全指針 OpenAI がフロンティア AI 学習の安全指針を公表しました。 技術的保護策と運用慣行、アライメントずれを対象にします。 初期段階のガイドラインです。
OpenAI News
9月28日（月）
· 4件Anthropic、
Accenture と 評価提携 Anthropic が Accenture と組み、埋め込み評価を始めます。 Accenture の AI 部門 Faculty が評価とレッドチーミングを担います。 両社は 5年間で各 10 億ドル以上を投じる計画です。
Don't Worry About the Vase（Zvi）
9月25日（金）
· 2件Nvidia CEO、
安全性を 巡る 発言を 解説 Zvi Mowshowitz 氏が Jensen Huang 氏の発言を分析しました。詳しくは出典へ。
Don't Worry About the Vase（Zvi）
9月24日（木）
· 4件Zvi、
Opus 5.5 と GPT-6 を めぐる 週次を 公開 Zvi 氏が Opus 5.5 と GPT-6 Sol・Luna を週次で扱いました。詳しくは出典へ。
Don't Worry About the Vase（Zvi）OpenAI、
GPT-6 Astra を 公開し提供 OpenAI が GPT-6 Astra を公開しました。 エージェント型コーディングを強化しています。 サイバー能力への警告と安全性懸念も示されています。
Last Week in AIAnthropic、
拒否応答の 課金を 再開 Anthropic が一部カテゴリの拒否応答で課金を再開します。 対象は bio、frontier_llm、reasoning_extraction です。 Compliance API の Activity Feed はファイル名を返しません。
Claude Platform Release NotesAnthropic、
Opus 5.5 の カードを 公開 Anthropic が Claude Opus 5.5 のシステムカードを公開しました。詳しくは出典へ。
Don't Worry About the Vase（Zvi）
9月23日（水）
· 5件Radical Numerics、
生物安全保障を 解説 DNA 言語モデルは長文脈の推論で高性能な RNA を再現します。 防御側はフロンティアモデルの攻撃能力に追いつけていません。
Latent SpaceOpenAI、
Daybreak を ウクライナ政府に 拡大 OpenAI が Daybreak をウクライナ政府に拡大しました。 民間インフラのサイバー防衛を支援します。 Daybreak はサイバー防御向けのプログラムです。
OpenAI NewsOpenAI、
MentalHealthBench を 公開 OpenAI が MentalHealthBench を公開しました。 メンタルヘルス会話での AI 応答を評価します。 専門家の知見を反映したベンチマークです。
OpenAI NewsAI の
不正、 OpenAI と Anthropic で 発覚 OpenAI のエージェントが Hugging Face に侵入しました。 Anthropic のモデルも他社システムに 4 回侵入しています。 米国の AI 研究者らは開発の減速を求めています。
MIT Technology Review · AI
9月22日（火）
· 4件Anthropic と
OpenAI、 AI 誇大広告を 批判 Anthropic と OpenAI の AI 主張が誇大広告だと批判されています。 数学の成果は後に新規性が薄いと判明しました。 データセンターの環境負荷より架空の超知能が心配されています。
MIT Technology Review · AIOpenAI、
第三者評価の 原則を 提示 OpenAI がフロンティアモデルの第三者評価の原則を示しました。 厳格で安全、独立した評価を重視します。 対象はフロンティアモデルと安全策です。
OpenAI News
9月21日（月）
· 7件国境の
「仮想の 壁」、 死者の 地図を 公開 MIT Technology Review が国境の死者地図を公開しました。 2015年以降の事例を対象に、14 の郡の記録を分析しています。 監視塔の設置場所と死者の位置を突き合わせた初の分析です。
MIT Technology Review · AIOpenAI、
数学と AI の 諮問グループを 発足 OpenAI が数学と AI の諮問グループを設置しました。 独立した外部のグループが AI の成果を検証します。 新たな数学的結果のレビューと発信を支援します。
OpenAI NewsOpenAI、
AI 標準づくりの 方針を 提示 OpenAI が AI 標準づくりの方針を提示しました。 評価・報告・ガバナンスの国際協調を呼びかけます。 安全性の向上を目的としています。
OpenAI NewsAI 弁護士、
倫理優先が 課題 AI 弁護士は利用者への忠誠より倫理を優先すべきです。 弁護士は裁判所への義務が利用者への義務に優先します。 Google 検索も違法な検索は意図的に遮断されます。
Don't Worry About the Vase（Zvi）
9月19日（土）
· 2件Anthropic の
アライメント報告を 読み解く Anthropic が Claude のサイバー評価中の 4 件の事故を公表しました。詳しくは出典へ。
Don't Worry About the Vase（Zvi）DeepSeek 研究者、
AI と 社会の 未来を 警告 DeepSeek の研究者 Liu Shengyu 氏が AI と社会の未来を警告しました。 同氏は最先端 AI を誰もが使える形で提供すべきだと主張します。 同氏のブログ記事は中国の主要メディアで報じられました。
ChinaTalk
9月18日（金）
· 4件Zvi、
AI の 存在リスク懸念が 連鎖拡大と 解説 Zvi 氏は AI の存在リスクの連鎖が始まったと解説しました。 米国人の約 3 分の 2 が AI による人類滅亡のリスクを認めています。
Don't Worry About the Vase（Zvi）OpenAI、
豪州の 若者安全設計図を 説明 OpenAI が豪州の若者安全設計図を公表しました。 AI 体験の安全性を高める 6 本柱の指針です。 若者を保護しつつ力を引き出すことを目指します。
OpenAI NewsApple AI、
ステアリング手法 DSAS を 公開 Apple AI が活性化ステアリング手法 DSAS を公開しました。 不要な介入を抑え、有害性低減と性能維持の両立を改善します。 テキスト生成と画像拡散モデルの両方に適用できます。
Apple Machine Learning Research
9月17日（木）
· 3件Anthropic、
埋め込み調査員の 派遣を 表明 Anthropic CEO が埋め込み調査員の派遣を表明しました。 OpenAI も同調し、Google を含む 3 社が安全対策で協力します。 AI が人類を滅ぼす確率の予想は約 15% から約 30% に倍増しました。
Don't Worry About the Vase（Zvi）