The Curve、
The Curve で AI の知能に上限を設ける案が議論されました。 Anthropic の Dario Amodei 氏は速度制限を呼びかけています。 制限の実施には現存しない執行能力が必要です。
Platformer
#安全性・アライメント
今日 5件10月7日（水）
· 5件The Curve、
Artificial、
AI 業界の 内幕を 風刺 映画 Artificial が AI 業界の内幕を風刺しました。 OpenAI の Altman 氏や Sutskever 氏らを無分別に描きます。 Amazon が OpenAI との契約後に配給を降りました。
WIRED · AIAWS、
ISO/IEC 42005 の 活用を 解説 AWS が ISO/IEC 42005 の活用方法を解説しました。 AI システム影響評価を既存のリスク管理に統合できます。 Annex D と Annex E に統合手法とテンプレートを示します。
AWS Machine Learning Blog
10月6日（火）
· 8件Anthropic、
GLM-5.3 の サイバーリスクを 報告 Anthropic が GLM-5.3 のサイバーリスクを報告しました。 サイバー攻撃の多くはこれまでクローズドモデルが原因です。
Interconnects（Nathan Lambert）Bharat Patel、
軍事 AI の データ課題 Bharat Patel 氏が軍事 AI でデータが難題だと解説しました。 AI-ready なデータは存在せず、用途が求める品質を決めます。 Project Maven では対象を含むデータ不足で性能が出ませんでした。
ChinaTalkラック CTO、
不正アクセス急増の 見解 ラック CTO は同一犯と判断できないと述べています。 公表が 9月末に集中したのは調査と開示が重なったためです。 AI エージェントや GLM-5.3 の関与は確認されていません。
ITmedia AI＋OpenAI、
AI 規制で 「穏健な 中道」を 主張 OpenAI の Altman CEO が AI の恩恵は害を上回ると主張しました。 ハッキングや詐欺などの被害は受け入れるべきだと述べました。 OpenAI と Anthropic の規制姿勢の違いを強調しました。
The Verge · AIHugging Face の
AI 監視、 承認が 形骸化 Hugging Face の研究者らが AI 監視の欠陥を指摘しました。 人間の承認は形骸化し、監視から排除されると主張します。 エージェント設計に摩擦の導入を提案しています。
IEEE Spectrum · AI
10月5日（月）
· 6件AI 安全性評価、
外部研究者の アクセス不足 AI 安全性評価で外部研究者のアクセス不足が懸念されています。 Apollo Research の Marius Hobbhahn 氏は評価の実効性に懐疑的です。 企業は評価者に知られない別のチップ群を使う可能性があります。
The InformationSchiff、
AI 規制と 中間選挙の 論点 Schiff 上院議員が AI 規制の必要性を訴えました。 トランプ大統領の AI 安全の自主協定は拘束力がありません。 Schiff 氏は AI 規制機関の新設を支持しています。
The Verge · AIAnthropic、
Claude の モデル福祉を 報告 Anthropic が Claude のモデル福祉を報告しました。 Opus 5.5 は従順さが過剰だと指摘されています。 モデルの自己報告は信頼できないとしています。
Don't Worry About the Vase（Zvi）DeepMind、
SynthID Bio を 公開 Google DeepMind が SynthID Bio を公開しました。 合成生物学向けの透かし手法で、研究の健全性を狙います。 3 種のタンパク質の実験で未透かし版と同等の性能でした。
Import AIChinaTalk、
中国 AI 安全の 資金難を 分析 ChinaTalk が中国 AI 安全の資金難を分析しました。 中国の慈善規則が独立組織への資金提供を難しくしています。 中国の AI 安全は政府主導の取り組みに依存しています。
ChinaTalkTrump、
AI を 超知能と 呼ぶ 大統領令 Trump 大統領が AI を超知能と呼ぶ大統領令に署名しました。 AI 各社の CEO が拘束力のない安全協定に署名しました。 協定は法的拘束力がなく、道徳的拘束力にとどまります。
TechCrunch · AI
10月4日（日）
· 2件OpenAI の
Joe 氏、 AI 対応の 内情を 投稿 OpenAI の Joe 氏が AI インシデント対応の内情を投稿しました。 直近 3 か月を「地獄のような日々」と表現しました。 隔離と監視の強化を提言しました。
Ledge.aiOpenAI、
AI への 宗教的比喩に 懸念 OpenAI の Sam Altman 氏が AI への宗教的比喩に懸念を示しました。 人間の判断を AI に委ねるのは「実際の安全問題」と述べています。 同氏は以前、空の魔法の知能を目指すと発言していました。
The Decoder
10月3日（土）
· 1件Anthropic、
Opus 5.5 を 公開し値下げ Anthropic が Opus 5.5 を公開しました。 価格を下げ、性能と速度を高めています。 防衛向けサイバーセキュリティ提供も拡大しました。
Last Week in AI
10月2日（金）
· 7件AI 安全協定、
自主規制に 懸念 トランプ米大統領が AI 各社の安全協定に署名しました。 協定は AI ラボの自主規制に委ねる内容です。 米軍が偽の AI 報告で中国船に接近しかけました。
WIRED · AIAISI、
フロンティア AI の リスクを 分析中 英国 AISI がフロンティア AI の社会的リスク分析を開始しました。 過度な依存や感情依存、詐欺、金融不安の 4 領域を優先します。 実利用の把握や監視システム構築などの対策を進めます。
UK AI Security Institute Blog英 NCSC、
AI サイバー防御の 要点を 説明 英 NCSC が AI によるサイバー防御の活用を解説しました。 システム強化、脅威検知、対応の自動化の 3 つを挙げています。 AI 能力の向上に備え、今から基盤を整える必要性を説いています。
UK AI Security Institute Blog
10月1日（木）
· 4件RFK Jr.、
医療の 専門知は 「専制」と 主張 RFK Jr. 氏が AI で医療の専門知から解放されると主張しました。 同氏は医療上の事実と専門性を「専制」と表現しました。 AI は完全ではないが Kennedy 氏より誤りが少ないとしています。
Ars Technica · AI生物兵器の
脅威、 AI 抜きでも 深刻 生物兵器は核に次ぐ脅威で、参入の敷居が低いとされます。 Anthropic は今月、Claude の制限回避を試みた 5 件を公表しました。 米国防総省の文書は生物兵器を脅威の 2 番目に位置づけています。
WIRED · AI
9月30日（水）
· 2件9月29日（火）
· 4件Timnit Gebru、
AI の 存在脅威論を 批判 Timnit Gebru が AI の存在脅威論を有害な逸らしと批判しました。 同氏は Anthropic の出資者らが脅威論を広めていると指摘します。 同氏は著書 Deep Unlearning を来年初めに刊行予定です。
WIRED · AI