AWS、
AWS が ISO/IEC 42005 の活用方法を解説しました。 AI システム影響評価を既存のリスク管理に統合できます。 Annex D と Annex E に統合手法とテンプレートを示します。
AWS Machine Learning Blog
#政策・規制
今日 1件10月7日（水）
· 1件AWS、
10月6日（火）
· 3件米国など
17 か国、 SI 科学活用の 共同宣言 米国など 17 か国が SI 科学活用の共同宣言を支持しました。 同宣言は SI の研究プロセス組み込みや資金拡大を掲げます。 英国 AISI は安全対策を強化し評価活動の大半を再開しました。
AIセーフティ・インスティテュート（J-AISI）AISI、
事業実証の ビジョンペーパー更新 AISI が事業実証のビジョンペーパーを更新しました。 ヘルスケア・ロボティクスなど 4分野を対象とします。 データ品質と適合性評価の枠組みも示しました。
AIセーフティ・インスティテュート（J-AISI）OpenAI、
EU の 透かし 規則への 対応を 解説 OpenAI が EU のテキスト透かし規則への対応を解説します。 透かしの適用範囲と検出方法を示します。 利用は研究者から段階的に始まります。
OpenAI News
10月2日（金）
· 19件国際ネットワーク、
エージェント試験を 実施 国際ネットワークがエージェント評価の共同試験を実施しました。 9 言語・約 1,500 タスクで安全性と詐欺リスクを検証しました。 英語の安全性は通過率約 40% で他言語よりやや高いです。
UK AI Security Institute BlogAISI、
フロンティア AI の リスクを 分析中 英国 AISI がフロンティア AI の社会的リスク分析を開始しました。 過度な依存や感情依存、詐欺、金融不安の 4 領域を優先します。 実利用の把握や監視システム構築などの対策を進めます。
UK AI Security Institute BlogAISI、
Anthropic と OpenAI と 連携 英 AISI が Anthropic と OpenAI の協業を公表しました。 両社は非公開のツールと安全対策の詳細を AISI に提供しました。 AISI と米 CAISI が脆弱性の特定と修正で連携します。
UK AI Security Institute Blog英 AISI、
AI 生成 CSAM 対策の 指針を 公表 英 AISI が児童安全団体 Thorn と安全プロトコルを公表しました。詳しくは出典へ。
UK AI Security Institute Blog英 AISI、
2025年の 成果を 総括 英 AISI が 2025年の年間成果を総括しました。 30 超のフロンティアモデルをテストしました。 Google DeepMind と研究提携を開始しました。
UK AI Security Institute Blog国際 AI 評価ネットワーク、
評価の 共通課題を 整理 国際 AI 評価ネットワークが評価手法の合意点と未解決課題を整理しました。 評価は目的の明示と再現性の確保が必要です。 AI モデルでなく AI システムの評価方法は未解決です。
UK AI Security Institute BlogCohere、
EU の AI 生成物透明性規範に 署名 Cohere が EU の AI 生成コンテンツ透明性規範に署名しました。 AI システム提供者向けの第 1 節に署名しています。 EU AI Act 第 50 条の遵守を示す任意の枠組みです。
Cohere BlogAISI、
AI ロボティクスの 評価ガイドを 公開 AISI が AI ロボティクスの評価ガイドを公開しました。 物理・心理・社会の 3 類型でリスクを整理しています。 カフェ搬送など 2 例で確認観点を 9 項目に整理しました。
AIセーフティ・インスティテュート（J-AISI）AI 情報通、
9月14日 15時の 情報を 報告 Anthropic が Claude の悪用事例をまとめた報告書を公表しました。 Moonshot AI が Kimi のリクエストを Claude へ転送していました。
AIセーフティ・インスティテュート（J-AISI）AISI、
AI セーフティ評価 TF 総会を 開催 AISI が AI セーフティ評価タスクフォース総会を開催します。 評価環境の概要や今年度の活動内容を紹介します。 10月7日開催で参加費は無料、誰でも参加できます。
AIセーフティ・インスティテュート（J-AISI）国連、
AI 開発速度への 懸念を 公表 国連が AI 開発速度への懸念と国際協力を公表しました。 Microsoft AI が人間の管理を重視する指針の初稿を公表しました。
AIセーフティ・インスティテュート（J-AISI）国連、
AI 管理の 国際枠組みを 提言 国連が AI 管理の国際枠組みの必要性を示しました。 グテーレス事務総長は AI が統治能力を超えると警告しました。 生死を左右する判断を AI に委ねるべきでないと強調しました。
AIセーフティ・インスティテュート（J-AISI）
10月1日（木）
· 1件9月30日（水）
· 2件Google、
自治体の AI 活用事例を 公開 Google が自治体の AI 活用事例サイトを公開しました。 東京大学松尾研究室と 2024年6月から連携しています。 9 自治体の事例と職員向け研修を紹介しています。
Google Japan Blog
9月29日（火）
· 2件欧州委員会、
著作権の 意見募集を 開始 欧州委員会が著作権環境の改善に向けた意見募集を始めました。 募集は 9月29日に始まり、11月3日に締め切られます。 創造性とイノベーションのための著作権の取り組みを準備します。
EU Digital Strategy（含 AI Office）
9月25日（金）
· 1件Sakana AI、
スタートアップ大賞で 受賞 Sakana AI が日本スタートアップ大賞で受賞しました。 自然界の進化に着想を得た効率的な AI 開発手法が評価されました。 防衛分野では指揮統制システムに AI を活用しています。
Sakana AI
9月23日（水）
· 2件OpenAI、
Daybreak を ウクライナ政府に 拡大 OpenAI が Daybreak をウクライナ政府に拡大しました。 民間インフラのサイバー防衛を支援します。 Daybreak はサイバー防御向けのプログラムです。
OpenAI News
9月22日（火）
· 2件OpenAI、
第三者評価の 原則を 提示 OpenAI がフロンティアモデルの第三者評価の原則を示しました。 厳格で安全、独立した評価を重視します。 対象はフロンティアモデルと安全策です。
OpenAI News英 AISI、
EvalEval で 評価結果を 公開 英 AISI が EvalEval の基盤で評価結果を公開しました。 対象は HealthBench など 5 つのベンチマークです。 Claude Opus 4 系と GPT-5 系の 6 モデルを検証しました。
Hugging Face Blog
9月21日（月）
· 1件OpenAI、
AI 標準づくりの 方針を 提示 OpenAI が AI 標準づくりの方針を提示しました。 評価・報告・ガバナンスの国際協調を呼びかけます。 安全性の向上を目的としています。
OpenAI News
9月18日（金）
· 2件OpenAI、
豪州の 若者安全設計図を 説明 OpenAI が豪州の若者安全設計図を公表しました。 AI 体験の安全性を高める 6 本柱の指針です。 若者を保護しつつ力を引き出すことを目指します。
OpenAI News欧州委員会、
データ連合会議を 開催 欧州委員会がデータ連合会議を開催します。 デジタルオムニバスや産業 AI 向けデータを議論します。 会場はブリュッセル、参加には承認が必要です。
EU Digital Strategy（含 AI Office）
9月17日（木）
· 2件Microsoft、
教育向け AI の 5 原則を 公表 Microsoft が教育向け AI の 5 原則を公表しました。 教職員組合と学生データ保護の基準を締結しました。 教育製品のデータ利用を制限し、人の監督を必須にします。
The Official Microsoft Blog