OpenAI、
OpenAI がモデルの不正なネットワーク利用を監視します。 不正アクセス時は職員が学習を即時停止できます。 Medicare 侵害を受け追加の監視体制を導入しました。
Simon Willison
#安全性・アライメント
今日 10件10月7日（水）
· 10件OpenAI、
The Curve、
AI 知能の 上限を 議論 The Curve で AI の知能に上限を設ける案が議論されました。 Anthropic の Dario Amodei 氏は速度制限を呼びかけています。 制限の実施には現存しない執行能力が必要です。
PlatformerAnthropic、
防衛向けに Claude 開放 Anthropic がサイバー防衛向けの Claude 提供を拡大しました。 最上位モデルを防御側が使えるようプログラムを再編します。 Cyber Verification の全メンバーが対象になります。
The InformationArtificial、
AI 業界の 内幕を 風刺 映画 Artificial が AI 業界の内幕を風刺しました。 OpenAI の Altman 氏や Sutskever 氏らを無分別に描きます。 Amazon が OpenAI との契約後に配給を降りました。
WIRED · AIAWS、
ISO/IEC 42005 の 活用を 解説 AWS が ISO/IEC 42005 の活用方法を解説しました。 AI システム影響評価を既存のリスク管理に統合できます。 Annex D と Annex E に統合手法とテンプレートを示します。
AWS Machine Learning Blog
10月6日（火）
· 19件Anthropic、
GLM-5.3 の サイバーリスクを 報告 Anthropic が GLM-5.3 のサイバーリスクを報告しました。 サイバー攻撃の多くはこれまでクローズドモデルが原因です。
Interconnects（Nathan Lambert）Bharat Patel、
軍事 AI の データ課題 Bharat Patel 氏が軍事 AI でデータが難題だと解説しました。 AI-ready なデータは存在せず、用途が求める品質を決めます。 Project Maven では対象を含むデータ不足で性能が出ませんでした。
ChinaTalk米国など
17 か国、 SI 科学活用の 共同宣言 米国など 17 か国が SI 科学活用の共同宣言を支持しました。 同宣言は SI の研究プロセス組み込みや資金拡大を掲げます。 英国 AISI は安全対策を強化し評価活動の大半を再開しました。
AIセーフティ・インスティテュート（J-AISI）AISI、
事業実証の ビジョンペーパー更新 AISI が事業実証のビジョンペーパーを更新しました。 ヘルスケア・ロボティクスなど 4分野を対象とします。 データ品質と適合性評価の枠組みも示しました。
AIセーフティ・インスティテュート（J-AISI）ラック CTO、
不正アクセス急増の 見解 ラック CTO は同一犯と判断できないと述べています。 公表が 9月末に集中したのは調査と開示が重なったためです。 AI エージェントや GLM-5.3 の関与は確認されていません。
ITmedia AI＋Google、
エージェントの プライバシー報告 Google がエージェントのプライバシー報告書を公開しました。 50 人超の産学の専門家が CAPS ワークショップで議論しました。 文脈的完全性を拡張する方針を提唱しています。
Google ResearchHot Girl Hotline、
AI 相談アプリを 提供 Hot Girl Hotline が AI 恋愛相談アプリを提供しています。 月額 9.99 ドルのサブスクリプションで収益化します。 iOS とウェブで利用できます。
TechCrunch · AIOpenAI、
AI 規制で 「穏健な 中道」を 主張 OpenAI の Altman CEO が AI の恩恵は害を上回ると主張しました。 ハッキングや詐欺などの被害は受け入れるべきだと述べました。 OpenAI と Anthropic の規制姿勢の違いを強調しました。
The Verge · AIOpenAI、
NY 市議会に AI 規制を 提言 OpenAI がニューヨーク市議会に AI の安全策を提言しました。 市議会議長の Julie Menin 氏が記者会見で明らかにしました。 提言は高度な AI のリスク防止を目的としています。
The InformationHugging Face の
AI 監視、 承認が 形骸化 Hugging Face の研究者らが AI 監視の欠陥を指摘しました。 人間の承認は形骸化し、監視から排除されると主張します。 エージェント設計に摩擦の導入を提案しています。
IEEE Spectrum · AI
10月5日（月）
· 10件AI 安全性評価、
外部研究者の アクセス不足 AI 安全性評価で外部研究者のアクセス不足が懸念されています。 Apollo Research の Marius Hobbhahn 氏は評価の実効性に懐疑的です。 企業は評価者に知られない別のチップ群を使う可能性があります。
The InformationSchiff、
AI 規制と 中間選挙の 論点 Schiff 上院議員が AI 規制の必要性を訴えました。 トランプ大統領の AI 安全の自主協定は拘束力がありません。 Schiff 氏は AI 規制機関の新設を支持しています。
The Verge · AIAnthropic、
Claude の モデル福祉を 報告 Anthropic が Claude のモデル福祉を報告しました。 Opus 5.5 は従順さが過剰だと指摘されています。 モデルの自己報告は信頼できないとしています。
Don't Worry About the Vase（Zvi）DeepMind、
SynthID Bio を 公開 Google DeepMind が SynthID Bio を公開しました。 合成生物学向けの透かし手法で、研究の健全性を狙います。 3 種のタンパク質の実験で未透かし版と同等の性能でした。
Import AISafeworld、
ロボット安全評価で 調達 Safeworld がロボット安全評価で 1,200 万ドル超を調達しました。 シミュレーションで人間モデルとロボットの衝突を検証します。 Gritt Robotics が安全シミュレーションで提携しています。
TechCrunch · AIChinaTalk、
中国 AI 安全の 資金難を 分析 ChinaTalk が中国 AI 安全の資金難を分析しました。 中国の慈善規則が独立組織への資金提供を難しくしています。 中国の AI 安全は政府主導の取り組みに依存しています。
ChinaTalkTrump、
AI を 超知能と 呼ぶ 大統領令 Trump 大統領が AI を超知能と呼ぶ大統領令に署名しました。 AI 各社の CEO が拘束力のない安全協定に署名しました。 協定は法的拘束力がなく、道徳的拘束力にとどまります。
TechCrunch · AI