英 AISI、
UK AI Security Institute Blogこの話題 1ソース →要
AI要約
3行で- 英 AISI がデータ汚染の研究を共同公開しました。
- 250 件の文書で 600M から 13B の全モデルに攻撃が成功しました。
- 汚染に必要な文書数はモデル規模が大きくなっても増えません。
AI要約です。詳しくは出典へ。誤りを報告
Karunews が選んだ理由少数の文書で学習データを汚染できるという結果が示され、モデル規模が大きくなっても必要数が増えない点が防御策を考える材料になります。
典
出典
1ソース · 一次情報UK AI Security Institute Blog一次Examining backdoor data poisoning at scaleaisi.gov.uk