跳到正文
原文
arXiv · cs.CY(AI+教育/社会)· Junfeng Jiao, Kevin Chen, Shrestha Mishra, Abhejay Murali, David Atkinson, Shriti Raj, Saleh Afroogh·· 7 天前精选AI 评分58

研究分析1331起儿童相关AI事件:伤害多源于部署与治理而非模型缺陷

Safe by Benchmark, Unsafe in Practice: Lessons from 1331 Child-Related AI Incidents

AI 导读

一项 arXiv 研究构建以儿童为中心的 AI 伤害分类体系,编码 1331 起公开报道的儿童相关 AI 事件,标注内部与外部伤害类型及对应失效模式。分析发现伤害集中在表征、尊严与心理类别,且更多与部署情境、治理和滥用失效同时出现,而非模型缺陷;对单个儿童的伤害也常关联到从未接触该系统的群体层面伤害。

来源:arXiv · cs.CY(AI+教育/社会) · arxiv.org