Facebook 用透过 AI 移除涉儿童色情的帖子

2020-05-21

Facebook 近日宣布,由于採用了新 AI 技术,它上个季度已经删除了 870 万条涉及儿童色情犯罪的帖子。

利用 AI 及人工智能移子涉儿童色情及剥削帖子

Facebook的全球安全负责人 Antigone Davis 在博客文章中表示,新的人工智能和机器学习技术在过去一年中由公司开发和实施,在有人报告之前删除了99%的帖子。

新技术在上传时检查儿童裸体和其他剥削内容的帖子,并在必要时向国家失踪和受剥削儿童中心报告照片和帐户。Facebook 已经使用照片匹配技术将新上传的照片与已知的儿童剥削和复仇色情图像进行比较,但新工具旨在防止以前未识别的内容通过其平台传播。

这项技术并不完美,许多家长抱怨他们孩子的无害照片已被删除。Davis 在她的帖子中回应,表示为了「避免滥用的可能性,我们也对无性内容採取行动,就像洗澡中儿童的照片。」

除了家庭快照之外,它还被批评删除具意义及代表性的内容,如1972年标誌性的Phan Thi Kim Phuc照片,在遭受南越凝固汽油袭击她村庄后赤身裸体地逃走的照片,亦被禁止发布。去年,该公司的审核政策也受到英国国家防止虐待儿童协会的批评,该协会呼吁社交媒体公司受到独立审核和不遵守规定的罚款。

Facebook Live的推出有时也会使平台及其主持人淹没,包括性侵犯,自杀和谋杀的视频,包括她父亲播放的11个月婴儿的视频。

虽然目前 AI 审查照片功能并不完美,但 AI 将审核过程自动化可以令人类工作者受益。上个月,前Facebook内容主持人Selena Scola起诉该公司声称,她在工作中筛选数千张暴力图像,导致她患上创伤后应激障碍。其他主持人,其中许多是承包商,也谈到了这份工作的心理收费,并表示Facebook没有提供足够的培训,支持或经济补偿。

上一篇:
下一篇:
扩展阅读