设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

Meta 开源 FACET 工具,用于评估 AI 模型中的种族和性别偏见

2023/9/2 8:52:33 来源:IT之家 作者:故渊 责编:故渊

IT之家 9 月 2 日消息,Meta 公司为了缓解当前很多计算机视觉模型对女性、有色人种存在系统性偏见问题,近日推出了名为 FACET 的全新 AI 工具,用于识别计算机视觉系统中的种族和性别偏见。

FACET 工具目前经过 3 万张图片、含 5 万人图像的训练,特别增强了性别和肤色方面的感知,可以用于评估计算机视觉模型在各种特征。

FACET 工具在经过训练之后可以回答复杂问题,例如识别出对象为男性之后,可以进一步识别出滑板运动员,以及浅色、深色皮肤。

Meta 以 FACET 来评测该公司所开发的 DINOv2 模型与 SEERv2 模型,以及 OpenAI 的 OpenCLIP 模型,整体而言,OpenCLIP 在性别上的表现优于其它模型,而 DINOv 则在年龄与肤色上有较佳的判断力。

FACET 的开源将有助于研究人员执行类似的标竿测试,以理解自己的模型中所存在的偏见,亦可用来监控为了解决公平问题而采取的缓解措施所造成的影响。IT之家在此附上 Meta 新闻稿地址,感兴趣的用户可以深入阅读。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:Meta

软媒旗下网站: IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 软媒手机APP应用 魔方 最会买 要知