人工智能的错误教育:系统训练使用互联网可以开发性别、种族、年龄和偏见,新报告发现

斯坦福大学一0b足球项新的研究表明,人工智能问题的偏见才刚刚开始。当我们观看了祖先看守Kentanji布朗法官杰克逊本周,你们让我知道商业世界有自己的工作要做关于刑事司法改革。

快乐的星期五。

尽管布朗法官Kentanji杰克逊的听证会可能结束,一些令人不安的气味参议员哗众取宠仍然漂浮在空气中。

你显然认为这是值得的。你们中的许多人同意我她的经历提倡穷人作为公共后卫带来了期盼已久的角度来看土地的最高法院。破解你的集体思想,花了这么长时间。“钉…和# $ % !“总结响应。

一位读者建议,有一个巨大的机遇慈善支持刑事司法改革,并将沿着这视频报告非营利组织从Bridgespan集团咨询与慈善基金会和非营利组织。这份报告是由Bridgespan的编辑主任欧宝竞技obalum-Cora丹尼尔斯。(谢谢,丽兹!)

慈善事业的例子:在运动中扮演的角色重新定义刑事司法,作者认为迫切需要解决大规模监禁和造成的危害识别“运动建设”作为一个关键的有效工具反思刑事司法在美国。为慈善事业和企业捐助者,这都是非常新的。目前,不到.25%的慈善资金改革的努力

从报告:

“大规模刑事司法philanthropy-funders谁认为自己是与这些问题的方式住房或教育资助者的重点已经进入突出只是在过去五、六年了。它的幼年期意味着整个生态系统很多组织仍然非常资源不足。2019年,完成数据的最近一年,刑事司法改革资金达到3.43亿美元。22亿美元保释债券行业比较,只是一片的系统有一个强烈的兴趣现状。”

但目前有超过二百万欧宝球网站人被监禁,数百万生活在over-policed更努力繁荣post-incarceration或社区,一个健壮的重新将有积极的影响经济,公共卫生,人才管道

这是一个迷人的必读/分享的人感兴趣的是了解企业慈善美元可以更好的应用,或者,在那里他们可能做无意的伤害,或对任何寻求对象课所需的广泛stakeholder-led计划成功。刑事司法改革”资助者感兴趣…运动建设至关重要,因为它努力重新定义刑事法律体系和它引起的伤害。这种变革的系统变化的工作,复杂,运动,那样复杂,是用来做的,”他们写道。

你会在好公司:当前企业出资人刑事司法举措包括谷歌.org,沃尔玛基金会,基金会,Ben & Jerry ' s基金会和雅芳基金会。

我会离开你的三条建议,报告,给我的印象是有用,当财政支持组织工作在任何你关心的热点问题:

接受“不舒服”,关注资产价值而不是政治。强调进展在赢了——只要他们定义的真正在做这项工作的人。,支持健康的生态系统的利益相关者了解当地和国家的需要团体协作的该死的地方。

最后一个是我,但是你明白我的意思的。

愿你有一个强大的协作的周末。

艾伦McGirt
@ellmcgirt
Ellen.McGirt@欧宝竞技obwww.m-crow.com

在短暂的

当今最强大的人工智能涉及计算机形式越来越得到更好地理解语言。

由一种被称为变压器神经网络的软件,这些语言系统越来越能够创建更现实的文本,类似于一个真实的人类可能会写东西。欧宝球网站但这些大型语言模型有一个阴暗面;它们可以非常偏见。

的核心问题是研究人员训练这些人工智能语言系统从开放的互联网搜集的数据,包括有争议的0b足球文章是共享的在Reddit。事实上,一些使用的“训练数据”这些人工智能系统讲授语言文章,人们共享的臭名昭著的r / The_Donald subreddit, Reddit禁止,因为仇恨言论的患病率。难怪为什么语言模型学会把“穆斯林”这个词与词与暴力。

现在,研究人员0b足球正在探索如何偏见爬到一种新的人工智能系统,可以学习找到模式图像和文本之间在同一时间。这些所谓的多通道系统,包括一个叫人工智能公司OpenAI剪辑,从数据开放网络训练,这意味着他们可以继承偏见与性别、种族和年龄,“根据2022年的人工智能指数报告由斯坦福大学的以人为中心的人工智能(HAI)单位。

从报告:

探索模型通过添加非人类和犯罪相关类,如“动物”“大猩猩”,“黑猩猩,”“猩猩”,“小偷”,犯罪”和“可疑的人”青水数据集类导致黑人的形象被并被错误地归类为非人类以更高的速度比其他任何种族(14%,而下一个最高7.6%的错误图片的印度人)。

主任杰克•克拉克斯坦福人工智能指数指导委员会的讨论欧宝竞技ob这些多通道人工智能系统的一些并发症。这些多通道系统得到很好的图像分类是基于地理位置,如能够区分图像从圣地亚哥和芝加哥,他解释说。这些人工智能系统显示这些城市的照片,他们应该能够正确地识别它们。

但这些人工智能系统可能不够一直在训练图像和文本数据来教他们关于非洲国家之间的差异。换句话说,如果你告诉这些模型尼日利亚和肯尼亚的照片之一,它可能会“分类”“非洲。“他们不够训练各种数据来教他们的“神经网络”认识到非洲国家的细微差别和整个非洲大陆。

“他们没有神经元对个人的非洲国家,他们只是有一个非洲的神经元,”克拉克说。

克拉克解释说,一个音符乐观的是,这些大型人工智能模型可用于改善其他偏见的人工智能系统。事实上,虽然这些人工智能系统内可能发现有偏见的相关性数据,他们发现这些错误的关联可能是有用的。这取决于如何使用人工智能毕竟。

“模型越来越大,他们正在开发更好的理解偏差,”克拉克说。研究0b足球人员可以使用这些人工智能系统作为bias-detection工具,所以当他们研究其他系统会说,“哦,看起来有毒,对吧?”

重要的是人工智能专家认识到这些问题的偏见和发现最小化问题的方法。克拉克指出,风险越来越高人们对人工智能的公差偏差的崩溃,以公众反对偏见人脸识别工具,检查人员就像快乐Buolamwini在具有里程碑意义的“性别阴影”0b足球研究

“我不认为我们可以公开的失败系统性别色彩的规模在未来,”他说。

乔纳森Vanian
@JonathanVanian
jonathan.vanian@欧宝竞技obwww.m-crow.com

在点

站在anti-AAPI暴力我有更多的报告欧宝球网站打算# StopAAPI恨周围的活动构建,其中包括增加AAPI选民的能力和政治影响力,劳动力,和领导人。但是值得花几分钟阅读和吸收小说家李敏金这种非凡的文章,叙述了目前高度恐惧状态面临亚洲各个年龄段的美国人,和他们正在采取的步骤来保证自己的安全,从胡椒喷雾伪装,接近孤立。她提醒我们,一直都是这样,对她来说,她在皇后区附近,在学校被欺负,骚扰她长大一样“异国情调”。“自从亚洲人开始抵达美国,他们已经会见了敌意和拒绝,通常由州和联邦立法,批准”她写道。“可悲的是,小已经改变了。”
纽约时报

看谁是新的白宫预算办公室主任很久以前(不很久以前我工作为中心的个人理财杂志,真实的人的故事,以及他们如何解决现实生活中的资金问题。我学会了,他们也有一个令人不安的封面图片政策:黑色个人或情侣的照片封面上不允许因为行业研究显示,“人们不觉得黑人很好钱,”,因此,不太可能推动报摊销售。0b足球我经常分享这个故事,通常当我谈论缺乏黑人女性ceo欧宝竞技ob500年,与重要作用,通常是留给高管损益表的成功。现在我提到它,因为,看谁是新的行政管理和预算局主任。
美国有线电视新闻网

西蒙·李将会是第一个黑人妇女代表美国威尼斯双年展卡尔文·汤普金斯花了一天时间与雕塑家在布鲁克林工作室的预览可敬的节目,她会带来什么她是相对较新的铜,所以世界是治疗,他说。(她第一次在青铜工作,“砖房,”第一次出现在纽约的高行,2019年)。汤普金斯描绘了一幅巨大的图片'一个艺术家,从她的服装工作室静止,一项研究和设计意图。他们讨论了种族和种族主义,排斥和厌恶,她的身份作为美国、牙买加和她最近上演了燃烧的8英尺版本奥斯卡Wilde-themed工件,种族主义的象征性清洗图片。她还自己基金工作,使所有的差异。如果你的画廊支付,然后他们客户,”她说。“…我支付一切自己所以我可以是免费的,这是对每个人都更好。的区别是,成功当你54个,当你二十九。”
《纽约客》

在背景

下面是如何打电话请病假原因心理健康对大多数人来说,它仍然是一个不愉快的锻炼,多少披露如何真实的感受。Abeni琼斯、艺术家、作家和教育家,专攻种族,性别,和残疾,提供了一些很好的建议。最好是说实话,但短暂。“他们真正需要知道的是,你会失去工作,因为你“不舒服”,当他们可以期待你回来,”琼斯说。为了避免透露太多,你可以说,“我有一个ADA-protected条件。”,如果你想支持精神卫生相关政策的变化在你的公司,试试做这个案例:琼斯报道,世界卫生组织已经表明,每投入一美元支持员工的心理健康返回生产力的四倍
快速公司

“安全网”的作品,你们两位哈佛大学的经济学家调查了133名美国政策的改变50年来寻找投资的最大爆炸buck-which包括分析医疗保险、医疗补助计划扩张,食品券的引入,和许多州和地方项目。目标是确定干预措施,挽救了政府资金的长期,通常通过弄清楚哪些项目最终需要更少的援助接受者随着时间的推移,或增加个人收入,通过代理、税收贡献。程序中低收入家庭的孩子明显的赢家;每一美元花在教育和医疗项目返回47美分的储蓄。”结果显示有可能获得很高的回报当你关注孩子,”合著者本Sprung-Keyser说。
华尔街日报》

这个版本的raceAhead被阿什利·希拉编辑。

临别赠言

在美国黑人妇女的方式可以是高度hyper-educated,聪明,优雅,熟练,经验丰富的合格(布朗法官Ketanji杰克逊)和仍然被当作白人在全国性的电视节目上。甚至不是象征性的。这是一个明显的证据。

- - - - - -丽贝卡·卡罗尔、作者、作家、文化评论家和顾问

这是网页版的raceAhead,欧宝竞技ob《财富》杂志通讯在种族、文化、包容的领导。它每天发送到您的收件箱,签约在这里