在过去的六年里,弗兰西斯卡罗西已经导致了一个道德框架的发展为IBM的人工智能技术,但是她不喜欢使用术语“道德的人工智能“坐在一个配备齐全的书桌在Mount Kisco在家里办公,纽约、粉色兰花鞠躬在她的肩膀,研究科学家解释了这个词的限制。0b足球
“技术不是道德或不道德的,这是整个生态系统,”她说,指的是伦理指导其多个利益相关者,从经济学家研究人员和开发人员,政策制定者和消费者。0b足球“我们的目标是明显的人工智能,让它尽可能有利,避免负面影响。”
随着公司在世界各地扩大使用人工智能—欧宝球网站—超过半数的公司加速采用人工智能的计划,他们正在仔细看道德和负责任的创新。和全球支出人工智能系统仅仅是预计将从853亿年的2021美元增加到2025年超过2040亿美元,据市场研究公司国际数据公司(IDC)0b足球。
当罗西在2015年加入IBM作为人工智能伦理全球领导人,她收集了40的同事开始这个过程,最终建立一个内部的人工智能板来指导伦理人工智能系统的开发和部署然后训练IBM的超过345000名员工在超过17欧宝球网站5个国家在“道德通过设计,”一个方法由几个原则和价值观。
罗西说,IBM的研究人员建立算法遵循这些属性的信0b足球任,并与多样化的客户和合作伙伴——包括联合国环境规划署,花旗银行,城市学院,加州的索诺玛县,汉莎航空公司安联和欧莱雅。其产品包括IBM Watson工作室,可以改善监管和合规与道德的人工智能的标准,和IBM Cloud Pak数据操作,这有助于监视和管理模式值得信赖的人工智能
IBM将采用人工智能的道德指导方针的发展,鉴于其悠久的历史作为一个科技公司,在2003年决定重新定义其公司价值观,优先考虑信任和个人责任的关系。近二十年以来,精制这些值,根据不断变化的社会和技术能力的增加的预期,为支柱,指导开发所谓的值得信赖的人工智能隐私、公平、explainability、健壮性和透明度。
“当然还有其他重要的(支柱),例如,责任的问题;你应当有人类机构;人工智能在劳动力的影响;以及技术的更普遍的问题,对社会欧宝球网站产生重大影响,因为它是如此快,如此普遍,”罗西说。
她加入公司以来,IBM已经加速2016年那些efforts-launching科学促进社会公益项目;发布的第一个论文检测和缓解2017年人工智能的偏见;和释放的开源工具包,AI公平360和AI Explainability 360。例如,如果360最近使用的广告在电视和在线广告发现不必要的偏差。
原因有很多公司投入时间和资源来推动道德人工智能,罗西说。他们可能想要坚持的价值观很重要;他们可能想要以一种积极的方式贡献社会公正等问题,股权,和可持续性;他们可能关心维护声誉,“因为没有公司愿意参与部署技术”,歧视或意想不到的负面后果。
例如,聊天机器人在法国,旨在促进远程医疗服务停止后开始推荐病人自杀作为一个选项。和超级早期的无人驾驶汽车测试,进行没有批准,加州,偶尔会出现问题,与汽车穿越红灯在旧金山。此外,近年来,有很多更多的媒体审查的算法,从面部识别技术,歧视的发展更致命的军事武器。欧宝球网站
公司能够提供伦理人工智能开发的产品有竞争优势,指出罗西,成为一个普遍问题。而德勤调查的66%的公司认为人工智能对他们的成功至关重要,他们知道,他们仍有很长的路要走:只有38%的人相信他们当前使用的人工智能区分他们从竞争对手,只有三分之一的人表示,他们采取了“领先的运营实践”的人工智能。
技术不是道德或不道德的,它的整个生态系统。
弗兰西斯卡罗西,IBM人工智能伦理的全球领袖
近年来,人工智能的使用加速了所有行业,从交通和能源到卫生保健和金融。和更多的欧宝球网站公司在道德我锚定他们的努力。微软创建了一个强制介绍人工智能课程负责所有的员工,而Salesforce的道德人工智能实践团队确保其数据和机器学习模型是公正和公平地使用。
IBM创建了一个工具包的数量与每个五个关键伦理人工智能支柱,帮助指导企业通过这个过程中,罗西说。作为一个跨学科的财团和许多其他公司,她帮助开发一个工具,使企业评估技术他们从供应商处购买。一些工具包都是开源的IBM已经捐赠代码,数据集,Linux基金会和教程——全球开发人员都是免费的。其他人是专有的,华生工作室的一部分。
当谈到金融包容性,IBM依赖于其科学促进社会公益项目,试图使使用人工智能与一个或多个的欧宝球网站17日联合国可持续发展目标气候行动,从零贫困。
“我们的目标是提供一个UI(用户界面),可以帮助这些目标之一,”她说。过程包括培训的一部分开发人员理解技术的社会影响和定义他们所说的inclusivity-for示例中,确保在数据用于训练人工智能有足够的代表所有可能的类别的客户他们试图达到。在9月,IBM宣布金融机构Africa-including肯尼亚——银行和合作银行使用混合云从IBM和人工智能能力帮助扩大获得金融服务在欧洲大陆,将银行汇款。
国际人工智能标准
直到最近,伦理人工智能的发展很大程度上是一个学术和企业的努力,与一些研究者担心政府监管将扼杀创新。0b足球但越来越多的国际标准和规范,在全球范围内可以有很大的差异,正在制定。今年4月,欧盟委员会(European Commission)首次公布了对人工智能的法律框架,侧重于不同的人工智能系统带来的风险和直接挑战硅谷的新兴技术的方法。建议彻底禁止某些使用的人工智能和调节其他水平的基础上构成的风险。
在11月底,联合国193个成员国的教育、科学和文化组织(Unesco)采取了一系列人工智能推荐关注透明度、数据保护、环境、责任等等。欧宝球网站他们也优先考虑人权,指出人工智能”不应被用于社会得分或质量监督目的。”
公司提供人工智能在欧洲将受到这些法规,罗西说。”,因此公司需要做好准备,教育和更成熟的构建或使用他们的技术意味着什么。”欧宝球网站
相比之下,在美国有更多的监管活动发生在国家层面上,在其重点不同,相比欧宝球网站之下,联邦政府的宏观战略。
鉴于监管环境差异和规则仍在发展在许多情况下,罗西表明公司采取一种方法基于可靠的人工智能超越法规遵循需求的方式:“即使监管允许的东西,但那件事会损害你的客户在你的信任,这是不利于公司仅仅因为规定允许。”
罗西,指出我们的谈话还会持续数天给出的所有方面的问题,坚持认为她是对伦理人工智能的未来充满信心尽管被广泛滥用的担忧算法。“我是乐观的,”她说。“因为我已经看到在过去五六年多少我们到目前为止已经作出的努力,我们已经进步了多少。”
这个故事的一部分路径为零,一系列的特别报告业务如何领导对抗气候变化。本季度的报告突显出政府和私人行业正接近最大的挑战和机遇的可持续发展空间。
