自如回应“租客喝了7个月中水”:已修复,将沟通补偿方案 台风“海神”逐步北上 后期或将影响东北 快手8.0版本上线!品牌与产品全面升级 支持1080P视频上传和播放 200余名防疫人员为服贸会做现场保障 参会人员配发中药预防饮 【地评线】京彩好评:更新技术出口目录是应时应势之举 2020年服贸会9月4日开幕:参展企业数量超往年 个人可提前两天预约参观 最新数据持续向好引海外点赞中国经济复苏 全国消费扶贫月:农产品流通过程中的税收优惠政策了解一下 徐州三十一中女教师殴打辱骂多名学生 已被停职 塑料书皮真“有毒”吗?哪种最安全?听专家怎么说 正当防卫认定新规来了,5张图带你看明白! 阿达来提·艾再孜:民法典将护佑“全面小康”行稳致远 【桂声漫画】防疫学业两手抓——大学,我来了! 我国成为3月份以来全球主要服务贸易国中唯一出口增长国家 中央财政对受灾困难群体予以倾斜和优先保障 防汛救灾工作有力有序 王毅:维护南海稳定,携手化解挑战 【地评线】京彩好评:更新技术出口目录是应时应势之举 中国改革低保等现行社会救助制度 打造多层次分类救助体系 疫情之下“审判执行不停摆” 中国最高法要求确保完成全年审判执行任务 商务部:愿与日本深化防疫和经济社会发展合作 中方再驳蓬佩奥涉华无端指责:蓬佩奥之流的险恶用心早已被世人识破 2020年服贸会9月4日开幕 设置7类活动 东北抗联遗址“云展播” 感受传承历史培育家国情怀 木里矿区非法开采为镜鉴 青海层层出手宣示生态保护决心 昨天,今天!胜利,唯有胜利! 中国创新发展目标明确 在人工智能和先进制造业等方面有规划 世界旅游合作与发展大会将在京开幕 促旅游业再繁荣 美国国务院限制中国在美外交活动 外交部回应 商务部回应印度禁用中国118款APP:严重关切 坚决反对 北京开展有限空间专项执法检查 持续至9月11日 中央财政对受灾困难群体予以倾斜和优先保障 防汛救灾工作有力有序 云南省原副省长赵廷光逝世 享年89岁 应急管理部消防救援局前方指挥部完成各项任务正式撤离四川 男童泳池排便被索赔1.5万元 家长回应:不接受赔偿数额 商务部:调整发布《中国禁止出口限制出口技术目录》不针对具体企业 宇宙全尺度暗晕什么模样?8个“放大镜”接力模拟出清晰图像 250万贫困人口遭受洪涝灾害 官方紧急施措防范因灾返贫致贫 西银高铁陕西段联调联试正式启动 应急管理部自然灾害工程救援成都基地挂牌成立 跨境服务贸易负面清单何时推出?商务部:年底前将出台 内蒙古推荐50项国家重点研发计划项目获国家立项支持 “日军细菌战罪证”上线,让历史说话! 中方回应美方限制中国在美外交活动:于法无据、于理不合、于情不通 疫情阴霾渐散 外媒感受“中国式”热闹 实验室设计、人员培训……中国抗疫医疗专家组在几内亚分享这些经验 中科院科研人员在新型半导体激光器研发上取得进展 王毅将出席金砖国家外长视频会晤 三部门:防卫过当应兼具两个条件,缺一不可 5G手机首次击穿千元关口 上游芯片厂商芯片迭代速度加快 二战以来首次!CBO:美国政府债务明年将超过经济规模
您的位置:首页 >财经 >

新的IBM Cloud Service如何检测AI中的偏差

2019-10-15 12:02:00来源:

人工智能为企业提供了承诺,使其能够使用复杂的算法来处理大量数据,发现模式,返回洞察力,并帮助推动更快更好的业务决策。通过神经网络,机器学习和深度学习获得的图像识别,自然语言处理,翻译和其他功能将帮助高管们开辟新的收入来源,提高效率,降低成本并推动自动化。

与此同时,AI被视为各种各样的“黑匣子”。数据在一端,调查结果,决策和见解从另一端出来,但是对于如何达到这些结果几乎没有可见性,并且随着企业和消费者都学会更多地依赖人工智能技术,人们越来越担心调查结果存在偏差。神经网络与进入的数据一样好,并且数据可能会受到输入数据的人的影响。

将透明度带到前台

IBM官员现在提供基于云的服务,旨在检测AI中的偏差,并为AI驱动的系统决策提供透明度。该服务在IBM Cloud上运行,可用于管理来自各种技术供应商的AI系统。与此同时,该公司将向开源社区发布一个工具包,其中包括其他人可用于检测和减轻AI偏差的技术和教育工具。

IBM Watson的首席架构师兼IBM研究员Ruchir Puri表示,随着行业采用该技术,能够检测偏差并更好地了解AI系统的决策过程至关重要。

“为了让人工智能蓬勃发展,企业要从中获益,高管们需要信任他们的人工智能系统,”普里在公司博客上写道。“他们需要能力来管理这些系统,并检测和减轻偏见。关键 - 通常是法律要求 - 透明度被纳入人工智能决策。例如,在保险业中,索赔理算人可能需要向客户解释为什么他们的自动索赔被自动处理系统拒绝。

“现在是时候开始打开人工智能的黑匣子,让组织对他们管理这些系统的能力充满信心,并解释如何做出决策。”

随着人工智能的新信任和透明度功能的出现,认知和人工智能系统和软件的支出继续迅速增加。IDC分析师本月表示,认知和人工智能系统的支出今年将达到240亿美元,到2022年将增长到776亿美元,在此期间每年平均增长37.3%。

大量公司转向人工智能采用

IBM自己的研究发现,82%的企业正在考虑或正在推进人工智能的采用,重点是创造收入,而60%的企业担心人工智能涉及的责任问题。IBM发现,63%的人缺乏利用AI的技能。

IBM的自动化服务与从流行的机器学习框架和AI环境构建的模型一起工作,如Watson,TensorFlow,SparkML,来自Amazon Web Services(AWS)的Sagemaker和Microsoft的AzureML。IBM官员表示,用户还可以自定义服务的软件,以更好地适应其组织的细节。

该服务可以解释如何做出决策并在做出决策时检测偏差,并自动推荐可以添加到正在运行的模型中的数据,以减轻发现的偏差。

该服务可以解释决策中的因素,是否将决策推向一个方向,并记录模型的准确性,性能和公平性。此外,AI系统的谱系可以跟踪客户服务,监管和合规性原因。所有这些都可以通过可视化仪表板访问。

人工智能与培训一样好

“公平是企业将AI部署到根据用户信息做出决策的应用程序中的关键问题,”Puri写道。“对任何一组用户表现出偏见所造成的声誉损害和法律影响可能对企业造成严重损害。AI模型与用于训练它们的数据一样好,开发具有代表性的有效训练数据集非常具有挑战性。“

即使在训练期间发现偏见,“该模型仍可能在运行时出现偏差。这可能是由于不同权重分配给不同特征而导致的优化不协调,“他写道。

公司官员表示,面向开源社区的IBM AI Fairness 360工具包包括初始九种算法,代码和三种教程,供数据科学家,学者和研究人员使用。将来会添加更多工具和教程。

猜您喜欢