信也科技王春平:价值观在前的人工智能算法发展

2021-10-08 11:29:17 来源:壹点网

打印 放大 缩小

9月27日,由玛娜数据基金会主办的“促进人工智能算法等”报告发布会暨政策研讨会在上海举行,联合国妇女署驻华办公室高级项目官员马雷军、上海市浦东新区妇女联合会副主席国云丹、玛娜数据基金会秘书长张唯、玛娜数据基金会课题组专家负责人周旅军、专家况琨,以及小米集团科技委员会技术向善议题召集人朱汐、信也集团首席算法科学家王春、Thought Works(中国)数据智能团队解决方案架构师任添石等各界嘉宾出席了本次会议,共同探讨如何促进人工智能算法中的等。

作为金融科技企业信也科技集团的代表,也是在人工智能领域取得优秀成就的女从业者,王春博士在会上阐述了其对于人工智能在研究、应用中对于数据伦理、等的观点与建议。

人工智能时代加速,促进等即发展大前提

人工智能自1956年被提出以来,短短60余年的时间中,这项科学技术的飞速发展给人类社会带来了不小的变化。人工智能算法是以数学方式或计算机代码表达的意见,由算法模型和数据输入决定着预测的后果。

随着人工智能时代的加速到来,人类将生活在一个算法无所不在的世界,随着算法决策开始介入并主导人类社会事务,算法对人类的生活和未来都将产生不可估量的影响。基于此,由算法偏见可能带来的伦理风险也开始引起人们重视。单就别角度而言,由于目前人工智能领域目前仍处于男主导的状况,使得人工智能算法在日常应用中不自觉就容易出现 “别歧视“的争议。

据当日发布的《促进人工智能算法等》报告(后文简称《报告》)介绍,目前人工智能算法的诸多应用场景中均存在一定的别歧视现象。以人工智能开放台为例,一张“端着水果篮的男”图片被AI人脸识别台检测为“女”,单独截出头像却能够被检测为“男”。在就业场景中,2018年亚马逊公司的自动招聘算法倾向于给关键词含“女”字的简历打低分,降低了女工作申请成功率,最后弃用了该招聘算法。

信也科技首席科学家王春表示:“人工智能算法的基础是数据,但在实际生活中因为种种原因,沉淀下来的很多数据分布是有偏的,从而可能将社会中的一些偏见渗透进算法中。作为人工智能算法的女从业者,我认为需要通过多种方式去消除这些偏见。”

消除偏见与歧视,数据算法从业者新课题

2019年,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出了人工智能治理的框架和行动指南,明确提出要在数据获取、算法设计、技术开发、产品研发和应用过程中消除偏见和歧视。该委员会日又发布了《新一代人工智能伦理规范》,第十三条特别强调避免偏见歧视,在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,避免可能存在的数据与算法偏见,努力实现人工智能系统的普惠、公和非歧视

“算法中存在别歧视问题,主要源于训练AI的数据集反映了人类社会存在的别偏见,而算法工程师对这一问题缺乏意识,未将解决别偏见纳入开发需求,从而使得算法放大了别歧视。“玛娜数据基金会课题组专家况坤表示。

据《报告》中专题社会调研的数据显示,58%的人工智能算法从业者不知道算法当中存在的别偏见问题,73%的从业者不知道存在专门针对女的恶意算法。从业者对算法等的意识及能力亟需提升。

王春博士表示,“对于在人工智能算法中尽可能地促进等,我们认为首先需要从研发者的意识与环境培养开始。比如在信也科技集团内部,我们有很多公司政策都在保证并促进不同别员工得到等的机会。比如说我们会有比较完善针对人工智能领域或数字化应用相关的培训课程,这些课程包含了业务场景、算法学、工程化落地,会开放给所有职位的员工,并且会尽可能地帮助公司内部对于人工智能算法有兴趣的员工参与一些实验的创新项目,为其提供等的岗位机会。我们认为保障女员工获得公的职业机会,为算法开发团队营造没有明显两区分的环境,并有意识消除算法工程师们的别偏见,对于人工智能算法在应用中尽可能实现等是有益的。”

商业与伦理的衡,价值观在前的人工智能算法未来

人工智能算法独特的运行逻辑导致人们社会生活的结构场景发生了重大变化,加剧了决策者与相对人之间的“数字鸿沟”,人工智能算法独特的运行逻辑正在深刻地改变着以往的生产方式和生活方式,并与人的行为形成了支配关系。这也表示,人们的行为可以借助于数据算法来预测甚至被改变。

对于企业来说,人工智能算法的准确为商业行为的执行提供了准确的预判,但同时算法发展带来的伦理问题、别歧视问题同样也是企业需要考虑的问题。

王春博士认为,目前为止,人工智能算法在应用中反映的依然是相关,在开发过程中考虑的因素与得到的决策结果之间,很大程度上只是相关。在很多应用里,别可能是被引入的一个带有相关的干扰项,如何排除偏见,公地看待不同的别,但是又不会影响到最终的商业判断准确,具有不小挑战。目前这个问题已经引起了重视,有很多从不同角度试图解决这个问题的尝试,比如基于因果推理理论,寻找与期望预测结果拥有直接因果关系的因素;通过创新地构造特征表征空间,抑制某些带有偏见的因素,比如由于别带来差异。

“虽然很多时候,基于商业行为,我们很难判定部分情况下算法在偏好与偏见之间的界限,但是在算法的创新开发过程中,作为人工智能算法工程师如果拥有正确的价值观,就能尽可能提前审视并察觉歧视偏见的存在,很好地利用对于算法的不断更新去调整它带来的问题,这是我们作为算法开发者的使命与责任,也是人工智能算法发展的重要前提。” 王春如是说到。

信也科技作为国内领先的金融科技企业之一,一直致力于推进科技应用与社会发展的互相融合与发展,尤其是在人工智能领域,信也科技通过在开发过程中纳入社会别多元化视角,尽己所能为促进算法中的等而努力。作为企业,信也科技致力推动在内部技术开发中的客观认识和理反思,从而更好地促进科技发展。未来,信也科技将继续通过技术的不断创新,以确立正确价值观,助力促进人工智能时代的等。

责任编辑:ERM523

最近更新

信也科技王春平:价值观在前的人工智能算法发展 ​鹰视教育:基于大数据对高频知识点进行拆解,提高备考效率
河北建工建筑装配正式挂牌新三板 实现新的跨越发展 美债违约冲击巨大 可能会引发一场全球金融危机
河北假日新玩法点亮“夜经济” 假期浸透“文化味儿” 河北省2025年体育用品产业总规模达到1200亿元左右 全力推进体育用品产业做大做强
2021中国•额济纳环胡杨林自行车邀请赛圆满收官 深汕西高速改扩建项目建设稳步推进 惠州段计划本月底完成新老路交通转换
绿色出游杭绍“同城生活”触手可及 旅游经济新浪潮 浙江省发售政府债券6.6亿元 投资者认购债券数量为100元面值的整数倍
提高国际服务品质 提升杭城假日幸福出行体验 茶亭序×汉尚华莲梦幻联动强势出圈 引领新一轮国风风潮
太湖世界文化论坛第六届年会即将召开 各地都在抢抓假期消费旺季 推出多重促消费主题活动
让乡村融入周边交通建设中 带动村民致富 TIRTIR护腰矫姿坐垫:科学矫正坐姿!健康生活从即刻开始
智能互联,对话未来 松下E452智能冰箱大连首发 启星中曜·BRTV独家合作项目 | “星途”计划正式启动
“焰遇”肇庆!2021端州国庆欢乐节盛大开幕 意外!“隐形航母”出手,合生创展拟接盘恒大物业股权
葡萄籽,抗氧化的首选! 严禁银行保险资金违规流入股市 积极推动消费信贷规范健康发展
沈阳市消协针对假期消费发布提醒 规避消费风险 强化农村公路修建与自然景观产业发展融合 着力推进“公路+旅游+产业”
《我和我的父辈》藏着怎样的精神内核 从恐慌中说起,后区块链时代的黄金壹号将走向何方?
从传统古朴渔村向现代化美丽乡村蝶变 大力发展乡村休闲旅游 奋力创造高品质生活 向着共同富裕的目标迈进
推进绿色金融发展 撬动更多社会资金促进碳减排 Mr.Bu布先生携手北京服装学院“国潮原动力T恤设计大赛”主题分享会在京举行