警惕人工智能算法陷阱 消费金融领域呼吁加强监管反对歧视

4月25日,美国消费者金融保护局、司法部、联邦贸易委员会等部门官员警告金融公司和其他机构,使用人工智能(AI)会增加偏见和侵犯公民权利的风险,并表示正在监管市场以防止此类歧视。

随着人工智能工具的日益普及,美国、欧洲和中国的监管机构都在加强对使用人工智能技术的审查,并呼吁制定新的法律来控制该技术。


(资料图)

美国消费者金融保护局局长乔普拉(Rohit Chopra)表示,在金融领域,如果公司甚至不了解人工智能做出决定的原因,就不能合法地使用这些技术。

4月25日,上海交通大学安泰经济与管理学院教授,上海交通大学行业研究院“人工智能+”行业团队负责人史占中在一场媒体沙龙上也提到了类似的话题。他对第一财经记者表示:“新的技术出来之后我们不能恐惧,更不能因噎废食;我们要积极、及时通过规则优化和有效监管,把它从挑战人类的最强‘对手’变成人类的最好‘助手’。”

史占中认为,人工智能是由算法推动的,而算法里面有算法的陷阱和算法的误导,Al算法和模型的偏见设计,如种族、性别歧视等等,将引发社会排斥;Al数据分析、存储及应用,可能引发造假造谣诈骗、信息泄露、隐私侵犯及数据滥用等,这些问题都将挑战道德伦理。

“人工智能更大的风险是,AI在治理架构、隐私保护以及风险设计等方面,会对未来的社会稳定、价值观、法律法规等,形成巨大的挑战。”史占中说道。

在谈到关于人工智能的决策如何定责的时候,史占中认为,人类智能和人工智能在协作过程中,谁处于指导地位,谁的权属更高一点。“现在法律上确实是一个空白地带,包括出现问题的时候谁负主要责任,以及AI责任由谁承担,这也存在法律法规的空白区。”他说道。

本周一,微软支持的技术倡导组织美国商业软件联盟(BSA)建议在美国数据隐私立法中制定管理人工智能使用的规则。BSA代表Adobe、IBM和甲骨文等商业软件公司。

BSA方面称,数字化转型是“经济议程的重要组成部分”,应该制定一个国家数字化转型议程,包括关于人工智能的规则、国家隐私标准和强有力的网络安全政策。

对此,上海交通大学安泰经济与管理学院经济系教授陈宏民表示:“数字经济发展是一个循序渐进的过程,现在所有的信息变成数字化,一秒钟的时间可以传千万里、送达亿万人,背后需要兼顾快速、便利和安全等问题。”

陈宏民认为,数字经济发展是参差不齐的,有一些行业和企业已经进入到数据驱动的阶段,但大部分行业和企业刚刚在数字化起步阶段,只有带着迭代思维不断学习进步,才能更好地应对不确定性的世界。

关键词: