世界快资讯:“暂停巨型GPT训练呼吁”引发激辩 OpenAI创始人阿尔特曼、周鸿祎这么看


【资料图】

在GPT大模型不断升级的同时,关于人工智能伦理方面的争议也接踵而至。3月29日,马斯克等近千名科技人员在一封公开信中呼吁,在未来六个月暂停对巨型GPT模型的训练,以免该模型对社会和人类造成潜在风险。若禁令不能迅速实施,政府应该介入并制定暂停令。

公开信称,人工智能开发者必须与政策制定者合作,大幅加速开发强大的人工智能治理系统。

不过,OpenAI的首席执行官阿尔特曼没有在这封信上签名。在公开信发布后的第二天,阿尔特曼如此表态,要实现通用人工智能繁荣的未来需要三个条件。首先,技术上拥有对齐超级智能的能力,其次,大多数领先的通用人工智能模型之间可以实现充分协调,第三,存在有效的全球监管框架,包括民主治理在内。

值得注意的是,英国近期发布了针对人工智能的监管措施。白皮书概述了针对ChatGPT等人工智能治理的五项原则,这五项原则包括:安全性和稳健性、透明度和可解释性、公平性、问责制和治理,以及争议与补救。

英国政府表示,在接下来的12个月内,监管机构将向各个组织发布使用指南和风险评估模板等其他工具及资源,来制定如何在行业内实施相关原则。在议会时间允许的情况下,也将出台立法,以确保监管机构始终如一地秉持这些原则。

对于人工智能领域的风险问题,也有人持不同的看法。3月30日,360集团创始人周鸿祎发文表示,昨天,以马斯克为首的科学家给美国政府写请愿信,要求暂停GPT-5的研发,担心它“对社会和人类构成潜在风险”。周鸿祎认为这不影响中国发展自己的大语言模型。现在担心风险为时尚早。

他表示,不管你愿不愿意,GPT都将引领一场新的工业革命,意义超越互联网和iPhone的发明。它将带来生产力的大幅提升,进而提升国家竞争力。中国一定要迎头赶上。自己是做安全的,但坚定地认为,不发展才是最大的不安全。

关键词: