期刊信息

主管单位:河北省科学技术协会
主办单位:河北省技术经济管理现代化研究会
编辑出版:《价值工程》杂志社
创刊时间:1982年
开本尺寸:大16开
语言种类:中 文
出版周期:旬 刊
邮发代号:18-2
每册定价:30.00元
投稿邮箱:jzgctgyx@163.com
社  址:石家庄槐安西路88号

本刊声明

       凡投稿本刊的稿件,作者文责自负,确保稿件不涉及保密事项,署名无争议。对于以任何形式侵犯他人著作权的行为,作者应独立承担法律责任,本刊概不承担任何连带责任。来稿凡使用,即视为全体著作权人同意将所投稿 件的复制权、发行权、汇编权、翻译权、信息网络传播权转让给本刊杂志社。本社可以将上述权利转授给第三方使用,特此声明!

编辑部公告

通知:敬请各位作者注意,本刊诚征优秀学术稿件,来稿必须为原创稿,不得抄袭和篡改他人作品。凡是投稿本站正在审核期的文章,请勿一稿多投。审稿期限一般二到三个工作日,作者可以随时在本站作者查稿系统中输入文章编号,查询稿件审核情况。

防范人工智能风险

来源:本刊杂志社        点击:        发布时间:2023年10月18日

眼下,不少地区布局人工智能领域,推动新一代人工智能健康发展。人工智能正广泛应用于金融、医疗、交通、制造业等领域,成为推动经济社会发展的重要引擎。不过,正如“硬币的两面”,人工智能在带来高效便利的同时,也可能引发隐患和危机。对此,要增强风险防范意识,以富有前瞻性的有力举措,管控好人工智能技术可能带来的各类风险。

  从目前情况看,人工智能可能引发的风险主要包括如下几方面。从技术角度看,人工智能本身的技术逻辑及其应用过程存在模糊性,可能引发数据、算法和模型风险。如果数据的数量或质量出现问题,可能无法反映现实世界的真实情况;算法“黑箱”和不可解释性问题,在容错率低的行业,甚至可能造成不可挽回的安全隐患;另外,模型完整性攻击,又称“对抗攻击”,即干扰模型的学习和预测过程,可能误导人工智能“指鹿为马”。

  从法律伦理道德层面看,人工智能的广泛应用可能衍生技术滥用、数据安全、隐私保护等方面的安全挑战,给公民的信息安全、财产安全甚至生命安全造成威胁。例如,恶意运用人工智能伪造虚假人脸,危害个人金融安全;在采集、使用和分析海量数据的过程中,发生隐私泄露、数据篡改、真假难辨等隐患;智能推送算法还引发了“信息茧房”、极化现象以及大数据“杀熟”现象;人工智能运用到无人驾驶、医疗诊断等领域,可能引发权责边界模糊问题;人工智能文本数据挖掘可能产生的知识产权争议问题等,都是引发法律和伦理道德风险的典型案例。

  人工智能所带来的风险并非单一的、直线的,而是多种风险交织交融的。这就要求我们系统全面地认识人工智能,提早开展人工智能风险治理。

  一方面,要推动技术进步。针对人工智能的模型、算法、数据、隐私和应用等风险和安全威胁,加强安全保护基础理论研究和前沿安全技术研究,推动关键技术应用,构建人工智能安全治理技术体系,是有效管控人工智能风险的关键。这是一个需要各个层面通力合作、集智攻关的长期工作。在社会层面,网络安全龙头企业可以牵头组建创新联合体,在开展理论研究和技术攻关的同时,加强数字安全人才培养,规范技术标准、测试标准和应用规范,增进数字安全的国内外交流合作,以技术创新引领人工智能安全治理。

  另一方面,还要不断加强管理。不久前,我国《生成式人工智能服务管理暂行办法》颁布施行,国家层面的人工智能法草案在提速,各种专门立法也在积极探索。我国正以高度负责任的态度参与全球人工智能治理,在贡献中国智慧的同时抢占全球人工智能治理话语权。在实践中,对发展中的问题应及时回应,充分发挥处于实践前沿的企业、行业组织的作用。主管单位要与企业、行业组织、科研机构以及公众建立广泛的合作和沟通机制,以有效引导企业和行业组织进行自我监管,发挥科研机构协助监督和识别潜在风险的作用,帮助公众提升人工智能风险防范意识。

(责编:万鹏、代晓灵)


杂志社地址:河北省 石家庄槐安西路88号
您是本站第 位访问者