恒小花:如何防范人工智能技术被滥用

资讯 来源:中国风投网   阅读量:18591   会员投稿 2024-01-26 10:57

近年来,越来越多的国家将人工智能发展置于国家战略层面,在顶层设计中加入防止人工智能技术垄断和技术无序扩张等理念。

受访专家表示,应该建立多学科、多领域的合作,鼓励科学家、工程师以及公众广泛参与,共同探讨人工智能的发展方向、应用领域和道德伦理问题。全世界应该携手,坚持发展和安全并重的原则,确保人工智能技术的发展符合人类的整体利益。

从技术手段上看,为了增加人工智能的公平性、可信任性、可解释与透明度、安全性等,研发主体从顶层设计、过程控制、工程收尾等整个流程中都要保持人机环境系统的设计思路。

要扎实做好人工智能基础理论攻关,提升人工智能的内在安全性能;锻造、储备对新一代人工智能的安全评测能力,掌握对其准确性、效率、内容安全、抗攻击能力等多个维度进行评测的方法和手段。同时,还要着力研发提供必要的安全工具,比如提供深度伪造检测工具帮助公众辨识信息真伪、防范网络欺诈等。

数据与算法安全是人工智能安全的核心。专家表示,要重视高质量语料的建设,通过精标数据、反馈数据来进行优化训练,最终实现模型输出的选优除劣。

推动人工智能技术赋能社会需要良好生态系统的整体支撑,不仅仅只是技术研发本身。要把握人工智能技术属性和社会属性高度融合的特征,加强前瞻预防与约束引导。“一个良好的生态系统可有机联结伦理与道德、技术与产业、资本与市场,在这样一个生态系统中,每个来自不同领域的人工智能参与者都能从中获益。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

友情合作