多行业牵头！30余机构共同发起AI安全工作组【附AI市场应用分析】

图源：摄图网

9月7日，在2023 inclusion·外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、字节跳动、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。

据CSA官网显示，该工作组的主要职责是研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护、AI技术助力安全应用、AI的伦理和AI合规等方面的材料。工作组将围绕以 AI 安全为核心的各种 AI 技术威胁、风险、防护以及其他相关问题展开研究工作。

AI技术的应用给我们带来了许多便利的同时，也引来了一系列的安全隐患。AI安全工作组的成立加强对AI技术安全的研究和防护，保障人们在使用AI技术时的安全和隐私。

AI技术应用主要集中在政府城市治理和运营

2020年，中国人工智能市场主要客户来自政府城市治理和运营(公安、交警、司法、城市运营、政务、交运管理、国土资源、监所、环保等)，应用占比达到49%，互联网与金融行业紧随其后，占比分别为18%和12%。

企业和政府对人工智能的应用逐渐升温

在决定企业产生经济效益的各个环节，都已能够看到人工智能的身影。前瞻产业研究院估算，目前中国大型企业基本都已在持续规划投入实施人工智能项目，而全部规上企业中约有超过10%的企业已将人工智能与其主营业务结合，实现产业地位提高或经营效益优化。

中国科学院自动化研究所曾毅认为重视和管控人工智能的安全风险不是阻碍人工智能的发展与应用，而是确保人工智能技术稳健发展。曾毅表示人工智能应该适度发展、适度和谨慎使用，深度治理。对于那些没有必要使用人工智能的场景，或者使用人工智能带来的益处有限、却有很大的不确定性与隐患，应当秉持能不用则不用的原则。

美国非营利研究机构“人工智能安全中心”董事丹·亨德里克斯认为与人类相比，AI系统具有更强的适应性，强大的能力可能导致AI系统在很多领域取代人类的工作，甚至直接参与到决策过程中来。所以AI开发者更需要保持谨慎和安全意识，不能尝试淡化规模化的社会风险，为应对意外事件做好准备。有关机构和组织应该要考虑如何开展更加安全的AI系统研发，安全人员需要明确制定使AI系统更加安全的措施。

前瞻经济学人APP资讯组

更多本行业研究分析详见前瞻产业研究院《中国人工智能行业发展前景预测与投资战略规划分析报告》

同时前瞻产业研究院还提供产业大数据、产业研究报告、产业规划、园区规划、产业招商、产业图谱、智慧招商系统、行业地位证明、IPO咨询/募投可研、IPO工作底稿咨询等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容，需要获取前瞻产业研究院的正规授权。

更多深度行业分析尽在【前瞻经济学人APP】，还可以与500+经济学家/资深行业研究员交流互动。