英国首相警告：人类可能会失去对人工智能控制，只有政府才能应对风险【附人工智能应用技术分析】

图片来源：摄图网

财联社消息，当地时间周四，英国首相苏纳克就人工智能的风险发出了最新警告。他称人工智能存在失控的风险，可能会对人类社会造成巨大的负面影响，只有政府才能应对人工智能带来的风险。英国将于11月1日至2日举办人工智能安全峰会(AI Safety Summit)，该国希望在围绕人工智能技术的安全设计方面发挥全球领导作用。

苏纳克还表示，人工智能将带来一场影响深远的社会变革，就像第一次工业革命、电力革命或互联网的诞生一样。同时他补充说，这一过程也存在巨大的风险。苏纳克指出，人工智能可以使制造化学或生物武器变得更加容易，犯罪分子可能会利用这项技术。在最极端的情况下，人类甚至有可能完全失去对人工智能的控制。

随着技术的不断进步和应用场景的扩大，人工智能已经渗透到各个行业。人工智能应用市场规模不断扩大，投资者对于人工智能领域的投资热情高涨。虽然人工智能带来了巨大的发展机遇，但也存在一些潜在的危机。首先，隐私和数据安全问题引发了人们的担忧，人工智能应用可能会滥用个人信息。其次，人工智能的智能决策可能存在偏见和不公正，导致不公平的结果。此外，人工智能技术的快速发展也可能导致人力资源的失衡和失业风险。最后，人工智能的伦理和道德问题也需要重视，例如自主武器系统的潜在威胁。

——人工智能发展快速主要由于应用产业广泛

人工智能发展快速主要由于应用产业广泛。从产业链的结构来看，在人工智能应用层设计的行业非常的多。软件方面的涉及主要有客服、金融、教育;硬件类主要包含无人机，仓储物流、智能机器人等;还有软硬件均为核心技术的无人驾驶和医疗健康产业。

从客户来看，中国人工智能市场主要客户来自政府城市治理和运营(公安、交警、司法、城市运营、政务、交运管理、国土资源、监所、环保等)，应用占比达到49%，互联网与金融行业紧随其后，占比分别为18%和12%。

——计算机视觉为目前主要应用技术

目前在企业中应用最多的AI项目技术为计算机视觉，占比达到63.4%，其次是机器学习，占比为58.5%，然后是知识图谱，占比为56.1%。

企业应用不同AI技术的典型适用场景已逐渐显现。计算机视觉的应用场景主要是安全监控与交互大屏语音识別技术的场景集中度最高，AI客服系统与智能语音助手的选择率都超过七成;自然语言处理主要用于智能审阅与报告生成;知识图谱主要应用在辅助决策与智能诊断场景;机器学习的应用场景较为分散，预测模型与智能风控的选择率相对较高。

未来三年计算机视觉和机器学习仍然在重点应用技术之内，但是分别退到了第二位和第三位，比例为48.8%和46.3%，排在第一的是深度学习，比例为53.7%。

微软首席执行官萨蒂亚·纳德拉认为，有必要对人工智能进行一定程度的全球治理，并指出这将伴随着一些竞争。他指出，如果要建立一个成功的全球人工智能监管机制，就需要像国际原子能机构那样展开合作。

日本野村综合研究所研究理事、未来创发中心主任神尾文彦认为，人类亟须打造可信AI。为此，可以从以人为本、隐私保护、透明性、可控性等方面着手，具体来说，针对制造业、金融、教育、医疗、出行等特定应用场景，可以开发一个可互认的测试平台，并由第三方平台进行合规性评估，以防范相关风险。

前瞻经济学人APP资讯组

更多本行业研究分析详见前瞻产业研究院《中国人工智能行业发展前景预测与投资战略规划分析报告》。

同时前瞻产业研究院还提供产业大数据、产业研究报告、产业规划、园区规划、产业招商、产业图谱、智慧招商系统、行业地位证明、IPO咨询/募投可研、IPO工作底稿咨询等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容，需要获取前 瞻产业研究院的正规授权。

更多深度行业分析尽在【前瞻经济学人APP】，还可以与500+经济学家/资深行业研究员交流互动。