人工智能发展处于什么阶段？大规模产业应用还要哪些保障？9月1日下午，在2022年世界人工智能大会全体会议——产业发展论坛上，蚂蚁集团副总裁、首席技术安全官韦韬分享了相关的思考。他认为，人工智能在产业的大规模应用落地，亟需解决安全可信、协作共识、复杂关联分析、存储计算规模爆炸、降低耗能等问题，需要在隐私计算、区块链、图计算、分布式数据库及计算基础设施、绿色计算等AI大规模应用的“根技术”上深耕探索。
近期以来，从政策指导到产业实践，人工智能的大规模应用步伐正在提速。8月24日，科技部、教育部、工信部等六部门联合发布《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》，对加快人工智能场景应用提出了系统指导。
韦韬在发言中表示，人工智能在产业的大规模应用落地，亟需解决安全可信、协作共识、复杂关联分析、存储计算规模爆炸、降低耗能等问题。
他进一步结合实践阐释，这五大挑战分别是：大规模数据流转及AI应用中，如何捍卫用户隐私和数据安全？产业协同中，如何建立信任机制，促进价值创造？ 大型实体及数据关系中，如何解决结构复杂关联问题？ 数据量几何式爆炸增长，如何解决存储计算的性能和成本瓶颈？数据爆炸增长，如何降低计算耗能、更好保护环境？
韦韬认为，隐私计算、区块链、图计算、分布式数据库和绿色计算，是支撑数字化时代AI大规模应用的五大重要“根技术”。
当人工智能进入快速发展期，未知的挑战也随之而来，“智能化”背后的风险挑战不容忽视。与会嘉宾认为，人工智能未来发展，需要建设与安全并举。纯粹靠数据学习生成的人工智能是不可控的，提升AI安全能力是从业者的必答题。
在韦韬看来，人工智能的发展程度有很多衡量的标准，但从安全维度评估，它还处于初级阶段。新一代人工智能的发展和大规模应用不仅要解决数据驱动的问题，还要解决安全可靠问题。
他举例称，安全风控领域是天然的开放空间强对抗博弈场景，需要与全球最狡诈的黑色产业团伙做高强度对抗。在这个领域中，目前单纯基于数据驱动的智能体系是无法与之有效应对的。一方面，需要深入研究机器智能与专家智能高效协同的融合对抗智能；另一方面需要加强AI的可信保障机制，包括可解释性、鲁棒性、公平性及隐私保护能力。
“只有人工智能技术的发展和安全达到有机融合，才能以高水平安全助力高质量发展。从蚂蚁的实践来看，推动AI智能+专家智能的融合协同，是实现人工智能在高安全对抗领域实现安全可信的关键路径，”韦韬说。
