记者 | 姜菁玲
编辑 |
1
在许多科幻电影中，通过脑机接口进入的虚拟世界完全由代码构成，在现实世界中只需要修改几行代码，主角就可以自动加载所需要的技能，成为足够为所欲为的超级英雄。
赛博时代，现实与虚拟之间的界限正在越来越模糊。在人脸识别开始决定我们的身份，智能算法在揣测我们的现实喜好的同时，一些背刺人工智能算法的技术正在悄然成长。
在2022世界人工智能大会现场，一家名为瑞莱智慧的公司展示了一项足以让人在人工智能视觉算法面前“隐身”的技术。界面新闻记者拿上一件他们定制的T恤挡在身前，和同伴同时站在一台带有视觉算法的人体识别机器前。电脑屏幕中可以清晰识别出同伴的人脸并且根据移动位置实时跟踪，而被T恤所挡住的记者则形若空气，处于“隐身”状态，不论靠得多近都无法被机器所识别出。
界面新闻记者摄
展台现场工作人员告诉界面新闻记者，这件可以让人隐身的“T恤”真正的秘密在于胸前的特定图案。这些图案由特定的代码生成，它可以对抗基于人工智能视觉识别技术的检测算法，使其出错。普通人一旦穿上，就可以逃避检测系统的追踪，让识别系统检测不到该目标。
瑞莱智慧方面解释，实际上，这种技术所反映的是人工智能的结构性缺陷。目标检测系统大多基于数据驱动的深度学习算法，存在不可靠和不可解释等局限性，即便是开发者也难以理解其内在的运行逻辑，这一结构性漏洞可能导致系统遭受恶意攻击。
上述所演示的人体检测技术在当下被广泛利用于各种安防场景。此外，工作人员称，该隐身攻击对象也可拓展至更广泛的识别检测系统上。例如，车辆检测是自动驾驶智能感知系统的一项常用功能，只要车辆位于摄像头前方，一般的检测系统都能准确识别出车辆和车辆的位置。但如果车身上粘贴了对抗图案，就可能使检测算法出错，变得无法被检测到，进而可能导致一些交通事故的产生等等。
据介绍，这套“隐身”技术属于是攻防实战中的一个具体实验场景，它搭载于瑞莱智慧人工智能安全平台RealSafe中，该平台主要提供人脸比对、图像分类、目标检测三类通用计算机视觉场景的安全测评和加固，帮助提高AI系统的安全性。
