北卡罗来纳州立大学发明新技术RisingAttacK 能够控制人工智能“看到”的内容

盖世汽车讯 据外媒报道，北卡罗来纳州立大学（North Carolina State University）研究人员展示了一种攻击人工智能计算机视觉系统的新方法，使其能够控制人工智能“看到”的内容。研究表明，这项名为RisingAttacK的新技术能够有效操控所有最广泛使用的人工智能计算机视觉系统。

这里讨论的是所谓的“对抗性攻击（adversarial attacks）”，即有人操纵输入人工智能系统的数据，以控制系统在图像中看到或看不到的内容。例如，有人可能会操纵人工智能检测交通信号灯、行人或其他车辆的能力——这会给自动驾驶汽车带来问题。或者，黑客可能会在X光机上安装代码，导致人工智能系统做出不准确的诊断。

打赏 点赞