据悉,这一技术主要是通过对图像进行微小的修改,来防止 AI 识别出图像内容。该技术提供了两种阻止图片被 AI 修改的方案,一种是 “编码器” 法,通过修改图像的像素来干扰算法模型对图像的理解能力;另一种是 “扩散” 法让 AI 以为图片甲是图片乙,从而生成错误的图像。
研究人员警告,PhotoGuard 技术更多适用于反爬虫场景,技术本身也有一定局限性,攻击者只需要裁剪或翻转经过处理的图片,即可破解该技术。