2017 姓名认证验证是否为人脸识别 现在有越来越多的工具可以防止面部识别系统被训练用于私人照片 上传个人照片 上网似乎是一件轻而易举的事，所以问题是，一旦照片发布到网上，谁可以访问这些照片？你怎么对付他们？使用哪些机器学习算法来训练它们？ Clearview 为美国执法部门提供了一种面部识别工具，该工具已用于在公共网络上训练数百万张私人照片，而这似乎只是一个开始。任何具有基本编程技能的人都可以开发面部识别软件，这意味着该技术比以往任何时候都更有可能从各种角度被滥用，包括性骚扰、种族歧视、政治压迫和宗教迫害。 许多人工智能研究人员正在推动和开发使人工智能无法从个人数据中学习的方法。本周，最后两份报告将在 ICLR 人工智能会议上发表。 芝加哥大学的艾米丽·温格说：“我不喜欢人们从我这里拿走不属于他们的东西。”我想很多人都有同样的感受。去年夏天，温格和她的同事们发表了最早开发的反AI工具。 数据中毒并不是什么新鲜事。这使得公司更难通过删除数据或用虚假示例污染数据集来训练准确的机器学习模型。但这些努力往往需要数百万人或数万人的集体行动才能产生影响。温格新技术的独特之处在于它可以通过一张人脸的照片来实现。 澳大利亚迪肯大学的 Daniel Ma 表示，“这项技术可以用单人的照片作为锁定数据的钥匙，在人工智能时代，它是一种新的前线防御工具，可以锁定人们的数字数据。”权利。” 今天的大多数工具，包括 Fawke，都使用相同的基本方法：对人眼难以察觉的图像进行微小的更改，但会欺骗 AI 误识别照片中的某些信息。这种技术非常接近敌人的攻击，输入数据的微小变化可能会迫使深度学习模型犯大错误。 为 Fawkes 提供一系列自拍照，它会为图像添加像素级噪点，从而防止尖端的面部识别系统识别照片中的人物。与以前的方法不同，没有对图像进行重大更改。 Wenger 和她的同事在一系列广泛使用的商业面部识别系统上测试了该工具，包括亚马逊的 AWS 识别系统、微软的 Azure 和中国旷视科技开发的 Face++ 系统。在一个包含 50 张图像数据集的小型实验中，Fawkes 100 对所有图像进行了编辑，而在人类调整后的图像上训练的模型无法识别新图像中的这些图像。被操纵的训练图像使这些工具无法准确地再现人类表情。 Fawkes Project 网站有近 500,000 次下载。其中一位用户还创建了一个在线版本，以方便用户使用（尽管 Wenger 不保证第三方使用该代码，警告：“他们不知道你的数据发生了什么。”） Wenger 说，目前还没有移动应用程序，但没有什么能阻止任何人创建一个应用程序。 Fawkes 将阻止新的面部识别系统识别您——接下来是 Clearview。但它不能破坏现有的在不受保护的图像上训练的系统。但是，技术在不断改进。 Wenger 相信 Valeria Cerrepanova 和她在马里兰大学的同事开发的工具可以解决这些问题。 该工具名为 LowKey，通过基于更强的对手攻击对图像应用扰动来扩展 Fawkes，从而欺骗预先训练的商业模型。和 Fawkes 一样，LowKey 也可以在网上找到。 Ma 和他的同事们开发了更强大的工具，可以将图像变成所谓的不可教样本，从而有效地导致 AI 忽略你的自拍。温格说：“我认为福克斯能愚弄人工智能真是太棒了。一个有能力的模型会导致训练给出错误的结果，而这个工具不会让受过训练的模型知道你的任何信息。 " 图片中的前三张照片是从网上下载的，使它们成为以下三个不可学习的例子，面部识别系统忽略了它们的存在。 与 Fawkes 不同的是，不可学习的示例不是基于敌人的攻击。Ma 的团队没有对图像进行更改以迫使 AI 出错，而是添加了一些小的更改，使 AI 在训练期间忽略它。稍后显示的图像，它不会比随机猜测更好地评估图片中的内容。 无法学习的示例被证明比敌人的攻击更有效，因为它们无法向后训练。 AI 看到的样本越具有对抗性，就越容易识别它们，但 Ma 和他的同事从本质上阻止了 AI 训练图像。 温格已经开始了一场新的持续战斗。她的团队最近注意到，Microsoft Azure 的面部识别服务不再被她的一些图像所欺骗。她说：“它突然对我们生成的隐藏图像非常强大。不确定里面发生了什么。” 微软可能改变了算法，或者 AI 可能已经在足够多的 Fawkes 图像上进行了训练，从而学会了识别它们。无论如何，温格的团队上周发布了该工具的更新版本，再次针对 Azure。“这是另一场猫捉老鼠的军备竞赛。”她说。 对于温格来说，这是一个关于互联网的故事。 “像 Clearview 这样的公司利用免费提供的数据做他们想做的事，”她说。 " 从长远来看，监管可能会有所帮助，但它并不能阻止公司利用漏洞。她说：“在法律上可以接受的东西和人们真正想要的东西之间总会有差距。” Fawkes 等工具填补了这一空白。 " “让我们给群众一些他们以前没有的权力，”温格说。
如需了解更多公司核名、企业注册核名、商标核名、网上核名、关注了解更多公司核名等资讯。