系统升级中,如果喜欢请加入收藏 | 设为首页 |

谷歌发布TensorFlow Privacy:用以改善AI模型中的隐私

隐私 时间:2019-03-08 浏览:
【天极网网络频道】 3月7日消息,据外媒报道,日前谷歌推出了一个基于机器学习框架TensorFlow的新模块,可以让开发人员只需要添加几行额外代码就可以改善AI模型的隐私。 TensorFlow是目前用于构建机器学习应用程序的最流行的工具之一,它被世界各地的开发

  【天极网网络频道】3月7日消息,据外媒报道,日前谷歌推出了一个基于机器学习框架TensorFlow的新模块,可以让开发人员只需要添加几行额外代码就可以改善AI模型的隐私。

谷歌发布TensorFlow Privacy:用以改善AI模型中的隐私

  TensorFlow是目前用于构建机器学习应用程序的最流行的工具之一,它被世界各地的开发人员用于创建文本,音频和图像识别算法等程序。随着TensorFlow Privacy的引入,这些开发人员将能够使用被称为“差异隐私”的技术来保护用户的数据。

  谷歌产品经理Carey Radebaugh表示:”推出这款工具符合谷歌遵守人工智能开发的原则。如果我们没有将“差异隐私”引入到TensorFlow,那么无论是对谷歌内部团队还是外部使用者,在使用过程中都会遇到困难。因此,对我们来说,将“差异隐私”引入到TensorFlow是非常重要的。”

谷歌发布TensorFlow Privacy:用以改善AI模型中的隐私

  “差异隐私”的机制有些复杂,但它本质上是一种数学方法,这意味着在用户数据上训练的AI模型不会学习或记住特定用户的详细信息。

  在数据隐私领域工作了20年的ÚlfarErlingsson表示:“‘差异隐私’是一种从数据集中删除可识别异常值而不改变数据的聚合含义的技术。”

  但是,使用“差异隐私”有一些缺点。通过屏蔽异常值,它有时会删除相关联的或者有趣的数据,特别是在各种数据集中,例如涉及语言的数据集。但谷歌希望通过发布TensorFlow Privacy,让全球更多的人工智能开发人员使用这项技术,从而使这些问题能够得到改善

  最后,ÚlfarErlingsson表示,只需使用四到五行代码和一些超参数调整就可以为AI模型添加差异隐私,这本身就是一大进步。

  由于人工智能的本质很大程度上就是通过对数据的收集、整理和分析,为用户提供更加人性化的服务。因此,如何保证用户数据的安全也是人工智能必须要面对的问题。可以说,谷歌为AI模型中的隐私保护提供了一个很好的工具。