企业文化 媒体评价 联系我们

AI与隐私如何共处

发布日期:2022年12月13日

去年12月,麦肯锡发布了《2021年人工智能现状》报告,数据显示,AI的采用率正在持续增长,57%的新兴经济体企业选择使用AI技术,高于2020年的45%。IBM调查也针对全球AI采用指数的主题,发布了相关报告,IBM认为,全球AI采用是渐进式的,但长期趋势很明显,调研的7502家企业中,80%表示会采用AI。

随着AI在商业中越来越普及,一面在有效推动企业进步;另一面,日益重视的数据安全、隐私问题,也让其备受争议。

近期,Zoho全球AI研究负责人Ramprakash Ramamoorthy就这两者的关系表达了自己的看法。

越来越多的用户开始关注隐私“边界”的问题

去年到今年,多家知名企业发生了数据泄露事件。以Meta为例,今年2月,Meta与Facebook用户长达十年的隐私诉讼落下帷幕,这4名用户指控Facebook在他们退出社交媒体网站后,仍会追踪他们的网络活动,对用户隐私权构成侵犯。根据庭外和解协议,Meta同意支付9000万美元的赔偿金。3月,爱尔兰数据保护委员会认为在多次大规模个人数据泄露事件中,Meta未能证明及时有效采用了安全应对策略,违背了GDPR规则,最终被罚1700万欧元。

越来越多的用户开始关注应用与自身隐私边界在哪里的问题。但另外一方面,大众并不排斥对他们更有利的数据利用,根据全球数据与营销联盟(GDMA)发布的《2022年什么是消费者真正所想》报告,在全球16个国家和地区中,53%的消费者认为在合理范围内,可以提供部分个人数据。

Zoho认为,企业与用户在数据问题上之所以有“冲突”,归根到底是标准问题。AI对于传统行业具有新兴性质,缺乏系统的治理体系,如果用道德约束共识,难免会出现双方认知不一致的情况。

在Zoho看来,企业应该为AI人工智能技术运用的必然性做好准备,对用户提供透明便捷、可快速访问查询的隐私政策。如果企业没有相关规定,则应该尽快编写并及时上架官网。

减少AI偏见

尽管拥有技术先进性,但在当下,AI技术和人类一样,也会产生偏见。当人工智能接受了人类传递来数据,就不可避免地产生偏见,简单可以分为6种情景:

· 历史偏见:在收集用于训练机器学习算法的数据时,获取历史数据通常从容易的地方开始,由于这些数据的更新问题,很容易将历史数据存在的偏见引入。

· 样本偏见:当训练数据不能准确反映模型的实际使用情况时,就会出现样本偏见。通常情况下,一个群体的代表性或者过高,或者偏低。

· 标记偏见:训练机器学习算法所需的大量数据需要标记才能有用。然而,人们标记数据的方式千差万别,标记的不一致会给系统带来偏见。

· 聚合偏见:通常,聚合数据以简化数据或以特定方式呈现数据。无论是在创建模型之前还是之后,这都可能导致偏见。

· 确认偏见:确认偏见是人们倾向于相信能证实其现有信念的信息,或者丢弃不符合现有信念的信息。当用户渴望某个结果时,他们可能会无意中对 AI 系统进行编程以产生他们期望和希望的结果。

· 评价偏见:当一个模型被评估和优化时,它是根据某些基准来衡量的,这些基准可能在他们的现实表示中存在缺陷。

偏见是学习的自然结果,无法完全消除,但却可以管理。

以Zoho为例,在AI 训练的数据收集和处理阶段之间,设置人为保护措施。在 Zoho,员工与AI一起梳理公开可用的数据,清除任何个人身份数据的痕迹,一方面是为了保护用户,其次是为了确保只有关键信息可以通过。

偏见是一个不断发展的概念,尤其随着数据访问的改善。持续的人工智能培训、定期的扫描更新以及负责任的承诺,将大大减少用户的偏见。

Zoho一直将用户的数据安全与隐私保护放在首位,上周我们发布了《Zoho CRM安全白皮书》,透明展示了Zoho的安全策略、加密安全管理体系、隐私安全管理体系等等,扫描下方二维码,可免费获取阅读,Zoho将为企业创造更安全的信息环境,助力企业增长。

AI与隐私如何共处