在人工智能时代，设计师为什么需要加强数据保护和隐私框架？（Adobe Firefly AI）

几周前，一位招聘人员通过LinkedIn联系我，邀请我成为他公司的UX/UI技术面试官，帮助他们验证候选人的技术能力。这听起来是一个吸引人的额外收入来源，所以我同意在第二天安排一次会议。在会议上，我们从来没有交换过任何视觉互动，也没有看到对方的脸，但我们对这个角色的好处和责任进行了很好的讨论。

我们同意向前迈进一步，并安排第二天进行第二次面试。我注意到招聘人员不是我在LinkedIn上的联系人，所以我问了他三个关于我个人信息的问题。我问的问题很基本：

1. 这些采访是否被记录下来？
2. 我的信息是否与第三方共享？
3. 作为一名员工，你认为公司是否在为保护员工的数据作出道德和有效的努力？

他取消了会议，并回答说候选人的信息是安全的，没有记录。他对在最后一刻改变会议内容表示歉意，并承诺在同一周检查是否有时间重新安排电话。

这是他的最后一句话，我再也没有听到建议的回音，最终，我怀疑他的话的透明度或公司的可信度。这种情况让我分析了用户在数字世界中交流的互动，人与人或人与人工智能的互动。由于我没有看到他的脸，我不知道该公司是否在做研究，以训练一个模型来进行采访，或者我是否在与一个真正的人打交道。

我们所处的网络生态系统将其功能集中在算法和大规模数据生成、分析和自动控制决策的集中策略上。作为一名产品设计师，我知道人工智能的用途是识别表情、情绪和语气，以分析、处理和训练算法，以加快招聘过程，帮助公司简化工作流程。

随着这个生态系统的发展，在数字领域出现了与身体皮肤、性身份或民族出身无关的新属性。关于这些属性的个人信息的使用，无论是明确的还是虚拟的，都涉及并牵涉到控制数据如何被使用、被谁使用以及用于何种目的的隐私利益。

几天前，美国蒙大拿州的国会签署了一项法案，禁止TikTok在该州内运营。根据

POLITICO

，它将保护私人数据和敏感的个人信息免受中共的影响。这项法律将在2024年制定，包括CapCut、Telegram、Lemon8和WeChat等外国对手的社交媒体应用程序。

美国的这第一轮数据限制是一个测试，以分析人们对新法律的行为。最有可能通过这一社交媒体应用程序消费信息的Z世代和千禧一代是这一分析的目标，他们开始在蒙大拿州限制其使用，并计划扩大到全美。

网站和第三方数据在未来几年将呈现更多的限制，行业领导者应该能够制定政策和标准，以确保网络架构的可用性和可访问性的工作方式，社会方面不限于语义网。

谷歌最近宣布推出 “隐私沙盒”，这一规定旨在2024年第一季度保护1%的Chrome用户的个人数据不受第三方cookies的影响。

这么多年来，这种现实一直存在于新加坡等国家，那里的广播局要求政治和宗教网站进行注册和许可，是政策法规中最明显的例子，这些法规经常使用防火墙技术的改编，在其境内创建一个巨大的网络集群内网。

这也是一个事实，不是每个人都应该有机会接触到用户的数据。美国历史上最值得回忆的是Facebook在2016年选举中的案例，剑桥分析公司泄露了8000多万美国用户的地理、人口和关系数据，并利用他们的数据在Facebook上曝光广告，影响人们的选举行为。

那么，为什么决定禁止TikTok，而不是Facebook？

有意思的是，分析分布式系统中控制权和信息共享的脆弱性，以及谁对人们的私人信息或个人的认知过程拥有主权的决定。

我们现在理解到，品牌通过在我们的滚动行为中显示信息进入我们的感知。例如，Twitter的价值主张包括通过向下滚动网站来获取不同用户的书面想法，但在所有这些个人想法中，Twitter的算法正在弹出数百个广告和推荐推文，以授予关注新账户的选项。

作为一个用户，你不断向下滚动，因为你对购买这些广告中的任何产品并不特别感兴趣，但所有这些信息都会进入你的潜意识，塑造你的情绪，产生认知偏差，并在你需要在两个或更多品牌中做出选择时影响你的决策。你无意识地看到的广告越多，你就越有可能选择一个品牌而不是另一个。

这就是社交媒体的运作方式。

超越GDPR中确立的法规，不仅与人口、种族或地理信息有关，而且与心理和生物统计学模型有关，应该得到行业领导者和公司的加强和规范。

心理、身体和行为特征，如情感、面部、听觉、表情或指纹识别，用于授予对系统、设备或网络数据的访问，在沉浸式现实中容易受到恶意攻击。

生物统计学数据库可以很容易地被黑客攻击、暴露或被控制系统复制，这些系统可能与犯罪组织、政府代表或为识别、分割、瞄准和跟踪个人数据而创建的人工智能网络实体有关，也可能无关。

信息的误用、数据的泄露、存储信息的潜在寿命、隐私泄露的难以识别、阻挠言论自由等，都应该是新生代的主要关切。

根据Insider Intelligence的研究，Z世代和Alpha世代消费假新闻的风险比之前的世代更加可观。对人类行为的影响是行业领导者为社交媒体的主权而战的原因。尽管这几代人思想最开放，道德最多元，但他们对数据隐私和保护最不关心。

社交媒体作为拥有账户的每个人的唯一标识符工作，可以用来确保更准确的识别。即使生物识别数据必须是唯一的，人工智能系统可以致力于从用户同意在社交媒体应用程序上自由上传的任何图片或视频中生成、收集或复制个人身份。

我们怎样才能应对这一新的现实？

在网络生态系统中，有两类用户：数据生成者和数据消费者。

第一类用户意识到了算法的力量，并利用数据来影响人类行为的模式。他们通过业绩和生活方式指标研究和细分消费者的互动、情绪和品牌认知。

第二组用户更容易采取行动，对某些刺激作出反应；他们根据趋势、建议和数字影响进行移动和扩张。

对于这两个群体，人工智能对全球安全和稳定有重要影响。它可以帮助改善隐私和安全，识别和跟踪错误信息和被操纵的数据，产生更准确的方法来检测网络攻击，并预测和提供更快的解决方案给用户。

对公司而言

人工智能可以帮助学习和分析客户行为，以预测算法模式，细分兴趣，并帮助购买决策。它还可以帮助告知、改善和自动化流程，以管理客户数据库和规划战略营销活动。

因此，公司必须确保员工和客户的数据得到保护和保障，在合法的基础上设置明确的使用声明。

• 透明度： 品牌必须明确说明个人数据的使用和存储方式。公司应在进行任何互动之前要求个人事先同意，明确说明个人数据是否被其他代理或第三方共享或处理。他们需要说明用户正在处理的互动类型，无论是人、训练有素的机器人，还是人工智能。
• 可解释性： 公司应该明确地描述什么以及如何收集、使用和保护数据。他们必须为用户提供同意或不同意的选项，而不影响关系的目标。
• 风险评估： 没有坚实的政策，不符合规定的公司可能会有未经授权的访问风险。因此，他们应定期进行审计，评估系统或数据库的模式或异常情况，以减轻数据攻击或操纵的风险。人工智能可以帮助预测潜在的威胁。
• 问责制： 企业和行业领导者需要确保从系统或数据集中删除或保护所有标识符。向消费者和员工提供诚实和道德的做法是一种责任。
• 治理： 除了国家法律或立法之外，公司必须确保所有个人的信任、质量、可访问性和数据管理的权利，使数据管家能够为他们的社区培养信任、提供信息和促进数据完整性。

对于个人用户

此外，为了确保法规或隐私政策，用户在与公司或品牌互动时必须防止第三方攻击者的潜在滥用。姓名、地址、电话号码、电子邮件和物理标识符很容易被自动化系统追踪，如果连接到公共网络，如机场、联合办公空间或任何咖啡馆，就会面临风险。

除了知道任何人（人类或机器）都可以从社交媒体上获取生物识别数据来进行恶意的特征，个人必须确保两个主要方面来保护他们的隐私：

• 透明度： 用户在与任何公司或设备互动之前，应了解分享个人数据的影响。他们必须同意或不同意当事人的声明，并研究谁可以访问他们的个人信息。
• 可解释性： 个人必须召集研究和评估审计的质量和标准或公司为保护他们的数据所采取的评估。用户必须有权利知道、纠正或删除他们在数据库中的数据。

网络用户必须能够依靠实践，并在怀疑数据被滥用时根据立法采取行动。每个人都必须确保一个基于道德原则和可信度的相互交流的安全场所。

赫尔辛基大学建立了一个免费的在线课程，旨在为那些想熟悉人工智能的道德方面的人提供服务。

谷歌也分享了一个负责任的人工智能进展的政策议程，这有助于在网络治理中建立无障碍的结构。

最后的想法

一个具有生物、计算和认知系统的互联世界正在以一种方式融合，不同的现实：精神、物理和数字，共存于一体。

创造一个我们无法控制的如此巨大的系统所带来的影响可能是毁灭性的，品牌在提供商业价值的同时提供隐私和安全属性还有很长的路要走。我们仍然来得及做出保护网络生态系统及其用户利益的道德决定。

为了让生态系统为全球人机互动的可信赖技术发展做出贡献，我们必须设计道德体验并建立基础设施，使所有用户都能获得安全、可用性和可及性。

知识（数据）就是力量，所以要牢记这一点，建立个人和集体的实践，在不损害人权、品牌参与和技术发展的情况下确保用户隐私。

翻译：云瑞设计
原文：andreakushh✨