ChatGPT 被指使用虚假的个人数据

摘要 

2024 年，数据保护组织 NOYB（全称“None of Your Business”） 在报告中指称，ChatGPT 背后的公司 OpenAI未能确保个人数据准确无误并纠正错误信息，从而违反了欧盟数据保护法规。这一指控提出了一个普遍性的问题，即：ChatGPT 等人工智能系统在处理个人数据时能否真正遵守欧盟数据保护法规。

背景 

人工智能在用户提出请求时生成错误信息的情况并不少见。不过，如果用户提出的请求涉及某个个人，那么人工智能编造虚假个人数据将导致严重的法律后果。

这项指控的缘起，是 ChatGPT 重复生成某位公众人物的生日，而当这个公众人物要求更正其个人数据时，OpenAI 拒绝了这项请求。据 OpenAI 表示，除非完全阻止人工智能回答关于该公众人物的所有其他问题，否则它在技术上无法更正或阻止人工智能的这类答复。

NOYB 认为OpenAI未能适当处理该自然人要求访问、更正或删除个人数据的请求，因此未能遵守欧盟数据保护法规的要求。

要点 

• 一个组织在开发和实施人工智能系统之前，必须牢记在规划和模型设计过程中着重考虑如何保障数据主体的权利。

• 组织应当仔细评估训练模型真正需要的数据，不应处理超过必要范围的数据。关键在于控制存储和使用的数据，并保障数据主体的权利。

• 组织应当明白，随着人工智能监管工作的加强，以及欧盟数据保护法规对人工智能适用规则的明确，这类投诉只会越来越多。比如在这个例子里，不应将问题简单归咎于技术障碍，因为这不能构成它未遵守欧盟数据保护法规的正当理由。