南方财经全媒体记者 冯恋阁 21世纪经济报道记者 王俊北京、广州报道
(相关资料图)
“尽管制定了购买和使用个人信息的协议,但被告采取了不同的方法:窃取。”近日,一批匿名人士以此为理由,向OpenAI,以及其投资方之一的微软公司发起集体诉讼。
起诉书称,OpenAI从互联网上窃取了3000亿个单词,它们来自“书籍、文章、网站和帖子——包括未经同意获得的个人信息”。
目前这些指控仍是一面之词。不过,这已经不是这家公司第一次陷入数据安全、个人信息泄露相关的指控了。
“OpenAI是否按照其隐私政策合法合理地收集并利用用户个人信息,以及是否有效识别并剔除其训练数据来源中‘偶然’包含的个人信息。可能是该起诉讼的争议焦点所在。”北京大成律师事务所高级合伙人邓志松表示。
以大模型原理构建的生成式人工智能产品,是算力与数据加持下的“暴力美学”,数据是门槛,语料库海量数据存在高度的数据合规风险。拥有1亿用户、数十亿访问量的ChatGPT因为“树大”其问题首当其冲,但以数据为基石的大模型,数据安全问题正变得越来越重要,甚至可能成为产品的“阿克琉斯之踵”。
AI新秀变“数据小偷”?
根据ChatGPT的开发者OpenAI提供的信息,ChatGPT的三个主要信息来源是互联网上的公开信息、从第三方处通过许可获取的信息以及用户或模型训练者提供的信息(如用户与ChatGPT的聊天记录)。
这份将近160页的起诉书声称,OpenAI 秘密从互联网上窃取了 3000 亿个单词,窃听了“书籍、文章、网站和帖子——包括未经同意获得的个人信息”。
具体而言,该集体诉讼的原告认为,为了赢得“人工智能军备竞赛”,OpenAI从ChatGPT的交互对话以及集成ChatGPT的应用程序中“收集、存储、跟踪、共享和披露”数百万人的个人信息,包括产品详细信息、帐户信息、姓名、联系方式、登录凭据、电子邮件、支付信息、交易记录、浏览器数据、社交媒体信息、聊天日志、使用数据、分析、cookie、搜索和其他在线活动。
原告认为,此举违反了服务协议条款以及州和联邦的隐私和财产法。起诉书指出,这一数据窃取行为的受害人预计有数百万,潜在损失达 30 亿美元。原告诉求则是,要求法院暂时冻结 OpenAI 产品的商业访问和进一步开发。
邓志松告诉21世纪经济报道记者,ChatGPT运行的原理通过“阅读”大量现有文本并学习词语在上下文中的出现方式来预测可能出现在回应中的最可能的词语。此前,OpenAI方面声称不会“主动”收集个人信息用于模型训练,但各渠道训练数据可能“偶然”包含个人信息,人工智能模型可能会从中了解如何在回应用户时正确使用人名、地址等信息,同时它们坚称这些信息不会被用于建立用户画像、广告推广等商业用途。
“OpenAI是否按照其隐私政策合法合理地收集并利用用户个人信息,以及是否有效识别并剔除其训练数据来源中‘偶然’包含的个人信息。这两个问题可能是该起诉讼的争议焦点所在。”邓志松分析,未经用户许可擅自抓取并利用其个人信息,可能涉嫌违反所在司法辖区的个人信息保护法律法规,并构成民事侵权。
不过,受访专家也指出,目前“窃取”暂时仍是原告方的一面之词,还不能据此贸然将OpenAI所实施的个人信息收集活动定性为违法行为。
如何理解数据“窃取”
综合来看,合规、知情-同意成为这起诉讼的风暴眼。
“第一是信息的来源,尤其是训练用的物料是否能说得清、是否合规;第二,在与用户交互的过程中是否涉及到了用户的隐私信息。”数安信CTO崔维友也指出,“窃取”很可能是在用户没有充分知情的情况下拿到了用户的个人数据。
“尽管 OpenIAI对其数据收集和做法 ‘绝对保密’,但就我们了解,该公司使用(至少)5个不同的数据集来训练ChatGPT。”根据起诉书陈述,OpenAI使用的数据集中有部分数据的抓取并不合规。
以WebTex2这一OpenAI "专有 "人工智能语料库为例。原告指出,为了构建这一语料库,OpenAI抓取了社交媒体网站Reddit上所有获得至少3个 "喜欢"(在Reddit上被称为 "Karma "投票)的帖子所链接的所有网页,以及Reddit帖子和相关评论。而Reddit中受欢迎的内容除了来自其网站本身,还包括大量来自YouTube、Facebook、TikTok和Instagram等社交媒体的链接。这些链接及与之关联的个人信息在没有通知相关方获得同意的情况下被大量抓取。
值得注意的是,公开资料显示,今年4月,Reddit官方宣布将对调用其API的公司收费,原因正是OpenAI、谷歌等公司利用该平台上的数据训练模型。
袁立志指出,当前人工智能大模型训练数据主要有应用存量数据、商业和开放数据、公共互联网数据和用户使用数据等几大来源,而不同的数据源的使用则各有不同优劣。“要做到完全合规,并不容易。”他直言。
数据安全——大模型产品的“必答题”
人工智能发展的突破得益于高质量数据的发展。大模型的最新进展依赖于更高质量、更丰富的训练数据集。如何判断数据收集行为以及留存的数据内容是否合规,已成为当前相关技术发展亟待解决的问题,更是大模型产品未来健康发展的关键。
“虽然ChatGPT表示,存储训练和运行模型所需的数据会严格遵守隐私和安全政策,但在未来可能出现网络攻击和数据爬取等现象,仍存在不可忽视的数据安全隐患。特别是涉及国家核心数据、地方和行业重要数据以及个人隐私数据的抓取、处理以及合成使用等过程,需平衡数据安全保护与流动共享。”南开大学法学院副院长、中国新一代人工智能发展战略研究院特约研究员陈兵说。
大成律师事务所高级合伙人肖飒则强调了AI技术“文本数据挖掘功能”潜藏的合规风险。她表示,该功能不仅可以“主动”搜集和存储数据,并且能在不断的数据处理过程中形成自己的处理模式。若其所搜集的数据(含个人信息)并未取得合法授权,相关的处理活动就可能涉嫌违法违规。
这已经不是ChatGPT第一次陷入数据泄露的风波。今年3月,其Redis 开源库中的错误导致本 ChatGPT 服务中暴露了其他用户的个人信息和聊天标题。在ChatGPT被接连发现意外泄露用户聊天记录后,意大利数据保护局(Garante per la Protezione dei Dati Personali)于3月底宣布将暂时禁用ChatGPT并对该工具涉嫌违反隐私规则展开调查。 加拿大也对OpenAI“未经同意收集、使用和披露个人信息”的投诉进行调查。
但这并不是OpenAI这家公司、ChatGPT这个产品的个例,其暴露出的隐私泄露、存储敏感信息、未授权访问等数据安全问题是大模型产品落地应用后可能普遍面临的问题。
CCIA数据安全工作委员会指出,大模型使用来自互联网的公开文本数据作为预训练数据,这些数据可能包含一些用户的个人信息,这些信息可能被LLM无意中学习和记忆,并在后续的应用中泄露出来。预训练和微调过程中需要对数据进行收集、存储、分析和处理,这些操作可能会侵犯用户的个人信息权利,如知情权、选择权、删除权等。用户可能没有充分的意识和能力来保护自己的个人信息,也没有足够的透明度和监督机制来确保数据处理方遵守相关的法律法规和伦理规范。
并且,由于参数量巨大,大模型需要借助分布式计算和云服务等技术来进行训练和部署,这就增加了数据被窃取、篡改、滥用或泄露的风险。
自ChatGPT发布后,中国企业目前已经发布了超70个基础大模型。雨后春笋般的大模型,在接下来商用过程中如何做到数据合规,已经成为每一个产品需要面对的“必答题”。
在袁立志看来,未来,针对不同的数据来源,企业应采取不同手段保证训练数据合规。原有业务的存量数据,如果用以大模型训练,属于变更使用,需要再次得到用户同意;如果爬取互联网公开数据,则需做好数据清理、匿名化等处理,同时注意爬虫技术本身的法律风险;如果购买商用数据或者使用开源数据,则需要企业内做好相关合规审查,保障安全。至于用户使用过程中产生的数据,如与大模型对话的聊天记录,C端数据在事前告知用户获得同意后使用;接入API使用的B端数据,由于与企业高度相关,模型默认不会收集和使用。
“合规确实是后发的大模型训练者需要面对的棘手问题。”袁立志坦言,从业者只能参照自身现实情况,选择尽可能安全透明、成本可控的方法。
AI的浪潮不会停歇,如何掌好前行的船舵,在企业生存与合规生产间找到平衡向前,或许已经成为第四次工业革命下的时代命题。
关键词:
凡注有"环球传媒网 - 环球资讯网 - 环球生活门户"或电头为"环球传媒网 - 环球资讯网 - 环球生活门户"的稿件,均为环球传媒网 - 环球资讯网 - 环球生活门户独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"环球传媒网 - 环球资讯网 - 环球生活门户",并保留"环球传媒网 - 环球资讯网 - 环球生活门户"的电头。
- OpenAI被指控偷窃数据?数据安全成大模型产2023-06-30
- 国融证券屡遭监管处罚 高层“大换血”或2023-06-30
- 河北兴隆:“3+2”模式宣讲党的创新理论-2023-06-30
- 当前视点!实际出资额超过注册资本金怎么处2023-06-30
- 青你决赛曲目抄袭怎么回事?青春有你的组合2023-06-30
- 环球观点:今夏用电负荷持续攀升 能源央企2023-06-30
- “新三样”产业链成能源转型重要力量2023-06-30
- 2023年国家医保目录调整工作将启动 分为五2023-06-30
- 当前热门:忻州市成立调查组 核查代县矿企2023-06-30
- 【全球热闻】中国原奶产业现状调查:供大于2023-06-30
- 7300gs(关于7300gs的基本详情介绍)-环球信息2023-06-30
- 热点聚焦:小米手机人像模式怎么设置2023-06-30
- 为什么宇智波斑要开发威装须佐能乎,而不分2023-06-30
- 第十九届中国西部国际博览会开幕2023-06-30
- 世界今热点:山行的诗意是什么意思_古诗 2023-06-30
- 纽约股市三大股指29日涨跌互现2023-06-30
- OpenAI最强对手来袭?Inflection AI获微软2023-06-30
- 贵在营造创新生态圈 重点聚焦2023-06-30
- 中国石化湖北石油践行低碳发展战略——让中2023-06-30
- 世界新资讯:【忠阳车评】“500万辆规模论2023-06-30
- 热点在线丨北京海博思创科技股份有限公司坚2023-06-30
- 乡村夏日美如画2023-06-30
- 宕石2023-06-30
- 谢霆锋身高对比图_谢霆锋的身高|环球聚看点2023-06-30
- 焕新升级,全新英仕派能在运动、内饰、智能2023-06-30
- 腰腹吸脂重拾自信魅力!上海丽质覃涛科普2023-06-30
- 世界短讯!为什么《斗罗大陆》这种毫无文化2023-06-30
- 焦点报道:股票600660(股票600775)2023-06-30
- 天天资讯:“田野日-2023”国际农业展举行2023-06-30
- 新型进网许可标志7月1日起启用-最新快讯2023-06-30
- 天麻粉有改善睡眠质量的作用吗?天麻粉食用注意事项分享|天天微头条
- 离职有必要转灵活就业吗?离职后怎么变成灵活就业?
- 安踏旗下的八个品牌有哪些?安踏的高端品牌是什么?
- 环球观速讯丨如何确保建筑工程质量标准?建筑工程质量要求是什么?
- 当前观察:mindmanager怎么导出图片? mindmanager怎么导出pdf?
- 青旅是什么?青年旅馆是男女混住吗?
- 环球快报:承兑到期几天内要兑现?10万元电子承兑没到期兑现方法是什么?
- 合同诈骗罪案件流程是什么?如何判定欺诈合同? 当前关注
- 网贷起诉法院受理吗?网贷逾期的法律依据是什么?_每日报道
- 什么是大宗交易?大宗交易买入的股票多久可以卖出?_环球新消息
资讯
焦点
- 焦点消息!生产安全事故总共分为几个等级?特别重大事故的定义是什么?
- 天天日报丨基金卖出技巧是什么?基金为什么赎回份额比本金少?
- 经常戴眼镜会导致眼球变凸吗?眼球变凸的原因可能有哪些?
- 全球即时:火花塞多长时间更换? 4个火花塞一般多少钱?
- 速看:个人版wps启用宏设置方法是什么? Excel表格启用宏步骤是什么?
- 农业银行为什么有结息交易?三个月结息33元流水大吗?-焦点信息
- 全球通讯!oppo返回键怎么设置回来?oppo返回键震动怎么设置?
- 天天消息!kb2699988是什么?补丁KB2699988怎么修复?
- 全球热点评!现代悦动1.6自动挡真实油耗多少?悦动1.6油耗百公里油耗高吗?
- 楚河汉界与哪个历史事件有关?楚河汉界在哪里?