标题
更多
详细内容

中国支付清算协会:支付行业从业人员谨慎使用ChatGPT

现如今ChatGPT仍然热度不减,不过人们开始逐渐关注到了安全性的问题。近期,中国支付清算协会网站紧急发声“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”

微信图片_20230414104632.png


一、应依法合规使用


1e03c53c46a534a9d89cf185d8346c64.jpg

近期,ChatGPT等工具引起各方广泛关注,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具已暴露出跨境数据泄露等风险。


为有效应对风险、保护客户隐私、维护数据安全,提升支付清算行业的数据安全管理水平,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定,中国支付清算协会向行业发出倡议。


一是提高思想认识,依法依规使用。支付行业从业人员要遵守所在地区的网络使用规定,正确认识ChatGPT等工具的机遇和风险,全面评估使用ChatGPT等工具处理工作内容的风险,依法合规使用ChatGPT等工具。


二是不上传关键敏感信息。支付行业从业人员在使用ChatGPT等工具时,要严格遵守国家及行业相关法律法规要求,不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。


三是会员单位加强内部管理和引导。会员单位要进一步健全信息安全内控管理制度,开展有针对性的数据风险防控工作,加强宣传和引导,提升员工的风险防范和数据保护意识,切实维护国家金融及支付清算行业安全。



二、防止数据泄漏隐私成难题


有行内专家表示,“此前,国外已出现过ChatGPT等工具隐私泄露的情况。中国支付清算协会倡议慎用ChatGPT等工具,无论是对金融机构还是用户而言,均是一种保护行为。”中国支付清算协会这一倡议是对近期ChatGPT频繁曝出数据泄露事件的回应,ChatGPT已经在世界范围内曝出数起敏感数据泄密事件。就在四月初,意大利个人数据保护局宣布,禁止使用ChatGPT并限制OpenAI公司处理意大利用户的个人信息,同时意大利个人数据保护局开始就ChatGPT泄露敏感信息事件进行立案调查。

微信图片_20230414145838.png

截图来源:意大利安莎社官网

无独有偶,韩国某国际知名大型企业(某星)主管存储、芯片设计、晶圆代工等半导体核心业务部门亦因为员工使用ChatGPT导致机密数据泄露。


事实上国内部分行业也已经对ChatGPT引发的敏感信息泄露问题发布了相关预警除韩国某星外,微软、亚马逊等国际巨头企业亦对自己的员工发出预警,不要与ChatGPT分享公司的相关敏感信息,因为它们可能会被ChatGPT用于训练未来的语言模型。


三、或存在两种风险

9150235d58e13ce812da58ee937272af.jpg

中国支付清算协会以及上述各企业对于ChatGPT数据泄漏风险的担忧不无道理。ChatGPT的数据泄漏风险主要源于两部分,一是ChatGPT本身的程序漏洞,二是ChatGPT的工作原理。ChatGPT本身的程序漏洞可能会导致用户的聊天内容泄露。这类事故已经发生过数次,就在3月末,有部分网友生成自己的ChatGPT聊天栏中出现了其他人聊天记录的标题。


3月25日OpenAI发文证实是由于ChatGPT本身程序漏洞导致了泄露事故,OpenAI“已紧急修复该漏洞并向用户致歉”。事实上程序本身漏洞导致信息泄露并非“不可饶恕”,这些漏洞通常及时修补后就不会引起撼动ChatGPT根基的风波。而真正可能撼动ChatGPT根基的是后一种信息泄露风险点位,即ChatGPT的工作原理


实际上,ChatGPT的工作原理就注定了其在现阶段很难解决信息泄露的问题。具体而言,传统的聊天软件通常会声称“本软件不会收集聊天记录、聊天信息也会点对点进行加密传输”,事实上绝大部分的聊天软件也都会做到这一点。但是这一点对于ChatGPT而言几乎不可能实现,原因在于ChatGPT这类大语言模型一定会收集用户的聊天内容,并将其用于后续算法训练,以使得自身进一步迭代成为更加高效的AI。因此,用户在与ChatGPT聊天的过程中提供的隐私内容,很可能会被ChatGPT收集,并成为其自身算法训练的素材,然后在其他场景中透露给别人。

9651801a48ed7e9fefe511cf4fbc2116.png

传统聊天软件的服务提供商通常不会收集聊天记录,聊天记录亦会点对点加密,但ChatGPT等AIGC却会不可避免地收集聊天内容用于后续的算法训练,以使自身“迭代进化”。用户提供的隐私信息很可能在这样的机制之下被披露给第三方,实际上AIGC正在慢慢改变隐私数据处理的边界与预期。这对企业合规、数据相关法律规范制定者、司法机关都是一个挑战,未来可能会将涉及的数据合规化,尤其是数据出境等问题,可能仍需进一步探索与研究

技术支持: 建站ABC | 管理登录
seo seo