AI聊天机器人ChatGPT(Chat Generative Pre-trained Transformer)在全球刮起旋风,强大的功能和广泛用途让人惊叹,但伴随其中的隐忧也浮出水面。韩国三星电子(Samsung Electronics)才刚允许员工使用ChatGPT不到20天,就爆出机密数据外泄意外,包括半导体设备测量数据、产品良率等,这些内容很有可能已被存入ChatGPT的数据库中。
人工智能是把锋利的双面刃,即使功能再强大,隐藏在背后的威胁也不容忽视,也因此许多企业都还在观望是否该导入ChatGPT,而灾情也在最近来敲门,三星电子首当其冲。综合外媒报导,三星导入ChatGPT不到20天的时间,就传出3起在ChatGPT误用与滥用的案例。
这3起涉及ChatGPT的个案内容有2起与半导体设备有关,另1起与会议内容相关。在设计芯片设备的事件中,三星半导体事业暨设备解决方案部门(Device Solutions;DS)1名员工在测试设备下载软件的过程中,将出现问题的原代码拷贝到ChatGPT,并向其请教解法,但这一操作反而让三星设备测量相关的原代码成为ChatGPT学习数据。
而另一起芯片案件同为DS部门,有员工为了解设备良率等相关信息,将代码输入ChatGPT,要求其优化代码,而第三起则是使用ChatGPT记录会议内容,即使并未涉及技术机密,但仍有会议内容外泄的风险。
由于三星员工在使用ChatGPT查找问题并验证答案时,不慎将这些信息添加到ChatGPT的学习数据库里,日后若有其他用户在ChatGPT上提出相关问题,可能导致三星企业机密外泄。据悉,起初三星全面禁止使用ChatGPT,自3月11日开始才部分开放给DS部门使用,却没想到在短短时间内就传出机密外泄。
事实上,在ChatGPT的使用指南中也有特别提醒用户「不要输入敏感内容」,为了防止类似事件再度发生,三星正在制定相关保护措施,并进一步加强内部管理和员工训练,目前也已将每个ChatGPT提问容量限制在1,024byte以下,若之后又发生类似案例,三星内部很有可能会切断ChatGPT服务,更不排除对相关人员做出惩处。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。