爆红的“ChatGPT”潜在的数据安全隐患

ChatGPT编程1年前 (2023)发布 一起用AI
528 0 0

    北京时间2023年2月6日,爆红的聊天机器人ChatGPT开发商OpenAI的首席技术官米拉·穆拉蒂表示,ChatGPT应该受到监管,因为它可能被“危险分子”使用。

爆红的“ChatGPT”潜在的数据安全隐患

OpenAI于2022年11月30日开放测试ChatGPT,此后ChatGPT风靡全球。两个月后,ChatGPT用户达到1亿,在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道,这是互联网领域发展20年来,增长速度最快的消费类应用程序。

ChatGPT是美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具,在OpenAI的官网上,ChatGPT被描述为优化对话的语言模型。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。

爆红的“ChatGPT”潜在的数据安全隐患

不过,随着ChatGPT聊天机器人在商业领域使用量快速增长,Alphabet(谷歌)、Meta等全球科技巨头开始提心吊胆,并试图采取全新的战略措施。由于ChatGPT具备检索功能,可以用清晰、简单的句子提供信息,而不仅仅是互联网链接列表,这使得谷歌可能面临对其主要搜索业务的严重威胁。微软公司积极拥抱OpenAI,正计划推出新版必应搜索引擎,使用聊天机器人ChatGPT背后的人工智能(AI)技术。Meta则在紧张备战,加快人工智能新兴技术的融入。

在学术专业领域,纽约市教育部发言人Jenna Lyle认为,ChatGPT的负面影响超过了积极因素。Lyle表示,“虽然该AI工具可能能够提供快速简便的问题答案,但它并不能培养批判性思维和解决问题的能力,而这些技能对于学术和终身成功至关重要”。一项调查显示,截止2023年1月,美国89%的大学生都是用ChatGPT做作业。德国图宾根大学也在一封内部邮件中宣布:出于担心ChatGPT的使用正变得不可控,学校决定严格限制这款人工智能的使用,由ChatGPT生成的文本不得用于学习和考试。

    ChatGPT风靡以来,除以上问题外,讨论更多的还是数据安全问题。

爆红的“ChatGPT”潜在的数据安全隐患

数据泄露问题。员工在使用ChatGPT进行辅助工作时,商业机密泄露风险也随之增加。2023年1月份,微软首席技术官办公室一位高级工程师回答,只要不与ChatGPT共享机密信息,工作时使用ChatGPT是被允许的。亚马逊公司律师同样警告员工不要与ChatGPT分享“任何亚马逊的机密信息”,因为输入的信息可能会被用作ChatGPT进一步迭代的训练数据。

删除权问题。ChatGPT虽然承诺会从其使用的记录中删除所有个人身份信息,但ChatGPT未说明其如何删除信息,而且由于被收集的数据将用于ChatGPT不断的学习中,很难保证完全擦除个人信息痕迹。

语料库获取合规问题。欧洲数据保护委员会(EDPB)支持专家库成员亚历山大称,ChatGPT获取数据的方法需要完全披露。如果ChatGPT通过抓取互联网上的信息获得其训练数据,可能并不合法。

除此之外,用户对ChatGPT的恶意利用也会带来很多数据安全问题。比如利用自然语言编写的能力,编写恶意软件,从而逃避防病毒软件的检测;利用ChatGPT的编写功能,生成钓鱼电子邮件;利用对话功能,冒充真实的人或者组织骗取他人信息等。

爆红的“ChatGPT”潜在的数据安全隐患

ChatGPT开发商OpenAI的首席技术官米拉·穆拉蒂在采访时也表示,ChatGPT可能会“编造事实”,这与其他基于语言模型的人工智能工具一样。2022年11月,几乎与ChatGPT同一时间上线的Meta服务科研领域的语言模型Galactica,就因为真假答案混杂的问题,测试仅3天就被用户投诉下线。ChatGPT及类似语言模型要应用到搜索引擎、客户投诉系统等领域,就必须对其进行合规性改造,以最大程度降低相应的合规风险。穆拉蒂在采访时也强调,OpenAI将需要获得所有能得到的帮助,包括来自监管机构、政府和其他所有人的帮助。她补充说,现在对他进行监管“并不为时过早”。

© 版权声明

相关文章