凰家会客厅|周鸿祎:不要小看ChatGPT“胡言乱语” 这恰恰证明它的智能

ChatGPT编程1年前 (2023)发布 一起用AI
444 0 0

随着全国进入“两会时间”,代表及委员们的议案和提案成为全民关注焦点。两会期间,周鸿祎做客凤凰网财经《凰家会客厅》栏目,就他带来的提案及近期火热的ChatGPT、数字安全、网络安全等话题进行深入探讨。

提案中,周鸿祎认为,以ChatGPT为代表的人工智能大模型技术的巨大跃升将掀起一场新的工业革命,我国理应迎头赶上,并建议打造中国的”微软+Open AI”组合引领大模型技术攻关。而在稍早前的2月初,360也曾在投资者互动平台上表示:“计划尽快推出类ChatGPT技术的demo产品”。

为何如此看好ChatGPT?对此,周鸿祎表示,ChatGPT的伟大之处在于它不是为了解决某一专有领域的问题,而是实现了对人类知识的存储,并在此基础上训练出了很多人才拥有的能力。

他进一步解释称,ChatGPT完成一项工作可分为两个步骤,第一步是通过“大力出奇迹”的方法建立一个大语言模型,这一步中不需要人工标注,即为无监督学习。在这种模型的基础上,ChatGPT的第二个突破还在于其增加了一种能力的训练机制。通过这种机制,人类可以训练它很多能力。

基于此,周鸿祎认为,ChatGPT已经实现了成为强人工智能的基础,能够理解“自己在说什么”。他举例称,ChatGPT有时候会“一本正经地胡说八道”,而这恰恰体现了它的智能。“正因为人能编故事,能去描绘那些不存在的东西,描绘那些只有在想象中的东西,人类社会才有了信仰,才有了宗教,才有了文明的传承。所以ChatGPT的胡言乱语真的很可怕,标志着它已经拥有了一定的认知能力、理解力和一定的判断力,拥有和人类类似的思维能力。”

周鸿祎进一步举例:“比如我问ChatGPT,我说‘我有一只狗名字叫3万,请问我为什么给它起这个名字’。ChatGPT回答说‘我也不知道,人们给宠物起名字有各种各样的原因,巴拉巴拉说了一堆’。我又说‘你知道吗?这只狗原来遭遇了车祸,后来被主人遗弃了。后来我带他到医院做了手术,我就收养了这只狗’。ChatGPT竟然回答说‘那么3万可能是这次手术的费用,高达3万,你可能是为了纪念这次手术,所以给它起名字叫3万。’”

在周鸿祎看来,在回答这个问题时,ChatGPT体现出了惊人的理解力,“很可能小朋友都不一定能理解到这个程度,但ChatGPT已经能够理解到了。”

“说起来ChatGPT‘胡言乱语’的例子还有很多,比如网上流传的‘林黛玉如何倒拔垂杨柳’、‘林黛玉如何三打白骨精’。你会发现ChatGPT都能做到一本正经地胡说八道。我那天问它,我说赵匡胤招安了宋江为什么要杀掉岳飞,ChatGPT也给了我一个胡说八道的解释。很多人觉得这个东西不能当搜索用,我觉得如果把它当搜索就错了,这种胡说八道的能力恰恰证明它的智能。”周鸿祎说。

而对于ChatGPT与“人类威胁”之间的争议,周鸿祎则认为,任何技术在发展过程中都是一把双刃剑。他指出,目前ChatGPT仅仅是有认知。随着撬动ChatGPT的参数进一步扩大,ChatGPT可能很快就会产生意识。不仅如此,周鸿祎还表示,目前ChatGPT还只有大脑,第二步,它可能进化出“眼睛”、“耳朵”、“手”跟“脚”,那时候它就能够看懂人类的各种图像、视频,听懂各种音频,智能化水平提升。

更进一步,随着ChatGPT接入互联网的API,进入万物互联的时代,它无疑相当于拥有了手跟脚,间接拥有了操控世界的能力。这个时候,它不仅在网页上可以下单购买机票,可以打车,可以订购外卖,甚至能够通过网页操纵各种物联网设备。“再设想,假如让ChatGPT不限定输入的语料,随意能够获取搜索、浏览互联网上的知识,产生了自主意识的GPT会不会在看完类似《终结者》之类的电影后,产生与人类为敌的想法?”

除此之外,周鸿祎还谈到,ChatGPT还可能能够自我进化。“如果这样,它就拥有了能够自我学习、自我进化的能力,实现了机器人制造机器人的前景。”在此背景下,周鸿祎坦言,如果ChatGPT发展到这一步,那么人类是否会因此走入毁灭犹未可知。

尽管如此,但周鸿祎依旧认为,不能因此就不发展技术,而是要知道技术的底线和边界在哪,从而去规范技术向着正确的方向发展。

值得注意的是,在与《凰家会客厅》的对话中,周鸿祎还特别提到了与ChatGPT有关的“数据安全”“网络安全”等问题。他认为,这已经从一个技术问题变成了一个社会伦理问题,有的时候甚至变成了一个人类面临的不可预知的问题。

首先,周鸿祎认为,作为一个软件系统,ChatGPT是用数据来训练的,因此它像其他所有传统的人工智能系统一样,都面临着传统数字化问题。其次,周鸿祎指出,ChatGPT是为它的主人服务的。作为一个非常有利的武器,它掌握了非常多的编程知识,以及有关于网络安全漏洞的知识。

周鸿祎认为,作为一个机器人助理,ChatGPT除了可以帮助好人,也一样可以帮助坏人。他特别提醒,ChatGPT现在完全可以成为网络黑客作恶的有力的工具。“网上有很多黑客演示了利用ChatGPT写钓鱼邮件、写攻击代码,它大大降低了攻击的成本和难度,成为了很多黑客的帮手。”

同时,周鸿祎也透露,目前安全行业也在探索用GPT大模型能否解决对攻击的自动侦测、自动发现,或者建立知识库。“企业网管在面临安全事件分析的时候,需要有一个强大的知识库做支撑。所以,ChatGPT也可以扮演正义助手的角色。”

除了对ChatGPT的深入思考外,周鸿祎还与《凰家会客厅》就网络安全的其他方面展开了讨论。他表示,当前数字化快速发展,由此产生的安全问题也尤为值得警惕。

他指出,通过研究分析近年来360帮助国家捕获的51个境外国家级黑客组织针对我国发动的数千次网络攻击可以发现,当前“看不见”攻击已成为网络安全和企业数字化转型中最大的痛点。“对手往往来无影去无踪,很多企业和单位被攻击了才知道,甚至被攻击了都不知道。”

在此背景下,能否“看见”风险和攻击就成为了安全能力的“试金石”。而360去年以来综合运用大数据、云计算、人工智能技术,构建以“看见”为核心的数字安全大脑,探索建立了城市数字安全服务中心的新模式,在“四集中”的基础上提供集中化SaaS服务,实现了“数据情报云化、产品SaaS化、安全服务化、服务托管化、托管专业化”,相当于帮助每一个企事业单位和政府部门在城市云之上建立了各自的“安全运营中心”,由云上的专业安全服务团队提供持续的安全运营服务,探索创新了城市数字安全的新范式。

周鸿祎指出,从攻防实战来看,城市则成为网络战的首选战场,也是维护国家数字安全的主阵地。因此,对于城市中体量最大的中小微企业而言,维护其企业数据安全就成为了重中之重。但由于其数字安全能力薄弱,极有可能成为国家数字安全屏障的缺口和短板。

对此,周鸿祎建议,推广针对中小微企业的免费或低成本SaaS化安全服务,护航数字化转型,把数字化SaaS服务作为重点产业方向进行培育,在政府主导下更大范围的更广SaaS服务平台,同时对SaaS生态企业给予政策支持,鼓励地方政府为中小微企业发放“数字化红包”,降低中小微企业获取数字化服务的成本。

1、ChatGPT如何影响未来?周鸿祎:可能成为各行业的“水”“电”

《凰家会客厅》:近期,ChatGPT引发全球热议,您本次也带来了相关提案。您提到,“以ChatGPT为代表的人工智能大模型技术的巨大跃升将掀起一场新的工业革命”。事实上,2月初,360在投资者互动平台上也曾表示:“计划尽快推出类ChatGPT技术的demo产品”。

您为何如此看好ChatGPT?如果从长远角度想象,您觉得ChatGPT将如何改变世界?能够举例某个场景以具象描绘这种改变?

周鸿祎:从新工业革命的角度来看,ChatGPT首先是一个通用人工智能,它不是为了解决某一专有领域的问题,而是实现了对人类知识的存储。ChatGPT完成了这项伟大的使命,而它完成工作过程分两步,第一步是建立一个大语言模型,通过大力出奇迹的方法来实现,过程中不需要人工标注,可以称之为无监督学习。

ChatGPT的第二个重要突破,是在这种模型上增加了一种能力的训练机制,通过这种机制人类可以训练它很多能力,比如逻辑推理能力,让ChatGPT对所存储的知识融会贯通,先把书读厚、再把书读薄。

我个人觉得,ChatGPT其实已经实现了成为强人工智能的基础,真正做到了理解自己在说什么。比如,ChatGPT有时候会一本正经地胡说八道,这恰恰体现了它的智能。正因为人能编故事,能去描绘那些不存在的东西,描绘那些只有在想象中的东西,人类社会才有了信仰,才有了宗教,才有了文明的传承。所以ChatGPT的胡言乱语真的很可怕。标志着他已经拥有了一定的认知能力、理解力和一定的判断力,拥有和人类类似的思维能力。

按照进化论的说法,人类从智人发展而来,智人从人猿发展而来的;而在人猿到智人的过程中出现了智力突变。我们可以大胆猜测一下,这个过程中有可能是随着脑容量的变化,脑子里的神经元网络发生突变,才引发了智力的出现。现在ChatGPT大语言模型参数达到了1750亿,同样激发了突变,使之产生了现在的能力。

ChatGPT的巨大进步,使得它有可能成为各个行业的“水”跟“电”,从而发挥支撑作用。我们要把它看成云服务、看成API,它对消费者是聊天机器人的界面,那只是一个连接端,聊天机器人之所以强大是聊天机器人背后的云端藏着一个智能大脑。今天如果把智能大脑通过API的方式,把云服务连到目前各个业务系统里,那么现在所有的产业,包括所有的软件、APP、数字化系统等等,都值得重新做一遍,比如有的可以做深度融合,有的可以做使用上的融合等等。

因此,我觉得ChatGPT的发明用任何誉美之词都不为过。相对于马斯克说它不亚于iPhone的出现,比尔盖茨说它不亚于于PC或互联网的诞生,我更愿意说ChatGPT可能会带来一场新的工业革命,有点像蒸汽机和电力的发明。

2、如何看待ChatGPT“一本正经地胡说八道”?周鸿祎:恰恰证明它的智能

《凰家会客厅》:您有跟ChatGPT对话过吗?都问了哪些问题?回答是否准确或满意?有没有哪些有意思的对话可以跟我们分享?

周鸿祎:ChatGPT给我的感受很惊艳,它不是简单的输出,而是基于学习到的知识,利用推理的能力来组织问题的答案。从这个角度来讲,ChatGPT的胡言乱语恰恰体现了它的智能。因为拥有想象力,可以无中生有的编故事,正是智人区别于猿人人区别于动物的重要标志。正因为人能编故事,编描绘那些不存在的东西,描绘那些只有在想象中的东西,人类社会才有了信仰,才有了宗教,才有了文明的传承。所以ChatGPT的胡言乱语真的很可怕。标志的他已经拥有了一定的认知能力、理解力和一定的判断力,拥有和人类类似的思维模式。

我举几个例子,可以让大家理解ChatGPT的这种举一反三的能力。你比如我问ChatGPT,我说我有一只狗名字叫3万,请问我为什么给它起这个名字,ChatGPT回答说我也不知道。人们给宠物起名字有各种各样的原因,巴拉巴拉说了一堆。我又说你知道吗?这只狗原来遭遇了车祸,后来被主人遗弃了。后来我带他到医院做了手术,我就收养了这只狗。ChatGPT既然回答说那么3万可能是这次手术的费用,高达3万,你可能是为了纪念这次手术,所以给它起名字叫3万。

我觉得非常惊讶,这背后蕴含的深刻的意思,这样一个理解力,很可能小朋友都不一定能理解到这个程度,但ChatGPT已经能够理解到了。比如说起来ChatGPT胡言乱语的例子还有很多,比如网上流传的林黛玉如何倒拔垂杨柳,林黛玉如何三打白骨精。你会发现ChatGPT都能做到一本正经的胡说八道。我那天问他,我说赵匡胤招安了宋江为什么要杀掉岳飞,ChatGPT也给了我一个胡说八道的解释。很多人觉得这个东西不能当搜索用,我觉得如果把它当搜索就错了,这种胡说八道的能力恰恰证明它的智能。

3、ChatGPT到底帮助了谁?它真的会威胁人类生存吗?

《凰家会客厅》:对于“ChatGPT是对人类生存的威胁”这种声音,您怎么看?近期,越来越多的企业或高校对ChatGPT发出禁令,如摩根大通、花旗、高盛等纷纷限制员工使用ChatGPT,微软、亚马逊、沃尔玛等要求员工不得将公司信息输入ChatGPT,等等。您认为,ChatGPT在初期被禁是否有一定的道理?亦或是对科技及社会发展的阻碍?

周鸿祎:任何技术都是一把双刃剑,从安全的角度来看,第一步,ChatGPT可能很快就会产生意识。目前ChatGPT仅仅用到了认知,就像《从混沌到秩序》那本书里讲的一样,人类的大脑神经元或者神经触突,神经网络多到一定的时候,突破了临界值就产生了意识。那么,随着撬动ChatGPT的参数进一步扩大,当知识足够多的时候,有没有可能也会触发它的某种突变,比如从混沌中催生意识?就像ChatGPT的模型超过1000亿参数之后,就产生了神奇的突变,产生了主动推理、举一反三的能力一样。

第二步,它可能进化出“眼睛”、“耳朵”、“手”跟“脚”。目前GPT还只有大脑,如果给它加上眼睛和耳朵,让它能够看懂人类的各种图像、视频,听懂各种音频,届时它的知识存储将会突飞猛进,智能化水平也将同步提升。更进一步,随着ChatGPT接入互联网的API,进入万物互联的时代,它无疑相当于拥有了手跟脚,间接拥有了操控世界的能力。

这个时候,它不仅在网页上可以下单购买机票,可以打车,可以订购外卖,甚至能够通过网页操纵各种物联网设备。再设想,假如让ChatGPT不限定输入的语料,随意能够获取搜索、浏览互联网上的知识,产生了自主意识的GPT会不会在看完类似《终结者》之类的电影后,产生与人类为敌的想法?

第三步,它可能能够自我进化。现在的ChatGPT仅仅会写一些简单的代码。但是有一天,当它的代码能力提升之后,它是否可以自动来查阅自身的代码,可以对代码进行修正和升级,甚至再重新编译一个新的版本?如果这样,它就拥有了能够自我学习、自我进化的能力,实现了机器人制造机器人的前景,人类是否会因此走入毁灭犹未可知。但是,我们不能因此就不发展技术,而是要知道技术的底线和边界在哪,从而去规范技术向着正确的方向发展。

《凰家会客厅》:如何在保证数据安全的基础上实现ChatGPT的健康发展?360在这方面有哪些经验值得借鉴?

周鸿祎:关于ChatGPT带来的安全问题,我觉得它已经从一个技术问题变成了一个社会伦理问题,有的时候甚至变成了一个人类面临的不可预知的问题。

首先,从传统来说,ChatGPT既然是一个软件系统,它是用数据来训练的;所以对它的数据污染,或者软件系统内部留的漏洞,这是任何一个传统的人工智能系统都面临的传统数字化问题。

其次,ChatGPT今天作为一个非常有利的武器,它是为它的主人服务的,它掌握了非常多的编程知识,以及有关于漏洞网络安全的知识。因此,它现在完全可以成为网络黑客作恶的有力的工具。它作为一个机器人助理,除了可以帮助好人,也一样可以帮助坏人。所以,网上有很多黑客演示了利用ChatGPT写钓鱼邮件、写攻击代码,它大大降低了攻击的成本和难度,成为很多黑客的帮手。

反过来,安全行业也在探索用GPT大模型,能否解决对攻击的自动侦测、自动发现,或者建立知识库。企业网管在面临安全事件分析的时候,需要有一个强大的知识库做支撑。所以,ChatGPT也可以扮演正义助手的角色。

4、周鸿祎谈现代网络战:“看不见”攻击成为痛点 企业被攻击都不知道

《凰家会客厅》:除了技术攻关之外,您今年还针对“数字化发展”提出了建议。您指出“把城市数字安全服务中心建设作为扩内需、稳增长的重点内容”。结合今年2月中共中央、国务院印发的《数字中国建设整体布局规划》,您认为当前我国数字安全行业存在哪些亟待解决的问题?

周鸿祎:当前数字化不断发展,安全问题也日益突出。近年来360已帮助国家捕获了51个境外国家级黑客组织针对我国发动的数千次网络攻击。尤其是在“敌已在我”的现代网络战中,对手往往来无影去无踪,很多企业和单位被攻击了才知道,甚至被攻击了都不知道。“看不见”攻击已成为最大的痛点。

《凰家会客厅》:2022年,360在数字安全领域都做了哪些工作?今年及未来几年又有哪些规划和布局?

周鸿祎:2022年360主要聚焦“上山下海助小微”领域,助力政府、城市、企业的数字化转型。具体包括:

基于全网安全大数据进行综合分析研判,综合运用大数据、云计算、人工智能技术,构建以“看见”为核心的数字安全大脑,是一套行之有效的模式。对此,我国安全行业已经做出了全球领先的探索,引领了全球技术发展的方向,形成了一套数字安全的中国方案,打造中国方案的试验田。

360在城市数字安全大脑的基础上,探索建立了城市数字安全服务中心的新模式,在“四集中”的基础上提供集中化SaaS服务,实现了“数据情报云化、产品SaaS化、安全服务化、服务托管化、托管专业化”,相当于帮助每一个企事业单位和政府部门在城市云之上建立了各自的“安全运营中心”,由云上的专业安全服务团队提供持续的安全运营服务,探索创新了城市数字安全的新范式。目前,这一模式已落地重庆、天津、上海、北京、青岛、郑州和鹤壁等20多个城市,取得了良好的实践效果。

推出360企业安全云和SaaS商店,探索出一套为中小微企业提供低成本、低门槛、轻量化的SaaS服务模式,成功帮扶百万用户完成数字化转型。其中,企业安全云在不到一年的时间里就累计检出1800万企业终端木马病毒、3.1亿企业终端漏洞风险,拦截RDP与数据库攻击7000万次。SaaS商店形成了一个“三赢”的产业模式:帮政府提供了推进中小微企业数字化转型的抓手,帮助SaaS服务商解决了推广和发展问题,帮助中小微企业提供了全面的数字化服务。

接下来,360将持续聚焦数字安全,建立一套以“看见”为核心的数字安全能力体系和方法论,不断探索数字安全时代的中国方案,支撑国家破解“看不见”攻击的问题,为打造网络强国和数字经济、数字中国建设保驾护航。

《凰家会客厅》:为助力实现“扩内需、稳增长”目标,具体落到数字安全行业的发展上,您有哪些建议?

周鸿祎:党的二十大报告中强调,高质量发展是全面建设社会主义现代化国家的首要任务。这一重大判断,指明了新时代我国经济发展的基本特征,也为我国冲破全球经济迷雾指明了前进方向。

纵观全球,所有跻身发达国家的经济体,无一不是依靠工业化来实现现代化。因此,以制造业为代表的实体经济的高质量发展,对于实现中国式现代化,走向民族复兴具有重要意义。我认为,中国经济实现高质量发展的当务之急,一方面是要发展核心硬科技,另一方面要加速数实融合,推进产业数字化发展,利用数字化技术对实体经济各领域进行全方位、多角度、全链条改造,提升生产力。

当前,数字经济已成为中国经济逆势增长的新动能,通过数字化转型实现产业升级,成为实体产业高质量发展的必由之路。在这样的大背景下,我们数字安全行业要找准定位,践行“上山下海助小微”的新使命,坚持自主创新,把科技创新的“势能”转变为推进中国式现代化的“动能”,支撑国家实现“急难关卡”核心技术突破,成为国家战略科技力量。同时甘当“配角”,服务政府、城市和传统产业数字化转型,积极投身产业数字化蓝海,助力网络强国、数字中国建设。还要做到数字化一个都不能少,利用技术优势和生态优势助力中小微企业实现数字化的“共同富裕”。

《凰家会客厅》:对于此前备受争议的“过度收集信息”“大数据杀熟”等问题,您认为问题主要源自何处?究竟该如何区别“个人信息”和“个人隐私”?互联网产品在收集用户信息时,又该有哪些可为或不可为?二者之间清晰的界限在哪里?

周鸿祎:此前,互联网企业滥用用户数据信息的现象主要有两个原因:一是互联网公司缺乏自觉自律,二是当时我国个人信息保护法律制度尚未建立健全。但随着我国相继出台了包括《网络安全法》《民法典》《数据安全法》《个人信息保护法》,不断发展完善我国个人信息保护法律制度,初步形成了我国个人信息保护的治理体系,为数字时代的网络安全、数据安全、个人信息权益保护提供了基础制度保障,“过度收集信息”、“大数据杀熟”的乱象已经得到根本性扭转。

不是所有的个人信息都是个人隐私。有些软件在你不知情的情况下偷偷打开麦克风听你的谈话来追踪用户,借此进行广告推销,这是属于获取个人隐私。

保护用户隐私的责任应该由收集用户数据的公司承担,在如何教会人们保护隐私的问题上,不能指望把老百姓培养成安全专家,老百姓只需要享受数字化技术的便利,应该由收集用户数据的公司来承担信息与隐私保护的角色。

5、周鸿祎谏言网络安全:鼓励地方政府为中小微企业发放“数字化红包”

《凰家会客厅》:以您在网络安全领域的多年经验来看,您如何评价我国的网络安全现状?未来又有哪些地方值得完善?

周鸿祎:全球正在进入数字文明时代,数字化已经上升为国家战略。然而,数字化是把双刃剑,数字化水平越高,安全挑战就越大。一方面是数字化技术带来的更大的安全风险,另一方面是国家级网络攻击、专业网络犯罪愈演愈烈,带来更大的安全威胁。

由于攻击手法多样、隐蔽,“看不见”已经成为威胁国家网络安全、企业数字化转型的最大问题。能否“看见”风险和攻击是安全能力的“试金石”。看见是处置的前提,只有“看见”后才能在没有造成实质伤害前实现快速“处置”。

从攻防实战来看,国家级对手已经成为威胁国家安全的“心腹大患”:城市成为网络战的首选战场,也是维护国家数字安全的主阵地,而中小微企业因数字安全能力薄弱,极有可能成为国家数字安全屏障的缺口和短板。传统的安全做法已经无法应对新的挑战,要求我们必须从数字安全的全新视角建立保障数字经济健康发展的安全屏障。

一是建立国家级的攻击基因库和样本库,收集世界范围内最新、最全的安全样本,通过统一标准、接口,分析、提取关键特征和模型化,形成网络武器的基因库,建立境外APT组织的画像和攻防技战术知识库,才能最大限度“看见”和防范威胁,捍卫数字空间主权。

二是由政府统筹打造城市级数字安全服务中心,推动安全服务托管模式。由城市和网络安全龙头企业联合建立集约运营的城市安全服务中心,为政府部门和企事业单位提供SaaS化的安全托管服务,将安全能力送进千家万户,解决城市建设安全能力分散、各自为战的问题,打造城市数字安全新模式。

三是推广针对中小微企业的免费或低成本SaaS化安全服务,护航数字化转型,把数字化SaaS服务作为重点产业方向进行培育,在政府主导下更大范围的更广SaaS服务平台,同时对SaaS生态企业给予政策支持,鼓励地方政府为中小微企业发放“数字化红包”,降低中小微企业获取数字化服务的成本。

© 版权声明

相关文章