【解码ChatGPT】成素梅:ChatGPT引发人机关系新思考

ChatGPT办公1年前 (2023)发布 一起用AI
411 0 0

编者按

2022年11月以来,美国人工智能研究公司OpenAI开发的聊天机器人ChatGPT,迅速成为史上增长最快的消费级应用程序,引发广泛关注。ChatGPT的出现成为人工智能发展的引爆点,推动各国科技创新竞争进入新赛道。技术的跨越必然带来应用场景中的深入观察,无论人工智能服务变得多聪明,适应与满足人类发展需要始终是根本指向。面向未来,多维度多视域探讨ChatGPT对人的生产方式、生活方式、思维方式、行为模式、价值观念以及对产业革命和学术研究等的重要影响,有助于我们正确使用和管理这种技术,进而思考人工智能的发展前景。

【解码ChatGPT】成素梅:ChatGPT引发人机关系新思考

ChatGPT是人工智能与自然语言处理技术发展的新进展。然而,就像人类社会由于语言的诞生而得到迅速发展一样,机器的语言感知力和认知力的突破性提高和内容生成成本的大幅度降低,也将带来社会的巨大变革和颠覆性发展,使我们从信息过剩和信息爆炸社会发展到知识过剩和知识爆炸社会,并反过来倒逼我们再次质问,“什么是人”“人成之为人的固有本质是什么”“什么是人的幸福”等一系列涉及人性的根本问题,迫使我们不得不重新审视自我、他者、社会乃至人类的原则性问题。对这些问题的全面反思,将会把我们赖以生存的社会环境从埃吕尔(Jacques Ellul)所说的技术环境转向更加自觉的人文环境。

双重自动化及其挑战

01

从当前流行的观点来看,在有关ChatGPT的各种论述和评论中,最明显的两极对立的看法是,要么把ChatGPT看成是传统工具,忽视其功能的类人性,持有盲目乐观或技术中心论的态度;要么像许多科幻电影所描绘的那样,把ChatGPT设想成具有超人的本领,忽略其原本的工具性,抱有过于悲观或恐惧的态度。这两种极端的看法实际上沿袭了人类长期以来形成的人与工具二分或人机对立的思维方式。然而,这种二分思维忽视了人与人工智能之间存在的优势互补乃至合作共生的伙伴关系,反而在人工智能迅猛发展的智能时代变成了一种缺乏远见卓识的有害思维。

以ChatGPT为代表的人工智能,其有用性与功能性体现出工具性,而其日益强大的自主学习能力和自动决策能力则体现出类人性。人工智能具有的这种二重性,不仅打破了人机对立的传统观念,成为介于人与工具之间的一类新兴事物,而且对建立在人机二分基础之上的伦理规范和法律法规带来了严峻挑战,把技术革命的作用从过去只是改变人类的物质生产形态,拓展到有能力改变人类的思想生产形态,标志着从物质到思想、从双手到大脑、从身体到心灵、从体力到精神、从有形到无形的深化与拓展,从而更加全方位地推动了人类的物质生产自动化和思想生产自动化进程。

但问题在于,这种双重自动化的过程,会带来许多前所未有的挑战。智能机器替代人类劳动,将会从体力劳动扩展到更大范围。可是,我们是在还没有达到停止为生存而斗争和全面消除各种异己力量、依然以劳动教育为主和凭借劳动时间的付出来获得生活保障的前提下,即在现有教育理念和制度安排等各个方面还没有从传统的劳动形态中解放出来、做好各方面准备的前提下,在我们没有具备以共同的社会财富为基础的自由个性和社会尚未达到超越依赖于物的形态的前提下,被迫过早地进入有闲社会。此外,思想生产自动化还会对传统的知识产权、教育理论、科学研究等各个方面带来巨大挑战。

强化人机双向赋智优势

02

摆脱双重自动化挑战的有效方式之一,是通过深化人机合作关系,创造出更多具有趣味性、多元性、创造性等人性元素的新型工作岗位。与过去所不同的是,双重自动化所带来的传统工作形态的消失,既不意味着像传统的流水线作业那样,人成为机器的附属零件;也不意味着像自动化生产线那样,人成为机器的看管者或守护者;更不意味着像科幻作品中所想象的那样,智能机器反客为主变成统治人和压迫人的新物种;而是意味着我们需要深化人机合作关系,构建善于利用人机合作优势共同完成各类任务的新发展格局,使人在与人工智能的合作进程中提升创造力与想象力,获得从前无法得到的超强能力,同时使人工智能在与人互动的过程中变得更加“智能”或“聪明”,绘制人机不断双向赋智的发展新图景。

当人机双向赋智的各类活动成为推动各行各业发展的主力军乃至社会发展的新模式时,人的劳动力成本就会沉淀到智能产品当中。这样,智能产品会变成人机共同认知与集体智慧的承载者,并重新把人的主导作用贯穿于智能产品的功能设计、任务训练及实时互动学习等各个环节,产生更多人机各司其职并且优势互补的工作岗位。在这些岗位中,人的主体性地位会越发突出,人的创造性和人力资本不断得到解放,从而在更高层次上挖掘人工智能赋智于人的巨大优势。

事实上,人机合作关系已在医疗卫生(特别是外科手术)、社会治理、城市规划、导航系统等领域很好地体现出来,塑造着全新的医疗模式、治理模式、城市发展模式、智能生活模式等。人机合作的社会发展模式,并非意味着工厂或企业不再需要员工,让人完全失去工作,更不是让机器接管人类世界;而是意味着重新拓展人的技能范围,使智能机器成为人的得力助手,为人获得超强能力或获得从前不可能获得的生产力提供新的契机,为人类消除传统的劳动分工创造更加灵活的工作机会打开新的可能,为重新反思我们的教育理念与成就人、培养人的教育目标营造新的氛围,为我们每个人彰显自我价值和提升精神境界开辟新的通道。

探索人机合作的社会发展模式

03

挖掘人机合作优势,一是要积极探索符合智能化发展的社会模式。在这种模式中,我们不再忙于追赶与学习行业领先者的先进经验,而是通过人机合作和提高智能化程度来探索个性化的发展空间,使人成为智能产品的主导者。二是要自觉守护“人成之为人”的道德底线,把人工智能技术研发和应用关进伦理与人文关怀的笼子里,使人工智能技术向善发展并具有社会责任感成为开发者、制造者、使用者等各个环节行动者的自觉意识与文化向导。三是要树立投资于人的战略目标,因材施教,形成有利于人的全面发展的社会体制,强化人机合作优势,注重开发人机合作技能,创造出更加灵活多样的人机合作模式。

在这些模式中,物质生产和思想生产的目标性、计划性、科学性、创新性越来越强,社会服务的精细化、个性化、专业化程度越来越高,人们的工作将不再受特定时间与地域约束,减少了外在性、异己性和强迫感,越发具有灵活性、享乐性和成就感。与此同时,劳动概念不断从生产性与物质性拓展到创意性与精神性,劳动将不只是谋生的手段,而本身也越发成为马克思所说的“生活的第一需要”,成为人的自由特征的本质体现,成为富有意义的自我表达形式。

不过,我们必须警惕,自动化的知识与决策建立在海量数据的基础上,虽然从资源占有量来看可能比人类的决策更迅速、更可靠,而且能够提供超越人类想象力的决策建议;然而,这种认知忽视了人工智能系统本身特有的内在偏置和不确定性等技术缺陷可能产生的决策失误。因此,促进人机合作关系的发展模式,对人的判断力、鉴赏力和辨别力也提出了更高要求,需要相关行动者加强伦理意识,提高人文素养,统筹安全与发展的关系。伦理学家需要从建构追溯相关责任人的伦理框架拓展到建构涵盖智能化的物质系统在内的伦理框架,从强调被动负责任的技术伦理学转向有担当的积极伦理学;法学家需要系统探讨智能化的算法系统或智能机器是否具有法律主体资格等问题;监管部门需要探索全过程伦理审查机制,确保人机合作社会的健康运行。

作者系上海社会科学院哲学研究所研究员

来源:中国社会科学报

责任编辑:崔晋

新媒体编辑:张雨楠 翁腾月(实习)

© 版权声明

相关文章