学进去

阅读下面的文字，完成各题。

材料一：

以ChatGPT为代表的生成式人工智能是机器智能与人类智能全新的交互组合方式，从知识生产方式的范式转换来看，如果说大数据分析带来的是新分析的话，那么ChatGPT所开启的大模型加人类反馈的自动化知识生成方式则是面向智能化未来的新综合。对这一新综合的拥抱，将迫使我们面对一系列全新的伦理挑战。除了当下热议的违背学习和研究诚信、侵犯知识产权等问题外，尤其值得关注的是以下两个具有开放性的社会伦理挑战。

一是将自动生成的知识视为“神谕”的知识权威幻觉。拥抱知识生成自动化将面对的悖论是，生成式人工智能系统固然能够带来知识生成效率的提升，但它并非知识大全和知识的领会者。从海量训练数据中拼凑出答案的语言形式生成系统，其自身并不真正理解输入输出数据的意义，但人们往往会产生一种将其视为自动化的知识生产者的幻觉而容易忽视。虽然它们能够产生连贯的文本，但其意义和连贯性是在人类与机器的互动中形成的，它们并没有试图表达什么。如果认识不到这种幻觉，就容易引发将生成式人工智能视为知识权威和道德权威的风险。鉴于ChatGPT并不真正理解其所生成的知识内容以及对是非善恶的判断，而且有时会产生荒谬的错误或随意堆砌和编造内容，在缺乏批判性思考的情况下，将ChatGPT视为教育、医疗、心理、精神方面的解惑者或指导者，难免放大由知识生成错误和不准确造成的危害。

二是由盲目的智能化和自动化导致的图灵陷阱。如果不能认识到生成式人工智能建立在人机交互的智能生态系统乃至遍布地球的智能科技社会系统之上，就看不到知识生成自动化的基础和前提是对人类智能的提取，其运作过程既是对知识和智能的重新定义，也是对地球生态环境、人类社会和个人的重构。如果缺乏对这一过程的反思，就可能陷入各种图灵陷阱：在教育和研究中无条件采用自动化生成知识，在工作中无限度地用自动化取代人类智能，过度的自动化知识生成还会使地球生态环境不堪重负……之所以会出现图灵陷阱，是因为智能和自动化系统没有做到以人为本，在人工智能的部署中往往会迫使人被动地适应智能化和自动化，智能系统的运作预设不是使机器人性化，而是让人越来越机器化，使人的自主性在不经意间被自动剥夺。

为克服人工智能的知识权威幻觉，超越图灵陷阱，从观念上讲，必须直面的问题是：人类在知识和智能上能否保有主创者和主导者的地位？人的主体性能否经受住来自人工智能的挑战？如果未来没有出现人工智能超越人类智能的奇点的话，我们似乎可以坚持：一方面，人应成为最终的知识权威；另一方面，人工智能应更多作为人的智能助手，而不是一味用智能化和自动化取代人的工作和替代人的技能。

（摘编自段伟文《积极应对ChatGPT的伦理挑战》）

材料二：

所谓伦理治理，强调的是“伦理先行”，即将伦理原则和规范特别是科技伦理规范作为约束科技活动的手段和政策工具，要求科技活动的基本导向符合我们的基本价值观，以人民为中心，以造福人类为目的。

然而新兴科技的一个重要的特点是它的两面性：为善的技术也可能为恶。这与菜刀的两面性还不是一回事。菜刀可以切菜也可以杀人，但是具体用菜刀来干什么，取决于使用者。但新兴科技的两面性，其含义要更丰富：它可以指在我们为善的时候，却发现后果同时也有恶的成分；也可以指当下看是善的，但长远来看是恶的；还可以指用在此地是善的，但是如果扩大了范围就是恶的。因此，需要我们区别对待，审时度势。玛丽·道格拉斯从文化人类学的角度出发，将风险定义为一个群体对危险的认知，其作用在于辨别群体所处环境的危险性，属于社会结构本身具有的功能，“每一种社会生活形态都有自身特有的风险列表”。尼克拉斯·卢曼则认为风险与决策相关，选择什么、怎么选择需要进行伦理的考量和辩护。

伦理学的本义就在于当两种以上道德价值发生冲突时，在选择和坚持什么是合乎伦理的问题上，进行道德追问和辩护。伦理与法律相比是一种弱制度。所谓弱制度，在于它既具有规范性要求，同时又不是一成不变的。作为科技活动的规范导向的科技伦理，更需要考虑其适用的前提条件。在这方面，比起法律治理，伦理治理具有独特的优势：它没有法律的强制性，而更加注重文化上的可接受性。因而具有动态的、开放的特征。诚然，对于那些确定的、绝不能跨越的底线，比如说违背人性的技术，需要通过立法来进行限制。而一旦立法、依法治理，那就不叫伦理治理，而是法治。由于科技发展的日新月异，许多新兴的科技本身具有不确定性，人类对它的认识也处于一个发展过程之中，其伦理边界也处于动态的变化之中。有些技术现在看来是有风险的，但是随着科技本身的发展，和人们对它的认知的深入，公众对它的接受态度也会随之改变。一般来说，风险的可接受性与该风险相关的收益大致成正比，当风险因自愿活动而出现时，风险的可接受性会得到改善。如果贸然划下红线，对正在探索和发展中的科技说不，那也有可能使得人类与具有潜在社会价值的创新失之交臂。因此，在科技进入“无人区”的探索中，我们一方面需要“实线”“底线”；另一方面，还需要“虚线”和“缓冲带”，边走边改，动态修正。

（摘编自王国豫《科技伦理治理的三重境界》）