对人工智能技术的讨论并非新话题，随着当前生成式人工智能技术的不断发展，我们需要重新思考人类社会需要什么样的人工智能、应以何种尺度审视人工智能、如何处理人与机器的关系等社会伦理问题。

　　人工智能积极效应不断显现

　　作为“智力产出”活动，生成式人工智能一经出现，就引起了教育界的关注。2月16日，在由365国际速发平台、厦门大学公共事务学院、《广西师范大学学报》编辑部主办的“新一代人工智能技术(ChatGPT)与公共管理教育与实践专题研讨会”上，365国际速发平台教授吴晓林表示，生成式人工智能固然因其特点在某种程度上会部分替代教师或考评的作用，但也为教育的智慧化与创新变革带来机会。一方面，这将进一步推动教育手段和教育方式的改变，逐步实现“虚实结合”。课堂模式在突破过去受时空限制、方式限制的短板后，知识学习与教育不再是标准化课堂情景下的专属物，学生能够以更加灵活的方式获取更加前沿的知识。另一方面，由于知识的“可获得性”不断提高，也促使教育者对教育目的产生再思考，使其更关注创造性思维的培育与转化，有助于拓展学生的深度学习空间。

　　生成式人工智能不仅可以在智慧教育中得到应用，与人们生活息息相关的数字政府、智慧政府也可以借助这一手段实现突破式发展。在中国人民大学公共管理学院教授马亮看来，以ChatGPT为代表的人工智能技术，有望成为未来数字政府的操作系统和终端入口，成为基础设施的一部分。武汉大学政治与公共管理学院教授容志表示，现代化社会治理中不可缺少的应急管理离不开“速度”二字，以大数据、机器学习为主体的人工智能凭借强大的信息处理能力，将为这种“速度”提供有效支撑。在应急预防阶段可以有效整合各类信息，实现风险预测、提前预警；在应急处置阶段，利用智能机器人可以勘查现场乃至规划救援；在善后恢复阶段，可利用其建模功能开展建筑物的修整重建，促进灾后经济社会的恢复与运转。

　　正视人工智能的双刃效应

　　然而，我们也应注意人工智能发展带来的潜在风险与挑战。从根本上说，生成式人工智能带来的是“人—机”关系的进一步变化。许多学者从专业视角出发，认为技术一旦有了某种“自主性”，人的自主性和尊严将最先受到冲击。在暨南大学公共管理学院教授颜昌武看来，科技的发展固然是社会进步的象征，但这种发展也带来了技术理性至上的迷思。许多人甚至认为，只要拥有了现代科学和技术，人类将无往而不胜。厦门大学公共事务学院教授于文轩进一步表示，每个人都是现代性的产物，每个人也都在被技术主导下的社会现实所影响。

　　从社会层面讲，这种影响将更为广泛和深远，技术在带来创新型变革的同时，也在对原有的社会秩序、伦理道德造成冲击。在某种意义上，这更像是一种“破坏式创新”。华中师范大学政治与国际关系学院教授袁方成认为，技术通过引导控制人们的行为习惯、思维方式，实现了对人类社会的某种规制。在这一过程中，对于那些没有或者难以融入所谓“智能化社会”的弱势群体而言，这将演变为一种事实上的边缘化和社会权利的排斥。

　　具体来看，学者们尤为关注主体责任缺失、产权界定模糊、虚假信息传播等问题。华南理工大学公共管理学院教授文宏表示，生成式人工智能需要进行大量无标准的文本收集，这一行为首先面临的就是知识产权的合规性界定。其次，生成式人工智能产出内容可以借助技术手段实现充分传播，但其内容传播和价值导向带来的风险责任方却更加模糊化，且其拥有超巨型的技术力效应，其价值判断一旦发生微小的错误，引发的蝴蝶效应将是巨大的，这必须引起人们的谨慎对待和思考。而这种种疑虑和探讨的背后，是当前的社会秩序和社会规则迟滞于技术的发展实践。

　　秉持人本主义

　　技术自由需要控制，也需要限度。人类应该把握主动权，正视这一问题。作为学者，更应展开前瞻性思考，努力推动建设与之相适应的社会规则，主动塑造一种对人类生存更为有利的“人—机”关系。山东大学政治学与公共管理学院教授王佃利表示，追求人工智能的价值规范，最重要的是秉持人本主义思想。袁方成也表示，人是万物的尺度，只有将彰显人的尊严和地位这一原则摆在首位，人类才能在推动技术向前发展的同时推动社会向善发展。

　　从学者视角出发，伦理关切更多体现在人工智能对人的尊严和自主性可能产生的影响上。相较之下，社会大众又是如何理解AI伦理的呢？清华大学社会科学学院教授孟天广表示，自2021年以来，他和他的团队通过网络问卷调查等方式展开调研，发现中国民众最为关注的是安全问题，具体而言即数据隐私和信息安全能否得到有效保护的问题。在他看来，只有着眼于信息安全，从法制、监管和伦理三个视角出发进行制度设计，构建起多主体协同的包含法律约束、行业监管、社会监督、行业自律、职业伦理约束在内的人工智能治理框架，才能兼顾多群体利益，形成更为切实有效的人工智能治理体系。

面对未来的不确定性，以新的治理体系和治理工具防范可能出现的风险不失为一种可行举措。文宏表示，每个时代都有人类与技术如何共存的课题，这实际上是人类对自我发展、对技术发展的一种正常反应。人工智能与人类并非取代或被取代的关系，而是工具与利用的关系。要想建成“人—机”共处的新型社会，应以制度重构为抓手，拓宽管理边界，不断更新技术的社会价值。政府部门要对人工智能技术制定相应的管理措施，进一步明确其权力与责任，尤其是在涉及公众信任等问题时，应谨慎对待。同时，这也为产权制度的更新提供了契机，针对生成式人工智能，应聚焦产权治理，构建产权新生态。最重要的是，要建立起全方位、多层次、宽领域的风险防范系统，全面整合风险管理体制机制，汇集人类的智慧和力量，应对这些风险与挑战。

（原载：中国社会科学报 2023-02-22 作者：刘越）