北师大发布首个生成式人工智能

未成年人保护和发展指标体系

  北京考试报讯（记者邱乾谋）  “大模型应用中未成年人保护和发展评估——以ChatGPT、文心一言等生成式人工智能为例”跨学科研讨会日前举行，北京师范大学新闻传播学院党委书记、未成年人网络素养研究中心主任方增泉发布全国首个生成式人工智能未成年人保护和发展评估指标体系——CI-STEP指标评价模型。

     该指标体系根据皮亚杰儿童智力发展阶段性理论、科尔伯格道德发展阶段论等理论，结合联合国儿基会、联合国教科文组织和我国相关政策依据，研发构建了CI-STEP指标评价模型。该模型具体包括综合管理、信息提示、科学普及和宣传教育、技术保护、应急投诉和举报机制、隐私和个人信息保护制度6个维度。

     方增泉认为，生成式人工智能未成年人保护和发展在未来需要落实技术标准、重点关注风险、明确评估义务。在技术向善理念的指导下，技术发展应当坚持最有利于未成年人的原则，提出兼顾未成年人网络安全和数字发展、注重AI技术应用符合科技伦理、鼓励互联网企业积极参与行业共治的总体原则。在“儿童为中心”“保护儿童权利”“承担责任”和“多方治理”理念的指导下，呼吁社会各界高度重视人工智能对未成年人的影响，人工智能的发展应保护和促进未成年人的权益，避免剥夺和损害未成年的权利，助力实现未成年人健康成长。

    新闻传播学院院长张洪忠指出，通过跨学科研讨，深刻讨论了未成年教育领域大语言模型应用存在的问题和可能产生的影响，指出大模型应用对未成年人保护和发展仍需经过不断的深入研究，ChatGPT等生成式人工智能未来的发展状况仍需不断地进行评估和反思以实现对未成年人的全面保护和赋能发展。