如何促进算法应用向上向善,青少年误入“算法陷阱”服务|相关|算法
人工智能产品不断涌现，很多教育服务类、游戏类、电商类公司植入了智能算法。“有些基于商业利益的智能算法正对青少年群体‘杀熟’，引诱其沉迷其中。”市人大代表张治说。日前，市经信委在对代表的答复中表示，本市将进一步加强人工智能算法研究，采取审查承诺等有针对性的安全保护措施。
“有的公司基于心理算法，推广游戏产品，导致青少年网游成瘾；有的公司涉嫌算法歧视，对特定群体构成不公平；有的公司针对学生的商业销售，只顾利益来推送，不考虑潜在危害；也有的公司通过数据挖掘，构建用户画像‘杀熟’，侵犯用户利益。这意味着公司提供的智能算法缺乏审查，亟待得到规范。”张治建议，加强面向中小学生的互联网公司审查监管，考虑到立法的滞后性，在没有完善的法规前，鼓励各公司内部成立相应的审查部门，开展审查承诺。同时，面向中小学生的教育智能产品或游戏要加入防沉迷算法的植入，对学生学习平台、游戏平台、搜索引擎或电商平台，要建议或强制植入保护眼睛、减少时长的推荐算法等。
“未成年人是易受人工智能算法影响的弱势群体，本市将进一步加强人工智能算法研究，围绕教育、医疗、公共安全等重点领域，开展相关理论研究。”市经信委表示，将会同市教委等有关部门，探索教育领域的人工智能示范应用清单，引导资源集聚，加快城市数字化转型。将鼓励相关企业与高等院校、基础教育机构，围绕智能教育伦理审核开展交流合作。
市网信办在答复中指出，为了解各企业算法应用及相关机制机理情况，2021年底，国家网信办同步开设互联网信息服务算法备案系统，相关算法推荐服务提供者通过该系统直接向国家网信办进行备案。截至今年1月，共有3批次102家企业的223个算法通过了备案。
2022年，国家网信办开展了“清朗·2022年算法综合治理”专项行动。其中，国家网信办检查组联合上海市网信办对上海属地近20家重点互联网企业开展了现场检查，未成年人权益保护相关情况是其中的一个重点检查项。检查组对算法安全主体责任建设、算法服务正能量传播和防范抵制违法不良信息的能力、适合未成年人使用的模式或者服务内容的建设、防网络沉迷等进行了深度检查。对发现的未提供相应模式或服务、存在不适宜内容、未有效设置防沉迷功能、扎推推荐泛娱乐化信息、持续推荐易沉迷信息等问题提出了整改要求。
市网信办表示，已督促相关企业就检查中发现的相关问题进行整改，并督导建立长效机制、持续强化算法综合治理、推动算法应用向上向善。下一步，相关部门将继续督促企业遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，持续按照相关法律法规要求，继续对企业在算法应用上开展监督检查，引导企业加强算法对未成年人的正面运用，积极传播正能量，促进算法应用向上向善，保护未成年人身心健康。
