2024-08-29 星期四
儿童智能产品开发必须严守底线
  石向阳 绘

  近日,某品牌儿童手表搜索功能出现“不良答案”的消息登上热搜。相关答案毁三观的程度令人惊诧。事后,企业表示将整改并接受社会监督。

  为什么会出现这些毁三观的答案?从技术的手段上分析,当然可以得出各种结论。但技术背后的原因更值得深思,那就是一些企业缺乏社会责任感,在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品。所以,才会出现各种漏洞。试想,如果没有家长及时发现内容并推动企业整改,还会有多少毁三观的内容持续污染青少年的认知?

  更需要指出的是,不仅是某一款儿童产品存在类似问题。近年来,随着人工智能技术、大数据等科技发展,帮助儿童生活、学习的电子产品、App软件更加丰富。相伴而来的是,相关产品和软件在内容输出方面问题频出,引发社会的广泛关注和讨论。这背后反映的是一些企业不断追求应用最新的技术,却忽略了技术应用可能带来的风险。人工智能确实强大,其内容生成能力远超过人类,但人工智能在价值判断上存在紊乱的情况,它可能给人提供错误的信息,误导、欺骗人类。这就需要人类把握好价值判断的尺度。对于企业来说,在开发儿童产品时,认识到人工智能的局限性,牢记自身的责任,是必须守住的最基本的底线。

分享按钮
中国教育报
中国教育报评论·时评 02儿童智能产品开发必须严守底线 小野 石向阳 绘2024-08-29 2 2024年08月29日 星期四