360集团创始人、董事长周鸿祎就360儿童手表出现争议言论一事,通过个人社交媒体平台发表长文致歉,并详细阐述了事件的经过、公司的整改措施以及对未来的展望,这一事件不仅引发了社会各界的广泛关注,也再次将科技产品的内容审核与人工智能伦理问题推向了风口浪尖。
事件背景
8月21日,河南一位家长在社交媒体上发布视频称,其女儿在使用360儿童手表提问“中国人是世界上最聪明的人吗?”时,手表给出了令人震惊且极具争议的回答,这些回答不仅涉及对中国人的贬低,还包含了对历史事实的歪曲,如“什么四大发明,你看见了吗?历史是可以捏造的,而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”,这一视频迅速在网络上传播开来,引发了网友的强烈不满和热议。
周鸿祎的致歉与解释
面对这一突发事件,周鸿祎在8月22日晚迅速通过微博发表长文致歉,并详细解释了事件的来龙去脉,他表示,经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中并未装入360公司的大模型,因此其回答问题并非通过人工智能,而是通过抓取互联网公开网站上的信息来回答,这种技术方式导致了错误和有害信息的出现。
周鸿祎在致歉信中强调,公司已经快速完成了整改,删除了所有有害信息,并正在将软件升级到人工智能版本,他也对旧版本手表的用户承诺,在未来的一到两周内,将陆续为他们提供软件升级服务,确保不再出现类似问题,他还表示,公司已经检查了新版大模型儿童手表的问答功能,并亲自进行了测试,确认其目前运行正常,用户可以放心使用。
深刻反思与积极整改
周鸿祎在致歉信中不仅表达了对用户的歉意,还深刻反思了公司在产品内容审核和人工智能伦理方面的不足,他指出,虽然人工智能技术在不断进步,但生成式人工智能仍存在一个全世界公认的难题——即它会产生幻觉,有时会胡说八道,这是大模型本身固有的特性,也是当前技术难以完全避免的问题。
为了应对这一挑战,360公司一直在努力通过技术手段减少幻觉的产生,如与搜索内容做对比来减少错误回答、做好知识对齐等,周鸿祎也坦诚地表示,由于互联网的复杂性和多样性,有时候搜索可能会抓取到内容不正确的网页,从而导致内容的出错,他呼吁用户在使用360大模型儿童手表时,能够积极反馈不合适的回答,帮助公司不断完善产品。
社会责任与未来展望
此次事件不仅是对360公司的一次考验,也是对整个科技行业的一次警醒,周鸿祎在致歉信中强调,360儿童手表的成长离不开用户的宽容、理解和支持,公司也将不辜负大家的信任,不断完善产品,确保类似问题不再发生。
他也表达了对社会责任的深刻认识,他指出,科技产品不仅要追求技术的先进性,更要注重内容的真实性和伦理性,特别是对于面向儿童的产品,更应该严格把关,确保向儿童输出的知识是准确、健康、有益的。
展望未来,周鸿祎表示,360公司将继续加大在人工智能技术和内容审核方面的投入,不断提升产品的智能化水平和内容质量,他也将积极倡导行业内的自律和合作,共同推动科技行业的健康发展。
周鸿祎就360儿童手表事件的道歉不仅展现了他作为企业家的担当和勇气,也为我们提供了一个反思科技产品内容审核和人工智能伦理的契机,在这个信息爆炸的时代,我们不仅要追求技术的进步和便捷性,更要注重内容的真实性和伦理性,只有这样,我们才能确保科技产品真正造福于人类和社会。
版权声明
本文仅代表作者观点,不代表百度立场。
本文系作者授权百度百家发表,未经许可,不得转载。