欢迎光临温州生活网!
今天是 2024年12月23日 星期一
快科技12月22日消息,今日,360集团创始人、董事长周鸿祎发布视频分享了一个极端案例,AI竟然怂恿一个美国少年杀死自己的爹妈,这种骇人听闻的事真发生了。
周鸿祎称,美国有个孩子向AI聊天机器人抱怨父母不让自己玩手机,AI竟然鼓励他杀死自己的父母,这是一个真事。
目前,孩子的家长已经起诉了聊天机器人所属的character.ai这个平台和相关的谷歌公司(character.ai已经被谷歌收购)。
周鸿祎认为,大模型安全是个全世界人类面临的共同威胁,这个问题如果不能解决,大模型的诞生就像打开了潘罗拉盒子,你不知道是福还是祸。
“我觉得人工智能安全问题,是不亚于核武器的最大的一种安全挑战。我们又组建了一个复仇者联盟,来对付人类历史上最大的威胁。”
这个联盟是干嘛的?是为了团结一致,加强协作,共同研究如何防范和解决大模型安全的风险,给大家一个安全可靠的大模型使用环境。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:朝晖
AI周鸿祎人工智能聊天机器人 新浪科技公众号“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
相关新闻上一篇 极氪001累计交付超25万台:刷新中国纯电车型最快纪录
下一篇 没有了