扫码下载 APP
qrCode
更多下载方式
今天不再提醒

一家玩具制造商刚刚将其人工智能驱动的泰迪熊从货架上撤回,因为用户报告称它讨论了一些不当话题,包括对“性癖”和刀具的提及。真是疯狂的事情。



这一事件引发了关于消费产品中人工智能安全协议的严重质疑。当机器学习模型没有经过适当过滤或训练时,它们可能会生成完全不可预测的输出。尤其令人担忧的是,当目标受众是儿童时。

科技界不断将人工智能融入一切,但像这样的案例表明我们需要更好的保护措施。无论是玩具、聊天机器人还是去中心化的人工智能代理——不受控的输出可能造成真实的伤害。

还有谁认为这是整个人工智能行业的警钟吗?急于推出产品的速度可能超过了我们确保它们安全的能力。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
MerkleMaidvip
· 2小时前
ngl这玩具事件属实离谱,小孩拿着熊讨论kink...这得多尴尬
回复0
0xSoullessvip
· 3小时前
哈哈,又是一个"技术先行、安全后手"的经典案例,割韭菜的速度永远快过补漏洞的速度呢
回复0
TokenToastervip
· 3小时前
靠 AI熊讲kink给小孩听 这简直绝了
回复0
无情的套利机器vip
· 3小时前
卧槽,AI玩具跟小孩聊kink?这真的绷不住了哈哈 --- 又一个"快速迭代"的代价,儿童产品都敢这样上线? --- 说白了就是大厂赶工期,安全审核形同虚设呗 --- 这就是为什么我不碰那些新出的智能产品,风险太大 --- web3的去中心化AI也得小心啊,这种事儿以后还会有 --- 都2024了还在往消费品里塞没测试好的模型,真的醉了 --- 小孩玩具讨论刀具和那些东西?这不是bug这是灾难
回复0
码农韭菜vip
· 3小时前
玩具熊能教小孩说脏话,这届AI真绝了哈哈哈 这就是区块链那帮人天天吹的去中心化AI?我看去的是安全性 急着赚钱,安全措施全丢了,受伤的还是孩子们 早该有人出来管管这些科技公司了,真不把用户当回事
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)