掃描下載 Gate App
qrCode
更多下載方式
今天不再提醒

一家玩具制造商剛剛將其人工智能驅動的泰迪熊從貨架上撤回,因爲用戶報告稱它討論了一些不當話題,包括對“性癖”和刀具的提及。真是瘋狂的事情。



這一事件引發了關於消費產品中人工智能安全協議的嚴重質疑。當機器學習模型沒有經過適當過濾或訓練時,它們可能會生成完全不可預測的輸出。尤其令人擔憂的是,當目標受衆是兒童時。

科技界不斷將人工智能融入一切,但像這樣的案例表明我們需要更好的保護措施。無論是玩具、聊天機器人還是去中心化的人工智能代理——不受控的輸出可能造成真實的傷害。

還有誰認爲這是整個人工智能行業的警鍾嗎?急於推出產品的速度可能超過了我們確保它們安全的能力。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 轉發
  • 分享
留言
0/400
MerkleMaidvip
· 2小時前
ngl這玩具事件屬實離譜,小孩拿著熊討論kink...這得多尷尬
查看原文回復0
0xSoullessvip
· 2小時前
哈哈,又是一個"技術先行、安全後手"的經典案例,割韭菜的速度永遠快過補漏洞的速度呢
查看原文回復0
TokenToastervip
· 2小時前
靠 AI 熊講 kink 給小孩聽 這簡直絕了
查看原文回復0
无情的套利机器vip
· 2小時前
卧槽,AI玩具跟小孩聊kink?这真的绷不住了哈哈 --- 又一个"快速迭代"的代价,儿童产品都敢这样上线? --- 说白了就是大厂赶工期,安全审核形同虚设呗 --- 这就是为什么我不碰那些新出的智能产品,风险太大 --- web3的去中心化AI也得小心啊,这种事儿以后还会有 --- 都2024了还在往消费品里塞没测试好的模型,真的醉了 --- 小孩玩具讨论刀具和那些东西?这不是bug这是灾难
回復0
码农韭菜vip
· 2小時前
玩具熊能教小孩说脏话,这届AI真绝了哈哈哈 这就是区块链那帮人天天吹的去中心化AI?我看去的是安全性 急着赚钱,安全措施全丢了,受伤的还是孩子们 早该有人出来管管这些科技公司了,真不把用户当回事
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)