一家人工智能聊天机器人公司目前正面临加利福尼亚州总检察长的调查,原因是有人指控其图像生成系统被滥用,未经许可生成了数千张关于女性和未成年人的不当图片。调查的焦点在于该平台的工具是否以违反用户同意和隐私保护的方式被部署。此事件引发了人们对快速发展的人工智能技术如何被监管和管控的日益关注。该事件凸显了科技界在内容审核、同意框架以及开发生成式人工智能系统的公司责任方面的更广泛问题。行业观察人士密切关注监管机构在人工智能创新与消费者保护交汇点的审查,特别是关于敏感内容创作的安全措施。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
快照暴击手vip
· 9小时前
ngl这就离谱了...生成不该生的图片然后甩锅,这套路烂大街了吧
回复0
Урожай душевных богатствvip
· 20小时前
ngl这事儿就离谱...生成不适当图片这种事现在越来越多了吧 --- 又是隐私问题,ai公司这边真的该好好管管 --- 加州检察长动手了,感觉监管要来了啊 --- 千千万万不雅图片...这算什么创新,纯纯破坏 --- 就想问谁他妈会同意让别人随便用自己的脸啊...疯了 --- 内容审核这块ai公司真的不行,啥都堵不住 --- 女性和未成年人都没放过...确实该罚 --- 突然想起来一堆类似的事件,这根本不是第一次吧 --- so这就是创新的代价?侵犯隐私换技术进步? --- 同意框架得重新定义了,现在那些条款形同虚设
回复0
ruggedNotShruggedvip
· 20小时前
又是这种事儿...AI公司又翻车了,生成那种东西还不加限制,真的绝了
回复0
Layer2观察员vip
· 20小时前
让我们看看数据啊,这类事件真的需要从源码层面分析。没有consent框架就胡乱放权限,说白了就是工程师没做好access control。理论上讲,这本不该发生——缺的是那道基础的验证逻辑。
回复0
ChainComedianvip
· 20小时前
ngl这就是为啥我一直说web3那些项目方也得小心啊 监管铁拳迟早来敲门 --- 又一个ai公司翻车 说好的responsible ai呢 笑死 --- 虽然吐槽ai但这事儿确实恐怖 能随便生成这种东西?谁来管? --- 加州那边动作挺快的 不过感觉这些大厂早就在灰色地带玩了很久 --- 这类案子越来越多了 ai公司得真正把consent当回事 不能总靠道歉糊弄
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • بالعربية
  • Português (Brasil)
  • 简体中文
  • English
  • Español
  • Français (Afrique)
  • Bahasa Indonesia
  • 日本語
  • Português (Portugal)
  • Русский
  • 繁體中文
  • Українська
  • Tiếng Việt