英国首相基尔·斯塔默在新的儿童安全措施中瞄准AI聊天机器人

英国首相基尔·斯塔默（Keir Starmer）已提出将人工智能聊天机器人纳入更严格的网络安全规则的计划，警告新兴技术正在以政策制定者无法忽视的方式重塑儿童成长环境。

摘要

• 英国首相基尔·斯塔默表示计划扩大网络安全法律范围，涵盖儿童使用的人工智能聊天机器人。
• 政府担心的风险包括不当内容、情感依赖和未经监管的AI生成建议。
• 公共咨询将审查新的监管权限，以确保在英国运行的AI工具对未成年人安全。

人工智能聊天机器人可能很快受到英国更严格的保护未成年人的规则限制

在最近的Substack更新中，斯塔默表示，保护青少年的措施必须随着快速发展的人工智能工具而不断演变。虽然关于网络危害的讨论大多集中在社交媒体上，但他认为，基于AI的聊天机器人现在带来了新的复杂风险，尤其对儿童和青少年来说。

斯塔默指出，英国政府正在考虑将现有的网络安全法律扩展到明确涵盖AI系统。聊天机器人越来越多地嵌入应用程序、搜索引擎和独立平台，常常以高度个性化、类人对话的方式与用户互动。

他警告，对于年轻用户来说，这可能模糊信息、影响和操控之间的界限。

首相提出了从接触不当内容到情感依赖和未经监管建议的担忧。与传统平台不同，AI系统可以实时生成响应，使得监管和审查变得更加困难。

他建议，随着技术的发展，议会可能需要新的监管权限以快速应对。

斯塔默将此问题置于“让儿童有空间成长”的更广泛努力之中，强调不能让不透明的算法或未受监管的数字系统塑造青少年的成长。他强调，创新不应以牺牲安全为代价，科技公司必须对其工具的设计和部署承担更大责任。

预计公共咨询将审查如何最好地监管由未成年人使用的AI驱动服务。斯塔默表示，一旦收集到证据，政府将迅速采取行动，表明AI聊天机器人可能成为英国下一阶段网络安全改革的核心焦点。