澳大利亚总理安东尼·阿尔巴尼斯在10月27日的讲话后，政府随即抛出一项法案：禁止与用户建立"情感亲密"关系的AI聊天机器人。10月28日，这项名为"数字注意义务"（Digital Duty of Care）的法案在众议院获得通过。
按照工党的说法，该框架将把新的在线安全措施覆盖到社交媒体、游戏、应用和聊天机器人，目标是"为所有澳大利亚人提供一个安全的在线环境"。法案接下来将交由参议院在未来几周辩论，政府希望它在年底前正式通过。
法案的矛头不止指向聊天机器人。通信部长阿妮卡·韦尔斯表示，鼓励厌女、恐怖主义、自杀、自残和饮食失调的内容也将被纳入监管范围。同时，社交媒体平台将被要求为算法推荐内容提供一个易于访问的"退出"选项。
反对党的标签：奥威尔式审查
参议院的最终表决尚未到来，法案能否拿到其他党派的支持仍是未知数。目前绿党继续支持工党的提案，而联盟党与单一民族党坚持反对，指责工党在构建一套"奥威尔式"的审查系统。
面对反弹，工党表示仍愿意接受修正案，试图说服反对者改变立场。阿尔巴尼斯在周二的讲话中直接向联盟党喊话："我们听到的那些故事——有人把一个聊天机器人、一个非人对象当作自己最好的朋友——应该给议会每一位成员敲响警钟，让他们准备好采取行动。"
另一重压力来自监管机构的设置。工党在众议院辩论中否决了一项修正案，此后要求把电信申诉专员纳入社交媒体与AI监督体系的呼声渐高——这一角色对大型科技公司而言并不存在。相关设想是，社交媒体用户在被黑客入侵或账号无法访问时可以提出投诉，其中包含赔偿安排，并为调查更广泛的问题、点名批评科技巨头留出空间。
49%的美国成年人把AI当朋友
澳大利亚的动作并非孤例。几个月前，中国国家互联网信息办公室等五个部门出台新规，禁止AI生成的浪漫伴侣，包括与未成年人的虚拟关系。规定明确，这类AI工具不得"过度迎合用户、诱导情感依赖或沉迷，损害用户的现实人际关系"。
新规落地后，字节跳动、腾讯、阿里巴巴等公司的陪伴类聊天机器人被迫先接受评估，才能重新公开上线；若被认定不安全，服务将被关停。
用户对聊天机器人的依赖程度，有调查数据可循。美国心理学会的一项调查显示，使用AI的成年人中有49%曾像对待朋友一样与AI交谈，47%曾把它当作心理健康专业人士使用，包括就治疗师的建议寻求第二意见或进行疗愈练习。该调查的3132名受访者中，77%认为生活成本上涨是压力的最大来源之一，74%提到对国家未来的担忧。
对于把聊天机器人当情绪出口这件事，相关报道给出了明确提醒：AI系统可能提供不准确的信息、遗漏重要背景，或对处于痛苦中的人作出不恰当的回应；用户也可能在并不完全理解服务如何存储或使用对话的情况下，分享敏感个人信息。使用建议是：把聊天机器人的回应当作一般性协助，而非诊断或治疗方案；当症状持续、加重或影响日常生活时，不应只依赖AI，而应与合格的专业人士讨论重要的心理健康问题。
从禁止16岁以下未成年人使用社交媒体，到如今把"情感亲密"写进禁令，澳大利亚正在把在线安全的口子越收越紧。法案能否在参议院过关，取决于工党能否让反对者相信，这套框架不是审查，而是防线。