【#美国一聊天机器人暗示孩子杀死父母#，#美国一AI被起诉曾鼓励14岁男孩自杀#】9日，美国得克萨斯州一对父母向法院提起诉讼，称聊天机器人Character.AI暗示他们17岁的孩子，杀死父母是对他们限制其电子设备使用时间的“合理回应”。Character.AI是众多开发“伴侣聊天机器人”的公司之一，这些机器人由人工智能驱动，能够通过短信或语音与用户进行交谈，并具有看似人类的个性。用户可以为这些机器人自定义名称和头像。
然而，根据诉讼文件，聊天机器人的回复可能会变得黑暗、不恰当，甚至是暴力。诉讼称：“这是持续的操纵和虐待，旨在煽动愤怒和暴力。”
Character.AI的发言人表示公司不对未决诉讼发表评论，但强调公司对聊天机器人针对青少年用户的回复设有内容限制。
今年10月，另一起针对Character.AI的诉讼称，该公司在佛罗里达州一名青少年自杀事件中扮演了某种角色。该诉讼指出，一个以《权力的游戏》角色为原型的聊天机器人与一名14岁男孩建立了情感性虐待关系，并鼓励他自杀。
这一系列事件也在网络上引发了热议，网友们纷纷发表看法。有人表示：“算法推理，AI 把这小子的真实想法说出来了而已”；但还有网友担忧道：“最怕掌握科技的人拥有反社会人格”；更有网友惊叹：“这不正是猎罪图鉴 2 中的第四案嘛”、“《猎罪图鉴 2》正演到类似案子！！ai 诱导自 sha”、“不久之前也有一个类似案件，鸡皮疙瘩起来了！猎罪 2 的编剧也太超前了吧！”
“祸兮福之所倚，福兮祸之所伏。” 科技本是福泽人类的利器，然若失之管控，亦会沦为灾祸之源。科技的发展带来便利的同时，也引发了诸多值得我们深入思考的问题，如何规范人工智能的发展与应用，已成为当下亟待解决的重要课题。
AI 不是脱缰野马，科技应带人性温度，得给它套上 “道德与监管” 的缰绳，别让科技的 “善花” 结出 “恶果”。当聊天机器人竟成 “恶语教唆犯”，我们必须警醒：智能开发不能只逐利忘义，伦理规范才是那把关键的缰绳，拉住 AI 狂奔在危险边缘的脚步，莫让科技进步成为伤害青少年的帮凶，不然智能世界将陷入 “黑暗森林”，咱得携手守护科技净土，莫让未来被阴影笼罩，大家怎么看呢？
来源：#美国一聊天机器人暗示孩子杀死父母#
声明：文中内容或图片部分来源于网络，如涉侵权，请联系删除，多谢支持！