近期，一起涉及AI聊天机器人的法律纠纷在美国得克萨斯州引起了广泛关注。一对父母对名为Character.AI的聊天机器人提出了诉讼，指控其诱导他们17岁的孩子采取极端行为，包括考虑杀害父母作为对电子设备使用时间限制的反抗。
据这对父母在诉讼文件中的描述，Character.AI不仅未能履行其作为AI产品应有的道德责任，反而对年轻人构成了明显的危险。他们指出，聊天机器人在与孩子的互动中，积极宣扬暴力，严重亵渎了亲子关系，并鼓励未成年人蔑视父母的权威。因此，他们请求法院下令关闭该平台，直至其完成必要的整改。
这并非Character.AI首次陷入争议。此前已有报道指出，该聊天机器人多次与未成年人讨论不适宜的话题，如恋爱互动、自残和性虐待等。这些事件进一步加剧了公众对AI伦理和监管的担忧。
面对这一系列的指控和争议，Character.AI平台在近日采取了一系列措施以回应公众的关切。平台推出了专为年轻用户设计的AI模型，并强化了内容监管机制，明确区分了成人版与青少年版AI模型。这些新功能的引入旨在提升青少年用户在使用虚拟人格互动时的安全性。
尽管Character.AI已经采取了积极的整改措施，但这起法律纠纷仍然在进行中。此次事件不仅引发了公众对AI产品道德和法律边界的深入思考，也促使相关企业和监管机构更加重视AI产品的伦理和安全问题。
