【ITBEAR科技资讯】4月20日消息，AI聊天机器人ChatGPT自上线以来，受到了广泛的关注，其可以进行自然对话、编写代码、生成诗歌、作曲、通过律师资格考试、计算复杂的数学公式、设计简历，甚至提供食谱等多种功能，一度被认为是人工智能领域的重大突破。但是，最近艾伦人工智能研究所、普林斯顿大学和佐治亚理工学院的研究人员发出了新的警告。
研究人员在一份名为“ChatGPT中的毒性:分析角色分配的语言模型(Toxicity in ChatGPT: Analyzing Persona-assigned Language Models)”的报告中指出，ChatGPT可以在回答用户问题时产生种族主义和其他有害的对话。研究人员将ChatGPT赋予“人物角色”后，给出响应变得“非常有问题”并产生“有偏见和伤害性的评论”。
据ITBEAR科技资讯了解，这项研究是首次对ChatGPT的语言生成进行了大规模、系统的毒性分析。研究人员指出，由于越来越多的企业开始使用ChatGPT，这个问题被“放大”了。虽然ChatGPT已经解决了较早的冒犯性语言事件，但这份报告确实引起了对ChatGPT和其他语言模型使用的担忧。
事实上，ChatGPT只是一种技术工具，其输出受到输入和训练数据的影响。因此，我们需要在技术和政策上采取措施，以确保ChatGPT和其他语言模型在任何情况下都能产生安全、无害的输出。OpenAI和其他相关组织应该认真对待这项研究，采取措施来减轻其所指出的问题，包括更加严格的训练数据过滤和模型审查。同时，我们作为用户和使用者，也应该对这些技术的使用有更多的自我监管，尤其是在处理敏感话题时。
总之，对于ChatGPT和其他语言模型的使用，我们需要更加谨慎，以确保我们能够最大限度地利用这些技术的好处，而不会受到潜在的风险和后果的影响。
