近期，互联网上频繁出现AI技术滥用现象，众多经典影视剧角色、明星及企业家的形象被恶意篡改和恶搞。在一些短视频平台上，如哪吒、敖丙等热门角色的形象被AI技术扭曲，产生了大量令人啼笑皆非的魔改视频。
针对这一乱象，广电总局去年已发出管理提示，明确要求平台加强内容审核和监管。然而，新规的执行效果并不尽如人意，仍有大量魔改视频在平台上肆虐。部分平台甚至在魔改视频热度高涨后才勉强添加“AI生成”的提示，但这些提示往往位置隐蔽，难以引起网友注意，导致不少用户被误导。
更令人担忧的是，一些商家和个人看到了AI魔改视频背后的流量红利，纷纷利用这一手段招揽关注，开设收费课程或训练营进行变现。专家指出，AI工具本身并无善恶之分，关键在于如何防止其被不良动机的人滥用。这不仅是技术问题，更是监管部门和平台需要深入思考和解决的问题。
据天眼查信息显示，截至目前，我国人工智能相关企业数量已超过200万家，形成了一个庞大的产业群体。从地域分布来看，广东、江苏和山东三省的人工智能相关企业数量位居全国前列，分别拥有超过30万家、15万家和15万家相关企业。
然而，在人工智能产业蓬勃发展的背后，也隐藏着一定的风险。据天眼查风险数据显示，从事人工智能相关的企业中，有1.54%的企业曾涉及法律诉讼。这反映出在人工智能领域，仍然存在一些法律问题和纠纷，需要相关部门和企业加强监管和规范。
面对AI魔改乱象和人工智能产业的快速发展，监管部门和平台需要采取更加有效的措施来加强监管和规范。一方面，要加强对平台上内容的审核和监管力度，及时发现和处理恶意篡改和恶搞行为；另一方面，要加强对人工智能技术的研发和应用管理，防止其被不良动机的人滥用。同时，也需要加强法律法规的制定和执行力度，为人工智能产业的健康发展提供有力保障。
