在AI领域的最新动态中，一项曾被视为争议焦点的技术——“蒸馏”，如今正成为大型科技公司的新宠。
年初，DeepSeek凭借其低成本的AI模型崭露头角，却意外遭到OpenAI的无端指控，称其违规使用了蒸馏技术。然而，事态的发展却证明，蒸馏技术正成为AI界的一大热门趋势。据《金融时报》报道，OpenAI、微软、meta等科技巨头纷纷转向蒸馏技术，旨在打造更加经济实惠、易于推广的AI模型，以在全球市场中占据有利地位。
蒸馏技术的核心在于利用一个庞大的“教师”模型生成数据，进而训练一个较小的“学生”模型。这一过程实现了大模型知识与预测能力的快速迁移，使得小型模型能够继承大型模型的智慧，同时降低成本、提升效率。
尽管蒸馏技术已非新鲜事物，但近期的技术进步让其潜力得到了充分释放。对于初创公司而言，这项技术无疑是一个福音，因为它们能够以更为经济高效的方式开发大型AI应用。
OpenAI平台产品负责人奥利维尔·戈德门特对蒸馏技术赞不绝口：“它简直令人惊叹。通过利用一个庞大且智能的前沿模型来训练小型模型，我们可以在特定任务上实现极高的性能，而成本却极低，执行速度也极快。”
事实上，诸如OpenAI的GPT-4、谷歌的Gemini以及meta的Llama等大型语言模型的开发与维护均需要海量的数据和强大的算力支持。尽管这些公司并未透露具体的训练成本，但业界普遍认为，这一数字可能高达数亿美元。然而，有了蒸馏技术的加持，开发者和企业能够以极低的成本获取这些大型模型的能力，从而使得AI模型能够在笔记本电脑、智能手机等设备上轻松运行。
