系统的持续运
Posted: Sun May 18, 2025 9:52 am
除了训练阶段之外，人工智能行也会对环境产生影响。这种运行影响与 LLM 的大小相关，LLM 的大小根据构成模型的参数数量（通常以数十亿或数万亿计）进行分类。模型越大，影响越大。
例如，Salesforce AI Research 的xGen-7B LLM 拥有 70 亿个参数，而 GPT-3 则包含1750 亿个参数。较小的模型除了在训练过程中消耗更少的资源外，在持续运行中也消耗更少的计算资源。Savarese 表示，在适当的情况下，这些小型模型可以提供最佳性能：降低成本、降低环境影响并提升性能。他补充说，在某些任务（包括知识 求职者数据库 检索、技术支持和解答客户问题）上，它们通常与大型模型不相上下。
Salesforce 减排高级经理 Boris Gamazaychikov 表示：“并非所有模型都需要如此庞大。您可以使用更小、更针对特定领域的模型来完成工作，这正是 Salesforce 正在努力的方向。我们可以为 CRM 用例创建高效、有效的模型。我们可以将您的数据叠加到模型之上，无需额外培训，从而提高效率。
例如，Salesforce AI Research 的xGen-7B LLM 拥有 70 亿个参数，而 GPT-3 则包含1750 亿个参数。较小的模型除了在训练过程中消耗更少的资源外，在持续运行中也消耗更少的计算资源。Savarese 表示，在适当的情况下，这些小型模型可以提供最佳性能：降低成本、降低环境影响并提升性能。他补充说，在某些任务（包括知识 求职者数据库 检索、技术支持和解答客户问题）上，它们通常与大型模型不相上下。
Salesforce 减排高级经理 Boris Gamazaychikov 表示：“并非所有模型都需要如此庞大。您可以使用更小、更针对特定领域的模型来完成工作，这正是 Salesforce 正在努力的方向。我们可以为 CRM 用例创建高效、有效的模型。我们可以将您的数据叠加到模型之上，无需额外培训，从而提高效率。