Hot Database

小型语言模型有何不同？
对于许多公司来说，无论规模大小，小型、经过高度训练、针对更好的选择。原因如下：

降低服务成本
llm 耗电大、资源密集。小型语言模型也需要耗电和资源，但由于它们所用的数据库要小得多，而且更针对特定任务，因此系统要求（以及最终成本）要低得多。而且，由于小型模型所需的计算资源要少得多，因此它们消耗的电能和水比通用模型要少，这有助于降低成本和对环境的影响。


salesforce 执行总裁兼首席科学家 silvio savarese 揭穿了有关小语言模型的一些迷思。
更好的性能
生成式人工智能相关性（即人工智能输出的有用程度、适用程度以及与特定业务需 泰國電話 求的契合程度）是一项棘手的业务挑战。业务用户需要针对特定​​查询的明确解决方案，而不是千篇一律的解决方案。

正如 savarese 在这篇文章中所写，“当你想满足所有人的需求时，数千亿个参数是无可替代的。但在企业中，这种能力几乎完全没有意义。”

通过正确的策略，为个别、明确定义的任务（如知识检索或技术支持）设计的小型语言模型可以轻松胜过大型模型。