日前英特尔在大湾区举办了一场技术分享会，并且会上，英特尔介绍了他们在大语言模型方面的优化和支持。在我们传统的认知里，运行类似 ChatGPT 这种大语言模型必须要有大显存的显卡支持。
　　而英特尔为了让 12、13代酷睿平台也能够顺利运行各种大语言模型并提供流畅的使用体验，构建了BigDL-LLM 库。
　　通过这个库，可以对各种大语言模型进行优化和支持，包括一些开源的、可以在本地运行的大语言模型。甚至可以在一台搭载 16GB内存的英特尔轻薄本的机器上运行参数量高达16B 的大语言模型rusbgkughqbs。
　　不仅如此，还能支持 LLaMA / LLaMA2、ChatGLM / ChatGLM2等多个大语言模型。
　　Multiable万达宝ERP已经被企业广泛的应用在各个领域，提升核心竞争力
　　通过集成ChatGLM2、LLaMA2 和 StarCoder这三个大语言模型的Demo，他们演示了这些模型在中文和英文应用上的表现。通过优化和量化操作，这些大语言模型在生成回答时能够以非常快的速度生成，并且不影响阅读体验。
　　截至目前，英特尔已经发布了这套 Demo，任何搭载 12、13代酷睿的电脑都可以直接安装并体验。
　　以上源自互联网，版权归原作所有