Untitled

更多AIGC教程,访问UP「码钉泥」的B站 https://space.bilibili.com/650927704/

1. 了解Docker

随着对大语言模型的深度使用,我们现在需要使用一些更加复杂的工具。这些工具并不是可以支持原生的Windows运行环境。为了能够在Windows上方便地使用这些软件或框架集,我们需要安装一套功能非常强大的运行环境,这个运行环境叫做Docker。

什么是Docker

那么什么是Docker呢?你可以查到很多与它相关的技术资料,但对于刚刚入门的朋友来说,可能会显得有些晦涩难懂。

简单来说,Docker是一种虚拟化技术,也就是在当前的操作系统下创建一个相对独立的特定操作系统环境,用来运行我们所需要的软件。Docker的虚拟化介于虚拟机和沙盒之间,是一种非常高效的虚拟化方式。

Untitled

Docker的优势

每个运行的Docker容器都捆绑了这个容器所运行的软件以及最低程度所需求的系统环境。举个例子,如果我需要运行一个Docker中的文本编辑器,那么Docker不会给它提供超出文本编辑器之外的系统组件,例如处理音频、视频、网络通信等这一类的组件。因此,我们的Docker容器通常非常精简,运行效率极高。

如果你在Windows上运行一个Linux的虚拟机,则必须附带Linux系统的所有系统组件。即便我只想在这个虚拟机中运行一个简单的文本编辑器,它同样会加载音频、视频、网络通信等系统核心组件。

Untitled

Docker与Windows适配

Docker在Windows上的适配经历了三个阶段:第一个阶段是完全不适配Windows,因为Docker本身是构建在Linux系统上的一个虚拟化技术;第二阶段是有限的基于虚拟机的适配;第三阶段是基于WSL2(Windows Subsystem for Linux 2)虚拟化技术的适配。

Untitled

目前WSL2已经可以支持以非常高的效率在Windows系统上虚拟Linux系统。配合Docker Desktop,可以使得我们非常方便地在Windows上运行Linux程序。

Docker与LLM应用

目前很多大型语言模型的应用工具,例如RAG(Retrieval-Augmented Generation)、工作流、Agent等,都是在Linux环境下开发的,它们都不支持直接在Windows上安装和部署。因此,我们就需要采用Docker环境来运行这些程序。今天,我们就来带领大家学习如何安装Docker,并进行简单的管理操作。