AI正在突飞猛进地发展，OpenAI发布GPT-4可以说是这一领域发展的里程碑，该版本是GPT大语言模型的最新迭代版，相比之前的各版本，具有更强大的自然语言理解和生成能力。本文将简述，如何在本地电脑上使用其 GPT-4 ALL的python工具包，发挥其强大的功能。能在本地使用GPT4，私密性更好、更安全，并且能根据自己的行业需求，训练出更专业的大语言模型。

一般来说，要使用可生成AI模型，需要在OpenAI官网注册一个账户，才能订阅使用最新的GPT4模型，或者拥有一个Azure OpenAI 订阅号。但幸运地是，现在GPT-4 ALL提供了无需账号或订阅号，也无需API 密钥的使用方式，就可以在把官方训练成熟的模型下载并安装在本地使用，这对中国大陆的用户来说，无疑是福音！但是在下载所需要的大模型时需要梯子，原因大家都懂的，下载并正确安装后，使用就不再需要梯子了。

GPT-4是OpenAI开发的一款先进的语言模型，它是基于transformer架构，利用互联网上海量的文本资料训练而成的，与它之前的版本相比，规模更大、训练技术更先进，它有175B个参数，使其成为当前最大的语言模型之一，其具有以下几个显著的特点：

GPT-4拥有175B个参数，众所周知的语言理解和多模态能力，并可生成代码；
GPT-4 ALL 是OpenAI提供的Python工具包，可与GPT-4 无缝集成，能发挥GPT4最大的潜能；
无需API密钥或订阅号，使用起来更方便。

GPT4All Chat Client UI （GPT4ALL 对话客户端接口程序）

下载GPT4ALL，具体街道和门牌号看评论区，如下图：

GPT4 ALL对话客户端接口程序有支持Window是、MacOS和Linux的版本，可根据自己的需要下载。本文以windows版本为例，安装简单，一般按“下一步”到完成即可，无需作特殊选择。安装界面如下图：

安装过程中要有梯子，需要下载一些组件。

安装后，首次运行有两个选项设置，都选择“No”即可，如下图：

然后进入选择大语言模型的界面，选择自己需要的模型。也可直接从GPT4ALL官网提供的地址下载需要的模型，把它放在GPT4ALL的安装目录下，如下图：

至此，就可以通过GPT4 ALL 在使用OpenAI及其自己选择的模型了，使用界面如下：

GPT4ALL 集成到Python使用OpenAI

为了满足开发使用OpenAI的需要，OpenAI官方发布了GPT4ALL的python包，简化了与GPT4的交互，开发者可以把模型集成到自己的项目中提供了方便。下面介绍GPT4ALL的python包的安装和使用。

安装GPT4ALL的python包

代码如下：

pip install gpt4all

调用示例代码

看看如何在python编程中调用GPT4ALL生成文本，以下代码是提示GPT4ALL生成一个有关历险的短小说：

from gpt4all import GPT4All
model = GPT4All("orca-mini-3b-gguf2-q4_0.gguf")
output = model.generate("The capital of France is ", max_tokens=3)
print(output)

GPT4ALL与其他Transformer架构的兼容性

GPT4ALL与以下大语言模型兼容：

· Falcon

· LLaMA (包括 OpenLLaMA)

· MPT (包括 Replit)

· GPT-J

With GPT4All we can download the model to local file system which can then by default will be stored in cache directories. In order to not download the model every time its possible to specify the model path.

使用GPT4ALL可以下载模型到本地，默认情况下将保存到缓存目录中。为防止每次使用都下载模型，可以指定存放模型的路径，设置如下：

GPT4All(
    model_path,
    prompt_context="",
    prompt_prefix="",
    prompt_suffix="",
    log_level=logging.ERROR,
    n_ctx=512,
    seed=0,
    n_parts=-1,
    f16_kv=False,
    logits_all=False,
    vocab_only=False,
    use_mlock=False,
    embedding=False,
)

GPT4ALL也可以用作嵌入组件和聊天组件，就如直接使用OpenAI一样。

用GPT4ALL生成嵌入组件

GPT4ALL不仅限于文本生成，在生成适合语境的嵌入组件方面也很出色，这种嵌入组件是向量空间中的词语和句子的数量特征，可以捕捉词语和句子的语义；为文本生成的嵌入组件是各种自然语言处理任务的有价值的工具，包括语义分析、文档相似性等等。

要使用GPT4ALL生成嵌入组件，可以给GPT4ALL提供输入文本，它就会生成文本的向量特征，即对文本的语境和语义进行编码，然后把这些嵌入组件用于各种不同的后续任务，更好地发挥分析和理解文本数据的能力。

调用代码示例如下：

from gpt4all import GPT4All, Embed4All
text = 'The quick brown fox jumps over the lazy dog'
embedder = Embed4All()
output = embedder.embed(text)
print(output)

GPT4 ALL为开发者使用OpenAI提供了很大的方便，促进了业务的自动化和创新。

GPT4在多个领域有广泛地应用，可以用来写不同需求的文章，创建聊天机器人和虚拟助理，还可以作语言翻译和自动生成代码，作数据分析并生成报告，还可以用来写小说诗歌等。