用OpenPlayground在笔记本电脑上轻松探索大语言模型，使用简单的UI来试验各种大语言模型。
大语言模型或LLM是一种深度学习语言模型，旨在理解、解释和生成人类语言；它通常由数百万到数十亿的神经网络参数组成，并使用自我监督进行训练。著名的LLM的例子包括GPT-4、BERT和LLAMA。
获取LLM有时很棘手，因为必须遵守环境要求和规范，这成为学习LLM的把关人。幸运的是可以使用一个名为OpenPlayground的Python软件包在笔记本电脑上有效地试验各种LLM。
逐步探索OpenPlayground
Python软件包OpenPlayground是一个可以在笔记本电脑上运行的LLM游乐场，可以在这里试验模型、调整参数、进行模型比较，并通过友好的UI追踪日志历史记录。他们还使用了几个实体的著名LLM，如OpenAI、HuggingFace等等。
怎么才能开始使用OpenPlayground呢？首先，安装该软件包。
pip install openplayground然后在终端上运行以下命令。
openplayground run在终端上，将获得以下信息。
OpenPlayground正在运行，必须访问本地主机才能使用playground UI。
在UI中会看到三个部分：Playground，Compare和Settings。先去看看“Settings”选项卡，因为不提供必要的信息就无法工作。
当打开“Settings”时，会有一个需要选择的“Providers”部分。对于本文的例子，将使用来自OpenAI的那个。点击OpenAI，并提供API密钥，使openplayground可以访问所有模型，类似于下面的图片。
启用想要的模型，然后回到“Playground”选项卡。当已经选择了一个模型，可以在右侧使用其他参数。
该参数的存在是为了让用户轻松地探索和试验LLM模型的结果。尝试一个简单的提示：“给我创作一个关于公主和魔法王国的小故事”。
生成的文本将以绿色显示。如果启用“Show Probabilities”，如果模型允许可以得到标记生成概率。例如，“text-DaVinci-03”模型可以显示概率。再提交一次提示，并查看结果。
悬停在该标记上会显示该标记出现的概率有多高。此外，还有关于前5个标记的信息，这些信息可以成为可能生成的文本。
进入“Compare”选项卡，可以比较具有相同参数的各种LLM模型生成的文本。用之前例子的相同提示进行尝试。
“Compare”选项卡提供了同时生成文本的两个或多个不同LLM模型的信息。这些信息包括标记、模型生成文本的速度、所花的时间以及多少个字符。
尝试使用来自多个提供商的各种模型进行试验，以从使用OpenPlayground中获得更多价值。
总结
大语言模型或LLM是一个能够理解、解释和生成人类文本的模型。通过使用OpenPlayground，可以有一个简单的UI来探索和实验多个LLM。
©本文为清一色官方代发，观点仅代表作者本人，与清一色无关。清一色对文中陈述、观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。本文不作为投资理财建议，请读者仅作参考，并请自行承担全部责任。文中部分文字/图片/视频/音频等来源于网络，如侵犯到著作权人的权利，请与我们联系（微信/QQ:1074760229）。转载请注明出处：清一色财经
微信扫码打赏 
支付宝扫码打赏 
