机械之心报道

编纂 ：泽南

直接开源，大羊随意试用 。竞品

出 Stable Diffusion 的绘图公司也出语言大模子了，下场还挺好。最火本周三，公司StableLM 的开源宣告引来了科技圈的关注
。

Stability AI 是模最近期势头正盛的守业公司
，由于开源的小亿 AI 绘图工具 Stable Diffusion 而饱受好评 。在周三的参数宣告中 ，该公司宣告其语言大模子现已经可供开拓职员在 GitHub 上运用以及改编。大羊

与业内标杆 ChatGPT 同样，竞品StableLM 旨在高效地天生文本以及代码。绘图它在名为 Pile 的最火开源数据集的更大版本上妨碍磨炼，其中搜罗来自种种源头的公司信息，搜罗维基百科
、开源Stack Exchange 以及 PubMed
，共 22 个数据集
，容量抵达 825GB，1.5 万亿个 token
。

Stability AI 展现，StableLM 模子当初可用版本的参数在 30 亿到 70 亿之间，未来将有 15 亿到 650 亿规模的多种参数模子可用。

名目链接：https://github.com/stability-AI/stableLM/

凭证目祖先们的测试，假如跑 7B 模子（8 bit），需要用到 12GB 的显存。

Stability AI 也放出了一些 StableLM 的问答示例 
：

StableLM 基于 Stability AI 此前与非营利机关 EleutherAI 相助开拓的开源语言模子 ，搜罗 GPT-J 、GPT-NeoX 以及 Pythia，新模子面向尽可能大的用户群。此前在 Stable Diffusion 上，Stability AI 经由多种方式提供其文本到图像 AI 的技术，搜罗果真演示、软件测试版以及模子的残缺下载 ，也应承开拓职员运用其工具并妨碍种种集成 。

比照 OpenAI 的封锁 ，Stability AI 不断把自己定位为 AI 钻研社区的一员，咱们约莫率会在 StableLM 上看到以及上月宣告的 Meta 开源 LLaMa 语言模子同样的情景。大批基于原版模子的算法可能会泛起 ，在较小模子体量之上实现很好的下场。

此外，如今每一总体都可能试验在 Hugging Face 上托管的 StableLM 微调谈天模子上以及 AI 妨碍对于话：https://huggingface.co/spaces/stabilityai/stablelm-tuned-alpha-chat

以及所有语言大模子同样
，StableLM 模子依然存在「幻觉」下场  ，假如你试验问它若何制作花生酱三明治，StableLM 会给出一个颇为重大且荒唐的食谱。它还建议人们在慰问卡上削减一张「幽默的图画」。

Stability AI 正告说，尽管它运用的数据集理当有助于「将根基语言模子向导到『更清静』的文本扩散中，但并非所有的私见以及毒性都可能经由微调来减轻。

如今 StableLM 模子已经在 GitHub 存储库中上线
。Stability AI 展现将在不久的未来宣告一份残缺的技术陈说，此外还将启动众包 RLHF 妄想 ，并与 Open Assistant 等社区相助
，为 AI 谈天助手建树一个开源数据集。

参考内容：

https://stability.ai/blog/stability-ai-launches-the-first-of-its-stablelm-suite-of-language-models

https://www.theverge.com/2023/4/19/23689883/stability-ai-open-source-large-language-model-stablelm