大型语言模型(LLMs),定义交互式人工智能的下一个浪潮
发布时间:
2022-12-07
人工智能的语言模型是基于自然语言处理技术和算法创建的。比如在某一句话说一半的时候,这个模型会根据以往记录的实例,来推断出这句话后面的几个字。总的来说就是总结文本信息,甚至从纯文本中创建视觉图表。
大型语言模型(LLMs)是在包含巨大数据量的大规模数据集上训练的。像是 Google 的 BERT 和 OpenAI 的 GPT-2 和 GPT-3 就是 LLMs 很好的例子。据了解,GPT-3 中约有 1750 亿个参数,在 570 千兆字节的文本上进行训练。这些模型生成的东西可以从简单的文章到复杂的金融模型。现如今,包括 OpenAI、Hugging Face、Cohere、AI21 Labs 以及 AI12 在内的人工智能初创公司,正在通过训练具有数十亿参数的模型来推动 LLMs 的发展。
韩国一家叫做 Naver 的公司宣布,它已经建立了最全面的基于人工智能的语言模型之—— HyperCLOVA,一个类似于 GPT-3 的韩语模型。与上述模型不同的是,华为的 PanGu-Alpha 以及百度的 Ernie 3.0 Titan 则是在由电子书、百科全书和社交媒体组成的海量中文数据集上进行训练的。
在 2022 年,我们将看到大型语言模型成为下一代交互式人工智能工具的基础模型。

相关资讯
2022-12-07
2022-12-07
2022-12-07
2022-12-07
2022-12-07
2022-12-07
