学会区分大模型——大模型的分类,让你更清晰的认识大模型
创作时间:
作者:
@小白创作中心
学会区分大模型——大模型的分类,让你更清晰的认识大模型
引用
1
来源
1.
http://www.360doc.com/content/24/1021/10/5144993_1137225025.shtml
“乱花渐欲迷人眼,学会从根本上认识问题”
现在市面上大模型如百花齐放,对很多人来说一堆大模型带来的不是简单方便,而是乱七八糟以及迷茫。因为不知道不同的大模型之间有什么区别,也不知道自己需要什么样的大模型;就拿huggingface来说,上面的模型有几十万,有几个人能弄明白它们都是干什么的?
因此,我们首先需要学会的就是大模型的分类,对大模型分门别类之后就知道哪些大模型是做什么的,自己需要的是什么了。
大模型的分类
事实上直接说大模型并不是特别准确,大模型指的是具有庞大参数的机器学习或者深度学习模型。根据模型的参数量可以分为大/中/小三种类型,不同的模型对资源要求不同,应用的场景也不同;比如一些小模型可能会安装到移动设备之上。
按任务类型分类
根据任务类型,大模型可以分为生成式模型,判别式模型和混合模型。
- 生成式模型:这种模型主要用于生成内容,包括文本,图像,音视频等;典型的比如GPT模型。
- 判别式模型:判别式模型主要应用于分类,预测等任务;如图像分类,文本分类等;比如Bert模型。
- 混合模型:混合模型结合生成式和判别式模型的能力,能够在生成内容的同时进行分类或判别任务。
当然,这个按任务分类只是进行简单的分类,如果再细化还有更多的分类方式,比如情感分析等。
按数据模态分类
根据数据模态,大模型主要分为两类,一类是单模态模型,一类是多模态模型。
- 单模态模型:单模态就是仅支持一种模态数据的模型,比如支持文本或者图片等类型的模型;如ResNet处理图像,BERT模型处理文本。
- 多模态模型:能够同时处理多种类型的数据,如文本,图像,音视频等;如CLIP模型结合了文本和图像处理的功能。
按训练方法分类
按训练方法进行分类,主要有预训练模型,从零训练模型和迁移学习模型。
- 预训练模型:通常在大规模数据集上进行预训练,然后通过微调适应特定任务,如GPT,BERT等。
- 从零训练模型:从头开始训练的模型,通常在特定任务上训练,数据集要求较高。
- 迁移学习模型:迁移学习通常是指在一个任务中学习的知识迁移到另一个相关任务中;能够减少训练时间并提升性能。
按应用领域分类
按照应用领域分类,主要分为自然语言处理,计算机视觉模型,以及语音处理模型等。
- 自然语言处理模型:专门用于处理和理解人类的语言,如文本生成,翻译,情感分析等任务。
- 计算机视觉模型:用于处理和理解图像或视频数据,如图像分类,目标检测,图像生成等任务。
- 语音处理模型:用于处理语音信号,包括语音识别,合成,情感分析等任务。
基于自然语言处理的人工智能机器人:
按模型架构分类
按模型架构分类,主要分为transformer架构,卷积神经网络和循环神经网络以及长短期记忆网络。
- transformer架构:transformer架构应该就不用多说了,大名鼎鼎的GPT就是基于Transformer架构,广泛应用于自然语言处理和多模态任务中。
- 卷积神经网络:主要应用于计算机视觉任务中。
- 循环神经网络和长短期记忆网络:传统上用于处理时间序列数据或语音处理任务。
当然,大模型的分类还有多种不同的形式,以上分类方式是目前比较主流的方式而已。比如说有应用于代码开发的代码生成模型,用于数据处理的数据分析模型等。
弄清楚模型的分类,有助于加深对模型的理解;比如说有人提到GPT,你就能知道它是一个基于Transformer架构的,能够进行自然语言处理与生成的预训练模型。
热门推荐
过年剩的隔夜菜能不能吃?会致癌吗?医生:这三种放心吃
古龙将男主角写崩,只得让配角成为男主角,却成就了一部巅峰之作
变电站会产生辐射对人体有害?记者实地体验科学测量
硫化反应的创新应用:开启新材料时代的大门
每年有超过2300万人因心力衰竭住院治疗,出现症状,及时做好筛查
新房“晾”多久才能住?尽早用这妙招,减少甲醛问题
多屏显示,如何快速切换鼠标
近视患者如何安排学习时间
1至3类职业指哪些
水凝胶:医学革命的新希望!中山大学肖泽聪团队揭示先进治疗中的突破性潜力!
生吃茄子竟有毒?烹饪后营养翻倍,健康吃法揭秘!
“一人不进庙,二人不看井,三人不抱树”这句话是什么意思?
“一人不进庙,二人不看井,三人不抱树,四人不回头”,有何含义
怎样检查我的身份证能不能买飞机票?
我国64式手枪:中国军用手枪技术的里程碑
缺镁吃什么食物补充最快
大明王朝力挽狂澜的十位文臣
马上填报志愿了,什么是211、985和双一流大学?三者是什么关系?
普洱茶被虫蛀了怎么办?笋壳长虫的处理方法与注意事项
金包银手镯能不能买?对身体有影响吗?
民国四大情书精选美句:朱湘、徐志摩、鲁迅、沈从文的情书世界
中国令人不可思议的城市之一:锦州
沈阳陵园迁坟:重要讲究与注意事项全解析
独库公路如何成为“颜值顶流”?离不开他们的守护
朱允炆母亲吕氏的生平与影响
书同文:汉字统一与文化认同的桥梁
书同文:一场文化统一的革命
为了促进身高发育应选择何种饮食
菠萝蜜切一半如何保存?巧妙存放,美食美味延续
怎么判断强迫症轻重