问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

AI浪潮下,你必须要了解的AI发展史

创作时间:
作者:
@小白创作中心

AI浪潮下,你必须要了解的AI发展史

引用
CSDN
1.
https://m.blog.csdn.net/qq_38196449/article/details/145548102

随着人工智能(AI)技术的迅猛发展,从1956年首次提出“人工智能”概念至今,AI已经走过了近70年的历程。从最初的单层感知机到如今的深度学习,从图像识别到自然语言处理,AI技术取得了突破性进展。本文将带你回顾AI的发展历程,了解其关键技术,并展望未来的发展方向。

一、人工智能发展史

  • 人工智能(Artificial Intelligence,简称AI)这个概念是在1956年提出的。这一年,约翰·麦卡锡(John McCarthy)和其他几位科学家在美国达特茅斯学院(Dartmouth College)组织了一场研讨会,首次提出了“人工智能”一词,标志着人工智能作为一门学科的正式诞生。
  • 人工智能这个概念从诞生到今天也只有不到70年的时间,是一门很年轻的科学。
  • 深度学习所需要的神经网络技术起源于20世纪50年代,叫做感知机。当时也通常使用单层感知机,尽管结构简单,但是能够解决复杂的问题。后来感知机被证明存在严重的问题,因为只能学习线性可分函数、连简单的异或(XOR)等线性不可分问题都无能为力。
  • 1969年,Marvin Minsky写了一本叫做《Perceptrons》的书,他提出了著名的两个观点:
  • 单层感知机没用,我们需要多层感知机来解决复杂问题。
  • 没有有效的训练算法。
  • 20世纪80年代末期,用于人工神经网络的反向传播算法(Back Propagation算法,BP算法)的发明,给机器学习带来了希望,掀起了基于统计模型的机器学习热潮,这个热潮一直持续到今天。人们发现,利用BP算法可以让一个人工神经网络模型从大量训练样本中学习统计规律,从而对未知事件做预测。这种基于统计的机器学习方法比起过去基于人工规则的系统,在很多方面显出优越性。
  • 这个时候的人工神经网络,虽也被称作多层感知机(Multi-layer Perceptron),但实际是种只含有一层隐层节点的浅层模型。
  • 2012年,在著名的ImageNet图像识别大赛中,杰弗里·辛顿领导的小组采用深度学习模型AlexNet一举夺冠。AlexNet采用ReLU激活函数,从根本上解决了梯度消失问题,并采用GPU极大地提高了模型的运算速度。
  • 同年,由斯坦福大学著名的吴恩达教授和世界顶尖计算机专家Jeff Dean共同主导的深度神经网络(DNN)技术在图像识别领域取得了惊人的成绩,在ImageNet评测中成功地将错误率从26%降低到了15%。深度学习算法在世界大赛中的脱颖而出,也再一次吸引了学术界和工业界对于深度学习领域的关注。
  • 2016年,随着谷歌公司基于深度学习开发的AlphaGo以4:1的比分战胜了国际顶尖围棋高手李世石,深度学习的热度一时无两。后来,AlphaGo又接连和众多世界级围棋高手过招,均取得了完胜。这也证明了在围棋界,基于深度学习技术的机器人已经彻底超越了人类。
  • 2017年,基于强化学习算法的AlphaGo升级版AlphaGo Zero横空出世。其采用“从零开始”、“无师自通”的学习模式,以100:0的比分轻而易举打败了之前的AlphaGo。除了围棋,它还精通国际象棋等其它棋类游戏,可以说是真正的棋类天才。
  • 2017年,谷歌推出了划时代的作品Transformer,对整个人工智能的发展影响深远。此外在这一年,深度学习的相关算法在医疗、金融、艺术、无人驾驶等多个领域均取得了显著的成果。所以,也有专家把2017年看作是深度学习甚至是人工智能发展最为突飞猛进的一年。
  • 2018年,谷歌推出了BERT,开启了预测核模型和迁移学习的时代。
  • 2019年,GPT2, T5, AIBERT, RoBERTa, XLNet, 一系列预测核模型的推出大大提升了AI的应用效果。
  • 2020年,深度学习扩展到更多的应用场景,比如积水识别、路面塌陷等,而且疫情期间,在智能外呼系统、人群测温系统、口罩人脸识别等都有深度学习的应用。
  • 2021年,巨量模型大量涌现,参数规模从几百亿迅速增长到上万亿。
  • 2022年11月30日,ChatGPT横空出世,开启了AI大模型的时代。
  • 2023年,是全世界大模型的战国时代。
  • 2024年,2月份Sora横空出世,5月GPT-4o, DeepSeek-v2, 快手可灵,都是最前沿的成果。

二、人工智能关键词

  • 人工智能
  • 机器学习
  • 深度学习
  • 大语言模型(LLM)

    注意:深度学习其实就是有了神经网络的机器学习。

三、AI技术方向 & 就业方向

AI主流技术方向:

  • ASR: 语音
  • CV: 视觉
  • NLP: 语言
  • MM: 多模态
  • RS: 搜广推
  • RL: 强化学习

AI主流就业方向:

  • AI算法工程师
  • AI大模型工程师
  • AI研发工程师
  • AI应用开发工程师
  • AI产品经理
  • AI训练师
  • AI数据标注师

四、人工智能的奇点 ChatGPT

  • 2017年6月Transformer横空出世!!!
  • 2018年6月GPT, 参数量1.1亿, 核心点是基于Transformer Decoder的masked multi-head self-attention
  • 2019年2月GPT2, 参数量15亿, 核心点是融合了prompt learning, 省去了微调
  • 2020年5月GPT3, 参数量1750亿, 核心点是通过ICL(In-Context Learning)开启了prompt新范式
  • 2021年7月Codex, 基于GPT3进行了大量的代码训练而产生的模型Codex, 使其具备了代码编写和代码推理能力
  • 2021年10月OpenAI内部发展出了GPT3.5, 但未对外公开
  • 2022年1月Google提出思维链技术CoT (Chain of Thought)
  • 2022年11月30日, OpenAI正式发布ChatGPT, 核心点是基于GPT3.5, 融合了Codex + 强化学习的技术
  • 2023年3月, OpenAI正式发布GPT4, 增加了多模态能力
  • 2024年2月, OpenAI正式发布Sora, 首次完成60s稳定、流畅、一致性的视频生成模型
  • 2024年5月, OpenAI正式发布GPT-40, 流浪地球2的电影场景第一次进入现实

五、大模型时代的风起云涌

5.1 语言大模型

基础大模型底层 --> LLM中层 --> AIGC软件层

百度:文心大模型

阿里:千问大模型

腾讯:混元大模型

字节跳动:云雀大模型

科大讯飞:星火大模型

智谱清言:ChatGLM大模型

Minimax:ABAB大模型

阶跃星辰: Step大模型

深度求索:DeepSeek大模型

月之暗面:kimi大模型

快手:可灵

字节跳动:即梦

美图:whee

六、技术人员的AI生存法则

6.1 AI时代生存法则

随着时代的发展, 技术模式也在不断迁移:
算力增长和AI效能:
AI大模型时代的开发模式:
AI大模型时代的技术栈:

6.2 如何做一个职业程序员?

  1. 开发环境
  • Linux优先!!! Linux优先!!! Linux优先!!!
  1. 开发IDE
  • vim
  • VSCode
  • PyCharm
  • Jupyter Notebook
  1. 软件版本
  • anaconda
  • Pytorch 1.6, 2.0, 2.1, 2.2
  • transformers 3.6, 4.30, 4.32
  • AutoDL: GPU
  • AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL
  • 魔搭: GPU
  • 魔搭社区
  • 趋动云: GPU
  • https://www.virtualoud.com/
  • 青云:
  • 第一家混合云上市公司 | 青云QingCloud
  • AI 智算未来-弹性、好用、灵活-基石智算
© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号