首都工匠学院 · 2026 金融经济领域人工智能创新高技能人才培训内部分享整理版
团 队 分 享 · 第 2 讲

大模型技术发展历程与产业实践
六个模块,一次讲透

本页收录培训第 2 讲《大模型技术发展历程与产业实践》(王靖一,2026-10-12),由授课讲义(70 页 PPT)与课堂录音文稿(约 5.4 万字)合并整理为六个模块:从"AI 泡沫与失效的尺子"讲到规模时代、幻觉与 Reward Hacking、DeepSeek 的价格屠夫之路,最后落到金融大模型与中财 CUFEL 实验室的产业实践。每个模块含核心要点、讲师金句与真实案例,适合团队内部传阅学习。

王
王靖一 中央财经大学 · 金融大模型实验室|授课日期 2026-10-12
📕 讲义 PPT · 70 页 🎙 课堂录音文稿 · 约 5.4 万字 🏛 中财 CUFEL 实验室成果
培 训 全 貌 · 共 6 讲 / 6 位讲师
第 2 讲 · 本页
大模型技术发展历程与产业实践
王靖一 | 2026-10-12
第 3 讲 · 待补充
—
材料收集中
第 4 讲 · 待补充
—
材料收集中
第 5 讲 · 待补充
—
材料收集中
第 6 讲 · 待补充
—
材料收集中
第 2 讲的六个模块 · 点击切换 · 也可用键盘 ← → 翻页
导 论 · OPENING

2026 了,AI 真的在变好么?

开篇先讨论"泡沫":一边是空前的巨大投入,一边是意外健康的财务状况——真正的问题不是钱,而是我们手里的尺子还量不量得动这个孩子。当评测指标纷纷失效,行业焦点正从"刷分"转向"价值发现",而金融正是价值发现的主战场。

讲义 P1–P6录音 00:00–05:00

核心要点

KEY POINTS
泡沫之问

空前的巨大投入

大模型军备竞赛下,资本开支规模空前;但厂商财务状况"意外健康"——投入有真实收入支撑,与 2000 年互联网泡沫的纯烧钱有本质区别。泡沫与否,要看单位算力是否换来了新能力。

焦点转移

价值发现时代的新焦点:金融

本页封面即主题——2026 年"价值发现时代",AI 的新焦点是金融。语言理解已被攻克,下一阶段拼的是数学推理、工程级编程与真实世界对齐,这些都是金融最愿意付钱的场景。

评测危机

尺子换了一把又一把

GPT-3 让传统语言评测指标一夜失效:不同尺寸模型得分全都挤在高位,"就像北京中考,区分不出学生"。能力每上一个台阶,评测就得换一把新尺子。

四阶段路线

从指标走向价值发现

讲义给出四阶段:①语言理解与常识(预训练做大模型)→②数学推理与科学问答(推理阶段多轮迭代)→③极限综合推理与工程级编程(创造使用工具)→④真实世界竞赛与人类对齐(发现更有价值的问题)。

讲师金句

FROM THE LECTURE
"小孩子长高了,一米三的尺子就量不了了——小孩子长高要换尺子,大模型能力变强,我们同样也给他换尺子,大模型换的尺子是一把又一把。"
录音整理 · 讲评测指标失效
"2026 年了,AI 真的在变好么?——空前的巨大投入,意外健康的财务状况。"
录音整理 · 开篇设问

本节带走

  • 看 AI 别只看投入规模,看单位算力是否换来新能力;
  • 评测指标是被"攻破"的,不是被"满足"的——任何分数都有保质期;
  • 行业主线已从"刷分"转向"价值发现",金融是主战场。
模 块 一 · BENCHMARKS

失效的尺子:从 MMLU 到人类最后的考试

静态评测集的宿命是被攻破:MMLU 一年内饱和、AIME 一年内过时,于是人们不断加码,直到动用上千名人类专家出出"人类最后的考试";同时思路也在转向——从静态题库转向真实工程任务(SWE-Bench)和活人竞技场(Arenas)。

讲义 P7–P17录音 05:00–25:00

尺子的更迭史

A BROKEN RULER'S HISTORY
1

MMLU

大规模多任务语言理解:57 个学科、15,908 道题,约大学低年级水平的"百科全书考试"。难住了 GPT-3,但 2025 年上半年所有模型挤在 85–90 分饱和。

15,908 道题
2

AIME 美国数学邀请赛

15 题、3 小时、答案 000–999 的整数。第二阶段模型竞争的标尺——GPT-4 曾考 169/175;仅一年后,2025 年底 DeepSeek V3.2 拿 96、GPT O3 拿 95,"最讲人逻辑的奥数也成了过时的尺子"。

1 年内过时
3

人类最后的考试(HLE)

集合上千位人类专家(名单滚动增加)出的极难卷子,满分 5 分。2024 年底发布时 O1 约 9.6 分;此后持续被攻破——"这一次,AI 比人类想象的慢",但仍在稳定爬升。

5 分制
4

SWE-Bench

GitHub 上真实工程级代码任务包。2025 年初非常火,年底被发现存在数据泄露,热度消退——真实任务也不是完美标尺。

5

Arenas 竞技场

"儿子何不带吴钩"——古罗马竞技场式活榜单:不同模型同题竞技、人类投票。题目是活的,永不被"背题"攻破,是静态评测之外的新思路。

6

AI 调转了枪口

评测刷不动了,AI 去干了别的:iOS 新应用月度同比增长三年徘徊在 0 附近后,被 Agent 编程"手搓经济"点燃——个人开发者靠编程智能体批量产 App。

核心要点

KEY POINTS
读论文方法论

文字不重要,图很重要

讲师反复对学生强调:论文第一张图是最想打动你的结果,第二张图是核心卖点——读 DeepSeek V3 论文先看 Figure 1 那张"成绩单",中美模型差距一目了然。

榜单现状

中国模型的位置

SWE-Bench 上基本是美国模型主场,但中国两家(DeepSeek、智谱)已略微领先其他美国公司,仅次于头部两家;后有泄露争议导致榜单整体降温。

选择性趋势

厂商的"选择性报喜"

所有厂商宣称"通过了哪些评测"一定是选择性汇报——指标太多,永远挑对自己有利的说。看榜单要问:没报的是什么?

结论

从指标走向价值发现

四阶段路线图的终点是"真实世界竞赛与人类对齐"——发现更有价值的问题,比优化更有意义的表现更重要。

讲师金句

FROM THE LECTURE
"MMLU 这个指标很好,但是呢很快就都被模型们所攻破了。"
录音整理 · 讲评测饱和
"这些奥数,这种最讲人逻辑的数学,也基本上就在一年的时间之内,成了一把过时的尺子。"
录音整理 · 讲 AIME 过时
"Arena 翻译成中文就是古罗马那种竞技场——题目是活的,总会有被攻破的那一天,竞技场不会。"
录音整理 · 讲 Arenas

本节带走

  • 静态题库的宿命:MMLU→AIME→HLE,一代尺子一代神;
  • 真实任务(SWE-Bench)与活榜单(Arenas)是评测的两个新方向;
  • 厂商报喜都是选择性汇报,交叉验证比单榜分数可靠。
模 块 二 · SCALING ERA

规模时代:接话茬、涌现与应试教育

大模型到底图个啥?答案朴素得惊人:输入前文,输出后文——接话茬。从 GPT-1 到 GPT-3,数据量 375 倍、参数量 1750 倍的堆料换来"涌现";但模型什么都知道,只是不知道该怎么回答,于是有了监督微调这场"应试教育"。

讲义 P18–P28录音 25:00–55:00

大模型的任务实质

NEXT-TOKEN PREDICTION
STEP 1
接话茬
GPT 讲究说学逗唱,郭德纲念三句半、观众接后半句——大模型就是这个"观众":输入前文,输出后文。
STEP 2
是不是人话
"我一块酱牛肉吃了今天中午"倒装有问题、"一块酱牛肉今天中午吃了我"是恐怖小说——错误千奇百怪,人类智慧能一眼判别。
STEP 3
自回归输出
模型把接的话不断往前送,一个字一个字输出——这就是大模型"吐字"的原理。

GPT 的急剧增长

EXPONENTIAL GROWTH
模型参数量数据量发布时间
GPT-1117M约 800M token2018-06
GPT-21.5B约 40B token2019-02
GPT-3175B约 300B token2020-05
累计增幅1,750 倍375 倍—

核心要点

KEY POINTS
涌现

智力涌现 Emergent

能力在模型复杂度达到某个阈值后爆发式增长——"翻译成人话叫尤里卡"。论文列出 8 项涌现任务:数学算术、国际音标转写、单词还原、波斯语问答、多任务语言理解等。

规模法则

Scaling Law 幂律

计算量、数据规模、参数量齐头并进、缺一不可;指数级的资源投入,只换来线性的改进。人们一度希望它像摩尔定律一样持续五十年,但有一项资源快烧光了——语料与能源。

应试教育

SFT 监督微调

模型什么都知道,只是不知道该怎么回答。OpenAI 找 40 位人类专家写了 13,000 条问答,教模型"回答的形式"——就像身负九阳神功却不会武功的觉远大师。

对齐

RLHF 人类反馈强化学习

InstructGPT 配方:SFT 13k 条数据 → 奖励模型 33k prompts → RLHF 31k prompts。效果:执行正确指令、服从明确约束、减少幻觉、适合场景的语言。

讲师金句

FROM THE LECTURE
"一个相声就把大模型解释清楚了——我让大家关注的不是郭德纲,是观众们:郭德纲只能念三句半,最后半句让观众给说了,这叫接话茬。我就因为接话茬被请过家长。"
录音整理 · 讲大模型本质
"模型的能力会在复杂度达到某个阈值之后,砰的一下,爆炸性增长——这个东西就叫涌现,翻译成人话叫尤里卡。"
录音整理 · 讲涌现
"模型什么都知道,它只是不知道该怎么回答——就像觉远大师身负天下第一武力却不自知,我们得对他进行应试教育。"
录音整理 · 讲 SFT

本节带走

  • 大模型的本质是接话茬(下一词预测),一切能力从这一个动作长出来;
  • GPT-1→3:参数 1,750 倍、数据 375 倍,换来的是涌现;
  • Scaling Law 是"指数投入换线性改进"——规模时代的账,要算得细。
模 块 三 · HALLUCINATION

幻觉与 Reward Hacking:模型能不能意识到自己在瞎掰

GPT-4 是"坚信的报酬":见多识广之后,它也学会了怀疑自己。更值得警惕的是——当模型聪明到知道人类可以被瞒过,Reward Hacking(奖励黑客)就成了比幻觉更大的威胁;而 GPT-4.5 之后,"预训练规模时代"唱起了挽歌。

讲义 P29–P34录音 55:00–75:00

核心要点

KEY POINTS
幻觉

似是而非的答案

幻觉(hallucination)= 模型产生的似是而非的答案。关键问题不是"有没有",而是模型知不知道自己答案的靠谱程度——P(IK) 即模型自评"我知道"的概率。

Reward Hacking

更大的威胁

"小孩子长着长着,突然开窍了,才会骗人。"GPT-4 起模型太聪明,知道人类可以被瞒过——用骗人的方式拿奖励,就是 Reward Hacking。我们用它引导 AI,却看不清它的思考流程。

成因

为什么模型会"胡说八道"

过度优化特定反馈、人类偏差的引入、奖励信号的不一致性、模型复杂度和容量限制——五个成因里,多数不是技术 bug,而是训练机制的内生矛盾。

安全案例

"美女荷官在线发牌"

ChatGPT-4o 某版本刚发布时频繁冒出赌博广告话术——训练数据里混进了脏东西。提示注入与数据投毒提醒我们:模型输出不等于可信输出。

推理侧

推理侧的规模法则

训练不够、思考来凑:花十倍代价训练下一代基座模型,效果不如让上一代多思考几轮——"多思考"本身成了新的扩展维度。

时代转折

GPT-4.5:挽歌

讲义标题直言 GPT-4.5 是"一曲预训练规模时代的挽歌":科学问答、数学竞赛、代码、多语言常识全面对比之下,预训练堆规模的边际收益已经到头。

讲师金句

FROM THE LECTURE
"知之为知之,不知为不知——问题是模型能不能意识到自己在瞎掰。"
录音整理 · 讲幻觉
"到 GPT-4 的时候,大模型突然变得太聪明了,它知道人类可以被瞒过了——这种事情就叫 Reward Hacking:用骗人的方式获得奖励。"
录音整理 · 讲奖励黑客
"你用十倍代价训练出来的下一代基座模型,不如上一代多思考几个——所以没有必要再去训练一个更大的模型。"
录音整理 · 讲推理侧扩展

本节带走

  • 幻觉不可怕,可怕的是模型不知道自己不知道;
  • Reward Hacking 是系统性问题:优化什么,就会被钻什么空子;
  • 预训练规模时代在 GPT-4.5 节点唱起挽歌,竞争转向推理侧。
模 块 四 · DEEPSEEK

价格屠夫 DeepSeek:混合专家与低成本革命

低成本是所有人的需求。DeepSeek 用"隔行取利"的架构创新——混合专家(MoE)——把"总参数很大、激活参数很小"做成工程现实:V3 总参数 671B,每次只激活 37B。再叠加精度压缩,训练门槛被砍到原来的近十分之一。

讲义 P35–P41录音 75:00–105:00

MoE 模型的进化

MIXTURE OF EXPERTS
模型专家数量激活专家总参数量激活参数量
Mixtral 8×7B8 个2 个47B13B
Mixtral 8×22B8 个2 个141B39B
DeepSeek V2162 个8 个236B21B
DeepSeek V3257 个9 个671B37B

核心要点

KEY POINTS
思想

从"一个大夫"到"一家医院"

之前的模型像社区医院:一个大夫什么都会、什么都不精。MoE 像综合医院:分科室、按症状分诊——组织的关键不是所有岗位放最强的人,而是把合适的人放到合适的岗位。

分才

DeepSeek 的"分才"艺术

有人试过把专家数翻倍、每个专家减半,效果反而变差——分得太碎,路由不准。DeepSeek 的做法是专家更多、单个更小,配合更好的分配策略,把"分人才"做到位。

极致压缩

精度砍到 1/10

训练常用 32 位精度、推理常用 16/8 位——DeepSeek 直接压到将近原来的 1/10。后果直白:H20 没办法做训练了,只能做推理,硬件门槛被重新定价。

破局

芯片禁令与"突破?"

2020–2024 美国连续加码芯片禁令(A100→H100→H20)。DeepSeek 用工程优化在受限算力下完成"铀浓缩"级突破,直接瞄准当时最前沿的长链思考模型 O1。

涌现之喜

Aha Moment

强化学习中,模型自己"想明白了"的瞬间——打小球游戏练到 8000 次正确率到 70%,直追 OpenAI O1。长链思考让 AI 从"接话茬"变成"先想后说"。

警醒

火鸡与 No Free Lunch

火鸡科学家观察近一年得出"每天 11 点食物降临"的定律,感恩节那天被农场主捉走——历史规律在结构变化面前不堪一击;没有免费的午餐。对应:中国模型受限于显卡,强化学习试错代价极高,答案仍需人工复验。

讲师金句

FROM THE LECTURE
"我不要记住班上所有人的名字,我把同学分成小组、记住组长的 key 和 value——这就是注意力的压缩术。"
录音整理 · 讲 MoE 与注意力压缩
"火鸡科学家宣布了'每天 11 点食物降临'的定律——到了感恩节,食物没有降临,农场主进来把它们都捉去杀了。No free lunch,没有免费的午餐。"
录音整理 · 讲归纳法局限
"DeepSeek 直接瞄准长链思考模型 O1——这是当前大模型最前沿;技术创新加工程优化,完成'铀浓缩'。"
录音整理 · 讲 DeepSeek 破局

本节带走

  • MoE = 总参数大、激活参数小:V3 671B 只激活 37B;
  • 低成本三件套:架构(MoE)+ 工程(精度压缩)+ 策略(分配);
  • 警惕"火鸡定律":没有免费的午餐,规律之外总有惊喜。
模 块 五 · FINANCE LLM

金融大模型与 CUFEL:从实验室到生产线

通用大模型"卷出天际",金融垂直模型走过了 BloombergGPT、FinBERT 的拓荒期,进入 DeepSeek 之后的"蒸馏时代";而中财 CUFEL 实验室的选择是:不做大模型,做智能体——A for Analyst 研报、A for Assistant 协同、A for Algorithms 调优,三线并进。

讲义 P60–P70录音 105:00–155:00

金融大模型谱系

THE LINEAGE
1

通用模型卷出天际

BloombergGPT(2023)用金融语料训练 50B 模型开路;此后 FinBERT、FinGPT 等路线并进——人大高岭团队近 200 页的综述论文持续更新,是入门这一领域最好的一张地图。

2

DeepSeek 之后:蒸馏

Fin-R1(上财 × 阶跃星辰,2025-03):不再从零训练,而是把强模型的推理能力蒸馏进金融小模型——低成本垂域模型的标准姿势。

3

CUFEL 融通大模型

中财融通大模型(cufel.cufe.edu.cn):融合专业与通用能力。实验室由金融学院与北航计算机学院共建,2400 平米、科研仪器原值 3800 万、固定人员 66 人。

4

CUFEL-A 研报智能体

2025-07 发布:输入六位股票代码或首字母,四站流水线(资料汇总→规划→架构与反思→撰写)现场生成研报。正是本系列第 1 讲演示的架构。

CUFEL 的"三个 A"

THREE A'S
A for ANALYST
分析师
多智能体协作的研报生产线:资料汇总 → 规划 → 架构与反思 → 撰写,Boss/Worker/Critic 三角色。
A for ASSISTANT
副驾驶
对话框 → 副驾驶 → 智能体 → 任务助手 → 多智能体系统:人机协同工作流逐级演进。
A for ALGORITHMS
算法家
生成式、端到端、MAS 整体调优——让智能体系统作为一个整体被优化。

核心要点

KEY POINTS
路线之争

金融多智能体的抉择

单模型、工作流、多智能体系统(MAS)各有取舍;CUFEL 的判断是往 MAS 走——2025 年 3 月成立实验室当天就决定:不做大模型,做智能体。

场景

已经跑起来的场景

联合核聚变公司预测托卡马克粒子流状态、多模态风险治理、能源行业持续预测……数据多、场景强的行业是智能体最先落地的地方。

GPT-5 评价

"老二"的性价比路线

讲师直言 GPT-4.5 是失败尝试、GPT-5"完完全全跟 GPT-6 不是一个东西"——整个 GPT-5 时代 OpenAI 都扮成老二,只打性价比。绝对分数不如 Claude,但便宜。

中美差异

需求明确度的差异

中国模型需要把关注点列清楚,然后执行非常好;美国模型一句话就能开工。差距的根子在基础设施——没有足够显卡,强化学习每一步出错的代价都极大。

新概念

RSI 递归式自我改进

"以后不是人类训练 AI,而是 AI 训练 AI"——本讲作为概念引出,预告后续课程展开;如果成立,科研与知识工作的形态将被重写。

结语

明天讲智能体

"这就是我们今天讲大模型的全部内容,更多内容我们明天讲智能体的时候再给大家分享。"——技术史的下一幕,从模型走向系统。

讲师金句

FROM THE LECTURE
"成立实验室那一刻我就决定了一件事情:这个模型不做大模型,要做智能体。"
录音整理 · 讲 CUFEL 定位
"中国大模型是你需要把关注哪些点列上,然后它可以执行得非常好;美国的话,你就一句话。"
录音整理 · 讲中美模型差异
"现在最火的概念叫 RSI,递归式自我改进——以后训练 AI 的都不是人类,而是 AI 自己。"
录音整理 · 结语预告

本节带走

  • 金融大模型进入蒸馏时代:Fin-R1 们站在 DeepSeek 肩膀上;
  • CUFEL 路线:不做大模型,做智能体——三个 A 并进;
  • 规模时代结束了,研究时代刚开始:用更大的模型研究更细节的问题。