M01 · AI应用理论知识

大模型到底是怎么“想”的:原理、能力边界与三条技术路线

M01 · 第 1 / 17 模块 · 01 基础认知

AI应用理论知识

不写代码也能听懂的AI原理课。建立对大模型的第一性认知,理解它能做什么、不能做什么,以及企业落地只有三条技术路线可选。

全员业务岗技术岗管理者 难度:入门 标准课时:3课时

先判断:你是否需要学这一模块 SELF CHECK

命中 2 条以上,建议优先安排本模块;勾选可当作业前的需求确认表使用。

学习目标 OBJECTIVES

  • 1用一句话讲清楚大模型的工作原理(Token、概率预测、上下文窗口),不再被术语吓住
  • 2准确判断哪些任务适合交给AI、哪些任务必须人工兜底,识别幻觉高发场景
  • 3理解提示词工程、RAG检索增强、微调三条技术路线的成本与适用场景,能参与技术选型讨论
  • 4理解Agent与工具调用机制,明白AI从“会聊天”到“会干活”的关键跨越
  • 5建立成本意识:Token计费、模型分级与推理成本的量级概念

核心知识点 KEY POINTS

大模型是怎么“想”的

模型本质是在做“下一个Token的概率预测”。输入被切成Token,模型依据上下文窗口中的全部内容逐词生成。因此上下文越长越贵、越靠后的信息越容易被忽略,这就是长文档“首尾强、中间弱”的成因。

能力边界与幻觉来源

大模型擅长生成、归纳、改写、分类、推理辅助;不擅长精确计算、实时信息、强事实一致性要求、长链路规划。幻觉来自概率生成的本质——它会“补全一个看起来合理的答案”,所以必须有知识约束和人工复核。

三条技术路线:提示词 / RAG / 微调

提示词工程成本最低、见效最快,适合通用能力任务;RAG(检索增强生成)把企业私有知识注入回答,解决“不懂业务”的问题,是企业落地的主力路线;微调改变模型的表达风格与任务范式,成本高、迭代慢,只在有大量标注数据和稳定任务时使用。

Agent:从会聊天到会干活

Agent = 模型 + 记忆 + 工具 + 规划 + 目标。模型负责判断与生成,工具负责执行(查库、发消息、写文件、调API)。判断一个需求该做“聊天机器人”还是“Agent”,关键看它是否需要调用外部系统完成动作。

多模态能力

文本、图片、语音、视频的理解与生成能力正在快速拉齐。语音转写+大模型摘要已是成熟方案(会议纪要、面客记录),图片理解可用于票据识别、图纸核对、门店巡检。

成本结构与模型分级

成本 = 输入Token + 输出Token。实践中按任务分档用模型:分类/抽取/摘要用轻量模型,复杂推理/创意生成用旗舰模型,可节省60%以上成本而不明显损失效果。

方法论与操作步骤 METHOD & STEPS

识别任务类型判断知识依赖选择技术路线确定模型档位设置人工复核点
  1. 第一步:拆解任务类型

    把需求归为五类之一:生成(写文案/写方案)、理解(摘要/分类/抽取)、检索(查知识/查数据)、决策(评分/排序/推荐)、执行(发消息/建单/改系统)。不同类别对应不同的可靠性策略。

    要点:判断标准:需要“改变外部世界状态”的任务属于执行类,必须走Agent+工具,且必须设人工确认。
  2. 第二步:判断知识依赖

    问三个问题:答案是否在模型通用知识里?是否需要企业私有知识?是否需要实时数据?三者对应:直接用、必须RAG、必须接API。

  3. 第三步:选择技术路线

    通用能力任务→提示词工程;企业知识任务→RAG;风格/范式固定且数据量大→微调;跨系统动作任务→Agent工作流。

  4. 第四步:确定模型档位与成本

    为任务选轻量/均衡/旗舰三档模型,估算日均调用量与月成本,设定成本上限告警。

  5. 第五步:设置人工复核点

    按风险等级定义复核规则:对外发布内容必审、涉及金额与承诺必审、内部辅助内容抽检。复核点写进流程,而不是靠人自觉。

真实落地场景案例 REAL CASES

金融 · 大型银行

AI认知与应用架构共识营

业务场景

某股份制银行在技术投入已到位的情况下,员工AI素养参差、业务与技术之间存在认知鸿沟,AI项目停留在“零散试用”。

AI应用做法

面向高管到一线设计分层认知课程,用“原理—边界—技术路线—同业案例”四段式统一语言,并同步拆解同业标杆(摩根大通COIN用于信贷文档审阅、工行“工银智涌”大模型体系)。

全员形成统一AI语言体系,输出15个业务场景候选清单,其中5个进入标杆项目孵化通道。
制造 · 化工企业

技术问答从“问老师傅”到“问知识库”

业务场景

工艺参数、设备手册、应急预案散落在个人电脑与纸质文件中,新员工上手慢,老师傅被反复打扰。

AI应用做法

判定为“企业私有知识+高事实一致性”任务,选择RAG路线而非微调;按文档类型设计切片与引用溯源规则,未检索到即拒绝回答。

常见问题自助解决率显著提升,老师傅重复咨询量下降,新员工独立上手周期缩短。

涉及工具与产出物 TOOLS & DELIVERABLES

◈ 涉及工具
  • 通用大模型(通义千问 / DeepSeek / ChatGPT / Claude)
  • 模型能力对比评测表
  • Token成本估算表
  • 任务—技术路线选型决策树
◈ 结业产出物
  • 《企业AI能力地图》1份
  • 岗位任务适配清单(适合/不适合/需复核)
  • 模型选型与成本对照表
  • AI应用风险分级清单

随堂练习与验收标准 PRACTICE & ACCEPTANCE

◈ 随堂练习 / 课后作业
  • 列出你本周做过的10项工作任务,逐项标注类型(生成/理解/检索/决策/执行),并标出哪些必须人工兜底。
  • 用同一组5个真实问题分别问两个不同的大模型,记录答案差异、谁更准确、谁更啰嗦。
  • 故意找一个AI答错的例子(实时股价、内部制度、精确计算任选),分析它属于哪一类能力边界问题。
◈ 结业验收标准
  • 能不用术语向同事讲清大模型原理,并说出三条技术路线的适用场景
  • 提交本岗位任务适配清单(≥10项,逐项标注是否需人工复核)
  • 完成一次模型对比记录(≥2个模型、≥5个问题,含结论)

常见误区 PITFALLS

常见误区

“AI什么都能干”,把所有任务一股脑丢给AI

正确做法

按任务类型分级:生成类可放手,事实类必须有知识约束,执行类必须有人工确认

常见误区

“先把模型训练好,才能开始用”

正确做法

90%的企业场景用提示词+RAG即可解决,微调是最后选项而非起点

常见误区

把大模型当成搜索引擎,认为答案必然准确

正确做法

大模型是概率生成而非检索,必须提供知识源、要求引用出处并保留复核环节

常见误区

一律使用最贵最强的旗舰模型

正确做法

按任务分档选模型,分类抽取类任务用轻量模型即可,成本可降60%以上

建议课时 RECOMMENDED HOURS

适合人群建议课时建议形式
全员2课时线下讲授 + 现场演示
业务岗3课时讲授 + 场景判断练习
技术岗6课时含原理深挖与选型实战
管理者2课时战略版,聚焦能力与成本

721 时间分配(合计 3 课时 / 约 135 分钟)

环节占比课时时长内容说明
讲授35%1.0 课时约 47 分钟讲概念、讲方法、拆解案例
实操演练45%1.4 课时约 61 分钟随堂动手,产出真实业务成果
研讨点评20%0.6 课时约 27 分钟方案互评、答疑与改进建议

按 721 法则设计:以实操为主、讲授为辅、研讨收口;1 课时按 45 分钟计,可按企业作息调整。

学习顺序与依赖 DEPENDENCIES

前置模块(建议先学)
相关推荐: M02 AI应用认知升级M03 AI应用落地方法论M05 AI工具全景与选型
← 返回 01 基础认知 层大纲