AI应用理论知识
不写代码也能听懂的AI原理课。建立对大模型的第一性认知,理解它能做什么、不能做什么,以及企业落地只有三条技术路线可选。
先判断:你是否需要学这一模块 SELF CHECK
命中 2 条以上,建议优先安排本模块;勾选可当作业前的需求确认表使用。
学习目标 OBJECTIVES
- 1用一句话讲清楚大模型的工作原理(Token、概率预测、上下文窗口),不再被术语吓住
- 2准确判断哪些任务适合交给AI、哪些任务必须人工兜底,识别幻觉高发场景
- 3理解提示词工程、RAG检索增强、微调三条技术路线的成本与适用场景,能参与技术选型讨论
- 4理解Agent与工具调用机制,明白AI从“会聊天”到“会干活”的关键跨越
- 5建立成本意识:Token计费、模型分级与推理成本的量级概念
核心知识点 KEY POINTS
大模型是怎么“想”的
模型本质是在做“下一个Token的概率预测”。输入被切成Token,模型依据上下文窗口中的全部内容逐词生成。因此上下文越长越贵、越靠后的信息越容易被忽略,这就是长文档“首尾强、中间弱”的成因。
能力边界与幻觉来源
大模型擅长生成、归纳、改写、分类、推理辅助;不擅长精确计算、实时信息、强事实一致性要求、长链路规划。幻觉来自概率生成的本质——它会“补全一个看起来合理的答案”,所以必须有知识约束和人工复核。
三条技术路线:提示词 / RAG / 微调
提示词工程成本最低、见效最快,适合通用能力任务;RAG(检索增强生成)把企业私有知识注入回答,解决“不懂业务”的问题,是企业落地的主力路线;微调改变模型的表达风格与任务范式,成本高、迭代慢,只在有大量标注数据和稳定任务时使用。
Agent:从会聊天到会干活
Agent = 模型 + 记忆 + 工具 + 规划 + 目标。模型负责判断与生成,工具负责执行(查库、发消息、写文件、调API)。判断一个需求该做“聊天机器人”还是“Agent”,关键看它是否需要调用外部系统完成动作。
多模态能力
文本、图片、语音、视频的理解与生成能力正在快速拉齐。语音转写+大模型摘要已是成熟方案(会议纪要、面客记录),图片理解可用于票据识别、图纸核对、门店巡检。
成本结构与模型分级
成本 = 输入Token + 输出Token。实践中按任务分档用模型:分类/抽取/摘要用轻量模型,复杂推理/创意生成用旗舰模型,可节省60%以上成本而不明显损失效果。
方法论与操作步骤 METHOD & STEPS
第一步:拆解任务类型
把需求归为五类之一:生成(写文案/写方案)、理解(摘要/分类/抽取)、检索(查知识/查数据)、决策(评分/排序/推荐)、执行(发消息/建单/改系统)。不同类别对应不同的可靠性策略。
要点:判断标准:需要“改变外部世界状态”的任务属于执行类,必须走Agent+工具,且必须设人工确认。第二步:判断知识依赖
问三个问题:答案是否在模型通用知识里?是否需要企业私有知识?是否需要实时数据?三者对应:直接用、必须RAG、必须接API。
第三步:选择技术路线
通用能力任务→提示词工程;企业知识任务→RAG;风格/范式固定且数据量大→微调;跨系统动作任务→Agent工作流。
第四步:确定模型档位与成本
为任务选轻量/均衡/旗舰三档模型,估算日均调用量与月成本,设定成本上限告警。
第五步:设置人工复核点
按风险等级定义复核规则:对外发布内容必审、涉及金额与承诺必审、内部辅助内容抽检。复核点写进流程,而不是靠人自觉。
真实落地场景案例 REAL CASES
AI认知与应用架构共识营
业务场景
某股份制银行在技术投入已到位的情况下,员工AI素养参差、业务与技术之间存在认知鸿沟,AI项目停留在“零散试用”。
AI应用做法
面向高管到一线设计分层认知课程,用“原理—边界—技术路线—同业案例”四段式统一语言,并同步拆解同业标杆(摩根大通COIN用于信贷文档审阅、工行“工银智涌”大模型体系)。
技术问答从“问老师傅”到“问知识库”
业务场景
工艺参数、设备手册、应急预案散落在个人电脑与纸质文件中,新员工上手慢,老师傅被反复打扰。
AI应用做法
判定为“企业私有知识+高事实一致性”任务,选择RAG路线而非微调;按文档类型设计切片与引用溯源规则,未检索到即拒绝回答。
涉及工具与产出物 TOOLS & DELIVERABLES
- 通用大模型(通义千问 / DeepSeek / ChatGPT / Claude)
- 模型能力对比评测表
- Token成本估算表
- 任务—技术路线选型决策树
- 《企业AI能力地图》1份
- 岗位任务适配清单(适合/不适合/需复核)
- 模型选型与成本对照表
- AI应用风险分级清单
随堂练习与验收标准 PRACTICE & ACCEPTANCE
- 列出你本周做过的10项工作任务,逐项标注类型(生成/理解/检索/决策/执行),并标出哪些必须人工兜底。
- 用同一组5个真实问题分别问两个不同的大模型,记录答案差异、谁更准确、谁更啰嗦。
- 故意找一个AI答错的例子(实时股价、内部制度、精确计算任选),分析它属于哪一类能力边界问题。
- 能不用术语向同事讲清大模型原理,并说出三条技术路线的适用场景
- 提交本岗位任务适配清单(≥10项,逐项标注是否需人工复核)
- 完成一次模型对比记录(≥2个模型、≥5个问题,含结论)
常见误区 PITFALLS
“AI什么都能干”,把所有任务一股脑丢给AI
按任务类型分级:生成类可放手,事实类必须有知识约束,执行类必须有人工确认
“先把模型训练好,才能开始用”
90%的企业场景用提示词+RAG即可解决,微调是最后选项而非起点
把大模型当成搜索引擎,认为答案必然准确
大模型是概率生成而非检索,必须提供知识源、要求引用出处并保留复核环节
一律使用最贵最强的旗舰模型
按任务分档选模型,分类抽取类任务用轻量模型即可,成本可降60%以上
建议课时 RECOMMENDED HOURS
| 适合人群 | 建议课时 | 建议形式 |
|---|---|---|
| 全员 | 2课时 | 线下讲授 + 现场演示 |
| 业务岗 | 3课时 | 讲授 + 场景判断练习 |
| 技术岗 | 6课时 | 含原理深挖与选型实战 |
| 管理者 | 2课时 | 战略版,聚焦能力与成本 |
721 时间分配(合计 3 课时 / 约 135 分钟)
| 环节 | 占比 | 课时 | 时长 | 内容说明 |
|---|---|---|---|---|
| 讲授 | 35% | 1.0 课时 | 约 47 分钟 | 讲概念、讲方法、拆解案例 |
| 实操演练 | 45% | 1.4 课时 | 约 61 分钟 | 随堂动手,产出真实业务成果 |
| 研讨点评 | 20% | 0.6 课时 | 约 27 分钟 | 方案互评、答疑与改进建议 |
按 721 法则设计:以实操为主、讲授为辅、研讨收口;1 课时按 45 分钟计,可按企业作息调整。