DeepSeek技术溯源及前沿探索.pptx

,浙江大学,DS,系列专题,主讲人：朱强,浙江大学计算机科学与技术学院,人工智能省部共建协同创新中心（浙江大学,）,很 聪 明!,I,am,pretty,smart!,隐空间,Representation,Encoder-,Decoder,8,Outline,一、语言模型,二、,Transformer,三、,ChatGPT,四、,DeepSeek,五、新一代智能体,9,10,Transformer：,理论架构创新,自注意力机制：,支持并行计算/全局上下文的理解能力,多头注意力：,从多个角度捕捉复杂的语义关系,前馈网络,/,位置编码,/,层归一化：,解决了传统模型的诸多局限性,大型语言模型简史,2017,2018,2018,2019,2019,2020,2021,2022,2022,2023,2023,2024,2024,2024,2025,JUN,JUN,OCT,FEB,OCT,MAY,SEP,MAR,NOV,FEB,MAR,MAR,APR,DEC,JAN,1958,Transformer,GPT,BERT,GPT-,2,T5,GPT-,3,FLAN,GPT-,3.5,InstrutGPT,ChatGPT,LLaMA,GPT-,4,GPT-,4o,LLaMA-,3.1,405B,OpenAI-,o1,DeepSeek-,V3,DeepSeek-,R1,喜欢 吃,甜豆花,1,2,3,The,animal,didnt,cross,the,street,because,it,was,too,tired/wide,12,13,Transformer,:,（,自）,注意力机制,Image,Sketch,Gradient,在理解,图像任务,时，,Attention,机制本质上是,一种图像特征抽取,14,Transformer,:,训练机制,场景：,你在图书馆想找一本关于“机器学习基础”的书,Query,：,描述要找的,书（精准的需求描述,）,Key,：,书的索引编号,（高效的书籍定位,）,Value,：,内容的抽取,（,由目标任务驱动,）,https:/newsletter.theaiedge.io/p/the-,multi-,head-,attention-,mechanism,大型语言模型简史,预训练时代：,大力出奇迹（“暴力美学”）,BERT,：,B,idirectional,E,ncoder,R,epresentations,T,ransformers,GPT,:,G,enerative,P,ertained,T,ransformer,自监督算法,：MLM/NTP/MAE,解决海量数据标注问题,2017,2018,2018,2019,2019,2020,2021,2022,2022,2023,2023,2024,2024,2024,2025,JUN,JUN,OCT,FEB,OCT,MAY,SEP,MAR,NOV,FEB,MAR,MAR,APR,DEC,JAN,1958,Transformers,GPT,BERT,GPT-,2,T5,GPT-,3,FLAN,GPT-,3.5,InstrutGPT,ChatGPT,LLaMA,GPT-,4,GPT-,4o,LLaMA-,3.1,405B,OpenAI-,o1,DeepSeek-,V3,DeepSeek-,R1,OpenAI-,o3,15,BERT,Oct,2018,Representatio,GPT,Jun,2018,Generation,16,The,LLM,Era,Paradigm,Shift,in,Machine,Learning,BERT,2018,DistilBERT,2019,RoBERTa,2019,ALBERT,2019,ELECTRA,2020,R,e,D,p,e,r,B,e,E,s,e,R,n,T,ta,t,i,o,2,0,n,2,0,GPT,2018,GPT-,2,2019,GPT-,3,2020,GPT-,Neo,2021,GPT-,3.5,(ChatGPT),2022,LLaMA,2023,GPT-,4,2023,Generation,17,T5,2019,BART,2019,mT5,2021,The,LLM,Era,Paradigm,Shift,in,Machine,Learning,自监督学习（语言,）,Masked,Langauge,Modeling（MLM）,模型会不断地在句子中挖去一个单词，根,据剩下单词的上下文来填空，即预测最合适的填空词出现的概率，这一过程为,自监督学习,原话,：,一辆,列车,缓,慢,行驶,在,崎岖,的,山路,上,移除单词,：,一辆,列车,行驶,在,崎岖,的,山路上,预测填空,：,一辆,列车,缓,慢,行驶,在,崎岖,的,山路,上,18,19,自监督学习（图像,）,Masked,AutoEncoders（MAE）,通过随机遮盖部分输入数据（如图像）,并重建,缺失内容，让模型从上下文中学到图像的深层特征，常用于计算机视觉任务。,遮盖图像,重建图像,https:/arxiv.org/pdf/2111.06377,数据是,燃料,、模型是,引擎,、算力是,加速器,数据,：训练中使用了,45TB,数据、近,1,万亿个单词,（约,1351,万本牛津词典所包含单词数量）,以及数十亿行源代码。,模型,：包含了,1750,亿参数，将这些参数全部打印在,A4,纸张上，一张一张叠加后，叠加高度将超过上海中心大厦,632,米高度。,算力,：,ChatGPT,的训练门槛是,1,万张英伟达,V100,芯片、约,10,亿人民币。,大数据、大模型、大算力下以“共生则关联”原则实现了统计关联关系的挖掘。,MCP,神经元,Perceptron,DNN,神经网络早期前向神经网络,seq2seq,序列学习,循环神经网络,RNN,LSTM,Word2vec,词向量,单词之间关联关系,Transformer,Self-,supervised,Prompt,Fine-,tune,语言大模型,LLM,人类反馈强化学习,（InstructGPT）,CodeX（CoT,120,亿参数,）,引入,Self-,attention,ChatGPT,训练,transformer,的通用之力,20,大模型,Large,Model,大语言模型,（LLM）,Large,Language,Model,BERT,系列,GPT,系列,3.5/4,GPT-,4o,Deepseek-,v3,科学计算模型,Science,Model,多模态大模型,（LMM）,Large,Multimodal,Model,DDPM,SAM,交互式,Demo,Sora,DALLE3,in,ChatGPT,Alpha,系列,AlphaStar,魔兽争霸,气象大模型,药物分子预测,PanguLM,Midjourney,Google,Bard,文心一言,AlphaGo,围棋,AlphaFold,蛋白质预测,GPT-,o1/o3,Deepseek-,R1,机理,技术,产品,21,大模型脉络,22,群雄（中美）,争霸,OpenAI,最新,15,页报告:,DeepSeek,缩小中美,AI,差距,A,Survey,on,Large,Language,Models,with,some,Insights,on,their,Capabilities,and,Limitations,23,闭源,vs,开源,国际企业,微软,投资,OpenAI,的,GPT-,4.0,系列,闭源,自研开源小模型,Phi-,3,Mini,开源,亚马逊,自研,Titan,系列,闭源,投资,Anthropic,的,Claude,3.5,系列,闭源,谷歌,Gemini,系列,闭源,Gemma,系列,开源,META,Llama3,系列,开源,Mistral,AI,Mistral-,Large,闭源,Mistral-,Medium,开源,中国企业,阿里,通义千问2.5,系列基础模型、行业模型,开源,Qwen,0.5b-,110b,系列开源模型,开源,华为,盘古系列,闭源,腾讯,混元基础模型、行业模型,闭源,混元开源模型,开源,百度,文心一言4.0,模型,闭源,DeepSeek,以一己之力改变了开源和闭源的力量对比：从,612,个月的代差缩短到,13,个月,24,12,层，每层,12,个注意头,GPT-,2,做了以下改进：,增加到,4,8,层，使用,1600,维向量进行词嵌入；,将层归一化移动到每,个子块的输入，并在最终的自注意块后增加一层归,一化；,修改初始化的残差 层,权重，缩放为原来的,1/,，其中，,是残差层,的,数量；,特征向量维数从,768,扩,展到,1600,，词表扩大到,50257,。,GPT-,3,做了以下优化：,增加到,96,层，每层有,96,个注意头；,单词嵌入大小从,1600,增加到,12888；,上下文窗口大小从,GPT,-,2,的,1024,增加到,2048,，并采用交替密度,和局部带状稀疏注意模式。,ChatGPT,基于,GPT-,3.5：,1,.,ChatGPT,使用来自人,类反馈的强化学习进行训,练；,2,.通过近端策略优化算,法进行微调，为信任域策,略优化算法带来成本效益。,模型,发布时间,参数量,预训练数据量,GPT-,1,2018,年,6,月,1.17,亿,约,5GB,GPT-,2,2019,年,2,月,15,亿,40G,GPT-,3,2020,年,5,月,1750,亿,45TB,ChatGPT,2022,年,11,月,千亿级,?,百,T,级,?,摩尔定律（大模型时代,）,DeepSeek,通过大幅提升模型训练、推理效率，缓解(?)了算力需求?,Outline,一、语言模型,二、,Transformer,三、,ChatGPT,四、,DeepSeek,五、新一代智能体,25,大型语言模型简史,GPT-,3：,语言模型的转折点,大语言模型：,1750,亿参数,涌现,能力：,随着模型规模增大而出现的新能力,生成/创造：,Art,ificial,Intelligence,（,人工,=,艺术,）,2017,2018,2018,2019,2019,2020,2021,2022,2022,2023,2023,2024,2024,2024,2025,JUN,JUN,OCT,FEB,OCT,MAY,SEP,MAR,NOV,FEB,MAR,MAR,APR,DEC,JAN,1958,Transformers,GPT,BERT,GPT-,2,T5,GPT-,3,FLAN,GPT-,3.5,InstrutGPT,ChatGPT,LLaMA,GPT-,4,GPT-,4o,LLaMA-,3.1,405B,OpenAI-,o1,DeepSeek-,V3,DeepSeek-,R1,OpenAI-,o3,26,大型语言模型简史,ChatGPT,：,人工智能的,IPHONE,时刻,2017,2018,2018,2019,2019,2020,2021,2022,2022,2023,2023,2024,2024,2024,2025,JUN,JUN,OCT,FEB,OCT,MAY,SEP,MAR,NOV,FEB,MAR,MAR,APR,DEC,JAN,1958,Transformers,GPT,BERT,GPT-,2,T5,GPT-,3,FLAN,GPT-,3.5,InstrutGPT,ChatGPT,LLaMA,GPT-,4,GPT-,4o,LLaMA-,3.1,405B,OpenAI-,o1,DeepSeek-,V3,DeepSeek-,R1,OpenAI-,o3,27,OpenAI,技术白皮书,GPT-,3,Series,GPT-,3.5,Series,Training,on,code,Large-scale,language,model,pretraining,GPT-,3,Initial,LM,+,code,training,then,instruction,tuning,Code-,davinci-,002,RLHF,Instruction,tuning,Codex,Initial,Code-,davinci-,001,Code-,cushman-,001,InstructGPT,Initial,Instruct-,davinci-,beta,Text-,davinci-,001,Text-,davinci-,002,RLHF,ChatGPT,Text-,davinci-,003,Davinci,28,Large-scale,language,model,pretraining,Training,on,code,GPT-,3,Initial,Instruction,tuning,GPT-,3,Series,Codex,Initial,Davinci,InstructGPT,Initial,Code-,davinci-,001,Instruct-,davinci-,beta,Code-,cushman-,001,Text-,davinci-,001,LM,+,code,training,then,instruction,tuning,Code-,davinci-,002,GPT-,3.5,Series,RLHF,Text-,davinci-,002,RLHF,Text-,davinci-,003,ChatGPT,GPT-,3,Initial,初代,GPT-,3,展示了三个重要能力,（来自于大规模的预训练,）,语言生成,：来自语言建模的训练目标（,说人话,）,世界知识,：来自,3000,亿单词的训练语料库,（,百晓生,）,上下文学习,：上下文学习可以泛化，仍然难以溯源（,触类旁通,）,初代,GPT-,3,表面看起来很弱，但有非常强的潜力，展示出极为强大的“涌现”能力,29,GPT3,Initial,Large-scale,language,model,pretraining,Training,on,code,GPT-,3,Initial,Instruction,tuning,GPT-,3,Series,Codex,Initial,Davinci,InstructGPT,Initial,Code-,davinci-,001,Instruct-,davinci-,beta,Code-,cushman-,001,Text-,davinci-,001,LM,+,code,training,then,instruction,tuning,Code-,davinci-,002,GPT-,3.5,Series,RLHF,Text-,davinci-,002,RLHF,Text-,davinci-,003,ChatGPT,Codex,Initial,InstructGPT,Initial,2020,-,2021,年，,OpenAI,投入了大量的精力通过,代码训练,和,指令微调,来,增强,GPT-3,。,使用,思维链,进行复杂推理的能力很可能是代码训练的一个神奇副产物,使用,指令微调,将,GPT-,3.5,的分化到不同的技能树,（,数学家/程序员/,）,30,Codex,+,Instruct,Large-scale,language,model,pretraining,Training,on,code,GPT-,3,Initial,Instruction,tuning,GPT-,3,Series,Codex,Initial,Davinci,InstructGPT,Initial,Code-,davinci-,001,Instruct-,davinci-,beta,Code-,cushman-,001,Text-,davinci-,001,LM,+,code,training,then,instruction,tuning,Code-,davinci-,002,GPT-,3.5,Series,RLHF,Text-,davinci-,002,RLHF,Text-,davinci-,003,ChatGPT,Code-,davinci-,002,1）,指令微调,不会为模型注入新的能力,（解锁能力,）,2）,指令微调,牺牲性能换取与人类对齐,（“对齐税,”）,31,GPT3.5,Large-scale,language,model,pretraining,Training,on,code,GPT-,3,Initial,Instruction,tuning,GPT-,3,Series,Codex,Initial,Davinci,InstructGPT,Initial,Code-,davinci-,001,Instruct-,davinci-,beta,Code-,cushman-,001,Text-,davinci-,001,LM,+,code,training,then,instruction,tuning,Code-,davinci-,002,GPT-,3.5,Series,RLHF,Text-,davinci-,002,RLHF,Text-,davinci-,003,ChatGPT,RLHF,RLHF,2022.11,RLHF,（基于人类反馈的强化学习的指令微调）,触发的能力：,翔实的回应,公正的回应,拒绝不当问题,拒绝其知识范围之外的问题,32,ChatGPT,（,技术到产品,）,大型语言模型简史,多模态模型：,连接文本、图像及其他,开源：,Meta,的,LLaMA,系列（普惠学术领域,）,GPT-,4v,:,视觉遇见语言（跨模态,）,GPT-,4o,:,全模态前沿（交互能力,）,2017,2018,2018,2019,2019,2020,2021,2022,2022,2023,2023,2024,2024,2024,2025,JUN,JUN,OCT,FEB,OCT,MAY,SEP,MAR,NOV,FEB,MAR,MAR,APR,DEC,JAN,1958,Transformers,GPT,BERT,GPT-,2,T5,GPT-,3,FLAN,GPT-,3.5,InstrutGPT,ChatGPT,LLaMA,GPT-,4,GPT-,4o,LLaMA-,3.1,405B,OpenAI-,o1,DeepSeek-,V3,DeepSeek-,R1,OpenAI-,o3,33,GPT-,4,可提供多模态能力,zero-shot及,few-,shot,的能力,GPT-,4,逻辑推理能力的飞跃,GPT-,4,的安全性已经大幅提升,更强的专属能力（如编程,）,处理其它语言的能力,处理更长序列的能力,GPT-,4v,（,听、,说,看,）,2023.06,34,多模态输入输出（交互能力,）,响应速度（接近人类响应,）,数学推理、编程等能力提升,非英文文本性能大幅提升,视觉和音频理解能力,成本优势,GPT-,4o,（,文科博士生,）,35,2024.06,推理能力大幅提升：数学和编程能力爆表,更像人类一样思考：全新安全训练方法,&,更强的“越狱”抵抗力,GPT-,o1,（,理科博士生,）,36,2024.09,Outline,一、语言模型,二、,Transformer,三、,ChatGPT,四、,DeepSeek,五、新一代智能体,37,大型语言模型简史,推理模型：,从生成到推理的重心转变,OpenAI-,o1/o3,：推理能力的一大飞跃,DeepSeek-,V3/R1,:专家模型、强化学习，开源，效率,2017,2018,2018,2019,2019,2020,2021,2022,2022,2023,2023,2024,2024,2024,2025,JUN,JUN,OCT,FEB,OCT,MAY,SEP,MAR,NOV,FEB,MAR,MAR,APR,DEC,JAN,1958,Transformers,GPT,BERT,GPT-,2,T5,GPT-,3,FLAN,GPT-,3.5,InstrutGPT,ChatGPT,LLaMA,GPT-,4,GPT-,4o,LLaMA-,3.1,405B,OpenAI-,o1,DeepSeek-,V3,DeepSeek-,R1,OpenAI-,o3,38,39,DeepSeek-,V3,Base,(671B/37B,激活,),阶段,1,:,有监督微调,SFT,强化学习,GRPO,（规则奖励,）,+,语言一致性奖励,阶段,2,的模型生成,推理,SFT,数据,推理数据,（,60w,样本,）,冷启动阶段,（,DeepSeek-R1-Zero,生成,少量推理数据,）,DeepSeek-,V3,SFT,数据,DeepSeek-,V3,Base,(671B/37B,激活,),COT,Prompting,非推理数据,（,20w,样本,）,数据合并,（,80w,样本,）,DeepSeek-,R1-,Zero,Qwen2.5-,14B,Llama3.3-,70B-,Qwen2.5-,32B,Llama3.1-,8B,Instruct,SFT,(2,epochs),DeepSeek-,R1-,Distill,阶段,3,：,SFT,(2,epcohs),阶段,4,：全场景,强化学习,DeepSeek-,R1,基于规则奖励的大规模强化学习,阶段,2,：基于规则,奖励的强化学习,模型蒸馏,（,Distillation,）,DeepSeek,模型并非是颠覆性基础理论创新,（Transformer-,based），,其对算法、模型和系统等进,行的,系统级协同工程创新,，打破了大语言模型以大算力,为核心的预期天花板，为,受限资源下探索通用人工智能,开辟了新的道路。,DeepSeek,技术全景图,DeepSeek,Step,1:,DeepSeek-,V3,Base,Step,2:,DeepSeek-,R1-,Zero,Step,3:,DeepSeek-,R1,Step,4:,DeepSeek-,R1-,Distill,基础生成模型,推理模型初试,推理横型大成,R1,蒸馏小模型,DS-,V3,对标,GPT-,4o（,文科博士生,）：,混合专家模型：,V3,基座模型总共有,6710,亿参数，但是每次,token,仅激活,8,个专家、,370,亿参数,（,5.5%,）,。,极致的工程优化：多头潜在注意力机制(,MLA,),，使用,FP8,混合精,度，,DualPipe,算法提升训练效率，将训练效率优化到极致，显存占用为其他模型的,5%-,13,%,。,DeepSeek,技术揭秘,动态路由机制和专家共享机制,DeepSeek,Step,1:,DeepSeek-V3,Base,Step,2:,DeepSeek-,R1-,Zero,Step,3:,DeepSeek-,R1,Step,4:,DeepSeek-,R1-,Distill,40,基础生成模型,推理模型初试,推理横型大成,R1,蒸馏小模型,DeepSeek,技术揭秘,赋予,DeepSeek-,V3,最基础的推理能力：,R1-Zero,使用,DeepSeek-,V3-Base,作为基础模型，直接使 用,GRPO,进 行 强 化 学 习 来 提 升 模 型 的 推 理性能：,准确度奖励,（,Accuracy,rewards,）,格式奖励,（,Format,rewards,）,人工标注,奖励模型,奖励规则,SFT,RLHF,GRPO,0,或,1,引入人类偏好数据,将知识抽象为奖励规则,通过标注将知识显示化,数据驱动,+,知识引导,DeepSeek,Step,1:,DeepSeek-,V3,Base,Step,2:,DeepSeek-,R1-,Zero,Step,3:,DeepSeek-,R1,Step,4:,DeepSeek-,R1-,Distill,41,基础生成模型,推理模型初试,推理横型大成,R1,蒸馏小模型,DeepSeek,技术揭秘,DeepSeek-,V3,Base,(671B/37B,激活,),阶段,1,:,有监督微调,SFT,强化学习,GRPO,（规则奖励,）,+,语言一致性奖励,阶段,2,：模型生成,推理,SFT,数据,推理数据,（,60w,样本,）,冷启动阶段,（,DeepSeek-R1-Zero,生成,少量推理数据,）,DeepSeek-,V3,SFT,数据,DeepSeek-,V3,Base,(671B/37B,激活,),COT,Prompting,非推理数据,（,20w,样本,）,数据合并,（,80w,样本,）,DeepSeek-,R1-,Zero,Qwen2.5-,14B,Llama3.3-,70B-,Qwen2.5-,32B,Llama3.1-,8B,Instruct,SFT,(2,epochs),DeepSeek-,R1-,Distill,阶段,3,：,SFT,(2,epcohs),阶段,4,：全场,景强化学习,DeepSeek-,R1,基于规则奖励的大规模强化学习,阶段,2,：基于规则,奖励的强化学习,模型蒸馏,（,Distillation,）,DS-,R1,对标,OpenAI-,o1（,理科博士生,）：,阶段,1,：,DeepSeek-R1-Zero,生成,少量推理数据,+,SFT,=,为,V3,植入初步推理能力（,冷启动,）,阶段,2,：根据规则奖励直接进行强化学习（,GRPO,）训练,=,提升推理能力（多轮迭代，获取,大量推理数据,）,阶段,3,：迭代生成推理,/,非推理样本微调,=,增强,全场景能力,阶段,4,：全场景强化学习,=,人类偏好对齐,（,RLHF,）,DeepSeek,Step,1:,DeepSeek-,V3,Base,Step,2:,DeepSeek-,R1-,Zero,Step,3:,DeepSeek-,R1,Step,4:,DeepSeek-,R1-,Distill,42,基础生成模型,推理模型初试,推理横型大成,R1,蒸馏小模型,DeepSeek,技术揭秘,DeepSeek-,R1-,Distill,模型：,基于各个低参数量通用模型（千问、,Llama,等,）,使用,DeepSeek-R1,同款数据微调,大幅提升低参数量模型性能,知识蒸馏：,老师教学生,：,“,解题思路,”,，不仅给答案（硬标签），还教,“,为什么,”,（软标签,）,模型瘦身,：大幅压缩参数（如,671,亿,7,亿参数），手机也能跑,AI,DeepSeek,Step,1:,DeepSeek-,V3,Base,Step,2:,DeepSeek-,R1-,Zero,Step,3:,DeepSeek-,R1,Step,4:,DeepSeek-,R1-,Distill,43,基础生成模型,推理模型初试,推理横型大成,R1,蒸馏小模型,大模型应用层,垂直应用,教育,医疗,法律,制造,客服服务,（智能客服,）,OA,类,（WIKI,等,）,数据经营分析,运营工具,（产品、渠道,）,GPT,Agent,（基于,Prompt,的应用，,AutoGPT，AgentGPT,等,）,大模型应用开发框架,（Langchain）,大模型精调,训练数据管理与生成,精调,pipeline,基础架构及模型部署,GPT4（,公有云,）,LLMA（,开源,）,Stable,Diffusion,基础模型应用支持,微调,插件嵌入,大模型中间层,基础模型层,通用类,DeepSeek,带来的全栈影响,44,Outline,一、语言模型,二、,Transformer,三、,ChatGPT,四、,DeepSeek,五、新一代智能体,45,46,技术架构,Transformer,(2017),Bert/GPT,(2018),01,02,03,04,05,06,07,通用,LLM,ChatGPT,(2022),LLaMA,(2023),Vicuna,(2023),大模型开发工具,LangChain,(2022),LlamaIndex,(2023),垂类,LLM,Code,Llama,(2023),MathGLM,(2023),LawBench,(2023),垂类应用,LLM,VSCode,(2023),DB,GPT-,Hub,(2023),Kore.ai,(2023),Uchat,(2024),基于,LLM,的,Agent,HuggingGPT,(2023),AutoGPT,(2023),JARVIS,(2024),Agent,开发平台,GPTs,(2023),Coze,(2024),Agent,Builder,(2024),Agent,OS,(2024),Deepseek,从,LLM,到,Agent,47,系统,1,（,快速、直觉,）和系统,2,（,缓慢、分析,）,SAVING,TAX,DOLLARS;,SAVING,LIVES:,USING,NUDGE,THEORY,TO,ELIMINATE,OUTDATED,EMERGENCY,LOCATOR,GPT-,4v/4o,DeepSeek-,V3,GPT-,o1/o3,DeepSeek-,R,生成大模型,系统,1,到推理大模型,系统,2,48,LLM,是,Agent,的大脑，其核心能力是,“逻辑推理”,系统,2,Planning,Skills,：,对问题进行拆解得到解决路径，既进行任务规划,Tool,Use,：,评估自己所需的工具，进行工具选择，并生成调用工具请求,Memory,：,短期记忆包括工具返回值，已完成推理路径；长期记忆包括可访问的外部长期存储等,Lilian,Yung,Director,of,Applied,Research,at,OpenAI,新一代智能体=,Agent,+,LLM,LLMs,Plannin,g,Tools,CodeInterpreter(),Calculator(),Calendar(),Search(),.more,Chain,of,thoughts,Subgoal,decomposition,Self-,critics,Reflection,Action,Long-,term,memory,Short-,term,memory,Memor,y,49,时空智能的自主化服务,（国自然基金重大课题,）,时空型,GPT,记忆,规划,工具,执行,空间规划,土地利用规划,功能区规划,.,算法模型,淹没分析,流域分析,.,黄河干流和主要支流,基础地理信息知识,最大行洪范围,感知模型,多传感器对地观测,认知模型,土地利用分类,表达模型,耕地保护方案,由“,时空型,GPT,”作为决策大脑驱动，构成一个闭环多智能体协同系统,实现流程,自,组织、任务,自,执行、内容,自,生成，即时空智能的,自主化构建,THANKS,感 谢 观 看,勤 学/修 德/明 辨/笃 实,