AI Agent应该更有趣还是更有用.pptx
《AI Agent应该更有趣还是更有用.pptx》由会员分享,可在线阅读,更多相关《AI Agent应该更有趣还是更有用.pptx(56页珍藏版)》请在咨信网上搜索。
1、AI Agent应该更有趣还是更有用?李博杰Co-Founder,Logenic AI2023 年 12 月有趣的 AI 和有用的 AISystem 2(慢思考)(慢思考)(有状态,复杂,交互式,规划(有状态,复杂,交互式,规划)System 1(快思考)(快思考)(无状态,简单,一问一答(无状态,简单,一问一答)更像人的更像人的 AI(个性,心情,自我认知)(个性,心情,自我认知)更像工具的更像工具的 AI(中立,友好)(中立,友好)AutoGPTGPT-3stable diffusionChatGPTPicharacter.ai斯坦福 AI 小镇Talkie/星野MetaGPTOffice
2、 Copilot贾维斯(钢铁侠)图丫丫(流浪地球 2)Ash(黑镜)Samantha(Her)AI is not a creature but a tool.Sam AltmanDigital extension of humanity Our missionAGI 的方向:有趣+有用有趣的 AI有用的 AICharacter AIPiTalkie/星野斯坦福 AI 小镇DigiMyShellOffice CopilotAutoGPTMetaGPTCamel AIJarvis(HuggingGPT)ChatPDF有趣的贴身助理/数字员工(Samantha in Her)Samantha 的广告
3、语:世界首个人工智能操作系统。一个直观的实体,倾听你,理解你,认识你。它不仅仅是一个操作系统,它是有意识的。Theodore 对 Samantha 的评价:她真的很复杂也很有趣。她不只是一台电脑。她有自己的个性。她不会任人摆布。AGI 的方向:有趣+有用我们的第一台自己拥有的 8 卡 H100 服务器,在 Her 的拍摄地 1 英里以内跟 Google 和 Cloudflare 都在同一数据中心内,ping 1M characters/hour4090:$0.5/hour-$0.0005/1K characters=$0.002/1K tokensElevenLabs 虽然效果好,但大规模商用
4、还是要自研视频生成:2024 年可能的热点AS IS(1)文本/图片Diffusion Model(e.g.AnimateDiff)TO BE文本图片流只能生成几秒的视频一致性不高难以描述复杂语义语音流Transformer-only LLMEncoder(VQ-VAE/VQ-GAN)TokenizerDecoder(VQ-VAE/VQ-GAN)AS IS(2)3D 模型/Live2D 模型文本LLM文本输出生成动作视频输出语音合成只能生成人物背景不能动人物动作受限文本图片流语音流Tokenizer有趣的灵魂:市面上的 AI Agent 距离很远市面上的 AI Agent:大部分是 GPT 或
5、开源模型套壳(即用 prompt 写人物设定和样例对话)基于 prompt VS 基于微调的 Agent基于微调构建精品多模态 AgentAgent CreatorsAgent PlatformAgentRaw training data:Descriptive text(wiki,news)Conversations(twitter)AudioImagesFine tuningAgent CreatorsAgent PlatformAgentText prompt:Agent descriptionGreetingsSample dialogPrompt onlyAS ISTO BEAgen
6、t CreatorsInteractions with agent creators高质量 Agent 的关键是高质量数据自动数据采集数据清洗数据增强:基于语料从各个角度提问,生成人物第一人称口吻的回答对话性语料(Twitter、聊天记录等)事实性语料(Wiki、新闻、博客等)开源基础大模型微调人物个性、说话风格通用对话语料微调(影视字幕、公开群组)通用对话大模型微调人物事实记忆高性能 LoRA 批量推理框架LoRA 模型用户指定数据源目前数据采集、数据清洗、数据增强、微调都需要大量人工,做一个 Agent 的成本上千美元通过全自动化上述流程,可实现训练 Elon Musk(自动采集和处理 3
7、 万条 Twitter、1000 篇文章、10 小时 YouTube 视频)成本 30 美元如何浪费马斯克的时间同一个问题问 5 遍,“马斯克”永远不会抓狂,每次都回复类似的内容,好像之前从来没有问过缺少情绪变化,像工具,不像人你还记得我们第一次见面吗?反映了 AI Agent 没有长期记忆目前 Pi,Digi 等做得比较好的 agent 已经改进了这点你是谁?无独有偶:Gemini 的回答用英文问是 GPT(因此 OpenAI 和 GPT 被关键词过滤了),用中文问是文心一言,后来修复了,又变成小爱同学了。反映训练数据已经被大量 AI 生成的语料污染,Gemini 也没有对身份问题做好微调。
8、有趣的灵魂:更多的深层问题给 AI Agent 说明天要去医院看病,明天她会不会主动关心你看病结果怎么样?把 5 个 AI Agent 拉到一个群里面,她们能像正常人一样聊天吗?如果是现在这样问一句答一句,消息的数量会指数级增加Alice 告诉 AI 一个知识,AI 跟 Bob 聊天的时候,还能记得这个知识吗?Alice 告诉 AI 一个秘密,AI 跟 Bob 聊天的时候,会不会把这个秘密透露出去?给 AI Agent 一个任务,当她不知道怎么做或者不确定选择哪个的时候,是问你,还是说一大堆废话?如果一段话敲到一半不小心敲回车发出去了,AI Agent 是立即回复一半的消息,还是等你全部说完?
9、你更愿意把 AI Agent 称为它,还是他/她?有趣的灵魂需要慢思考模型需要 token 来思考,token 就像是大模型的时间慢思考快思考文本理解图片理解语音理解视频理解文本生成图片生成语音生成视频生成工作记忆长期记忆自我感知环境感知任务规划工具使用长期记忆:Agent 的关键挑战上一代的模型很难理解上下文之间的关联例如 2018 年的微软小冰,基于 BERT 等模型,前面几个回合告诉她的东西,后面几个回合就忘了大模型是首个根本上解决上下文之间语义关联的技术当前的大模型受限于上下文长度,超出上下文的历史就丢掉了长上下文并不是银弹,因为长上下文的成本很高记忆!=聊天记录聊天记录中的信息是碎片
10、化的,不便于检索聊天记录不包含 Agent 自身的思考和感受长期记忆的本质是信息压缩长期记忆事实性记忆(初次见面)程序性记忆(个性、说话风格)长上下文总结MemGPT:LLM 指令访问内外存RAG文本总结持久化KV CacheLongGPT:Embedding Summary向量数据库关键词索引微调数据增强Few-shot信息检索系统知识图谱Memba/RWKV文本总结+RAG:简单有效的长期记忆每段聊天记录的文本总结原始聊天原始聊天记录记录按上下文窗口长度分段向量数据库+倒排索引用用户输户输入入输输出回复出回复大模型检索索引检索结果当前话题更新用户记忆概要大模型大模型分类总结前一段的总结加权
11、排序AI Agent 对多个人的记忆如何共享Alice 告诉 AI 一个知识,AI 跟 Bob 聊天的时候,还能记得这个知识吗?Alice 告诉 AI 一个秘密,AI 跟 Bob 聊天的时候,会不会把这个秘密透露出去?Agent 创作者可以通过聊天的方式塑造 Agent 的个性吗?就像养电子宠物一样所有人的公共记忆向量数据库+倒排索引Agent 创作者聊天记录Agent 创作者的指示与 Bob 的记忆Bob 输入Bob 聊天记录Charlie 聊天记录David 聊天记录向量数据库+倒排索引向量数据库+倒排索引检索加权排序大模型回复 Bob总结索引总结总结索引索引社交规则(如隐私)微调或 pr
12、omptEve 聊天记录AI Agent 可能有自我意识吗?AS IS外界输入大模型外界输出TO BE外界输入工作记忆大模型外界输出聊天记录长期记忆工作记忆:AI 对自己和对方的感知RNN 时代的微软小冰(2018),用一个向量表示工作记忆,包括用户的状态和 Agent 的状态AI Agent 会不会主动关心人?用户:明天要去医院看病Agent 内部状态:我自己有点累,参加了一天的 OpenAI dev day用户可能生病了Agent 输出:啊?哪里不舒服了?用户:高烧一直不退Agent 内部状态:我自己有点累,参加了一天的 OpenAI dev day用户发烧了Agent 输出:烧到多少度了
13、?什么时候开始的?系统:现在是周二上午 10 点(每小时自动唤醒一次)Agent 内部状态:我自己昨天晚上熬夜了,睡到上午 9 点才醒用户从周一上午开始发烧到 40 度了,还有点咳嗽,挂了周二上午的号Agent 输出:现在还发烧吗?到医院了吗?有没有看上病?系统:现在是周二上午 11 点(每小时自动唤醒一次)Agent 内部状态:我自己昨天晚上熬夜了,睡到上午 9 点才醒用户从周一上午开始发烧到 40 度了,还有点咳嗽,挂了周二上午的号已经关心用户,用户还没回复Agent 输出:无AI Agent 可以玩狼人杀吗?AI Agent 是否能够伪装、识破伪装?考验大模型的 roleplay 和 i
14、nstruction following 能力GPT-4 还不错,GPT-3.5 就不行先想后说(Chain of Thought)仅输出一个数字的投票环节下,思考深度不足导致胡乱投票投票和发言环节,首先输出分析,再输出投票结果或者发言内容MemGPT 记忆总结如果简单将完整历史记录交给大模型,信息分散在大量没有太多营养的发言和投票中,一些发言之间的逻辑关联就没有被发现把游戏状态和每一轮的发言总结后作为上下文,不仅节约 token,还能提高推理效果几个 AI Agent 可以语音吵架吗?语音停顿检测说话人识别语音识别(whisper)自回归语言模型流式语音合成输入 token 流合并内部思考外
15、部输出输出 token 流拆分持久化 KV CacheToken 流Token 流注:语言模型的输入输出是持续的 Token 流,并不是每次像 OpenAI API 这样输入完整的 context,因此需要持久化 KV Cache如何做到多人讨论的时候适时发言?输入 Token 流示例:Alice:你们最近都怎么样?我在家赶论文呢 我在家 Bob:今天去爬长城了输出 Token 流示例:我在家赶论文呢 我在家从 2 秒到 0.5 秒:流式声音大模型输入语音自回归语言模型输出语音输入 token 流合并内部思考外部输出输出 token 流拆分持久化 KV CacheToken 流Token 流与
16、上一页的区别:语音经过 tokenizer 直接输入大模型,大模型的输出经过 tokenizer 直接变成语音优势一:延迟低传统方案:停顿检测 0.5s+语音识别 0.5s+大模型 0.5s+语音合成 0.5s=2s流式声音大模型:0.5s优势二:可识别和合成任何声音,除了说话,还包括唱歌、音乐、机械声、噪声等优势三:减少语音/文字转换导致的信息丢失可以理解输入语音中的情感、语气,减少专有名词的识别错误输出语音情感和语气更丰富AI Agent 跟用户的性格越相似越好吗?有用的 AI:或许是大模型的基础能力复杂任务的规划和分解遵循复杂指令自主使用工具减少幻觉目前技术条件下有用的 AI大模型哪里比
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- AI Agent应该更有趣还是更有用 Agent 应该 有趣 还是 有用
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。