人工智能行业专题:海外AI基础软件被认可.pdf
《人工智能行业专题:海外AI基础软件被认可.pdf》由会员分享,可在线阅读,更多相关《人工智能行业专题:海外AI基础软件被认可.pdf(23页珍藏版)》请在咨信网上搜索。
1、请务必阅读正文之后的免责声明及其项下所有内容人工智能行业专题海外AI基础软件被认可人工智能行业专题海外AI基础软件被认可行业研究 行业专题 计算机 人工智能投资评级:买入(维持评级)行业研究 行业专题 计算机 人工智能投资评级:买入(维持评级)请务必阅读正文之后的免责声明及其项下所有内容目录目录一、Datadog:APM助力GPT应用降本增效1.1 Datadog是高效的APM解决方案1.2 AIGC给APM带来新的投资领域二、Palantir:大模型应用于数据分析2.1 Palantir AIP可用于军用和民用领域2.2 AI市场增长加速Palantir收入增长三、投资建议:关注国内相关映射
2、公司pOsRrRrRvMtPrNoQnOtOmQ6MbP7NtRoOpNpMkPpPoQfQqRzQ9PqRrMMYpPoNvPpMmP请务必阅读正文之后的免责声明及其项下所有内容1、Datadog:APM助力GPT应用降本增效请务必阅读正文之后的免责声明及其项下所有内容美国AI主流分析可分为数据、数据传输和数据处理图1:美国AI主流分析可为数据、数据传输和数据处理资料来源:Datadog,Broadcom,Nvidia,国信证券经济研究所整理美国AI主流分析可分为数据、数据传输、数据处理。1)数据(Data)层面:对数据全方位的监测服务,帮助用户深入了解其基础设施的性能表现,特别是监控 AP
3、I 的使用情况和tokens消耗对于控制支出和提高应用程序性能也至关重要,代表公司为Datadog;2)数据传输(Supplying/Moving the Data)层面:AI需要大量的数据训练,对服务器之间数据传输速度提出更高要求,代表公司为博通;3)数据处理(Processing Power to Run AI Algorithms to data)层面:这一环节需要强AI算力支撑,目前主流AI算力芯片仍是GPU,代表厂商为英伟达。美国AI主流分析数据数据传输数据处理代表公司Datadog博通英伟达请务必阅读正文之后的免责声明及其项下所有内容图2:微服务将取代传统的整体架构资料来源:Dev
4、opsschool,国信经济研究所整理微服务将取代传统的整体架构微服务将取代传统的整体架构。1)在传统的单片框架中,软件被构建为一个单一的、不可分割的单元,从而产生更简单但不太灵活的系统;其优点为更容易开发和安装,但实现更改或进行拓展相对困难;2)微服务方法可将整个架构拆分为不同的模块,并将每个模块为一项服务运行,这些服务使用轻量级 API 通过明确定义的接口进行通信,可以针对各项服务进行更新、部署和扩展,以满足对应用程序特定功能的需求。图3:微服务可针对各项服务进行更新、部署和扩展资料来源:亚马逊,国信经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容Datadog:数据聚合、云监控
5、和业务分析Datadog 是一款专为云时代的应用程序而设计的监控和分析平台。它可以帮助开发人员、IT 运营团队和业务用户实现对整个技术堆栈的统一、实时的可观察性。Datadog拥有实时统一数据平台,使公司能够轻松地跨各种“数据孤岛”和格式聚合和监控其数据;随着时间的推移,Datadog增加了功能丰富的创新,如基础设施和性能监控以及云安全;对于想要“做多人工智能”的公司,Datadog提供整合平台解决方案;Datadog数据产品、日志记录、APM 和测试的部分,它们以索引的数据量或测试量命名。Datadog产品包括括主机,云和容器的基础架构管理,日志管理,事件管理,早期问题和异常检测,预生产测试
6、,分析,应用程序安全管理和网络监控等服务。图4:Datadog产品应用丰富资料来源:Datadog,国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容Datadog:在APM和可观测研究领域,具备领先优势图5:Datadog在APM和可观测研究领域,具备领先优势资料来源:Gartner,国信证券经济研究所整理Datadog在APM和可观测研究领域,具备领先优势。根据Gartner披露数据,其将APM和可观测研究领域市场参与者划为四象限,其中Datadog和Dynatrace(DT)处于领导者(Leader)象限,具备非常明显的领先优势。请务必阅读正文之后的免责声明及其项下所有内
7、容Datadog+OpenAI:微调与增强数据监控对大模型厂商非常重要。监控API的使用情况和Tokens消耗对大模型厂商控制支出和提高应用程序性能非常重要,大模型厂商可以通过优化API的使用、延迟和成本,进而更加有效地使用AI模型。了解用法:通过简单的设置过程,用户可以使用 Datadog 快速全面了解 OpenAI 对 API 的整体使用情况、tokens消耗和按服务、团队和 API 密钥划分的成本;优化性能:通过跟踪 API 错误率、速率限制和响应时间,Datadog 允许用户识别应用程序性能问题并将其与 API 性能问题隔离开来。此外,用户可以查看包含提示和完成示例的跟踪和日志,以了解
8、关键应用程序瓶颈和用户行为;跟踪成本:用户可以查看tokens分配并分析 OpenAI API 调用的相关成本。Datadog 提供按模型、服务和组织分配的tokens洞察,帮助团队更有效地管理费用并避免意外账单;涵盖多种 AI 模型:除了涵盖大型语言模型的GPT系列之外,Datadog的集成还使组织能够跟踪其他OpenAI模型的性能,成本和使用情况,包括Ada,Babbage,Curie和Davinci。图6:Datadog控制和管理数据流资料来源:Datadog,国信证券经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容APM是IT服务管理(ITSM)的重要工具,主要对软件应用程序
9、的性能和服务质量进行监控和管理。APM工具对于保持应用程序性能,以及在性能出现问题时快速定位和解决问题非常重要。APM的目标是通过确保应用程序性能达到满意水平,以提高最终用户的体验和满意度。这通常通过追踪和监控应用程序来实现,这些应用程序可能位于数据中心内,也可能在云端。APM工具可以帮助IT和运维团队了解应用程序的性能情况,以便在性能下降时可以及时采取措施进行优化。APM是SaaS中的重要环节。由于SaaS应用程序通常服务于大量用户并且需求可能随时间变化,所以需要有强大的监控工具来确保服务的稳定性和性能。如果SaaS应用程序出现性能问题,可能会影响到所有用户,这就使得APM在这种环境下更为关
10、键。APM是IT和SaaS的重要工具图7:应用性能管理流程图资料来源:Seeking Alpha,国信经济研究所整理9图8:常用的APM工具资料来源:Seeking Alpha,国信经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容Datadog是一种专注于云端软件基础设施的全维度监测平台。它提供实时的全栈性能可见性,涵盖了从应用程序顶层到中间层的Kubernetes/Docker/Hypervisor,再到操作系统和中间件,甚至包括数据库和第三方服务等完整基础设施堆栈的性能监测。无论是云原生架构还是传统部署,Datadog都能提供全方位的监测服务,帮助用户深入了解其基础设施的性能表现
11、。Datadog的APM解决方案优势有:细节丰富的性能数据:Datadog收集并展示应用程序的各种性能指标,包括响应时间、请求吞吐量、错误率、数据库查询性能等。跨平台和跨语言支持:Datadog支持多种编程语言和应用程序框架,包括Java、Python、Ruby、Node.js等。无论应用程序运行在云环境、容器化环境还是传统的物理服务器上,Datadog都能提供全面的性能监测和管理。实时性强:助力快速问题定位。Datadog提供有效的APM解决方案图9:Datadog是专注于云端软件基础设施的平台资料来源:Seeking Alpha,雪国信经济研究所整理10图10:Datadog的APM应用案
12、例资料来源:Seeking Alpha,国信经济研究所整理请务必阅读正文之后的免责声明及其项下所有内容AIGC给APM带来新的投资领域11在复杂的AIGC环境下,智算中心的架构变得更为复杂,这也使得监控系统的价值得到提升。智算复杂性增加:在智算中心,相较于传统数据中心,CPU、计算卡以及存储实现了高度解耦和按需调用,这使得系统的复杂性显著提升。大模型训练的复杂性增加:大模型的训练通常需要使用数万张以上的算力卡,并且由于参数数量庞大,通常需要采用更复杂的分布式计算方式。因此,各项资源都需要进行实时监控。图11:智算中心架构图资料来源:国家信息中心,国信证券经济研究所整理图12:大模型训练流程资料
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 行业 专题 海外 AI 基础 软件 认可
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。