百度为什么要帮别东说念主造AI应用? | ToB产业不雅察


发布日期:2024-12-03 09:49    点击次数:139

百度为什么要帮别东说念主造AI应用? | ToB产业不雅察

李彦宏关于百度的定位,在大模子时间有一个很大的变化。

11月12日,在百度宇宙2024大会上,百度创举东说念主李彦宏以《应用来了》作念主题演讲,他示意,“百度不是要推出一个‘超等应用’,而是要不休地匡助更多东说念主、更多企业打造出数百万‘超等灵验’的应用。”

上一个时间的中国互联网,渊博被以为是互联网应用公司,譬如百度的搜索、阿里的电商、腾讯的游戏等,互联网巨头们的牌号皆是应用,中国成为互联网应用最阐扬的地区之一。

大模子时间,这些企业也被视为是杀手级AI应用的候选东说念主,可能莫得东说念主比他们更明晰需求在哪、应用如何打造,以及具备富足的东说念主才和老本,而李彦宏却说要帮其他东说念主和企业造数百万应用。

这知道出李彦宏关于大模子的默契和格调。大模子带来了技艺范式调治,百度依然不再是上一个时间只需商量应用层的互联网公司,若要建立于大模子时间,百度我方得先入局作念硬件、生态以及基础设施,某种进度上这才是当下大模子企业最应该柔软的事。

这并不代表百度不作念应用了,李彦宏也示意,“咱们(百度)作念的应用,同期作念十款应用或者最多一百款应用,外界可能有一万个创业公司在试各式各样不同的赛说念。”

仅仅在当下的时辰节点,百度需要上演一个垂直整合的变装。OpenAI和微软联手,AWS投资稠密大模子创业企业,Meta作念开源生态,谷歌将自家大模子与云作念垂直整合,终极看法皆是让更多AI应用根植于我方的平台和生态上,百度也不例外。

AI应用,走到哪了?

“咱们正处在AI的iPhone时刻!”客岁,英伟达CEO黄仁勋作念出这一有名预判。关于英伟达来说可能果然如斯,英伟达面向的是芯片客户,ChatGPT景观级热度之后,AI芯片行业迎来了大爆发。

关于C端破钞者应用和B端企业应用客户而言,还未达到一样的阶段。手脚对比,2010年是移动互联网的“iPhone时刻”,那时iPhone4隆重推出,虽然黑莓手机在好意思国还占据43%的市集,iPhone只跳动10%,然而AppStore的应用数目达到了13万,而且在改日几年走出了一条笔陡的弧线,移动互联网应用极大繁华,如今咱们使用的微信、头条、快手等,皆降生于这条弧线。

有益思的是,李彦宏在会上也给出了一条笔陡的弧线——文心大模子的日均调用量变化弧线图。

李彦宏示意,到今天这个数字依然跳动了15亿次,代表着曩昔两年中国大模子应用爆发。6个月之前,当文心大模子日均调用量达到两亿的时候,他还在想考,若是日均调用量一年之内涨10倍,也便是从2亿涨到20亿,我以为就成了,就讲明大家是真需要大模子。

为何大家雀跃用大模子了?要而论之,复古大模子应用发生的前提条款越来越熟悉。据Gartner展望,到2027年,企业使用的AI模子中将有一半以上具有特定行业或业务功能,而在2023年这一比例仅为不到1%。

废话语模子的才略依然基本知足应用场景的需求,同期精调节推理等成本在急速下落,加之稠密企业单干组成的大模子生态也正在快速演进,加快了大模子不同层级的创新和交融,大模子应用生态朝着健康的场所发展。

李彦宏就提到,曩昔24个月,行业最大的变化是大模子基本摒弃了幻觉,它回话问题的准确性大幅升迁,这让AI从“一册正经的瞎掰八说念”,变得可用、可被信托,采纳RAG技艺后,大模子会运用检索到的信息来指点文本或谜底的生成,从而极地面提高了内容的质料和准确性。

针对大模子落地成本高的问题,百度智能云本年将文心主力大模子ERNIESpeed、ERNIELite全面免费盛开,对文心旗舰大模子ERNIE4.0、ERNIE3.5进行了大幅降价,大幅裁减大模子使用门槛和试错成本。

造大模子应用,难在那处?

尽管大模子应用的基础设施和生态演进加快,但大模子毕竟是一次立异级的更新,咱们还处在应用繁华的早期阶段,不少企业还莫得适合新的大模子应用建造模式。

李彦宏以为,建造者可能依然迟缓适合了如何在废话语模子上建造应用,倏得搞出来一个新的场所(比如o1),又得适合一遍。百度也很但愿大家赶快适合这种新的想维逻辑,如何慢想考,调用器用,大家有学习和适合的过程。

“今天虽然咱们发了多智能体谐和这些东西,但让一个建造者建造一个多智能体谐和的应用,其实难度照旧很高的,成本很高,反映速率很慢,各式各样的才略如何调用,有一个继承的过程。咱们得迟缓迟缓得让大家学习这种新的才略,继承然后再把它运用好。”他说。

曩昔,传统应用建造历程复杂,需要先进行高层筹谋,再领悟为子模块建造,临了集成到沿路,这一过程耗时不少且风险高。在大模子时间,AI原生应用在居品格局上显贵变化,依托废话语模子的结实、生成、逻辑、追忆四大中枢才略,应用交互从传统的表单和按钮,转化为天然话语对话。

当今,通过器用进行大模子应用建造主要有三大类:

第一类是原本有一套APP或者一套应用系统,粗拙将大模子手脚Copilot优化交互体验。这是最常见的体式;

第二类是原本的业务历程还在,粗拙用大模子裁减成本升迁服从、检朴时辰;

第三类是粗拙作念到原本作念不到的事情,譬如说用大模子去生成一个CAD的图纸,产生更大的创新坐褥力。

同期,九行八业的企业在应用大模子落地过程中,在准确可靠性、与里面系统关联性、安全性、使用门槛上仍有许多问题。

具体来看,百度智能云回来了大模子应用落地的问题,第一,用户如何选模子;第二,如何优化模子在应用场景的收尾;第三,基于大模子如何低成本作念应用建造。

勾搭履行情况看,企业意志到不是尺寸越大、越先进、参数目越大,模子就适应我方的需求,既要有收尾,也要成本低,才粗拙限度落地。同期,在许多应用场景当中,企业不啻一个废话语模子,需要多个大小模子协同,另外,仅有大模子本人无法构建应用,企业还需要一些阁下的东说念主工智能才略与大模子匹配。

百度集团实行副总裁、百度智能云功绩群总裁沈抖示意,AI应用正率先在B端爆发。由企业级大模子工程平台、异构算力平台组成的新式AI基础设施,将替代传统云预想,为大模子应用在企业坐褥力场景中的限度落地提供要道复古。

大模子时间的“应用工程化”

若是说文心大模子的看法是追求大模子的技艺校正,百度智能云就要作念大模子的应用工程化,李彦宏的原话是“百度智能云是咱们构建智能产业生态的主要依托”。

沈抖示意,曩昔一年余,企业大模子应用依然深远到“研产供销服”的各个步调,传统的云预想依然无法复古大模子应用的快速发展,百度智能云在作念的,便是打造一套全新的基础设施,围绕大模子偏执应用,匡助企业加快竣事智能化升级。

据先容,百度智能云当今领有中国最大的大模子产业落地限度。跳动六成的央企和渊博的民营企业,正在聚合百度智能云进行AI创新。百度智能云千帆大模子平台依然匡助客户精调了3.3万个模子、建造了77万个企业应用。

千帆和百舸即是百度智能云提供的工程化平台,千帆平台帮客户作念大模子和应用的建造和职业;百舸平台为客户提供大模子关连的算力职业。

首先看千帆,不错从三个方面优化大模子应用收尾,一是径直调用模子,也便是模子推理;第二种是模子应用收尾优化,包含了辅导词优化、模子精调以及模子才略增强;第三种则是大模子应用建造。

千帆大模子平台提供了渊博模子职业,包括ERNIE4.0、ERNIESpeed、ERINIELite等主力模子,适用于不同垂直场景定制历练、构建行业模子、垂直场景调用。

辅导词优化方面,千帆大模子平台还优化了Prompt,并预置了近300个行业场景的prompt模版;模子精调方面,千帆提供了数据瞻念察、清洗和回流才略,独家的高质通用语料数据以及量化压缩器用链,内置了最好实践精调样板间;模子才略增强方面,千帆提供了RAG以及各种器用的使用勾搭才略。

在本次大会上,千帆还发布“责任流Agent”功能,可匡助企业快速建造露面向复杂对话场景的AI应用,快速领有专科水平的“数字职工”。

再看百舸,百度示意,当今百舸已具备了熟悉的10万卡集群部署和护士才略,客户包括中国石化、中海石油、长安汽车、上海交通大学、地平线等,主要惩处从集群创建、建造实验,到模子历练、模子推理的全程算力需求。

百舸平台可兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国表里主流AI芯片,支捏吞并智算集群中搀杂使用吞并厂商不同代际芯片、不同厂商芯片,屏蔽硬件相反,匡助中国企业解脱单一芯片带来的高溢价和供应链风险。

据了解,在万卡限度集群上,百舸粗拙将两种芯片搀杂历练大模子的服从折损收尾在5%以内,另外,通过筹谋高效的汇聚拓扑结构,勾搭模子切分优化和跨地域无拥塞高性能汇聚决策,百舸粗拙在横跨几十公里的多机房组成的万卡限度的集群上,将单一模子历练任务的性能折损收尾在4%以内,达到业界最最初水平。

大模子的科学创新天然紧迫,但要限度应用于现实场景,作念好大模子应用工程是必经之路,在基础设施和产业生态相互促进的过程中,企业不错采纳作念“2011年的微信”,也不错采纳作念“2016年的抖音”。