zbo智博1919com

新闻中心 新闻中心

大模型创业公司,为什么越来越多在往“小”做??

题图来自:AI天生

作者:宋宛纶
颁布功夫:2026-05-15 12:29:46
阅读量:9756

大模型创业公司,为什么越来越多在往“小”做??

题图来自:AI天生

把一台主流安卓手机切到飞行模式,而后问屏幕上的AI:“帮我总结一下昨天的会议,挑三个待处事项! !

它会答出来。答得不算惊艳,但靠谱。

从2022年11月OpenAI正式颁布ChatGPT以来,险些所有人对AI 的认知都成立在一个朴素的逻辑上:你提的问题,会跑去一个遥远的数据中心,由几万张GPU 算出答案,再传回你的屏幕。这个过程贵、、、慢、、、依赖网络,但所有人都默认那就是 AI 应该有的样子。

然而仅仅三年功夫,这种印象被一台断网的手机轻飘飘地颠覆了。

出格是最近半年,和大模型行业的人谈天时,会发现一个词的频率越来越高——端侧。

云端之上,并没有“钱”

大模型上半场的逻辑极度清澈:参数大就是好。

GPT-4 出来之后那一年,国内拿到融资的公司,PPT 第一页险些都在堆数据——几多 B 参数、、、几多万亿 token、、、几多张 H100。投资人也吃这一套。先把规模拉满,故事就成立了。

但资金烧到当下,账就逐步算分了然。

2025年OpenAI的估值固然推到了五千亿美元量级,但预计税前吃亏也达到了惊人的212亿美元。Anthropic的情况看上去好一些:毛利率从2024年的 -94%改善到2025年的40%出面,但同期 EBITDA(息税折旧及摊销前利润)吃亏仍有52亿美元。Cohere和Mistral则反复传出寻求被收购的新闻。

这一行业里所有靠卖API 挪用为生的公司,最后都站在统一条曲线的分歧地位上,营收在涨,吃亏也在涨,用户越多,幸好越多。毛利率好转的速度赶不上算力亏损扩张的速度。

这是反互联网学问的。从前二十年,规模意味着壁垒,规模也意味着利润。但大模型这门生意,规模意味着持续的算力亏损,由于每一次用户和AI 的对话,背后都是真实的电费和GPU折旧。

更狼狈的是,这条曲线没有显著的下行点。模型再大、、、能力再强,单次推理的边际成本依然摆在那里。

云端之外,暗潮已动

把视线移到云端之外。

2023 年,在手机颁布会上听到“NPU”这个词,多半会感触有点狼狈。芯片厂商讲了好几年,但市面上险些没有什么模型真的用得上,它像一个反复被写进 PPT 又被现实辜负的将来能力。

到了2025年,这种能力起头兑现。

芯片厂商起头自动找模型公司谈适配,由于客户在问。手机用户也起头问:为什么我的 AI 助手离线就用不了??为什么我换个网络环境,它的反映慢了一截??这些问题意味着AI 已经被人当成水电一样的存在了。它必要随时可用,不能挑网络。

模型这一侧也终于跟上了。

从前几年,量化、、、蒸馏、、、稀少把稳力这些工程步骤被一批团队反复打磨,一个几B 参数的模型,经过精心设计,在多模态、、、长文本、、、OCR 这些正本被以为只有大模型能力干的活上,已经能做到让人挑不出弊端的水平。

最直接的体现,是它真的能装进设备里。手机芯片那点显存,苹果 A 系列或许八九 GB,骁龙旗舰差不多。以前看是天花板,此刻反过来成了一种刚刚够用的约束,逼着模型公司把每一层结构都抠到极致。

由此可见,端侧AI 这两年的真正拐点不是某一项技术忽然成熟,而是模型、、、芯片、、、终端三方在统一个功夫窗口里,相互找到了对方。

谁在押这条路

把端侧作为主线在押的玩家,已经分成了几拨。

第一拨是终端厂商,自己下场做模型。

苹果的Apple Intelligence是其中最有代表性的——约莫30亿参数级别,主打“端侧优先、、、云端兜底”。它的存在意味着苹果决定不再把AI能力外包给OpenAI,即便前者宣称是“合作”。Google 走得更激进,把Gemma Nano直接预装到Pixel 系列,并且在Android 14之后起头向手机厂商盛开底层API。

终端厂商下场的逻辑很明显,AI 一旦成为系统级职能,它就不该是别人收过路费的处所。

第二拨是大公司开源出来的小模型。

微软的Phi系列是这条路上的标志性产品。Phi-3用3.8B参数做出了能对标 70B模型的部门能力,证了然“小模型+ 精选数据”路线的可行性。Meta的Llama 3.2在2024年下半年推出1B / 3B版本,明确标注“为端侧设计”。Google的Gemma系列走类似路线,开源出来供整个生态用。

这一拨的共同特点是:它们没指望靠这些小模型直接挣钱。它们是在为生态铺路。路铺好了,再回头收硬件、、、云端、、、其他业务的钱。

第三拨是真的把“小尺寸”当成主题战术的创业公司。

Mistral是其中最早的。7B起身,在欧洲拿下了一批政企客户。但由于太依赖单一开源故事,2024年微软入股之后处境变得复杂。

国内这边,阿里的Qwen 系列推出了从 0.5B 到 7B 的小尺寸版本,覆盖端侧多个段位,但由于同时还在做大尺寸 API 业务,端侧不是主线。智谱 GLM 也有端侧版本,但贸易重心仍在云端。把端侧当成绝对主线在做的,国内最有代表性的是面壁智能,MiniCPM 系列做到了GPT-4o同级水平。这种说法一年前险些所有人都感触是夸口,但它产生了。

把这几拨玩家放在一路看,端侧AI 已经不是“小公司的避风港”,它正在成为整个行业重新组织自己的方式。

端侧不是免费午餐

写到这里,也得说句真话。端侧AI远景固然无限,但不是美满故事。

把模型塞进设备这件事,工程上的麻烦比设想中碎。安卓机型上千种,芯片各家API 不一样,系统定制层每个厂商各有讲求。一个端侧模型想在这片泥土里跑顺,光适配就够小公司喝一壶——这件事没有捷径,只有一行行的代码、、、一台台机械的实测,一次次跑通之后被下一代芯片突破,再重新跑通。这种活算法工程师不爱干,但端侧这条路就是由这些不性感的活铺出来的。

模型公司还得面对一个更隐性的处境:手机厂、、、芯片厂、、、车厂自身就是产业链里强势的一方。被预装、、、被集成看上去是“赢了”,但同时也意味着随时要面对被代替、、、被压价、、、被边缘化。Mistral 这两年在欧洲的处境几多能注明问题——它既要满足法国当局对“主权AI”的等待,又要应酬微软入股之后被主导话语权的狼狈,左右都难做。

端侧换来了贸易化更扎实的蹊径,但也意味着融入合作生态,成为产业链里若干环节中的一环。

大模型上半场比的是谁能把山攀得最高。下半场比的,是谁愿意走下山,走进具体的设备里、、、具体的场景里、、、具体的人刻下。

去年那台跑在飞行模式下的安卓手机,今年我又见过一次。

在伴侣的车上,离线导航和语音都跑在本地。

云在很远的处所。

但AI 已经到了。

本内容由作者授权颁布,概念仅代表作者自己,不代表虎嗅态度。如对本稿件有异议或投诉,请联系 tougao@huxiu.com。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4854778.html?f=wyxwapp

 

文章点评

未查问到任何数据! !

颁发评论

◎欢迎参加会商,请在这里颁发您的见解、、、互换您的概念。

最新文章

热点文章

随机推荐

【网站地图】