OpenAI自研AI芯片Jalapeño发布,AI推理成本暴跌普通人的赚钱机会
昨天OpenAI扔了个硬核东西出来,不是模型,不是应用,是一颗芯片。名字还挺骚,叫Jalapeño,墨西哥辣椒。
这玩意是OpenAI跟Broadcom一起搞的,专门用来跑AI推理的芯片。TechCrunch报了,HN上直接820分炸场。
你可能会想,芯片跟我有啥关系???我又不造芯片。
有关系。而且这事可能比最近任何一个模型发布都更值得你关注。原因很简单。
AI副业的命门是什么?成本。
你接一个单子,对方付你500块,你调用API花掉200,毛利60%。看着还行。但如果API成本降到100块,毛利就从60%变成80%。同样的收入,利润直接翻倍。反过来,之前那些因为API太贵算不过账来的方向,可能突然就变得很香了。
这个Jalapeño芯片做的就是这件事。OpenAI在公告里说得很直接,每个层面都围绕同一个目标优化,让模型更快、更可靠、更便宜。Hacker News评论区有个老哥一针见血,「如果推理又快又便宜,谁还在乎它是不是最聪明的?我可以在更紧的循环里迭代」。
顺着这个逻辑,我捋了三个我觉得值得马上关注的方向。
第一个方向,把以前算不过来账的事捡起来重新算。
这两年有不少AI副业方向其实是被成本卡死的。比如AI实时语音客服,延迟高、token贵,一单聊下来API成本好几块,毛利被压得喘不过气。再比如AI视频内容批量生产,把一小时的播客切成20条短视频,每条的AI处理成本如果降一半,ROI立马就变了。
我以前在OpenAI和Anthropic打价格战的时候写过,AI越来越便宜是不可逆的趋势。但模型降价是一回事,底层芯片优化是另一回事。模型降价是在软件层打折,芯片优化是在物理层砍成本。后者更狠,因为它是从根上把整个成本曲线往下压。你现在就可以做的事,把过去半年因为成本高而放弃的AI副业方向列出来,看看哪些现在能跑了。
第二个方向,做AI服务的重交付模式,从卖API变成卖结果。
之前推理贵的时候,很多AI副业赚的是信息差的钱,帮别人调API、写提示词。这没问题,但天花板很低,因为API价格透明,客户自己一算就知道你的加价率。但推理成本暴跌之后,一个新的空间打开了,你可以做重交付。
什么叫重交付?就是客户不需要知道你在用哪个模型、调什么API,他只关心结果。比如你用AI帮他跑完整的数据分析报告,或者帮他的公司做一整套客服系统搭建。你按效果收费,而不是按token收费。推理成本降了,你的利润空间就涨了。客户不会知道你省了多少钱,他只看到你交付的价值。
OpenAI这次特别强调了Jalapeño在运行实时编码模型时的低运营成本。你想想,实时编码服务这类高延迟、高成本的方向,利润会好很多。有能力的朋友,帮中小企业做代码审查、AI工作流搭建、自动化部署,这些方向现在切入刚好。
第三个方向,也是最炸的,把自己变成一个AI服务的平台节点。
Jalapeño的深层意义不只是降价,而是OpenAI在控制整条供应链。从芯片架构到内核优化,从内存系统到网络调度,再到部署系统和产品体验,全栈整合。我之前在企业AI账单暴涨那篇文章里也聊过,当基础设施越来越便宜,真正的价值会向上层应用迁移。
对普通人来说,说到底就是一个道理,你不需要懂芯片,不需要懂底层架构,你只需要利用越来越便宜的AI能力,去解决真实世界的问题。那些大公司做不了或者不想做的长尾服务,就是你的机会。比如帮小区的老人用AI跑体检报告解读,帮本地的小餐馆用AI做菜单优化和营销文案。这些活大公司看不上,但对个人来说,一个客户收一两百,一个月做几十单,收入就很可观了。
HN评论区还有一条评论让我印象很深,有人说Broadcom让整个芯片行业享受了TPU十年的研究成果,「Nvidia的AI业务要凉了」。这话可能有点夸张,但方向是对的。AI算力在迅速商品化,算力本身的利润在变薄,但在算力之上做应用的人,利润在变厚。
我自己的感受是,每次AI基础设施有一个大的效率提升,都会催生一波新的创业机会。2015年云计算降价催生了SaaS创业潮,2023年GPT-4降价催生了AI套壳创业潮,2026年Jalapeño这类定制芯片成熟之后,催生的可能是真正跑得通的AI服务业务。
磨平一些信息差。