2021年11月，嘉楠科技公布第三季度最新财报，此时距离它作为“中国自主知识产权AI芯片在美上市第一股”登陆纳斯达克，已过去整整两年。
在新冠疫情等黑天鹅事件影响全球半导体供应链动荡的背景下，嘉楠科技的业绩逆势爆发，最新一季营收逾13亿元，同比增长超700%。
嘉楠科技创始人、董事长、CEO张楠赓总结这一年，嘉楠的业绩已经是“出乎意料的好”，在业界横向比较、纵向比较都是如此。
这位早期区块链圈子里的神秘大佬，曾凭“NG Zhang”的名号曾响彻区块链江湖，过去15年，他一直在折腾：
22岁到航天科工集团做技术员，25岁读芯片设计研究生参与龙芯项目，27岁在读博期间结缘比特币，30岁创业并交付全球首款区块链ASIC芯片，36岁站上纳斯达克敲钟……
在区块链领域扬名立万后，如今，张楠赓正带领嘉楠科技全速发展其第二增长引擎——AI芯片。
知名市场研究机构Gartner的数据显示，全球AI芯片市场规模有望在2021年达343亿美元，2025年将逾700亿美元。目前，该芯片已落地于仿生机器狗、智能门锁、智能编程积木等智能硬件产品。
随着量产落地成为AI芯片的主场，在端侧AI芯片耕耘五年之久的嘉楠科技，已成长为国产AI芯片商用化进程中一个极具代表性的样本。
在嘉楠科技北京办公室里，张楠赓向我们讲述了这些年嘉楠AI芯片打怪升级的历程。
一、寻找区块链之外的第二颗芯
某种程度上，张楠赓创业前的经历，很像热血漫画主角的设定——前期平凡，发现新世界后被激发潜能，对战反派，最终成功拯救世界。
2008年，25岁的张楠赓已经作为一位航天技术员工作三年，经常看动漫打发时间，如果继续留在这里，一眼似乎就能望到退休，他选择作别这样平淡的生活，返回北航读集成电路设计研究生。
接下来便是在区块链圈为人津津乐道的经典故事。2010年，正在读博的张楠赓被区块链吸引，开始以“NG Zhang”的ID活跃于比特币论坛，孰料2012年6月陡生变故——美国“蝴蝶实验室”宣称要研发能将算力提升数倍的ASIC矿机。
可怕的是，一旦有人掌握超过半数的算力，则足以垄断整个比特币网络，这对于区块链将造成毁灭性的打击。
为了守护比特币的秩序，“热血青年”张楠赓正面迎战，发起与经典日漫Fate中最强防御装备同名的“阿瓦隆项目”，成功先于蝴蝶实验室在2013年1月研制出全球首台ASIC矿机，并将第一批300台阿瓦隆矿机全部对外销售，凭一己之力对抗可能出现的垄断，坚守“算力去中心化”之信仰。
要知道，当时阿瓦隆矿机一天能造357个比特币，按现在的比特币价格来换算（1比特币≈5万美元、32万人民币），相当于日产逾1亿人民币。
一时间阿瓦隆矿机洛阳纸贵，求机者络绎不绝，NG Zhang一战封神。
在此期间，张楠赓曾向导师提出博士休学申请，却遭拒绝，坚信区块链技术能够改变世界的他当机立断：退学，创业。
2013年4月1日，嘉楠科技正式成立，开始规模化生产矿机。创业早期，张楠赓下单京东所有电源插件、跑遍北京所有电子批发市场凑齐零部件，还自己充当“快递小哥”以按时发货……随着订单越来越多，矿机一度被爆炒至单价二三十万元，嘉楠科技的芯片研发也快速迭代。
张楠赓处世非常低调，在很长一段时间，人们都只知NG Zhang，不知张楠赓。这位隐形大佬在生活中不拘小节，全身穿着不超过500元，迪卡侬、优衣库T恤是日常标配，甚至曾穿着短裤和拖鞋去参加剪彩仪式，在人群中深藏功与名。
2015年，嘉楠科技研发出28nm工艺芯片，一脚踏进先进制程的大门。研发期间，他在桌子和床之间两点一线，夜以继日，累了往后一躺，醒了坐起来继续干，就这样带着团队将嘉楠干到了国内前十实现16nm制程芯片量产的企业。
没有谁能永远停留在巅峰，区块链的传奇故事已经过去，嘉楠此时也稳居矿机老二，张楠赓开始琢磨，能不能将嘉楠积累的芯片设计和量产经验，发挥到其他芯片赛道？
人工智能，这个经过几十年理论积累，在2016年前后突然兴起的前沿技术领域，就这样闯进张楠赓的脑海，并成为嘉楠科技接下来5年重点培育的第二增长曲线。
二、14次流片、100%成功率、明年挺进3nm，嘉楠如何踩准AI芯片风口？
在AlphaGo击败世界围棋冠军李世石、令人工智能名声大噪的2016年，嘉楠科技基于RISC-V的AI芯片业务正式启航。
张楠赓将嘉楠定位为一家芯片设计公司。“当时觉得一个产品基本上做到某一个程度以后，横向扩展其他产品，这就是水到渠成的事。”他也考虑过手机、基因测序等芯片方向，最终更倾向于“做最后量会比较大的行业”。
至于为何选择研发端侧AI芯片，张楠赓说：“这其实是出于我个人的性格原因。我选择做什么东西的话，它是有一些原则的，就是说我们做的东西它一定是有两个选项，一个是要提升社会运行效率和改善人类生活方式，这也是公司的愿景，另一个就是要能盈利。”与其做成熟行业的追随者，他更想做新兴市场的探路人。
而端侧AI芯片，正是一个还未被建立秩序的新赛道，没有主导行业的公司，没有主流产品，更重要的是，望向未来5年，AI芯片行业方兴未艾，相比成熟芯片行业，这里向创业者敞开了更大的机会空间。
就这样，嘉楠科技成为一家区块链芯片和AI芯片两条腿走路的公司。
张楠赓相信科技发展速度会短期被高估，长期被低估。在他看来，做芯片最关键的困难，是可能5年都不见得能盈利。而最终用户对体验的要求越来越高，需要投入资源、钱和时间去研发，只有实现远超起初设定的产品性能、性价比，才能获得消费者的认可。
这使得嘉楠在区块链芯片领域长期的沉淀，得以转换成其AI芯片业务的优势。
一方面，张楠赓认为一家健康的芯片公司，需要有挣钱的业务、有芯片相关技术的积累。嘉楠自家的区块链业务足以持续造血，不依赖融资便可支撑其AI芯片业务的稳定前进。
财报显示，嘉楠科技2021财年第三季度总营收13.2亿元，同比增长708.2%，净利润4.72亿元，这也是其上市以来的最好成绩。在今年前三个季度，其研发投入超过2亿元。
另一方面，区块链芯片与端侧AI芯片的设计理念有共通之处，均属计算密集型，对成本、功耗和性能有极致要求，追逐更先进的制程工艺。而嘉楠在量产先进制程工艺芯片方面有深厚的积累。
“区块链计算芯片在技术上有一些应用特点，现在来看的话，它实际上挖的是比较深的，”张楠赓说，“在和计算相关的特定领域，还有工艺制程上等等，像做的比较好的区块链计算芯片，走到后面都是一样的，都是在优化以上这些东西，所以我觉得底层技术的话完全可以共享。”
在先进制程方面，嘉楠一直走在市场前列：2015年实现28nm，2016年实现16nm，2018年成为台积电首批7nm战略合作伙伴、推出并量产首款7nm ASIC芯片……当前嘉楠已实现5nm定制单元和模拟IP的开发，明年将启动3nm研发。
截至2020年12月31日，嘉楠共完成14次ASIC芯片流片、保持100%成功率。
在这背后，嘉楠组建了一支能自主实现先进制程芯片前端逻辑和后端物理设计、覆盖完整的封装、散热和量产工艺的成熟研发团队，是区块链计算领域唯一践行多晶圆厂策略的厂商。
不同于多数Fabless公司，嘉楠拥有定制电路模块设计团队及从事物理IP设计的团队，并拥有针对先进工艺设计的FinFET工艺和设计团队，在近阈值电路工艺和设计领域积累了大量工程经验。
嘉楠建立了从FinFET SPICE仿真设计到post-Si硅后验证的完整流程，业务能力覆盖前后端和芯片量产的所有环节。以SoC设计为主线，嘉楠科技的芯片研发流程贯穿指令集架构、自研IP核、算法预研和系统集成，以及后端的物理实现和运营工程，最终实现芯片量产和交付。
三、自研创新计算数据流技术，计算效率翻倍提升
创业是一场没有颠簸就不精彩的冒险，选择率先尝试，必然要经历摸着石头过河的过程。
2018年9月，嘉楠发布首款搭载RISC-V架构CPU和自研KPU的边缘AI芯片勘智K210，这是全球最早量产的RISC-V架构商用边缘AI芯片。
在张楠赓拍板确定用RISC-V开源内核时，RISC-V还是个冷门而小众的技术领域，直到勘智K210推出那年，它才作为有望与x86、Arm齐肩的第三大指令集架构，开始在国内芯片产业声名鹊起。
张楠赓说，为验证概念正确性而生的勘智K210，当时投入的资金、人力其实很少。这两年又遇到行业产能受限的影响，即便这样，也得到了市场的认可。
据他回忆，刚开始推广的过程“非常艰险”。一方面，勘智K210推出时，软件适配基本上处于一片空白的状态；另一方面，怎么卖、卖给谁等问题令嘉楠团队焦头烂额，许多客户并不清楚AI芯片到底有什么用。
之后两年间，嘉楠重点实现软件和算法方面的进步，并开发了一系列概念验证产品（POC），将芯片手册放到开发者社区推广，让客户能通过测试直观感受到嘉楠AI芯片的实际性能。同时，客户可以直接在嘉楠的网店或百度AI市场等渠道中买到其AI芯片。
张楠赓谈到困难时坦言：“我们现在更多的精力其实是在围着客户转，而且这个围着客户转的还非常复杂，不是说你告诉我就是说你需要跑一些什么具体的东西，然后我就去实现它，这样作为工程实现就结束了。现在更多的还是要我们必须去关注用户具体的应用场景和产品，然后从这个出发再重新走整个产品低端的整合的过程，然后才能到芯片。”
“现在芯片软件硬件结合得太紧密了，需要密切合作的客户去看他的场景，所以并没有一个‘芯片卖的特别好，然后所有的东西都很完美，市场上其他家照着对标它就做差不多东西就行了’的这样一个东西。”
越早落地，也就意味着越早接触和磨合用户的实际需求。勘智K210收集到的用户反馈，被汇集成经验，融入新一代端侧AI芯片勘智K510中。
勘智K510于2021年7月发布，主要面向中高端视觉推理市场，搭载了自研RISC-V CPU内核及第二代专用神经网络加速器IP核KPU2.0，并在总线架构、存储空间和视觉子系统等方面进行升级。
得益于嘉楠自研的计算数据流技术，KPU2.0的计算效率大幅提升，达到2.5TFLOPS/2.5TOPS，分别支持INT8和BF16数据精度运算。相比之下，此前KPU1.0的浮点数运算能力为1.08TFLOPS。
计算数据流技术的创新在于对3D PE计算阵列和GLB局部访存技术的结合，及多级存储的使用。
传统的PE计算阵列通常是2D的，而KPU2.0搭载了动态3D PE计算阵列，可以动态开启或关闭每一个2D阵列，根据神经网络中不同层级的带宽、计算和存储需求进行调整，提高数据的复用率，并降低芯片功耗。
KPU2.0通过可配置的SRAM阵列实现GLB（Global Local Buffer）设计，能满足不同数据类型在不同层级的带宽和存储需求，提升内部RAM的利用率。
张楠赓解释道：“神经网络相关计算的话，第一计算特别密集，第二数据特别大，量特别大，数据传输的时间开销和能耗超过了计算本身的开销，这是特别大的浪费“。
他认为，主要的解决方案是通过做多级的缓存和存储结构，让频繁使用的数据靠近计算单元。模型就摆在那，所以主要问题还是做计算、存储和带宽的平衡，尽量减少数据的读取是最基本，也是最重要的。
与此同时，从区块链芯片到AI芯片，张楠赓都坚持开源的理念。在他看来，无论是开源软件或硬件，较大发展的背后都有一些企业在做无偿贡献。“我们也希望我们是开放性最好的一个平台。”他相信，这将为嘉楠的长期发展带来优势。
四、端侧AI芯片落地机器人、智能门锁，新一代明年投片
市场调研数据映证了张楠赓5年前的判断。
根据市场咨询公司ABI Research的报告，预计到2025年，边缘AI芯片市场的收入将达到122亿美元，超过收入为119亿美元的云端AI芯片市场。
随着商业模式逐渐打磨成形，嘉楠科技的AI芯片商用落地开始加速。
第一代勘智K210芯片是单芯片方案，设计简洁，整体成本较低，像RISC-V的官方手册拿来即可使用，功能和成本都特别适合做开发，因此在教育领域受到欢迎。
例如，在AI STEAM教育领域，嘉楠的合作伙伴有国内机器人独角兽企业优必选、明星机器狗创企陆吾智能等。优必选的智能编程积木Ukit2.0、陆吾智能的最新桌面级四足机器人XGO-mini均搭载了勘智K210芯片。
在高校教研方面，依托RISC-V开源架构芯片优势，嘉楠科技作为2021全国计算机系统设计大赛唯一技术支持方，为大赛提供K210芯片及开发板，并为参赛队伍提供技术培训支持。今年，K210芯片进入上海交大大学生创新中心的开源硬件实战课程。
此外，勘智K210及K510在智能家居、AI STEAM智能硬件、智能门禁等场景均有一些成功落地项目。
在智能家居领域，嘉楠科技与广州昂宝电子合作，其智能人脸猫眼门锁、智能人脸联网门锁、4G路由器和迎宾机器人等多款产品均搭载了勘智AI芯片。
在海外市场方面，嘉楠科技在疫情期间与美国传感器厂商VergeSense合作，研发基于AI芯片的智能传感器，用于办公区域特定人流量及社交距离检测，依据人流密集程度进行告警。面向日本市场，嘉楠科技与日本老牌物联网厂商Cathay Tri-Tech合作，推动勘智AI芯片及人脸识别模组在日本市场的推广和销售。
据张楠赓分享，嘉楠科技当前的AI芯片产品按算力分为三类，1TOPS级别主打轻量化，4~8TOPS面向较高端的端侧市场，更高算力则主要应用于一些更复杂的边缘场景。
目前嘉楠AI芯片的迭代周期为每两年一大代，继今年推出勘智K510后，其最新的K230芯片研发工作正在稳步推进，拟明年下半年投片。接下来，嘉楠科技可能会往强边缘AI芯片发展，这类芯片性能跟云端有一拼，但不会用在服务器。
他还透露了嘉楠AI芯片下一步重点发力的方向：一是提高计算效率，支持更多不同的算法和网络结构，二是优化全局缓存，三是维持整体成本基本不变，可能实现售价的进一步下调。
接下来，张楠赓计划大幅扩张软件团队。为了引入更多客户、持续优化体验，他也考虑之后向为客户提供定制化的方向发展，交付一些质量达到商用demo级的AI模型或功能。
结语：未来两三年，端侧AI芯片将加速发展
创业8年，从曾经的“二次元“少年成长为一家上市公司的董事长，现年38岁的张楠赓已经没有时间再去追番。
聊起创业这些年的变化，张楠赓很是感慨：“创业这个事的话，还是不要着急。这跟想好的不一样。”可能大家原本想做一家并不太大的公司，但慢慢地，企业发展就不见得全由你来决定，企业是顺势而为，势到哪里，它就要往哪个方向发展。
“后面能力越大，责任越大，尤其是像我这种责任感比较强的人，可能比较累。”他谈道，现在嘉楠仍处于创业公司的状态，因为行业变化太快了，有太多东西要去处理。“有人说，7年人就会更新一遍，我已经不是那个我了。”
回顾嘉楠推进AI芯片的5年，AI产业变了太多，新技术、应用层出不穷，市场也进一步扩容。尽管可以看到历代端侧AI芯片产品之间明显的代差，但令他不太开心的是，包括嘉楠在内，整个行业还没有达到让大多数客户非常满意的程度。
用张楠赓的话讲：“目前一些芯片在市场上是不成功的，这并不是说你无法战胜竞争对手，而是你没有办法得到消费者的认可。所以其实是一个对我对整个行业来说，其实要求都越来越高了。”反过来，他也认为这是好事，说明大家是有需求的，只是需要更好的产品。
“市场还没有打开，是现在最大的一个问题。”他觉得，现在应该更多地去总结过去5年大家做的事情，思考和判断为什么有些规划没有达到预期，然后以一个重新出发的心态，继续前进。
