· 亲线团队 · 科普技术 · 7 min read

技术解析:亲线的本地轻量模型——为什么离线也能用

为什么亲线·和鸣在没网的地方也能语音唤醒、识别方言?因为所有AI模型都跑在手机本地,不用传云端。这篇文章讲讲什么是端侧AI、为什么老人产品必须做离线、本地模型和云端模型的区别。

本地轻量模型技术解析 为什么亲线在没网的地方也能用?

先问一个问题

你有没有遇到过这种情况:

手机没信号了,想叫语音助手,叫半天没反应。 因为语音助手在云端,没网就等于聋了。

但亲线·和鸣不一样——就算没网,老人说”小亲小亲”,手机还是会醒。

为什么?因为亲线的AI模型,全部跑在手机本地,不用传云端。

什么是”端侧AI”?

云端AI vs 端侧AI

现在大部分AI产品,都是”云端AI”:

  • 你说句话 → 传到云端服务器 → 服务器处理 → 结果传回来
  • 好处:模型大、聪明
  • 坏处:必须联网、慢、费流量、隐私差

端侧AI,就是把AI模型直接装在手机上:

  • 你说句话 → 手机自己处理 → 立刻出结果
  • 好处:快、不用网、不费流量、隐私安全
  • 坏处:手机算力有限,模型不能太大

亲线·和鸣选的就是端侧AI路线。

云端AI vs 端侧AI 云端AI要传网络,端侧AI手机自己搞定

为什么老人产品必须做离线?

老人家里网络不稳定

我们调研过,老人家里的网络条件:

  • 一半以上WiFi信号不好
  • 12%用手机流量,舍不得开
  • 农村很多地方4G信号都弱

如果亲线必须联网才能用,那一半老人都用不好。

没网的时候,老人更需要联系家人

老人在家最怕什么?出事了联系不上家人。

如果没网的时候亲线就用不了,那最需要它的时候,它反而掉链子。

所以我们坚持:核心功能必须离线可用。

亲线的本地模型做了什么?

1. 语音唤醒——离线

“小亲小亲”这个唤醒词识别,全部在本地完成:

  • 模型大小:不到10MB
  • 识别速度:0.2秒
  • 功耗:极低
  • 离线:完全可用

就算手机没插SIM卡、没连WiFi,唤醒功能照样能用。

2. 方言识别——离线

22种方言的语音识别,也是本地模型:

  • 我们把方言模型压缩到了每个方言只有几MB
  • 老人说方言,手机本地就能听懂
  • 不用传到云端,不花流量

方言模型在本地 22种方言模型全部在手机本地

3. 视频通话——必须联网

视频通话当然需要网络——画面和声音要传到家人那边。

但就算网络断了,亲线也会:

  • 自动切成语音通话(省流量)
  • 断线自动重连
  • 有WiFi自动恢复高清

本地模型怎么做到这么小?

模型压缩技术

大模型动不动几个G,怎么塞到手机里?

我们用了几种压缩技术:

  1. 量化 —— 把32位浮点数压缩成8位整数,体积小4倍,精度几乎不掉
  2. 剪枝 —— 把没用的神经网络神经元剪掉,减少计算量
  3. 蒸馏 —— 用大模型教小模型,小模型学会大模型的本事,但体积只有1/10

经过压缩后,亲线的核心AI模型总共不到50MB,比一个微信表情还小。

为什么不用更大的模型?

有人问:为什么不上GPT、不上大模型?

答案很简单:老人不需要那么聪明,需要的是快、稳、离线。

老人要的不是和AI聊天,是:

  • 说”接听”就能接电话
  • 用方言说话手机能听懂
  • 没网也能用

这些事,小模型就够了。

本地模型的三个好处

好处一:快

不用等网络,手机自己算,0.2秒就反应。

好处二:隐私

你的声音、你的视频,都在手机里,不上传云端。

好处三:省钱

不花流量,不花云服务器费用。

这也是为什么亲线·和鸣能卖得这么便宜——我们不用养一堆云服务器。

本地模型三好处 快、隐私、省钱——这就是本地模型的价值

写在最后

AI不是越大越好,是适合就好。

给年轻人用的AI,要聪明、要多才多艺,可以跑在云端。 给老人用的AI,要快、要稳、要离线可用,必须跑在本地。

亲线·和鸣选择了一条更难的路:把大模型压缩成手机能跑的小模型,牺牲一点”聪明”,换来老人真正能用的体验。

科技的意义,不是做出来多酷的功能,而是让最需要它的人,在任何条件下都能用得上。


相关阅读:

  • 语音唤醒是怎么工作的? (语音唤醒)
  • 22种方言都能听懂:语音识别技术解析 (方言识别)
  • 科普:什么是端到端加密?为什么视频通话需要它 (端到端加密)
Share:
Back to Blog

Related Posts

View All Posts »