DeepSeek是一款基于AI技术的智能搜索引擎,结合深度学习与自然语言处理,提供精准、高效的搜索体验。探索DeepSeek,感受未来智能搜索的无限可能!在科技探索的征途中,雷科技再次迈出了创新的一步,这次他们将目光聚焦在了手机本地部署AI大模型的尝试上。此前,雷科技已成功在无独显的笔记本电脑上,仅凭CPU和内存成功运行了一个7B参数量的Qwen蒸馏模型,但这一尝试的实际意义相对有限。于是,他们开始思考,如果将这样的AI模型部署到手机上,是否能够开启全新的应用场景?
为了实现这一目标,雷科技首先对手机本地部署AI的可行性进行了深入探索。他们在网上查阅了多种相关教程,并亲自测试了其中的几种方法。其中,一个通过Termux应用模拟Linux终端来部署Ollama,再运行DeepSeek模型的方案引起了他们的注意。然而,实际操作中,他们发现教程中的服务器存在问题,无法顺利访问清华大学镜像文件源,导致部署过程困难重重。尽管经过数小时的尝试,他们还是未能成功完成安装。
面对挑战,雷科技并未放弃,他们转而寻找其他可行的部署方案。幸运的是,GitHub上丰富的开源资源为他们提供了新的思路。他们测试了三款本地AI部署应用:ChatterUI、PocketPal和MNN大模型。这三款应用各有千秋,能够满足不同用户的需求。
在ChatterUI中,用户可以直接加载本地AI模型,并通过在线下载方式远程加载模型。这款应用还支持TTS(语音输出)功能,结合语音输入,可以解锁更多使用场景。安装完成后,用户只需简单设置即可轻松部署AI模型。而PocketPal则更加简洁,虽然不支持TTS功能,但同样支持加载本地AI模型,并提供了一些小参数的AI模型快速下载通道。
对于不太擅长技术操作的用户来说,MNN大模型则是一个更为友好的选择。这款由阿里开发的开源应用整合了多个在手机等小型移动设备上运行效果良好的AI模型,用户可以根据需要直接点击下载。下载完成后,点击即可加载使用,全程操作简便。
在成功部署AI模型后,雷科技开始了体验环节。他们下载了1.5B版本的DeepSeek-R1模型进行测试。虽然这个版本的模型在回答一些复杂问题时显得有些力不从心,但在骁龙8至尊版+16G运存的手机上,AI推理和生成速度都非常不错,已经能够满足日常问答和使用的需求。
在后续测试中,7B版本的DeepSeek模型表现更加出色。它不仅能够正确回答用户的问题,还能在离线状态下提供一些紧急情况下的基础建议。例如,在遇到癫痫症发作的病人时,AI能够给出正确的急救方法;在野外受伤无人帮助时,也能提供自救建议。
雷科技认为,在手机上部署AI大模型具有实际意义。虽然电脑上的部署可能显得多余,但手机上的离线AI却能在关键时刻发挥作用。它可以在用户无网且需要帮助时提供最基础的建议,成为用户的得力助手。同时,这也为隐私保护意识较强的用户提供了另一种选择,他们可以在自己的设备上部署专属AI模型,确保数据安全和隐私保护。
在对比了三款本地AI部署应用后,雷科技给出了他们的建议。对于追求稳定可用的用户来说,MNN是最好的选择;而对于有一定AI基础和编程基础的用户来说,ChatterUI和PocketPal则提供了更多功能和灵活性。无论选择哪款应用,用户都能享受到手机本地部署AI带来的便利和乐趣。
2025年初,DeepSeek发布的最新开源模型R1在全球人工智能领域掀起了一场风暴。这款模型不仅在技术上实现了重大突破,还以高性价比迅速吸引了全球科技的目光。DeepSeek的爆火,再次将人工智能和数字技术推向了全球的聚光灯下,也让企业服务行业看到了数字化转型的巨大潜力
OPPO Pad 4 Pro有望4月发布:80W快充通过3C认证,性能再升级?
联想MWC25大展AI新品,太阳能、折叠屏引领PC未来,铁王座能否稳固?
自 2025 年 3 月 1 日起,字节跳动重新启动了 司龄定制徽章 制作计划,每年满司龄后,用户都可以领取到一枚定制版司龄年份纪念徽章(2025 年为第一次发放,可一次性领取过往所有司龄年份徽章)…
荣耀MagicBook Pro 14月光白来袭!大学四年一本通关,预约价5199元起
华为MatePad Pro携手鸿蒙版亿图脑图:生产力平板,思维导图创作新飞跃!
奥迪A6 Avant全新换代来袭,一汽奥迪原汁原味引入,性能配置全面升级!
华为OpenHarmony推出SFFT,十行代码解锁大文件高速传输新技能
vivo新动向:申请注册vphone商标,具体用途引猜想
联想MWC25大展AI新品,太阳能、折叠屏引领PC未来,铁王座能否稳固?
荣耀MagicBook Pro 14月光白来袭!大学四年一本通关,预约价5199元起
AI技术赋能量子点Mini LED 三星Neo QLED系列重构画质金字塔
英特尔酷睿Ultra 5 230F:中端市场新选择,高效能与低功耗并存?
本网站LOGO小熊标志受版权保护,版权登记号:鲁作登字-2015-F-025467,未经ITBEAR官方许可,严禁使用。