最近快被身边几个折腾 AI 的朋友问烦了。“我这台轻薄本能不能跑 Qwen?” “下个 Llama 3 会不会把电脑搞炸?”

说实话,大多数人对自己的电脑硬件其实挺陌生的。别说他们,我自己每次下载那些几十 G 的大模型前心里也没底,万一下载两小时,运行卡成 PPT,真的会很想砸鼠标。

今天摸鱼的时候,无意间刷到一个专门治这种“显存焦虑”的网站,叫 CanIRun.ai,实在没忍住想分享一下。

朋友总问我电脑能不能跑Qwen,这个网站3秒给答案

这玩意挺神奇的。你啥也不用装,就用浏览器打开网页,等个大概三五秒吧,它就能把你这台电脑的 CPU、显卡、甚至苹果那种统一内存带宽,全部查个底朝天。

查完之后,它会直接给你列个表,告诉你现在的开源大模型,你这台机器到底能跑动哪些。

最实在的是,它不跟你扯什么虚的,直接像游戏装备一样给了个 S 到 F 的评级。比如我手边这台 18G 内存的 M3 Pro,测出来跑 Llama 3.1 8B 是 S 级,嘎嘎流畅;跑 Phi-4 14B 是 A 级;要是敢碰 24B 以上的大模型,直接给个 F 劝退。

每个模型大概占几 G 显存,每秒能蹦几个字,旁边都标得一清二楚。它甚至把同一个模型不同压缩版(也就是量化版,从 Q2_K 到 F16)需要的显存都列出来了。你显卡有多大肚子,就照着下哪个版本的 GGUF 文件,再也不用像开盲盒一样瞎试了。

如果你是个爱折腾的老玩家,或者最近正打算为了跑 AI 换新电脑,它里面还能手动填配置,买之前先“云测试”一把。对了,除了聊天模型,Stable Diffusion 这类画图模型也在里面,而且免费、没广告,连登录都不用。

打算折腾本地大模型的朋友,访问 CanIRun.ai 试一试吧。绝对能帮你省下大把对着下载进度条发呆的时间。

微信搜一搜 © iBitBetter