Human-860B-A2B 多模态MoE模型:

如果人类用ai的标准来看,我发现人类其实是本地小模型,参数量是极小的,大概就2B。虽然我们有860亿的神经元,但是日常只调用极少的一部分,算力峰值是忽高忽低的,非常不稳定,可以瞬间分析出今天谁想害你,但是算12345乘以54321就卡机了。预训练通常是不收敛的,今天信科学,明天求神佛,早上说要自律,晚上躺平刷剧,永远在收敛和发散之间反复横跳。多任务并行方面,人类应该是真正意义上的单核单线程,说是能一边听歌一边做正事,一边回消息,其实你的注意力在疯狂的上下文切换,切换的时候还会丢包。联网搜索方面,没有这个能力,属于纯本地离线推理模型,依赖静态知识库,但是语言书籍和互联网是我们的外挂,不过通常延迟高,带宽窄,很多时候还要靠问人来路由。思维链是极长而且容易跑偏的,通常由发散性思维进行路径探索,同时带有大量噪声分支,微调成本高的离谱,而且极易失败,需要消耗大量的食物、睡眠和情绪价值,有的时候会过拟合某句鸡汤,然后很长一段时间拿它来当人生哲理。知识截止日期没有明确的截止日期,而且每天都在接收新的垃圾,比如刷的无脑短视频,跟朋友聊的八卦,论坛里的帖子,每天接收到的有效信息不超过1%。能耗管理属于极端省电模式,代价是每天必须强制关机4-8小时来清理缓存,否则一般会直接黑屏。这样说起来人类不太好用。
 
 
Back to Top