Tencent Hy3 正式版于今日发布,并同步开源模型权重

相较此前发布的 Hy3 Preview, Hy3 正式版的模型规模仍然沿用 295B-A21B (3.8B-MTP),但提升了后训练的 pipeline 的质量与规模。


简单摘选了一些看点:

基准测试无法完全反映产品在生产环境中的实用性

基于大量的用户反馈和产品遥测数据,我们发现了影响产品体验的实际行为问题,并改进了模型在这些方面的能力,从而获得了产品团队的一致好评。

...

世界知识与抗幻觉:内部知识和外部幻觉相互关联,对现实世界的产品体验至关重要。在 “有据则答,无据则明,不混淆来源,不伪造数据”的理想行为模式指导下,我们实施了细粒度的数据清洗和特定的训练约束。

在现实场景的内部评估中,Hy3 的幻觉率从 12.5% 降至 5.4%,常识错误率从 25.4% 降至 12.7%。这些改进实质性地减少了事实混淆、伪造和逻辑矛盾。


src: https://huggingface.co/tencent/Hy3
 
 
Back to Top