腾讯Hy4正式开源 混元LLM系列实现全量开放
11月20日,据报道,腾讯混元团队宣布Hy4大模型正式开源,模型权重已在GitHub、Hugging Face、ModelScope和GitCode四个平台同步上线,开发者可自行下载部署,至此混元LLM系列完成全部开源。Hy4正式版最早于11月4日发布,采用MoE混合专家架构,总参数770B、激活参数49B,上下文窗口突破100万Token。与旗舰版同步开放的主打性价比的Hy4 flash,总参数约2200亿,其中约635亿Engram参数,每个Token仅激活约120亿参数,同样支持最高100万Token上下文及文本与图像输入。
开源协议方面,Hy4及Hy4 preview采用Apache 2.0许可证,允许商业使用与修改;腾讯混元同步发布Hy4模型安全评估卡片,披露网络安全与生物安全等维度评估结果,训练数据仅纳入PoC生成、漏洞修复等防守性内容,剔除了漏洞利用、逆向工程与渗透等攻击性数据。