亚洲财经

☰ 搜索

腾讯混元下一代模型将大幅扩参,Hy4-mini、Flash-Lite也在路上

腾讯首席AI科学家姚顺雨与混元研究团队在Reddit举行公开问答,透露了下一代混元模型的研发计划。腾讯表示,尽管字节跳动、Kimi等厂商正在探索数万亿参数的大模型,混元仍停留在约7000亿参数规模,但较小且训练扎实的模型也能超越更大的模型,且训练成本更低。团队相信scaling law,下一代Hy模型将显著扩大参数规模,现有Hy4也将通过大规模强化学习继续提升能力。此外,腾讯还透露了能够在个人电脑上本地运行的小模型路线图,Hy4-mini已列入计划,更轻量的Flash-Lite也将推出。