【环球时报报道 记者 陈子帅】近日,中国科学院自动化研究所科研团队与相关单位合作,成功研发出首款类脑脉冲大模型“瞬悉1.0”(SpikingBrain-1.0)。该款大模型实现了全流程国产化,标志着我国在类脑计算与大模型融合创新方面取得重要突破。该科研团队核心成员、中国科学院自动化研究所研究员李国齐在接受《环球时报》记者采访时表示,大模型还将持续“进化”,后续还会发布瞬悉2.0、瞬悉3.0,有望为突破现有普通大模型的技术瓶颈带来新思路,为中国引领下一代人工智能的发展方向提供基础积累。
什么是类脑脉冲大模型?
李国齐告诉《环球时报》记者,类脑脉冲大模型是指借鉴大脑结构和启发而设计的一类大模型构造范式,它与当前主流大模型架构(Transformer架构)不同,主要有三点区别。一是类脑大模型提供一条新的启发式技术路线,期望借鉴大脑的结构和功能启发模型的架构设计。二是类脑大模型期望体现人脑的超低功耗特性,希望借鉴0/1的脉冲信号来传递信息,结合类脑芯片等硬件的事件驱动特性可以具有显著的低功耗、低时延等优势。三是类脑大模型的记忆方式与人脑记忆方式更贴近。“普通大模型往往把所有对话历史都‘逐字逐句’地保留下来,每次回答都要重新处理一遍完整历史,这样做导致处理信息增多时出现存储和计算瓶颈。而类脑脉冲模型会像人类记忆一样,把历史信息进行压缩和提炼,保留关键信息,不需要反复翻遍全部记录。这些差异带来的直接好处是,在超长对话或超长文本输入场景下,类脑脉冲模型依然能保持快速响应。”
--
FROM 120.244.237.*