SpikeGPT项目原作解读:使用脉冲神经网络的生成式语言模型
机器之心最新一期线上分享邀请到了电子科技大学朱芮捷,为大家分享他们近期工作 SpikeGPT。
现有的语言模型如 ChatGPT 等都需要大量的计算资源和维护成本,而脉冲神经网络则可以利用稀疏和事件驱动的激活来降低模型推理的计算开销。脉冲神经网络是一种模仿大脑信息处理方式的算法,与传统的深度学习神经网络不同的是,神经元只有在被激活时才会发出脉冲信号。然而,脉冲神经网络在模型训练方面也面临着挑战,很多针对非脉冲神经网络的优化策略难以应用于脉冲神经网络,导致它们在语言生成任务上的性能落后于现代深度学习。
SpikeGPT 借鉴 RWKV 语言模型,用纯二进制的脉冲激活单元替换了传统的深度学习激活单元,并修改了 Transformer 模块,用流式输入代替多头自注意力机制,以减少随序列长度增加的二次计算复杂度。在三种参数规模(45M、125M 和 260M)下进行了实验,其中 260M 是目前最大的可反向传播训练的脉冲神经网络。实验结果与进一步推断表明,在维持相似性能的情况下,SpikeGPT 在能够利用稀疏、事件驱动激活的神经形态硬件上,比相似的深度学习模型节省了约 22 倍的能耗。
分享主题:SpikeGPT:使用脉冲神经网络的生成式语言模型
分享嘉宾:朱芮捷,电子科技大学大四本科生,加州大学圣克鲁兹分校准博士生,主要研究兴趣为脉冲神经网络,为目前两大主流脉冲神经网络框架snntorch与SpikingJelly的贡献者。
分享摘要:本次分享将主要专注于脉冲神经网络、SpikeGPT与RWKV上,尝试为此类RNN的生成式方法梳理一条脉络。
相关链接:
1)SOTA!模型平台项目主页链接:
https://sota.jiqizhixin.com/project/spikegpt
2)论文链接:
https://arxiv.org/abs/2302.13939v2
3)代码仓库:
https://github.com/ridgerchu/SpikeGPT
4)延伸阅读:
https://news.ucsc.edu/2023/03/eshraghian-spikegpt.html
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
随时掌握互联网精彩
- 1 习近平将对欧洲三国进行国事访问 4966599
- 2 南京胖哥被初诊为PTSD 4997781
- 3 女子直播时被失散32年的父亲认出 4815192
- 4 假日经济持续升温 4750534
- 5 部分高校禁止学生五一集体出游 4691020
- 6 00后存10万裸辞用利息过极简生活 4593170
- 7 没有驾照的周鸿祎坐在车顶上 4473699
- 8 凤凰传奇演唱会女粉把自己唱生气了 4330088
- 9 常州机场售卖无主行李箱?假的 4285638
- 10 千万粉丝网红夫妻结束12年婚姻 4129328