研究团队提出Dust：一种无需反向传播的Transformer预训练方法

OmniTools 10月6日消息，近日，Hacker News 上出现关于名为 Dust 的 Transformer 预训练方法的讨论。该方法由用户 E-Reverance 分享，核心特点为无需使用反向传播（backpropagation）进行预训练。相关技术资料已公开于 qlabs.sh/research/dust。目前公开信息仅为初步介绍，尚未披露具体实现细节、实验数据或基准测试结果。