AI项目

日本Towa因AI芯片需求股价激增四倍

随着 AI 的兴起,一家不太为人知的日本芯片设备公司 Towa 的股价惊人地飙升了 390%。SK Hynix 和三星等公司正依赖 Towa 的设备来生产高端内存芯片。Towa 还在研发新的工具,承诺将芯片成型成本削减一半。

AI项目, 开源项目

Vercel 上一键部署babyAGI

Morphic 只用 OpenAI 与搜索服务 @tavilyai 的 API 就能整得像模像样,换成 Gemini 与 Google Search 的 API 也一样能行。感觉 Perplexity 给大家带了 AI 时代的问答式搜索体验后,这种模式就会被大家学去强化自己的功能了

AI项目, 开源项目

线性注意力序列并行(LASP)

上海人工智能实验室和 TapTap 的研究人员提出了线性注意序列并行 (LASP) 技术,该技术优化了线性 Transformer 上的序列并行性。它采用点对点 (P2P) 通信在节点内或节点间的 GPU 之间进行有效的状态交换。 LASP 最大限度地利用了线性注意力中的右积核技巧。重要的是,它不依赖于注意力头分区,使其适用于多头、多查询和分组查询注意力。

AI项目

清华大学研究人员提出 SPMamba

清华大学BNRist计算机科学与技术系的研究人员介绍了SPMamba,这是一种植根于SSM原理的新颖架构。通过引入平衡效率和效果的创新模型,围绕语音分离的讨论得到了丰富。 SSM 体现了这种平衡。通过巧妙地整合 CNN 和 RNN 的优势,SSM 满足了对能够在不影响性能的情况下高效处理长序列的模型的迫切需求。

AI项目

北大发布一个新的图像生成框架VAR

VAR首次使GPT风格的AR模型在图像生成上超越了Diffusion transformer。
同时展现出了与大语言模型观察到的类似Scaling laws的规律。
在ImageNet 256×256基准上,VAR将FID从18.65大幅提升到1.80,IS从80.4提升到356.4,推理速度提高了20倍

滚动至顶部