attention

湖南卫视《歌手》官宣第三期袭榜歌手为断眉Charlie Puth，他将带来两首歌曲《Attention》和《See You Again》。大家来预测下这位创作歌手能否袭榜成功。

5月30日，湖南卫视《歌手》官方微博宣布查理·普斯（昵称“断眉”）为袭榜歌手。他的音乐合伙人是蒋一侨。他将带来两首歌曲《Attention》+《SeeYouAgain》。不过，湖南卫视未透露他的袭榜对象是谁。

时隔一年，FlashAttention-3已经全方位升级。训练速度提升1.5-2倍，FP16下计算吞吐量高达740TFLOPs/s，达理论最大吞吐量75%，更充分利用计算资源，此前只能做到35%。FP8下速度接近1.2PFLOPs/s！同时误差也进一步减小，FP8下的误差比标准Attention减少2.6倍。