相关资讯
AI 摘要
根据交通运输部3月底发布的数据,2024年,全国港口货物吞吐量176亿吨,同比增长3.7%,集装箱吞吐量达3.3亿标箱,比上年增长7.0%,继续稳居世界第一。在全球货物和集装箱吞吐量排名前十的港口中,中国分别占八席和六席。
110W
·
·
·
2025年4月06日
·
AI 摘要
时隔一年,FlashAttention-3已经全方位升级。训练速度提升1.5-2倍,FP16下计算吞吐量高达740TFLOPs/s,达理论最大吞吐量75%,更充分利用计算资源,此前只能做到35%。FP8下速度接近1.2PFLOPs/s!同时误差也进一步减小,FP8下的误差比标准Attention减少2.6倍。