vLLM:加州大学伯克利分校开源的高性能大语言模型推理与部署框架

vLLM是加州大学伯克利分校 Sky Computing Lab 开源的高性能大语言模型(LLM)推理与部署框架,核心目标是为用户提供低延迟、高吞吐量、低成本的大模型服务。

加州大学智能推理框架
LMArena:加州大学伯克利分校推出基于用户投票的AI模型评估平台

LMArena是加州大学伯克利分校推出的AI模型评估平台,用户输入问题后,平台同步输出两个AI模型的匿名回答,用户投票选出更优答案,投票结果实时反馈至公共排行榜,直接决定模型排名。

AI模型评估平台AI模型评测加州大学
TurboDiffusion:一款清华、加州大学联合推出的视频生成加速框架

TurboDiffusion是由清华大学、生数科技与加州大学伯克利分校联合研发的重磅视频生成加速框架,凭借多项核心技术突破,实现视频生成效率的跨越式提升。框架创新性融合SageAttention、SLA(稀疏线性注意力)与rCM(时间步蒸馏

加州大学清华大学生数科技
一款由加州大学伯克利分校开发的深度学习框架——Caffe

Caffe是一个由加州大学伯克利分校开发的深度学习框架,以其高效性、模块化设计和易用性而闻名。它支持多种深度学习架构,包括卷积神经网络(CNN)、循环神经网络(RNN)等,并广泛应用于计算机视觉、自然语言处理、语音识别和医学影像分析等领域。

AI学习框架加州大学