大模型专栏简介
Marshall McLuhan(加拿大哲学家)
我们塑造了工具,而后工具又塑造了我们。
本专栏从底层运行环境开始,依次介绍模型如何构建、如何提供服务,以及如何组成面向用户的应用。欢迎通过评论或贡献补充内容🤗。
-
基础设施
计算硬件、网络互联、存储、AI 软件栈、集群环境、模型与数据设施,以及基础设施安全。
开始阅读
-
模型开发
模型架构、训练基础、训练阶段、分布式训练、训练框架、能力评测,以及对齐安全。
开始阅读
-
模型服务
自回归推理、推理优化、模型压缩、分布式推理、服务化、性能评测与部署安全。
开始阅读
-
模型应用
模型 API、提示词与上下文工程、RAG、Agent、应用评测,以及安全与治理。
开始阅读
