向量

　　【科技消息】9月5日，天眼查App信息显示，华为技术有限公司申请的“AI模型的运行方法、装置、程序产品和存储介质”专利已正式公布。该专利于当日公开，旨在优化人工智能模型在异构计算环境下的运行效率，减少因数据搬运导致的处理延迟。 　　根据专利摘要，该技术属于机器学习领域，主要应用于包含处理器与计算卡协同工作的主机系统。在AI模型训练或推理过程中，输入数据通…

一、Llama3的架构
在本系列文章中，我们从头开始实现llama3。
Llama3的整体架构：
图片
Llama3的模型参数：
让我们来看看这些参数在LlaMa 3模型中的实际数值。
图片
[1] 上下文窗口（context-window

在 c++++ 中，数组是一种固定大小的数据结构，需要在创建时指定大小，而向量是一种动态大小的数据结构，大小可以在运行时更改。数组使用 [] 运算符访问和修改元素，而向量使用 push_back() 方法添加元素和 [] 运算符访问元素。数