10月10日消息，亚马逊云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模态模型，现已在AmazonBedrock和Amazon SageMaker中正式可用。该系列模型进行了全新升…
该模型在文本摘要、情感分析、代码生成和执行指令方面表现出色，并增加了图像推理能力。 其中 Llama 3.2 1B 和 3B 模型支持 128K 标记的上下文长度，在边缘本地运行的设备用例（如摘要、指令跟踪和…
HuggingFace 下载量接近 3.5 亿次，较 2023 年同期增长了 10 倍；过去一个月下载量达到了 2000 万次，使得Llama 成为领先的开源模型系列；云服务供应商对 Llama 需求巨大…
Llama-3.1-Nemotron-51B 模型还减少了内存占用，在推理过程中可以在单个 GPU 上运行 4倍以上的工作负载，从而带来了一系列新的机遇。 通过使用知识蒸馏技术，Nvidia 缩小了参考模…
9 月 3 日消息，Meta 公司昨日发布新闻稿披露了旗下 Llama 开源AI模型家族在 Hugging Face的下载量情况，仅在上个月（8 月 1 日- 8 月 31 日），相关模型的下载次…
通过公开我们的 Llama 模型，我们看到了一个充满活力和多样化的人工智能生态系统，开发人员拥有比以往更多的选择和能力。」几天后，在一次财报电话会议上，Meta 首席执行官马克·扎克伯格讨论了公司利用人工…
他指出,目前大多数“狭义端侧模型”的核心目标在于为用户提供大语言模型推理服务,受限于模型参数、算力、软件生态、功耗控制等诸多难题,往往会通过压缩、分割等软硬件协同优化实现大语言模型在终端设备上的本地化应用。 …
英伟达通过从模型中删除 16 层来进行深度剪枝，并将其从 8B 模型缩减为 4B 模型，此外还部署另一种技术，通过修剪嵌入维度和 MLP中间层来进行宽度剪枝。 知识蒸馏是一个过程，在这个过程中，一个较小的…
目前可以在 Hugging Face 上查看并使用 Falcon Mamba 7B，这个仅用因果解码器的模型采用了新颖的 Mamba状态空间语言模型（State Space Language Model,…
T-MAC 是一种创新的基于查找表（LUT）的方法，专为在 CPU 上高效执行低比特大型语言模型（LLMs）推理而设计，无需权重反量化，支持混合精度矩阵乘法（mpGEMM），显著降低了推理开销并提升了计算速度…
Meta的首席执行官马克·扎克伯格透露，为了支持Llama 4的训练，公司正在大规模投资计算资源。 从Llama1的2048块GPU，到Llama 3.1的16384块GPU，Meta的GPU用量持续增长…
财报显示，Meta在2024年上半年营收为755.27亿美元，上年同期的营收为606.45亿美元； 截至2024年6月30日，Meta持有的现金、现金等价物、受限制现金为330.26亿美元，上年同期为298亿…
有了生成式人工智能，我觉得我们很快就会进入一个新阶段，到那时，你在 Instagram 上看到的内容，将不再只是那些你关注的人发布的东西。我认为柏拉图版本的 AI 不仅仅是文字，而是包括你能想象到的每一点，…
“我梦想着有一天，你可以把Facebook或Instagram都当成像单一的AI模型，所有不同的内容类型和系统集合在一起，这些内容在不同的时间范围内有不同的目标，有些只是向你展示你今天想要看到的有趣的内容，…
他透露如今Meta正在通过Llama AI 在AR和VR设备中搭建一个开放操作系统。黄仁勋也对此补充道，英伟达正是通过Meta的开源数据，打造了AI Foundry，帮助企业将AI数据存在任何地方，并设立好…
DAO Base 是一个专为 DAOs 设计的 AI 驱动的数据和基础设施平台，它通过先进的算法帮助 DAOs和选民建立他们的区块链和非区块链数据声誉层，使用户能够智能监控 DAO 治理、做出明智的决策，…
于2002年8月由博客教父方兴东创立。作为中国博客发源地，汇聚国内众多具新锐思想的意见领袖，是中国最具影响力的博客平台。“每天5分钟，给思想加油”是我们的宗旨！
Meta在报告中披露，为了训练自己的Llama 3 4050亿参数大模型，使用了包含16384块NVIDIA H100 80GB GPU的集群，一共花了45天，期间居然出现了419次意外报错，平均每3个小时…
【导读】适逢Llama3.1模型刚刚发布，英伟达就发表了一篇技术博客，手把手教你如何好好利用这个强大的开源模型，为领域模型或RAG系统的微调生成合成数据。 在这个过程中，我们可以使用LLM来解析底层…
7月24日消息，美国科技巨头Meta发布了其最强开源人工智能(AI)模型Llama 3.1，拥有三个不同的版本。其中，Llama3-8B和Llama 3-70B为同等规模的大模型树立了新的基准，然而，在短短…
7 月 28 日消息，Meta 发布的一份研究报告显示，其用于训练 4050 亿参数模型 Llama 3 的 16384 个英伟达H100 显卡集群在 54 天内出现了 419 次意外故障，平均每…
Mistral AI是一家成立刚满一年的法国AI初创公司，也是截至目前欧洲范围内资金最充足、最有竞争力的AI玩家，其核心成员来自Google DeepMind等顶尖AI机构，比如联创Mensch就是对Chi…
面对ToB业务复杂性和多样性,神州问学深度整合算力、模型、知识与应用四大核心要素,将AI原生的场景赋能、知识治理、模型训练与管理三大功能模块融会贯通,这不仅极大地缩短了从模型研发到实际应用的时间周期,还为企业…
03/31 18:21
03/31 18:02
03/31 18:00
京公网安备 11011402013531号