关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。
在过去的几个月中，AI驱动的编程助手领域发生了一些令人难以置信的发展。诸如Claude Artifacts、Claude Dev 和 Cursor AI 等工具，帮助数千名开发者甚至非开发者在几分钟内构建网络应用，无需编写一行代码。
如今，Together AI 推出了一款名为 LlamaCoder 的全新AI编程助手，它能够通过文本描述生成完整的应用程序。
为什么LlamaCoder值得关注？它完全免费且开源。
什么是LlamaCoder？
LlamaCoder 是 Together AI 推出的一款开源网络应用，它基于Meta最新的开源4050亿参数语言模型 Llama 3.1 405B，通过文本提示生成完整的应用程序。 链接：https://github.com/Nutlope/llamacoder
Together AI 是一家位于旧金山的公司，专注于生成式人工智能（AI）。它为构建、训练和运行AI模型提供服务，包括私人数据处理和专用GPU集群。
Meta 的 Llama 3.1 是一组多语言大规模语言模型（LLM），提供8B、70B和405B三种规模的预训练和指令微调生成模型（文本输入/文本输出）。Llama 3.1 经过指令微调，特别适用于多语言对话场景，并且在许多行业基准测试中超越了许多现有的开源或闭源的聊天模型。
下图展示了Llama 3.1与GPT-4、GPT-4o和Claude 3.5 Sonnet等竞争对手的对比：
自发布以来，LlamaCoder仅在一个多月内就获得了超过3000个GitHub星标，数百名开发者克隆了其代码库，生成了超过20万个应用程序。
“我们的愿景是将研究中的创新以最快的速度投入生产。基于我们领先的推理优化研究，Together 推理引擎利用了FlashAttention-3内核、基于RedPajama的自定义预测器以及市场上最准确的量化技术。”——El Mghari，Together AI负责开发者关系的软件工程师
LlamaCoder 如何工作？
你可以在这里免费试用LlamaCoder，链接：https://llamacoder.together.ai/
无需注册账号，你只需在提示框中描述你想要的应用并按下回车键即可。
你还可以更改模型，启用或禁用 Shadcn UI。
• 模型选项：可以选择Llama 3.1 405B、Llama 3.1 70B或Gemma 2 27B。
• Shadcn UI 是一个轻量级开源UI框架，帮助开发者创建自定义界面。建议启用该功能。
我们来试一个简单的例子。
提示：为我构建一个简单的计算器应用
处理速度令人惊讶，这个例子只用了大约10秒钟就完成了。生成的代码会实时显示在仪表板左侧。
你可以点击右下角的 “Open in sandbox” 按钮，在CodeSandbox中打开应用程序。
这样你就可以根据需要进一步修改应用程序。
当然，你也可以让AI对应用进行调整。比如，我们可以通过下面的提示将计算器升级为支持科学计算的版本：
提示：将计算器升级为支持复杂的科学计算
非常棒！你还可以将应用发布为公开访问。点击 “发布应用” 按钮，LlamaCoder会生成一个类似于 https://llamacoder.together.ai/share/SsXU8 的链接。
不过，目前似乎没有一个页面可以浏览所有通过LlamaCoder生成的公开共享的应用程序。
如果你想知道LlamaCoder与Claude的Artifacts的表现差异，我们可以用类似的提示测试一下。
提示：为我构建一个支持科学计算的计算器应用
结果看起来非常相似，但我个人更喜欢用Claude AI构建的应用外观和手感。
LlamaCoder是开源的
如果你希望在本地运行LlamaCoder，可以先在HuggingFace下载模型权重:https://huggingface.co/meta-llama/Llama-3.1-405B/tree/main
LlamaCoder的技术栈如下：
• Meta的 Llama 3.1 405B 语言模型
• Together AI 提供的大规模语言模型推理
• Sandpack 用于代码沙盒
• Next.js 应用路由和Tailwind CSS
• Helicone 用于可观测性
• Plausible 用于网站分析
要设置并运行LlamaCoder，只需从GitHub克隆项目，安装依赖项，并按照以下步骤运行：
1. 克隆仓库：git clone https://github.com/Nutlope/llamacoder](https://github.com/Nutlope/llamacoder
2. 创建 .env 文件并添加你的 Together AI API密钥：TOGETHER_API_KEY=
3. 运行 npm install 和 npm run dev 来安装依赖项并在本地运行
你可以看到LlamaCoder在生成应用程序时的强大功能和高效表现。作为一款完全开源的AI编程助手，它为开发者提供了一个极具潜力的平台，能够极大地提高编程效率并拓展应用开发的可能性。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
保证100%免费
