产品库

LLMOps全球社区

LLMOps.Space是一个全球社区，面向LLM从业者和爱好者。社区聚焦于关于将LLM部署到生产环境的内容、讨论和活动。加入LLMOps Discord服务器，认识其他社区成员并参与讨论。社区提供有关LLM的教育资源、LLM公司和产品信息、即将举行的演讲和演示活动，以及LLM咨询师和相关事件的列表。

AI 社区与资源平台

Astral 是一个 AI 社区与资源平台，汇集了 AI 爱好者、专家和资源，让您能够分享、发现并及时了解最新的 AI 进展。该平台提供丰富的 AI 资源，连接人们之间的交流和讨论，为用户带来便捷的 AI 体验。

全球智能AI工具集，AI社区，AI工具箱产品库

零沫AI产品分享社区是一个集合了全球智能AI工具的平台，提供AI社区交流和AI工具箱产品库，覆盖自然语言处理、机器学习、计算机视觉等多个领域。它为用户带来最新的AI技术发展趋势，寻找可靠的开源AI工具，提供全面资讯和资源。

一个关于大型语言模型（LLM）后训练方法的教程、调查和指南资源库。

Awesome-LLM-Post-training 是一个专注于大型语言模型（LLM）后训练方法的资源库。它提供了关于 LLM 后训练的深入研究，包括教程、调查和指南。该资源库基于论文《LLM Post-Training: A Deep Dive into Reasoning Large Language Models》，旨在帮助研究人员和开发者更好地理解和应用 LLM 后训练技术。该资源库免费开放，适合学术研究和工业应用。

AI助力教育工具，一键生成教学资源。

Porosheets是一个以教师为中心设计的AI教育工具，旨在通过AI技术减轻教师在资源创建上的压力，让他们更专注于提供高质量的教育。它提供了工作表生成、评分标准生成和课程计划生成等功能，支持多语言，为教师、家长和学生提供一站式服务。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

AI与产品管理领域的知识社区

觅识AI社区是一个专注于人工智能与产品管理领域的知识社区，提供AI产品管理的相关知识体系和研发产品用例。社区成员有机会成为'超级个体和一人公司'。可通过邮件或社交媒体与主理人联系，加入AI PM社区。

AI学习社区

Promptstacks是一个AI学习社区，提供Generative AI的技巧和资源。用户可以分享、讨论Prompt工程以及行业动态。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

一个促进协作和社区共享的互联网资源目录。

Favird 是一个互联网资源目录，致力于通过社区的力量，汇集和分享各种有价值的资源。该平台为用户提供了一个便捷的方式来发现、收集和共享优秀的工具与项目。无论你是开发者、创业者还是普通用户，都可以在这里找到符合自己需求的资源。Favird 的用户社区不断壮大，保证了资源的丰富性与实用性。该网站是完全免费的，用户可以自由访问和使用所有资源，适合各类互联网用户。

ai, ai 绘画，comfyui, webui, AIGC

AIGC 综合性社区交流平台是一个专为 AI 爱好者搭建的社区平台，提供 AI 相关知识交流、学习资源分享、技术讨论等功能。平台更新及时，提供精选资源下载，拥有高速下载和 5x8h 服务。同时还提供 ComfyUI、Webui 和 Chatgpt 等圈子动态。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

全球大语言模型资源汇总

awesome-LLM-resourses是一个汇总了全球大语言模型（LLM）资源的平台，提供了从数据获取、微调、推理、评估到实际应用等一系列资源和工具。它的重要性在于为研究人员和开发者提供了一个全面的资源库，以便于他们能够更高效地开发和优化自己的语言模型。该平台由王荣胜维护，持续更新，为LLM领域的发展提供了强有力的支持。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

一键获取教学资源

Roshi是一个能够一键获取教学资源的网站，用户可以通过搜索关键词或选择分类快速找到所需的教学资源。Roshi的优势包括丰富的资源库、高效的搜索功能、用户友好的界面和定期更新的内容。Roshi采用订阅模式，用户可以选择免费或付费订阅来获得更多功能和特权。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

10,000 小时的学习资源，打造社区建设的终极 DIY 指南

Community Atlas 是一个拥有 10,000 小时学习资源的综合性产品，旨在帮助用户打造强大的社区。产品包括 100 多个 ChatGPT 提示，30 多个案例研究（如 Notion、Figma 等公司），以及 10 多个来自 Rosie Sherry 等专家的大师课章节。Community Atlas 是您不容错过的社区建设利器！立即注册并免费访问 Community Atlas！

真正的音乐商业教育

Creative Intell Academy提供深入的音乐业务课程，面向艺术家、制作人、律师、经理和创作者。由一支经验丰富的行业内部团队开发。加入Creative Intell社区，即可免费获取真实音乐业务的真实教育。

AI研究资源导航网站，提供AI研究资源、文档和实践案例

DeepResearch123是一个AI研究资源导航平台，旨在为研究人员、开发者和爱好者提供丰富的AI研究资源、文档和实践案例。该平台涵盖了机器学习、深度学习和人工智能等多个领域的最新研究成果，帮助用户快速了解和掌握相关知识。其主要优点是资源丰富、分类清晰，便于用户查找和学习。该平台面向对AI研究感兴趣的各类人群，无论是初学者还是专业人士都能从中受益。目前平台免费开放，用户无需付费即可使用所有功能。

和鲸社区是一个开源的数据科学社区平台

和鲸社区是一个面向数据科学爱好者和从业者的开源社区。用户可以在这里学习各种数据科学相关知识,分享代码、案例和数据集,参与数据竞赛等。平台集成了多种数据科学常用工具,提供免费的云计算资源。

AI辅助教育工具

Twee是一款使用人工智能的教育工具，可以帮助英语教师快速生成各种教学资源，包括文章、对话、选择题、开放式问题等。它提供了丰富的功能，可以帮助教师节省时间，提高教学效果。

AI工具和资源的终极平台

Insidr.ai 是一个专注于人工智能工具和资源的在线平台，旨在帮助用户发现、学习和利用AI技术来提升业务效率和创新能力。平台提供了500多个AI工具的目录，覆盖78多个类别，并且拥有一个活跃的AI社区，用户可以在这里交流学习、分享成功案例、寻找合作伙伴和人才。Insidr.ai 还提供AI咨询服务，帮助企业通过整合合适的工具和系统来实现业务的AI化。

生成式AI资源中心,覆盖研究、面试资源、笔记本等

这个GitHub仓库是一个集中存放生成式人工智能相关资源的中心,包括每月最新研究论文、面试题库、课程材料、代码笔记本等。内容定期更新,旨在让开发者及从业人员能够及时跟进最新进展,提高生产力。主要资源包括论文摘要、面试问题分类、免费课程列表、开源笔记本等,还包括一些使用场景和范例。

教育滚动应用，用学习取代浪费时间

JustLearn是一个教育性质的滚动应用，旨在用快速、有趣且共享的学习机会替代我们在社交媒体上的无效时间消耗。开发者通过观察到许多人在社交媒体上浪费大量时间，决定创建一个平台，让人们在短短5分钟内学到新知识，就像刷TikTok一样轻松有趣。JustLearn提供选择话题、浏览验证过的视频、回答问题、进行测验和参加由顶尖教授制作的迷你课程等功能，让用户在短时间内学到超过90%的人一天所学。产品背景是创造一个让学习变得吸引人、快速且社区化的平台。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。