产品库

FlagCX是一个跨芯片通信库。

FlagCX是由北京人工智能研究院（BAAI）支持开发的可扩展和自适应的跨芯片通信库。它是FlagAI-Open开源计划的一部分，旨在促进AI技术的开源生态系统。FlagCX利用原生集体通信库，全面支持不同平台上的单芯片通信。支持的通信后端包括NCCL、IXCCL和CNCL。

开源AI芯片性能基准测试平台

FlagPerf是由智源研究院联合AI硬件厂商共建的一体化AI硬件评测引擎，旨在建立以产业实践为导向的指标体系，评测AI硬件在软件栈组合（模型+框架+编译器）下的实际能力。该平台支持多维度评测指标体系，覆盖大模型训练推理场景，并支持多训练框架及推理引擎，连接AI硬件与软件生态。

跨平台通信协议，使不同的大型语言模型（LLMs）能够高效沟通。

Agora是一个简单的跨平台协议，允许异构的大型语言模型（LLMs）通过谈判高效地相互通信。该协议通过自然语言进行罕见通信，并为频繁通信协商出一种通信协议，通常涉及结构化数据（例如JSON）。一旦协议确定，它们将使用LLMs实现例程，即简单的脚本（例如Python），用于发送或接收数据。未来通信将使用这些例程处理，这意味着不再需要LLMs，从而实现了效率、多功能性和可移植性。

视频和音频通信平台

Trivoh是一个基于人工智能驱动的视频和音频通信平台，通过自动化提升用户参与度，为您的团队提供全面的协作和通信解决方案，提高整体生产力和效率。Trivoh提供虚拟会议、聊天系统和易于插件等功能，支持多种使用场景。价格根据定制需求而定。

苹果芯片高效灵活机器学习

MLX是一种类似NumPy的数组框架，专为在苹果芯片上进行高效灵活的机器学习而设计，由苹果机器学习研究团队提供。Python API与NumPy紧密相似，但也有一些例外。MLX还具有完整的C++ API，紧密遵循Python API。MLX与NumPy的主要区别包括：可组合的函数转换、惰性计算和多设备支持。MLX的设计灵感来自PyTorch、Jax和ArrayFire等框架。与这些框架不同的是，MLX采用统一内存模型。MLX中的数组位于共享内存中，可以在任何受支持的设备类型（CPU、GPU等）上执行操作，而无需执行数据复制。

开源实现分布式低通信AI模型训练

OpenDiLoCo是一个开源框架，用于实现和扩展DeepMind的分布式低通信(DiLoCo)方法，支持全球分布式AI模型训练。它通过提供可扩展的、去中心化的框架，使得在资源分散的地区也能高效地进行AI模型的训练，这对于推动AI技术的普及和创新具有重要意义。

基于Linux环境快速部署开源大模型的教程

该项目是一个围绕开源大模型的全流程指导教程,包括环境配置、模型部署、高效微调等,简化开源大模型的使用和应用,让更多普通学习者能够使用开源大模型。项目面向对开源大模型感兴趣且想自主上手的学习者,提供详细的环境配置、模型部署和微调方法。

两个会话型AI代理在确认彼此为AI后切换到声音级协议进行通信

GibberLink是一个基于ggwave数据传输协议的AI通信模型。它允许两个独立的AI代理在对话中识别彼此为AI后，从英语切换到声音级协议进行通信。这种技术展示了AI在识别和切换通信方式上的灵活性，具有重要的研究和应用价值。项目基于开源协议，适合开发者进行二次开发和集成。目前未明确提及价格，但其开源性质意味着开发者可以免费使用和扩展。

Graph Neural Network (GNN)库,为苹果芯片量身打造

mlx-graphs是一个专为苹果芯片设计的图神经网络(GNN)库。它利用苹果硬件的优势,如统一内存架构,实现了在Mac设备上的高效GNN训练和推理。主要优点有:1)利用GPU并行计算,在大数据集上实现高速GNN运算;2)利用统一内存,支持在GPU上直接处理大规模图数据;3)无需设备间数据传输,简化开发流程。用户可以便捷地在Mac设备上处理大规模图问题,实现高性能GNN模型训练。

跨平台AI性能基准测试工具

Geekbench AI 是一款使用真实世界机器学习任务来评估AI工作负载性能的跨平台AI基准测试工具。它通过测量CPU、GPU和NPU的性能，帮助用户确定他们的设备是否准备好应对当今和未来的尖端机器学习应用。

AI智能客户通信和消息平台

Glassix是一款AI智能客户通信和消息平台，统一你的消息，加快响应速度，提升客户满意度。它帮助公司和小企业通过个性化和自动化的交互驱动客户满意度。Glassix提供统一的收件箱，跨渠道协同工作，智能路由引擎，客户会话历史记录，丰富媒体和大文件共享等功能。它适用于各种行业和团队规模，并提供灵活的定价计划。

谷歌最新的高性能量子芯片

Willow量子芯片是谷歌量子人工智能团队研发的最新一代量子芯片，它在量子错误校正和性能上取得了重大突破。这款芯片能够显著降低随着量子比特数增加而产生的错误，实现了量子计算领域近30年来追求的关键挑战。此外，Willow在不到五分钟的时间内完成了一项标准基准计算，而这项计算对于当今最快的超级计算机来说需要10^25年，即远远超过宇宙的年龄。这一成就标志着我们向构建具有商业意义的大型量子计算机迈出了重要一步，量子计算机有潜力彻底改变医药、能源和人工智能等领域。

世界上最快的AI芯片，拥有惊人的4万亿晶体管

Cerebras Systems宣布推出其第三代5纳米晶圆级引擎（WSE-3），这是一款专为训练业界最大AI模型而设计的芯片。WSE-3的性能是前代产品WSE-2的两倍，同时保持相同的功耗和价格。该芯片基于5纳米工艺，拥有4万亿晶体管，通过900,000个为AI优化的计算核心，提供125 petaflops的峰值AI性能。

数字创意团队的协作通信平台

FYI是一个协作通信平台，为数字创意团队管理他们的数字资产。为推动文化发展的人们提供服务。

AI驱动的跨平台销售助手

SellMate AI是一款AI驱动的跨平台销售助手，帮助在线卖家简化在多个市场上销售的流程。只需一拍，我们的AI技术将增强您的列表，优化产品可见性，并提供宝贵的分析数据来提升销售策略。我们致力于为卖家提供简单、高效、有效的在线销售解决方案。

芯片设计领域自适应大型语言模型

ChipNeMo 是英伟达发布的一个探索将大型语言模型（LLMs）应用于工业芯片设计的项目。与直接使用现成的商业或开源 LLMs 不同，我们采用了定制的分词器、领域自适应的持续预训练、带有领域特定指令的监督微调（SFT）以及领域适应的检索模型等领域自适应技术。

集成长语言模型与Meshtastic通信网络的平台

radio-llm是一个平台，用于将长语言模型（LLMs）与Meshtastic网状通信网络集成。它允许网状网络上的用户与LLM进行交互，以获得简洁、自动化的响应。此外，该平台还允许用户通过LLM执行任务，如呼叫紧急服务、发送消息、检索传感器信息。产品背景信息显示，目前仅支持紧急服务的演示工具，未来将推出更多工具。

专为工程和产品领导设计的AI通信管理工具。

Zivy是一款旨在帮助工程和产品领导管理通信混乱的AI工具。它通过自动优先排序和学习来优化消息，确保用户只关注需要立即处理的内容。Zivy通过集成Slack或Gmail等账户，使用OAuth2和官方API来保护用户密码和信息安全。它还承诺遵守SOC-2和ISO27001标准，确保数据安全。Zivy的设计理念是简化工作空间，让用户能够更专注于创造和生活，而不是被通信工具所困扰。

AI辅助写作与跨语言沟通的工具

AI ChatMentor使用OpenAI ChatGPT API和先进的GPT-4模型，提供电子邮件回复模板、多种故事模板和快速的AI驱动翻译功能，帮助用户提升写作水平和跨语言沟通效率。

Ai动力跨平台销售

SellMate是一个通过人工智能技术提升电子商务游戏的平台，可以无缝跨平台在Amazon、eBay等平台上进行列表，并利用先进的分析和定价见解优化您的列表。

一站式AI数字人系统，支持视频合成、声音合成、声音克隆。

AIGCPanel是一个简单易用的一站式AI数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。产品背景信息显示，AIGCPanel旨在通过集成多种AI功能，提升数字人素材管理的效率，降低技术门槛，使非专业人士也能轻松管理和使用AI数字人。产品基于AGPL-3.0开源，完全免费，可以直接使用。

控制所有公司通信的自然语言工具

Chart是一款能够实时分析、重写和阻止所有内部和外部通信的工具。它可以创建自动化规则，监控和阻止通信内容，确保安全性。它还可以集成所有内部和外部通信渠道，如电子邮件、Slack、短信等，并提供统一的仪表板进行管理。无论您是想防止敏感数据泄露，提升客户沟通，还是生成公司范围对话的分析，Chart都能满足您的需求。

TikTok启发的企业通信魔法

Soundbite 是一款基于 TikTok 灵感的企业通信工具，通过创造魔力，转变内部沟通方式。它提供多渠道通知，可以在没有 Microsoft Teams 许可的设备上到达员工，提供类似消费者的体验，在 Microsoft Teams 内适应前线用户，消除了视频、播客和员工通信应用的需要，节省了客户数百万美元。Soundbite 的高级报告可展示组织和个人层面的详细参与情况。使用 Soundbite 进行高效的沟通，节约时间，提高员工参与度，将信息提供给员工，增加人与人之间的联系。

Native AI，让工作更高效，简化跨应用操作。

Native AI是一个创新的AI界面，旨在简化用户在不同应用间的切换，提高工作效率。它通过一个统一的界面，让用户能够快速、简单地与各种应用程序进行交互，无论是通过打字、语音还是点击。Native AI的界面设计简洁，减少了不必要的UI元素，使得用户可以专注于工作本身。它还提供了自动化建议，帮助用户在工作流程中自动化任务，从而节省时间。

人工智能支持的播客跨宣传推荐

Grro是一款AI-powered的跨推荐推荐工具，专为播客定制。通过深入分析您的听众习惯，为您提供即时的跨推荐机会。您可以探索我们的跨推荐推荐，以及您的听众所听的主题。然后，缩小您最关心的推荐范围，并将推荐的跨推荐播客导出为CSV文件，准备为您的下一次跨推广活动提供动力。

一个用于集成不同框架AI代理的通用平台，支持实时通信和人类监督。

Mahilo是一个强大的AI代理集成平台，旨在将来自不同框架的AI代理连接在一起，实现实时通信和人类监督。它通过提供框架无关的通信协议，支持多种流行的代理框架，如LangGraph、Pydantic AI等，同时允许通过API连接专有代理。该平台强调智能协作、组织级策略管理和以人类为中心的设计，确保在自动化的同时保持人类的控制权。Mahilo的出现为构建复杂的多代理系统提供了灵活的解决方案，适用于从内容创作到紧急响应等多种应用场景。目前，Mahilo在GitHub上拥有251颗星，每月PyPI下载量超过500次，显示出其在开发者社区中的受欢迎程度。Mahilo主要面向开发者和企业用户，帮助他们快速构建和部署多代理系统，提升工作效率和创新能力。

开源的协作写作Web应用

Open Canvas是一个开源的Web应用程序，用于与代理协作以更好地撰写文档。它受到OpenAI的“Canvas”启发，但有几个关键的不同点。它完全开源，包含前端、内容生成代理和反射代理的所有代码，均采用MIT许可。它内置了反射代理，可以跨会话记忆关于您的风格规则和用户洞察。此外，它允许用户从空白文本或现有代码编辑器开始，以用户选择的语言进行操作，从而在现有内容上进行迭代。

ai_licia 是一款专为社区设计的 AI 共同主持人，可跨平台互动并提升社区活跃度。

ai_licia 是一款基于人工智能技术的社区互动工具，旨在通过高度定制化的 AI 角色帮助用户提升社区活跃度和用户粘性。它支持跨平台记忆功能，能够记住用户在不同平台的行为和互动，从而提供更加个性化的体验。该产品主要面向直播和社交社区，支持 Twitch 和 Discord 平台，帮助用户提升内容质量和互动效果。其核心优势在于高度可定制化、跨平台记忆以及自然语言交互能力。目前，ai_licia 已被超过 4000 个社区使用，显示出其在社区互动领域的强大潜力。

DeepEP 是一个针对 Mixture-of-Experts 和专家并行通信的高效通信库。

DeepEP 是一个专为混合专家模型（MoE）和专家并行（EP）设计的通信库。它提供了高吞吐量和低延迟的全连接 GPU 内核，支持低精度操作（如 FP8）。该库针对非对称域带宽转发进行了优化，适合训练和推理预填充任务。此外，它还支持流处理器（SM）数量控制，并引入了一种基于钩子的通信-计算重叠方法，不占用任何 SM 资源。DeepEP 的实现虽然与 DeepSeek-V3 论文略有差异，但其优化的内核和低延迟设计使其在大规模分布式训练和推理任务中表现出色。

实时语音和视频推理的开放标准

RTVI-AI是一个旨在简化构建AI语音到语音和实时视频应用的开放标准。它提供了开源SDK代码和标准端点形状、事件消息以及数据结构的文档，支持开发者使用任何推理服务，并允许推理服务利用开源工具为实时多媒体开发复杂的客户端工具。