产品库

Ollama能在Windows本地运行大型AI模型

Ollama是一个开源项目,能够在Windows本地运行各类大型AI模型,支持GPU加速,内置OpenAI模型兼容层,提供永久在线的API。用户可以无缝访问Ollama的完整模型库,进行图片和语音交互。Ollama免配置就能获得强大的AI能力,帮助开发者和创作者在Windows上构建AI应用。

帮助客户发现全球公有云厂商可用的GPU实例

GPU Finder是一个帮助客户发现全球公有云厂商可用的GPU实例的平台。通过GPU Finder，用户可以快速查找各大公有云厂商提供的GPU实例，并比较它们的价格、配置和性能等信息，从而选择最适合自己需求的GPU实例。无论是进行机器学习、深度学习、图像处理还是科学计算，GPU Finder都能帮助用户快速找到合适的GPU实例。平台上提供了丰富的过滤和排序功能，让用户可以根据自己的需求进行精准的筛选，从而节省时间和成本。无论是初学者还是有经验的开发者，都可以轻松使用GPU Finder来发现和租用合适的GPU实例。

用于测试和开发AI代理的可扩展开源框架

Windows Agent Arena (WAA) 是一个专注于Windows操作系统的可扩展、开源框架，用于测试和开发能够使用语言模型在PC上进行推理、规划和行动的AI代理。它通过模拟真实的Windows环境，允许代理自由操作，并使用与人类用户相同的应用程序、工具和网络浏览器来解决任务。WAA通过Azure实现可扩展性和并行化，能够在短短20分钟内完成完整的基准测试评估。

专为 AI 设计的 GPU 云平台，提供高性能基础设施和全天候支持。

CoreWeave GPU 云计算是一个专为人工智能工作负载打造的云平台，提供灵活且高效的 GPU 集群，能够满足企业在大规模计算和存储方面的需求。它的主要优势包括极高的性能、可靠性和可扩展性，适合各种 AI 应用场景。通过 CoreWeave，用户能够显著降低云成本，同时提升服务响应速度，是 AI 创新的理想选择。

基于Linux环境快速部署开源大模型的教程

该项目是一个围绕开源大模型的全流程指导教程,包括环境配置、模型部署、高效微调等,简化开源大模型的使用和应用,让更多普通学习者能够使用开源大模型。项目面向对开源大模型感兴趣且想自主上手的学习者,提供详细的环境配置、模型部署和微调方法。

微软Windows 11中的Copilot,一款基于AI的智能助手

Copilot in Windows是微软在Windows 11中推出的一款基于AI技术的智能助手,它可以在使用Windows的时候提供智能化的帮助和提醒,提高用户的工作效率和生产力。Copilot可以快速检索信息、组织窗口布局、进行图片编辑等,真正实现“所想即所得”的人机交互。

Windows 11 AI超级分辨率功能

DirectSR是微软为Windows 11提供的一项AI超级分辨率功能，旨在帮助游戏开发者更轻松地在所有Windows设备上扩展超分辨率支持。该技术利用GPU硬件和并行化工作负载，提升游戏的视觉效果和性能。

Windows AI Studio简化生成式AI应用程序开发

Windows AI Studio通过汇集来自Azure AI Studio和其他目录（如Hugging Face）的尖端AI开发工具和模型，简化了生成式AI应用程序的开发。它使开发人员能够对本地应用程序中使用的最新小语言模型（SLMs）进行微调、定制和部署。它提供端到端的引导式工作区设置，包括模型配置UI和引导式步骤，以微调流行的SLMs（如Phi）和最先进的模型（如Llama 2和Mistral）。

字幕文件 (srt) 翻译工具 Windows专用

anto 是一款针对 Windows 的字幕文件 (srt) 翻译工具，提供便捷的翻译功能，旨在提高字幕翻译效率。

为您的工作流程选择合适的云GPU供应商。

Cloud GPUs是一个网站,帮助您比较和选择适合您工作流程的云GPU供应商。该网站列出了多家云GPU提供商及其GPU型号和价格,方便您快速找到合适的GPU资源。无论您是进行机器学习训练、科学计算还是图形渲染,Cloud GPUs都能为您推荐高性能且经济实惠的云GPU解决方案。

在Windows上获得最佳的ChatGPT体验

EasyChat AI是一款第三方应用，为您在Windows平台上提供最佳的ChatGPT体验。它具有快速、响应迅速且令人惊叹的特点。您可以使用自己的OpenAI API密钥，随时准备启动。该应用提供了多种使用方式，包括免费下载、订阅和终身许可证。此外，它还支持Markdown，拥有优雅的暗黑模式，以及优质的UI设计。

AI创新的优化计算赋能者

LLM GPU Helper 是一个专注于人工智能领域的在线平台，提供GPU内存计算、模型推荐和大模型知识库访问等服务。它通过量身定制的建议和专家知识，帮助企业加速AI应用，深受超过3500名用户的信赖，并获得了5.0的高评分。平台的主要优点包括高准确度的GPU内存计算器、个性化的模型推荐、全面的知识库访问以及对小型企业和初创公司的特别支持。

Chatotron - ChatGPT的Windows界面应用

Chatotron是一个Windows界面应用，让您快速轻松地使用ChatGPT。Chatotron具有聊天群组、快捷键和个性设置等功能，是保持聊天有序和个性化的完美工具。立即尝试Chatotron！

AMD开源平台，提升AI、ML和HPC工作负载性能

AMD ROCm™ 6.3是AMD开源平台的一个重要里程碑，引入了先进的工具和优化，以提升在AMD Instinct GPU加速器上的AI、机器学习（ML）和高性能计算（HPC）工作负载。ROCm 6.3旨在增强从创新AI初创企业到HPC驱动行业的广泛客户的开发人员生产力。

免费开源AI模型推理服务

Tost AI是一个免费、非盈利、开源的服务，它为最新的AI论文提供推理服务，使用非盈利GPU集群。Tost AI不存储任何推理数据，所有数据在12小时内过期。此外，Tost AI提供将数据发送到Discord频道的选项。每个账户每天提供100个免费钱包余额，如果希望每天获得1100个钱包余额，可以订阅GitHub赞助者或Patreon。Tost AI将演示的所有利润都发送给论文的第一作者，其预算由公司和个人赞助者支持。

Windows上的#1文本预测软件

Lightkey是一款基于人工智能的预测输入和拼写纠正软件，可在Windows桌面应用程序中提供内联文本预测。它支持85种语言，并具有自动补全、自动纠正等功能。定价方案请参考官方网站。

在Windows上使用ChatGPT的桌面插件

GIPY是一个智能桌面插件，可以在任何Windows应用程序中使用ChatGPT。它可以在写电子邮件、做笔记、准备报告/演示文稿、编程软件等场景下使用。只需要在应用程序中键入“>>>”并输入你的提示，然后按下SHIFT + ENTER即可开始与ChatGPT对话。GIPY将使您的工作更加高效，轻松实现与ChatGPT的互动。

开源的ComfyUI桌面客户端，适用于Windows和macOS。

ComfyUI Desktop是一个开源的桌面客户端，旨在为用户提供更稳定和高效的工作环境。它支持Windows和macOS，适合需要图形用户界面的开发者和设计师。该产品在测试阶段持续改进，用户可以期待每日更新。其主要定位是为用户提供一个集成的工作流管理工具，帮助用户更高效地完成任务。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

GPUX - 快速运行云GPU

GPUX是一个快速运行云GPU的平台。它提供了高性能的GPU实例，用于运行机器学习工作负载。GPUX支持各种常见的机器学习任务，包括稳定扩散、Blender、Jupyter Notebook等。它还提供了稳定扩散SDXL0.9、Alpaca、LLM和Whisper等功能。GPUX还具有1秒冷启动时间、Shared Instance Storage和ReBar+P2P支持等优势。定价合理，定位于提供高性能GPU实例的云平台。

租用云GPU，从0.2美元/小时起

RunPod是一个可扩展的云GPU基础设施，用于训练和推理。你可以租用云GPU，从0.2美元/小时起，支持TensorFlow、PyTorch和其他AI框架。我们提供可信赖的云服务、免费带宽、多种GPU选项、服务器端点和AI端点，适用于各种场景。

实时AI视频生成开源模型

LTXV是Lightricks推出的一个实时AI视频生成开源模型，它代表了视频生成技术的最新发展。LTXV能够提供可扩展的长视频制作能力，优化了GPU和TPU系统，大幅减少了视频生成时间，同时保持了高视觉质量。LTXV的独特之处在于其帧到帧学习技术，确保了帧之间的连贯性，消除了闪烁和场景内的不一致问题。这一技术对于视频制作行业来说是一个巨大的进步，因为它不仅提高了效率，还提升了视频内容的质量。

为Windows、macOS和Ubuntu提供GPT计算机助手

gpt-computer-assistant是一个为Windows、macOS和Ubuntu操作系统设计的应用程序，旨在提供一个替代的ChatGPT应用。它允许用户通过Python库轻松安装，并计划提供原生安装脚本（.exe）。该产品由Upsonic Tiger支持，是一个为大型语言模型（LLM）代理提供功能中心的平台。产品的主要优点包括跨平台兼容性、易于安装和使用，以及未来将支持本地模型。

视频序列理解的GPU实现模型

PPLLaVA是一个高效的视频大型语言模型，它结合了细粒度视觉提示对齐、用户指令的卷积风格池化的视觉令牌压缩以及CLIP上下文扩展。该模型在VideoMME、MVBench、VideoChatGPT Bench和VideoQA Bench等数据集上建立了新的最先进结果，仅使用1024个视觉令牌，吞吐量提高了8倍。

在自己的GPU上免费生成AI图像

NMKD稳定扩散GUI是一个方便的界面工具，可以在自己的硬件上本地运行稳定扩散，这是一个用于从文本生成图像的机器学习工具包。它完全没有审查和过滤，生成的内容我不负责。不会共享/收集任何数据。该工具正在积极开发中，可能会出现一些小问题。 主要功能： - 包含依赖项，无需复杂安装 - 支持文本到图像和图像到图像（图像+文本提示） - 支持基于指令的图像编辑（InstructPix2Pix） - 提示功能：关注/强调，负面提示 - 支持自定义稳定扩散模型和自定义VAE模型 - 同时运行多个提示 - 内置图像查看器，显示生成图像的信息 - 内置超分辨率（RealESRGAN）和人脸修复（CodeFormer或GFPGAN） - 提示队列和提示历史 - 创建无缝（平铺）图像的选项，例如用于游戏纹理 - 支持加载自定义概念（文本反转） - 支持加载LoRA概念/角色/风格 - 各种用户体验功能 - 速度快，取决于您的GPU（RTX 4090每张图像<1秒，RTX 3090每张图像<2秒） - 内置安全措施，扫描下载的模型是否包含恶意软件 - 内置更新工具 系统要求：请参阅GitHub指南 如果您想支持开发，请查看我的Patreon，您还可以获得我最新的视频插帧工具Flowframes。 https://www.patreon.com/platform/iframe?widget=become-patron-button&redirectURI=https%3A%2F%2Fitch.io%2Fgame%2Fedit%2F755540%23published&creatorID=19695417 如果需要帮助或有问题，请加入Discord： https://discord.com/widget?id=777892450232434688&theme=dark 请不要直接私信或@我，如果需要帮助，请使用stable-diffusion-gui频道。

Windows AI Studio 简化生成式 AI 应用程序开发

Windows AI Studio 通过将来自 Azure AI Studio Catalog 和 Hugging Face 等目录的先进 AI 开发工具和模型集合在一起，简化了生成式 AI 应用程序的开发。您可以浏览由 Azure ML 和 Hugging Face 提供支持的 AI 模型目录，将其下载到本地，进行微调、测试并在 Windows 应用程序中使用。所有计算都在本地进行，请确保您的设备能够承受负载。未来，我们计划将 ORT/DML 集成到 Windows AI Studio 工作流中，以便开发人员可以在任何 Windows 硬件上运行 AI 模型。

Whisper加速器,利用GPU加速语音识别

Whisper Turbo旨在成为OpenAI Whisper API的替代品。它由3部分组成:一个兼容层,用于输入不同格式的音频文件并转换为Whisper兼容格式;开发者友好的API,支持一次性推理和流式模式;以及Rust + WebGPU推理框架Rumble,专门用于跨平台快速推理。

UFO是一个用于Windows操作系统交互的UI聚焦双Agent框架

UFO是一个用于Windows操作系统交互的UI聚焦双Agent框架。它通过自然语言理解用户请求,并在一个或跨多个应用程序内无缝导航和操作来执行这些请求。该框架包含AppAgent和ActAgent两个agent。AppAgent负责根据用户请求选择应用程序。ActAgent负责在选定的应用程序内迭代执行操作,直到任务成功完成。两者都利用GPT-Vision的多模态功能来理解应用程序的UI并满足用户的请求。

NVIDIA H200 NVL GPU，为AI和HPC应用加速

NVIDIA H200 NVL PCIe GPU是基于NVIDIA Hopper架构的最新产品，专为低功耗、风冷企业机架设计，提供灵活的配置以加速各种规模的AI和高性能计算(HPC)工作负载。H200 NVL拥有比NVIDIA H100 NVL更高的内存和带宽，能够更快地微调大型语言模型(llm)，并提供高达1.7倍的推理性能提升。此外，H200 NVL还支持NVIDIA NVLink技术，实现GPU间通信速度比第五代PCIe快7倍，满足HPC、大型语言模型推理和微调的需求。H200 NVL还附带了强大的软件工具，包括NVIDIA AI Enterprise，这是一个云原生软件平台，用于开发和部署生产AI。