Float16.cloud 种子轮融资

大家好，我是 Mati，Float16.cloud 的创始人。我构建了 Float16.cloud，于 2023 年 10 月开始开发平台，并于 2024 年 1 月首次推出。

推出 Float16 的第一个版本后，我收到了一些反馈，我想感谢您的支持和宝贵的意见。我也很高兴地宣布我们已经从投资者那里获得了资金。

今天，我非常自豪地宣布我们核心价值观和路线图的第一个版本。

我相信这个公告将帮助您深入了解 Float16.cloud 的目标以及我们致力于实现的核心价值观。

核心价值观

1. 开发者和社区优先。

2. 基础优先，然后是应用和解决方案。

3. 多重成本策略。

我们致力于将 Float16.cloud 打造成开发者和 AI 研究人员的家园。我们致力于提供采用 AI 作为未来和您应用程序一部分所需的一切。另一方面，作为一名拥有 6 年机器学习工程和优化推理背景的 AI 研究人员，我正在构建这个平台和社区来帮助您避免担心安装、资源管理，并支持您从训练到生产的旅程。

基础从第一天起就是平台的组成部分。我们注意到一些平台和工具鼓励人们专注于"工具"而不是"基础"。虽然这种方法对于快速获胜的解决方案和应用程序来说很好，但对于开发者的长期利益来说并不理想。

我将深入探讨如何利用和阐明每个工具的所有魔法技巧的基础。这个核心价值观应该比仅仅专注于解决方案和用例更可持续。

财务在开发项目和实施新功能时始终是一个问题。作为一名 FinOps 从业者，我致力于提供多种成本策略和一个 API 来管理整个平台的成本。这应该在开发新功能并使用它们计算项目成本结构时为开发者提供更多灵活性。

路线图

- 宣布官方新闻、更新和支持渠道。

- 重新设计网站。

- 重新设计文档。

- 实施新的计费系统。

- 实施新的账户和组织系统。

我们收到了一些关于通信渠道的反馈，最后，我将宣布跨多个渠道的官方通信，列表如下：

- 新闻和更新。

X、LinkedIn、Facebook、Discord、Blog、YouTube（即将推出）、GitHub（即将推出）、电子邮件订阅

- 支持。

电子邮件、Discord、Facebook 群组、Slack、GitHub（即将推出）

网站和文档将改版，文档和 GitHub 示例保持一致性。

计费系统和账户系统将在新版本中推出，以增强多种定价策略的能力。

GPU 功能

- 一键部署 Huggingface 推理端点。

- 大型语言模型（LLM）推理基准仪表板。

- 多节点 GPU 一键训练。

- 无服务器 GPU。

- Float16 API 和 SDK。

新 Float16 的关键组件是 GPU 功能。GPU 是 AI 产品的重要和关键部分。它们具有巨大的计算能力，但也伴随着管理的复杂性。

我们致力于提供多种 GPU 功能，以尽可能多地服务。

一键部署可能看起来很简单，但我们将把质量打包到这个功能中。我们的目标是将价格降低 50% - 70%，与按需费率相比。

基准仪表板对于计算托管您自己的 LLM 的定价至关重要。我们将以 vantage.sh 的相同风格发布仪表板，以提高 LLM 项目的可行性。

多节点训练昂贵且需要大量工程技能。实现提供商声称的训练速度非常复杂。我们将构建一键训练并确保速度与声称的基准匹配。

在我们的 GPU 开发者社区工作 8 年后，无服务器 GPU 将成为现实。我们的无服务器 GPU 功能将扩展到零，同时最小化冷启动（少于 10 秒，平均 5 秒）。无服务器 GPU 将帮助创业公司和业余爱好项目访问更多 GPU 并变得富有 GPU。

API 和 SDK 是管理项目成本的核心组件。作为 FinOps 从业者，我将允许开发者完全控制他们的账户，以确保他们获得性能和成本的最佳优化。

内容

我想为社区做出的另一个贡献是知识分享。我们为 LlamaIndex 构建了一个播放列表来测试反馈和衡量指标。我们发现几个开发者来感谢我们并非常积极地评论。

为了与社区保持一致，我们欢迎社区请求播放列表或采用 LLM 作为项目、产品或服务的一部分所需的任何基础知识。

知识和播放列表将始终免费。带着您的请求来找我们，我们将为社区创建播放列表。

结论

我和我的团队非常渴望听到您的反馈，我们在旅程中仍然需要您的反馈。

不要犹豫向我们的团队提供反馈；我们始终欢迎。

感谢您的阅读，我希望我们的核心价值观与您的保持一致。