Writer 是一个面向企业的全栈生成式 AI 平台。自 2020 年初成立以来，我们为多家组织提供支持，帮助他们加速发展业务、提高工作效率并确保合规性。
通过提供准确、合规和品牌化的高质量输出，Writer 正在改变人们的工作方式。Writer 平台由以下部分组成：Writer 构建的 LLM、将我们的模型连接到客户的内部数据源的知识图谱、执行客户规则的 AI 安全措施、灵活的应用层，以及一个强大的 API 和集成生态系统。
Writer 被各行业的领先企业广泛使用，包括 Vanguard、Intuit、L'Oreall、Accenture、Spotify 和 Qualcomm。我们的平台严格遵守 SOC 2 Type II、健康保险流通与责任法案 (HIPAA)、PCI 和 GDPR，不会使用客户数据来训练模型。
平台发展历程
一开始，我们构建了完整的 Palmyra 大语言模型 (LLM) 培训流水线，让我们的软件即服务 (SaaS) 平台可以使用该模型，并为从营销到产品和支持等特定业务职能交付使用场景。
如今，Writer 每月要处理超过 1 万亿次 API 调用，每秒生成 90,000 个字词。此外，随着近期生成式 AI 市场的爆炸性增长，我们的业务亟需进行重大转型。然而，构建全新的服务需要更多的计算资源和自动化机制。为了实现这一目标并让早期的工作充分发挥作用，我们必须确保完全满足数据库等后端需求。随着计算需求的显著增加，管理 MySQL 也需要投入大量的时间和精力，何况我们的首个模型一开始就有 1.28 亿个参数。我们还必须提高安全性和灵活性，以满足不断增长的客户需求，这也是一件迫在眉睫的事情。我们希望能够轻松地进行全方位管理，这样就不必组建一个大型数据库和分析团队，而可以将时间和精力用于满足客户需求上。
Google Cloud 数据库让这一切成为可能，我们能够安全地重新设计数据库架构并进行扩展，而无需大幅增加数据库支持人员。
适合 Writer 的数据库系列
通过使用 Google Cloud 托管式数据库服务，我们可以存储客户使用 Writer 时创建和存储的数据。为此，我们的 SaaS AI 平台使用 AlloyDB for PostgreSQL、Memorystore 和 Bigtable 来支持我们在 Google Kubernetes Engine (GKE) 上运行的大约 100 个微服务。此外，我们也在考虑引入 AlloyDB AI 的矢量查询功能来增强我们的语义搜索体验。
Google Cloud 数据库提供内置的加密、身份验证及其他安全功能，可以轻松扩展和控制成本，并且与之前的云服务提供商不同的是，它可以轻松地与 GKE、BigQuery 和 Datastream for BigQuery 等其他云服务紧密集成。此外，Google 数据库界面直观，易于使用，能够快速发布云平台功能，更能满足我们的重点技术需求，对我们来说再合适不过了。
我们一直在维持着一支专注于核心业务需求的小型技术团队。Google Cloud 数据库让我们可以安全地管理最精密、最复杂的平台。我们有效利用技术人才并高效扩展输出的能力为我们带来了极大的竞争优势。通过结合使用最新的 G2 Compute Engine GPU 等 Google 服务，我们能够极为快速高效地处理实时工作负载和海量计算。另一个好处是，对于需要将数据保留在所在管辖区范围内的国际客户，我们能够提供数据驻留服务。
我们还轻松便捷地实现了从虚拟机上的 MySQL 到 AlloyDB for PostgreSQL 的迁移。这次迁移的成功让我们能够确定未来迁移的步伐，并选择要迁移的微服务，以最大限度地减少数据库之间的迁移带来的影响。此外，我们还能够更加轻松地管理成本和性能，当我们从 MySQL 迁移到 AlloyDB 时，可以通过内部信息中心实时监控使用情况变化。
借力 Google Cloud 谱写新篇章
我们相信 Google Cloud 数据库也会极大地促进我们实现未来的业务目标。AlloyDB for PostgreSQL 的全文搜索功能让我们可以简化和提升各项微服务的性能。我们还期待将数据驻留作为常规平台功能提供给客户，并通过优化 Memorystore 和 Bigtable 的使用来进一步降低成本。
Google 是 Writer 值得信赖的长期合作伙伴，我们很高兴与 Google Cloud 合作，携手引领企业生成式 AI 的转型和创新。
文章信息
相关推荐
