IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

随笔3个月前发布 仄言
40 0 0

作者:元毅、庄宇

如何打造云上(公共云)、云下(IDC 数据中心)统一的云原生 Serverless 应用平台,首先我们来看一下 ChatGPT 4 会给出什么样的答案:

如何打造云上、云下统一的云原生 Serverless 应用平台?

打造云上、云下统一的云原生 Serverless 应用平台需要考虑几个关键要素,包括技术架构设计、开发生态系统的构建、以及运维管理等多个方面的协同工作。以下是一些步骤和建议:
1. 统一的 API 和服务界面:
为了实现云上云下的一体化,需要定义统一的 API 和服务界面,确保不同环境中的应用可以无缝迁移和互操作。
2. 容器化:
利用容器技术(如 Docker)将应用打包,使得它们可以在任意环境中以相同的方式运行。
3. Kubernetes:
采用 Kubernetes 作为容器编排工具,以便在云上云下实现一致的应用部署、管理和扩缩能力。
4. 服务网格:
利用服务网格技术(如 Istio)来管理服务间通信,实现复杂微服务架构中的服务发现、负载均衡、故障处理和安全性。
5. Serverless 框架:
选择或开发适合的 Serverless 框架(如 Knative 或 OpenFaaS),以提供无服务架构的能力,如事件驱动、自动扩缩容等。
6. 开发者平台和 CI/CD:
构建一个集成了开发、测试、部署工具的平台,并采用 CI/CD 流程自动化代码的集成和部署。
7. 分布式云和混合云策略:
确保平台支持分布式云和混合云策略,这样应用既可以在公有云上运行,也可以在私有云或者边缘计算环境中运行。
8. 数据一致性和存储解决方案:
设计高效的数据存储和同步机制,确保云上云下数据的一致性和可靠性。
9. 监控和日志:
集成监控和日志系统,以便实时跟踪应用状态并在必要时进行调试或故障排除。
10. 安全性:
确保系统满足安全要求,包括网络安全、数据加密、访问控制以及合规性。
11. 用户和开发者文档:
提供详细的用户和开发者文档,帮助用户理解平台的使用方法和最佳实践。
12. 社区和生态系统:
构建一个强大的社区和生态系统,鼓励开发者参与,贡献代码,共同改进平台。

通过上述步骤,你可以创建一个能够平滑地在云上云下运行的 Serverless 应用平台,减少运维压力,加快应用的交付速度,并提升应用的可扩展性和弹性。

是不是感觉 AI 回答的很全面,没错,不过总结来说上面的回答其实关键就 2 点:分布式云/混合云策略以及标准化的技术方案。

分布式云趋势

根据 Gartner 报告中,到 2025 年,50% 的大型企业将在他们选择的地域通过『分布式云』服务实现业务模式转型。另外根据 IDC 报告中,2021 年 86% 企业采用分布式云混合云架构,仅有 14% 客户选择单独公共云。Gartner 报告指出,安全、运维复杂性、财务复杂性是分布式云架构的主要挑战。

IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

客户的诉求

技术选型的诉求:如何选择标准化的 Serverless 技术方案,做到云上、云下技术栈统一
成本的诉求:如何降低资源以及运维成本
稳定性的诉求:如何保证服务运行的稳定性
弹性诉求:云下 IDC 集群也可以弹性扩展资源,无限扩容 Serverless 应用

为什么是 Knative

Knative 是一款基于 Kubernetes 的开源 Serverless 应用编排框架, 以其云原生、跨平台的 Serverless 应用编排优势,成为广受欢迎的开源 Serverless 框架。

作为一个通用的 Serverless 框架,Knative 由 3 个核心组件组成:

Serving: 管理 Serverless 工作负载,可以和事件很好地结合,并提供基于请求驱动的自动扩缩容的能力。在没有服务需要处理时,可缩容至零个实例。Serving 组件的职责是管理工作负载以对外提供服务。自动伸缩是 Knative Serving 组件最为重要的特性之一,目前伸缩边界无限制。同时,Knative Serving 还支持灰度发布。
Eventing: 提供了事件的接入、触发等一整套事件管理的能力。Eventing 组件针对 Serverless 事件驱动模式具备一套完整的设计,包括外部事件源的接入、事件注册和订阅、以及对事件的过滤等功能。事件模型可以有效地解耦生产者和消费者的依赖关系。生产者可以在消费者启动之前产生事件,消费者也可以在生产者启动之前监听事件。
Function: Knative Functions 为您提供了一个简单的方式来创建、构建和部署Knative服务。您无需深入了解底层技术栈(如 Kubernetes、容器和 Knative),通过使用 Knative Functions,即可将无状态、事件驱动的函数作为 Knative 服务部署到 Kubernetes 集群中。

IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

分布式云容器平台 ACK One

分布式云容器平台 ACK One(Distributed Cloud Container Platform for Kubernetes)是阿里云面向混合云、多集群、分布式计算、容灾等场景推出的企业级云原生平台。

IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

打造云上、云下统一云原生 Serverless 应用平台

容器服务 ACK One 当前已支持托管 Knative 能力,用户可以借助 ACK One + Knative 打造云上、云下统一云原生 Serverless 应用平台,并通过 Knative 轻松使用云资源,云下 IDC 集群也可以弹性扩展资源,无限扩容 Serverless 应用。

IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

优势:

ACK One 注册集群接入 IDC 自建集群,提供与 ACK 一致的运维体验
Knative 使用体验一致,组件免运维
ACK One 注册集群为 IDC 自建集群提供云上弹性能力,结合弹性容器实例 ECI,随时按需使用云上资源
公共云 ACK 集群+ 云下 IDC 机房自建集群,提供更高稳定性保障

基于 ACK One+Knative 部署 LangChain-Chatchat

LangChain-Chatchat 是一个开源的利用 langchain 思想实现的基于本地知识库的问答应用。我们看一下如何基于 ACK One + Knative 部署 LangChain-Chatchat 应用。

前提条件

已通过容器服务 Kubernetes 版接入一个注册的 Kubernetes 集群。具体操作,请查看创建注册集群 [ 1]
只支持线下集群是 Calico 路由反射模式或者 Cilium BGP 路由模式。

部署 Knative 服务

登录容器服务管理控制台 [ 2] ,在左侧导航栏选择集群

集群列表页面,单击目标注册集群名称,然后在左侧导航栏,选择应用 > Knative。

在 Knative 页面的服务管理页签下,选择命名空间为 default,然后单击使用模板创建,将以下 YAML 示例粘贴至模板,最后单击创建,创建一个名为 knative-llc-demo 的服务。

apiVersion: serving.knative.dev/v1
kind: Service
metadata:
  name: knative-llc-demo
spec:
  template:
    metadata:
      annotations:
        autoscaling.knative.dev/maxScale: '100'
        autoscaling.knative.dev/minScale: '1'
        k8s.aliyun.com/eci-extra-ephemeral-storage: 80Gi
        k8s.aliyun.com/eci-use-specs: 'ecs.gn5-c4g1.xlarge,ecs.gn5i-c8g1.2xlarge,ecs.gn5-c8g1.2xlarge'
    spec:
      containers:
      - image: registry.cn-hangzhou.aliyuncs.com/knative-sample/chatchat:0.2.7
        imagePullPolicy: IfNotPresent
        ports:
        - containerPort: 8501
          name: http1
          protocol: TCP
        name: lcc

服务管理页签,获取服务的访问网关默认域名

IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

将 knative-llc-demo 服务的网关地址与需要访问的域名进行 Host 绑定,在 Hosts 文件中添加绑定信息。绑定示例如下:

39.104.58.99 knative-llc-demo.default.example.com # 网关IP和域名请以您的实际数据为准。

完成 Host 绑定后,在服务管理页签,单击 knative-llc-demo 服务的默认域名,访问 LangChain-Chatchat。如图所示,可通过域名直接对 LangChain-Chatchat 进行访问。

IDC 中搭建 Serverless 应用平台:通过 ACK One 和 Knative 玩转云资源

小结

当前阿里云容器服务 ACK One 已支持托管 Knative 能力,为云上、云下提供标准化的 Serverless 应用能力。通过 ACK One 注册集群接入 IDC 自建集群,提供与 ACK 一致的运维体验,并获得云上弹性能力,结合弹性容器实例 ECI,随时按需使用云上资源,无限扩展 Serverless 应用。想获得详细介绍,可阅读阿里云 ACK One 注册集群 [ 3] 和 ACK One Knative [ 4]

欢迎使用钉钉搜索 ACK One 客户交流群的群号:35688562 或 Knative 交流群:23302777 加入我们。

参考链接:

[1] 创建 ACK One 注册集群

https://help.aliyun.com/zh/ack/distributed-cloud-container-platform-for-kubernetes/user-guide/create-a-cluster-registration-proxy-and-register-a-kubernetes-cluster-deployed-in-a-data-center

[2] 容器服务管理控制台

https://cs.console.aliyun.com

[3] 阿里云 ACK One 注册集群

https://help.aliyun.com/zh/ack/distributed-cloud-container-platform-for-kubernetes/user-guide/overview-9

[4] ACK One 注册集群 Knative*

https://help.aliyun.com/zh/ack/distributed-cloud-container-platform-for-kubernetes/user-guide/knative-overview*

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...