一、云原生下Drone CI/CD的容器隔离性问题背景

很多做DevOps的团队,尤其是上了云原生架构的,都会选Drone当CI/CD工具——毕竟它是专门为容器设计的,跑任务的时候每个步骤都起一个临时容器,任务完了就删,听起来既干净又安全。但实际用在生产环境相关的流水线时,很多人会踩一个坑:本来以为每个容器是完全分开的,结果突然发现A任务的敏感配置泄露给了B任务,甚至一个任务的错误操作直接影响到了宿主机的其他服务。这就是容器隔离性出问题了,要是没及时发现,轻则代码泄露、配置被篡改,重则整个云原生集群宕机,后果很严重。

先给大家说个真实踩坑的例子:去年我帮一家电商团队排查过问题,他们的Drone流水线分两个步骤,第一步是拉取生产环境的数据库配置(用来做数据校验),第二步是编译打包商品服务的代码。结果某次上线后,有人发现第二步的编译日志里,居然出现了第一步的数据库密码。后来查了半个月才发现,是容器隔离性没做好导致的。

二、容器隔离性异常的核心原因拆解

要解决问题,得先搞清楚Drone的容器隔离是靠什么实现的。Drone本身是跑在K8s或者Docker上的,它的每个任务容器,本质还是Docker容器,而Docker的隔离性是靠Linux的三个核心机制实现的:Namespace(命名空间)、Cgroups(控制组)、Seccomp(安全计算模式)。只要其中一个环节出问题,隔离性就会失效。

2.1 常见的异常触发场景

我整理了几个最容易出问题的场景,都是实际项目中遇到的: 第一个是容器权限配置错误。比如给容器开了特权模式(privileged),或者把宿主机的敏感目录挂载到了容器里。很多人开特权模式是为了让容器能操作宿主机的资源,比如打包镜像的时候需要调用Docker socket,但开完之后,容器里的进程就相当于拿到了宿主机的root权限,想干嘛干嘛,隔离性直接等于没有。 第二个是Drone的配置没做好。比如流水线的步骤之间共享了不该共享的资源,或者用了同一个命名空间下的Secret,结果步骤之间互相访问到了。 第三个是宿主机的安全配置太松。比如K8s节点上的Seccomp配置没开,或者允许容器访问宿主机的内核模块,导致容器能绕过隔离机制操作宿主机。

2.2 具体的异常示例分析

我给大家写一个能复现隔离性异常的Drone流水线配置,技术栈是Drone 2.16 + Docker(Drone跑在Docker上),大家可以照着搭个测试环境验证。

首先是有问题的Drone流水线配置,保存在仓库的.drone.yml里:

# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: 测试隔离性

steps:
  # 第一步:拉取敏感配置(比如数据库密码)
  - name: 拉取配置
    image: alpine:3.18
    # 给容器开了特权模式,错误配置
    privileged: true
    commands:
      # 模拟从Secret里读数据库密码,这里用环境变量代替
      - echo "DB_PASSWORD=test123456" > /root/db_config.txt
      # 把宿主机的/tmp目录挂载到容器的/root,错误挂载
    volumes:
      - name: tmp
        path: /root

  # 第二步:编译代码
  - name: 编译代码
    image: node:18-alpine
    # 同样开了特权模式,错误配置
    privileged: true
    commands:
      # 模拟编译,这里只是输出/root下的文件
      - cat /root/db_config.txt

volumes:
  # 挂载宿主机的/tmp目录,错误配置
  - name: tmp
    host:
      path: /tmp

这个配置的问题有两个:一是两个步骤都开了特权模式,二是都挂载了宿主机的/tmp目录。当你跑这个流水线的时候,第二步的编译步骤会输出第一步写的DB_PASSWORD,这就说明隔离性出问题了——两个本来应该完全独立的容器,居然能共享宿主机的目录,还能互相读写文件。

三、隔离性异常的排查步骤

发现流水线有问题后,得一步步排查,不能瞎猜。我总结了一套可复制的排查流程,适合大部分Drone场景。

3.1 第一步:确认异常现象的具体表现

首先要搞清楚异常的具体情况:是两个步骤之间共享了数据?还是容器能操作宿主机?还是一个容器的崩溃影响了其他容器?比如刚才的例子,就是两个步骤之间共享了宿主机目录,导致数据泄露。

3.2 第二步:检查Drone的流水线配置

先看自己的.drone.yml配置,重点查三个地方:

  1. 有没有步骤开了privileged: true?除非万不得已,绝对不要开这个配置,很多人开了之后都忘了关。
  2. 有没有挂载宿主机的敏感目录?比如宿主机的/root、/var/run/docker.sock、/etc这些目录,挂载了之后容器就能直接读写宿主机的这些文件。
  3. 步骤之间有没有共享资源?比如用了同一个Volume,或者用了同一个Secret的环境变量,结果步骤之间互相访问。

比如刚才的错误配置,开了特权模式,还挂载了宿主机的/tmp,这两个都是高危配置。

3.3 第三步:检查容器的运行参数

如果流水线配置没问题,就要看Drone启动的容器的实际参数。Drone跑在Docker上的话,可以用Docker命令看容器的配置:

# 技术栈:Drone 2.16 + Docker
# 先找到Drone启动的容器ID,比如先看所有运行的容器
docker ps
# 然后用inspect命令看容器的详细配置,重点看Privileged和Binds参数
docker inspect <容器ID> | grep -E "Privileged|Binds"

如果输出里"Privileged": true,或者"Binds"里有宿主机的敏感目录,那隔离性肯定有问题。

3.4 第四步:检查宿主机的安全配置

最后看宿主机的安全配置,比如Seccomp有没有开。Seccomp是用来限制容器能调用的系统调用的,没开的话容器能调用很多危险的系统调用,绕过隔离。可以用这个命令检查容器的Seccomp配置:

# 技术栈:Drone 2.16 + Docker
docker inspect <容器ID> | grep SeccompProfile

如果输出是"SeccompProfile": null,说明没开Seccomp,隔离性会大打折扣。

四、生产环境的风险规避方案

排查出问题之后,要做的就是优化配置,从根本上避免隔离性异常。我整理了一套经过生产环境验证的方案,覆盖配置、权限、监控三个方面。

4.1 优化Drone流水线的基础配置

先把流水线的配置改对,核心是“最小权限”原则,也就是只给容器需要的权限,多一点都不给。

4.1.1 禁用特权模式

除非真的需要(比如打包Docker镜像,需要调用Docker socket),否则绝对不要开privileged: true。如果确实需要调用Docker socket,也不要开特权模式,而是用挂载Docker socket的方式,并且限制权限。

比如正确的打包镜像的配置应该是这样的:

# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: 打包镜像

steps:
  - name: 打包
    image: docker:dind
    # 绝对不要开特权模式
    # privileged: true
    # 挂载宿主机的Docker socket,并且限制权限为只读(如果不需要写的话)
    volumes:
      - name: docker-socket
        path: /var/run/docker.sock
        # 给Volume加权限限制,只读
        read_only: true
    commands:
      # 打包镜像的命令
      - docker build -t my-image:latest .

volumes:
  - name: docker-socket
    host:
      path: /var/run/docker.sock

4.1.2 禁止挂载宿主机敏感目录

除了必要的Docker socket,绝对不要挂载宿主机的/root、/etc、/tmp(如果是临时目录,可以用Drone的临时Volume,不要用宿主机的)这些目录。如果需要临时存储,可以用Drone的temp类型的Volume,Drone会在任务结束后自动清理,不会留在宿主机上。

比如临时存储的正确配置:

# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: 临时存储测试

steps:
  - name: 写临时文件
    image: alpine:3.18
    commands:
      - echo "临时数据" > /tmp/temp.txt
    # 挂载Drone的临时Volume,不是宿主机的
    volumes:
      - name: temp
        path: /tmp

volumes:
  # 用Drone的临时Volume,任务结束后自动清理
  - name: temp
    temp: {}

4.1.3 正确管理Secret

Drone的Secret是用来存储敏感数据的,比如数据库密码、镜像仓库密码,一定要配置正确,只给需要的步骤使用。

比如正确的Secret配置:

# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: Secret测试

steps:
  # 第一步:拉取配置,只给这个步骤用DB_PASSWORD
  - name: 拉取配置
    image: alpine:3.18
    # 只给这个步骤绑定DB_PASSWORD这个Secret
    secrets:
      - DB_PASSWORD
    commands:
      # 模拟使用DB_PASSWORD,这里不会泄露给其他步骤
      - echo "正在使用数据库密码"

  # 第二步:编译代码,不绑定DB_PASSWORD
  - name: 编译代码
    image: node:18-alpine
    commands:
      # 这里拿不到DB_PASSWORD,因为没绑定
      - echo "编译完成"

4.2 强化宿主机的安全配置

宿主机的安全配置是隔离性的最后一道防线,一定要做好。

4.2.1 开启Seccomp配置

Docker默认会给容器开启Seccomp配置,限制容器能调用的系统调用。如果是自定义的容器,一定要确保Seccomp是开启的,不要用--security-opt seccomp=unconfined这个配置。

4.2.2 限制容器的权限

除了Seccomp,还可以用AppArmor或者SELinux来限制容器的权限,比如禁止容器访问宿主机的网络、禁止容器创建新的进程等等。

比如给容器加AppArmor配置:

# 技术栈:Drone 2.16 + Docker
# 启动容器的时候加AppArmor配置,限制容器的权限
docker run --security-opt apparmor=docker-default my-image

4.3 加监控和告警

最后,要加监控和告警,及时发现隔离性异常。

4.3.1 监控容器的权限配置

可以用Prometheus加Drone的监控插件,监控所有流水线的步骤有没有开特权模式,有没有挂载宿主机的敏感目录。一旦发现,就告警。

4.3.2 监控容器的行为

可以用Falco来监控容器的行为,比如容器有没有访问宿主机的敏感文件,有没有调用危险的系统调用。一旦发现异常行为,就告警。

比如Falco的规则,禁止容器访问宿主机的/root目录:

# 技术栈:Falco 0.34 + Docker
- rule: Access Host Root Directory
  desc: 容器访问宿主机的/root目录
  condition: container and fd.name startswith /root
  output: "容器访问了宿主机的/root目录,容器ID=%container.id,容器名称=%container.name"
  priority: CRITICAL

五、方案的应用场景、优缺点和注意事项

5.1 应用场景

这个方案适合所有用Drone做CI/CD的云原生团队,尤其是生产环境的流水线,比如电商的商品服务上线、金融的核心系统发布、互联网公司的APP版本迭代等等。只要是涉及到敏感数据(比如密码、密钥)、核心代码的流水线,都适合用这个方案。

5.2 技术优缺点

优点:

  1. 能从根本上解决Drone的容器隔离性问题,避免敏感数据泄露、宿主机被入侵等风险。
  2. 配置简单,都是基于Drone和Docker的原生功能,不需要额外的复杂工具。
  3. 性能影响小,开启Seccomp、限制权限这些配置对容器的性能影响可以忽略不计。

缺点:

  1. 对开发人员的要求变高了,需要理解容器隔离的原理,不能随便开特权模式、挂载宿主机目录。
  2. 初期配置的时候需要花时间调整,比如优化流水线配置、加监控规则,都需要一定的时间成本。

5.3 注意事项

  1. 一定要定期检查流水线的配置,避免有人不小心开了特权模式、挂载了敏感目录。
  2. Secret的管理一定要严格,不要把Secret绑定给不需要的步骤,定期更换Secret。
  3. 监控规则要定期更新,比如新的容器行为、新的敏感目录,都要加到监控规则里。

六、文章总结

云原生场景下的Drone CI/CD容器隔离性问题,本质是容器的安全配置问题,只要掌握了隔离的核心原理,从流水线配置、宿主机安全、监控告警三个方面入手,就能有效规避风险。很多团队之所以会出问题,都是因为对容器隔离的原理理解不够,随便开特权模式、挂载敏感目录,最后导致了严重的后果。希望大家能重视这个问题,把自己的流水线配置改得更安全,避免踩坑。