一、云原生下Drone CI/CD的容器隔离性问题背景
很多做DevOps的团队,尤其是上了云原生架构的,都会选Drone当CI/CD工具——毕竟它是专门为容器设计的,跑任务的时候每个步骤都起一个临时容器,任务完了就删,听起来既干净又安全。但实际用在生产环境相关的流水线时,很多人会踩一个坑:本来以为每个容器是完全分开的,结果突然发现A任务的敏感配置泄露给了B任务,甚至一个任务的错误操作直接影响到了宿主机的其他服务。这就是容器隔离性出问题了,要是没及时发现,轻则代码泄露、配置被篡改,重则整个云原生集群宕机,后果很严重。
先给大家说个真实踩坑的例子:去年我帮一家电商团队排查过问题,他们的Drone流水线分两个步骤,第一步是拉取生产环境的数据库配置(用来做数据校验),第二步是编译打包商品服务的代码。结果某次上线后,有人发现第二步的编译日志里,居然出现了第一步的数据库密码。后来查了半个月才发现,是容器隔离性没做好导致的。
二、容器隔离性异常的核心原因拆解
要解决问题,得先搞清楚Drone的容器隔离是靠什么实现的。Drone本身是跑在K8s或者Docker上的,它的每个任务容器,本质还是Docker容器,而Docker的隔离性是靠Linux的三个核心机制实现的:Namespace(命名空间)、Cgroups(控制组)、Seccomp(安全计算模式)。只要其中一个环节出问题,隔离性就会失效。
2.1 常见的异常触发场景
我整理了几个最容易出问题的场景,都是实际项目中遇到的: 第一个是容器权限配置错误。比如给容器开了特权模式(privileged),或者把宿主机的敏感目录挂载到了容器里。很多人开特权模式是为了让容器能操作宿主机的资源,比如打包镜像的时候需要调用Docker socket,但开完之后,容器里的进程就相当于拿到了宿主机的root权限,想干嘛干嘛,隔离性直接等于没有。 第二个是Drone的配置没做好。比如流水线的步骤之间共享了不该共享的资源,或者用了同一个命名空间下的Secret,结果步骤之间互相访问到了。 第三个是宿主机的安全配置太松。比如K8s节点上的Seccomp配置没开,或者允许容器访问宿主机的内核模块,导致容器能绕过隔离机制操作宿主机。
2.2 具体的异常示例分析
我给大家写一个能复现隔离性异常的Drone流水线配置,技术栈是Drone 2.16 + Docker(Drone跑在Docker上),大家可以照着搭个测试环境验证。
首先是有问题的Drone流水线配置,保存在仓库的.drone.yml里:
# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: 测试隔离性
steps:
# 第一步:拉取敏感配置(比如数据库密码)
- name: 拉取配置
image: alpine:3.18
# 给容器开了特权模式,错误配置
privileged: true
commands:
# 模拟从Secret里读数据库密码,这里用环境变量代替
- echo "DB_PASSWORD=test123456" > /root/db_config.txt
# 把宿主机的/tmp目录挂载到容器的/root,错误挂载
volumes:
- name: tmp
path: /root
# 第二步:编译代码
- name: 编译代码
image: node:18-alpine
# 同样开了特权模式,错误配置
privileged: true
commands:
# 模拟编译,这里只是输出/root下的文件
- cat /root/db_config.txt
volumes:
# 挂载宿主机的/tmp目录,错误配置
- name: tmp
host:
path: /tmp
这个配置的问题有两个:一是两个步骤都开了特权模式,二是都挂载了宿主机的/tmp目录。当你跑这个流水线的时候,第二步的编译步骤会输出第一步写的DB_PASSWORD,这就说明隔离性出问题了——两个本来应该完全独立的容器,居然能共享宿主机的目录,还能互相读写文件。
三、隔离性异常的排查步骤
发现流水线有问题后,得一步步排查,不能瞎猜。我总结了一套可复制的排查流程,适合大部分Drone场景。
3.1 第一步:确认异常现象的具体表现
首先要搞清楚异常的具体情况:是两个步骤之间共享了数据?还是容器能操作宿主机?还是一个容器的崩溃影响了其他容器?比如刚才的例子,就是两个步骤之间共享了宿主机目录,导致数据泄露。
3.2 第二步:检查Drone的流水线配置
先看自己的.drone.yml配置,重点查三个地方:
- 有没有步骤开了
privileged: true?除非万不得已,绝对不要开这个配置,很多人开了之后都忘了关。 - 有没有挂载宿主机的敏感目录?比如宿主机的
/root、/var/run/docker.sock、/etc这些目录,挂载了之后容器就能直接读写宿主机的这些文件。 - 步骤之间有没有共享资源?比如用了同一个Volume,或者用了同一个Secret的环境变量,结果步骤之间互相访问。
比如刚才的错误配置,开了特权模式,还挂载了宿主机的/tmp,这两个都是高危配置。
3.3 第三步:检查容器的运行参数
如果流水线配置没问题,就要看Drone启动的容器的实际参数。Drone跑在Docker上的话,可以用Docker命令看容器的配置:
# 技术栈:Drone 2.16 + Docker
# 先找到Drone启动的容器ID,比如先看所有运行的容器
docker ps
# 然后用inspect命令看容器的详细配置,重点看Privileged和Binds参数
docker inspect <容器ID> | grep -E "Privileged|Binds"
如果输出里"Privileged": true,或者"Binds"里有宿主机的敏感目录,那隔离性肯定有问题。
3.4 第四步:检查宿主机的安全配置
最后看宿主机的安全配置,比如Seccomp有没有开。Seccomp是用来限制容器能调用的系统调用的,没开的话容器能调用很多危险的系统调用,绕过隔离。可以用这个命令检查容器的Seccomp配置:
# 技术栈:Drone 2.16 + Docker
docker inspect <容器ID> | grep SeccompProfile
如果输出是"SeccompProfile": null,说明没开Seccomp,隔离性会大打折扣。
四、生产环境的风险规避方案
排查出问题之后,要做的就是优化配置,从根本上避免隔离性异常。我整理了一套经过生产环境验证的方案,覆盖配置、权限、监控三个方面。
4.1 优化Drone流水线的基础配置
先把流水线的配置改对,核心是“最小权限”原则,也就是只给容器需要的权限,多一点都不给。
4.1.1 禁用特权模式
除非真的需要(比如打包Docker镜像,需要调用Docker socket),否则绝对不要开privileged: true。如果确实需要调用Docker socket,也不要开特权模式,而是用挂载Docker socket的方式,并且限制权限。
比如正确的打包镜像的配置应该是这样的:
# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: 打包镜像
steps:
- name: 打包
image: docker:dind
# 绝对不要开特权模式
# privileged: true
# 挂载宿主机的Docker socket,并且限制权限为只读(如果不需要写的话)
volumes:
- name: docker-socket
path: /var/run/docker.sock
# 给Volume加权限限制,只读
read_only: true
commands:
# 打包镜像的命令
- docker build -t my-image:latest .
volumes:
- name: docker-socket
host:
path: /var/run/docker.sock
4.1.2 禁止挂载宿主机敏感目录
除了必要的Docker socket,绝对不要挂载宿主机的/root、/etc、/tmp(如果是临时目录,可以用Drone的临时Volume,不要用宿主机的)这些目录。如果需要临时存储,可以用Drone的temp类型的Volume,Drone会在任务结束后自动清理,不会留在宿主机上。
比如临时存储的正确配置:
# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: 临时存储测试
steps:
- name: 写临时文件
image: alpine:3.18
commands:
- echo "临时数据" > /tmp/temp.txt
# 挂载Drone的临时Volume,不是宿主机的
volumes:
- name: temp
path: /tmp
volumes:
# 用Drone的临时Volume,任务结束后自动清理
- name: temp
temp: {}
4.1.3 正确管理Secret
Drone的Secret是用来存储敏感数据的,比如数据库密码、镜像仓库密码,一定要配置正确,只给需要的步骤使用。
比如正确的Secret配置:
# 技术栈:Drone 2.16 + Docker
kind: pipeline
type: docker
name: Secret测试
steps:
# 第一步:拉取配置,只给这个步骤用DB_PASSWORD
- name: 拉取配置
image: alpine:3.18
# 只给这个步骤绑定DB_PASSWORD这个Secret
secrets:
- DB_PASSWORD
commands:
# 模拟使用DB_PASSWORD,这里不会泄露给其他步骤
- echo "正在使用数据库密码"
# 第二步:编译代码,不绑定DB_PASSWORD
- name: 编译代码
image: node:18-alpine
commands:
# 这里拿不到DB_PASSWORD,因为没绑定
- echo "编译完成"
4.2 强化宿主机的安全配置
宿主机的安全配置是隔离性的最后一道防线,一定要做好。
4.2.1 开启Seccomp配置
Docker默认会给容器开启Seccomp配置,限制容器能调用的系统调用。如果是自定义的容器,一定要确保Seccomp是开启的,不要用--security-opt seccomp=unconfined这个配置。
4.2.2 限制容器的权限
除了Seccomp,还可以用AppArmor或者SELinux来限制容器的权限,比如禁止容器访问宿主机的网络、禁止容器创建新的进程等等。
比如给容器加AppArmor配置:
# 技术栈:Drone 2.16 + Docker
# 启动容器的时候加AppArmor配置,限制容器的权限
docker run --security-opt apparmor=docker-default my-image
4.3 加监控和告警
最后,要加监控和告警,及时发现隔离性异常。
4.3.1 监控容器的权限配置
可以用Prometheus加Drone的监控插件,监控所有流水线的步骤有没有开特权模式,有没有挂载宿主机的敏感目录。一旦发现,就告警。
4.3.2 监控容器的行为
可以用Falco来监控容器的行为,比如容器有没有访问宿主机的敏感文件,有没有调用危险的系统调用。一旦发现异常行为,就告警。
比如Falco的规则,禁止容器访问宿主机的/root目录:
# 技术栈:Falco 0.34 + Docker
- rule: Access Host Root Directory
desc: 容器访问宿主机的/root目录
condition: container and fd.name startswith /root
output: "容器访问了宿主机的/root目录,容器ID=%container.id,容器名称=%container.name"
priority: CRITICAL
五、方案的应用场景、优缺点和注意事项
5.1 应用场景
这个方案适合所有用Drone做CI/CD的云原生团队,尤其是生产环境的流水线,比如电商的商品服务上线、金融的核心系统发布、互联网公司的APP版本迭代等等。只要是涉及到敏感数据(比如密码、密钥)、核心代码的流水线,都适合用这个方案。
5.2 技术优缺点
优点:
- 能从根本上解决Drone的容器隔离性问题,避免敏感数据泄露、宿主机被入侵等风险。
- 配置简单,都是基于Drone和Docker的原生功能,不需要额外的复杂工具。
- 性能影响小,开启Seccomp、限制权限这些配置对容器的性能影响可以忽略不计。
缺点:
- 对开发人员的要求变高了,需要理解容器隔离的原理,不能随便开特权模式、挂载宿主机目录。
- 初期配置的时候需要花时间调整,比如优化流水线配置、加监控规则,都需要一定的时间成本。
5.3 注意事项
- 一定要定期检查流水线的配置,避免有人不小心开了特权模式、挂载了敏感目录。
- Secret的管理一定要严格,不要把Secret绑定给不需要的步骤,定期更换Secret。
- 监控规则要定期更新,比如新的容器行为、新的敏感目录,都要加到监控规则里。
六、文章总结
云原生场景下的Drone CI/CD容器隔离性问题,本质是容器的安全配置问题,只要掌握了隔离的核心原理,从流水线配置、宿主机安全、监控告警三个方面入手,就能有效规避风险。很多团队之所以会出问题,都是因为对容器隔离的原理理解不够,随便开特权模式、挂载敏感目录,最后导致了严重的后果。希望大家能重视这个问题,把自己的流水线配置改得更安全,避免踩坑。
评论
围绕“云原生场景下Drone CI/CD容器隔离性异常排查与生产环境风险规避方案”参与讨论