生产环境上线数据流向
-
研发将代理写好之后,上传至代码仓库(gitable–私有仓库、svn–私有仓库、gitee)中,
-
然后通过jenkins(全自动化工具)去代码仓库中拉取代码,然后进行打包(打包成war包或jar包)放在本地,可以使用shell脚本来判断是否打包完成。
-
如果打包完成,会将包推送到docker服务器中,使用dockerfile中,构建成镜像,(使用shell脚本判断是否构建成功)
-
构建成功了后,然后就上传到harbor仓库中。
-
然后使用k8s来获取harbor仓库中的镜像,最后进行编排集群微服务。
一、Docker Harbor基本概念
有可视化的web管理界面,可以方便管理docker镜像,又提供了多个项目的镜像权限管理及控制功能。
Harbor是VMware公司开源的企业级Docker Registry项目
1、Harbor的优势
- 基于角色控制: 有管理员和普通用户,可赋权普通用户,比如智能上传或下载,可根据项目来进行操作和管理。
- 基于镜像的复制策略 : 镜像可以在多个harbor实例之间进行复制(同步)
- 支持LDAP/AD : harbor可以继承企业内部已有的AD/LDAP(类似数据库的一张表)用于对已存在的用户认证和管理。
- 镜像删除和垃圾收集: 镜像可以被删除,也可以挥手镜像占用的空间
- 图像UI : 具有统计功能,比如访问量与镜像下载热度。
- 审计: 所有针对镜像仓库的操作都可以被记录追溯,用于审计管理(就是上传或下载都有记录)
- RESTful API: 定义web语言规范的格式,方便调用harbor的接口,也便于二次开发。
2、Docker Harbor私有仓库架构拓扑
总的流程:
当客户端访问时,请求到达proxy进行反向代理,首先请求会转到Registry上进行确认是存储还是拉取镜像,但是会首先core services上面进行令牌验证(上面还有UI可视化界面,webhook监控Registry上镜像状态变化),验证通过才可以进行对镜像的操作。
database 为core service提供数据库的支持,存储一些用户权限,审计日志,镜像分组信息。
Job services 是用来harbor之间镜像的复制同步的。
Log collector是用来存储整个服务架构所产生的日志。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Hkwge7NC-1663321478748)(C:\Users\Ydq\AppData\Roaming\Typora\typora-user-images\image-20220914015004610.png)]
Harbor在架构上主要有proxy、Regiistry、Core services、Database(Harbor-db)、Log collector(Harbor-log)、Job services 六个组件。
- Proxy : 是一个nginx的前端代理,Harbor的Registry、UI、Token服务等组件,都处在nginx反向代理后边,该代理将来自浏览器、docker clients的请求转发到后端不同的服务上。
- Registry : 负责存储Docker镜像,并处理Docker push/Pull 命令,由于要对用户进行访问控制,即不同用户对Docker镜像有不同的读写权限。Registry会指向一个Token服务,强制用户的每次上传和下载都要携带一个合法的Token,Registry会通过公钥对Token进行解密验证。(简单来两个功能:1、存储镜像,2、处理pull/push功能)
- Core services: Harbor的核心功能,主要提供三个服务
UI(harbor-ui)
#提供图像化界面,帮助用户管理Registry上的镜像(images),并对用户进行授权。
WebHook
#(网站的一些功能)为了及时获取Registry上images状态变化情况,在Registry上配置WebHook,把状态变化传递给UI模块。
Token服务
#负责根据用户权限给每个Docker push/pull 命令签发Token.Docker客户端向Registry服务发起的请求,如果不包含Dokcer Token,会被重定向到Token,获得Token后再重新向Registry进行请求。
//令牌有三种认证方式
1、令牌认证
2、用户密码
3、ssl(双向)
- Dtabase(harbor-db): 为core service提供数据库服务,负责存储用户权限,审计日志、Docker镜像分组信息等数据,Docker数据存储在文件系统,但是分组信息存储在数据库。
- Job services : 主要用户镜像复制,本地镜像可以被同步到远程harbor实例上。
- Log collector(harbor-log): 负责收集其它组件的日志到一个地方。
Harbor 的每个组件都是以 Docker 容器的形式构建的,因此,使用 Docker Compose 来对它进行部署
总共分为7个容器运行,通过在docker-compose.yml所在目录中执行 docker-compose ps 命令来查看, 名称分别为:nginx、harbor-jobservice、harbor-ui、harbor-db、harbor-adminserver、registry、harbor-log。
其中 harbor-adminserver 主要是作为一个后端的配置数据管理,并没有太多的其他功能。harbor-ui 所要操作的所有数据都通过 harbor-adminserver 这样一个数据配置管理中心来完成
三、Harbor构建Docker私有仓库
1、环境配置
主机 | ip地址 | 软件 |
---|---|---|
server | 20.0.0.56 | docker服务、docker-compose、harbor-offline-v1.1.2 |
clinet | 20.0.0.57 | docker服务 |
搭建目的
- 通过Harbor创建Docker私有仓库,图形化管理Docker私有仓库。
2、部署Harbor服务
2.1 解压、修改配置文件
链接:https://pan.baidu.com/s/1xFGPTYASVOXQuAHNcS4giA
提取码:yudq
cd /opt
#上传harbor的压缩包
tar zxvf harbor-offline-installer-v1.2.2.tgz -C /usr/local/
#解压至指定目录
vim /usr/local/harbor.cfg
hostname = 20.0.0.57 #第5行修改为自己的主机名
#关于 Harbor.cfg 配置文件中有两类参数∶ 所需参数和可选参数
--------------------------------------------------------------------------------------
1、==所需参数==
这些参数需要在配置文件 Harbor.cfg 中设置。如果用户更新它们并运行 instal1.sh 脚本重新安装 Harbour,参数将生效。具体参数如下∶
- hostname∶用于访问用户界面和 register 服务。它应该是目标机器的 IP 地址或完全限定的域名(FQDN),
例如 192.168.80.10 或 hub.clj.cn。不要使用 localhost 或 127.0.0.1 为主机名。
- ui_url_protocol∶(http 或 https,默认为 http)用于访问 UI 和令牌/通知服务的协议。如果公证处于启用状态,则此参数必须为 https。
- max_job_workers∶ 镜像复制作业线程。
- db_password∶ 用于db_auth 的 MySOL 数据库root 用户的密码。
- customize_crt∶ 该属性可设置为打开或关闭,默认打开。打开此属性时,准备脚本创建私钥和根证书,用于生成/验证注册表令牌。当由外部来源提供密钥和根证书时,将此属性设置为 off。
- ssl_cert∶ SSL 证书的路径,仅当协议设置为 https 时才应用。
- secretkey_path∶ 用于在复制策略中加密或解密远程 register 密码的密钥路径。
--------------------------------------------------------------------------------------
2、==可造参数==
这些参数转于更新垫可选的。即用户可以将其保贸为默认值。并在启动 Harbor 后在 Web UI 上进行更新。
如果进入 Harbor.cfg,只会在第一次启动 Harbor 时生效,随后对这些参数的更新,Harbor.cfg 将被忽略。
注意∶ 如果选择通过 UI 设置这些参数,请确保在启动 Harbor 后立即执行此操作。具体来说,必须在注册或在 Harbor 中创建任何
新用户之前设置所需的 auth_nods。当系统中有用户时(除了默认的 admin 用户), auth_nod不能被修改。
具体参数如下∶
- Emai1∶Harbor 需要该参数才能向用户发送"密码重置"电子邮件,并且只有在需要该功能时才启用。请注意,在默认情况下 SSL连接制没有启用。
如果 SMTP 服务器需要 SSL,但不支持 STARTTLS,那么应该通过设置启用 SSL emai1_ssl = TRUE。
- harbour_admin_password:管理员的的初始密码,只在 Harbor 第一次启动时生效。之后此设置将被忽略,
并且应在 UI 中设置管理员的密码。请注意,默认的用户名/密码是admin/Harbor12345。
- auth_node∶ 使用的认证类型,默认情况下,它是 db_auth,即凭据存储在数据库中。对于LDAP身份验证,请将其设置为 ldap_auth。
- self_registration∶ 启用/禁用用户注册功能。禁用时,新用户只能由 admin 用户创建,只有管理员用户可以在 Harbour中创建新用户。
注意∶当 auth_mode 设置为 ldap_auth 时。自注册功能将始终处于禁用状态,并且该标志被忽略。
- Token_expiration,由令牌服务创建的令牌的到期时间(分钟),默认为 30 分钟。
- project_creation_restriction,用于控制哪写用户有权创建项目的标志。默以情况下,每个人都可以创建一个项目。
如果将其植设置为 “adminonly“,那么只有 admin 可以创建项目。
- verify_remote_cert: 打开或关闭,默认打开。此标志决定了当Harbor与远程register 实例通信时是否验证SSL/TLS证书。
将此属性设置为off将绕过SSL/TLS验证,这在远程实例具有自签名或不可信证书时经常使用。
另外,默认情况下,Harbour将镜像存储在本地文件系统上。在生产环境中,可以考虑使用其他存储后端而不是本地文件系统,如
S3、 openstack Swif、 Ceph 等对象存储。但需要更新common/templates/registry/config.yml 文件。
--------------------------------------------------------------------------------------
2.2 启动harbor,开始安装
#!!!注意
//当需要重新修改配置文件的内容时,需要重新执行install,不然配置文件汇总的内容不会生效
cd /usr/local/harbor
./install.sh
2.3 查看harbor是是否安装完成
docker-compose ps
docker images
2.3 访问登录验证
网页访问 20.0.0.56
账号:admin
密码:Harbor12345
3、Harbor基础操作(pull/push)
3.1 界面创建一个新项目
3.2 本机本地登录推送镜像
此时可以使用Docker命令在本地通过127.0.0.1来登录和推送镜像,默认情况下,Register服务在端口80上监听。
docker login -u admin -p Harbor12345 http://127.0.0.1
#登录到harbor仓库
docker pull nginx
#下载镜像(注意,这个下载是在docker Hub仓库下载的,默认就是这)
docker tag nginx:latest 127.0.0.1/harbor-ydq/nginx:v1
#修改nginx的变迁
docker images
#查看修改后的标签
docker push 127.0.0.1/harbor-ydq/nginx:v1
界面查看是否出现上传的镜像
3.3 非本地机器进行下载镜像
docker login -u admin -p Harbor12345 http://20.0.0.56
#登录到装有harbor仓库的机器
解决办法
出现这问题的原因 Docker Registry 交互默认使用的是 HTTPS,但是搭建私有镜
像默认使用的是 HTTP 服务,所以与私有镜像交互时出现以下错误。
vim /usr/lib/systemd/system/docker.service
--insecure-registry 20.0.0.56 #13行添加
systemctl daemon-reload
systemctl restart docker
#重新加载护进程,重启docker服务
重新登录尝试登录harbor仓库
下载镜像到本机
docker pull 20.0.0.56/harbor-ydq/nginx:v1
#下载镜像到本地
docker imgaes
四、管理维护Harbor
1、通过Harbor Web创建项目
- 在Harbor仓库中,任何镜像在被push到regsitry之前都必须有一个自己所属的项目
- 单击“项目”,填写项目名称,项目若设置为“私有”,则不勾选,默认私有
- 如果设置公共仓库,则所有人对此项目下的镜像拥有读权限,命令行中不需要执行“docker login”即可下载镜像。
可以使用docker-compose离开管理Harbor,一些有用的命令如下所述,必须在与docker-compose.yml相同的目录中运行。
修改Harbor.cfg配置文件。需要先停止现有Harbor实例,再更新Harbor.cfg,然后再运行prepare脚本来填充配置,最后重新创建并启动Harbor的实例。
docker-compose down -v
#关闭所有容器
./prepare
#填充配置
docker-compose up -d
#启动Harbor
#####如果报错#####
解决思路
关闭防火墙,重启docker
2、创建Harbor用户
2.1 创建新用户,添加用户设置项目镜像。
2.2 客户端使用新创建的用户下载镜像
dokcer login -u ydq -p Ydq12345 http://20.0.0.56
#建议使用以下方式登录
docker login http://20.0.0.56
//输入用户和密码
------------------------------------------
docker logout 20.0.0.56
#登出
docker pull 20.0.0.56/harbor-ydq/nginx:v1
#获取镜像
2.3 客户端使用新创建的用户上传
docker pull centos:7
#从docker Hap上下载一个镜像
docker tag centos:7 20.0.0.56/harbor/centos7:v1
#修改标签
docker logine http://20.0.0.56
#登录到harbor仓库中
docker push 20.0.0.56/harbor/centos7:v1
#将镜像上传到harbor仓库
UI界面查看是否上传成功
3、备份项目镜像
harbor仓库的镜像存储在的目录如下
/data/registry/docker/registry/v2/repositorries
#下面存储一些项目
五、远程同步
1、安装一台新的harbor服务器
安装步骤参考前面的。
2、在老的harbor仓库中设置复制管理
先创建一个复制的目标,然后点击项目,找到需要复制的项目,然后点击规则,新建一个复制规则,最后启用即可,复制到对方harbor仓库。
3、在新的harbor服务器查看
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/74991.html