今回は「ベアメタル Kubernetes 環境に ingress-nginx (L7ロードバランサ) を構築する方法」についてまとめます。
概要
ベアメタル Kubernetes 環境に NGINX ingress Controller を導入して「Ingress」を利用できるようにします。
本記事では「NGINX ingress Controller の導入から動作確認まで」を行っていきます。
前提
Ingress は その後ろで Service の ロードバランサ を利用しているので、前提として Service の ロードバランサ (MetalLB など) が利用できる状態になっていること。
- Kubernetes v1.14
- MetalLB 0.7.3
- NGINX ingress Controller v0.24.1
インストール
-
mandatory.yaml をダウンロード
-
mandatory.yaml を編集
ingress-nginx の controller は master Node に配置したいので、affinity と tolerations を追加します。
12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091…(省略)…
apiVersion: apps/v1
kind: Deployment
metadata:
name: nginx-ingress-controller
namespace: ingress-nginx
labels:
app.kubernetes.io/name: ingress-nginx
app.kubernetes.io/part-of: ingress-nginx
spec:
replicas: 1
selector:
matchLabels:
app.kubernetes.io/name: ingress-nginx
app.kubernetes.io/part-of: ingress-nginx
template:
metadata:
labels:
app.kubernetes.io/name: ingress-nginx
app.kubernetes.io/part-of: ingress-nginx
annotations:
prometheus.io/port: "10254"
prometheus.io/scrape: "true"
spec:
serviceAccountName: nginx-ingress-serviceaccount
containers:
- name: nginx-ingress-controller
image: quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.24.1
args:
- /nginx-ingress-controller
- --configmap=$(POD_NAMESPACE)/nginx-configuration
- --tcp-services-configmap=$(POD_NAMESPACE)/tcp-services
- --udp-services-configmap=$(POD_NAMESPACE)/udp-services
- --publish-service=$(POD_NAMESPACE)/ingress-nginx
- --annotations-prefix=nginx.ingress.kubernetes.io
securityContext:
allowPrivilegeEscalation: true
capabilities:
drop:
- ALL
add:
- NET_BIND_SERVICE
# www-data -> 33
runAsUser: 33
env:
- name: POD_NAME
valueFrom:
fieldRef:
fieldPath: metadata.name
- name: POD_NAMESPACE
valueFrom:
fieldRef:
fieldPath: metadata.namespace
ports:
- name: http
containerPort: 80
- name: https
containerPort: 443
livenessProbe:
failureThreshold: 3
httpGet:
path: /healthz
port: 10254
scheme: HTTP
initialDelaySeconds: 10
periodSeconds: 10
successThreshold: 1
timeoutSeconds: 10
readinessProbe:
failureThreshold: 3
httpGet:
path: /healthz
port: 10254
scheme: HTTP
periodSeconds: 10
successThreshold: 1
timeoutSeconds: 10
# - ADD - START - ------------
affinity:
nodeAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
- matchExpressions:
- key: node-role.kubernetes.io/master
operator: Exists
tolerations:
- key: node-role.kubernetes.io/master
operator: Exists
effect: NoSchedule
# - ADD - END - ------------
-
mandatory.yaml を適用
1kubectl apply -f mandatory.yaml
-
service-nodeport.yaml を適用
1kubectl apply -f https://raw.githubusercontent.com/kubernetes/ingress-nginx/master/deploy/ba
remetal/service-nodeport.yaml
必要なPodが立ち上がっているかどうか、以下のコマンドで確認します。
1 | kubectl get pods --all-namespaces -l app.kubernetes.io/name=ingress-nginx --watch |
上記コマンドは状態を監視し続けるので、終了する際は Ctrl + C で抜けます。
設定
-
ConfigMap用のマニュフェスト(configmap.yaml)を作成
123456789kind: ConfigMap
apiVersion: v1
metadata:
name: nginx-config
namespace: nginx-ingress
data:
proxy-connect-timeout: "10s"
proxy-read-timeout: "10s"
client-max-body-size: "2m"
適用できる ConfigMap の
namespace
およびname
は 前述のインストールで引数--configmap
に渡している値を指定します。nginx-ingress の 設定はすべて文字列になるので必ず "(ダブルクォート) でくくります。
その他設定は以下を参照してください。
-
作成した ConfigMap を適用します。
1kubeadm apply -f configmap.yaml
動作確認
-
以下のようなサンプルマニュフェスト(sample.yaml)を作成
Deployment にある イメージ や ポートは適宜書き換えてください。
12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849apiVersion: networking.k8s.io/v1beta1
kind: Ingress
metadata:
name: sample-ingress
annotations:
nginx.ingress.kubernetes.io/rewrite-target: /
spec:
backend:
serviceName: sample-service
servicePort: 8080
---
apiVersion: v1
kind: Service
metadata:
name: sample-service
spec:
selector:
app: echo
ports:
- name: http
protocol: TCP
port: 8080
targetPort: 3000
---
apiVersion: apps/v1
kind: Deployment
metadata:
name: sample-deployment
labels:
app: echo
spec:
replicas: 1
selector:
matchLabels:
app: echo
template:
metadata:
labels:
app: echo
spec:
containers:
- name: echo
image: garafu/test.echo:latest
ports:
- containerPort: 3000
---
-
マニュフェストを適用して展開
1kubectl apply -f sample.yaml
-
Ingress に External IP がふられるのを待つ
1kubectl get ing --watch
IPが振られるまで数分かかります。 上記コマンドでは状態変化を追っているのでIPが振られると自動で更新されれます。 抜ける際は Ctrl + C で抜けます。
実行した際のイメージは以下のようになります。
1234[root@k8s-master k8s-ingress]# kubectl get ing --watch
NAME HOSTS ADDRESS PORTS AGE
sample-ingress * 80 8s
sample-ingress * 10.51.2.10 80 16s
-
接続確認
1curl http://10.51.2.10
今回は「ベアメタル Kubernetes 環境に ingress-nginx (L7ロードバランサ) を構築する方法」についてまとめました。 参考になったでしょうか? 本記事がお役に立っていると嬉しいです!!
参考記事
- NGINX Ingress Controller - Installation Guide
- GitHub nginxinc/kubernetes-ingress - ConfigMap and Annotations
- GitHub kubernetes/ingress-nginx - ConfigMaps
最後に… このブログに興味を持っていただけた方は、 ぜひ 「Facebookページ に いいね!」または 「Twitter の フォロー」 お願いします!!