跳到主要內容

010.Kubernetes二進制部署kube-controller-manager

一 部署高可用kube-controller-manager



1.1 高可用kube-controller-manager介紹



本實驗部署一個三實例 kube-controller-manager 的集群，啟動后將通過競爭選舉機制產生一個 leader 節點，其它節點為阻塞狀態。當 leader 節點不可用時，阻塞的節點將再次進行選舉產生新的 leader 節點，從而保證服務的可用性。

為保證通信安全，本文檔先生成 x509 證書和私鑰，kube-controller-manager 在如下兩種情況下使用該證書：




  • 與 kube-apiserver 的安全端口通信;


  • 在安全端口(https，10252) 輸出 prometheus 格式的 metrics。



1.2 創建kube-controller-manager證書和私鑰



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# cat > kube-controller-manager-csr.json <<EOF
   3 {
   4   "CN": "system:kube-controller-manager",
   5   "hosts": [
   6     "127.0.0.1",
   7     "172.24.8.71",
   8     "172.24.8.72",
   9     "172.24.8.73"
  10   ],
  11   "key": {
  12     "algo": "rsa",
  13     "size": 2048
  14   },
  15   "names": [
  16     {
  17       "C": "CN",
  18       "ST": "Shanghai",
  19       "L": "Shanghai",
  20       "O": "system:kube-controller-manager",
  21       "OU": "System"
  22     }
  23   ]
  24 }
  25 EOF
  26 #創建kube-controller-manager的CA證書請求文件



解釋：

hosts 列表包含所有 kube-controller-manager 節點 IP；

CN 和 O 均為 system:kube-controller-manager，kubernetes 內置的 ClusterRoleBindings system:kube-controller-manager 賦予 kube-controller-manager 工作所需的權限。 




  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# cfssl gencert -ca=/opt/k8s/work/ca.pem \
   3 -ca-key=/opt/k8s/work/ca-key.pem -config=/opt/k8s/work/ca-config.json \
   4 -profile=kubernetes kube-controller-manager-csr.json | cfssljson -bare kube-controller-manager	#生成CA密鑰（ca-key.pem）和證書（ca.pem）



1.3 分發證書和私鑰



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
   4   do
   5     echo ">>> ${master_ip}"
   6     scp kube-controller-manager*.pem root@${master_ip}:/etc/kubernetes/cert/
   7   done



1.4 創建和分發kubeconfig



kube-controller-manager 使用 kubeconfig 文件訪問 apiserver，該文件提供了 apiserver 地址、嵌入的 CA 證書和 kube-controller-manager 證書： 

  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# kubectl config set-cluster kubernetes \
   4   --certificate-authority=/opt/k8s/work/ca.pem \
   5   --embed-certs=true \
   6   --server=${KUBE_APISERVER} \
   7   --kubeconfig=kube-controller-manager.kubeconfig
   8 
   9 [root@k8smaster01 work]# kubectl config set-credentials system:kube-controller-manager \
  10   --client-certificate=kube-controller-manager.pem \
  11   --client-key=kube-controller-manager-key.pem \
  12   --embed-certs=true \
  13   --kubeconfig=kube-controller-manager.kubeconfig
  14 
  15 [root@k8smaster01 work]# kubectl config set-context system:kube-controller-manager \
  16   --cluster=kubernetes \
  17   --user=system:kube-controller-manager \
  18   --kubeconfig=kube-controller-manager.kubeconfig
  19 
  20 [root@k8smaster01 work]# kubectl config use-context system:kube-controller-manager --kubeconfig=kube-controller-manager.kubeconfig
  21 
  22 [root@k8smaster01 ~]# cd /opt/k8s/work
  23 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
  24 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
  25   do
  26     echo ">>> ${master_ip}"
  27     scp kube-controller-manager.kubeconfig root@${master_ip}:/etc/kubernetes/
  28   done



1.5 創建kube-controller-manager的systemd



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# cat > kube-controller-manager.service.template <<EOF
   4 [Unit]
   5 Description=Kubernetes Controller Manager
   6 Documentation=https://github.com/GoogleCloudPlatform/kubernetes
   7 
   8 [Service]
   9 WorkingDirectory=${K8S_DIR}/kube-controller-manager
  10 ExecStart=/opt/k8s/bin/kube-controller-manager \\
  11   --profiling \\
  12   --cluster-name=kubernetes \\
  13   --controllers=*,bootstrapsigner,tokencleaner \\
  14   --kube-api-qps=1000 \\
  15   --kube-api-burst=2000 \\
  16   --leader-elect \\
  17   --use-service-account-credentials\\
  18   --concurrent-service-syncs=2 \\
  19   --bind-address=##MASTER_IP## \\
  20   --secure-port=10252 \\
  21   --tls-cert-file=/etc/kubernetes/cert/kube-controller-manager.pem \\
  22   --tls-private-key-file=/etc/kubernetes/cert/kube-controller-manager-key.pem \\
  23   --port=0 \\
  24   --authentication-kubeconfig=/etc/kubernetes/kube-controller-manager.kubeconfig \\
  25   --client-ca-file=/etc/kubernetes/cert/ca.pem \\
  26   --requestheader-allowed-names="" \\
  27   --requestheader-client-ca-file=/etc/kubernetes/cert/ca.pem \\
  28   --requestheader-extra-headers-prefix="X-Remote-Extra-" \\
  29   --requestheader-group-headers=X-Remote-Group \\
  30   --requestheader-username-headers=X-Remote-User \\
  31   --authorization-kubeconfig=/etc/kubernetes/kube-controller-manager.kubeconfig \\
  32   --cluster-signing-cert-file=/etc/kubernetes/cert/ca.pem \\
  33   --cluster-signing-key-file=/etc/kubernetes/cert/ca-key.pem \\
  34   --experimental-cluster-signing-duration=8760h \\
  35   --horizontal-pod-autoscaler-sync-period=10s \\
  36   --concurrent-deployment-syncs=10 \\
  37   --concurrent-gc-syncs=30 \\
  38   --node-cidr-mask-size=24 \\
  39   --service-cluster-ip-range=${SERVICE_CIDR} \\
  40   --pod-eviction-timeout=6m \\
  41   --terminated-pod-gc-threshold=10000 \\
  42   --root-ca-file=/etc/kubernetes/cert/ca.pem \\
  43   --service-account-private-key-file=/etc/kubernetes/cert/ca-key.pem \\
  44   --kubeconfig=/etc/kubernetes/kube-controller-manager.kubeconfig \\
  45   --logtostderr=true \\
  46   --v=2
  47 Restart=on-failure
  48 RestartSec=5
  49 
  50 [Install]
  51 WantedBy=multi-user.target
  52 EOF



1.6 分發systemd



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# for (( i=0; i < 3; i++ ))
   4   do
   5     sed -e "s/##MASTER_NAME##/${MASTER_NAMES[i]}/" -e "s/##MASTER_IP##/${MASTER_IPS[i]}/" kube-controller-manager.service.template > kube-controller-manager-${MASTER_IPS[i]}.service
   6   done						#修正相應IP
   7 [root@k8smaster01 work]# ls kube-controller-manager*.service
   8 [root@k8smaster01 ~]# cd /opt/k8s/work
   9 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
  10 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
  11   do
  12     echo ">>> ${master_ip}"
  13     scp kube-controller-manager-${master_ip}.service root@${master_ip}:/etc/systemd/system/kube-controller-manager.service
  14   done						#分發system



二 啟動並驗證



2.1 啟動kube-controller-manager 服務



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
   4   do
   5     echo ">>> ${master_ip}"
   6     ssh root@${master_ip} "mkdir -p ${K8S_DIR}/kube-controller-manager"
   7     ssh root@${master_ip} "systemctl daemon-reload && systemctl enable kube-controller-manager && systemctl restart kube-controller-manager"
   8   done



2.2 檢查kube-controller-manager 服務



  1 [root@k8smaster01 ~]# source /opt/k8s/bin/environment.sh
   2 [root@k8smaster01 ~]# for master_ip in ${MASTER_IPS[@]}
   3   do
   4     echo ">>> ${master_ip}"
   5     ssh root@${master_ip} "systemctl status kube-controller-manager|grep Active"
   6   done




2.3 查看輸出的 metrics



  1 [root@k8smaster01 ~]# curl -s --cacert /opt/k8s/work/ca.pem --cert /opt/k8s/work/admin.pem --key /opt/k8s/work/admin-key.pem https://172.24.8.71:10252/metrics |head


注意：以上命令在 kube-controller-manager 節點上執行。

2.4 查看權限



  1 [root@k8smaster01 ~]# kubectl describe clusterrole system:kube-controller-manager



ClusteRole system:kube-controller-manager 的權限很小，只能創建 secret、serviceaccount 等資源對象，各 controller 的權限分散到 ClusterRole system:controller:XXX 中。

當在 kube-controller-manager 的啟動參數中添加 --use-service-account-credentials=true 參數，這樣 main controller 會為各 controller 創建對應的 ServiceAccount XXX-controller。內置的 ClusterRoleBinding system:controller:XXX 將賦予各 XXX-controller ServiceAccount 對應的 ClusterRole system:controller:XXX 權限。 

  1 [root@k8smaster01 ~]# kubectl get clusterrole|grep controller



如deployment controller： 

  1 [root@k8smaster01 ~]# kubectl describe clusterrole system:controller:deployment-controller



2.5 查看當前leader



  1 [root@k8smaster01 ~]# kubectl get endpoints kube-controller-manager --namespace=kube-system  -o yaml



kubelet 認證和授權：https://kubernetes.io/docs/admin/kubelet-authentication-authorization/#kubelet-authorization
本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※台北網頁設計公司這麼多，該如何挑選?? 網頁設計報價省錢懶人包"嚨底家"



※網頁設計公司推薦更多不同的設計風格，搶佔消費者視覺第一線



※想知道購買電動車哪裡補助最多?台中電動車補助資訊懶人包彙整



※南投搬家費用,距離,噸數怎麼算?達人教你簡易估價知識!


Orignal From: 010.Kubernetes二進制部署kube-controller-manager

留言

張貼留言

這個網誌中的熱門文章

旅館疑有臭蟲 北市府稽查找嘸

有民眾抱怨，日前投宿的北市某旅館疑似出現臭蟲，北市觀傳局與衛生局、環保局聯合稽查，但因為沒有發現蟲屍，無法確認該旅館是否真有臭蟲，市府下周將召開專家會議處理該案，市長蔣萬安則允諾會以最高規格防範臭蟲。 北市某旅館傳出疑有臭蟲，議員陳宥丞23日在市政總質詢詢問市府處理進度，並指出法國、澳洲、韓國的臭蟲，起初都現蹤公車或地鐵卻沒被發現，直到大規模爆發，才付出大量社會成本處理，而且一般殺蟲劑無法殺掉臭蟲，北市是否有因應措施？ 觀傳局主任祕書蕭君杰表示，21日聯合環保局、衛生局到該旅館稽查，但沒有發現臭蟲，也沒有查到蟲卵跡象，只能檢查現場環境是否符合衛生相關規定，但環保局有指導業者如何針對臭蟲清潔消毒。觀傳局長王秋冬指出，下周會與專家學者召開會議，以最高規格處理此案。 想知道購買電動車哪裡補助最多? 台中電動車 補助資訊懶人包彙整 ；推薦評價好的 iphone維修 中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝 太陽光電 聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。 網頁設計 一頭霧水該從何著手呢? 回頭車 貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念 台中搬家公司 教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」 台中搬家 公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水 露營車 漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製 廣告預算用在刀口上， 台北網頁設計 公司幫您達到更多曝光效益； 電動車補助 衛生局疾病管制科長張惠美表示，現場查到與臭蟲無關的多項衛生缺失，包含未提供從業人員體檢報告、簡易外傷藥品及器材超過有效期、紗窗有破損等，已要求業者2周內改善，將擇期複查，如果複查不合格，將依法裁罰3000元至2萬元罰鍰。 但陳宥丞批評，環保局未公告哪些藥劑能殺死臭蟲，很擔心北市會和韓國、法國一樣，把臭蟲防治交給民間恐造成大規模爆發，且北市內的廢棄傢俱回收廠也有可能成為臭蟲孳生的...
張貼留言
閱讀完整內容

2016年電動車和插電式混合動力車銷量預計將超過70萬輛

中汽協日前預測，2016年全國電動汽車和插電式混合動力車的銷量預計將超過70萬輛，較2015年的銷量增長一倍。 2015年電動車和插電式混合動力車的合併銷量為331092輛，較2014年增長了340%。其中包括247482輛電動車和83610輛插電式混合動力車，在24萬輛多的電動汽車銷量中，包括146719輛乘用車，另有100763輛為商用車。插電式混合動力車的銷量中，60663輛為乘用車，22947輛為商用車。 根據2015年起草的藍圖，政府計畫到2020年在全國範圍內新建12000個充電站和480枚充電樁。2014年年底，全國共有780個充電站共31000枚充電樁。2015年政府還為27個省市自治區設定了電動車的最低銷量目標。 政府預計，這些措施到位後，自主品牌車企的電動車和插電式混合動力車銷量到2020年可達100萬輛，到2025年可達300萬輛。 本站聲明:網站內容來源於EnergyTrend https://www.energytrend.com.tw/ev/,如有侵權,請聯繫我們,我們將及時處理 【其他文章推薦】 ※為什麼 USB CONNECTOR 是電子產業重要的元件? ※ 網頁設計 一頭霧水??該從何著手呢? 找到專業技術的 網頁設計公司 ，幫您輕鬆架站! ※想要讓你的商品成為最夯、最多人討論的話題? 網頁設計公司 讓你強力曝光 ※想知道最厲害的 台北網頁設計公司推薦 、 台中網頁設計公司推薦 專業設計師"嚨底家"!! Orignal From: 2016年電動車和插電式混合動力車銷量預計將超過70萬輛
張貼留言
閱讀完整內容

012.Kubernetes二進制部署worker節點Flannel

一 部署flannel 1.1 安裝flannel kubernetes 要求集群內各節點(包括 master 節點)能通過 Pod 網段互聯互通。flannel 使用 vxlan 技術為各節點創建一個可以互通的 Pod 網絡，使用的端口為 UDP 8472。 flanneld 第一次啟動時，從 etcd 獲取配置的 Pod 網段信息，為本節點分配一個未使用的地址段，然後創建 flannedl.1 網絡接口（也可能是其它名稱，如 flannel1 等）。 flannel 將分配給自己的 Pod 網段信息寫入 /run/flannel/docker 文件，docker 後續使用這個文件中的環境變量設置 docker0 網橋，從而從這個地址段為本節點的所有 Pod 容器分配 IP。 更多flannel參考：《008.Docker Flannel+Etcd分佈式網絡部署》。 提示：k8smaster01節點已下載相應二進制，可直接分發至node節點。 1.2 分發flannel 1 [root@k8smaster01 ~]# cd /opt/k8s/work 2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh 3 [root@k8smaster01 work]# for node_ip in ${NODE_IPS[@]} 4 do 5 echo " >>> ${node_ip} " 6 scp flannel/{flanneld,mk-docker-opts.sh} root@${node_ip}:/opt/k8s/bin/ 7 ssh root@${node_ip} " chmod +x /opt/k8s/bin/* " 8 done 1.3 創建flannel證書和密鑰 提示：k8smaster01節點已創建flanneld的CA證書請求文件，可直接分發至node節點。 1.4 分發證書和私鑰 1 ...
張貼留言
閱讀完整內容