跳到主要內容

010.Kubernetes二進制部署kube-controller-manager

一 部署高可用kube-controller-manager



1.1 高可用kube-controller-manager介紹



本實驗部署一個三實例 kube-controller-manager 的集群，啟動后將通過競爭選舉機制產生一個 leader 節點，其它節點為阻塞狀態。當 leader 節點不可用時，阻塞的節點將再次進行選舉產生新的 leader 節點，從而保證服務的可用性。

為保證通信安全，本文檔先生成 x509 證書和私鑰，kube-controller-manager 在如下兩種情況下使用該證書：




  • 與 kube-apiserver 的安全端口通信;


  • 在安全端口(https，10252) 輸出 prometheus 格式的 metrics。



1.2 創建kube-controller-manager證書和私鑰



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# cat > kube-controller-manager-csr.json <<EOF
   3 {
   4   "CN": "system:kube-controller-manager",
   5   "hosts": [
   6     "127.0.0.1",
   7     "172.24.8.71",
   8     "172.24.8.72",
   9     "172.24.8.73"
  10   ],
  11   "key": {
  12     "algo": "rsa",
  13     "size": 2048
  14   },
  15   "names": [
  16     {
  17       "C": "CN",
  18       "ST": "Shanghai",
  19       "L": "Shanghai",
  20       "O": "system:kube-controller-manager",
  21       "OU": "System"
  22     }
  23   ]
  24 }
  25 EOF
  26 #創建kube-controller-manager的CA證書請求文件



解釋：

hosts 列表包含所有 kube-controller-manager 節點 IP；

CN 和 O 均為 system:kube-controller-manager，kubernetes 內置的 ClusterRoleBindings system:kube-controller-manager 賦予 kube-controller-manager 工作所需的權限。 




  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# cfssl gencert -ca=/opt/k8s/work/ca.pem \
   3 -ca-key=/opt/k8s/work/ca-key.pem -config=/opt/k8s/work/ca-config.json \
   4 -profile=kubernetes kube-controller-manager-csr.json | cfssljson -bare kube-controller-manager	#生成CA密鑰（ca-key.pem）和證書（ca.pem）



1.3 分發證書和私鑰



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
   4   do
   5     echo ">>> ${master_ip}"
   6     scp kube-controller-manager*.pem root@${master_ip}:/etc/kubernetes/cert/
   7   done



1.4 創建和分發kubeconfig



kube-controller-manager 使用 kubeconfig 文件訪問 apiserver，該文件提供了 apiserver 地址、嵌入的 CA 證書和 kube-controller-manager 證書： 

  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# kubectl config set-cluster kubernetes \
   4   --certificate-authority=/opt/k8s/work/ca.pem \
   5   --embed-certs=true \
   6   --server=${KUBE_APISERVER} \
   7   --kubeconfig=kube-controller-manager.kubeconfig
   8 
   9 [root@k8smaster01 work]# kubectl config set-credentials system:kube-controller-manager \
  10   --client-certificate=kube-controller-manager.pem \
  11   --client-key=kube-controller-manager-key.pem \
  12   --embed-certs=true \
  13   --kubeconfig=kube-controller-manager.kubeconfig
  14 
  15 [root@k8smaster01 work]# kubectl config set-context system:kube-controller-manager \
  16   --cluster=kubernetes \
  17   --user=system:kube-controller-manager \
  18   --kubeconfig=kube-controller-manager.kubeconfig
  19 
  20 [root@k8smaster01 work]# kubectl config use-context system:kube-controller-manager --kubeconfig=kube-controller-manager.kubeconfig
  21 
  22 [root@k8smaster01 ~]# cd /opt/k8s/work
  23 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
  24 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
  25   do
  26     echo ">>> ${master_ip}"
  27     scp kube-controller-manager.kubeconfig root@${master_ip}:/etc/kubernetes/
  28   done



1.5 創建kube-controller-manager的systemd



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# cat > kube-controller-manager.service.template <<EOF
   4 [Unit]
   5 Description=Kubernetes Controller Manager
   6 Documentation=https://github.com/GoogleCloudPlatform/kubernetes
   7 
   8 [Service]
   9 WorkingDirectory=${K8S_DIR}/kube-controller-manager
  10 ExecStart=/opt/k8s/bin/kube-controller-manager \\
  11   --profiling \\
  12   --cluster-name=kubernetes \\
  13   --controllers=*,bootstrapsigner,tokencleaner \\
  14   --kube-api-qps=1000 \\
  15   --kube-api-burst=2000 \\
  16   --leader-elect \\
  17   --use-service-account-credentials\\
  18   --concurrent-service-syncs=2 \\
  19   --bind-address=##MASTER_IP## \\
  20   --secure-port=10252 \\
  21   --tls-cert-file=/etc/kubernetes/cert/kube-controller-manager.pem \\
  22   --tls-private-key-file=/etc/kubernetes/cert/kube-controller-manager-key.pem \\
  23   --port=0 \\
  24   --authentication-kubeconfig=/etc/kubernetes/kube-controller-manager.kubeconfig \\
  25   --client-ca-file=/etc/kubernetes/cert/ca.pem \\
  26   --requestheader-allowed-names="" \\
  27   --requestheader-client-ca-file=/etc/kubernetes/cert/ca.pem \\
  28   --requestheader-extra-headers-prefix="X-Remote-Extra-" \\
  29   --requestheader-group-headers=X-Remote-Group \\
  30   --requestheader-username-headers=X-Remote-User \\
  31   --authorization-kubeconfig=/etc/kubernetes/kube-controller-manager.kubeconfig \\
  32   --cluster-signing-cert-file=/etc/kubernetes/cert/ca.pem \\
  33   --cluster-signing-key-file=/etc/kubernetes/cert/ca-key.pem \\
  34   --experimental-cluster-signing-duration=8760h \\
  35   --horizontal-pod-autoscaler-sync-period=10s \\
  36   --concurrent-deployment-syncs=10 \\
  37   --concurrent-gc-syncs=30 \\
  38   --node-cidr-mask-size=24 \\
  39   --service-cluster-ip-range=${SERVICE_CIDR} \\
  40   --pod-eviction-timeout=6m \\
  41   --terminated-pod-gc-threshold=10000 \\
  42   --root-ca-file=/etc/kubernetes/cert/ca.pem \\
  43   --service-account-private-key-file=/etc/kubernetes/cert/ca-key.pem \\
  44   --kubeconfig=/etc/kubernetes/kube-controller-manager.kubeconfig \\
  45   --logtostderr=true \\
  46   --v=2
  47 Restart=on-failure
  48 RestartSec=5
  49 
  50 [Install]
  51 WantedBy=multi-user.target
  52 EOF



1.6 分發systemd



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# for (( i=0; i < 3; i++ ))
   4   do
   5     sed -e "s/##MASTER_NAME##/${MASTER_NAMES[i]}/" -e "s/##MASTER_IP##/${MASTER_IPS[i]}/" kube-controller-manager.service.template > kube-controller-manager-${MASTER_IPS[i]}.service
   6   done						#修正相應IP
   7 [root@k8smaster01 work]# ls kube-controller-manager*.service
   8 [root@k8smaster01 ~]# cd /opt/k8s/work
   9 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
  10 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
  11   do
  12     echo ">>> ${master_ip}"
  13     scp kube-controller-manager-${master_ip}.service root@${master_ip}:/etc/systemd/system/kube-controller-manager.service
  14   done						#分發system



二 啟動並驗證



2.1 啟動kube-controller-manager 服務



  1 [root@k8smaster01 ~]# cd /opt/k8s/work
   2 [root@k8smaster01 work]# source /opt/k8s/bin/environment.sh
   3 [root@k8smaster01 work]# for master_ip in ${MASTER_IPS[@]}
   4   do
   5     echo ">>> ${master_ip}"
   6     ssh root@${master_ip} "mkdir -p ${K8S_DIR}/kube-controller-manager"
   7     ssh root@${master_ip} "systemctl daemon-reload && systemctl enable kube-controller-manager && systemctl restart kube-controller-manager"
   8   done



2.2 檢查kube-controller-manager 服務



  1 [root@k8smaster01 ~]# source /opt/k8s/bin/environment.sh
   2 [root@k8smaster01 ~]# for master_ip in ${MASTER_IPS[@]}
   3   do
   4     echo ">>> ${master_ip}"
   5     ssh root@${master_ip} "systemctl status kube-controller-manager|grep Active"
   6   done




2.3 查看輸出的 metrics



  1 [root@k8smaster01 ~]# curl -s --cacert /opt/k8s/work/ca.pem --cert /opt/k8s/work/admin.pem --key /opt/k8s/work/admin-key.pem https://172.24.8.71:10252/metrics |head


注意：以上命令在 kube-controller-manager 節點上執行。

2.4 查看權限



  1 [root@k8smaster01 ~]# kubectl describe clusterrole system:kube-controller-manager



ClusteRole system:kube-controller-manager 的權限很小，只能創建 secret、serviceaccount 等資源對象，各 controller 的權限分散到 ClusterRole system:controller:XXX 中。

當在 kube-controller-manager 的啟動參數中添加 --use-service-account-credentials=true 參數，這樣 main controller 會為各 controller 創建對應的 ServiceAccount XXX-controller。內置的 ClusterRoleBinding system:controller:XXX 將賦予各 XXX-controller ServiceAccount 對應的 ClusterRole system:controller:XXX 權限。 

  1 [root@k8smaster01 ~]# kubectl get clusterrole|grep controller



如deployment controller： 

  1 [root@k8smaster01 ~]# kubectl describe clusterrole system:controller:deployment-controller



2.5 查看當前leader



  1 [root@k8smaster01 ~]# kubectl get endpoints kube-controller-manager --namespace=kube-system  -o yaml



kubelet 認證和授權：https://kubernetes.io/docs/admin/kubelet-authentication-authorization/#kubelet-authorization
本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※台北網頁設計公司這麼多，該如何挑選?? 網頁設計報價省錢懶人包"嚨底家"



※網頁設計公司推薦更多不同的設計風格，搶佔消費者視覺第一線



※想知道購買電動車哪裡補助最多?台中電動車補助資訊懶人包彙整



※南投搬家費用,距離,噸數怎麼算?達人教你簡易估價知識!


Orignal From: 010.Kubernetes二進制部署kube-controller-manager

留言

張貼留言

這個網誌中的熱門文章

掃地機器人可以隨身帶上飛機嗎?我想要拿去送給國外的朋友

掃地機器人如果要隨身戴上飛機需要滿足兩個條件： 一個是掃地機器人連同你的隨身行李，整體的體積和重量要符合上機條件，這個具體每家航空公司都不同，可以諮詢，簡單的說就是隨身行李不要超寬超重。 還有一個就是由於掃地機器人內置了鋰電池，所以內置電池的容量要符合相關規定，每個掃地機器人電池容量都不同，具體自行查詢。 根據民航的相關安全要求，凡帶有鋰電池的電子設備均不可以托運，但符合重量要求，尺寸要求以及電量要求的鋰電池及其設備是可以帶上飛機的。 《鋰電池航空運輸規範》中內含鋰離子電池的設備電池額定能量不應超過100Wh的規定，符合國標GB31241-2014，並通過UN38.3航空運輸認證等國際安全標準，所以可以帶上飛機。但是不能托運，只能隨身攜帶。 掃地機器人     掃地機器人     掃地機器人吸塵器 http://www.greenh3y.com/?p=400 Orignal From: 掃地機器人可以隨身帶上飛機嗎?我想要拿去送給國外的朋友
張貼留言
閱讀完整內容

不滿國際規範斷財路 非洲多國擬退野生動保公約

摘錄自2019年09月01日中央通訊社非洲報導 非洲南部多國揚言退出「瀕臨絕種野生動植物國際貿易公約」，因為公約多數成員拒絕放寬象牙與犀牛角交易，並且幾乎全面禁止將野生捕獲的大象送到動物園。 這個公約嚴格規範全球野生動物交易，包括限制象牙與犀牛角交易。 本週在日內瓦召開修訂「瀕臨絕種野生動植物國際貿易公約」（CITES）的會議期間，由於區域集團非南開發共同體（SADC）的多項提案遭否決，這個集團與公約的關係惡化。 全球大象數量最多的區域波札那、納米比亞與辛巴威要求販售取自自然死亡、充公與汰除的大象象牙，這項提議被居多數的101票否決。 40多年前制訂的CITES規範約3萬6000種動植物交易，並設計有助於遏止非法交易和制裁違規國家的機制。 不過有16個成員國的非南開發共同體部分會員批評CITES對非洲國家的問題視若無睹。 坦尚尼亞環境部長西蒙巴徹恩（George Simbachawene）於日內瓦召開的會議中表示：「結果無法採取進步、公平、包容與基於科學的的保育策略。」 他說：「該是認真重新考慮我們加入CITES是否有任何實質益處的時候了。」 本站聲明:網站內容來源環境資訊中心https://e-info.org.tw/,如有侵權,請聯繫我們,我們將及時處理 【搬家相關資訊指南】 台中搬家 , 彰化搬家 , 南投搬家 前需注意的眉眉角角，別等搬了再說! 避免吃悶虧無故遭抬價! 台中搬家公司 免費估價,有契約讓您安心有保障! 評比 彰化搬家公司費用 , 南投搬家公司費用 收費行情懶人包大公開 彰化搬家費用 , 南投搬家費用 ,距離,噸數怎麼算?達人教你簡易估價知識! Orignal From: 不滿國際規範斷財路 非洲多國擬退野生動保公約
張貼留言
閱讀完整內容

春河劇團《叫我林彩香》 9/16新竹縣政府文化局登場

春河劇團《叫我林彩香》舞台劇訂於9月16日下午在新竹縣政府文化局演藝廳演出。（圖/新竹縣政府提供） 記者蔡孟尚/新竹報導 春河劇團《叫我林彩香》舞台劇訂於9月16日下午在新竹縣政府文化局演藝廳登場，導演也是劇團團長郎祖筠表示，《叫我林彩香！》是公視劇《我的婆婆怎麼那麼可愛》的前傳，劇情回到婆婆年輕時那個經濟起飛的年代，透過母女之間的相處，刻畫台灣女性在社會轉變過程中的角色與地位，「林彩香」是個代名詞，每個自我意識覺醒的女生，都是可敬、可愛的林彩香。 《叫我林彩香》 演員有高玉珊、呂曼茵、鍾瑶、陳漢典、楊小黎、吳怡霈，劇情以以女性視角剖析傳統台灣家庭、社會，除了可以看到當時代人們對於女性角色的刻板印象外，也可以一窺台灣當時的時代樣貌，例如大家族裡的婆婆是如何咄咄逼人、母親一個女人如何隻身照養一大票小孩，而作為一個女人到底又該如何面對整個社會?年輕時期的彩香嚮往外面世界的自由，從女兒成為了母親，又從母親變成了婆婆，彩香的重心似乎又從外界，慢慢的被拉回家庭中，《叫我林彩香！》劇名的由來，是林彩香對著整個世界的一聲吶喊，不管現在是什麼身分，她最希望的便是可以讓自己被所有給認可。 請問 台中電動車 哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店：臺中市潭子區潭秀里雅潭路一段102-1號。 電動車補助 推薦評價好的 iphone維修 中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝 太陽光電 聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。 網頁設計 一頭霧水該從何著手呢? 回頭車 貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念 台中搬家公司 教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」 台中搬家 公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水 露營車 漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製 Google地圖已可更新顯示 潭子電動車 充電站設置地點!!廣告預算用在刀口上， 台北網頁設計 公司幫您達到更多曝光...
張貼留言
閱讀完整內容