Déployer Docker Compose et Swarm sur coreOS

Cet article reprend une partie du post Running an etcd-Backed Docker Swarm Cluster
et de Installing Docker Compose in CoreOS
Le code source complet de cet article se trouve mis en application sur mon fork coreos-vagrant
il fait suite à l’article Docker sur CoreOS par Vagrant

Prérequis

git clone https://github.com/heralight/coreos-vagrant.git
cp config.rb.2.sample   config.rb
cp user-data.2.sample user-data
vagrant up
vagrant ssh core-01

Après un vagrant up, vérifions l’état du cluster etcd.

core@core-01 ~ $ etcdctl cluster-health
member 25d6ce33763c5524 is healthy: got healthy result from http://172.17.8.102:2379
member 6ae27f9fa2984b1d is healthy: got healthy result from http://172.17.8.101:2379
member ff32f4b39b9c47bd is healthy: got healthy result from http://172.17.8.103:2379
cluster is healthy
core@core-01 ~ $ etcdctl member list
25d6ce33763c5524: name=core-02 peerURLs=http://172.17.8.102:2380 clientURLs=http://172.17.8.102:2379 isLeader=false
6ae27f9fa2984b1d: name=core-01 peerURLs=http://172.17.8.101:2380 clientURLs=http://172.17.8.101:2379 isLeader=true
ff32f4b39b9c47bd: name=core-03 peerURLs=http://172.17.8.103:2380 clientURLs=http://172.17.8.103:2379 isLeader=false

Installer Docker Compose

Rapide

Vous retrouverez ce script dans la partie module du projet.
Vous n’avez pas besoins de l’executer à la main si vous utilisez vagrant, dans le fichier config.rb, modifier $vagrant_module_docker_compose à vrai (par défaut).
Ainsi vos instances seront provisionner avec Docker Compose.

En détails

Sur chaque noeud, executer:

curl -L https://github.com/docker/compose/releases/download/1.7.1/docker-compose-`uname -s`-`uname -m` > ~/docker-compose
sudo mkdir -p /opt/bin
sudo mv ~/docker-compose /opt/bin/docker-compose
sudo chown root:root /opt/bin/docker-compose
sudo chmod +x /opt/bin/docker-compose

Vérifions l’installation:

core@core-01 ~ $ whereis docker-compose
docker-compose: /opt/bin/docker-compose

Installer Docker Swarm avec support etcd

Dans l’article précédent, nous avons configurer nos 3 instances avec etcd2 en ip statique.
Nous allons profiter de cette fonctionalité pour configurer Docker Swarm.

Rapide

Vous retrouverez ce script dans la partie module du projet.
Vous n’avez pas besoins de l’executer à la main si vous utilisez vagrant, dans le fichier config.rb, modifier $vagrant_module_docker_swarm à vrai (par défaut).
Ainsi vos instances seront provisionner avec Docker Swarm.

En détails

Ainsi chaque noeud doit s’inscrire à etcd, comme les 3 instances coreos sont synchronizées, nous pouvons executer:

docker run -d swarm join --addr=monip:2375 etcd://monip:2379/swarm

Après cela, vérifions sont bon fonctionnement sur n’importe quel noeud.

core@core-01 ~ $ etcdctl ls /swarm/docker/swarm/nodes
/swarm/docker/swarm/nodes/172.17.8.101:2375
/swarm/docker/swarm/nodes/172.17.8.102:2375
/swarm/docker/swarm/nodes/172.17.8.103:2375

nous avons besoins d’un manager Swarm, par défaut nous prendre core-01.
Comme nous faisons tourner un moteur docker sur toutes nos instances, swarm simulant un moteur docker, nous aurons un conflit.
Pour palier à ce problème, nous allons rediriger le port de Swarm vers 8333.

docker run -d -p 32375:2375 swarm manage etcd://172.17.8.101:2379/swarm

nous pouvons vérifier notre installation:

docker -H tcp://172.17.8.101:32375 info

Docker sur CoreOS par Vagrant

Pourquoi ce tuto ?

  • des billes sur coreOs
  • des billes sur Vagrant
  • de quoi se faire un cloud 3 instances CoreOs avec etcd2 avec partage samba clef en main sur un hôte Microsoft Windows

Introduction

L’utilisation de Docker est fortement influencer par sa plateforme hôte, il peut tourner sur une simple busybox, sur debian / ubuntu, manipuler par Kubernetes ou complétement réécrit comme sur coreos.

J’ai choisi de vous présenter CoreOs pour sa simplicité et son fort potentiel avec fleet, etcd et cette notion cloud « new age »…

Environnement de test

J’ai pour contrainte de faire mes tests sur un Windows Server, donc pour se simplifier la vie, il nous faut un provider de machine virtuelle simple et efficace comme Virtualbox et un gestionnaire comme Vagrant.

Donc prérequis:

  • VirtualBox 5
  • Vagrant 1.8
  • Git
  • des droits d’admin sur votre hôte windows (ou encore mieux linux)

Optionnel mais conseillé si vous êtes sous windows:

  • Chocolatey
  • Console Emulator : choco install conemu
  • Babun : http://babun.github.io/

Pratique

Clone it

récupérer mon fork de CoreOS-vagrant, en plus de l’original, vous aurez:

  • une configuration samba autogénérée sur le répertoire courant
  • la possibilité de configurer un proxy pour votre cloud
  • quelques trucs et astuces préconfigurés pour CoreOS
git clone https://github.com/heralight/coreos-vagrant.git

Initialiser la configuration

P.S.: vagrant à besoins d’internet pour récupérer les images des vms demandées, à minima lors de la première exécution.

copier les ‘*.sample’ vers ‘‘ (.x.sample étant des versions de configuration alternative suivant vos goûts et couleurs)

  • config.rb
    configuration de l’instanciation vagrant coreos, la v2 instancie 3 vm et fonctionne sans internet après le premier lancement

  • sync-folders.yml
    vous permet de paramétrer vos partages entre votre hôte et vos instances, par samba (smb, smb2, rsync, nfs, vboxsf). le sample va créer un utilisateur windows ‘vagrant’, créer un partage pour le répertoire courant assigné à cet utilisateur.

  • user-data
    configuration de l’instance coreos proprement dite. le sample fonctionne sans internet, active etcd2, fleet, flannel et quelques autres tips, le tout pour 3 instances.

Utilisation

Démarrage

vagrant up

La première fois, cette commande va récupérer et provisionner des instances coreos, les paramétrer et les lancer.
Dans le cas où vous utiliseriez samba, l’utilisateur vagrant sera créé, ainsi que le partage.
Des consoles vous demandent d’appliquer des changements au système hôte, c’est normal, vu que l’on crée des utilisateurs, applique des droits et crée des partages.

Cette partie asynchrone peut ne pas s’exécuter dans le bon ordre la première fois, si cela échoue => vagrant halt puis vagrant up

Arrêt

vagrant halt

Connexion ssh

  • si une seule instance
vagrant ssh
  • si plusieurs instances, par exemple la une ‘core-01’
vagrant ssh core-01

Redéploiement du user-data

si vous modifier votre user-data et que vous voulez impacter vos instances actuelles vous pouvez

Méthode 1

reprovisionner vos instances, ce qui aura pour effet de recopier votre user-data :

vagrant provision

puis de forcer pour l’application de ces changements sur chaque instance en executant en ssh root:

coreos-cloudinit --from-file  /var/lib/coreos-vagrant/vagrantfile-user-data
Méthode 2

ou plus simplement :

vagrant  --reapply-user-data up

qui automatise la méthode 1

Trucs et actuces

Ajouter ou modifier les lignes suivantes dans votre user-data.
Si l’instance existe, pensez à réappliquer cette configuration (voir plus haut).

Changer toolbox docker image

Vous préférez un gestionnaire ubuntu pour coreos, pas de souci!

write_files:
- path: "/home/core/.toolboxrc"
  owner: core
  content: |-
    TOOLBOX_DOCKER_IMAGE=ubuntu
    TOOLBOX_DOCKER_TAG=14.04

ajouter un proxy à votre configuration Docker

sous units
  - name: docker.service
    drop-ins:
    - name: 20-http-proxy.conf
      content: |
        [Service]
        Environment="HTTP_PROXY=http://yourproxy:port" "HTTPS_PROXY=http://yourproxy:port" "http-proxy=http://yourproxy:port" "https-proxy=http://yourproxy:port"    "NO_PROXY=localhost,127.0.0.0/8,172.17.0.0/16,.sock,yourproxy,/var/run/docker.sock"
    command: restart

démarrer automatiquement le daemon fleet

sous coreos
  fleet:
    etcd-servers: http://$private_ipv4:2379
    public-ip: "$private_ipv4"
sous units
  - name: fleet.service
    command: start

Add simple flannel

sous coreos
  flannel:
    interface: "$public_ipv4"
sous units
  - name: flanneld.service
    drop-ins:
    - name: 50-network-config.conf
      content: |
        [Service]
        ExecStartPre=/usr/bin/etcdctl set /coreos.com/network/config '{ "Network": "10.1.0.0/16" }'
    command: start
    

configuration etcd pour 3 instances sans discovery internet

Cette configuration etcd fonctionne pour 3 instances sans discovery internet (sans dépendances vers discovery_url), les ips fixes sont données à titre indicatif.
Ceci vous montre indirectement comment vous passer du discovery de « https://discovery.etcd.io »
keyword : howto disable discovery etcd.

dans config.rb

commentez ‘token = open($new_discovery_url).read’

sous units
  - name: etcd.service
    command: start
    content: |
      Description=etcd 2.0
      After=docker.service
      Conflicts=etcd.service

      [Service]
      User=etcd
      Type=notify
      EnvironmentFile=/etc/environment
      TimeoutStartSec=0
      SyslogIdentifier=writer_process
      Environment=ETCD_DATA_DIR=/var/lib/etcd2
      Environment=ETCD_NAME=%m
      ExecStart=/bin/bash -c "/usr/bin/etcd2 \
        -name %H \
        -listen-client-urls http://0.0.0.0:2379 \
        -advertise-client-urls http://$COREOS_PRIVATE_IPV4:2379 \
        -listen-peer-urls http://0.0.0.0:2380 \
        -initial-advertise-peer-urls http://$COREOS_PRIVATE_IPV4:2380 \
        -initial-cluster core-01=http://172.17.8.101:2380,core-02=http://172.17.8.102:2380,core-03=http://172.17.8.103:2380\
        -initial-cluster-state new"
      Restart=always
      RestartSec=10s
      LimitNOFILE=40000
      TimeoutStartSec=0



      [Install]
      WantedBy=multi-user.target

      [X-Fleet]
      Conflicts=etcd*

Pour tester votre configuration etcd connectez-vous en ssh sur 2 instances, déjà vous devriez tester l’état du service etcd:

 systemctl status etcd
status des noeuds etcd
etcdctl cluster-health
écoute de tous les sujets sur un noeud
etcdctl watch /message --forever 
broadcast d’un message à partir d’un autre
etcdctl set /message "Salut CoreOS, jolie com!" 

D’autre exemple etcd sur
Etcd Read Write ref

Have fun !

Trucs et astuces pour Windows server