Lancer une startup pour 15 € par mois

Ce montant couvre toute la partie publique d’une startup d’IA. Trois décisions le gardent aussi bas : l’inférence sur l’appareil de l’utilisateur, SQLite au lieu d’une base de données managée, et des déploiements sans second serveur permanent.

Ce qui tourne sur un VPS de 2 Go

Un seul serveur Caddy termine le TLS de chaque nom d’hôte et relaie chacun vers un processus de la même machine. Chaque service garde son état dans son propre fichier SQLite : pas de serveur de base de données à faire tourner ni à payer.

La facture mensuelle, ligne par ligne

« Un petit VPS », ce sont trois lignes, et l’adresse IP coûte plus de la moitié du prix de la machine. Scaleway facture une IPv4 flexible à l’heure, attachée ou non.

Pourquoi la facture ne grandit pas avec les utilisateurs : le modèle tourne sur leur appareil

Klar classe le courrier sur l’appareil de l’utilisateur, donc un nouvel utilisateur n’ajoute rien à notre serveur ni à notre facture. Le modèle est un fichier de quelques centaines de Mo dans l’app Mac, l’App Store se charge de ce téléchargement, et notre serveur ne voit jamais les messages des utilisateurs.

Un modèle transformer dans 2 Go de RAM

La démo de la page d’accueil fait tourner un modèle Klar dans le processus Node du site, et ce processus ne swappe pas. La moitié de sa mémoire est le fichier du modèle, mappé depuis le disque : le noyau peut la libérer et la relire en cas de pression.

SQLite et Litestream plutôt qu’une base de données managée

Chaque base est un fichier, et Litestream envoie chaque modification vers Object Storage : si la machine tombe, nous perdons au plus une minute d’écritures en base environ. Chaque base est aussi archivée tous les mois et gardée un an. Le coffre de mots de passe, une base plus des fichiers, a un instantané btrfs toutes les 15 minutes.

Des déploiements sans second serveur permanent

Une reconstruction crée un second VPS pour quelques minutes, le restaure depuis Object Storage, puis lui transfère l’adresse IP. C’est pour ça que l’IPv4 est flexible : l’adresse survit à la machine. La bascule se voit comme une coupure d’environ une seconde, et l’ancienne machine est détruite juste après.

Là où une seule machine atteint ses limites

• SQLite avec Litestream n’accepte qu’un seul processus en écriture, donc il n’y a qu’un nœud actif.
• 2 Go, c’est le plafond pour l’instant. L’étape suivante, un DEV1-M de 4 Go à 14,74 €, fait plus que doubler la ligne de calcul.
• Une seule machine, c’est un seul point de panne : un incident d’hyperviseur coûte quelques minutes d’arrêt, le temps de restaurer.

Commencez avec une seule machine

Mettez tout sur un petit VPS jusqu’à ce qu’une mesure dise le contraire. L’app Mac gratuite de Klar est le côté modèle de tout ceci : elle trie Apple Mail sur votre Mac, et rien de ce qu’elle lit n’atteint le serveur décrit plus haut.

Tous les articles