On parle beaucoup d'IA, mais on ferme les yeux sur les données que vous leur fournissez !
Chaque prompt quitte votre entreprise et peut échapper au cadre des lois qui régissent la Suisse. Pour le moment, nous n'avons pas vraiment le choix. Allons-nous abandonner nos chères IA, et tout le temps qu'elles nous font gagner, parce que nous ne voulons pas que nos données soient partagées ?
Non !
Existe-t-il d'autres solutions pour les PME sans grand investissement ?
Pas encore, mais c'est en bonne voie…
Colibri, la curiosité du moment
Colibri est un projet open source qui a attiré notre attention. Son idée : faire tourner un modèle d'IA géant (744 milliards de paramètres) sur un ordinateur grand public. Il ne charge pas tout en mémoire : il garde l'essentiel sur le disque et ne va chercher que les morceaux utiles, au fur et à mesure. Un exploit d'ingénierie, porté par un développeur indépendant.
Soyons honnêtes : ce n'est pas pour demain
Colibri est lent, de l'ordre de quelques mots par seconde au mieux, et demande une machine solide avec un gros disque. Ce n'est pas une solution à proposer à nos clients aujourd'hui. C'est un projet jeune, à regarder avec curiosité et sans illusion.
Pour les plus geek d'entre vous, voici le repos GitHub
https://github.com/JustVugg/colibri
Big up à Vincenzo Fornaroaka aka JustVugg pour son travail de fou !
Pourquoi on s'y intéresse tout de même ?
Parce que le signal est fort : une IA qui reste dans vos murs devient possible. Chez blackbox, nous pensons qu'avec le contexte actuel, un peu d'intimité dans nos IA deviendra bientôt un must pour les entreprises. Données clients, comptabilité, RH : certaines informations n'ont tout simplement pas leur place dans le cloud public.
Notre prochaine étape
Nous nous tâtons à héberger une version de Colibri en local, chez nous, pour la tester. Pas pour promettre des miracles, mais pour comprendre ce qui est réellement possible, avec quel matériel et pour quels usages. Et, pourquoi pas, imaginer plus tard le lien avec Odoo.
Si on avance dans ce projet annexe, on vous tiendra au courant !
À la semaine prochaine !