Le cervelet de chaque produit.
Desert Ant Labs est un laboratoire d'IA embarquée. Nous construisons les modèles les plus rapides pour votre tâche, conçus pour tourner sur les milliards d'appareils que les gens possèdent déjà. Rapides, privés, sans coût par appel. Un cervelet dans chaque produit.
La couche d'intelligence des applications
Le cervelet est le petit cerveau, situé près de la nuque et relié au tronc cérébral. Un dixième du cerveau par la taille, quatre cinquièmes de ses neurones. Le cervelet gère les actions rapides et les fonctions de contrôle : l'équilibre, le rythme, la coordination, les gestes appris une fois et jamais reconsidérés. Rien en lui ne raisonne. Sa valeur, c'est la vitesse et la fiabilité, pour que le reste du cerveau soit libre de penser.
Les logiciels s'améliorent avec la même couche. Les grands modèles de raisonnement tournent dans le cloud, et le travail de fond peut y tourner aussi : nettoyer un son, lire une photo, extraire des données d'un message. Nous commençons par des modèles locaux rapides et spécialisés : conçus pour une seule tâche, ils rivalisent avec l'inférence cloud sur le prix, la vitesse et la performance. Combinez-les avec le cloud et vous construisez de meilleurs produits, privés par défaut et gratuits à faire tourner. Utilisez le bon modèle pour chaque tâche, et envoyez le travail au cloud quand c'est nécessaire. Cette couche, c'est ce que nous construisons.
Il y a plus de puissance de calcul dans les poches des gens que dans les data centers
Le monde livre plus d'un milliard de téléphones, tablettes et ordinateurs portables performants par an, la plupart avec une puce conçue exactement pour ce travail, déjà payée et inactive une bonne partie de la journée. Faites tourner le modèle là, et l'équation économique s'inverse : pas de coût par appel, pas d'aller-retour, et rien ne quitte l'appareil.
Ce que nous construisons
Pas le plus gros modèle, le plus rapide pour la tâche. Beaucoup de petits modèles, chacun réglé pour une seule tâche et pour la vitesse, sans coût par appel. Chacun est livré avec un SDK natif pour Swift, Kotlin et JavaScript qui fait le gros du travail, pour qu'un modèle s'intègre à votre produit en quelques lignes de code. Vous construisez plus vite quelque chose d'unique, et ce qui était un produit entier à acheter devient une brique.
- Spécialisés
- Des modèles spécialisés pour leur tâche, optimisés pour les téléphones et le calcul de bureau.
- Ultra-rapide
- Assez rapide pour chaque interaction, chaque frappe et chaque image, sans coût par appel.
- Données propres
- Entraînés sur des données sous licence et librement disponibles, pour que chaque modèle puisse être utilisé commercialement, sans risque juridique.
Nous partons du produit
Nous partons du produit et concevons nos modèles pour la meilleure expérience possible pour l'utilisateur final. Un modèle, c'est mille décisions produit : ce qu'il apprend, la forme de ses entrées et de ses sorties, où il échange de la précision contre de la vitesse. Nous prenons ces décisions comme nous concevons tout ce que les gens touchent, fort de nos années à livrer des applications grand public.
Au cours de la prochaine décennie, une plus grande part de l'interface sera bâtie par plus de gens, et le modèle cessera d'être un détail derrière le produit. Les modèles qui ont le sens du produit, prêts à l'emploi, sont ceux sur lesquels ces produits tourneront.
Public, et gratuit pour commencer
Chaque modèle et ses benchmarks sont publics sur Hugging Face, le SDK sur GitHub. Gratuit jusqu'à 100k appareils actifs mensuels par SDK. Vous construisez quelque chose avec eux, ou vous voulez les construire avec nous ? Écrivez-nous.