Il cervelletto di ogni prodotto.
Desert Ant Labs è un laboratorio di AI on-device. Costruiamo i modelli più veloci per il tuo compito, pensati per girare sui miliardi di dispositivi che le persone già possiedono. Fulminei, privati e senza costo per chiamata. Un cervelletto in ogni prodotto.
Lo strato di intelligenza per le app
Il cervelletto è il piccolo cervello, vicino alla nuca e collegato al tronco encefalico. Un decimo del cervello per dimensione, quattro quinti dei suoi neuroni. Il cervelletto svolge le azioni rapide e le funzioni di controllo: equilibrio, tempismo, coordinazione, le abilità che hai imparato una volta e a cui non pensi più. Nulla in esso ragiona. Il suo valore è la velocità e l'affidabilità, così il resto del cervello è libero di pensare.
Il software migliora con lo stesso strato. I grandi modelli di ragionamento girano nel cloud, e lì può girare anche il lavoro costante: ripulire l'audio, leggere una foto, estrarre dati da un messaggio. Noi partiamo da modelli locali veloci e specializzati: costruiti per un solo compito, competono con l'inferenza cloud su prezzo, velocità e prestazioni. Uniscili al cloud e costruisci prodotti migliori, privati per impostazione predefinita e gratuiti da eseguire. Usa il modello giusto per ogni compito e manda il lavoro al cloud quando serve. È questo lo strato che costruiamo.
C'è più potenza di calcolo disponibile nelle mani delle persone che nei data center
Ogni anno il mondo distribuisce più di un miliardo tra telefoni, tablet e portatili capaci, la maggior parte con un chip costruito esattamente per questo lavoro, già pagato e inattivo quasi tutto il giorno. Fai girare lì il modello e i conti si ribaltano: nessun costo per chiamata, nessun round-trip, e nulla lascia il dispositivo.
Cosa costruiamo
Non il modello più grande, ma il più veloce per il compito. Tanti modelli piccoli, ciascuno messo a punto per un compito e per la velocità, senza costo per chiamata. Integri ogni modello con un SDK nativo per Swift, Kotlin e JavaScript che fa il lavoro pesante, così un modello entra nel tuo prodotto in poche righe di codice. Costruisci qualcosa di unico più in fretta, e ciò che prima erano API costose e settimane di lavoro diventa un mattoncino flessibile.
- Specializzati
- Modelli specializzati per il loro compito, ottimizzati per i telefoni e per il calcolo su desktop.
- Velocità fulminea
- Abbastanza veloci per ogni interazione, ogni battitura e ogni fotogramma, senza costo per chiamata.
- Dati puliti
- Addestrati su dati con licenza e liberamente disponibili, così ogni modello si può usare in ambito commerciale, senza esposizione legale.
Partiamo dal prodotto
Partiamo dal prodotto e progettiamo i nostri modelli per offrire la migliore esperienza all'utente finale. Un modello è mille decisioni di prodotto: da cosa impara, la forma dei suoi input e output, dove baratta accuratezza per velocità. Prendiamo quelle decisioni come progettiamo qualsiasi cosa che le persone toccano, forti di anni passati a pubblicare app consumer.
Nel prossimo decennio una parte più grande dell'interfaccia sarà costruita da più persone, e il modello smetterà di essere un dettaglio dietro il prodotto. I modelli con sensibilità di prodotto, pronti da integrare, sono quelli su cui quei prodotti gireranno.
Pubblici, e gratis per iniziare
Ogni modello e i suoi benchmark sono pubblici su Hugging Face, l'SDK su GitHub. Gratuito fino a 100k dispositivi attivi mensili per SDK. Stai costruendo qualcosa con loro, o vuoi costruirli con noi? Scrivici.