Il cervelletto di ogni prodotto.
Desert Ant Labs è un laboratorio di AI on-device. Costruiamo i modelli più veloci per il tuo compito, pensati per girare sui miliardi di dispositivi che le persone già possiedono. Fulminei, privati e senza costo per chiamata. Un cervelletto in ogni prodotto.
Lo strato di intelligenza per le app
Il cervelletto è il piccolo cervello, vicino alla nuca e collegato al tronco encefalico. Un decimo del cervello per dimensione, quattro quinti dei suoi neuroni. Il cervelletto svolge le azioni rapide e le funzioni di controllo: equilibrio, tempismo, coordinazione, le abilità che hai imparato una volta e a cui non pensi più. Nulla in esso ragiona. Il suo valore è la velocità e l'affidabilità, così il resto del cervello è libero di pensare.
Il software migliora con lo stesso strato. I grandi modelli di ragionamento girano nel cloud, e lì può girare anche il lavoro costante: ripulire l'audio, leggere una foto, estrarre dati da un messaggio. Noi partiamo da modelli locali veloci e specializzati: costruiti per un solo compito, competono con l'inferenza cloud su prezzo, velocità e prestazioni. Uniscili al cloud e costruisci prodotti migliori, privati per impostazione predefinita e gratuiti da eseguire. Usa il modello giusto per ogni compito e manda il lavoro al cloud quando serve. È questo lo strato che costruiamo.
C'è più potenza di calcolo nelle tasche delle persone che nei data center
Ogni anno il mondo distribuisce più di un miliardo tra telefoni, tablet e portatili capaci, la maggior parte con un chip costruito esattamente per questo lavoro, già pagato e inattivo quasi tutto il giorno. Fai girare lì il modello e i conti si ribaltano: nessun costo per chiamata, nessun round-trip, e nulla lascia il dispositivo.
Cosa costruiamo
Non il modello più grande, ma il più veloce per il compito. Tanti modelli piccoli, ciascuno messo a punto per un compito e per la velocità, senza costo per chiamata. Ognuno arriva con un SDK nativo per Swift, Kotlin e JavaScript che fa il lavoro pesante, così un modello si integra nel tuo prodotto in poche righe di codice. Costruisci qualcosa di unico più in fretta, e ciò che prima era un intero prodotto da comprare diventa un mattoncino da comporre.
- Specializzati
- Modelli specializzati per il loro compito, ottimizzati per i telefoni e per il calcolo su desktop.
- Velocità fulminea
- Abbastanza veloci per ogni interazione, ogni battitura e ogni fotogramma, senza costo per chiamata.
- Dati puliti
- Addestrati su dati con licenza e liberamente disponibili, così ogni modello si può usare in ambito commerciale, senza esposizione legale.
Partiamo dal prodotto
Partiamo dal prodotto e progettiamo i nostri modelli per offrire la migliore esperienza all'utente finale. Un modello è mille decisioni di prodotto: da cosa impara, la forma dei suoi input e output, dove baratta accuratezza per velocità. Prendiamo quelle decisioni come progettiamo qualsiasi cosa che le persone toccano, forti di anni passati a pubblicare app consumer.
Nel prossimo decennio una parte più grande dell'interfaccia sarà costruita da più persone, e il modello smetterà di essere un dettaglio dietro il prodotto. I modelli con sensibilità di prodotto, pronti da integrare, sono quelli su cui quei prodotti gireranno.
Pubblici, e gratis per iniziare
Ogni modello e i suoi benchmark sono pubblici su Hugging Face, l'SDK su GitHub. Gratuito fino a 100k dispositivi attivi mensili per SDK. Stai costruendo qualcosa con loro, o vuoi costruirli con noi? Scrivici.