De kleine hersenen voor elk product.
Desert Ant Labs is een on-device AI-lab. We bouwen de snelste modellen voor je taak, gemaakt om te draaien op de miljarden apparaten die mensen al bezitten. Razendsnel, privé en zonder kosten per aanroep. Kleine hersenen in elk product.
De intelligentielaag voor apps
De kleine hersenen, ook wel het kleine brein genoemd, zitten dicht bij onze nek en zijn verbonden met de hersenstam. Een tiende van de hersenen qua omvang, vier vijfde van alle neuronen. De kleine hersenen doen de snelle acties en de controlefuncties: evenwicht, timing, coördinatie, de vaardigheden die je ooit leerde en waar je nooit meer bij nadenkt. Er wordt niets in geredeneerd. De waarde ervan is snelheid en betrouwbaarheid, zodat de rest van de hersenen vrij is om te denken.
Software wordt beter met diezelfde laag. De grote redeneermodellen draaien in de cloud, en het doorlopende werk kan daar ook draaien: audio opschonen, een foto lezen, gegevens uit een bericht halen. Wij beginnen met snelle, gespecialiseerde lokale modellen: gebouwd voor één taak, concurreren ze met cloud-inference op prijs, snelheid en prestaties. Combineer ze met de cloud en je bouwt betere producten, standaard privé en gratis te draaien. Gebruik het juiste model voor elke taak, en stuur werk naar de cloud wanneer dat nodig is. Die laag is wat wij bouwen.
Er zit meer rekenkracht in de zakken van mensen dan in de datacenters
De wereld levert meer dan een miljard capabele telefoons, tablets en laptops per jaar, de meeste met een chip die precies voor dit werk is gebouwd, betaald en het grootste deel van de dag inactief. Draai het model daar en het kostenplaatje kantelt: geen kosten per aanroep, geen round-trip, en er verlaat niets het apparaat.
Wat we bouwen
Niet het grootste model, maar het snelste voor de klus. Veel kleine modellen, elk afgestemd op één taak en op snelheid, zonder kosten per aanroep. Elk komt met een native SDK voor Swift, Kotlin en JavaScript die het zware werk doet, zodat je een model met een paar regels code in je product zet. Je bouwt sneller iets unieks, en wat vroeger een heel product was om te kopen, wordt een bouwsteen.
- Gespecialiseerd
- Modellen die gespecialiseerd zijn in hun taak, geoptimaliseerd voor telefoons en desktop-rekenkracht.
- Razendsnel
- Snel genoeg voor elke interactie, elke toetsaanslag en elk frame, zonder kosten per aanroep.
- Schone data
- Getraind op gelicentieerde en openbaar beschikbare data, zodat elk model commercieel gebruikt kan worden, zonder juridisch risico.
We beginnen bij het product
We stellen het product voorop en ontwerpen onze modellen voor de beste ervaring voor de eindgebruiker. Een model is duizend productbeslissingen: waar het van leert, de vorm van zijn invoer en uitvoer, waar het nauwkeurigheid inruilt voor snelheid. Die keuzes maken we zoals we alles ontwerpen wat mensen gebruiken, gevormd door jaren waarin we consumentenapps uitbrachten.
In het komende decennium wordt meer van de interface door meer mensen gebouwd, en is het model niet langer een detail achter het product. De modellen met productgevoel, kant-en-klaar om in te bouwen, zijn degene waarop die producten zullen draaien.
Openbaar, en gratis om te starten
Elk model en zijn benchmarks staan openbaar op Hugging Face, de SDK op GitHub. Gratis voor maximaal 100k maandelijks actieve apparaten per SDK. Bouw je er iets mee, of wil je ze met ons bouwen? Schrijf ons.