O cerebelo de cada produto.
A Desert Ant Labs é um laboratório de IA no dispositivo. Construímos os modelos mais rápidos para a sua tarefa, feitos para rodar nos bilhões de dispositivos que as pessoas já têm. Rápidos como um raio, privados e sem custo por chamada. Um cerebelo em cada produto.
A camada de inteligência dos apps
O cerebelo é o pequeno cérebro, situado perto da nuca e ligado ao tronco encefálico. Um décimo do cérebro em tamanho, quatro quintos dos seus neurônios. O cerebelo cuida das ações rápidas e das funções de controle: equilíbrio, sincronia, coordenação, as habilidades que você aprendeu uma vez e nunca mais pensa nelas. Nada nele raciocina. O seu valor é velocidade e confiabilidade, para que o resto do cérebro fique livre para pensar.
O software melhora com a mesma camada. Os grandes modelos de raciocínio rodam na nuvem, e o trabalho constante também pode rodar lá: limpar áudio, ler uma foto, extrair dados de uma mensagem. Começamos por modelos locais rápidos e especializados: feitos para uma única tarefa, eles competem com a inferência na nuvem em preço, velocidade e desempenho. Combine-os com a nuvem e você constrói produtos melhores, privados por padrão e livres para rodar. Use o modelo certo para cada tarefa e mande o trabalho para a nuvem quando precisar. É essa camada que construímos.
Há mais poder de computação nos bolsos das pessoas do que nos data centers
O mundo despacha mais de um bilhão de celulares, tablets e notebooks capazes por ano, a maioria com um chip feito exatamente para esse trabalho, já pago e ocioso a maior parte do dia. Rode o modelo ali e a economia se inverte: sem custo por chamada, sem ida e volta, e nada sai do dispositivo.
O que construímos
Não o maior modelo, o mais rápido para a tarefa. Muitos modelos pequenos, cada um ajustado para uma tarefa e para a velocidade, sem custo por chamada. Cada um vem com um SDK nativo para Swift, Kotlin e JavaScript que faz o trabalho pesado, então um modelo entra no seu produto em poucas linhas de código. Você constrói algo único mais rápido, e o que antes era um produto inteiro a comprar vira um bloco de construção.
- Especializados
- Modelos especializados na sua tarefa, otimizados para celulares e computação em desktop.
- Rápidos como um raio
- Rápidos o bastante para cada interação, cada tecla e cada quadro, sem custo por chamada.
- Dados limpos
- Treinados com dados licenciados e disponíveis abertamente, então cada modelo pode ser usado comercialmente, sem exposição.
Começamos pelo produto
Começamos pelo produto e projetamos nossos modelos para a melhor experiência do usuário final. Um modelo é mil decisões de produto: com o que ele aprende, o formato das suas entradas e saídas, onde ele troca acurácia por velocidade. Tomamos essas decisões do mesmo jeito que projetamos qualquer coisa que as pessoas usam, com anos lançando apps de consumo.
Na próxima década, mais gente vai construir mais partes da interface, e o modelo deixa de ser um detalhe por trás do produto. Os modelos com bom senso de produto, prontos para entrar, são aqueles em que esses produtos vão rodar.
Público, e gratuito para começar
Cada modelo e os seus benchmarks estão públicos no Hugging Face, o SDK no GitHub. Gratuito para até 100 mil dispositivos ativos mensais por SDK. Construindo algo com eles, ou quer construí-los com a gente? Escreva para a gente.