O cerebelo de cada produto.
A Desert Ant Labs é um laboratório de IA no dispositivo. Construímos os modelos mais rápidos para a sua tarefa, feitos para correr nos milhares de milhões de dispositivos que as pessoas já têm. Rápidos como um raio, privados e sem custo por chamada. Um cerebelo em cada produto.
A camada de inteligência dos apps
O cerebelo é o pequeno cérebro, situado perto da nuca e ligado ao tronco encefálico. Um décimo do cérebro em tamanho, quatro quintos dos seus neurónios. O cerebelo cuida das ações rápidas e das funções de controlo: equilíbrio, sincronia, coordenação, as habilidades que aprendeu uma vez e nunca mais pensa nelas. Nada nele raciocina. O seu valor é velocidade e fiabilidade, para que o resto do cérebro fique livre para pensar.
O software melhora com a mesma camada. Os grandes modelos de raciocínio correm na nuvem, e o trabalho constante também pode correr lá: limpar áudio, ler uma foto, extrair dados de uma mensagem. Começamos por modelos locais rápidos e especializados: feitos para uma única tarefa, eles competem com a inferência na nuvem em preço, velocidade e desempenho. Combine-os com a nuvem e constrói produtos melhores, privados por predefinição e livres para correr. Use o modelo certo para cada tarefa e mande o trabalho para a nuvem quando precisar. É essa camada que construímos.
Há mais poder de computação nos bolsos das pessoas do que nos data centers
O mundo despacha mais de mil milhões de telemóveis, tablets e portáteis capazes por ano, a maioria com um chip feito exatamente para esse trabalho, já pago e ocioso a maior parte do dia. Execute o modelo ali e a economia inverte-se: sem custo por chamada, sem ida e volta, e nada sai do dispositivo.
O que construímos
Não o maior modelo, o mais rápido para a tarefa. Muitos modelos pequenos, cada um ajustado para uma tarefa e para a velocidade, sem custo por chamada. Cada um vem com um SDK nativo para Swift, Kotlin e JavaScript que faz o trabalho pesado, então um modelo entra no seu produto em poucas linhas de código. Você constrói algo único mais rápido, e o que antes era um produto inteiro a comprar vira um bloco de construção.
- Especializados
- Modelos especializados na sua tarefa, otimizados para telemóveis e computação em desktop.
- Rápidos como um raio
- Rápidos o bastante para cada interação, cada tecla e cada fotograma, sem custo por chamada.
- Dados limpos
- Treinados com dados licenciados e disponíveis abertamente, pelo que cada modelo pode ser usado comercialmente, sem exposição.
Começamos pelo produto
Começamos pelo produto e desenhamos os nossos modelos para a melhor experiência do utilizador final. Um modelo é mil decisões de produto: com o que aprende, o formato das suas entradas e saídas, onde troca exatidão por velocidade. Tomamos essas decisões da mesma forma que projetamos qualquer coisa que as pessoas usam, com anos a lançar apps de consumo.
Na próxima década, mais gente vai construir mais partes da interface, e o modelo deixa de ser um detalhe por trás do produto. Os modelos com bom senso de produto, prontos para entrar, são aqueles em que esses produtos vão correr.
Público, e gratuito para começar
Cada modelo e os seus benchmarks estão públicos no Hugging Face, o SDK no GitHub. Gratuito para até 100 mil dispositivos ativos mensais por SDK. A construir algo com eles, ou quer construí-los connosco? Escreva-nos.