모든 제품을 위한 소뇌.
Desert Ant Labs는 온디바이스 AI 랩입니다. 사람들이 이미 가진 수십억 대의 기기에서 돌아가도록 설계된, 당신의 작업에 가장 빠른 모델을 만듭니다. 번개처럼 빠르고, 프라이빗하며, 호출당 비용이 없습니다. 모든 제품에 작은 뇌를.
앱을 위한 지능 계층
소뇌는 말 그대로 작은 뇌로, 목 근처에 있으며 뇌간과 이어져 있습니다. 크기로는 뇌의 10분의 1이지만, 뉴런의 5분의 4가 여기에 있습니다. 소뇌는 빠른 동작과 제어 기능을 담당합니다. 균형, 타이밍, 협응, 한 번 익히고 나면 다시 생각하지 않는 기술들. 그 안에서 추론하는 것은 없습니다. 소뇌의 가치는 속도와 신뢰성이며, 덕분에 뇌의 나머지는 생각에 집중할 수 있습니다.
소프트웨어도 같은 계층으로 더 나아집니다. 큰 추론 모델은 클라우드에서 돌아가고, 늘 반복되는 작업도 거기서 돌 수 있습니다. 오디오를 정리하고, 사진을 읽고, 메시지에서 데이터를 뽑아내는 일. 우리는 빠르고 특화된 로컬 모델에서 출발합니다. 한 가지 일을 위해 만들어져, 가격과 속도, 성능에서 클라우드 추론과 겨룹니다. 이를 클라우드와 결합하면 기본적으로 프라이빗하고 실행이 무료인 더 나은 제품을 만들 수 있습니다. 각 작업에 맞는 모델을 쓰고, 필요할 때 클라우드로 일을 넘기세요. 우리가 만드는 것이 바로 그 계층입니다.
데이터 센터보다 사람들의 주머니 속에 더 많은 연산 성능이 있습니다
세상은 해마다 10억 대가 넘는 성능 좋은 휴대폰, 태블릿, 노트북을 출하하며, 대부분 바로 이 작업을 위해 만들어진 칩을 품고 있습니다. 이미 값을 치렀고, 하루 대부분은 놀고 있는 칩입니다. 모델을 거기서 돌리면 경제 논리가 뒤집힙니다. 호출당 비용도, 왕복도 없고, 어떤 것도 기기를 벗어나지 않습니다.
우리가 만드는 것
가장 큰 모델이 아니라, 그 작업에 가장 빠른 모델. 각각 하나의 작업과 속도에 맞춰 조율된 여러 개의 소형 모델이며, 호출당 비용이 없습니다. 각 모델에는 무거운 일을 대신 처리하는 Swift, Kotlin, JavaScript용 네이티브 SDK가 함께 제공되어, 몇 줄의 코드로 제품에 들어갑니다. 더 빨리 남다른 것을 만들 수 있고, 예전에는 통째로 사야 했던 제품이 하나의 빌딩 블록이 됩니다.
- 작업에 특화
- 각자의 작업에 특화되어, 휴대폰과 데스크톱 연산에 최적화된 모델입니다.
- 번개처럼 빠르게
- 모든 상호작용, 모든 입력, 모든 프레임에 충분히 빠르며, 호출당 비용이 없습니다.
- 깨끗한 데이터
- 라이선스가 확보되었거나 공개된 데이터로 학습해, 모든 모델을 저작권 부담 없이 상업적으로 사용할 수 있습니다.
우리는 제품에서 출발합니다
우리는 제품을 앞세우고, 최고의 사용자 경험을 위해 모델을 설계합니다. 하나의 모델은 수천 가지 제품 결정입니다. 무엇에서 배우는지, 입력과 출력의 형태, 어디서 정확도를 속도와 맞바꾸는지. 우리는 사람들이 손대는 모든 것을 설계하듯 그 결정들을 내립니다. 소비자용 앱을 여러 해 동안 출시해 온 경험에서 나온 방식입니다.
앞으로 10년 동안 더 많은 사람이 더 많은 인터페이스를 만들게 되고, 모델은 더 이상 제품 뒤에 숨은 세부가 아니게 됩니다. 제품에 대한 감각을 갖추고 바로 넣을 수 있는 모델, 그런 제품들이 돌아갈 모델이 바로 그것입니다.
공개되어 있고, 시작은 무료
Hugging Face에 모든 모델과 벤치마크가 공개되어 있고, SDK는 GitHub에 있습니다. SDK당 월간 활성 기기 10만 대까지 무료입니다. 이것으로 무언가 만들고 있거나, 함께 만들고 싶으신가요? 문의하기.