온디바이스 AI
on-device AI실무다른 이름: 엣지 AI, 단말 AI
뜻풀이
쉬운 AI 사전
- 「명사」 『인프라』 인터넷 서버에 보내지 않고 스마트폰, 노트북 안에서 바로 돌아가는 AI. 빠르고 개인정보가 밖으로 나가지 않는다.
실무 AI 사전
- 「명사」 『인프라』 경량화, 양자화된 모델을 단말의 NPU, GPU에서 실행하는 방식. 갤럭시 AI, 애플 인텔리전스가 대표 사례이며 지연, 비용, 프라이버시 면에서 유리하다.
쉬운 비유
번역 앱이 인터넷 사전을 찾아보지 않고 내 폰에 들어 있는 사전으로 바로 번역해 주는 것과 같다. 멀리 보낼 필요가 없으니 빠르고 내용이 밖으로 나가지 않는다.
예문
- 온디바이스 AI라서 비행기 모드에서도 통역이 된다.
- 온디바이스 AI 덕분에 통신이 안 되는 산속에서도 사진 속 식물 이름을 알아낼 수 있다.
헷갈리는 용어 비교
- sLLM
- 온디바이스 AI는 AI를 어디서 돌리느냐, 즉 기기 안에서 실행한다는 방식의 이름이다. sLLM은 크기가 작은 언어 모델이라는 모델의 종류로, 온디바이스에 올리기 알맞아 자주 함께 쓰인다.
- 엣지 컴퓨팅
- 엣지 컴퓨팅은 데이터가 생기는 곳 가까이에서 처리하는 폭넓은 방식이고, 온디바이스 AI는 그중 사용자의 기기 안에서 AI를 직접 실행하는 경우를 말한다. 기지국이나 공장 서버에서 처리하는 것은 엣지지만 온디바이스는 아니다.
맞춤법/표기법
- 바른 표기
- 온디바이스 AI
- 주의할 표기
- 온 디바이스 AI
- 원어
- on-device AI
- 다른 이름
- 엣지 AI, 단말 AI
관련어
마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.