맘바
Mamba전문다른 이름: Mamba, 맘바 모델, Mamba 모델, 선택적 상태 공간 모델
뜻풀이
쉬운 AI 사전
- [명사] (모델) 트랜스포머와 다른 방식으로 긴 글을 효율적으로 처리하려는 상태 공간 모델 계열의 구조. 중요한 내용만 골라 기억하며 읽는다.
실무 AI 사전
- [명사] (모델) 긴 시퀀스에서 속도와 메모리가 장점이라 트랜스포머를 대체하거나 섞는 연구와 제품 실험에 쓰인다. 모든 과제에서 트랜스포머를 넘지는 못해 하이브리드 형태가 많다.
전문 AI 사전
- [명사] (모델) 입력에 따라 상태 갱신 매개변수가 달라지는 선택적 SSM을 하드웨어 친화적인 스캔으로 구현했다. 2023년 Gu와 Dao가 제안했다. 어텐션 없이도 선형 시간에 긴 문맥을 처리하는 것이 핵심이다.
관용구/함께 쓰는 말
- 선택적 스캔 - 입력에 따라 기억을 고르는 계산 방식.
- 하이브리드 - 두 구조를 함께 쓰는 설계.
쉬운 비유
책을 읽으면서 중요한 사건만 메모해 두고 나머지는 흘려보내는 속독가와 비슷하다.
예문
- 맘바는 트랜스포머보다 긴 입력을 싸게 읽을 수 있다는 점이 주목받았다.
- 트랜스포머 층 몇 개와 맘바 층을 섞은 하이브리드 모델이 나왔다.
헷갈리는 용어 비교
- 트랜스포머
- 트랜스포머는 이전 토큰 전부를 참조해 비용이 크고, 맘바는 압축 상태를 이용해 싸다. 대신 정확한 회상에는 약할 수 있다.
맞춤법/표기법
- 바른 표기
- 맘바
- 주의할 표기
- Mamba 구조
- 원어
- mamba
- 다른 이름
- Mamba, 맘바 모델, Mamba 모델, 선택적 상태 공간 모델
- 참고
- 영어 표기는 'Mamba'이며 한국어 표기는 '맘바'이다.