연합 학습
federated learning전문다른 이름: Federated Learning, 페더레이티드 러닝, FL, 연합학습, 분산 연합 학습
뜻풀이
쉬운 AI 사전
- [명사] (학습) 데이터를 한곳에 모으지 않고 각자의 기기에서 학습한 결과만 모아서 하나의 모델을 만드는 방법.
실무 AI 사전
- [명사] (학습) 병원이나 은행처럼 민감한 정보를 밖으로 내보내기 어려운 조직들이 함께 모델을 만들 때 쓴다. 휴대폰 키보드 추천처럼 사용자 기기에서 학습하는 경우도 있다. 기기마다 데이터 분포가 달라 성능이 흔들리고 통신 비용이 든다.
전문 AI 사전
- [명사] (학습) 중앙 서버가 전역 모델을 배포하고 각 클라이언트가 로컬 데이터로 학습한 뒤 가중치나 기울기 업데이트만 서버로 보내 집계하는 분산 학습 방식이다. FedAvg가 대표적 알고리즘이며, 업데이트에서 정보가 새지 않도록 차등 프라이버시나 안전한 집계를 함께 쓴다. 클라이언트 간 데이터 분포 차이(비 IID)가 핵심 난제다.
관용구/함께 쓰는 말
- FedAvg - 각 기기에서 학습한 가중치를 서버에서 평균내어 합치는 연합 학습의 기본 알고리즘.
- 비 IID 데이터 - 기기마다 데이터 분포가 달라 한쪽으로 쏠린 상태.
쉬운 비유
학생들이 각자 집에서 공부한 풀이 요령만 선생님께 보내고, 선생님이 요령을 모아 정리본을 다시 나눠 주는 것과 같다. 시험지는 집 밖으로 나가지 않는다.
예문
- 여러 병원이 환자 기록을 공유하지 않고 연합 학습으로 진단 모델을 같이 만들었다.
- 스마트폰 자동완성 모델은 기기에서 학습한 변화분만 서버로 보내 연합 학습한다.
- 연합 학습은 데이터가 이동하지 않아도 업데이트에서 정보가 새지 않는지 따로 점검해야 한다.
헷갈리는 용어 비교
- 분산 학습
- 분산 학습은 속도를 위해 여러 장치에 연산을 나누는 방식이고 데이터를 한곳에서 나눠 주기도 한다. 연합 학습은 프라이버시 때문에 데이터가 각자 자리에 머무르는 것이 전제다.
맞춤법/표기법
- 바른 표기
- 연합 학습
- 주의할 표기
- 연합 러닝
- 원어
- federated learning
- 다른 이름
- Federated Learning, 페더레이티드 러닝, FL, 연합학습, 분산 연합 학습
- 참고
- '페더레이티드 러닝'으로 읽기도 하며, 여러 주체가 연합한다는 뜻이다.