애플 자회사 클라리스, Mac을 로컬 AI 서버로 쓰는 ‘Harbor’ 테스트

애플 자회사 클라리스(Claris)가 Apple Silicon Mac에서 AI 모델을 로컬로 실행하는 앱 ‘Harbor’를 비공개 테스트 중인 것으로 보도됐다. Mac 한 대에서 모델을 실행하거나, Thunderbolt 5로 여러 대를 연결해 더 큰 모델을 구동하는 방식이다.

Mac 한 대에서 여러 대까지, 로컬 AI 모델 실행

에런 페리스(Aaron Perris)가 X에 공유한 화면에는 실행할 모델을 선택하는 메뉴와, 같은 앱에서 프롬프트를 입력해 응답을 확인하는 테스트 채팅이 나온다.

보도에 따르면 Harbor에서는 가중치가 공개된 AI 모델을 앱 안에서 찾아 내려받고 실행할 수 있다. 모델을 처음 내려받는 과정과 달리, 내려받은 모델로 답변을 생성하는 추론은 Mac에서 처리된다. AI 서비스의 서버로 요청을 전송해 답변을 받는 방식과 다른 점이다.

공개된 다운로드 화면에는 Hugging Face에서 gpt-oss-20b 모델 파일을 내려받는 과정이 표시된다. 다운로드 창에서 진행률과 저장 위치를 확인할 수 있다.

Thunderbolt 5로 여러 Mac의 메모리 활용

Mac 한 대로 사용할 때는 해당 기기의 메모리 안에서 모델을 실행한다. Thunderbolt 5를 지원하는 Mac을 두 대 이상 연결하면 Harbor가 연결된 기기를 감지하고, 각 Mac의 통합 메모리를 함께 활용해 추론 작업을 처리한다. 한 대의 메모리에 올리기 어려운 모델을 실행하거나 여러 요청을 동시에 처리하는 데 쓰이는 구성이다.

여러 대를 연결하는 기능은 Thunderbolt 5 지원이 전제지만, Mac 한 대에서 모델을 실행하는 데 다른 Mac을 연결할 필요는 없다. 단일 Mac에서 Ollama로 모델을 실행하는 경우와 비교하면, Harbor는 모델 다운로드와 실행뿐 아니라 여러 Mac을 묶는 구성까지 한 앱에서 다루는 것이 특징이다.

연결 구성 화면에는 MacBook Pro 한 대와 Mac mini 두 대가 Thunderbolt 5로 연결된 모습이 나온다. 오른쪽 패널에서 서버 상태와 API 주소, 모델 정보를 볼 수 있다. 다만 이 화면에서 서버 모드는 단독 실행으로, RDMA는 비활성으로 표시돼 있어 세 기기가 메모리를 합쳐 모델을 실행한 결과를 보여주지는 않는다.

별도로 공유된 화면에는 M2 Pro와 16GB 메모리를 탑재한 MacBook Pro에서 Harbor가 열린 모습이 담겼다. 모델은 선택되지 않았고 서버는 대기 상태다.

정식 출시일과 가격은 미공개

Harbor는 비공개 테스트 단계이며 일반에 배포되지 않았다. 앞서 확인된 App Store 페이지는 내려갔고, 정식 출시 일정과 가격, 기기별 지원 범위는 공개되지 않았다.

출처: MacRumors 원문
관련 자료: 9to5Mac의 Harbor 비공개 테스트 보도
에런 페리스의 Harbor 화면 공개 게시물 (X)

KMUG 애플에 대한 모든 것.
Apple 케이머그 김영권
https://kmug.com