라즈베리파이5 위에 M.2 HAT+를 올리고, 그 위에 Hailo 모듈을 꽂은 구성을 다시 꺼내봤다. 사진만 보면 작은 보드 하나 얹은 정도인데, 이 구성이 의미하는 방향은 꽤 분명하다. 클라우드로 이미지를 보내지 않고, 카메라에서 들어온 화면을 작은 장비 안에서 바로 처리해보려는 쪽이다.
다만 지금 이 장비를 새로 살지 고민한다면 한 가지는 먼저 구분해야 한다. 사진 속 구성은 공식 자료 기준으로 Raspberry Pi AI Kit에 가깝다. M.2 HAT+에 Hailo-8L 기반 AI 모듈이 올라간 형태다. 요즘 새로 이름이 많이 보이는 AI HAT+ 2와는 세대와 목적이 다르다.
사진 속 구성부터 보면
보드에 적힌 글자를 보면 Raspberry Pi M.2 HAT+ M Key가 보인다. 중앙에는 Hailo 로고가 있는 M.2 모듈이 있고, 라즈베리파이5의 PCIe FFC 케이블을 통해 연결되는 구조다. 일반 NVMe SSD를 꽂는 M.2 확장 보드처럼 보이지만, 여기서는 저장장치가 아니라 AI 가속 모듈이 올라가 있다.
두 번째 사진에는 카메라 모듈도 같이 연결돼 있다. 이 조합이 AI Kit의 가장 자연스러운 사용처다. 텍스트 생성용 미니 LLM 장비라기보다, 카메라 입력을 받아 객체 감지나 간단한 비전 모델을 돌리는 쪽에 가깝다.
옆에 있는 다른 라즈베리파이5 케이스와 비교해보면, AI Kit를 얹은 쪽은 확실히 실험 장비 느낌이 강하다. 카메라 플랫 케이블이 위로 올라오고, 방열판과 케이스 간섭도 신경 써야 한다. 책상 위에 깔끔하게 두는 서버 장비라기보다는, 카메라 위치를 바꿔가며 테스트하는 개발 보드에 더 가깝다.
AI Kit는 지금 기준으로 약간 애매한 위치에 있다
공식 Raspberry Pi 자료를 보면 AI Kit는 Raspberry Pi M.2 HAT+와 Hailo-8L AI 모듈을 묶은 제품이다. 성능은 13 TOPS이고, Raspberry Pi 5의 PCIe 인터페이스를 통해 연결된다. Raspberry Pi OS에서 Hailo 모듈을 감지하고, rpicam-apps나 Picamera2 같은 카메라 소프트웨어 스택과 연결해 쓸 수 있다는 점이 장점이다.
문제는 지금 새로 사는 사람에게는 공식 추천이 바뀌었다는 점이다. Raspberry Pi는 AI Kit가 더 이상 생산 중이 아니며, 새 구매자는 AI HAT+를 보라고 안내한다. 공식 문서에서도 AI Kit는 참조용으로 남아 있고, 새 설계에는 AI HAT+ 또는 AI HAT+ 2를 권장한다.
그래서 이 장비를 보는 관점은 둘로 나뉜다.
이미 가지고 있다면 충분히 써볼 가치가 있다. 사진처럼 라즈베리파이5와 카메라가 있고, 객체 감지나 간단한 영상 후처리를 로컬에서 돌려보고 싶다면 지금도 재미있는 실험 장비다.
반대로 지금 새로 사야 한다면 AI Kit 재고를 굳이 찾아다닐 이유는 줄었다. 같은 13 TOPS Hailo-8L 계열을 원하면 AI HAT+ 13 TOPS 모델이 더 자연스럽고, 조금 더 여유 있는 비전 처리를 원하면 26 TOPS AI HAT+가 있다.
AI HAT+ 2와 헷갈리면 안 되는 부분
최근에 눈에 띄는 제품은 AI HAT+ 2다. 이건 사진 속 AI Kit와 목적이 다르다. AI HAT+ 2는 Hailo-10H 기반 40 TOPS 제품이고, 8GB 온보드 메모리를 갖고 있어서 로컬 LLM이나 VLM 같은 생성형 AI 쪽까지 노린다.
이 차이를 모르면 기대치가 엇나간다. 사진 속 AI Kit는 “라즈베리파이5에서 카메라 비전 AI를 가속해보는 장비”에 가깝다. 반면 AI HAT+ 2는 “라즈베리파이5에서 작은 생성형 AI까지 어디까지 가능한지 보는 장비”에 가깝다.
물론 둘 다 라즈베리파이5 위에 얹는 AI 가속 장비라서 겉으로는 비슷하게 보일 수 있다. 하지만 구매 판단에서는 완전히 다르게 봐야 한다.
로컬 LLM으로는 어디까지 기대할 수 있나
여기서 가장 조심해야 할 부분이 로컬 LLM이다. 사진 속 AI Kit를 보고 “라즈베리파이5에서 ChatGPT 같은 로컬 LLM을 빠르게 돌릴 수 있나?”라고 기대하면 방향이 어긋난다. AI Kit와 13 TOPS AI HAT+는 기본적으로 카메라 비전 AI 쪽이 중심이다. 객체 감지, 포즈 추정, 세그멘테이션처럼 이미지를 계속 처리하는 작업에 맞다.
로컬 LLM 이야기는 AI HAT+ 2부터 하는 게 맞다. Raspberry Pi가 공개한 AI HAT+ 2 자료를 보면 Hailo-10H, 40 TOPS, 8GB 온보드 메모리 구성이며, 공식 문서에는 약 6B 규모까지의 LLM을 다룰 수 있다고 안내돼 있다. 다만 이 말은 “데스크탑 GPU처럼 아무 모델이나 편하게 돌린다”는 뜻이 아니다. 실제로 Raspberry Pi가 초기 예시로 드는 모델은 Qwen2 1.5B, Qwen2.5-Coder 1.5B, Llama 3.2 1B, DeepSeek-R1-Distill-Qwen 1.5B처럼 작은 모델 쪽이다.
이 정도면 할 수 있는 일은 꽤 분명하다. 짧은 질의응답, 간단한 코드 보조, 명령 분류, 센서 로그 요약, 카메라 이벤트 설명 같은 작업은 현실적이다. 특히 로봇이나 IoT 장비 안에서 “사람이 말한 명령을 해석해서 다음 동작을 고르는” 용도라면 재미있다.
반대로 긴 문서를 넣고 오래 대화하거나, 복잡한 코딩 작업을 맡기거나, 여러 사용자가 동시에 쓰는 서버처럼 기대하면 무리다. 모델 크기, 메모리, 토큰 처리 속도, 지원되는 런타임의 제약을 계속 의식해야 한다. 라즈베리파이5 + AI HAT+ 2는 작은 생성형 AI 실험 장비이지, RTX 데스크탑의 대체품은 아니다.
외부 사례: 음성 명령을 로컬에서 해석해 동작으로 바꾸기
Hailo가 공개한 AI HAT+ 2 데모 중에는 음성 명령을 받아 텍스트로 바꾸고, 로컬 LLM이 의도를 해석한 뒤, 장비 동작으로 연결하는 예시가 있다. 구조만 보면 단순한 챗봇보다 훨씬 실용적이다. 음성 인식, 언어 이해, 동작 결정이 모두 엣지 장비 안에서 이어지는 흐름이기 때문이다.
이 사례가 좋은 이유는 로컬 LLM의 쓸모를 과장하지 않기 때문이다. 라즈베리파이에서 거대한 대화형 AI를 돌리는 대신, 작은 모델을 특정 역할에 묶는다. “불 켜줘”, “왼쪽으로 이동해”, “카메라에서 사람이 보이면 알려줘” 같은 명령을 해석하는 식이다. 로봇 제어, 스마트홈, 산업용 패널, 오프라인 보조 장비에는 이런 형태가 더 현실적이다.
비전 AI 사례는 사진 속 장비와 더 잘 맞는다
사진 속 AI Kit가 제일 자연스럽게 맞는 쪽은 여전히 비전 AI다. Raspberry Pi 공식 AI Kit 자료도 Hailo-8L 모듈과 카메라 스택을 묶어서 설명한다. rpicam-apps와 Picamera2를 통해 카메라 입력을 받고, Hailo 예제 모델을 붙여 객체 감지나 포즈 추정, 세그멘테이션을 돌리는 흐름이다.
외부 사례를 보면 이 방향은 꽤 일관적이다. Raspberry Pi와 Hailo 쪽 예제는 사람 감지, 물체 감지, 자세 추정, 실시간 카메라 추론처럼 “카메라 프레임을 계속 넣고 결과를 바로 받는” 형태가 많다. Hailo의 Raspberry Pi 5 예제 저장소도 detection, pose estimation, instance segmentation 같은 작업을 다룬다.
내가 이 사진 속 구성을 보고 제일 먼저 떠올린 용도도 로봇 비전이다. 카메라를 달고, 화면 안의 물체를 찾고, 그 결과를 바탕으로 모터나 알림, 기록 같은 다음 동작을 붙이는 흐름이다. 보안 카메라처럼 사람이나 사물을 감지하는 실험도 가능하고, 책상 위 물체 분류, 간단한 이상 감지, 이동 로봇의 전방 인식 같은 데모를 만들기도 좋다.
라즈베리파이5 단독 CPU로도 가벼운 모델은 돌릴 수 있지만, 카메라 입력을 계속 처리하는 순간 여유가 빠르게 줄어든다. 이때 NPU가 붙어 있으면 CPU를 덜 괴롭히면서 비전 모델을 돌릴 수 있다. 이 장비의 가치는 바로 그 지점에 있다.
실제로 써보려면 귀찮은 부분도 있다
사진만 보면 보드를 얹고 카메라를 꽂으면 끝날 것 같지만, 실제로는 케이스와 방열, 케이블 정리가 꽤 중요하다.
카메라 플랫 케이블은 생각보다 거슬린다. 테스트할 때는 괜찮지만, 한 위치에 고정해서 계속 쓰려면 케이블 방향과 카메라 마운트를 신경 써야 한다. 케이스 상단을 덮는 방식도 제약이 생긴다. 방열판과 HAT, 카메라 케이블이 동시에 올라가면 깔끔한 완제품 느낌은 포기해야 할 때가 많다.
전원과 발열도 만만하게 보면 안 된다. Raspberry Pi 5 자체가 이전 세대보다 발열 관리가 더 중요해졌고, AI 가속 모듈까지 얹으면 장시간 구동을 전제로 방열을 잡아야 한다. 공식 자료에서도 Active Cooler 같은 냉각 구성을 함께 언급한다. 짧은 데모는 대충 돌아가도, 하루 종일 켜둘 장비는 다르게 봐야 한다.
그래서 지금 산다면 어떻게 고를까
이미 AI Kit를 갖고 있다면, 나는 이걸 “낡은 장비”라고 치우기보다 카메라 비전 실험용으로 계속 써볼 것 같다. 특히 사진처럼 카메라까지 붙어 있다면 그냥 보관만 하기엔 아깝다. 객체 감지, 사람 감지, 간단한 로봇 비전, 카메라 후처리 실험에는 아직 충분히 쓸 수 있다.
하지만 새로 구매한다면 우선순위는 다르다.
카메라 기반 비전 AI만 해볼 생각이면 AI HAT+ 13 TOPS나 26 TOPS를 본다. AI Kit와 비슷한 성격을 원하면 13 TOPS가 맞고, 모델을 조금 더 여유 있게 돌리거나 여러 작업을 동시에 생각하면 26 TOPS 쪽이 낫다.
라즈베리파이에서 로컬 LLM, VLM, 문서 기반 챗 같은 생성형 AI까지 건드리고 싶다면 AI HAT+ 2를 봐야 한다. 40 TOPS와 온보드 8GB 메모리는 그쪽을 위해 나온 차이다. 다만 이 경우에도 데스크탑 GPU처럼 생각하면 실망할 수 있다. 라즈베리파이5라는 전력과 크기 안에서 어디까지 되는지를 보는 장비다.
그냥 홈서버나 자동화 서버가 필요하다면 AI HAT 계열보다 N150 미니PC 같은 x86 장비가 더 편할 수 있다. 패키지 호환성, 저장장치, 원격 관리, 일반 서버 작업은 아직 x86 미니PC 쪽이 덜 피곤하다.
내 결론
사진 속 Raspberry Pi 5 + AI Kit + 카메라 조합은 지금 봐도 꽤 매력적이다. 작고, 카메라가 붙고, 비전 AI를 로컬에서 처리한다는 방향이 분명하다. 로봇 비전이나 온디바이스 객체 감지 데모를 만들고 싶다면 손이 가는 장비다.
다만 새로 사는 기준에서는 AI Kit를 그대로 추천하긴 어렵다. 공식적으로도 새 구매자는 AI HAT+ 계열을 보라고 안내하고 있고, 생성형 AI까지 생각하면 AI HAT+ 2라는 더 분명한 선택지가 나왔다.
그래서 나는 이렇게 정리하고 싶다.
이미 갖고 있다면 카메라 비전 실험용으로 충분히 써볼 만하다. 지금 새로 산다면 AI Kit 재고보다는 AI HAT+ 13/26 TOPS 또는 AI HAT+ 2를 먼저 비교하는 게 맞다. 그리고 목적이 로컬 LLM인지, 카메라 비전인지, 홈서버인지부터 나눠야 후회가 줄어든다.
사진 속 장비는 “작은 라즈베리파이로 AI를 다 해결한다”는 답이라기보다, “카메라가 붙은 작은 보드에서 비전 AI를 어디까지 직접 만져볼 수 있나”를 실험하기 좋은 출발점에 가깝다. 그 관점으로 보면 아직 충분히 재미있는 장비다.
참고한 공식 자료
'개발자 정보' 카테고리의 다른 글
| 리튬 배터리팩을 직접 만질 때 먼저 봐야 하는 것들 (0) | 2026.05.05 |
|---|---|
| Codex CLI의 /goal, AI 코딩이 ‘한 번 시키는 작업’에서 벗어나기 시작했다 (0) | 2026.05.03 |
| N150 미니PC는 2026년에 아직 살 만한가 (0) | 2026.05.02 |
| GPT-5.5 실전 프롬프트 가이드: 개발자가 바로 쓰는 요청 방식 (0) | 2026.05.01 |
| OpenAI와 Microsoft 파트너십 확대, 왜 중요한가 (1) | 2026.04.30 |