국산 바이브 코딩 툴, 캐럿(Caret)의 2차 밋업 세미나 발표 공유

안녕하세요. 캐럿티브의 양병석 CTO입니다.

최근 APEC 행사에서 정말 믿을 수 없는 일이 한국 AI산업에 일어났습니다.

26만장의 GPU의 공급 발표와 삼성전자와 현대자동차, NVIDIA의 회장님들이 깐부치킨에서 회동을 딱! 다들 이제 총평은 공부 열심히하고 열심히 일하는 것만 남았다고들 하더군요. 국운이 꺾이지 않나 봅니다. 캐럿도 최근 좋은 소식이 있어서 연구와 개발에 집중 할 수 있는 환경이 될 수 있을것 같습니다. 자세한 소식은 또 나중에 전달 드리고, 지난번에 약속 드린 캐럿의 2차 밋업의 세미나 영상을 공유합니다.

아래의 영상은 저희 5가지 발표 영상의 총 요약과 주제를 통과 하는 영상으로, 저희는 코딩 도구가 아닌 코딩 파트너로서의 AI를 추구합니다.

도구에서 파트너로!

상세 발표 내용은 아래의 내용을 참고해주세요.

오픈소스 캐럿 소개와 AI 기반의 의미론적 머징 프로세스

• 발표자: 양병석 (캐럿티브 CTO)

빠르게 진화하는 거대 오픈소스 프로젝트(cline)를 기반으로 개발할 때 마주하는 현실적인 고통, 즉 '머지 지옥(merge hell)'을 어떻게 극복했는지에 대한 생생한 전쟁 기록입니다. 이론에서 출발한 전략이 아닌, "1차 머징 때 난리가 난" 실제 경험에서 얻은 값비싼 교훈을 통해 탄생한 '최소 침습' 아키텍처와 AI 협업 모델은 모든 오픈소스 기반 개발자에게 깊은 공감과 실질적인 해법을 제시했습니다.

출발점: 캐럿은 오픈소스 VSCode 확장 프로그램 cline을 포크(fork)하여 100% 호환성을 유지하며 시작했습니다.
첫 번째 시련: cline의 급격한 구조 변경 후 진행한 첫 번째 병합(merge)은 재앙에 가까웠습니다. .cline 확장자로 백업 파일을 만드는 초기 전략은 AI가 캐럿 코드와 cline 코드를 구분하지 못하고 뒤섞어 버리는 혼란을 야기하며 실패로 돌아갔습니다.
해결책: '최소 침습(Minimal Invasion)' 철학: 이 고통스러운 경험을 통해 cline 원본 코드를 직접 수정하는 것을 극단적으로 최소화하는 것을 최우선 원칙으로 삼았습니다. 백엔드에서는 래퍼(Wrapper) 패턴을 사용해 원본 파일을 건드리지 않고 기능을 확장했고, 이를 통해 업데이트 시 병합 비용을 획기적으로 줄였습니다.
AI 길들이기: '캐럿 룰스(Caret Rules)': AI가 아키텍처, 기능 위치, 코딩 컨벤션 같은 핵심 맥락을 이해하고 복잡한 병합 작업을 스스로 수행할 수 있도록 캐럿 룰스라는 상세한 규칙 및 문서 체계를 만들었습니다.
현실적인 AI와의 협업: 이 과정에서 얻은 중요한 통찰은 "AI 개발자는 거의 감시자의 역할"이라는 것입니다. AI가 때로 규칙을 잊거나("AI가 망각을 하기 때문에"), 심지어 "당신은 전문 개발자입니다"라는 프롬프트를 넣었을 때 오히려 "고집을 부리는" 현상까지 발견했습니다. 이는 AI를 맹신하는 것이 아닌, 명확한 가이드와 지속적인 검증이 필요함을 보여줍니다.
비전: 인간은 전략 수립과 최종 검증을, AI는 복잡한 구현과 유지보수를 담당하는 협업 모델을 통해 캐럿은 원본의 발전을 지속적으로 흡수하며 독립적인 가치를 키워나갑니다. 하지만 AI가 종종 맥락을 잊는다는 점은, AI가 코드를 진정으로 '이해'하게 만들려는 네 번째 발표의 연구가 왜 중요한지를 명확히 보여줍니다.

나노바나나를 이용한 페르소나 이미지 생성

• 발표자: 김기환 (캐럿티브 CEO)

AI에게 고유한 시각적 정체성을 부여하며 '파트너'라는 캐럿의 철학을 구체화하는 과정을 보여줍니다. 무엇보다 AI 기반 개발에서 겪는 현실적인 실패와 그 극복 과정을 공유하며, '성공적으로 동작하는 실제 예제'를 AI에게 제공하는 것이 얼마나 강력한 해결책이 되는지에 대한 실용적인 교훈을 생생하게 전달했습니다.

목표 : 사용자가 이미지 생성 AI인 나노바나나(Nanobanana)를 이용해 자신의 AI 페르소나를 위한 맞춤형 아바타를 만드는 기능을 구현하는 것이었습니다.
개발 과정: 제품 요구사항 문서(PRD)를 기반으로 AI 코딩 도구를 활용해 기능을 개발했습니다.
초기 실패: 첫 시도는 이미지를 제대로 생성하지 못하고 계속해서 기본 샘플 이미지만 출력하는 문제에 부딪혔습니다.
돌파구: 수많은 시도 끝에, 실제로 나노바나나 연동에 성공한 오픈소스 프로젝트(nanobanana-ads)를 발견했습니다. 그리고 그 핵심 구현 파일(gemini.ts)을 AI 에이전트에게 "이것을 보고 배우라"고 참고 자료로 제시했습니다.
결과: AI는 성공 사례를 즉시 학습하여, 사용자가 사진을 올리고 텍스트 프롬프트를 입력하면 고유한 AI 아바타를 생성하는 기능을 완벽하게 구현해냈습니다.
교훈: AI 개발 도구에게 추상적인 요구사항만 던지는 것보다, 구체적이고 실제 동작하는 코드 예제를 함께 제공하는 것이 기능 구현의 정확성과 성공률을 비약적으로 향상시킨다는 점을 명확히 확인했습니다.

캐럿과 LiteLLM 연동하기

발표자: 김동학 (캐럿 컨트리뷰터)

• 발표의 의의: 이 발표는 캐럿이 특정 LLM에 종속되지 않는 진정한 의미의 '모델 독립적' 플랫폼으로 거듭나게 한 핵심 백엔드 인프라를 소개합니다. 특히 자체 개발 대신 오픈소스 LiteLLM을 선택한 배경에는 "고객에게 빠르게 서비스를 제공하는 것"이 우선이라는 실용적인 엔지니어링 철학이 담겨있습니다. 이는 LLM API 파편화, 비용 관리, 안정성이라는 현실적인 문제를 어떻게 현명하게 해결했는지 보여주는 모범 사례입니다.

문제점: 수많은 LLM은 각기 다른 API를 가지고 있어 모델을 바꾸거나 비용을 통합 관리하기가 매우 어렵습니다.
해결책: 100개 이상의 LLM을 OpenAI API 형식으로 표준화해주는, 이른바 "LLM의 ORM" 이라 불리는 오픈소스 LiteLLM을 채택했습니다.
핵심 기능: 모델 자동 폴백(GPT-4 실패 시 Claude로 자동 전환), 로드 밸런싱, 실시간 비용 추적 및 예산 관리 등 개발과 운영에 필수적인 기능을 모두 제공합니다.
솔직한 평가: LiteLLM을 선택했지만, 그 UI/UX에 대해서는 "솔직히 UI/UX가 진짜 안 좋습니다"라고 평가하며, 아마도 급하게 만들어진 것 같다는 비판적인 시각도 공유했습니다. 이는 도구의 장점은 최대한 활용하되, 단점은 명확히 인지하고 개선하려는 캐럿팀의 건강한 관점을 보여줍니다.
캐럿의 구현: LiteLLM을 '캐럿 라우터'로 명명하고, 여기에 네이버·카카오·구글 소셜 로그인 기능을 추가하고 고성능 GRPC 아키텍처로 통합하여 캐럿만의 시스템을 구축했습니다.
사용자 혜택: 회원가입 시 월 10달러의 크레딧이 제공되며, 사용자들은 이 강력한 라우터를 통해 Gemini와 같은 다양한 모델을 자유롭게 경험할 수 있습니다.

Typescript기반의 의미론적 코딩 모델 연구

• 발표자: 오승완 (전남대학교 박사과정)

이 발표는 단순 코드 생성을 넘어, AI가 코드의 논리와 실행 흐름을 진정으로 '이해'하는 시대로 나아가기 위한 선구적인 연구를 소개합니다. 코드를 깊이 있게 파악하는 특화 LLM(sLLM)을 개발하려는 캐럿의 장기적인 비전이 학술 연구와 어떻게 맞닿아 있는지를 명확하게 보여주는 세션입니다.

근본적인 문제: 현재의 코드 LLM은 정적인 텍스트로 학습하기 때문에 코드의 동적인 실행 흐름이나 논리적 의미를 진정으로 이해하지 못합니다.
"SemCode" 접근법: AI에게 코드의 '의미(semantics)'를 가르치려면, 학습 데이터에 단순한 코드와 주석뿐만 아니라 실행 추적(execution trace), 제약 조건, 심지어 디버깅 사례까지 포함해야 합니다.
연구 목표: 이러한 고급 의미론 기반 접근법을 파이썬에 비해 상대적으로 연구가 부족했던 타입스크립트(TypeScript) 언어에 적용하는 것입니다.
주요 난관: 초기 데이터로 활용한 OSS-Instruct 데이터셋 내 타입스크립트 코드의 품질이 매우 낮았고, 외부 라이브러리 의존성 문제로 자동화된 테스트가 복잡했습니다.
전략적 전환: 이 문제를 해결하기 위해, 품질이 검증된 LeetCode와 같은 경쟁 프로그래밍 사이트의 코드를 초기 데이터(seed)로 사용하는 전략으로 전환했습니다. 그 결과, 유효한 데이터 생성 성공률이 비약적으로 향상되었습니다.

AI 코딩 어시스턴트 코드베이스 전략

• 스터디 자료공유: 최재훈 (삼성전자 선임)

현재 시장에 나와 있는 모든 AI 코딩 어시스턴트의 작동 방식을 '개발자'와 '사서'라는 두 가지 강력한 은유로 명쾌하게 정리합니다. 이 프레임워크를 통해 전체 기술 지형을 한눈에 파악하게 하고, 두 방식의 장점을 결합하려는 캐럿의 하이브리드 전략이 왜 가장 이상적인 지향점인지를 설득력 있게 제시합니다.

핵심 과제: AI의 제한된 컨텍스트 창으로 거대한 코드베이스를 효과적으로 이해하는 방법은 무엇인가?
접근법 1: 개발자(Developer) 방식
▪ 원리: 질문을 받는 즉시 코드의 구조(AST)를 실시간으로 분석하고, import 구문 등을 따라가며 마치 인간 개발자처럼 필요한 정보를 추적.
▪ 장점: 항상 최신 정보, 높은 정확도, 별도 설정 불필요, 강력한 프라이버시(로컬 실행).
▪ 대표 도구: cline
접근법 2: 사서(Librarian) 방식
▪ 원리: 코드베이스 전체를 사전에 읽고 벡터 임베딩으로 변환하여 의미 기반의 '색인'을 생성 (RAG 기술 활용).
▪ 장점: 키워드를 넘어선 개념 기반의 강력한 의미 검색, 빠른 검색 속도.
▪ 대표 도구: Cursor, CodiumAI
미래의 전략: 캐럿(Caret)이 추구하는 하이브리드(Hybrid) 방식
▪ 목표: "클라인의 투명성(정확성)에 커서의 유연성(검색 능력)을 더한다."
▪ 구현: 안정적인 cline의 '개발자' 방식을 기본으로 사용하면서, 코드베이스 전체에 대한 탐색적 질문을 위해 '사서' 방식을 선택적으로 활성화하는 통합 모델을 지향.
▪ 의의: 정밀함이 필요한 리팩토링과 넓은 범위의 탐색이 필요한 질문 모두에 대응할 수 있는, 가장 이상적인 AI 코딩 파트너를 구현하는 것.

국산 바이브 코딩 툴 캐럿은 오픈소스 프로젝트로 캐럿을 만들고 있는 최고의 바이브코딩 전문가들과 정기 세미나를 진행하고 있습니다. 많은 관심 부탁드립니다.

캐럿은 오픈소스기반의 국산 바이브 코딩 도구로서 AI가 도구가 아닌 파트너로서 함께 발전하는 개발자 생태계를 꿈꿉니다. AI기반의 개발과 SW생태계에 관심있는 분들은 누구나 참여가능한 열린 커뮤니티를 추구합니다.