- 1 패킹
라우팅 익스퍼트를 사이드카 파일로 패킹 — SHA-256 인덱스가 있는 4,608개 레코드.
- 2 스테이징
LRU로 관리하는 RAM 아레나, 4개 스레드가 라우터가 고를 익스퍼트를 미리 로드.
- 3 라우팅
레이어마다 라우터 선택을 한 번 읽고, GPU 슬롯을 계획하고, 익스퍼트 ID를 원자적으로 교체.
- 4 연산
익스퍼트는 상주 Metal 풀에서 실행, 나머지 모델은 GPU에 유지.
- 5 보호
에포크: GPU가 끝내기 전엔 슬롯을 비우지 않음. 메모리 압력 리스너가 RAM을 정리.
- 6 검증
모든 변경은 MoEVM 없이 실행한 llama.cpp와의 로짓 일치 검사를 통과해야 반영.
성능 향상 단계 - llama.cpp op-offload 4.24
- 사이드카 + Metal 풀 13.08
- 안정화, dynamic-K 19.31
- 4k 컨텍스트 21.88
- 그래프 빌드, 복사 훅 제거 21.90
Qwen3-Coder-Next Q4, 초당 토큰, 라우팅 트레이스를 켠 측정. 트레이스를 끈 공정 비교: 6.41 → 19.90 tok/s (3.1배).
정직하게 검증한 방법
- 행 단위 일치 검사: 전체 어휘에서 최대 차이, argmax, 토큰 비교.
- 지터 테스트: 500µs 지연 주입과 강제 동기화 — 여전히 0.0.
- 결과 전에 출시 기준을 먼저 작성, 최고값이 아닌 5회 중앙값, 웜 캐시 수치는 배제.
실패한 시도와 한계
- 콜백 기반 익스퍼트 로딩: 2.07 tok/s. 폐기.
- 모델이 메모리에 들어가면 기본 llama.cpp가 더 빠름(49.69 tok/s). MoEVM은 들어가지 않는 모델을 위한 것.
- CPU에서는 기본 llama.cpp가 짧은 프롬프트로 gpt-oss-120b를 10.9–14.4 tok/s로 실행. MoEVM의 강점은 메모리를 제한한 GPU 경로.
- 추측 디코딩은 최종 경로에서 실질적 이득이 없었음.
자체 제품 · 개발 중
Where?
344 설계된 플로우 단계
혼자 또는 그룹으로 외출을 계획하고, 실제로 방문하며 지도를 밝혀 나갑니다. 기획, UX, iOS 앱, 백엔드 모두 직접 — AI 에이전트 팀과 함께 구축.
케이스 스터디 보기 → 창업자 & CEO
Selvren
11,901 병합 게이트 테스트
기업 내부 문서에 근거한 AI 도메인 전문가 — 모든 주장을 보여주기 전에 출처로 검증합니다. 대시보드와 엔터프라이즈 API.
케이스 스터디 보기 → 2026 · 클라이언트 · 단독 개발
SouverainIA
WhatsApp 안의 AI 비서, 프랑스 호스팅.
배경
SouverainIA 창업자는 중소기업 대표가 이미 쓰고 있는 WhatsApp 안에서 동작하고, 모든 데이터가 프랑스에 호스팅되는 AI 비서를 원했습니다.
내가 한 일
- 제품을 단독 개발: Python 백엔드, WhatsApp(Meta) 연동, 하루 우선순위를 정하고 밤마다 요약을 보내는 “Chef IA”.
- 보안: TOTP 2단계 인증, 세션 폐기, 개인정보를 남기지 않는 로그.
- 운영: nginx 뒤 자체 VPS의 Docker, 배포마다 롤백 절차를 문서화한 버전 관리 릴리스.
- 새 랜딩 페이지를 디자인하고 배포.
결과
souverainiafr.com에서 운영 중, 1,749개의 자동화 테스트로 검증.
2026 · 공동 창업자 · 브랜드 & 사이트
Bastide
중소기업용 프라이빗 AI 어시스턴트 — 오퍼, 가격, 사이트.
배경
파트너와 함께, 기밀 데이터를 다루는 중소기업(우선 회계법인)을 위한 프라이빗 AI 어시스턴트 스튜디오.
내가 한 일
- 포지셔닝, 오퍼, 가격: 유료 진단, 6주 구축, 선택형 월간 관리.
- 브랜드와 사이트 전체: Next.js 정적 빌드, 업종별 페이지, “Bastide vs 공개 AI” 비교, 보안 페이지.
- SEO·AI 검색 콘텐츠 루프: 예약 초안, 경쟁사 모니터링, 월간 노출 리포트 — 사람이 검토하기 전엔 게시하지 않음.
2026 · 리디자인 컨셉 · 클라이언트 제안
ESLITECH
실제 CMS와 연동한 제조사 사이트 리디자인.
배경
수족관·반려동물 용품 제조사 ESLITECH(브랜드 Smartfurry)의 오래된 사이트. 요구: 같은 콘텐츠와 페이지, 프리미엄한 룩.
내가 한 일
- 실제 CMS API 위에 Vue 3 + Vite로 프런트엔드를 재구축하면서 모든 URL, CTA, 팝업을 그대로 유지.
- 모션 시스템, 벤토 형식의 제품 섹션, 별도 About 페이지.
- Cloudflare Workers에 공개 데모 배포: HTTPS, noindex, 폼 비활성화.
2026 · 창업자 & CEO
Selvren
내부 문서 기반 AI 전문가, 모든 주장을 출처로 검증.
배경
팀은 자기 문서에서 근거와 함께 답을 얻고 싶어 합니다. Selvren은 반려동물 매장 챗봇에서 수족관 매장용 AquaChat을 거쳐 AI 도메인 전문가 B2B 플랫폼이 되었습니다.
내가 한 일
- 회사를 세우고 AI 코딩 에이전트 팀과 함께 개발을 이끔: 아키텍처, 규칙, 병합 게이트를 정하고 결과를 리뷰.
- 내부 문서와 전문가 카탈로그에 대한 하이브리드 검색, 그리고 모든 주장을 출처로 검증하는 규칙 기반 검증기 — 근거가 부족하면 답을 보류하거나 인용만 제공.
- 보안 설계: PostgreSQL 행 수준 보안, 원본 암호화, 업로드 백신 검사, 아웃바운드 프록시, 해시·폐기 가능한 API 키.
- GDPR 도구: 데이터 내보내기, 삭제, 문서화된 보존 정책.
결과
11주간 3,182개 커밋, 병합 게이트 테스트 11,901개, 아키텍처 결정 기록 28개.
2026 · R&D · 로컬 퍼스트 AI
Atelier
8개 전문 엔진으로 아이디어 → 제품 브리프, 100% 로컬.
배경
제가 만드는 모든 제품은 거친 아이디어에서 시작합니다. Atelier는 이를 사람이든 AI든 엔지니어링 팀이 실행할 수 있는 브리프로 바꿉니다.
내가 한 일
- 탐색부터 제품까지 8개 전문 엔진으로 이어지는 로컬 퍼스트 체인, 단계별 데이터 저장.
- MacBook(M5 Pro)에서 Ollama와 MLX로 완전히 로컬 실행, 비용 0원 원칙: 유료 API·임대 컴퓨팅 없음.
- 엔진 선택을 위해 로컬 코딩 모델 벤치마크 (qwen3-coder 30B가 qwen2.5-coder 32B보다 5배 빠름).
결과
아이디어 → 제품 브리프까지 약 5분, 완전 오프라인.
2026 · 기획, UX & 앱 · 파트너
Naiad
AI 어시스턴트를 갖춘 스마트 수족관 앱.
배경
Naiad는 하드웨어 파트너의 스마트 수족관을 위한 컴패니언 앱으로, 파트너 데모로 제작했습니다.
내가 한 일
- 전체 플로우 설계: EU 데이터 거주 기반 계정 우선 온보딩, QR 코드 제품 인식, 수조 프로필.
- 살아 있는 대시보드(수질 지표, 신뢰도 점수), 어종 궁합, 조명·펌프 기기 제어, 로그북.
- 추세를 설명하고 안전한 조치를 준비하지만, 소유자의 확인 없이는 절대 기기를 제어하지 않는 AI 어시스턴트.
2021–2023 · 르망 대학교
GLPI
헬프데스크와 IT 자산 관리를 위한 GLPI 구축.
배경
IT 부서는 대학 캠퍼스 전체의 교직원을 지원합니다. 모든 요청과 장비를 추적해야 합니다.
내가 한 일
- GLPI 도입: 사용자 요청을 위한 티켓 기반 헬프데스크와 IT 장비 인벤토리.
- 팀과 함께 일상적인 지원 업무 추적에 활용.
2021–2023 · 르망 대학교
PC 배포
교직원 업무용 PC를 설치하는 배포 서버.
배경
새 PC와 재설치한 PC를 매번 같은 방식으로, 바로 쓸 수 있는 상태로 교직원에게 전달해야 했습니다.
내가 한 일
- 업무용 PC를 반복 가능한 방식으로 설치하는 배포 서버 구축.
- 교직원 업무용 PC 준비 및 설치.
2021–2023 · 르망 대학교
지원 & 유지보수
사용자 지원, 네트워크·서버 유지보수.
배경
시스템·네트워크 2년제 과정과 병행하며 대학교 IT팀에서 보낸 2년간의 도제 생활.
내가 한 일
- 대학 교직원 일상 지원.
- 팀과 함께 네트워크와 서버 유지보수.
- 업무용 PC 하드웨어 유지보수.
2026 · 마인크래프트 서버 · 모드팩
DataRace
223개 모드의 “Create Civilisations” 서버, 튜닝과 호스팅.
배경
지금도 마인크래프트를 위해 만듭니다: “All of Create” 팩을 기반으로 한 모드 서바이벌 서버.
내가 한 일
- 5일 만에 7개 버전 출시(2026년 6월): 식민지, 월드 생성, 기차, 원거리 렌더링, 성능 최적화, 이후 콘텐츠·편의 모드.
- 모든 선택을 문서화: 영토 보호 모드 제외, 고난도 몹 팩 차단, 모든 모드는 공개 전 스테이징 월드에서 테스트.
- 튜닝과 호스팅: 서버 메모리 4 → 10GB와 GC 설정, 시야 거리 8, 시뮬레이션 거리 6, 게임 서버 패널이 있는 VPS.
결과
Minecraft 1.21.1(NeoForge)에서 서버 모드 223개, 20 TPS(틱당 5.3ms)로 측정.
2026 · 마인크래프트 모드 · 공동 개발
Pokémon League
Kotlin으로 만든 경쟁 리그 모드: 체육관, ELO, 토너먼트.
배경
마인크래프트 포켓몬 모드 Cobblemon 위에 구축한 완전한 경쟁 모드.
내가 한 일
- 다른 개발자와 함께 프로젝트를 시작하고 경제 시스템을 구축.
- 7단계 리그와 5개 체육관, ELO 기반 1대1·2대2 랭크전, 최대 32명 더블 엘리미네이션 토너먼트, 96개 퀘스트.
2025 · 자체 제품 · 베타
SyncCast
Twitch와 YouTube에서 e스포츠 캐스터를 같은 화면에 맞춥니다.
배경
e스포츠 캐스터는 같은 경기를 서로 다른 곳에서 중계합니다. 그리고 플랫폼마다 지연이 다릅니다.
내가 한 일
- 8일 만에 제품 구축(커밋 268개, 2025년 12월): 룸, 기준이 되는 리더 캐스터, 공통 서버 시계(Ably)에 맞춰 예약되는 재동기화.
- Twitch 지연을 매초 측정, 편차가 500ms를 넘으면 재정렬을 예약.
- 자체 HLS 릴레이: streamlink + FFmpeg로 1초 세그먼트를 만들어 Cloudflare R2에 업로드, 플레이리스트보다 세그먼트를 먼저.
- Admin / Manager / Caster 역할과 초대, 룸 채팅과 영상 위 실시간 드로잉, 모든 테이블에 행 수준 보안.
- 2026년, 코드가 실제로 하는 일만으로 백엔드를 설명하도록 랜딩 페이지를 새로 디자인.
결과
베타 단계, 단위 테스트 52개와 E2E 테스트 14개.