단기
현재 대화. 이 세션에서 오간 모든 내용. 지금 이 순간의 컨텍스트.
내부 작동 원리
클라우드 챗봇이 아닙니다. 직접 배포해야 하는 플랫폼도 아닙니다. 사내 전용 하드웨어에서 로컬 모델로 작동하고, 사내 문서로 미세 조정되는 관리형 AI 시스템입니다. 클라우드는 선택입니다.
첫 번째 레이어
구축되는 모든 시스템은 첫날부터 사전 훈련된 역량 라이브러리를 갖추고 시작합니다. 별도 설정 없이 바로 사용할 수 있는 항목들.
이 역량은 심화하거나 확장할 수 있습니다. 특정 도메인(제조 사양, 법률 계약 언어, 의학 용어, 재무 보고)을 이해해야 할 때는 해당 자료로 직접 훈련합니다. 시스템은 일을 알고 시작하며, 시간이 지날수록 사내 업무에 더 정밀해집니다.
두 번째 레이어
AI 시스템은 세 가지 메모리를 함께 사용합니다. 운영이 길어질수록 비즈니스에 대한 이해가 더 정밀해집니다.
현재 대화. 이 세션에서 오간 모든 내용. 지금 이 순간의 컨텍스트.
고객 이름, 선호도, 톤, 프로세스, 누구를 어디에 참조할지. 비즈니스에 대해 학습한 모든 것의 영구 저장소.
특정 이벤트. "지난 화요일 CEO가 보고서를 더 짧게 요청했다." 향후 결정과 진행 중인 업무 조정에 활용됩니다.
세 번째 레이어
세 번째 레이어는 시스템을 검색 엔진이 아닌 동료로 느껴지게 합니다. 일관된 가치, 톤, 업무 스타일이 온보딩 단계에서 회사 문화에 맞춰 설정됩니다.
전문적이고 정확한 톤인지, 따뜻하고 대화체인지. 능동적인지 반응적인지. 공식 한국어 기반 이중 언어인지, 완전히 캐주얼한지. 이러한 특성은 의도적으로 정의되어 매일의 모든 상호작용에서 일관되게 유지되며, 언제든 조정할 수 있습니다.
하드웨어도 데이터도 사내 자산
Smart Fellow 구축은 한 고객사 전용으로 예약된 하드웨어 위에서 시작합니다. 모델은 그 위에서 실행되고, 데이터도 그 안에 머뭅니다. 원하지 않으면 인터넷 연결이 필요하지 않으며, 완전한 에어갭으로 운영하는 고객도 있습니다. 다른 고객은 특정 작업에만 외부 AI 제공자를 선택적으로 덧붙입니다.
Apple의 통합 메모리 아키텍처는 모델과 추론 데이터가 같은 메모리 풀을 공유한다는 의미입니다. 병목이 없고, 추론이 빠르며, 같은 가격대의 클라우드 설정보다 큰 컨텍스트 창을 갖습니다. 어느 경우든 데이터 소유 구조는 같습니다. 데이터는 사내 자산이며, 저희나 벤더의 자산이 아닙니다.
| Smart Fellow 구축 | 일반 클라우드 AI | |
|---|---|---|
| 처리 위치 | 로컬 머신 | 클라우드 처리 |
| 하드웨어 | 사내 자산 | 벤더 서버 |
| 데이터 조건 | 사내에서 설정 | 벤더가 설정 |
| 보존 기간 | 사내에서 결정 | 감사 불가능한 보존 |
| 에어갭 운영 | 가능 | 불가능 |
| PIPA 준수 | 설계상 준수 | 벤더 정책에 의존 |
본질적인 차이
대부분의 AI 제품은 클라우드 서비스입니다. 대부분의 소버린 AI 도구는 직접 배포해야 하는 플랫폼입니다. Smart Fellow는 그 사이에 있습니다. 사내 통제 하드웨어에서 로컬로 작동하는 사내 AI 인프라입니다.
시스템은 사전 훈련된 역량으로 시작하고, 산업, 프로세스, 용어로 학습이 진행될수록 도메인 정밀도가 깊어집니다.
IT 운영 부담 없이 로컬 소유 구조를 제공합니다. 에어갭이 필요하면 가능합니다. 외부 AI를 선택적으로 사용하는 경우, 무엇이 언제 전송되는지 직접 통제합니다.
시스템은 Slack, KakaoTalk, Teams 안에서 기본 작동합니다. 새 인터페이스 학습이 필요하지 않으며, 컨텍스트 전환이나 탭 전환도 없습니다.
메시지당 요금 없음. 사용량에 따라 늘어나는 토큰 비용 없음. 고정된 구축 가격과 정액 월 유지관리. 시스템에서 더 많은 가치를 얻는다고 비용이 늘지 않습니다.
솔직한 답변
맞는 질문입니다. 현대 AI 도구는 정말 좋습니다. 그래서 어디서 차이가 나는지 분명히 해두는 것이 중요합니다.
ChatGPT는 훌륭하고 저렴합니다. 왜 별도 AI 시스템을 구축해야 합니까?
ChatGPT는 일반적인 작업이나 일회성 질문에 매우 좋습니다. 다만 여전히 범용 클라우드 도구입니다. 사내 AI 인프라는 도메인에 맞춰 학습되고, 이미 사용 중인 도구에 통합되며, 비즈니스 컨텍스트를 사내 환경 안에 유지할 수 있습니다. 클라우드 모델이 도움이 될 때는 기본값이 아닌 선택으로 덧붙입니다.
팀 플랜을 사용해 접근 권한을 공유하면 안 되나요?
가능합니다. 일부 팀은 그렇게 합니다. 다만 일반 모델에 대한 공유 접근은 여전히 별도 인터페이스로 전환하고, CRM, 캘린더, 내부 시스템과 연결되지 않은 도구를 사용하는 것을 의미합니다. 사내 AI 인프라는 이미 통합되어 있고, 이미 컨텍스트가 있으며, 매일 쓰는 앱 안에서 작동합니다.
이것은 단순한 반클라우드 입장인가요?
아닙니다. 클라우드는 유용합니다. 다만 민감한 비즈니스 컨텍스트에서 클라우드가 기본값이 되어서는 안 된다고 봅니다. 사내 AI 인프라는 로컬 통제에서 출발합니다. 사내 시스템, 사내 데이터, 사내 경계입니다. 완전한 에어갭으로 운영하는 고객도 있고, 특정 작업에만 외부 AI를 연결하는 고객도 있습니다. 어느 쪽이든 클라우드는 강제되는 기반이 아니라 선택하는 확장입니다.
로컬 모델이 GPT-4만큼 능력이 있나요?
광범위한 일반 지식에서는 최고의 클라우드 모델이 우위에 있습니다. 그러나 특정 비즈니스 작업, 즉 사내 톤으로 작성하고, 고객을 파악하고, 프로세스를 따르는 일에서는, 비즈니스에 맞춰 미세 조정된 모델이 더 정밀합니다. 사내 AI 인프라는 필요할 때 외부 모델에 선택적으로 연결할 수 있으므로, 둘 중 하나를 고를 필요가 없습니다.
무료 진단부터 시작하세요
무료 AI 도입 진단을 예약하세요. 워크플로우, 민감도 요건, 연동 사항을 함께 살펴보고 서면 보고서와 고정 견적을 드립니다.