이미 구축한 SaaS에 AI 기능을 추가하는 방법

지금 모든 SaaS 창업자를 짓누르는 특유의 압박이 있습니다. 이사회 멤버나 고객, 혹은 그저 자기 머릿속의 목소리가 똑같은 세 마디를 말합니다. "우리는 AI가 필요해." 제품은 이미 동작합니다. 사람들은 비용을 냅니다. 그런데도 갑자기, 남들은 모두 가진 듯한 무언가가 빠진 것처럼 느껴집니다. 그래서 스프린트를 열고, API를 연결하고, 구석에 챗봇을 출시합니다. 그리고 한 달 뒤, 아무도 쓰지 않습니다. 문제는 결코 모델이 아니었습니다. 그것을 무엇에 겨눌지 정하는 일이었습니다.

완전히 새로운 제품에 AI를 추가하는 일은, 묘하게도 쉬운 쪽입니다. 실망시킬 사용자도, 존중해야 할 데이터 모델도, 사정을 알려야 할 지원팀도 없습니다. 이미 존재하는 SaaS에 — 유료 고객이 있고, 정착된 작업 흐름이 있으며, 신뢰성으로 평판이 난 제품에 — AI를 추가하는 일은 다른 종목입니다. 새 기능은 모두 사람들이 이미 신뢰하는 시스템 안에 내려앉습니다. 그리고 신뢰야말로, 지나치게 의욕적인 AI 기능이 가장 빨리 태워버리는 것입니다.

저희는 적지 않은 소프트웨어 팀이 이 일을 잘 해내도록 도왔고, 몇몇이 서툴게 하는 것도 지켜봤습니다. 성공하는 팀은 거의 결코 기술에서 시작하지 않습니다. 그들은 사용자가 계속 묻는 하나의 아픈 질문에서 시작하고, 그제야 비로소 AI가 가장 저렴하고 정직한 답인지 묻습니다. 이 가이드는 바로 그 접근법을 적어 둔 것입니다. 기능을 어떻게 고르고, 동작하는 것을 망가뜨리지 않고 어떻게 만들며, 사람들이 실제로 손을 뻗도록 어떻게 출시하는가.

덧붙인 AI 기능 대부분이 실패하는 이유

충분히 많은 SaaS 대시보드를 둘러보면 그 묘지를 알아보기 시작합니다. 아무도 누르지 않는 "✨ AI 어시스턴트" 버튼. 누구나 쓸 법한 밋밋한 세 문장을 내놓는 요약 패널. 제품이 이미 평범한 검색창으로 더 잘 답하던 질문에 답하는 챗봇. 이 기능들은 AI가 약해서 실패한 게 아닙니다. 문제를 찾아 헤매는 해결책이었기 때문에 실패했습니다.

패턴은 거의 늘 같습니다. 누군가 무언가 AI 같은 것을 출시하라는 압박을 느끼고, 가장 일반적이고 가장 눈에 띄는 선택지 — 채팅 상자 — 에 손을 뻗습니다. 그것이 가장 분명하게 "AI"로 읽히기 때문입니다. 하지만 채팅 상자는 백지이고, 백지는 특정한 일을 끝내려고 제품에 온 사람들에게 끔찍한 인터페이스입니다. 그들은 대화하고 싶지 않습니다. 보고서가 끝나기를, 이메일이 초안 잡히기를, 데이터가 정리되기를 원합니다.

두 번째 실패 양상은 더 미묘하고 더 비쌉니다. 대부분은 맞는 기능을, 틀림이 용납되지 않는 작업 흐름에 출시하는 것입니다. 정확도 90%의 제안은 데모에서는 훌륭하게 들립니다. 사람들이 청구서를 보내거나 직원 일정을 짜는 데 쓰는 도구에서, 10번에 1번의 자신만만한 실수는 "인상적인 AI"로 읽히지 않습니다. "이 제품은 믿을 수 없다"로 읽힙니다. 기존 제품 안의 기준선은 랜딩 페이지보다 높습니다. 이미 얻어 둔 신뢰를 쓰고 있기 때문입니다.

모델이 아니라 질문에서 시작하십시오

좋은 소식은, 기존 SaaS가 새 제품은 결코 갖지 못하는 것을 건네준다는 점입니다. 바로 증거입니다. 사용자가 어디서 고생하는지 이미 알고 있습니다. 그들이 매일 알려 주기 때문입니다. 첫 번째 멋진 AI 기능의 원재료는 지원 받은편지함, 이탈 설문, 그리고 사람들이 조용히 피하는 자사 제품의 부분들 속에 놓여 있습니다.

그러니 누군가 프롬프트를 쓰기 전에, 그 증거를 모으러 가십시오. 최근 지원 티켓 이백 건을 읽고 반복되는 것에 태그를 다십시오. 지원팀에게 어떤 질문에 답하기가 지긋지긋한지 물으십시오. 분석에서 사람들이 속도를 늦추고, 이탈하고, 분노의 클릭을 하는 화면을 보십시오. 그 어딘가에 지루하고, 언어의 형태를 띠며, 거듭거듭 반복되는 일이 있습니다. 그리고 그것이 바로 AI가 잘하는 일의 형태입니다.

이 요청들의 공통점에 주목하십시오. 어느 것도 "챗봇을 추가해 줘"가 아닙니다. 구체적이고, 자리 잡혀 있으며, 손에 잡히는 결과로 끝납니다. 그것이 AI 기능과 AI 장난감의 차이입니다. 기능은 작업 흐름 속으로 사라지며 한 단계를 줄입니다. 장난감은 옆에 앉아, 가치를 끌어내려면 별도의 수고를 하라고 사용자에게 요구합니다.

AI 후보를 빠르게 순위 매기는 방법

서너 개에서 여섯 개의 아이디어 후보 목록이 생기면, 기획 회의에서 누가 가장 크게 주장하느냐로 귀결되지 않는 선택 방법이 필요합니다. 저희는 각 후보를 세 개의 무딘 축으로 1점에서 5점까지 채점하고, 합이 가장 높은 것이 보통 이깁니다 — 적어도 올바른 논쟁을 시작합니다.

1. 1
   가치: 사용자가 이것을 얼마나 간절히 원하는가?

   끊임없이 듣는 요청에 답하고 사용자의 시간을 눈에 띄게 아껴 준다면 5점. 팀의 누군가가 떠올린 '있으면 좋은' 것이라면 1점.
2. 2
   허용도: 틀렸을 때 무슨 일이 일어나는가?

   실수가 값싸고 잡아내기 쉽다면 — 어차피 사용자가 검토하는 초안이라면 — 5점. 실수가 조용히 데이터나 돈, 고객 관계를 망친다면 1점.
3. 3
   실현성: 실제로 먹일 것이 있는가?

   기능이 필요로 하는 데이터를 이미 쓸 만한 형태로 보유하고 있다면 5점. 없거나, 접근할 수 없거나, 엉망인 데이터에 의존한다면 1점.
4. 4
   곱한 뒤, 상식으로 점검하라

   셋을 곱하십시오. 그런 다음 인간적인 질문을 던지십시오. 승자의 첫 버전을 대략 한 달 안에 출시할 수 있는가? 그렇지 않다면, 가능해질 때까지 범위를 좁히십시오.

그 가운데 축 — 오류 허용도 — 이야말로 팀이 건너뛰는 축이며, 프로젝트를 가라앉히는 축입니다. 어떤 기능은 고가치이고 완전히 실현 가능하더라도, 여전히 끔찍한 첫 선택일 수 있습니다. 자신만만하게 틀린 답의 대가가 너무 크다는, 오직 그 이유 하나로 말입니다. 첫 AI 기능은 사람이 고리 안에 머물고 실수가 고객이 아니라 몇 초로 끝나는, 어딘가 너그러운 곳에 살아야 합니다.

제품 옆이 아니라 안에 짜 넣으십시오

사람들이 사랑하는 AI 기능과 그저 참고 쓰는 기능을 가르는 실수는 이것입니다. 어디에 두느냐. 본능은 새롭고 분리된 AI 표면 — 패널, 페이지, 채팅 서랍 — 을 추가하게 만듭니다. 출시하기에 깔끔한 방법처럼 느껴지기 때문입니다. 하지만 분리된 표면은 사용자에게 하던 일을 떠나, 다른 곳으로 갔다가, 돌아오라고 요구합니다. 그 단계 하나하나가 사람을 잃습니다.

정착하는 기능은 작업이 이미 일어나는 바로 그 자리에 나타나는 것입니다. 초안 버튼은 사이드바가 아니라 답장 상자 안에 있습니다. 추출된 데이터는 미리 채워지고 편집 가능한 상태로 곧장 양식 필드로 흘러듭니다. 제안된 우선순위는 사용자가 어차피 훑어보는 목록 안에 조용한 배지로 나타납니다. AI는 스스로를 알리지 않습니다. 그저 다음 클릭을 눈에 띄게 더 쉽게 만들 뿐입니다. 장인 정신의 전부가 거기에 있습니다.

여기서도 기존 제품이 있다는 것은 제약이 아니라 선물입니다. 사용자가 막히는 정확한 순간, 곧 채울 정확한 필드, 곧 쓸 정확한 이메일을 이미 알고 있습니다. 그 맥락을 쓰십시오. 같은 모델이라도 제품이 이미 보유한 주변 데이터를 받으면, 빈 채팅 상자가 결코 해낼 수 없던 것보다 열 배 유용한 결과를 내놓습니다. 사용자가 무엇을 원하는지 짐작하지 않기 때문입니다. 이미 알고 있습니다.

사람을 고리 안에 두고 — 그것을 분명히 하십시오

첫 AI 기능에서 가장 안전하고 가장 신뢰받는 패턴은 거의 늘 행동하지 말고 제안하라입니다. AI가 제안하고, 사람이 승인합니다. AI가 이메일 초안을 잡고, 사람이 보냅니다. AI가 필드를 채우고, 사람이 확인합니다. AI가 우선순위를 표시하고, 사람이 결정합니다. 이는 야심의 부족이 아닙니다. 나중에 더 많이 자동화할 수 있게 해 주는 실적을 쌓는 방식입니다.

여기에는 기술만이 아니라 설계의 차원이 있습니다. 무언가가 AI에서 나왔고 사람의 승인을 기다리고 있다는 점을 시각적으로 분명히 하십시오. 은근한 라벨, 다른 배경, 조용한 자동 동작 대신 명시적인 "검토 후 전송". 사용자는 조금 빗나간 AI 제안을, 묻지 않고 일어난 AI 동작보다 훨씬 너그럽게 용서합니다. 전자는 도움 되는 동료처럼 느껴지고, 후자는 소프트웨어가 제멋대로 굴었다고 느껴집니다.

• AI의 출력을, 효력이 생기기 전에 사용자가 편집할 수 있는 초안이나 제안으로 보여 주십시오.
• 기계의 추측을 확정된 사실과 혼동하지 않도록 시각적으로 구별되게 하십시오.
• 언제나 깔끔한 '괜찮습니다'를 제공하십시오 — 사람이 제안을 물리고 예전 방식대로 이어 가게 하십시오.
• AI가 확신이 없을 때는 그렇다고 말하게 하고, 자신만만한 답을 지어내기보다 우아하게 물러서게 하십시오.
• 무엇이 제안되었고 사람이 그것으로 무엇을 했는지 기록하십시오 — 그것이 나중을 위한 정확도 데이터입니다.

그 마지막 항목이 조용히 가장 값집니다. 사용자가 제안을 받아들이거나, 편집하거나, 거부할 때마다, 그들은 당신의 기능이 실제로 얼마나 좋은지 알려 주고 있습니다 — 데모가 아니라 실제 세계에서, 실제 데이터로. 그 피드백 고리가, 기능이 더 자율적으로 될 준비가 되었는지, 어디서 여전히 사람의 손이 핸들에 필요한지 판단하는 방법입니다.

아무도 경고해 주지 않는 엔지니어링의 현실

데모는 쉬운 20%입니다. 실제 SaaS 안에서 AI 기능을 프로덕션 수준으로 만드는 일은 나머지 80%이며, 대부분 모델 자체와는 거의 상관없는 화려하지 않은 작업입니다. 이것을 처음부터 아는 것이 좋습니다. 동작하는 프로토타입에 속아 지키지 못할 출시일을 약속하지 않도록 말입니다.

데이터 배관과 맥락

모델은 당신이 먹이는 만큼만 유용합니다. 어려운 부분은 기존 데이터베이스에서 올바른 맥락을 안정적으로 모으고, 형식을 갖추고, 최신으로 유지하며, 어느 사용자가 무엇을 볼 수 있는지 존중하는 일입니다. 멀티테넌트 SaaS에서는 이것이 엄청나게 중요합니다. 한 고객의 데이터를 실수로 다른 고객의 답에 섞는 AI 기능은 버그가 아니라 사고입니다. 테넌트 격리는 AI 계층 깊숙이까지 이어져야 합니다.

비용과 지연

모든 AI 호출은 돈과 시간을 들이며, 둘 다 사용량에 따라 확장됩니다. 정액 SaaS 구독이 확장되지 않는 방식으로 말입니다. 베타 사용자 열 명에게는 즐거운 기능이, 만 명이 되면 조용히 마진 문제가 될 수 있습니다. 어느 모델이 어느 작업에 맞는지 일찍부터 생각해야 합니다 — 지원 티켓을 분류하는 데 가장 강력하고 가장 비싼 모델은 필요 없습니다 — 반복 작업의 캐싱, 그리고 응답이 1초가 아니라 4초 걸릴 때 기능이 무엇을 하는지도.

실패와 불행한 경로

실제 사용자는 쓰레기를 붙여 넣고, 잘못된 파일을 올리고, 세 가지 언어로 쓰며, 최악의 순간에 당신의 기능에 도달합니다. AI 제공자에 장애가 납니다. 응답이 깨진 형태로 돌아옵니다. 당신의 기능은 나머지 제품을 망가뜨리지 않고 그 모두를 감당해야 합니다. 규칙은 단순하고 엄격합니다. AI 기능의 실패가 핵심 작업 흐름을 함께 끌어내리는 일은 결코 없어야 합니다. 조용히 실패하고, 수동 경로로 물러나며, 사용자가 계속 일하게 해야 합니다.

가격 책정: 기능인가, 부가 상품인가, 아니면 이야기 전부인가?

기능이 동작하면, 많은 팀이 발이 걸리는 비즈니스 질문을 마주합니다. 어떻게 과금할 것인가. 유일한 정답은 없지만, 정직한 패턴 몇 가지는 있습니다. 유지율을 높이고 가격을 정당화하는 부가가치로서 기존 요금제에 녹여 넣을 수 있습니다. 기능이 명백하고 측정 가능한 가치를 전할 때 통하는, 유료 부가 상품이나 상위 등급으로 만들 수 있습니다. 또는 기반 비용이 소비에 따라 실제로 확장될 때, 사용량으로 과금할 수 있습니다.

피해야 할 함정은, AI가 제품인 것처럼 기능에 가격을 매기는 것입니다. 대부분의 SaaS 기업에게 AI는 새로운 제품 라인이 아닙니다 — 기존 제품을 더 가치 있게 만드는 새로운 역량입니다. 고객은 "AI"를 사려는 마음으로 잠에서 깨지 않습니다. 자신의 실제 문제가 조금 더 쉽게 풀리기를 원하고, 그 결과에 대가를 치릅니다 — 뒤에 기계가 있든 없든. 기술이 아니라 결과에 가격을 매기십시오.

작은 하나를 출시하고, 그다음 오르십시오

전략 전체는 단일한 출시가 아니라 하나의 연속으로 귀결됩니다. 사용자가 이미 요청하는, 고가치이고 오류에 너그러운 기능 하나를 고르십시오. 작업이 일어나는 곳에 짜 넣으십시오. 사람을 고리 안에 두십시오. 플래그 뒤에서 고객 일부에게 출시하십시오. 그들이 실제로 어떻게 쓰는지 지켜보고, 거친 부분을 고치고, 그다음 넓히십시오. 그 기능이 제값을 했을 때에야 비로소, 다음의 조금 더 야심 찬 기능에 손을 뻗으십시오.

이것을 몇 번 하면 조용히 강력한 일이 일어납니다. 당신의 제품은 "AI 버튼을 덧붙인 소프트웨어"이기를 멈추고, 고객이 신경 쓰는 특정한 일에서 진정으로 더 똑똑한 도구가 됩니다. 그것은 첫 주에 인상적인 챗봇 데모를 출시하고는, 이후 반년을 아무도 쓰지 않는 이유를 설명하며 보낸 팀보다 훨씬 강한 위치입니다.

자주 묻는 질문