앱에 AI 기능을 더해야 할 때, 그리고 건너뛰어야 할 때

지금 모든 제품 책임자에게는 만들고 있는 무엇에든 AI를 갖다 붙이라는 조용한 압박이 있습니다. 투자자가 그것을 묻습니다. 경쟁사가 헤드라인에 내겁니다. 이사회 위원이 기사를 전달해 옵니다. 그렇게 멀쩡한 앱에 아무도 요청하지 않았고 거의 아무도 쓰지 않는 반짝이 아이콘과 채팅 창이 돋아납니다. 기능이 출시되고 보도자료가 나가지만, 여섯 달 뒤 사용 그래프는 평평합니다. 문제는 결코 AI를 더할 <em>수 있느냐</em>가 아니었습니다. 더해야 하느냐였습니다.

저는 중소기업을 위한 소프트웨어와 AI 기능을 만들어 먹고삽니다. 즉 무엇에든 AI를 더하라고 권할 금전적 동기가 있는 사람입니다. 저는 그 반대를 하겠습니다. 제가 드릴 수 있는 가장 값진 것은, 예산을 들이기 전에 AI 기능이 조용히 제 몫을 할지 아니면 조용히 썩어갈지를 가늠하는 방법입니다. 여기서의 실패는 극적이지 않기 때문입니다. AI 기능은 좀처럼 터지지 않습니다. 그저 쓰이지도 사랑받지도 못한 채 자리를 차지하며, API 호출마다 비용을, 사용자가 찔러 보고 떠날 때마다 약간의 신뢰를 앗아갑니다.

이 안내서는 그런 대화에서 제가 실제로 쓰는 틀입니다. 유행어도, 멋부린 모델 이름도, 아직 묻지도 않은 질문의 답이 언어 모델이라는 가식도 없습니다. 무엇이 앱에 어울리고, 무엇이 평범한 코드에 어울리며, 무엇이 휴지통행인지를 정하는 실용적인 방법뿐입니다.

갖다 붙인 AI 기능 대부분이 조용히 실패하는 이유

작은 제품에서 AI 기능이 무너질 때, 그것이 모델이 충분히 똑똑하지 못해서 무너지는 일은 거의 없습니다. 잘못된 이유로 기능을 골랐기 때문에 무너집니다. 누군가가 마침 AI가 필요한 구체적이고 아픈 무언가를 해결하려 한 것이 아니라, AI를 갖고 싶었을 뿐입니다. 목적은 기술이었고, 사용자의 문제는 뒷전이었습니다. 사용자는 그것을 즉시 알아챕니다.

두 번째로 흔한 실패는 더 미묘합니다. 기능이 진짜 문제를 풀긴 하지만, 평범한 코드가 더 싸고 더 미덥게 풀 수 있었던 문제인 것입니다. 목록을 날짜순으로 정렬만 하면서 “AI 기반”이라 적힌 버튼은 기능이 아니라 짐입니다. 결정론적인 것을 더 느리고, 더 비싸고, 이따금 틀리게 만들어 놓고는 그 격하를 광고한 셈입니다. 사용자는 그것도 알아챕니다.

세 번째 실패는 신뢰입니다. AI 기능은 확률적입니다. 대개는 맞고 더러는 자신만만하게 틀립니다. 틀린 답이 비싸고 사용자가 그것을 잡아낼 길이 없는 업무 흐름에 그것을 떨어뜨리면, 더한 것은 기능이 아니라 지뢰입니다. 좋은 소식은 세 가지 실패 양상이 모두 예측 가능하다는 것, 즉 피할 수 있다는 것입니다. 출시한 뒤가 아니라 시작하기 전에 올바른 질문을 던지기만 하면 됩니다.

정직한 시험: 이것은 정말 AI 문제인가

제가 아는 가장 쓸모 있는 필터는 이것입니다. “똑똑하게” 만들고 싶은 어떤 기능이든 이렇게 물으십시오. 이 작업은 정해진 규칙을 따르는가, 아니면 어수선하고 인간적인 입력의 이해를 요구하는가? 작업이 규칙을 따른다면——이것으로 정렬, 저것을 계산, 두 시간 전에 알림 발송——평범한 코드가 답입니다. 더 싸고, 더 빠르고, 완전히 예측 가능하며, 결코 환각을 일으키지 않습니다. 그것을 AI라 부르는 것은 비싼 마케팅일 뿐입니다.

AI가 제자리를 얻는 곳은 입력이 진정 어수선하고 인간의 형태를 띤 곳입니다. 규칙이 예측할 수 없는 자유 텍스트, 이미지, 음성, 수백 가지 서로 다른 양식의 문서, 대조가 아니라 이해해야 하는 언어. 이것들은 한때 자동화 자체가 불가능했던 것들입니다. 당신의 기능이 그곳에 산다면, AI는 눈속임이 아니라 그것을 만드는 유일하게 실용적인 방법입니다. 솜씨란, 무엇이든 AI라 부르라는 압박 속에서도 두 범주를 정직하게 가려내는 것입니다.

AI가 앱에 정말로 어울리는 곳

구체적으로 이야기하겠습니다. 여러 해 만들어 온 끝에, 짧은 패턴 목록이 그 가치를 거듭 증명하고 있습니다. 유행이어서가 아니라, 그 밑바탕의 작업이 진정 비정형 입력의 이해에 관한 것이기 때문입니다. 사용자가 실제로 다시 찾는 것이 바로 이런 기능들입니다.

• 자유 텍스트를 구조화된 데이터로 바꾸기——두서없는 고객 이메일을 읽고 주문, 주소, 마감일을 뽑아내기.
• 초안 만들기——답장, 요약, 설명문——을 사람이 이어서 다듬기. AI가 감독 없이 보내는 것이 아니라.
• 키워드뿐 아니라 의미를 이해하는 검색. 당신이 정리한 것과 다르게 표현해도 사용자가 알맞은 문서를 찾도록.
• 밀려드는 항목——지원 티켓, 이메일, 업로드——을 분류·라우팅하여 알맞은 것이 알맞은 곳에 닿도록 하기.
• 문서와 이미지에서 정보 뽑아내기: 청구서, 영수증, 양식, 현장 사진.
• 당신 자신의 데이터에 관한 대화형 도움. 사용자가 평이하게 묻고 당신의 콘텐츠에 근거한 답을 얻기.

패턴에 주목하십시오. 이들 모두에서 입력은 예측 불가능하고 인간적이며, 사람이 고리 안에 있거나 오류의 비용이 낮기에 약간 틀려도 견딜 만합니다. 그 조합——어수선한 입력, 너그러운 판돈——이 AI 기능의 자연스러운 보금자리입니다. 두 절반에 모두 들어맞는 작업을 찾았다면, 아마도 만들 가치가 있는 기능을 찾은 것입니다.

AI를 그냥 내버려 두어야 할 곳

똑같이 중요한 것은 어디서 AI에 손을 뻗지 말아야 하는지를 아는 것입니다. 잘못된 배치는 돈을 낭비할 뿐 아니라, 제품이 쌓아 온 신뢰를 적극적으로 갉아먹기 때문입니다. 어떤 작업은 솔깃해 보이지만 함정으로 드러납니다.

더 조용한 비용도 있습니다. AI 기능은 저마다 이제 당신이 감시하고, 평가하고, 호출마다 비용을 치러야 하는 대상입니다. 사용자가 신뢰하는 AI 기능 세 개가, 이따금 당신을 망신시키는 열 개보다 값집니다. 잘못된 순간에 고객 앞에서 틀린 모델은 공들여 쌓은 일 년 치 신뢰를 무너뜨릴 수 있습니다. 여기서의 절제는 소심함이 아니라 제품 감각입니다.

빠른 지도: 만들까, 건너뛸까, 아니면 나중에 할까

덜 추상적으로 만들기 위해, 흔한 “AI를 더하자” 아이디어 몇 가지를 위의 시험에 돌리면 대체로 어떻게 정리되는지 보여 드립니다. 복음이 아니라, 따져 볼 합리적인 기본값으로 받아들이십시오.

표의 모양 자체가 교훈입니다. ‘예’는 입력이 어수선하고 판돈이 너그러운 곳에 몰립니다. ‘아니요’는 작업이 실은 규칙 기반이거나, 틀린 답이 아프고 아무도 확인하지 않는 곳에 몰립니다. 당신의 아이디어를 그 격자에 정직하게 놓을 수 있다면, 결정의 대부분은 이미 내린 셈입니다.

시점: 좋은 AI 기능도 너무 일찍 더할 수 있다

때로는 기능이 정말 잘 맞는데도 답은 여전히 아직 아니다입니다. AI 기능에는 창업자가 얕보는 교묘한 전제가 있습니다. 그것이 올라탄 데이터와 업무 흐름만큼만 좋을 수 있다는 것입니다. 문서에 대한 의미 검색은 훌륭합니다——문서가 실제로 정리되어 있을 때라야. 제품에 관한 질문에 답하는 도우미는 빼어납니다——제품 콘텐츠가 모순투성이 난장판이 아닐 때라야. AI는 혼돈을 포함해 그 위에 세워진 모든 것을 증폭합니다.

그러니 영리한 층을 더하기 전에, 그 아래의 지루한 층이 단단한지 확인하십시오. 핵심 앱이 아직 자리를 잡는 중이라면, AI 기능에 엔지니어링 시간을 쏟는 것은 대개 엉뚱한 계좌에서 빌리는 일입니다. 화려하지 않은 진실은 이렇습니다. AI를 더할 가장 좋은 때는 흔히 기본기를 다진 뒤입니다——실제 사용자, 실제 데이터, 그리고 AI만이 독보적으로 없앨 수 있는 분명하고 반복되는 고통이 갖춰졌을 때.

후회 없이 AI 기능을 더하는 법

시험을 통과하는 기능을 찾았다고 합시다. 어수선한 입력, 너그러운 판돈, 아래의 단단한 토대, 없앨 진짜 고통. 좋습니다. 이제 팀이 오래갈 무언가를 만들지, 아니면 내년에 조용히 뜯어낼 무언가를 만들지 갈리는 대목입니다. 이것을 출시가 아니라 신중한 실험으로 다루십시오.

1. 1
   한 문장으로 일을 적으세요

   “도우미가 들어온 이메일을 읽고 주문 양식을 채우면 사람이 확인한다.” 그 문장을 적을 수 없다면 기능은 아직 준비되지 않았습니다. 당신은 작업이 아니라 기술에 아직 빠져 있는 것입니다.
2. 2
   처음에는 사람을 고리 안에 두세요

   AI에게 초안을 잡고, 제안하고, 미리 채우게 하고——승인은 사람에게 맡기십시오. 단독으로 행동하도록 믿기 전에, 설령 언젠가 믿게 되더라도, 어디서 미덥고 어디서 그렇지 않은지 배우게 됩니다.
3. 3
   틀렸을 때 무슨 일이 일어날지 정하세요

   확률적 기능에는 우아한 실패가 필요합니다. 사용자는 어떻게 알아챕니까? 어떻게 바로잡습니까? 눈에 보이는 ‘되돌리기’나 ‘그건 틀렸어’ 경로가 없는 AI 기능은 운영에서 믿을 수 없는 기능입니다.
4. 4
   참신함이 아니라 사용을 측정하세요

   첫 주가 지난 뒤에도 사람들이 실제로 쓰는지, 약속한 시간을 아껴 주는지 추적하십시오. 출시 때 치솟았다가 이후 평평해지는 기능은 당신에게 무언가를 말하고 있습니다. 귀를 기울이세요.
5. 5
   기꺼이 없앨 각오를 하세요

   수치가 제값을 못 한다고 말하면 잘라내십시오. 몇 가지를 미덥게 해내는 작은 제품이, 아무도 건드리지 않는 AI 기능으로 부풀려진 제품을 이깁니다.

다섯 단계를 꿰는 실은 틀림에 대한 겸손입니다. 평범한 코드는 작동하거나, 고치면 되는 버그가 있을 뿐입니다. AI는 대개 맞고 더러는 틀립니다, 영원히——그것은 결함이 아니라 본성이며, 패치로 지울 수 있는 것이 아닙니다. 그 현실을 중심으로 기능을 설계하면 그것은 자산이 됩니다. AI가 늘 맞는 척하면, 앞서 말한 지뢰를 만든 것입니다.

더 큰 그림: AI는 도구이지 전략이 아니다

충분히 물러서서 보면 질문 전체가 더 단순해집니다. AI는 도구입니다. 데이터베이스나 검색창이 도구인 것과 같습니다. 데이터베이스를 갖는 것을 중심으로 제품을 짓지는 않습니다. 제품을 더 낫게 하는 곳에서 데이터베이스를 씁니다. 같은 절제가 여기서도 잘 통합니다. AI에서 진짜 가치를 얻는 회사는 그것을 가장 많이 더한 회사가 아니라, 진짜 마찰을 없애는 바로 그 몇 군데에만 정확히 더하고 다른 어디서나 참은 회사입니다.

덧붙이자면 그 절제야말로 당신이 실제로 더한 AI를 인상적으로 느끼게 합니다. 화면마다 설익은 도우미가 있으면 어느 것도 특별해 보이지 않습니다. 한 기능이 조용히 고객의 이메일을 읽고 매번 팀의 10분을 아껴 주면 사람들은 그것을 기억합니다. 더 적게, 더 날카롭게, 진짜로 쓸모 있게——그것이 만들 가치가 있는 AI의 모습이며, 사용자가 실제로 당신에게 고마워할 모습입니다.

자주 묻는 질문