Когда добавлять ИИ-функции в приложение — а когда отказаться

Сейчас на каждого владельца продукта давит тихое требование прикрутить ИИ ко всему, что он создаёт. Инвесторы об этом спрашивают. Конкуренты выносят это в заголовки. Член совета директоров пересылает статью. И вот вполне хорошее приложение обзаводится иконкой с блёстками и окошком чата, о котором никто не просил и которым почти никто не пользуется. Функцию выкатывают, выходит пресс-релиз, а через полгода графики использования плоские. Вопрос никогда не стоял в том, <em>могли</em> ли вы добавить ИИ. Он стоял в том, стоило ли.

Я зарабатываю на жизнь разработкой ПО и ИИ-функций для малого и среднего бизнеса, а значит, у меня есть финансовый интерес уговаривать вас добавлять ИИ повсюду. Я поступлю наоборот. Самое ценное, что я могу предложить, — это способ ещё до того, как вы выделите бюджет, оценить, будет ли ИИ-функция тихо отрабатывать своё или тихо гнить. Потому что провал здесь не драматичен. ИИ-функции редко взрываются. Они просто торчат, неиспользуемые и нелюбимые, обходясь вам в деньги при каждом вызове API и в немного доверия каждый раз, когда пользователь потыкает в них и уходит.

Это руководство — та схема, которой я действительно пользуюсь в таких разговорах. Никаких модных словечек, никаких модных названий моделей, никаких притворств, будто языковая модель — это ответ на вопрос, который вы ещё не задали. Просто практичный способ решить, что относится к приложению, что — к обычному коду, а что — в корзину.

Почему большинство прикрученных ИИ-функций тихо проваливается

Когда ИИ-функция проваливается в небольшом продукте, она почти никогда не проваливается из-за того, что модель оказалась недостаточно умна. Она проваливается потому, что функцию выбрали по неверным причинам. Кто-то хотел иметь ИИ, а не решить конкретную, болезненную задачу, которой ИИ как раз был нужен. Целью была технология, а проблема пользователя — задним числом. Пользователи чуют это мгновенно.

Второй частый провал тоньше: функция решает реальную проблему, но такую, которую обычный код решил бы дешевле и надёжнее. Кнопка с подписью «на базе ИИ», которая просто сортирует список по дате, — это обуза, а не функция. Вы взяли нечто детерминированное, сделали его медленнее, дороже и временами ошибочным, а затем разрекламировали это ухудшение. Это пользователи тоже замечают.

Третий провал — это доверие. ИИ-функции вероятностны: чаще всего они правы и иногда уверенно ошибаются. Если вы вставите такую в процесс, где неверный ответ дорого обходится, а у пользователя нет способа его поймать, вы добавили не функцию, а мину. Хорошая новость в том, что все три сценария провала предсказуемы, а значит, их можно избежать. Нужно лишь задать правильные вопросы до начала, а не после выкатки.

Честный тест: это действительно задача для ИИ?

Вот самый полезный фильтр, что я знаю. Для любой функции, которую вас тянет сделать «умной», спросите: следует ли эта задача жёстким правилам или требует понимания хаотичного, человеческого ввода? Если задача следует правилам — отсортируй по этому, посчитай то, отправь напоминание за два часа — вам нужен обычный код. Он дешевле, быстрее, полностью предсказуем и никогда не галлюцинирует. Называть это ИИ — просто дорогой маркетинг.

ИИ заслуживает своего места там, где ввод по-настоящему хаотичен и человечен по форме: свободный текст, который правила не предусмотрят, изображения, речь, документы в сотне разных вёрсток, язык, который нужно понять, а не сопоставить. Это то, что раньше вообще нельзя было автоматизировать. Если ваша функция живёт там, ИИ — не уловка, а единственный практичный способ её построить. Мастерство в том, чтобы честно различать эти две категории, особенно когда есть давление называть всё ИИ.

Где ИИ действительно уместен в приложении

Давайте конкретно. За годы разработки короткий список паттернов снова и снова доказывает свою ценность — не потому, что они в моде, а потому, что лежащая в основе задача действительно про понимание неструктурированного ввода. Это те функции, к которым пользователи реально возвращаются.

• Превращение свободного текста в структурированные данные — прочитать сумбурное письмо клиента и вытащить из него заказ, адрес, срок.
• Составление первого варианта — ответа, резюме, описания, — который затем правит человек, а не ИИ отправляет без присмотра.
• Поиск, который понимает смысл, а не только ключевые слова, чтобы пользователи находили нужный документ, даже сформулировав иначе, чем вы его сохранили.
• Классификация или маршрутизация потока входящих элементов — тикетов поддержки, писем, загрузок, — чтобы нужное попадало в нужное место.
• Извлечение информации из документов и изображений: счетов, чеков, форм, фотографий с места.
• Диалоговая помощь по вашим собственным данным, где пользователь задаёт простой вопрос и получает ответ, основанный на вашем контенте.

Заметьте закономерность. В каждом из этих случаев ввод непредсказуем и человечен, а небольшая доля ошибок терпима, потому что в цепочке есть человек или цена ошибки невелика. Эта связка — хаотичный ввод, прощающие ставки — естественный дом ИИ-функции. Когда вы находите задачу, подходящую под обе половины, вы, вероятно, нашли функцию, которую стоит строить.

Где ИИ лучше не трогать

Не менее важно знать, где не тянуться к ИИ, потому что неверное размещение не просто тратит деньги — оно активно подтачивает доверие, которое заслужил ваш продукт. Некоторые задачи выглядят соблазнительно, а оказываются ловушками.

Есть и более тихая цена. Каждая ИИ-функция — это то, что вам теперь нужно отслеживать, оценивать и оплачивать при каждом вызове. Три ИИ-функции, которым доверяют ваши пользователи, стоят больше десяти, что время от времени вас конфузят. Модель, ошибшаяся на глазах клиента в неподходящий момент, способна перечеркнуть год тщательно выстроенного доверия. Сдержанность здесь — не робость, а продуктовое чутьё.

Быстрая карта: строить, пропустить или сделать позже

Чтобы было менее абстрактно, вот как горстка частых идей «давайте добавим ИИ» обычно раскладывается, когда прогоняешь их через тест выше. Воспринимайте это как разумную отправную точку для спора, а не как догму.

Форма таблицы и есть урок. «Да» скапливаются там, где ввод хаотичен, а ставки прощающие. «Нет» скапливаются там, где задача на самом деле на правилах или где неверный ответ ранит, а никто не проверяет. Если вы можете честно поместить свою идею на эту сетку, большую часть решения вы уже приняли.

Время: даже хорошую ИИ-функцию можно добавить слишком рано

Иногда функция действительно к месту, а ответ всё равно — пока нет. У ИИ-функций есть коварная предпосылка, которую основатели недооценивают: они настолько хороши, насколько хороши данные и процесс, на которых они держатся. Семантический поиск по вашим документам прекрасен — как только документы действительно упорядочены. Ассистент, отвечающий на вопросы о вашем продукте, великолепен — как только контент о продукте перестаёт быть противоречивой кашей. ИИ усиливает всё, на чём построен, включая хаос.

Поэтому, прежде чем добавлять умный слой, убедитесь, что скучный слой под ним прочен. Если ядро приложения ещё встаёт на ноги, вкладывать инженерное время в ИИ-функцию — обычно занимать не с того счёта. Неприглядная правда в том, что лучшее время добавить ИИ часто наступает после того, как вы освоили фундамент, — когда у вас есть реальные пользователи, реальные данные и ясная, повторяющаяся боль, которую ИИ уникально способен убрать.

Как добавить ИИ-функцию без сожалений

Допустим, вы нашли функцию, проходящую тест: хаотичный ввод, прощающие ставки, прочный фундамент под ней, реальная боль, которую нужно убрать. Хорошо. Теперь та часть, где команды либо строят нечто долговечное, либо то, что тихо вырвут в следующем году. Отнеситесь к этому как к аккуратному эксперименту, а не к запуску.

1. 1
   Запишите задачу одним предложением

   «Ассистент читает входящее письмо и заполняет форму заказа, которую подтверждает человек.» Если вы не можете написать это предложение, функция не готова — вы пока влюблены в технологию, а не в задачу.
2. 2
   Поначалу держите человека в цепочке

   Пусть ИИ составляет черновик, подсказывает или предзаполняет — а человек утверждает. Вы узнаете, где он надёжен, а где нет, прежде чем вообще доверите ему действовать в одиночку, если когда-либо доверите.
3. 3
   Решите, что происходит при ошибке

   Вероятностным функциям нужен изящный отказ. Как пользователь это заметит? Как он это исправит? ИИ-функция без видимой кнопки «отменить» или «это неверно» — это функция, которой нельзя доверять в эксплуатации.
4. 4
   Измеряйте использование, а не новизну

   Отслеживайте, пользуются ли люди ею после первой недели и экономит ли она обещанное время. Функция, которая взлетает на запуске и затем выходит в плато, что-то вам говорит. Прислушайтесь.
5. 5
   Будьте готовы её удалить

   Если цифры говорят, что она не окупает себя, отрежьте её. Меньший продукт, надёжно делающий несколько вещей, бьёт раздутый, утыканный ИИ-функциями, которых никто не касается.

Нить, проходящая через все пять шагов, — смирение перед ошибкой. Обычный код либо работает, либо в нём баг, который вы чините. ИИ чаще всего прав и иногда ошибается — всегда; это его природа, а не дефект, который можно залатать. Спроектируйте функцию вокруг этой реальности — и она станет активом. Притворитесь, что ИИ всегда прав, — и вы построили ту самую мину, о которой мы говорили раньше.

Шире картина: ИИ — это инструмент, а не стратегия

Отойдите достаточно далеко — и весь вопрос упрощается. ИИ — это инструмент, как база данных или строка поиска. Вы не строите продукт вокруг наличия базы данных; вы используете базу там, где она делает продукт лучше. Та же сдержанность хорошо послужит вам и здесь. Компании, получающие от ИИ реальную ценность, — не те, кто добавил его больше всех, а те, кто добавил его ровно в те несколько мест, где он убирает настоящее трение, и удержался везде ещё.

Эта сдержанность, к слову, и делает тот ИИ, который вы всё же добавляете, впечатляющим. Когда на каждом экране недопечённый ассистент, ни один не кажется особенным. Когда одна функция тихо читает письмо клиента и каждый раз экономит вашей команде десять минут, люди её запоминают. Меньше, острее, по-настоящему полезно — вот та версия ИИ, которую стоит строить, и та, за которую пользователи действительно скажут вам спасибо.

Частые вопросы