Шесть задач, где нейросеть только мешает

Нейросеть в бизнесе чаще вредит там, где от системы ждут точности и ответственности. Шесть задач, в которых её ставят регулярно и зря, а обычный код или живой человек справляются лучше. Дальше — по одной, с возражением противоположной стороны в конце.

Расчёт цены

Цена — это арифметика. У неё есть единственно правильный ответ, и он либо получен, либо нет.

Модель отвечает правдоподобно, а не точно. Разница в сто рублей в смете не выглядит ошибкой, но это ошибка, и обнаружится она при оплате.

В ToYou Wood сайт считает смету по размерам, и там нет никакой модели. Есть формула с границами параметров и одно место округления, потому что первая версия расходилась с суммой к оплате на несколько рублей из-за разного округления в двух точках кода.

Правило простое. Деньги считает код. Слова про деньги может писать модель.

Это же касается скидок, бонусов и условий рассрочки. Любая цифра, которую клиент увидит и запомнит, должна быть выведена, а не сформулирована.

Наличие и сроки

Сколько штук на складе и когда приедет заказ — вопросы к базе данных.

Помощник, которому не дали доступ к остаткам, отвечает на них тем, что похоже на правду. Клиент получает срок, магазин получает спор.

Это худший вид ошибки: она выглядит нормальным ответом. Нет пустого экрана, нет сообщения о сбое, есть уверенно названная дата, которой никто не обещал.

Лечится только доступом к данным как к данным, а не как к тексту. Пока такого доступа нет, вопрос должен уходить человеку.

Юридические формулировки

Договор, оферта, политика обработки данных, ответ на претензию. Всё, под чем стоит подпись.

Здесь цена ошибки не в неудобстве, а в обязательстве. Сгенерированный текст читается гладко и может содержать условие, которое вы не собирались на себя брать.

Модель годится на роль черновика для юриста. На роль юриста она не годится, и подпись под документом ставит не она.

Поиск по точному признаку

Артикул, номер заказа, ИНН, код детали.

Совпадение символов ищется точным сравнением: быстро, дёшево, без вариантов трактовки. Смысловой поиск на такой задаче добавляет расход и вносит неопределённость.

Векторный поиск мы ставим ровно там, где человек описывает своими словами то, что не знает как назвать. Рядом с ним всегда остаётся обычный поиск, и он работает первым.

Принятие решений о людях

Оценка сотрудника, отбор резюме, разбор конфликта, решение о скидке постоянному клиенту. Задачи, где на другой стороне живой человек, который потом спросит почему.

У таких решений есть контекст, которого нет в тексте, и есть последствия, за которые кто-то отвечает лично. Ответственность нельзя делегировать тому, кто не может её нести.

Подготовить материалы к решению модель может: собрать факты, сделать выжимку, разложить по критериям. Решать — нет.

Тексты, которые никто не читает

Самая частая ошибка, и она не про технологию.

Магазин генерирует триста описаний товаров, чтобы «было наполнение», и получает триста текстов, которые не отвечают ни на один вопрос покупателя. В детском магазине «Жук и Плут» первая версия консультанта отвечала «обратите внимание на наш каталог развивающих игр» — грамматически безупречно и абсолютно пусто.

Причина всегда одна: модели дали пустой вход. Карточка отвечает на вопрос «что это», а покупатель спрашивает «зачем это мне».

Генерация умножает материал, а не создаёт его. Умноженный ноль остаётся нулём.

Почему это происходит снова и снова

Причина не в глупости заказчика. Причина в разнице цены.

Подключить чат-помощника к описаниям товаров — работа на день. Дать ему доступ к остаткам, ценам и правилам доставки как к структурированным данным — работа на недели, потому что этих данных обычно нет в пригодном виде.

Дешёвый путь даёт видимую функцию сразу. Дорогой даёт пользу потом. Выбирают первый и удивляются результату.

Второй двигатель — ожидание, что технология заменит недостающий материал. Магазин без описаний надеется, что модель их придумает. Она придумает, и это будет ровно то, чего боялся владелец.

Как проверить задачу за две минуты

Три вопроса до того, как заказывать разработку.

Первый: у ответа один правильный вариант или много допустимых? Один — это код. Много — можно смотреть в сторону модели.

Второй: что произойдёт, если ответ будет неверным? Клиент подождёт лишний час — терпимо. Клиент получит обещание, которое вы не выполните — недопустимо.

Третий: откуда берётся материал для ответа? Если из вашей базы и ваших текстов — работать будет. Если из общих знаний модели — вы получите вежливые общие слова.

Задача проходит все три — беритесь. Спотыкается хоть на одном — сначала чините данные, потом возвращайтесь к технологии.

Слово противоположной стороне

Возражение первое, и оно справедливое: часть моих примеров — это претензии к плохому внедрению, а не к технологии. Модель с доступом к остаткам действительно назовёт правильный срок, а не выдуманный. Тут спорить не с чем: вопрос в том, что доступ к данным делается дороже, чем подключение чата, и потому его чаще всего не делают.

Возражение второе: черновик экономит время даже там, где решение остаётся за человеком. Тоже правда. Юрист, правящий готовый текст, тратит меньше времени, чем юрист с чистым листом.

Возражение третье: граница между «есть однозначный ответ» и «ответ формулируется словами» подвижна, и там, где сегодня нужен человек, через год хватит проверки. Возможно. Я говорю про то, что можно ставить в работающий бизнес сейчас, а не про то, чем это станет.

Что остаётся неизменным в любом из этих возражений: между результатом модели и клиентом нужен человек ровно тогда, когда ошибка создаёт обязательство.

Коротко

Не отдавайте модели расчёт цены, наличие и сроки, юридические формулировки, поиск по точным кодам и решения о людях.

Не генерируйте тексты из пустого входа: умножится пустота. Оппоненты правы в том, что половина этих провалов — следствие плохого внедрения, а не природы технологии, и что черновик экономит время. Граница проходит по цене ошибки: где ошибка создаёт обязательство, там нужен человек или код. Разборы задач, где ИИ окупается, лежат в блоге.