Как ИИ создает новые проблемы управления

Маркер — цифра

Проверять нейросетевой текст на «похожесть» бессмысленно. Текст можно написать складно, не понимая темы, и отличить одно от другого на глаз невозможно.

А вот число проверяется. Оно либо откуда-то взялось, либо нет.

Поэтому вопрос у нас простой: откуда этот показатель. Не «какая формула», а откуда конкретно он здесь и от чего зависит. Если человек не отвечает, работа откладывается, и начинается разбор: как получен показатель, какие величины с ним связаны, что с ним произойдёт, если поменять вводную.

Пятнадцать секунд, а выясняется главное — стоит ли за работой понимание или человек передал дальше то, что получил, потому что оно выглядело правдоподобно.

Почему проверка перестала быть очевидной

Нейросеть ошибается. Это не новость и не претензия — она выдаёт то, что статистически похоже на правильный ответ, а похоже не значит верно. Она не знает вашего проекта, ваших ограничений, вашего заказчика и того, что случилось на прошлой неделе.

Новость в другом: ошибку стало не видно.

Раньше непроверенная работа выглядела непроверенной. Пробелы, пометки, неуверенные формулировки — сама форма сообщала, что здесь ещё надо разбираться. Никому не приходило в голову пускать такое дальше.

Теперь всё выглядит готовым с первой минуты. И проверка, которая раньше напрашивалась сама, перестала напрашиваться. Материал уходит следующему участнику, тот видит аккуратный документ и исходит из того, что кто-то уже посмотрел. Никто не посмотрел.

Дальше расплата приходит не там, где ошибка возникла. Она всплывает у заказчика, в цехе, на приёмке — там, где на цифру наконец опёрлись. Инструмент в этот момент не помогает: он не знает, что изменилось, и никогда не знал, откуда взял исходное число.

Разница между кандидатом и своим сотрудником

Реакция на одну и ту же ситуацию у нас разная, и это принципиально.

На собеседовании неспособность объяснить показатель означает отказ. Не за использование инструмента — сами пользуемся. За то, что дальше любое решение этого человека придётся перепроверять с нуля, а это дороже, чем сделать самому.

С действующим сотрудником разговор другой. Задача не наказать, а не остановить процесс. Разбираемся, что осталось непонятным, где потерялась нить, почему решил, что проверять не нужно. Человека возвращают в работу, а не выводят из неё.

Разница в том, что кандидат — это выбор, а сотрудник — это уже принятое обязательство. Увольнять за то, что человек воспользовался доступным инструментом в системе, которая не объяснила границ его применения, — перекладывать собственную недоработку.

Что должно быть размечено

Из опыта складывается короткий список.

У материала есть статус до того, как он уходит следующему участнику. Черновик остаётся черновиком, пока человек не подтвердил его пригодность своим именем. Это не бюрократия — это одна строка, которая говорит получателю, можно ли на этом строить.

Справка не заменяет источник. Если сделана выжимка по договору или по расчёту, путь к полному тексту сохраняется, а спорные места проверяются отдельно. Выжимка отвечает на вопрос «о чём это», а не на вопрос «что мы обязаны».

У рекомендации есть владелец. Не тот, кто её сгенерировал, а тот, кто принял её в работу и отвечает за последствия. Без этого материал запускает процесс, за который никто не взялся.

И постоянное правило: числа объясняются. Любые — в отчёте, в расчёте, в коммерческом предложении. Не потому что мы подозреваем нейросеть, а потому что необъяснимое число одинаково опасно независимо от происхождения.

Что проверяется на самом деле

Когда спрашивают про цифру, проверяют не память и не знание формулы. Проверяют, было ли принято решение.
Человек, понимающий происхождение показателя, заметит, что вводные изменились. Скажет «здесь не сходится» раньше, чем это скажет клиент. Будет отвечать за результат, потому что результат действительно его.

Человек, который не понимает, — передаточное звено. Ответственность на такой работе держаться не может: не на чем.
Различие вскрывается не при сдаче. Оно вскрывается тогда, когда ситуация выходит за рамки сценария.

Граница

Не всякий результат требует процедуры. Черновик письма правят за минуту. Предварительная структура документа ничего не меняет, пока остаётся материалом для доработки. Риск там локальный, и строить вокруг контроль — тратить время впустую.

Граница проходит там, где материал влияет на обязательство, срок, деньги или ответственность. С этого момента подсказка перестаёт быть нейтральной: она меняет поведение людей, даже если формально называется справкой.

Главное

Нейросеть — отличный инструмент, и запрещать её глупо. Ей можно отдать рутину, черновик, структуру, поиск.

Нельзя отдать проверку. Она ошибается, и ошибается убедительно: гладкий текст выглядит одинаково и когда за ним стоит расчёт, и когда его нет. Поэтому непроверенный результат в работу пускать нельзя.
Проверить может только человек, который понимает предмет. Инструмент за свои выводы не отвечает — отвечает тот, кто их применил.