Материалы

ИИ может слишком уверенно ошибиться: вот как я это ловлю в проверке смет

Из практики проверки смет и договоров

Недавно я наблюдал, как система читает смету на ремонт и натыкается на строку «дополнительные работы по индивидуальному техническому решению». Формулировка нестандартная, спрятана в середине документа. ИИ спокойно относит её к обычным малярным работам по стандартному прайсу и без единой запинки выдаёт: «превышений не найдено». На деле за этой строкой может стоять совсем другая статья расходов и другая цена.

То же самое происходит с процентами. ИИ способен посчитать завышение в 12 процентов, взяв за основу уже накрученную поставщиком цену, и ни разу не усомниться в собственном выводе. Звучит убедительно. В этом и есть опасность.

Почему ИИ вообще так делает

Языковая модель не хранит базу проверенных фактов и не сверяется со справочником перед ответом. Она предсказывает наиболее вероятное продолжение текста, опираясь на то, что видела при обучении. Если формулировка похожа на привычную, модель достраивает её до знакомого варианта, даже когда детали отличаются.

В индустрии это называют галлюцинацией. ИИ не врёт специально: у него просто нет встроенного «я не уверен». Интонация ответа не меняется от того, прав он или ошибся, поэтому гладкий и подробный текст сам по себе ничего не доказывает.

Для сметы или договора это особенно дорого. Одна нестандартная формулировка, задвоенная позиция или скрытая наценка способны стоить сотни тысяч рублей, а уверенный тон ИИ никак не подскажет, что здесь стоит присмотреться внимательнее.

Как я строю на этом проверку

Поэтому в своём инструменте я не спрашиваю у ИИ один раз «всё в порядке?» и не беру голый вердикт. Я заставляю систему разобрать документ по позициям, сверить каждую с рыночными ценами и отдельно поискать задвоения и нестандартные формулировки. Только после этого собирается заключение в Word с конкретными аргументами для разговора с подрядчиком.

Так это сработало в реальном случае. В смете на видеонаблюдение почти на 4,24 млн рублей нашлось завышение около 770 000 рублей: рабочая станция по 314 тысяч при рыночной цене 90–120 тысяч и задвоенная позиция с коммутатором. Заказчик получил список конкретных пунктов вместо общего вывода «дорого», пошёл с ними к подрядчику и добился снижения цены до 3,4 млн, сэкономив около 800 000 рублей. Подробнее в кейсах.

Если сейчас на столе смета или договор, который хочется перепроверить, загрузите его: проверка займёт 90 секунд.