ИИ не ради ИИ
Тон встрече задал директор по данным RWB Павел Раваев. Он начал с важного разграничения: ажиотаж вокруг нейросетей и реальная эффективность ИИ-инструментов — не одно и то же. В RWB действует принцип «не внедрять ИИ ради ИИ». Правильный вопрос, по словам Раваева, звучит не «куда прикрутить нейросеть», а «какую реальную задачу она решит лучше, чем простая эвристика». В RWB ежедневно запускаются десятки и сотни экспериментов — часть гипотез откатывают, признавая, что алгоритмы иногда дешевле и надежнее. Но там, где ИИ оправдан, цифры говорят сами за себя: например, поиском по фото пользуются 1,7 млн человек в день, а генеративные инструменты для продавцов улучшили более 3 млн карточек товаров.
Значительная часть ИИ-сценариев при этом остается невидимой для покупателя — прогнозирование спроса, оптимизация поставок, маршрутизация на складах.
«Внедрение ИИ в production на большом масштабе — это не магия, а постоянные компромиссы, ограничения и инженерный вкус, позволяющий сказать «нет» нейросетям там, где достаточно хороших данных и алгоритмов». - директор по данным RWB Павел Раваев.
Руководитель ML-платформы Даниил Понизов и MLOps-инженер Роман Лазовский из RWB рассказали, как применение ИИ для автоматизации IT-операций помогает решать проблемы при эксплуатации сервисов машинного обучения и генеративного ИИ, которые требуют значительных вычислительных ресурсов и больших затрат. Они поделились опытом внедрения AIOps-платформы KeepHQ, которая повысила эффективность использования вычислительных мощностей для ИИ и сотен сервисов в полтора раза. Также технология автоматизировала процессы реагирования и контроля разрешения поступающих уведомлений о сбоях и отклонениях. Руководитель направления машинного обучения Антон Костин и ML-разработчик из RWB Виталий Подобедов рассказали про сервис, который генерирует тексты напрямую из аудиовизуального контента.
О том, что представляет собой запуск продуктов на базе больших языковых моделей, рассказал руководитель направления «Модели и сервисы для ИИ-ассистентов» RWB Юрий Софронов. Модель действительно важна: чем она лучше, тем выше качество генерируемого контента. Но даже в продуктах с языковой моделью под капотом она — лишь верхушка айсберга.
«При разработке сервисов на базе LLM часто упускают из виду три ключевых вопроса: подходят ли данные для использования с языковой моделью, справится ли кодовая инфраструктура и выбранные технологии с масштабированием решения и выдержат ли вычислительные мощности разнообразную и высокую нагрузку». - руководитель направления «Модели и сервисы для ИИ-ассистентов» RWB Юрий Софронов.
При этом в RWB не просто знают об этих проблемах в теории — Софронов поделился реальным опытом их решения. По его словам, многие представляют запуск LLM-продукта примерно так: скачал пару библиотек с открытым исходным кодом, настроил промпты, подключил API до языковой модели. На практике за выводом сервиса в боевую эксплуатацию стоит куда более сложный путь: с этапами, которые легко пропустить, ошибками, которых стоит избегать, и вещами, про которые точно нельзя забыть.
Когда ИИ действительно нужен
Панельная дискуссия началась с провокационного тезиса руководителя направления Supply and Demand Balance в области DS & ML RWB Михаила Дьячкова: половине ИИ-фич искусственный интеллект на самом деле не нужен. Участники пытались понять, как определить, когда лучшего результата можно добиться с помощью ИИ, а когда — эвристическими методами. Часто приходится выяснять это под давлением топ-менеджмента, который считает применение ИИ панацеей для устранения любых сложностей.
«Если на входе хаос, то и на выходе тоже хаос. Нужно спросить: а почему именно этот инструмент? Обычно такой вопрос помогает разобраться, осознанный это выбор ИИ или нет», — подсказал метод руководитель направления искусственного интеллекта и архитектор AI/ML-решений red_mad_robot Даниил Поляков.
Руководитель продукта платформы генеративного ИИ Сбера Артем Аюпов предложил простую рамку: если у задачи нет четких границ, ИИ эффективен; если границы определены, чаще выигрывает обычная логика. По его словам, нейросети хорошо работают в копирайтинге, кодинге и дизайне. Но их использование неоправданно, например, во многих задачах кибербезопасности, для которых классические классификаторы точнее, чем LLM. Директор департамента защиты от DDoS-атак RWB Алексей Медошин добавил, сославшись на личный опыт, что в антиботе и антиддосе большинство задач решаются эвристикой. «ML оправдан только при больших объемах данных, когда аномалию невозможно выявить визуально или скриптами. Но как только устойчивая закономерность в данных найдена, решение снова уходит в эвристику», — пояснил он.
Для руководителя команды GenAI-пилотов Альфа-Банка Ксении Михайловой ключевым критерием при оценке AI-проектов остается бизнес-эффект. «Мы оцениваем инициативы через потенциальную экономию времени и ресурсов. И часто оказывается, что ожидаемый эффект не оправдывает затраты на внедрение. Например, попытка сэкономить один час рабочего времени в день может потребовать непропорционально больших инвестиций», — отмечает Михайлова. По ее словам, в Альфа-Банке тестируют практически все перспективные гипотезы, однако до промышленной эксплуатации доходят лишь 20–30% проектов R&D-команды банка.
Во втором блоке дискуссии участники разбирали системы агентов и LLM и пытались ответить на вопрос: что важнее для результата — сама модель или контуры вокруг нее? Большинство указало на контуры. Последние полгода в отрасли растет значимость системного инжиниринга. Этот тренд смещает фокус с промпт-инжиниринга на особенности организации контекста, описания инструментов, структуру управления последовательностью действий внутри агента. По сравнению с тем, что дает улучшение самой модели, результаты выросли. Впрочем, участники признают, что качество модели тоже влияет на показатели.
Александр Гирев, Android Team Lead WB Partners, работает с локальными LLM, и его опыт подтверждает, что маленькая модель с трудом поддерживает длинный агентский цикл. «Она просто не понимает, что задача не завершена. Более сильная модель после донастройки справляется значительно лучше», — говорит он. Даниил Поляков обратил внимание на критическую важность роли DWH (хранилища данных, где собирается информация из разных источников для анализа) и качества данных и описания бизнес-процессов компании. «В копилоте аналитика при расчете выручки модель начнет галлюцинировать без направляющей обвязки. Ей нужна не только «умность», но и маршрутизация через бизнес-контекст компании в читаемом для LLM виде», — убежден Поляков.
GenAI должна дообучаться под задачу, как человек. По словам Ксении Михайловой, работа с GenAI требует настройки под конкретную задачу. Именно поэтому в Альфа-Банке бизнес-пользователи могут самостоятельно изменять промпты ИИ-платформы AlfaGen. «Пользователи часто не могут сразу полностью формализовать бизнес-задачу. Возможность самостоятельно уточнять запрос помогает быстрее получать нужный результат. Если такой возможности нет, сохраняется восприятие ИИ как волшебной палочки, которая должна сразу выдавать готовое решение», — отметила она.
Где прячутся лучшие кейсы
Самые ценные кейсы применения ИИ — не фронтальные, а скрытые в операционных процессах, логистике, складской маршрутизации. Алексей Медошин привел пример невидимого, но полезного для пользователя решения. «Антибот, который пропускает человека без капчи и не ломает пользовательский опыт. Это успех. Если нужна капча — есть риск потерять клиента», — говорит Медошин. Артем Аюпов рассказал о LLM, извлекающей ценные выводы из отзывов клиентов. «Топ-менеджер получил прозрачную обратную связь о болях пользователей, что существенно улучшило качество продуктового развития», — привел пример он.
По словам Даниила Полякова, высокий экономический потенциал спрятан в непримечательных для конечных пользователей нишах. «Автоматизация процессов на 1С. LLM на нем почти не обучались, а тысячи предприятий им живут. Анализ тендеров застройщиков и нефтяных компаний, разбор договоров аренды, машиностроение, логистика. Большой объем текста, высокая цена ошибки, почти нет конкуренции — и при этом важна доменная экспертиза, которой в LLM по умолчанию нет», — перечислил направления Поляков. У него есть положительный опыт с Claude Code, который за полдня провел аудит мебельного цеха. Тот же анализ выручки, воронки, отзывов и извлечение уникального торгового предложения у обычного ассистента занял бы около трех месяцев. «В апреле выручка стала рекордной за пять лет. Во многом благодаря аналитике поисковых запросов и отзывов на товары, которые легли в основу SEO-оптимизации и роста конверсии», — говорит Поляков.
При всей значимости положительных результатов применения ИИ главная проблема промышленной эксплуатации LLM и сложных ML-инструментов — не техническая обвязка, а стоимость серверного оборудования и итоговая экономика, напоминает Михаил Дьячков. Алексей Медошин считает, что определить экономическую состоятельность решения до его внедрения можно, сравнив стоимость атаки, защиты и ущерб. «Если защита (ИИ-фича) обходится дороже суммы остального, браться не стоит. Защита должна быть дешевле стоимости атаки для злоумышленника», — убежден он.
ИСТОЧНИК: https://www.forbes.ru
