На конференции ГигаКонф Кирилл Меньшов рассказал про изменения в разработке и эксплуатации ИИ-систем

Cтарший вице-президент и руководитель блока «Технологии» Сбера Кирилл Меньшов выступил на конференции ГигаКонф для бизнеса, сообщает пресс-служба компании.

– Искусственный интеллект ускоряет создание и обновление программных продуктов, но без изменений в эксплуатации бизнес не сможет в полной мере воспользоваться этой скоростью. Разработка и эксплуатация должны работать как единый цикл: от бизнес-намерения до надёжно работающего сервиса и его дальнейшего улучшения, – заявил Кирилл Меньшов.

Сбер создал методологию AI PSLC, посвящённую эксплуатации программных продуктов и ИИ-систем. Она дополнит подход AI-Disrupt PDLC, связав создание изменений и обеспечение результата в единую модель.

Фото: пресс-служба Сбера

По словам Кирилла Меньшова, переход к новой модели требует не просто внедрения ИИ-инструментов, а пересмотра процессов, распределения ответственности и организации команд. У бизнеса должны развиваться две взаимосвязанные способности: быстро создавать проверенные изменения и обеспечивать их надёжную работу.

– Мы не встраиваем ИИ в старый процесс – мы меняем сам процесс, инструменты и организацию команд. Человек определяет, какой результат нужен бизнесу, задаёт требования и ограничения. ИИ-агенты берут на себя всё больше задач по реализации замысла, а результат их работы проходит проверку. Но ускорить разработку недостаточно. Нам нужны две способности одного бизнеса: быстро создавать изменения и обеспечивать их надёжную работу. Поэтому разработку и эксплуатацию мы рассматриваем как единый цикл, – рассказал Кирилл Меньшов.

В жизненном цикле разработки продукта (PDLC) сохраняются задачи определения потребностей, проектирования, реализации и проверки решения, но меняются способы их выполнения. Всё большая часть инженерной работы выполняется с участием ИИ-агентов. При этом постановка целей, выбор допустимого риска и ответственность за бизнес-результат остаются за человеком.

Рост скорости изменений повышает требования к эксплуатации. Командам необходимо не только быстрее обнаруживать и устранять сбои, но и контролировать поведение самих ИИ-систем. Технически доступный сервис может давать неверные ответы или выполнять действия за пределами предоставленных полномочий. Поэтому привычные требования к надёжности дополняются требованиями к правильности и допустимости поведения агентов.

– Нам важно не только, чтобы система была доступна, но и чтобы ИИ-агенты действовали правильно и в допустимых границах. Доверие к ИИ строится не на вере, а на проверяемых основаниях: метриках, наблюдении за поведением, ограничениях и возможности вмешаться. Чем выше риск и сложнее отменить действие, тем строже должны быть условия, при которых агент может действовать самостоятельно. Применение ИИ не снимает с человека ответственность за результат, – уточнил Кирилл Меньшов.

Методология AI PSLC (Product Service Lifecycle) объединяет два направления: применение ИИ в эксплуатации программных продуктов и обеспечение надёжной работы самих ИИ-систем. Люди задают цели, правила и границы автономности. ИИ-агенты помогают обнаруживать и диагностировать отклонения, а в пределах предоставленных полномочий – выполнять действия по восстановлению сервисов. Действия, выходящие за эти границы, требуют согласования с человеком.

В этой модели эксплуатация становится полноценным источником развития продукта. Данные о работе сервисов, клиентском опыте и инцидентах помогают уточнять требования, спецификации и проверки, которыми пользуются люди и агенты. Выводы из эксплуатации проходят проверку, прежде чем становиться основанием для новых изменений. Так PSLC связывается с PDLC: опыт реальной работы улучшает следующий цикл разработки.