Сбер рассказал о роли ИИ в технологическом развитии РФ и детекторе AI-текстов на конференции GigaConf

Эксперты Сбера обсудили роль искусственного интеллекта в технологическом развитии России и рассказали про AI-детектор текстов, написанных нейросетью, на конференции GigaConf. Об этом сообщает пресс-служба компании.

Андрей Белевцев: искусственный интеллект становится центральной технологией

На открытии технологической конференции GigaConf обсуждались новые возможности для разработчиков и перспективы развития AI-систем в стране. В 2024 году искусственный интеллект становится центральной технологией, и в 2025 году не будет ни одного успешного приложения, которое будет написано без использования AI или не будет содержать эту технологию, об этом старший вице-президент, руководитель блока «Технологическое развитие» Сбербанка Андрей Белевцев рассказал на технологической конференции для разработчиков GigaConf.

На конференции также выступили министр цифрового развития, связи и массовых коммуникаций РФ Максут Шадаев, лидер сообщества MindSpore Сяоман Сю (Xiaoman Hu), директор по разработке департаментов доверия и безопасности, коммуникаций «Авито» Александр Салтанов и начальник управления экспериментальных систем машинного обучения SberDevices Сергей Марков.

Как отметил Андрей Белевцев, в 2023 году каждую неделю в мире появлялось три релиза фундаментальных моделей. С 2011 года количество проектов с AI на GitHub выросло в две тысячи раз. Около 80% разработчиков уже используют AI-ассистента в своих личных проектах. А 60% компаний тестируют, внедряют или уже внедрили в работу искусственный интеллект. И ожидают от этого повышения продуктивности более чем на 20%.

Одновременно Сбер развивает собственные AI-сервисы для разработчиков. Например, это инструмент автогенерации кода GigaCode, который позволяет проводить аналитику кода и оценивать трудозатраты на его создание. Также Сбер продолжает совершенствовать отечественную платформу для работы с исходным кодом GitVerse, которая получила масштабное обновление. Еще разработчикам доступна российская среда разработки Giga IDE со встроенным AI-ассистентом и многое другое.

Андрей Белевцев подчеркнул, что сегодня данными, на которых модель обучалась, не делится никто. Поэтому необходимо понимать, насколько интерпретируемой будет модель. Нужно быть уверенным, что модель ведёт себя именно так, как от неё ожидают. Соответственно, важны надёжность, интерпретируемость и работа с уязвимостями.

– Я верю, что в 2025 году не будет ни одного успешного приложения, которое будет написано без использования технологии искусственного интеллекта или не будет содержать технологию. Мы всю нашу конференцию хотим посвятить тому, чтобы говорить о том, как AI становится центральной технологией, – говорит Андрей Белевцев.

Максут Шадаев рассказал, что в следующем году в России стартует большой национальный проект «Экономика данных и цифровая трансформация государства». Одни из задач нового нацпроекта – создание отечественной низкоорбитальной спутниковой группировки для обеспечения высокоскоростного доступа в интернет, развитие цифровых платформ, отказ от «лоскутной цифровизации» и выход в облака, дальнейшее развитие технологий искусственного интеллекта, в том числе для обработки данных.

Сяоман Сю рассказала о работе программного фреймворка MindSpore для машинного обучения, упомянув различные виды параллелизации, в том числе автоматизированной. Более 40% отрасли в Китае уже использует претрейнинговые модели MindSpore для обучения своих моделей. У компании 5,5 тысячи корпоративных клиентов, более 600 моделей и тысяча научных работ.

Александр Салтанов объяснил, как искусственный интеллект используют в «Авито», а Сергей Марков представил историю человечества как смену эпох устной речи, письменности, книгопечатания и, наконец, интернета. Он отметил, что каждый из этих этапов выводил людей на новый уровень обработки информации, снижая расходы на её производство и повышая доступность.

Сейчас же мир находится на пороге новой революции, связанной с технологиями генеративного искусственного интеллекта, считает Сергей Марков. Следующий шаг – рождение интерактивного AI, то есть систем, которые будут взаимодействовать друг с другом для решения сложных интеллектуальных задач. Но этому модели ещё нужно обучить.

Разработчики уже подходят к построению систем, способных, по Канеману, к медленному мышлению. Если продолжить текущие тренды, то к 2027 году нас ждёт интеллектуальный взрыв. Но на самом деле прирост интеллекта, скорее всего, будет нелинейным, поскольку нужно учитывать целый ряд физических барьеров, в том числе энергетические лимиты, что заставит искать новые пути развития технологии машинного обучения. Технология нейтральна, добавил Сергей Марков, поэтому всё зависит от того, как мы её используем, поэтому важно действовать максимально ответственно и взвешенно.

GigaConf 2024: Сбер и SberDevices представили AI-детектор GigaChek для определения текстов, написанных нейросетью

GigaCheck позволяет с высокой точностью устанавливать, кем был написан текст – человеком или системой искусственного интеллекта. За последний месяц 6% из 220 тысяч статей на новостных ресурсах, которые проанализировали специалисты, написали генеративные нейросети.

На технологической конференции GigaConf 2024 исследователи Сбера и компании SberDevices представили GigaCheck – детектор для определения авторства русскоязычных текстов. Решение отличается высокой точностью и скоростью работы, предоставляется по API и встраивается в любые сторонние приложения. В русскоязычном сегменте разработки у детектора практически нет альтернатив с близкими показателями.

Ключевая метрика TPR and FPR (True positive rate and False positive rate) = 0,01 – 94,7% означает, что при частоте ложных срабатываний не более 1% точность работы GigaCheck составляет 94,7%. Показатель ближайшего конкурента – не более 85%. На сегодняшний день GigaCheck – самый достоверный и качественный детектор подобного рода. Чтобы взломать его, в большинстве случаев текст придётся изменить до степени неприменимости в реальных задачах.

Сейчас GigaCheck даёт обобщённую оценку авторства. Если в одном тексте использованы как фрагменты, написанные человеком, так и фрагменты, сгенерированные искусственным интеллектом, то определение авторства осуществляется по преобладающему контенту. В ближайшее время GigaCheck сможет также определять, какие именно фрагменты текста сгенерированы LLM.

Работу детектора текстов GigaCheck оценят эксперты, занимающиеся проверкой подлинности научных публикаций, диссертаций и дипломов. Владельцы пабликов в соцсетях с помощью детектора смогут быстро обнаруживать созданные генеративными моделями комментарии и посты. Редакторы и все, принимающие работу копирайтеров, также получат эффективный инструмент для её проверки и оценки.

– С помощью GigaCheck мы проанализировали 220 тысяч текстов новостных ресурсов за последний месяц и выявили, что в среднем 6% из них создано LLM, а в некоторых крупных изданиях превышает треть от всего опубликованного контента. До сих пор вероятность создания подобного работающего детектора текстов считалась крайне низкой. Многие эксперты расценивали эту задачу как практически нерешаемую. Для разработки такого сервиса требуются серьёзные ресурсы и большие объёмы данных. Но даже неограниченных ресурсов может оказаться недостаточно. Например, один из признанных лидеров в области разработки систем искусственного интеллекта, компания OpenAI, в начале 2023 года анонсировал свой детектор для англоязычных текстов, но со временем был вынужден закрыть доступ к нему из-за невысокой точности. Тем важнее достижение нашей команды, которой, несмотря на все сложности, удалось разработать собственную эффективную технологию, – рассказал управляющий директор управления экспериментальных систем машинного обучения SberDevices Сергей Марков.

Научная премия Сбера пополнилась номинацией «AI в науке»

Научная премия Сбера расширяется: в этом году банк вводит новую номинацию – «AI в науке». Претендовать на эту награду смогут молодые исследователи не старше 35 лет, получившие выдающиеся научные результаты с применением искусственного интеллекта (AI). Об этом на технологической конференции GigaConf рассказал старший вице-президент, руководитель блока «Технологическое развитие» Сбербанка Андрей Белевцев.

Лауреатами номинации станут три коллектива авторов (от одного до трёх человек в каждом). В каждой из основных номинаций Научной премии Сбера будет определён один победитель в новой дополнительной номинации:

• «AI в науке. Физический мир» – физика, химия, астрономия, науки о Земле и технические науки;
• «AI в науке. Науки о жизни» – биология, медицина и сельскохозяйственные науки;
• «AI в науке. Цифровая вселенная» – математика (включая математические методы в экономике), компьютерные науки и информатика (включая искусственный интеллект и машинное обучение).

– Искусственный интеллект сегодня всё шире применяется в научном процессе, и нам важно выявить лучшие практики его использования и рассказать о них всему миру. Поэтому оргкомитетом премии было принято решение расширить номинации, чтобы поддержать молодых учёных, которые активно используют AI-технологии в своей работе. То есть, с одной стороны, это ещё один стимул для молодёжи заниматься наукой, а с другой – демонстрация преимуществ искусственного интеллекта, который помогает быстрее получать научные результаты и совершать новые открытия, – рассказал Андрей Белевцев.

Номинантов «AI в науке» представят члены учёных советов, комитета и лауреаты Научной премии Сбера. В следующем сезоне круг номинаторов расширится.

Результаты исследований номинантов, которые получены с помощью AI, должны быть подтверждены научными публикациями, аффилированными с российской организацией, представленными на А-конференциях или опубликованными в журналах Q1 в 2020–2024 годах. А также иметь потенциал дальнейшего развития и полезного практического применения в экономике.

Экспертиза заявок будет проходить в профильных учёных советах основных номинаций премии. Затем лучшие заявки получат дополнительную оценку специально созданным экспертным советом, в который войдут ведущие учёные и специалисты в области AI. Они определят, насколько предложенные AI-решения повлияли на полученные результаты научных исследований. С учётом всей экспертизы комитет Научной премии Сбера под сопредседательством президента и председателя правления Сбербанка Германа Грефа и ректора Сколковского института науки и технологий, академика РАН Александра Кулешова определит лауреатов.

Научной премией Сбера награждаются российские и иностранные учёные, которые внесли значительный вклад в развитие науки и продолжают активную научно-исследовательскую деятельность в России. Рассматриваются научные достижения за последние 10 лет.

СПРАВКА:

• Конференция GigaConf проходит 27 июня в креативном пространстве «Дизайн-завод» с участием более 50 ведущих экспертов российских и международных компаний. Спикеры делятся опытом создания передовых технологических решений и рассказывают о влиянии искусственного интеллекта (AI) и Open Source на ИТ-сферу.