Учёные заставили ИИ сомневаться в своём интеллекте

Исследователи из Сколтеха разработали метод обучения нейросетей, который позволяет искусственному интеллекту точнее оценивать собственную уверенность при принятии решений. О разработке «Хайтеку» сообщила пресс-служба института.

Существующие нейросети, несмотря на высокую точность, нередко проявляют чрезмерную уверенность в своих предсказаниях — особенно при работе с нечеткими, неполными или зашумленными данными. Чтобы решить эту проблему, ученые Центра искусственного интеллекта Сколтеха совместно с Институтом проблем передачи информации РАН предложили методику обучения, которая повышает осознанность решений нейросетей.

Ученые использовали обучающие данные с «мягкими» метками. Вместо традиционного бинарного формата (0 или 1) они ввели непрерывную шкалу от 0 до 1, которая отражает уверенность эксперта в правильности разметки. Такой подход позволяет модели не просто делать предсказание, но и понимать, насколько оно обосновано.

Предложенная методика помогает ИИ выявлять ситуации, в которых требуется вмешательство человека, тем самым снижая риск критических ошибок. Исследователи протестировали систему на реальных задачах, включая медицинскую диагностику, и добились роста точности в оценке неопределенности при классификации и сегментации данных.

«Наш метод помогает нейросети понять, где стоит проявить осторожность», — объясняет Александр Югай, младший инженер-исследователь Сколтеха. Разработка учитывает как эпистемическую неопределенность (связанную с недостаточностью данных), так и алеаторную (вызванную природным шумом и неустранимой вариативностью в информации).

Разработку предлагают использовать для совершенствования медицинских ИИ-систем, систем технического контроля, автоматизированного производства и автономных платформ. Везде, где ошибка может стоить слишком дорого, надежность и способность к самокоррекции становятся критически важными. Результаты работы представили на международной конференции WACV-2025.

Ещё кое-что из новостей прогресса:

• ИИ с треском провалил тест для определения интеллекта
• Новая разработка учёных может стать невидимой заменой для наушников