Краткость — сестра лжи: учёные раскрыли необычную слабость ИИ |
| ИА БайкалИнформ |
| 09.05.2025 17:00 |
|
Французская компания Giskard выяснила: когда пользователя интересует краткий ответ, ИИ чаще выдаёт ошибку или придумывает несуществующий факт. Чем меньше слов — тем выше риск дезинформации, отмечает
Исследователи обнаружили, что указание вроде «будь лаконичным» мешает ИИ объяснять суть, проверять вводные и опровергать ложные предпосылки. Чем меньше слов — тем больше компромиссов с точностью. Особенно часто это происходит в вопросах, где требуется анализ, нюансы или контекст. Более того, современные модели, рассчитанные на диалог и «дружелюбный» стиль общения, вроде GPT-4o, могут ошибаться даже чаще старых версий. А приятный тон, как выяснилось, не гарантирует достоверность. Важное наблюдение: модели реже поправляют собеседника, если тот уверен в себе. То есть если пользователь пишет неправду с уверенностью, нейросеть с большей вероятностью согласится — особенно в сжатом формате. Авторы исследования предупреждают: безобидные на первый взгляд формулировки вроде «сделай покороче» могут существенно испортить результат. Особенно в задачах, где важна точность — от медицинских тем до программирования. Ещё кое-что из новостей прогресса:
|
- Министра транспорта Бурятии подозревают в коррупции
- Гражданин ближнего зарубежья пытался дать взятку сотруднику полиции в аэропорту Иркутска
- ИГУ стал победителем конкурса Минцифры России
- Бронзовым призером международного скайраннинг-марафона стала спортсменка из Иркутской области
- Студенческий коворкинг ИГУ стал одним из победителей всероссийского конкурса
Регистрационный номер: ИА № ФС 77 - 75720; регистрирующий орган: Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор)
Оферта об оказании платных услуг
Политика в отношении обработки персональных данных ООО «БайкалТелеИнформ»
