Учёные помогают ИИ разбираться в человеческой лжи |
ИА БайкалИнформ |
20.03.2024 17:00 |
Программу научили распознавать ситуации, в которых людям выгодно говорить неправду. Об этом пишет Исследователи из Университета штата Северная Каролина разработали инструмент для обучения ИИ, который поможет программам лучше учитывать то, что люди не всегда говорят правду, предоставляя личную информацию. Новый метод обучения разработан для использования в ситуациях, когда у людей есть экономический стимул лгать, например, при подаче заявки на ипотеку или попытке снизить страховые взносы. ИИ уже используют в самых разных ситуациях для поддержки принятия решений. Такие программы, как правило, используют для прогнозирования математические алгоритмы, основанные исключительно на статистике. Проблема в том, что этот подход создает стимулы для людей лгать, например, чтобы получить ипотеку. Исследователи разработали набор параметров, которые можно использовать для определения того, как ИИ учится делать прогнозы. Параметры помогают программе распознавать и учитывать экономические стимулы человека. Другими словами, ИИ учится распознавать обстоятельства, в которых человеку выгодно лгать. В ходе моделирования, подтверждающего концепцию, модифицированный ИИ лучше обнаруживал неточную информацию от пользователей. Исследователи делают новые параметры обучения ИИ общедоступными, чтобы разработчики ИИ могли экспериментировать с ними. «Это эффективно снижает стимул пользователя лгать при отправке информации. Однако маленькая ложь все равно может остаться незамеченной. Нам нужно проделать дополнительную работу, чтобы понять, где находится порог между «маленькой» и «большой ложью». В какой-то момент, если мы сделаем ИИ достаточно умным, мы сможем полностью устранить эти стимулы», – отметил Мехмет Канер, соавтор исследования. Кое-что из новостей прогресса:
|
- Сдерживание Китая: США расширяют сеть баз ВМФ вокруг страны-конкурента
- Семья из шести человек заживо сгорела на индийской свадьбе
- Главный по погоде поделился видами на лето в России
- Китайское летающее такси готово к массовому производству
- Сферу розничной торговли чаще всего выбирали в 2024 году бизнесмены из Иркутской области, Забайкалья, Бурятии и Якутии