Исследователи проверили законопослушность чат-ботов |
| ИА БайкалИнформ |
| 10.12.2023 17:00 |
|
Международная группа ученых доказала, что искусственный интеллект (ИИ) можно использовать в криминальных целях. О результатах исследования пишет
По словам специалистов, чат-боты не могут отвечать на запросы, связанные с нарушением закона — например, «составь рецепт напалма» или «сгенерируй ключ для Windows». Однако ученые выяснили, что с помощью чат-ботов можно создать собственную генеративную модель ИИ, научив ее обходить встроенные ограничения. В ходе исследования авторы задавали популярным чат-ботам вопросы, касающиеся обхода правил. Оказалось, что в случае ChatGPT 42,5 процента попыток специалистов оказались успешными, в случае Anthropic — 61 процент, Vicuna — 35,9 процента. Авторы издания Scientific American попросили создателей сервисов прокомментировать результаты исследования, но не получили оперативного ответа. По словам Соруша Пура, основателя компании Harmony Intelligence, занимающейся безопасностью ИИ, чат-боты очень хорошо умеют подражать человеку, поэтому изначально уязвимы, если пользователь хочет применять их в криминальных целях. «Генеративные модели ИИ очень трудно контролировать, особенно с учетом того, что их обучают на основе информации в интернете», — прокомментировал исследование коллег специалист Института Алана Тьюринга (Великобритания) Майк Кэтелл. Ещё кое-что из новостей прогресса:
|
- Диспансеризацию ветеранов Великой Отечественной войны проводят в Иркутской области
- После вмешательства приставов иркутянка выгнала из квартиры голубей и сделала уборку
- Более 20 детских площадок Иркутска оборудовали видеокамерами
- Центр для спортивных сборов перспективных горнолыжников планируют создать в Байкальске
- В Саянске любитель ездить без прав в итоге остался без машины
