Исследователи проверили законопослушность чат-ботов |
| ИА БайкалИнформ |
| 10.12.2023 17:00 |
|
Международная группа ученых доказала, что искусственный интеллект (ИИ) можно использовать в криминальных целях. О результатах исследования пишет
По словам специалистов, чат-боты не могут отвечать на запросы, связанные с нарушением закона — например, «составь рецепт напалма» или «сгенерируй ключ для Windows». Однако ученые выяснили, что с помощью чат-ботов можно создать собственную генеративную модель ИИ, научив ее обходить встроенные ограничения. В ходе исследования авторы задавали популярным чат-ботам вопросы, касающиеся обхода правил. Оказалось, что в случае ChatGPT 42,5 процента попыток специалистов оказались успешными, в случае Anthropic — 61 процент, Vicuna — 35,9 процента. Авторы издания Scientific American попросили создателей сервисов прокомментировать результаты исследования, но не получили оперативного ответа. По словам Соруша Пура, основателя компании Harmony Intelligence, занимающейся безопасностью ИИ, чат-боты очень хорошо умеют подражать человеку, поэтому изначально уязвимы, если пользователь хочет применять их в криминальных целях. «Генеративные модели ИИ очень трудно контролировать, особенно с учетом того, что их обучают на основе информации в интернете», — прокомментировал исследование коллег специалист Института Алана Тьюринга (Великобритания) Майк Кэтелл. Ещё кое-что из новостей прогресса:
|
- Мирная конференция по Украине в Швейцарии назначена на 15-16 июня
- Дальневосточник обвиняется в контактах с разведкой Украины
- Евросоюз подступается к созданию собственных спецвойск
- МИД Украины констатировал разрушение половины энергостистемы страны
- Регионы РФ один за другим запрещают мигрантам работать в такси
Регистрационный номер: ИА № ФС 77 - 75720; регистрирующий орган: Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор)
Оферта об оказании платных услуг
Политика в отношении обработки персональных данных ООО «БайкалТелеИнформ»
