Как нейросети развязывают руки мошенникам?

Загружая документы в общедоступные нейросети, пользователь фактически теряет контроль над ними, предупредил заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев. В разговоре с «Лентой.ру» он отметил, что в первую очередь это касается персональных данных, финансовых бумаг и медицинских заключений.

«После загрузки пользователь уже не может полностью контролировать, где именно будет храниться эта информация, как долго она сохранится и каким образом может использоваться в дальнейшем. При работе с нейросетями стоит придерживаться принципа минимальной достаточности: передавать сервису только те данные, которые действительно нужны для выполнения задачи», — пояснил специалист.

По его словам, в первую очередь нельзя загружать в нейросети документы с персональными данными — фотографии паспорта, водительского удостоверения, СНИЛС, ИНН, банковских карт, страховых полисов, билетов с QR-кодами, а также любые сведения об адресе проживания, дате рождения, номерах документов и телефонах. Финансовые и юридические документы тоже не следует передавать ИИ-сервисам без предварительной очистки данных: выписки по счетам, договоры, доверенности, налоговые декларации содержат большой объем конфиденциальной информации, и даже при запросе на разбор одного фрагмента сервису может быть передан файл целиком, обратил внимание Силаев.

Особая осторожность нужна с медицинскими документами. Результаты анализов, выписки из истории болезни, заключения врачей, снимки КТ и МРТ содержат не только сведения о здоровье, но и персональные данные пациента. Если требуется получить пояснение, перед загрузкой стоит удалить фамилию, дату рождения, номер полиса, штрихкоды и QR-коды, советует Силаев.

Тот же принцип, указал он, действует для рабочих материалов: внутренняя переписка, коммерческие предложения, проекты договоров, исходный код, клиентские базы и финансовые отчеты не должны попадать в общедоступные нейросети — это грозит не только утечкой, но и нарушением договорных обязательств.

«Если без загрузки документа обойтись невозможно, перед отправкой следует удалить фамилии, адреса, номера документов, банковские реквизиты, QR-коды, подписи и названия организаций. Чем меньше чувствительных данных передается ИИ-сервису, тем ниже риск их дальнейшего распространения или использования не по назначению», — заключил Силаев.

Ранее сообщалось, что закон уже защищает авторов от точного воспроизведения их произведений нейросетями, заявил эксперт по регуляторной политике, генеральный директор «Платформы сорегулирования», автор и соавтор более 50 федеральных законов и актов правительства Александр Литвак. По его мнению, в контексте ИИ важно не смешивать два вопроса: процесс обучения нейросети и воспроизведение контента.

Анастасия Бердникова, lenta.ru