Ведущий научный сотрудник лаборатории анализа биомедицинских изображений ОИПИ НАН Беларуси Василий Ковалёв рассказал в интервью газете «Рэспубліка» о вопросах безопасности технологий, основанных на искусственном интеллекте.

— Уже сейчас мы видим риск возможности идентификации личности человека в базе данных, где хранятся медицинские показатели. Такие базы данных должны иметь высокий приоритет защиты, поскольку хранят множество персональных данных, которые не должны быть в общем доступе. Допустим, там находятся цифровые снимки легких, и при этом у нас нет изображения лица человека. Мы должны уметь корректно сравнивать снимки легких одного человека, между которыми может быть разница в месяц, год или 10 лет. Мы пропустили эти данные через ИИ, и оказалось, что вероятность идентификации молодых людей гораздо выше, чем вероятность идентификации пожилых. Также мы заметили, что идентифицировать женщин проще, чем идентифицировать мужчин. Таким образом, уже можно выработать практические рекомендации по установке системы безопасности, — отметил ученый. 

Также, по его словам, имеется еще одна заметная проблема по злонамеренной модификации изображений с целью введения в заблуждение искусственного интеллекта. 

— Благодаря экспериментам стало известно, что небольшие модификации исходных изображений, которые человек не может распознать своими глазами, приводят к тому, что нейросеть делает ошибки при принятии решений. Предположим, мы исследуем изображение на наличие онкологических заболеваний. При модификации таких изображений можно обнаружить или пропустить злокачественные образования. Таким образом, может быть совершена критическая ошибка, от которой будет зависеть жизнь человека. Если это проникнет в практику, то люди могут столкнуться с ужасными последствиями, — пояснил Василий Ковалёв.

По его словам, чтобы нивелировать данные атаки, необходимо создавать системы, которые обеспечивают высокую степень защиты. В НАН уже исследуют всевозможные методы атак на нейронные сети и занимаются поиском средств борьбы с ними.

— Приведенные примеры являются достаточно простыми видами атак. Есть более сложные способы модификации. Мы не можем закрывать глаза на эту проблему, поэтому изучаем разные атаки и способы защиты от них. Это вероятный риск, и нужно разрабатывать средства защиты до того, как проблема станет более серьезной, — подчеркнул Василий Ковалёв.

Статья приводится в сокращении, полный текст статьи по ссылке.

О том почему уже сейчас важно защищать ИИ-системы от атак, которые могут исказить медицинские данные, ввести нейросети в заблуждение и повлиять на диагностику заболеваний в видеоролике на youtube.