Защита искусственного интеллекта
ТЕХНОЛОГИЯ ГОМОМОРФНОЙ КРИПТОГРАФИЧЕСКОЙ ЗАЩИТЫ НЕЙРОСЕТЕВЫХ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И САМООБУЧАЮЩИХСЯ ПРИЛОЖЕНИЙ В ОБЛАСТИ БИОМЕТРИИ, МЕДИЦИНЕ, РОБОТОТЕХНИКЕ, «ИНТЕРНЕТ ВЕЩЕЙ», «ОБЛАЧНЫХ ВЫЧИСЛЕНИЙ И СЕРВИСАХ» ДЛЯ ПРОТИВОДЕЙСТВИЯ КИБЕРУГРОЗАМ И ТЕХНОЛОГИЧЕСКОМУ ТЕРРОРИЗМУ
Руководители проекта:
Князьков В.С., главный научный сотрудник НИИФиПИ ПГУ,
Иванов А.И., профессор кафедры «Информационная безопасность систем и технологий», ведущий научный сотрудник АО «ПНИЭИ»
Цель проекта - разработка технологии гомоморфной криптографической защиты нейросетевых систем искусственного интеллекта (НСИИ) для обеспечения возможности массового применения самообучающихся приложений в области биометрии, медицине, робототехнике, защиты Интернет вещей, защиты «облачных вычислений и сервисов» и повышения уровня доверия к работе НСИИ.
Задачи проекта:
- Разработка методов, алгоритмов и аппаратно-программных средств гомоморфной криптографической защиты нейросетевых систем искусственного интеллекта.
- Создание и верификация программного обеспечения для реализации гомоморфных криптографических механизмов защиты функционирования НСИИ и обеспечения защищенного доступа к конфиденциальным данным в области биометрии, медицине, робототехнике, защиты Интернет вещей, защиты «облачных вычислений и сервисов».
- Разработка методов и алгоритмов для сокрытия и защиты содержания знаний НСИИ и обеспечения противодействия киберугрозам и технологическому терроризму в области биометрии, робототехники, Интернет вещей, «облачных вычислений и сервисов».
- Разработка технологии синтеза личных гомоморфных криптографических ключей пользователя из нестабильной (неоднозначной) части биометрических образов человека, создание методов их верификации и тестирования.
- Разработка методов и методик обнаружения ошибок в работе приложений НСИИ в защищенном исполнении и методов корректировки их работы.
- Разработка методик тестирования качества работы и уровня защищенности искусственных нейронных сетей в криптографическом исполнении на малых выборках, опираясь на рекомендации действующего национального стандарта ГОСТ Р 52633.3-2011.
- Разработка проекта государственного стандарта и перечня требований к нейросетевым системам искусственного интеллекта с гомоморфной криптографической защитой в области биометрии, робототехники, Интернет вещей, «облачных сервисов».
- Разработка и отладка прототипов аппаратно-программных комплексов для преобразования особенностей лица, особенностей радужной оболочки и топологии кровеносных сосудов ладони пользователя в код его личного ключа биометрического доступа к конфиденциальным данным и сервисам, в том числе к сервисам государственных учреждений.
Область применения.
Область применения результатов проекта относится к приоритетным областям Стратегии научно-технологического развития Российской Федерации (утверждена Указом Президента Российской Федерации от 1 декабря 2016 г. № 642 «О Стратегии научно-технологического развития Российской Федерации»):
- переход к передовым цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта;
- переход к персонализированной медицине, высокотехнологичному здравоохранению и технологиям здоровьесбережения, в том числе за счет рационального применения лекарственных препаратов (прежде всего антибактериальных);
- противодействие техногенным, биогенным, социокультурным угрозам, терроризму и идеологическому экстремизму, а также киберугрозам и иным источникам опасности для общества, экономики и государства.
Дата создания: 04.03.2020 11:04
Дата обновления: 04.03.2020 11:08
Дата обновления: 04.03.2020 11:08