Защита искусственного интеллекта

ТЕХНОЛОГИЯ ГОМОМОРФНОЙ КРИПТОГРАФИЧЕСКОЙ ЗАЩИТЫ НЕЙРОСЕТЕВЫХ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И САМООБУЧАЮЩИХСЯ ПРИЛОЖЕНИЙ В ОБЛАСТИ БИОМЕТРИИ, МЕДИЦИНЕ, РОБОТОТЕХНИКЕ, «ИНТЕРНЕТ ВЕЩЕЙ», «ОБЛАЧНЫХ ВЫЧИСЛЕНИЙ И СЕРВИСАХ» ДЛЯ ПРОТИВОДЕЙСТВИЯ КИБЕРУГРОЗАМ И ТЕХНОЛОГИЧЕСКОМУ ТЕРРОРИЗМУ 

 
Руководители проекта:
Князьков В.С., главный научный сотрудник НИИФиПИ ПГУ,
Иванов А.И., профессор кафедры «Информационная безопасность систем и технологий», ведущий научный сотрудник АО «ПНИЭИ»
 
Цель проекта - разработка технологии гомоморфной криптографической защиты нейросетевых систем искусственного интеллекта (НСИИ) для обеспечения возможности массового применения  самообучающихся приложений в области биометрии, медицине, робототехнике, защиты Интернет вещей, защиты «облачных вычислений и сервисов» и повышения уровня доверия к работе НСИИ. 
 
Задачи проекта:
  1. Разработка методов, алгоритмов и аппаратно-программных средств гомоморфной криптографической защиты нейросетевых систем искусственного интеллекта.
  2. Создание и верификация программного обеспечения для реализации гомоморфных криптографических механизмов защиты функционирования НСИИ и обеспечения защищенного доступа к конфиденциальным данным в области биометрии, медицине, робототехнике, защиты Интернет вещей, защиты «облачных вычислений и сервисов».
  3. Разработка методов и алгоритмов для сокрытия и защиты содержания знаний НСИИ и обеспечения противодействия киберугрозам и технологическому терроризму в области биометрии, робототехники, Интернет вещей, «облачных вычислений и сервисов».
  4. Разработка технологии синтеза личных гомоморфных криптографических ключей пользователя из нестабильной (неоднозначной) части биометрических образов человека, создание методов их верификации и тестирования.
  5. Разработка методов и методик обнаружения ошибок в работе приложений НСИИ в защищенном исполнении и методов корректировки их работы.
  6. Разработка методик тестирования качества работы и уровня защищенности искусственных нейронных сетей в криптографическом исполнении на малых выборках, опираясь на рекомендации действующего национального стандарта ГОСТ Р 52633.3-2011.
  7. Разработка проекта государственного стандарта и перечня  требований к нейросетевым системам искусственного интеллекта с  гомоморфной криптографической защитой в области биометрии, робототехники, Интернет вещей, «облачных сервисов».
  8. Разработка и отладка прототипов аппаратно-программных комплексов для преобразования особенностей лица, особенностей радужной оболочки и топологии кровеносных сосудов ладони пользователя в код его личного ключа  биометрического доступа к конфиденциальным данным и сервисам, в том числе к сервисам государственных учреждений.
Область применения. 
Область применения результатов проекта относится к  приоритетным областям Стратегии научно-технологического развития Российской Федерации (утверждена Указом Президента Российской Федерации от 1 декабря 2016 г. № 642 «О Стратегии научно-технологического развития Российской Федерации»):
  • переход к передовым цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта;
  • переход к персонализированной медицине, высокотехнологичному здравоохранению и технологиям здоровьесбережения, в том числе за счет рационального применения лекарственных препаратов (прежде всего антибактериальных);
  • противодействие техногенным, биогенным, социокультурным угрозам, терроризму и идеологическому экстремизму, а также киберугрозам и иным источникам опасности для общества, экономики и государства.

 

 

 

Дата создания: 04.03.2020 11:04
Дата обновления: 04.03.2020 11:08