Необходимо зарегистрироваться, чтобы получить доступ к полным текстам статей и выпусков журналов!
- Название статьи
- Технология "слепой" обработки привлекаемых данных в системах машинного обучения
- Авторы
- Конявский Валерий Аркадьевич konyavskiy@gospochta.ru, д-р техн. наук; заведующий кафедрой "Защита информации"; старший научный сотрудник, Московский физико-технический институт (государственный университет); ФГБНУ "Государственный научно-технологический центр «Наука», г. Долгопрудный, Московская обл., Россия; Москва, Россия
Росс Геннадий Викторович ross-49@mail.ru, д-р эконом. наук, д-р техн. наук; профессор кафедры "Системный анализ в экономике", Финансовый университет при Правительстве РФ, Москва, Россия
Конявская-Счастная Светлана Валерьевна cd@okbsapr.ru, канд. филолог. наук, заместитель генерального директора, доцент кафедры защиты информации, Московский физико-технический институт (НИУ); АО «ОКБ САПР», Московская обл., г. Долгопрудный, Россия; Москва, Россия
Райгородский Андрей Михайлович mraigor@yandex.ru, д-р физ.-мат. наук, директор ФПМИ, профессор кафедры математической статистики и случайных процессов, руководитель, профессор, Московский физико-технический институт (НИУ); МГУ им. М. В. Ломоносова; Кавказский математический центр Адыгейского государственного университета; Бурятский государственный университет им. Доржи Банзарова, Московская обл., г. Долгопрудный, Россия; Москва, Россия; Республика Адыгея, г. Майкоп, Россия; Республика Бурятия, г. Улан-Удэ, Россия
Тренин Сергей Алексеевич s.trenin@gmail.com, вед. инженер, руководитель ключевых научно-технических направлений лаборатории прикладных исследований, Московский физико-технический институт (НИУ), Московская обл., г. Долгопрудный, Россия
Леонидов Андрей Владимирович leonidovav@lebedev.ru, д-р физ.-мат. наук, профессор, профессор кафедры дискретной математики, ведущий научный сотрудник лаборатории физики высоких энергий, заведующий лаборатории математического моделирования сложных систем, Московский физико-технический институт (НИУ); Физический институт им. П. Н. Лебедева РАН, Московская обл., г. Долгопрудный, Россия; Москва, Россия
Васильева Екатерина Евгеньевна serebryannikovaee@lebedev.ru, канд. физ.-мат. наук, научный сотрудник лаборатории математического моделирования сложных систем отделения теоретической физики, инженер лаборатории прикладных исследований, Московский физико-технический институт (НИУ); Физический институт им. П. Н. Лебедева РАН, Московская обл., г. Долгопрудный, Россия; Москва, Россия
Васильев Сергей Борисович svasilev@hse.ru, канд. физ.-мат. наук, заместитель начальника отдела сопровождения проектной работы, младший научный сотрудник, инженер лаборатории прикладных исследований, Московский физико-технический институт (НИУ); Физический институт им. П. Н. Лебедева РАН; НИУ «ВШЭ», Московская обл., г. Долгопрудный, Россия; Москва, Россия
Коновалихин Максим Юрьевич konovalihin@vtb.ru, д-р техн. наук, старший вице-президент, руководитель Департамента анализа данных и моделирования, Банк ВТБ (ПАО), Санкт-Петербург, Россия
- В разделе
- ТЕХНИЧЕСКАЯ ЗАЩИТА ИНФОРМАЦИИ. Управление доступом
- Ключевые слова
- машинное обучение / безопасность / "слепая" обработка данных / конфиденциальное машинное обучение / ИТ-конвейер / объединение данных / защищаемые данные / неизвлекаемость данных / прямые утечки / косвенные утечки / дифференциальные атаки / конфиденциальные вычисления / национальный оператор антифрода
- Год
- 2024 номер журнала 2 Страницы 17 - 32
- Индекс УДК
- 004.048
- Код EDN
- ICEKIG
- Код DOI
- 10.52190/2073-2600_2024_2_17
- Финансирование
- Тип статьи
- Научная статья
- Аннотация
- Статья посвящена разрешению противоречия между потребностью в обработке объединенных данных при построении прогнозных моделей и отсутствием технических решений по обеспечению достаточного уровня защищенности информации, сложившегося к настоящему времени. Вводятся понятия "слепой" обработки данных, неизвлекаемых данных и моделей, привлекаемых данных. Приведены примеры косвенных утечек, возникновение которых, как правило, связано с дифференциальными атаками. Для повышения уровня защищенности данных предлагается при слепой обработке данных ограничить запросы к системе машинного обучения только проверенными последовательностями команд, не приводящими к утечкам защищаемых данных - ИТ-конвейерами. Предложена формальная модель обработки данных "вслепую", референсная архитектура автоматизированной системы "слепой" обработки данных, структура и меры по фиксации и обеспечению целостности и легальности применения ИТ-конвейеров, особенности их формирования и применения. На основе полученных результатов создан программно-аппаратный комплекс "Крипто-Анклав". Результаты также могут применяться при создании национальной системы антифрода, в медицине, промышленности.
- Полный текст статьи
- Для прочтения полного текста необходимо купить статью
- Список цитируемой литературы
-
Акаткин Ю. М., Карпов О. Э., Конявский В. А., Ясиновская Е. Д. Цифровая экономика: концептуальная архитектура экосистемы цифровой отрасли // Бизнес-информатика. 2017. № 4(42) <https://www.elibrary.ru/contents.asp?id=34835007&selid=32544887>. С. 17-28.
Берестнева О. Г., Пеккер Я. С. Выявление скрытых закономерностей в сложных системах // Известия Томского политехнического университета. 2009. Т. 315. № 5. С. 138-143.
Хорев А. А. Организация защиты конфиденциальной информации в коммерческой структуре // Защита информации. 2015. № 1. С. 14-17.
Федеральный закон "О персональных данных" от 27.07.2006 № 152-ФЗ [Электронный ресурс]. URL: https://www.consultant.ru/document/cons_doc_LAW_61801/ (дата обращения: 21.11.2023).
Состав и содержание организационных и технических мер по обеспечению безопасности персональных данных при их обработке в информационных системах персональных данных (утв. приказом ФСТЭК России от 18 февраля 2013 г. № 21) [Электронный ресурс]: URL: https://fstec.ru/dokumenty/vse-dokumenty/prikazy/prikaz-fstek-rossii-ot-18-fevralya-2013-g-n-21 (дата обращения: 21.11.2023).
Горячкин О. В. Методы слепой обработки сигналов и их приложения в системах радиотехники и связи. - М.: Радио и связь, 2003. - 230 с.
Агравал А. Искусственный интеллект на службе бизнеса. Как машинное прогнозирование помогает принимать решения. - М.: "Манн, Иванов и Фербер", 2019. - 336 c.
Искусственный интеллект и машинное обучение [Электронный ресурс]. URL: https://azure.microsoft.com/ru-ru/overview/artificial-intelligence-ai-vs-machine-learning/#introduction/ (дата обращения: 20.05.2022).
Морозова В. И., Логунова Д. И. Прогнозирование методом машинного обучения // Молодой ученый. 2022. № 21(416). С. 202-204.
Пилецкая А. В. Искусственный интеллект и большие данные // Молодой ученый. 2019. № 50(288). С. 20-22.
Запечников С. В. Модели и алгоритмы конфиденциального машинного обучения // Безопасность информационных технологий. 2020. Т. 27. № 1. С. 51-67.
Запечников С. В., Щербаков А. Ю. Конфиденциальное машинное обучение с нулевым разглашением // Вестник современных цифровых технологий. 2021. № 7. С. 15-25.
Конституция Российской Федерации [Электронный документ]. URL: <http://www.constitution.ru/> (дата обращения: 13.03.2023).
Воронцов К. В. Математические методы обучения по прецедентам (теория обучения машин) [Электронный ресурс]. URL: https://mathprofi.com/uploads/files/4210_f_41_lekcii-voronocva-k.v.-mashinnoe-obuchenie.pdf?key=77680f456097da8ff038c97ac64842b8/ (дата обращения: 05.01.2024).
Меры защиты информации в государственных информационных системах. Методический документ (утв. Федеральной службой по техническому и экспортному контролю 11 февраля 2014 г.) [Электронный ресурс]. URL: <https://fstec.ru/dokumenty/vse-dokumenty/spetsialnye-normativnye-dokumenty/metodicheskij-dokument-ot-11-fevralya-2014-g> (дата обращения: 21.11.2023).
Блинов А. Российский рынок DLP-систем 2021. Проблемы и решения. Ч. 1 [Электронный ресурс]. URL: <https://ict-online.ru/analytics/obzor-rossiyskiy-rynok-dlp-sistem-2021-problemy-i-resheniya-chast-1-osobennosti-sovremennogo-14787> (дата обращения: 21.11.2023).
Блинов А. Российский рынок DLP-систем 2021. Проблемы и решения. Ч. 2 [Электронный ресурс]. URL: <https://ict-online.ru/analytics/obzor-rossiyskiy-rynok-dlp-sistem-2021-problemy-i-resheniya-chast-2-gramotnoe-vnedrenie-13062> (дата обращения: 21.11.2023).
Федеральный закон "Об электронной подписи" от 06.04.2011 № 63-ФЗ (последняя редакция) [Электронный ресурс]. URL: https://www.consultant.ru/document/cons_doc_LAW_112701/ (дата обращения: 21.11.2023).
Конявский В. А. Идентификация и применение ЭЦП в компьютерных системах информационного общества // Безопасность информационных технологий. 2010. № 3. С. 6-13.
Аветисян А. И. Разработка доверенных систем. Искусственный интеллект. Доклад на XXVII науч.-практ. конф. "Комплексная защита информации" [Электронный ресурс]. URL: https://kzi.su/files/files/materials2022/Avetisyn.pdf (дата обращения: 21.11.2023).
Артамонов В. А., Артамонова Е. В., Сафонов А. Е. Безопасность искусственного интеллекта // Защита информации. 2022. № 6. С. 2-11.
Конявская С. В. Защита банкомата согласно Закону о КИИ: как избежать уязвимости традиционной архитектуры // Расчеты и операционная работа в коммерческом банке. 2020. № 1(155). С. 13-25.
Агафьин С., Смирнов П., Смышляев С. Неизвлекаемые ключи в облаке - путь через криптопровайдер // BIS Journal. 2017. ¹ 3(26) <https://ib-bank.ru/bisjournal/number/41>. С. 48-50.
Конявский В. А. Смысл и безопасность // Информационная безопасность. 2020. № 5. С. 54-56.
Требования по безопасности информации, устанавливающие уровни доверия к средствам технической защиты информации и средствам обеспечения безопасности информационных технологий (утв. приказом ФСТЭК России от 2 июня 2020 г. № 76). Выписка [Электронный ресурс]. URL: <https://fstec.ru/dokumenty/vse-dokumenty/spetsialnye-normativnye-dokumenty/trebovaniya-po-bezopasnosti-informatsii-utverzhdeny-prikazom-fstek-rossii-ot-2-iyunya-2020-g-n-76> (дата обращения: 21.11.2023).
Конявский В. А., Медведев В. В., Росс Г. В. Защищенные информационные технологии в цифровой экономике // Вопросы защиты информации. 2022. № 2(137). <https://elibrary.ru/contents.asp?id=48688070&selid=48688075> С. 34-44.
Конявский В. А., Конявская С. В. Доверенные информационные технологии: от архитектуры к системам и средствам. - М.: URSS, 2019. - 264 с.
- Купить
- 500.00 руб
