23 июня 2021 года в рамках конференции ЦИПР-2021 в Нижнем Новгороде состоялась панельная дискуссия, посвященная вопросам стандартизации искусственного интеллекта (ИИ) на национальном и международном уровнях. На мероприятии выступил Юрий Хохлов, председатель совета директоров Института развития информационного общества (входит в консорциум Центра компетенций НТИ по технологиям хранения и анализа больших данных на базе Национального центра цифровой экономики МГУ – ЦК НТИ МГУ), руководитель подкомитета «Данные» (ПК 02) технического комитета по стандартизации «Искусственный интеллект» (ТК 164), руководитель проекта по мониторингу и стандартизации больших данных ЦК НТИ МГУ.
Во вступительном слове Алексей Ученов, заместитель министра промышленности и торговли РФ, сообщил, что ИИ находит все более широкое применение при автоматизации в сферах транспорта, безопасности, образования, здравоохранения, управления городским имуществом и многих других отраслях экономики.
«Учитывая большую общественную значимость этих задач, к используемым интеллектуальным технологиям предъявляются особые требования по безопасности применения – как для жизни и здоровья людей, так и для окружающей среды. Единственным способом объективно удостовериться в том, что система в реальных условиях эксплуатации будет работать именно так, как планировали ее разработчики, и не будет представлять какие-либо угрозы, становится тестирование системы искусственного интеллекта, проводимое по унифицированным стандартам, подходам и требованиям», – отметил спикер.
По его словам, помимо гарантий безопасности, нормативно-техническое регулирование устанавливает метрологические требования, без которых невозможно обеспечить единство измерений функциональных характеристик систем ИИ. Это единство позволяет сравнивать две системы, предназначенные для решения одной и той же задачи, но разработанные разными компаниями, сопоставлять характеристики системы с возможностями оператора, решающего задачу вручную, а также прогнозировать экономический эффект от применения систем ИИ. Кроме этого, нормативно-техническое регулирование помогает решить проблему совместимости различных аппаратных комплексов между собой.
Обеспечение конфиденциальности обрабатываемых данных – еще одна из целей стандартизации ИИ. «Создание систем искусственного интеллекта невозможно без специально подготовленных больших наборов данных, которые зачастую содержат конфиденциальную информацию, персональные данные. Отсутствие стандартов, которые предъявляют унифицированные требования к процедурам, скажем, анонимизации, деклассификации этих данных, сдерживает развитие систем искусственного интеллекта», – обратил внимание Сергей Гарбук, глава технического комитета по стандартизации «Искусственный интеллект».
Сергей Гарбук. Пресс-служба ЦИПР
ТК 164 – профильная российская организация в области стандартизации ИИ, ведущая деятельность на международном и национальном уровнях. Комитет создан на базе РВК при поддержке Минпромторга РФ и Росстандарта в 2019 году как зеркальное отражение на национальном уровне профильного международного подкомитета ISO/IEC JTC 1 SC 42 Artificial Intelligence. Сегодня в ТК 164 входят более 130 организаций-членов.
По словам Сергея Гарбука, работы по стандартизации ИИ проводятся в том числе в рамках соответствующего мероприятия федерального проекта «Искусственный интеллект», подготовленного в сентябре 2020 года. В декабре 2020 года при согласовании с Минэкономразвития России утверждена перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на период до 2024 года. К этому моменту планируется утвердить и актуализировать не менее 111 стандартов в сфере ИИ.
В рамках сессии Сергей Гарбук представил структуру комплекса стандартов ИИ, разработанную в ТК 164. Она включает два больших блока: 1) стандарты в области систем ИИ и 2) стандарты в области данных. В свою очередь, первый блок стандартов разветвляется на стандарты общего назначения и стандарты, определяющие требования к испытанию конкретных прикладных систем ИИ.
Разработкой второго блока стандартов – стандартов в области данных – в ТК 164 занимается подкомитет «Данные», возглавляемый Юрием Хохловым и поддерживаемый в рамках программы ЦК НТИ МГУ. Сотрудники Центра участвуют в деятельности международных рабочих групп по стандартизации данных и в координации разработки соответствующих национальных стандартов. На сегодня на разной стадии разработки и утверждения находятся пять проектов национальных стандартов в области работы с данными.
Спикер привел результаты зарубежных исследований, согласно которым массовое использование стандартизации (прежде всего в сфере промышленности) экономически целесообразно: компании за счет обеспечения интероперабельности и взаимодействия промышленных систем могут существенно повысить производительность труда и тем самым внести вклад в ВРП страны. Подобные эконометрические расчеты влияния стандартизации на экономический рост (от 0,2% до 0,9% ВРП) были проделаны в нескольких странах Евросоюза, Великобритании, Канаде, Австралии. К сожалению, аналогичные исследования пока не делались в России, но были бы весомым аргументом в пользу стандартизации.
Отдельное внимание Юрий Хохлов уделил участию российских экспертов в международной стандартизации работы с данными. «Международная стандартизация (в целом) и в области искусственного интеллекта и работы с данными (в частности) – это, по сути, консолидация на международном уровне тех открытых знаний, которыми сообщества делятся», – обратил внимание Юрий Хохлов.
Юрий Хохлов. Пресс-служба ЦИПР
К моменту, когда в России началась деятельность по стандартизации работы с [большими] данными, на международном уровне уже были сформированы соответствующий терминологический стандарт и серия стандартов по эталонной архитектуре больших данных. «Нам крайне важно сократить отставание от международного уровня, чтобы после этого, выровняв ситуацию, идти дальше и полноправно участвовать в работе по стандартизации, в том числе продвигая свои национальные интересы», – поделился спикер.
Планируется, что в международной работе по стандартизации требований к качеству массивов данных, начавшейся весной 2021 года, российские эксперты уже примут непосредственное участие наравне с экспертами из других стран. «В основном это представители США и стран Юго-Восточной Азии. России, чтобы не отстать, необходимо точно так же участвовать в этой работе, чтобы те знания, которые мы накапливаем и хотим передать нашим разработчикам, пользователям и создателям систем работы с большим данными, были наиболее передовыми», – подытожил Юрий Хохлов.
Сергей Израйлит, вице-президент по развитию и планированию фонда «Сколково», рассказал об использовании технологий машиночитаемого права при разработке и использовании нормативно-технической документации. «В начале этого года мы разработали и пустили в свой путь концепцию развития машиночитаемого права, которая стремится к объединению нормативно-технической и нормативно-правовой терминологии, а самое главное – к следующему шагу в этом объединении, к обеспечению ее машиночитаемости», – сообщил спикер.
По его словам, необходимо поэтапное развитие инструментов и методов работы с машиночитаемыми стандартами. Один из подходов – перевод взаимодействия экспертов при подготовке стандартов на площадки, поддерживающие формирование как традиционных, понятных человеку, так и машиночитаемых представлений текста. Первые шаги в этом направлении сделаны фондом «Сколково» в рамках проекта standartopedia.ru.
Подробнее о том, каким образом ТК 164 встраивается в цепочку создания международных стандартов, рассказал Кирилл Кринкин, заведующий кафедрой математического обеспечения и применения ЭВМ СПбГЭТУ «ЛЭТИ». Разработка одного международного стандарта координируется одним ответственным со стороны ТК 164. Среди задач ответственного: мониторинг международных инициатив, определение рисков и выгоды на ранних стадиях разработки международного стандарта, его гармонизация с национальными стандартами, внесение предложений по стандарту, продвижение национальных интересов на стадии черновика, формирование предложений и замечаний.
Алексей Иванов, заместитель генерального директора ФГУП «СТАНДАРТИНФОРМ» (в скором времени будет завершено преобразование в ФГБУ «Российский институт стандартизации»), рассказал о развитии стандартизации ИИ в контексте развития национальной системы стандартизации в целом. Основным документом в этой области является дорожная карта развития стандартизации в РФ на период до 2027 года, определяющая 10 направлений стандартизации, 48 мероприятий с конкретными сроками и ответственными, а также 10 индикаторов, которые позволяют оценить реализацию мероприятий. В России создан институт кураторов, которые должны помогать техническими комитетам решать вопросы методического, организационного, информационного обеспечения, а также вопросы планирования и разработки стандартов.
Кристина Сергунова, советник президента Центра по ядерной медицине НИЦ «Курчатовский институт», в своем выступлении осветила вопросы качества технологий ИИ. По словам спикера, ПО на основе таких технологий несет в себе потенциальный риск для людей, окружающей среды, материальных и нематериальных активов. В то же время наличие грамотно выстроенной оценки качества позволяет повысить доверие к системам ИИ на физическом уровне путем подтверждения требований надежности, безопасности и функциональности.
Кристина Сергунова, Алексей Иванов, Юрий Хохлов. Пресс-служба ЦИПР
Для этого подкомитет «Искусственный интеллект в здравоохранении» (ПК 01) ТК 164 разработал проекты семи национальных стандартов в сфере медицины, которые в том числе охватывают требования к системе менеджмента качества, проведения технических/клинических испытаний и пострегистрационного мониторинга. Кристина Сергунова также отметила важность создания унифицированного верхнеуровневого стандарта, который мог бы систематизировать знания в области проведения оценки качества систем ИИ, – проект такого стандарта уже разработан.
Алексей Сулавко, старший научный сотрудник кафедры «Комплексная защита информации» ОмГТУ, осветил вопрос стандартизации как фактора обеспечения функциональной безопасности ИИ. «Сегодня стандарты по автоматическому обучению искусственных нейронных сетей и защиты знаний искусственных нейронных сетей есть только в России: один стандарт принят, один находится на публичном обсуждении в другом комитете [ТК 362], один мы [ТК 164] сейчас разрабатываем. В мире нигде больше этих стандартов нет. В этом Россия занимает абсолютно лидирующую позицию, и эту позицию надо продвигать», – считает спикер.
Отметим, что в рамках ЦИПР-2021 представитель ЦК НТИ МГУ Юрий Хохлов также выступил с вопросами и комментариями на сессиях «Цифровая трансформация строительства, городского хозяйства и ЖКХ. Опыт цифровой трансформации» и «Искусственный интеллект. Внедрение в отраслях на примере промышленности».
В рамках последней сессии обсуждались барьеры при внедрении ИИ в промышленности. По мнению Юрия Хохлова, один из важнейших барьеров – отсутствие регулирования хозяйственного оборота промышленных данных в России. По сути, использование промышленных данных в стране не запрещено, но находится в серой зоне. Эксперт призвал обратить внимание на опыт Европы по выстраиванию общеотраслевых и общеевропейских интегрированных пространств данных (прежде всего промышленных).
«Евросоюз понял, что они проиграли гонку в работе с большими массивами персональных данных США и Китаю. Все, что у них пока осталось, – это удержаться на гребне волны в работе с промышленными данными. Европейцы приняли свою стратегию работы с данными совсем недавно, разработали новые законопроекты, позволяющие вводить промышленные данные в оборот. Мы также должны двигаться в этом направлении как можно быстрее. И речь идет не только о разработке закона о промышленных данных, который только начал сейчас обсуждаться. Много других моментов, которые на самом деле не предоставляют нам возможность использовать промышленные данные», – считает Юрий Хохлов.
