31 марта Комитет по промышленной и инновационной политике Московской торгово-промышленной палаты (МТПП) совместно с Национальным центром цифровой экономики (НЦЦЭ) МГУ провели вебинар, посвященный этике использования больших данных. На мероприятии выступили представители Сбера, Сколтеха, Агентства стратегических инициатив, Всемирного банка, РАН, Института развития информационного общества и др.
Модератором первой части вебинара выступил Михаил Коган, председатель Комитета МТПП по промышленной и инновационной политике, председатель совета директоров ПАО «Калибр», модератором панельной дискуссии – Юрий Хохлов, председатель совета директоров Института развития информационного общества, руководитель подкомитета «Данные» Технического комитета «Искусственный интеллект» (ТК 164), руководитель проекта «Мониторинг и стандартизация развития и использования технологий хранения и анализа больших данных в цифровой экономике РФ» Центра компетенций НТИ по технологиям хранения и анализа больших данных (на базе НЦЦЭ МГУ).
По мнению вице-президента МТПП Сурена Варданяна, обсуждаемая тема «болезненная для многих людей, особенно для молодого поколения, которое все больше задается вопросом: “А где же моя личная жизнь? Где же то самое мое личное пространство, которое не подлежит всеобщему разглашению?”».
Андрей Незнамов, управляющий директор Центра регулирования искусственного интеллекта (ИИ) Сбера, в своем докладе рассказал о развитии ИИ в России и его регулировании. Спикер напомнил, что в 2020 году был принят федеральный проект «Искусственный интеллект»: Сбер является центром компетенций по данному направлению.
«Одна из ключевых задач в сфере данных – развить регулирование так, чтобы, с одной стороны, гарантировать права наших граждан на высочайшем уровне. С другой стороны, не поставить каких-то необоснованных препятствий для развития технологий искусственного интеллекта», – уверен Андрей Незнамов.
По его словам, нормативное регулирование ИИ в России активно развивается, при этом российской стороне желательно активно включиться в работу соответствующих международных органов. Очень важно развить регулирование для обезличивания и анонимизации персональных данных, а также для облачной обработки данных. Одновременно следует не усложнить регулирование в сфере данных для национальных разработчиков ИИ. Отдельного внимания требует развитие законодательства для беспилотного автотранспорта и здравоохранения. Важно также синхронизировать законодательные инициативы с отраслевым сообществом и проводить совместные мероприятия.
Максим Федоров, вице-президент в области ИИ и математического моделирования Сколковского института науки и технологий (Сколтех), выступил с докладом о российском опыте по формированию этических принципов использования технологий ИИ и больших данных на международных площадках. Эксперт, в частности, представлял Россию в специальной экспертной группе UNESCO по подготовке Рекомендаций в области этики ИИ.
Описывая тенденции развития ИИ, спикер отметил, что существует риск нарушения прав человека путем бесконтрольного влияния систем ИИ на них. Еще одна тенденция – необходимость формулирования глобальных норм использования технологий ИИ. Последствия принятых правил будут иметь всеобъемлющий характер.
Универсальные международные нормы в области этики внедрения и использования ИИ разрабатываются в UNESCO, ISO/IEC и на многих других международных площадках. Среди приоритетов разработки таких норм: 1) прозрачность и объяснимость; 2) устойчивость, надежность и безопасность; 3) человекоцентричный подход. В то же время дискуссии вызывают вопросы о субъектности либо объектности ИИ, глобальных механизмах мониторинга и оценки регулирования, защите данных и «цифровом суверенитете» стран.
Оценивая международную деятельность в области этики ИИ, спикер обратил внимание: «Налицо политизация вопросов, большое количество перекосов в международном сотрудничестве, что требует консолидации мнения внутри страны по поводу нашей позиции по этике использования искусственного интеллекта, по регулированию трансграничных вопросов, связанных с передачей данных, и многому другому… Также важно получить консолидированную позицию от бизнеса».
Иван Бегтин, директор АНО «Информационная культура», на примере различных стран и компаний осветил тему этических аспектов использования данных.
Спикер перечислил опасения граждан в области этики больших данных: рост информационного неравенства (больше данных дают больше возможностей тем, у кого больше денег и знания, как данные использовать); «реидентификация» (повторная идентификация гражданина по косвенным данным, воспроизведение его персональных данных); нарушение приватности, новые формы дискриминации и новые виды преступлений в области данных.
Существующие проблемы, по мнению Ивана Бегина, не могут быть решены с помощью этических кодексов: «Когда мы говорим про разного рода этические ограничения, этические кодексы, тут важно помнить, что, во-первых, безусловно, государства часто идут по модели не регулирования, а использования тех же технологий, что используются крупным коммерческим бизнесом (то есть использование тех же практик с теми же последствиями). Во-вторых, все инициативы, которые идут от бизнеса, – это попытки сгладить будущее госрегулирование, которое сейчас ограничено скорее квалификацией подготовки нормотворцев, чем социальным запросом, потому что социальный запрос на это фактически есть».
Затем последовала панельная дискуссия. Основные вопросы для обсуждения озвучил Юрий Хохлов: 1) Если теоретические принципы саморегулирования при работе с большими данными будут выработаны, насколько высока вероятность того, что эти принципы будут соблюдаться? 2) Нужно ли внести в нормативную базу требования к разработчикам технологий, алгоритмов, сервисов работы с большими данными внедрять эти принципы в решения? 3) Насколько возможно в рамках тех или иных технологий обработки больших данных формализовать эти этические принципы?
Вера Адаева, директор центра цифрового развития Агентства стратегических инициатив, разделила точку зрения Ивана Бегтина, согласно которой проблемы использования больших данных не будут решены благодаря этическим кодексам.
«На сегодня у нас главным ограничением в части нормативного регулирования, мне кажется, становится вопрос отсутствия компетенций именно в технологической сфере, потому что регуляторикой занимаются одни люди, технологии разрабатывают совсем другие люди. Вопрос пресечения этих двух сообществ – наверное, одна из важнейших задач», – считает Вера Адаева.
Ярослав Еферин, консультант Глобальной практики по цифровому развитию Всемирного банка, упомянул: «Возможно, уместно говорить об установлении неких правил поведения для каждого интернет-ресурса, для каждой технологической компании, которая выпускает свои продукты и услуги, затрагивающие такие чувствительные моменты, связанные с персональными данными, этичным/неэтичным поведением в сети. Пользователи своим посещением уже, по сути, соглашаются или не соглашаются с политикой компании… Что касается роли государства, оно может не устанавливать конкретные этические нормы, стандарты поведения, скорее рекомендовать участникам всей цифровой экосистемы разработку собственных правил поведения на их площадках».
«Чем скорее мы придем хотя бы к консенсусу по определениям, по классификациям, по принципам, тем легче дебаты и дискуссии будут перерастать в какие-то реальные действия. Очевидно, что этика важна для всех групп (для правительства, для бизнеса, для граждан, для науки), она должна открыто обсуждаться, чтобы мы действительно приходили к пониманию, как идти», – подчеркнул Ярослав Еферин.
Александр Райков, руководитель департамента интеллектуальных технологий Национального центра цифровой экономики МГУ, ведущий научный сотрудник Института проблем управления РАН, считает, что вопрос соблюдения этических принципов требует рассмотрения частных примеров: «Восприятие этических принципов во многом зависит от персоналий, от народностей, от видов деятельности…»
Эксперт также затронул тему возможного появления сильного ИИ, мощность которого будет на несколько порядков больше по сравнению с современным ИИ: «Пока наступление сильного искусственного интеллекта, я думаю, не опасно. Оно сдерживается бинарной (или цифровой) основой всей нашей вычислительной техники, которая вряд ли изменится в ближайшие годы, и включенностью людских коллабораций в процесс принятия решений».
В продолжение этой мысли Юрий Хохлов добавил: «Пока мы будем находиться в этой гибридной ситуации, этические принципы во многом будут исходить от людей, но, как мне кажется, часть этих принципов вполне могут быть реализованы и зафиксированы в виде тех или иных ограничений в алгоритмах, чтобы эту рутину тоже снять, не оставлять человека перед этическим выбором, что нужно делать в той или иной ситуации, когда таких вариантов выбора огромное количество».
Михаил Коган в завершении вебинара выразил готовность продолжить серию мероприятий о технологиях искусственного интеллекта и больших данных. Далее могут быть рассмотрены вопросы формирования/стандартизации требований к массивам данных, которые будут собирать федеральные органы исполнительной власти, сообщил Юрий Хохлов.
В качестве слушателей в мероприятии приняли участие Татьяна Ершова, генеральный директор Института развития информационного общества, координатор направления развития партнерских отношений Центра НТИ МГУ, и Сергей Афанасьев, ведущий специалист НЦЦЭ МГУ.
