Проект Национального кодекса проходит стадию экспертных обсуждений с участием представителей разработчиков проекта, бизнеса и государственной власти. Аналитический центр при правительстве РФ направил письма в Совет Федерации Федерального Собрания Р Ф с предложением организовать обсуждение проекта кодекса на площадке Совета Федерации, на что получил ответ до 13 сентября направить предложения по доработке проекта кодекса.
Проект Национального кодекса этики (есть в распоряжении ComNews) содержит новое понятие — системы искусственного интеллекта (СИИ). Кодекс устанавливает общие принципы и стандарты поведения, которыми могут руководствоваться акторы в сфере искусственного интеллекта в своей деятельности, и носит рекомендательный характер.
Директор департамента сбора, хранения и анализа данных компании «ВС Лаб» Иван Барчук согласен: разработка подобного кодекса была вопросом времени. «Сейчас самое время для подобной инициативы. С одной стороны, технологии уже позволяют многое сделать, с другой стороны, практическое применение совсем массовым пока еще не стало. Поэтому пока не поздно заложить задел на будущее. Великий фантаст Айзек Азимов в 1942 г. сформулировал три закона робототехники — самый известный первый: про недопущение вреда человеку своим действием или бездействием. Потом в 1986 г. добавил еще нулевой: про недопущение вреда человечеству. Где-то до начала 2010-х гг. научное и технологическое сообщество не особо стремилось развивать данные формулировки, так как технологии того времени даже близко не подходили к чему-то похожему на „интеллект“. Но алгоритмы машинного обучения становились все функциональнее, популярнее, мощнее, доступнее. Британский Совет по исследованиям в области инженерных и физических наук 10 лет назад выпустил свою версию принципов создания ИИ: EPSRC principles of robotics. Дальше к фиксированию этических, моральных и юридических правил робототехники приходили многие корпорации и государства. Вот очередь дошла и до России», — рассказывает Иван Барчук.
«Действие настоящего кодекса распространяется исключительно на СИИ, применяемые в гражданских (не военных) целях», — сказано в проекте кодекса. Иван Барчук комментирует: «Если рассматривать только гражданское применение, то самые важные моменты в кодексе описаны: непричинение вреда человеку, юридическая ответственность за решения ИИ, потребность в более тщательном прогнозировании и управлении рисками, защита персональных данных. Еще из интересного бы выделил большие планы по обмену опытом и открытости информации между разработчиками — это действительно будет полезно. Также очень важно информировать население о возможностях ИИ и, хоть это и совсем непросто, развенчивать мифы, которых с каждым днем будет становиться все больше».
Последний пункт кодекса гласит: «Положения настоящего кодекса должны пересматриваться с учетом быстрого развития технологий ИИ и развития представления об этике использования технологий ИИ в обществе». «Этот пункт самый важный: действительно, — рассуждает Иван Барчук, — даже сегодняшние разработчики ИИ не смогут точно сказать, как будут применяться эти технологии через два-три года, не говоря уже про десятилетия. Есть несколько поводов рассчитывать на положительное влияние на рынок. Тот самый обмен информацией между разработчиками, что позволит большему количеству талантливых команд заниматься созданием СИИ».
«Оценка рисков на разных этапах создания СИИ — тоже замечательная инициатива, лишнее прогнозирование и тестирование результатов здесь не помешает. Если я правильно понимаю, кодекс предполагает движение рынка в сторону XAI — объяснимого ИИ. Оператор СИИ в любой момент по логам сможет понять, что сделано, что делается прямо сейчас, что будет сделано дальше, и получить информацию, на которой основаны действия. Это откладывает наступление гипотетической технологической сингулярности (когда развитие технологий становится неуправляемым) на неопределенный момент. Предложения создавать комиссии по этике, а также внедрять добровольную сертификацию — явно являются сдерживающими рост рынка. Но они могут защитить рынок СИИ от некомпетентных и недобросовестных разработчиков. Хочется верить, что подобные комиссии не станут насквозь бюрократическими и академическими, а добровольная сертификация в один из дней не превратится в добровольно-принудительную», — прокомментировал положения кодекса Иван Барчук.
Источник: Comnews