Добровольная сертификация и другие способы проверки эффективности ИИ-решений – тема дискуссии 5-го заседания Рабочей группы по вопросам искусственного интеллекта при бизнес-омбудсмене Москвы.
Открывая заседание, Татьяна Сизова отметила, что активный рост рынка ИИ-технологий открывает новые горизонты для разных сфер, однако сопровождается появлением недобросовестных поставщиков, что приводит к негативным последствиям.
«Отсутствие эффективных механизмов проверки качества ИИ-продуктов создает риски не только для деловой репутации добросовестных разработчиков, но и, в критических случаях, может нанести ущерб здоровью и безопасности граждан. Поэтому важная задача – совместно с профессиональным сообществом выработать понятные и работающие инструменты верификации, которые помогут "очистить" рынок и повысить доверие к технологиям», - сказала Татьяна Сизова.
Руководитель Рабочей группы Вячеслав Береснев выделил как самую важную – проблему доверия к продуктам и решениям ИИ. «Компаний-разработчиков ИИ и заявляющих о том, что они таковыми является, за последние годы увеличилось в разы. Львиная доля имеет достаточно слабые компетенции и понимание, что такое искусственный интеллект. Но при этом они очень ярко представлены. Чем больше потребителей сталкиваются с некачественным продуктом ИИ, тем больше недоверие к индустрии в целом».
В рамках заседания эксперты представили комплексный анализ существующих подходов к регулированию ИИ. Были рассмотрены плюсы и минусы разрешительного и уведомительного порядков оформления решений, обсуждены практические механизмы оценки их эффективности и качества.
Особое внимание было уделено роли добровольной сертификации в формировании правовой среды доверия к технологиям искусственного интеллекта. Как отметил в своем выступлении управляющий партнер юридической компании «Инноправо» Игорь Терещенко, добровольная сертификация становится ключевым инструментом саморегулирования отрасли, позволяя бизнесу демонстрировать соответствие своих продуктов высоким стандартам.
Эксперты также представили обзор конкретных систем сертификации, действующих на рынке. Роман Рясков, адвокат и эксперт Pro bono, рассказал о системе добровольной сертификации «Интеллометрика».
Общественный уполномоченный по информационным технологиям и цифровизации Уполномоченного Виталий Арбузов отметил высокое развитие ИИ в России. По итогам 2024 года объем отечественного рынка ИИ достиг $1.45 млрд, что на 38% превышает показатели предыдущего года. Прогнозы на 2025 год еще более оптимистичны — эксперты ожидают роста до $2.1 млрд, что составит впечатляющие 45% прироста.
Участники дискуссии сошлись во мнении, что подтверждение качества ИИ – это не разовая акция, а непрерывный системный процесс. По итогам совещания будут сформирована конкретные вопросы и предложения для обсуждения с представителями ФОИВ и профильных департаментов Москвы.
Благодарим всех участников за активную работу!