Объяснительный искусственный интеллект

Докладчик Аверкин Алексей Николаевич, Член Научного совета РАИИ, к.ф.-м.н., доцент каф. «Интеллектуальные системы» МФТИ, в.н.с. отдела «Интеллектуальные системы» Вычислительного центра ФИЦ ИУ РАН, директор Научно-исследовательского центра искусственного интеллекта Государственного университета «Дубна, в.н.с. Центра перспективных исследований в искусственном интеллекте РЭУ им. Г.В. Плеханова. Тема доклада: Один из основных принципов развития и использования технологий искусственного интеллекта (ИИ), приведенных в Национальной стратегии развития искусственного интеллекта на период до 2030 г., является прозрачность, т.е. объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта. В настоящее время мы вступаем в 3-е поколение ИИ, где будет решаться вопрос создания систем искусственного интеллекта, способных интерпретировать и объяснить алгоритм принятия решений, даже если он имеет природу черного ящика. таким образом, объяснительный искусственный интеллект становится основной частью 3-го поколения ИИ. Объяснительный искусственный интеллект (ОИИ) играет ключевую роль в развитии и применении систем ИИ в экономике данных, способствуя их прозрачности, пониманию и доверию со стороны пользователей и заинтересованных сторон. Растущая потребность к доверительности, подотчетности и этичности ИИ, особенно в таких отраслях, как финансы, здравоохранение и юриспруденция, повышает спрос на объяснимый ИИ. В докладе проводится краткий обзор и анализ эволюции и существующих методов ОИИ в задачах распознавания цифровых изображений и в больших речевых моделях.