Глава ГК InfoWatch рассказала о рисках ИИ на «Армии-2021»

Наталья Касперская выступила одним из основных спикеров пленарной секции «Отечественная научная школа и научно-технологический прорыв. Вопросы подготовки кадров». Дискуссия прошла 24 августа, в рамках секции «Отечественная научная школа и научно-технический потенциал в области искусственного интеллекта. Вопросы подготовки кадров». Организатором выступило Министерство Обороны РФ.

Помимо Натальи Касперской в секции приняли участие:

• Игорь Каляев — российский учёный, специалист в области многопроцессорных вычислительных и управляющих систем, академик РАН; 
• Сергей Желтов, российский учёный, специалист в области процессов управления, обработки информации в сложных системах управления, доктор технических наук, академик РАН; 
• Александр Осадчук, заместитель руководителя департамента информационных систем Министерства обороны РФ; 
• Максим Вакштейн, заместитель генерального директора Фонда перспективных исследований, руководитель направления информационных исследований; 
• Дмитрий Онтоев, начальник аналитического управления департамента информационных технологий (ДИТ) г. Москвы; 
• Павел Голосов, декан факультета ИТ и анализа данных Института ЭМИТ РАНХиГС 

и другие ключевые эксперты по заявленным темам.

Глава ГК InfoWatch посчитала общим для России риском отставание по внедрениям и развитию искусственного интеллекта (ИИ) от других стран и возможную уязвимость в военном отношении. Дополнительную опасность, по ее мнению, несут зависимость от иностранных технологий, разнообразные технологические и социально-экономические риски.

При этом главными технологическими рисками Наталья Касперская считает ситуацию «черного ящика и низкое качество работы ИИ на больших объемах данных в «боевом» применении.

«Основная нерешенная проблема — черный ящик. Мне бы хотелось, чтобы мы на форуме пришли к каким-то подходам по решению этой проблемы. До тех пор, пока у нас «черный ящик», использование ИИ в военных системах очень опасно», — сказала президент ГК InfoWatch, председатель правления АРПП «Отечественный софт».

По мнению Наталья Ивановны, в государстве нужно иметь четкую систематизацию рисков ИИ и понимание как с ними работать. России также нужна целостная национальная программа по ИИ, отражающая не только экономические вопросы, но и вопросы национальной безопасности.