Наталья Касперская выступила на форуме Открытые данные

Президент ГК InfoWatch и председатель правления АРПП «Отечественный софт» Наталья Касперская выступила на шестом ежегодном форуме по искусственному интеллекту и big data «Открытые данные 2024».

Мероприятие посвящено вопросам поиска и сбора открытых данных, а также внедрению инструментов и технологий на основе ИИ в разных отраслях: общество, экономика, управление, образование, наука. Форум стал экспертной и дискуссионной площадкой, на которой встретились представители науки и бизнеса, чтобы обсудить технические и практические аспекты работы с big data и ИИ. 

Наталья Касперская на панельной дискуссии «Данные на службе общества», посвящённой в том числе цифровой безопасности, рассказала, что вопросы безопасности при внедрении и работе технологий на базе ИИ занимают первостепенное место, в том числе и потому, что рисков и угроз здесь очень много. 

По мнению спикера, их можно подразделить на риски, связанные с иностранным происхождением технологий, технологические риски, риски мошенничества и компрометации данных, социально-экономические и правовые риски. 

«Поскольку большинство платформ, на которых базируются системы ИИ в России — иностранные, это влечёт риск наличия закладок и недокументированных функций. Существующие самообучающиеся системы ИИ для внешнего наблюдателя представляют собой так называемый «чёрный ящик». Это значит, что даже разработчики систем ИИ в большинстве случаев не могут объяснить принимаемые системой решения», — поделилась Наталья Касперская. 

Президент ГК InfoWatch отметила, что все риски нужно рассматривать подробно и последовательно.  Для глубоких нейронных сетей невозможно провести технологический аудит платформы и установить, какие параметры и функции изначально заложены в систему. В случае иностранной платформы проблема «чёрного ящика» является наиболее острой.

Кроме того, Наталья Касперская заметила — чем больше данных появляется в цифровом виде, тем больше происходит утечек информации. Соответственно, чем больше внедряется информационных технологий, тем больше случается взломов, инцидентов с этими технологиями.

«Мы сравнивали защищённость разных систем. Например, защищённость атомной станции измеряется пятью знаками после запятой, т.е.  99,99999%. Защищённость любой информационной системы достигает уровня защищённости 99% и это считается очень хорошая защищённая система. Таким образом, если мы внедряем, например, в атомную станцию информационную систему — интернет вещей, то мы понижаем защищённость атомной станции на пять порядков. Об этом никто не думает, потому что кажется, ну что там 99% или 99, 99999%. А в реальности это резкое понижение уровня защищённости. Распространение интернета вещей идёт гораздо быстрее, чем система защиты вообще производится. Многие системы с интернетом вещей просто не защищены», — рассказала спикер.