Президент ГК InfoWatch, председатель правления ассоциации разработчиков программных продуктов Наталья Касперская дала интервью телеканалу «СПАС» о развитии современных технологий. Среди его основных тем — создание в РФ альтернатив Википедии и YouTube, а также риски и угрозы, появляющиеся при развитии технологий искусственного интеллекта. Помимо ситуации с технологиями в разговоре с Натальей Касперской обсуждалась необходимость введения правил поведения в интернете. Обсуждались также методы борьбы с участившимися утечками конфиденциальной информации из российских компаний — финансовой, банковской, высокотехнологичной, медицинской и иных сфер бизнеса.
ИИ не замена таланту
Несмотря на то, что все мы уже давно пользуемся цифровой средой, для большинства людей она остается загадочной областью, происходящее в которой чем-то похоже на магию. Одна из последних IT-новинок — Chat GPT. Часто можно услышать рассуждения о том, что он способен заменить собой многих специалистов — в том числе, даже представителей таких творческих профессий, как художники и писатели. Вы согласны с этим мнением?
Искусственный интеллект развивается уже более 60 лет, и, как и в случае с другими технологиями, этот процесс проходит волнообразно. Каждый следующий этап обычно начинается с завышенных ожиданий, однако практическая реализация полностью их не оправдывает и возвращает нас на землю – вплоть до следующего периода оптимизма. Появление Chat GPT как раз совпадает с одним из таких периодов — его главной заслугой можно назвать успешное прохождение теста Тьюринга, который ранее позволял отличить поведение машины от действий человека. Таким образом, если сейчас нам дать статью, написанную искусственным интеллектом и заметку, вышедшую из-под пера журналиста, мы, скорее всего, не заметим особой разницы. Исключение тут составляют, разве что, длинные тексты, где система может дать сбой и сделать их смысл несколько бредовым.
Нужно подчеркнуть, что такое сравнение касается только работы журналистов низкого уровня. Если же говорить про вдумчивых авторов, которые подробно изучают тему своей работы, то здесь искусственный интеллект уже проигрывает в конкуренции с человеком. То же самое касается и искусства. Система может нарисовать псевдокартину по мотивам творчества одного из художников, обучившись на его работах. Однако сделать что-то оригинальное (не вторичное) в живописи и тем более создать шедевр машина не способна. То же касается и управления людьми, поскольку для менеджмента нужна та гибкость и понимание человеческой природы, которой никогда не будет у машин.
Поэтому таланты и высококлассные специалисты остаются вне конкуренции, а вот люди, которые выполняют простую работу — например, офисные клерки — действительно могут быть заменены искусственным интеллектом.
А стоит ли для продуктов, созданных с помощью нейросетей, делать специальную маркировку, которая отличала бы их от результатов человеческого труда?
Хорошая идея. Однако благодаря человеческой хитрости сделать это не так просто как кажется на первый взгляд. Возьмем для примера услуги переводчиков. Если раньше они сидели и переводили каждое слово в тексте, то сейчас они предварительно помещают его в Google-переводчик (в котором используется искусственный интеллект), а затем просто доводят получившийся результат до необходимого уровня качества. Такой продукт является результатом работы людей или нейросетей? Тут не может быть однозначного ответа. И я боюсь, что, если мы начнем внедрять маркировку, то люди все равно будут пытаться упростить себе работу с помощью роботов, а от необходимости признаваться в этом смогут уходить включением небольшого этапа подготовки, связанного с трудом специалистов.
Кстати, если возвращаться к теме переводов, то искусственный интеллект тут сыграл скорее негативную роль, поскольку переводчики стали слишком полагаться на машину и не всегда замечают ее ошибки. В результате, качество текстов заметно упало — особенно, если мы говорим о недорогих агентствах.
Выходит, что технический прогресс приводит к деградации бизнес-процессов?
Он приводит к деградации целых профессий. И это касается не только переводчиков. Возьмем для примера авиацию. Известно, что большую часть времени современные самолеты летают на автопилоте, в результате чего многие летчики уже не обладают всеми навыками управления, необходимыми при возникновении чрезвычайных ситуаций. В частности, если человек всю свою карьеру полагался на робота, то он вряд ли сможет посадить самолет, у которого отказали все двигатели. То же касается и врачей, которые ранее полагались на книги и собственное чутье, выработанное годами практики, а сейчас все больше переходят на использование анализа больших массивов данных, результаты которого в ряде случаев могут быть ошибочными. И главная проблема здесь состоит в том, что непонятно, как все-таки сохранить эти классические навыки, поскольку люди привыкли идти по пути упрощения, который, увы, не всегда верный.
Многие перспективные технологии прошлых лет, такие как VR, 3D или блокчейн, получили достаточное узкое распространение, которое не соответствует первоначальным ожиданием от их развития. Почему так произошло, и что вы ожидаете в будущем?
Именно по этой причине для данной сферы лучше ничего не прогнозировать, поскольку в реальности чаще всего происходит совсем не то, чего ожидали эксперты. Приведенные примеры очень показательны, поскольку вы указали на перспективные технологии, которые так по-настоящему и не взлетели. Например, сейчас мы не видим вокруг себя людей, которые ходят в очках виртуальной реальности — компания Google закрыла свой проект. А видео в формате 3D так и осталось аттракционом для кинотеатров, не получившим распространения на телевидении. Если же говорить про блокчейн, то успешное использование этой технологии связано с необходимостью раскрытия коммерческой информации, на которое готова пойти далеко не каждая организация. Поэтому сфера ее применения также оказалась достаточно узкой.
Все эти примеры подтверждают правильность «Кривой Гартнера». Это график, который показывает жизненный цикл любой технологии в разрезе ожиданий. При появлении новинки мы видим их стремительный рост, однако после прохождения некой наивысшей точки, неизбежно начинается снижение интереса, после чего может быть два варианта развития событий. Либо нас ожидает плато разочарований (если новинка совсем не оправдала надежд), либо это будет уровень спокойного использования технологии, где с ней уже не связан ажиотаж общества — в случае если она оказалась полезной.