Цифровые технологии продолжают стремительно распространяться в современном мире, предоставляя пользователям существенные конкурентные преимущества. В опубликованном корпорацией IBM отчете о распространении искусственного интеллекта (ИИ) в качестве лидеров называются такие страны, как Китай, Индия, Италия [1]. Существует ряд оценок, согласно которым, например, компании могут к 2024 г. сократить операционные издержки на 30% путем сочетания цифровых технологий с сопутствующим реинжинирингом бизнес-процессов [2]. При этом показательно, что с точки зрения факторов, обеспечивающих успешное внедрение в организациях технологий ИИ, на третьем месте в числе приоритетов находятся инвестиции в развитие соответствующих «цифровых» навыков у персонала. Таким образом, развитие цифровых компетенций персонала становится в наше время фактором, определяющим уровень международной конкурентоспособности страны. В настоящее время позиции России в данной сфере сложно назвать достаточно высокими. Так, по «Интеку сетевой готовности» NRI наша страна занимала в 2022 г. лишь 40-е место в мире [3]. Поэтому в России данному вопросу уделяется самое серьезное внимание. В частности, президент Российской Федерации Владимир Путин, выступая на конференции «Путешествие в мир искусственного интеллекта» 28 ноября 2023 года, подчеркнул необходимость приоритетного развития не только материальной части, но и подготовку кадров [4]. В связи с этим разработка технологий оценки и развития цифровых компетенций становится приоритетной задачей обеспечения глобальной конкурентоспособности России и повышения ее роли в международном разделении труда в области применения цифровых технологий.
Целью исследования является разработка алгоритма оценки компетенций на основе анализа текстов в виде эссе, написанных участниками оценки на заданную тему, связанную с проявлением цифровых компетенций, а также формирование гипотез о возможностях развития цифровых компетенций персонала в целях повышения «цифровой конкурентоспособности» как отдельных организаций, так и российских регионов и страны в целом.
Материал и методы исследования
В процессе исследования была использована модель цифровых компетенций педагогических работников, разработанная Институтом перспективных исследований и цифровых решений в сфере науки и образования РУДН [5]. В контексте обеспечения глобальной конкурентоспособности России на рынке цифровых технологий цифровые компетенции педагогических работников приобретают особую важность, т.к. именно педагогические работники отвечают за массовое формирование цифровых компетенций как в системе среднего и высшего образования, так и в корпоративном образовании. По данным компетенциям была проведена оценка 6000 человек методом написания эссе по тематике использования цифровых компетенций в процессе обучения. Для оценки эссе был разработан соответствующий алгоритм, а также проведен анализ взаимосвязей выраженности цифровых компетенций (по результатам оценки) с личностными чертами.
Оценка компетенций является одной из ключевых задач, решаемых при отборе и продвижении персонала, разработке программ развития и обучения. Существуют различные методы оценки компетенций, такие как прямое наблюдение за работой, центры оценки, оценка «360 градусов», интервью по компетенциям, оценка с помощью тестов способностей и личностных опросников. Проблема заключается в том, что перечисленные методы обладают рядом ограничений, прежде всего, организационного плана. Во-первых, для проведения данных мероприятий необходима значительная работа по подготовке и администрированию процесса оценки. Во-вторых, они требуют существенных затрат времени со стороны специалистов, производящих оценку. В-третьих, они требуют специальной подготовки тех людей, которые проводят оценку. Всё вышеперечисленное приводит к тому, что данные методы являются достаточно затратными, и их сложно применять, когда необходимо быстро оценить большое количество людей.
В то же время человек в процессе своей работы и в обыденной жизни генерирует большое количество различных текстов, как устных, так и письменных. В этих текстах также находят свое отражение те компетенции, которыми человек обладает. Следовательно, анализ текстов может быть также использован для оценки компетенций. Современный же уровень развития информационных технологий позволяет автоматизировать целый ряд задач по анализу текстов. Написание эссе как методика оценки существует достаточно давно, и в данном случае идея заключалась в том, чтобы применить данную методику для оценки цифровых компетенций.
Результаты исследования и их обсуждение
Основы компетентностного подхода были заложены Дэвидом Макклелландом и рядом других ученых, обративших внимание на то, что любая работа – это человеческая деятельность, определенное поведение. Соответственно, под компетенциями в данной работе подразумеваются модели поведения, обеспечивающие успешное выполнение рабочих задач. Соответственно, цифровые компетенции – это те модели поведения, которые обеспечивают эффективное выполнение рабочих задач в цифровой среде [6; 7]. В настоящее время существует целый ряд моделей цифровых компетенций [8] и методик их оценки, в том числе самооценки [9]. При этом очевидно, что все данные модели обладают известным сходством, т.к. разработаны для выполнения круга задач, решаемых в системе «обучающий – обучающийся» с помощью цифровых технологий. Используемая автором при анализе модель цифровых компетенций включала 6 сфер профессиональной деятельности педагогических работников:
1. Применение цифровых продуктов и цифровых образовательных ресурсов – использование отраслевых цифровых продуктов в профессиональной деятельности; оценивание цифровых продуктов с точки зрения их эффективности/целесообразности применения; внедрение новых цифровых продуктов в деятельность; анализ результатов внедрения цифрового продукта.
2. Воспитание личности в условиях цифровой среды – обучение правилам безопасного, этичного и корректного поведения в цифровом пространстве.
3. Цифровая дидактика – адаптация методики преподавания с учетом применения цифровых технологий преподавания, подбор цифровых инструментов для организации взаимодействия с обучающимися.
4. Оценка и учебная аналитика – использование цифровых инструментов для оценки и последующей аналитики результатов освоения обучающимися образовательной программы.
5. Инклюзивность и индивидуализация – учет специфики особых образовательных потребностей (ООП) обучающихся.
6. Цифровая безопасность и культура работы с данными – работа с персональными данными и соблюдение правил цифровой безопасности.
Данные компетенции являются достаточно универсальными и могут поэтому быть использованы как в системе среднего и высшего образования, так и в корпоративном обучении.
Участникам оценки было предложено написать эссе – текст, содержащий рекомендации начинающему коллеге относительно использования цифровых технологий в процессе обучения. Очевидно, что анализ текста не позволяет оценить фактическое поведение респондента при выполнении им рабочих задач, но он позволяет, по крайней мере, определить уровень знаний и, до известной степени, навыков по заданным компетенциям.
В основе оценки лежал следующий подход:
• Каждой компетенции в тексте соответствует определенный набор смысловых единиц, которыми она описываются. Такими смысловыми единицами являются как отдельные слова, так и их сочетания. Аналогично для каждого уровня развития компетенции определяется свой набор смысловых единиц по принципу дополнения, т.е. более высокий уровень включает в себя смысловые единицы, характерные для низших уровней.
• При анализе текста происходит идентификация содержащихся в нем смысловых единиц, подсчет и соотнесение их с определенным уровнем развития компетенции.
Оценка текстов эссе проводилась по следующему укрупненному алгоритму:
1. Проверка эссе на достаточность объема и соответствие тематике.
2. Последовательная оценка по каждой из компетенций путем подсчета смысловых единиц.
3. Выделение неклассифицированных элементов для последующего анализа.
Для калибровки модели был использован набор «модельных» эссе, специально написанных экспертами для разных уровней развития компетенций. Для последующей валидизации использовалась выборочная проверка текстов экспертом с последующим соотнесением экспертной оценки с оценкой, поставленной программой.
Пилотная оценка 6000 респондентов по приведенной выше методике показала следующие результаты:
- порядка 8% эссе были отсеяны, т.к. содержали технический брак, пустые или нечитаемые файлы, отказы предоставить ответ на поставленный вопрос, тексты не по теме задания;
- большинство эссе содержало от 11 до 50 слов (52,6%), далее 51-100 слов (23,1%), 101-150 слов (7,5%). Второй, хотя и незначительный, пик по количеству эссе приходился уже на диапазон 600-800 слов (4%).
Данное явление показывает, что если эссе используется в качестве метода оценки персонала, то существенную роль играет мотивация на его написание.
По результатам оценки был сформирован рейтинг выраженности 17 компетенций, входящих в 6 описанных выше блоков.
Наиболее развитыми оказались цифровые компетенции, которые можно было бы назвать «общеобразовательные», т.е. те, наличие которых позволяет осуществлять базовые функции обучения:
• создать курс с помощью информационных технологий как средства доставки контента;
• подобрать инструменты для доставки контента и взаимодействия с обучающимися в процессе обучения;
• провести оценку знаний обучающихся.
Наименее выраженными оказались компетенции, связанные с соблюдением норм этики в цифровой среде, учетом особых потребностей обучающихся, соблюдением правил информационной безопасности.
Проведенный анализ, таким образом, позволяет сформировать гипотезы как о наиболее развитых цифровых компетенциях, так и тех, которые нуждаются в развитии. Будучи наложенными на геоинформационную систему, результаты оценки могут быть использованы для построения «карты развития цифровых компетенций» в российских регионах, что позволит принимать более адресные решения, позволяющие повысить как международную конкурентоспособность отдельных регионов, так и российской экономики в целом.
Выводы
Первый вывод, который можно сделать, что методика оценки цифровых компетенций на основе анализа текстов доказала свою работоспособность. Несмотря на то, что, на взгляд авторов, она не позволяет в полной мере оценить фактический уровень развития цифровых компетенций (напомним, что компетенцию, т.е. поведение, возможно фактически оценить только в условиях реальной деятельности индивида), она может быть эффективно использована в целях экспресс-диагностики, особенно когда необходимо оценить большое количество людей – это важно для формирования картины уровня развития цифровых компетенций и, следовательно, уровня развития международной «цифровой конкурентоспособности» регионов, и страны в целом. Кроме того, данный вариант экспресс-диагностики может быть использован в целях получения больших эффектов от международной трудовой миграции. В настоящее время Российская Федерация испытывает кадровый дефицит в ряде отраслей, в частности связанных с использованием цифровых технологий, причем не только на «продвинутом» уровне, например разработчиков, но и на уровне квалифицированных пользователей. Данная методика могла бы быстро определять качество трудовых ресурсов, как уже поступивших в страну, так и планирующих данный шаг. Важно, что методика может быть легко адаптирована для использования на других языках, поэтому появляется возможность оценки потенциальных востребованных трудовых мигрантов за пределами нашей страны.
Второй вопрос, который был поставлен в рамках исследования – это вопрос о возможности использования технологии ИИ в целях оценки и развития цифровых компетенций персонала. В рамках настоящего исследования автор использовал русскоязычную модель ruGPT-3X, представленную на ресурсе Сбер Cloud, и наш эксперимент показал, что она в состоянии генерировать на темы, связанные с цифровыми компетенциями, тексты приемлемого качества, заслуживающие, по крайней мере, оценки, отличной от нуля. Это, в свою очередь, позволяет предположить, что в дальнейшем генеративные нейросети могут быть использованы как для создания «модельных» текстов – то, что в рамках настоящего исследования было сделано силами экспертов, так и для определения уровня развития цифровых компетенций.
Третье. Важным фактором повышения международной конкурентоспособности России в области цифровых технологий является комплексная оценка и развитие цифровых компетенций педагогических работников, т.к. именно от этого зависит то, насколько быстро и успешно цифровые технологии будут распространены среди остального населения России. В этой связи важна работа на всех уровнях подготовки кадров – как на уровне формального среднего и высшего образования, так и на уровне всех форм дополнительного образования, а также корпоративного образования.