Научный журнал
Вестник Алтайской академии экономики и права
Print ISSN 1818-4057
Online ISSN 2226-3977
Перечень ВАК

RISK MANAGEMENT IN THE USE OF ARTIFICIAL INTELLIGENCE N HR-MANAGEMENT

Tappaskhanova E.O. 1 Zumakulova Z.A. 1 Tokmakova R.A. 1 Bischekova F.R. 1
1 Kabardino-Balkarian State University named after H.M. Berbekova
In recent years, it has become increasingly difficult to manage people in an organization. This critical area of management is influenced by such processes as global technological and structural changes, a high level of competition, worldwide integration of production, deepening of international relations, cooperation and integration. Under these conditions, personnel management specialists at a number of modern enterprises began to actively use intelligent technologies that help them to reduce and better solve such problems as the selection and placement of personnel, personnel training, their adaptation and performance assessment, etc. However, the use of AI, as shown practice is associated with certain risks. The introduction of artificial intelligence in personnel management is associated with a number of risks that can cause irreparable damage to both the organization itself and the process of managing its personnel and can contradict the strategy and tactics of management, market conditions and the capabilities of the company, personnel qualifications and needs for innovation, and pr The paper discloses the main types of risks that HR managers face. The main directions of ensuring the minimization of risks are determined. The necessity of control over the intellectual technologies used in the organization is substantiated,
hr manager
recruiter
artificial intelligence
machine learning
risks when using artificial intelligence

Введение

Тема исследования в современный период развития общества, на наш взгляд, актуальна. Сегодня мало кто сомневается в том, что ИИ в ближайшие годы будет активно востребован в организации подбора кадров и найма сотрудников. Технологии ИИ имеют громадный потенциал для оптимального и автоматизированного решения значительного количества рутинных задач в области управления персоналом и, как показывает практика, многие компании добились уже впечатляющих успехов в этой области.

В то же время использование ИИ имеет некоторые ограничения и сопряжены с определенными рисками. Сокращая время на решение многих проблем, выполняющих специалистами по управлению персоналом, ИИ в тоже время может влиять на процесс подбора кадров, снижая его качество, а также на работу в целом организации[7].

Различным аспектам рисков при использовании ИИ в управлении персоналом посвящены труды отечественных и зарубежных ученых, таких, как: Агравал А., Балаганская В.С., Голдфарб А., Джошуа Г., Климчук Т.В., Пантелеева Т.А., Уваров М.А. и др. В этих работах исследованы причины рисков, определены пути предотвращения и эффективного управления рисками при использовании ИИ в управлении персоналом.

Однако, несмотря на достаточно глубокое исследование проблемы данными авторами, отсутствуют целостные разработки аспектов рисков в процессе внедрения интеллектуальных технологий в управлении персоналом организации. Это и послужило главной причиной выбора темы исследования.

В работе определены важнейшие риски применение ИИ в сфере управления персоналом. Речь идет о возникновении рисков в процессе подбора и расстановки кадров, обучении персонала, оценки его работы и т.д.. Рассмотрены, какие действия должны предпринимать рекрутеры при использовании ИИ для предупреждения рисков и эффективного управления ими. Обосновывается необходимость использования опыта в решение данной проблемы известных в мире компаний, которые активно используют ИИ.

Поэтому предупреждение рисков, и если они все-таки возникли, умелое управление ими, важнейшая задача не только рекрутеров, но и всего управленческого персонала организации.

Материалы и методы исследования

Опираясь на известные научные исследования, имеющиеся в экономической литературе, в работе делается важнейший вывод, что существует непосредственная связь между использованием интеллектуальных технологий и уровнем управления рисками, которые возникают при этом. В процессе исследования были использованы аспектный, системный и концептуальный подходы Аспектный подход позволил выбрать одну грань проблемы по принципу актуальности или по принципу учета ресурсов, выделенных на исследование. Так, например, проблема рисков при использовании искусственного интеллекта может иметь различные аспекты: социальный, когнитивный, эмоциональный, этический и т. д. Системный подход – это подход к исследованию объекта как к системе, в которой выделены внутренние и внешние связи, наиболее существенным образом влияющие на исследуемые результаты его функционирования. Концептуальный подход позволил разработать концепции исследования, т. е. комплекса ключевых положений, определяющих общую направленность исследования. Главную роль в методологии играют средства и методы исследования. В исследовании были использованы: формально-логические, общенаучные методы.

Результаты исследования и их обсуждение

Как известно, система работы с персоналом представляет собой многоаспектную проблему (рисунок 1) [12]. Работа рекрутеров с каждым годом все более усложняется. В этих условиях рекрутеры стали обращаться к ИИ – технологии, а точнее направлению современной науки, которое изучает способы обучить компьютер, роботизированную технику, аналитическую систему разумно мыслить также как человек, но только гораздо быстрее и эффективнее. И даже современный этап, характеризующийся кризисом и наличием пандемии, не остановил эти процессы а, наоборот, лишь ускорил их [7;11].

Такие крупные разработчики программного обеспечения как SAP, Microsoft, IBM, Veriato, Entelo, BluVision активно занимаются разработкой программ с элементами искусственного интеллекта, предоставляя возможность, реализовывать различные стратегии управления персоналом специалистам, участвующими в процессе управления кадрами[6].

По оценкам американского агентства Grand View Research объем мирового рынка инновационных технологических решений для управления персоналом (HR-tech) к 2025 году удвоится и достигнет $30 млрд. Большая часть инвестиций на этом рынке идет на инструменты для автоматизации рекрутинга, как самой затратной части найма сотрудников[9].

Опыт работы зарубежных и российских компаний в последние годы свидетельствует достаточно красноречиво об этом (таблица).

Doc54.pdf

Рис. 1. Система работы с персоналом [12]

Примеры использования ИИ в управлении персоналом

Технология

Сфера применения

Примеры компаний

ИИ, сервис Skillaz

Платформа поиска кандидатов

Банк «Открытие», «Азбука вкуса», «Вымпелком»

Машинное обучение

Подбор IT -кандидатов

Лаборатория Касперского, Yota

Чат – боты, Робот Вера

Отбор кандидатов на собеседование

X5 Retail Group, Пятерочка, Перекресток

Виртуальная реальность,

VR/AR – технологии

Поиск кандидатов,

Работоспособность кандидатов

Deutsche Bahn, KFC Россия

 

Doc55.pdf

Рис. 2. Основные риски при использовании ИИ в HR-менеджменте

Таким образом, можно утверждать, что использование ИИ в сфере управления персоналом стало атрибутом реального времени. Уже сейчас использование новых информационных технологий, с одной стороны, стало обеспечивать эффективность управление персоналом и экономическую выгоду в целом организации, а с другой – требовать современного подхода к управлению рисками, которые возникают в данном процессе (рисунок 2).

К существенной характеристике ИИ следует отнести способность его учиться «Машинное обучение» дает возможность ИИ принять, например, ряд решений, который сделал человек и на основе этих данных разработать алгоритм принятия таких решений в будущем при получении аналогичных информаций.

И здесь мы имеем основной риск: так как с принятыми решениями ранее ИИ знаком и изучил их, но в них могут содержаться различные пристрастия, мыслительные искажения и субъективность, присущие человеку. ИИ не сможет от них избавиться и непременно использует их при принятии своих решений. Следовательно, ИИ во многом зависим от информации, которую он получил с целью обучения. Причем, такой зависимости подвержена машина по отношению к предоставленному не только объему информации, но и ее качеству, ибо качество будущих решений напрямую от этого зависит [1].

Таким образом, основной риск в использовании ИИ состоит в том, что он не способен эффективно работать не обладая «обучающими данными». Алгоритмы, как было сказано выше, основываются на опыте прошлого. Наличие такой текущей практики, когда управление организацией характеризуется такими чертами как чрезмерная автократичность в управлении, предубежденность, феминизация, может привести и приводит к усугублению положения. Требуется «беспристрастный» подход ИИ, чтобы человек мог его «настраивать», контролировать его алгоритмы с целью обеспечить его продуктивную работу. То есть для алгоритмов, которые впервые разработаны, необходимы время и совершенствование, для того, чтобы человек смог сделать ИИ более точным [8].

Преимущество искусственного интеллекта по сравнению с человеком, несомненно, заключается в способности улучшить процесс сопоставления людей с необходимыми рабочими местами, В тоже время, наблюдается при их применении снижение этических стандартов научно обоснованных методов отбора. Поэтому при внедрении искусственного интеллекта компании могут столкнуться с проблемами этического характера[6].

Так как машины могут собирать, отслеживать и анализировать все данные о человеке, то вполне вероятно, что эти машины будут использовать эти данные против него же. Несложно представить себе, что какая – то кредитная компания отказывает данному человеку в кредите, основываясь на данных, которые зафиксировала машина: несвоевременные платежи, плохое вождение, курение в запрещённых местах, разговоры за рулем по телефону и т.д. Имея такой «социальный рейтинг» будущий работодатель вполне может отказать данному претенденту на вакантную должность [10].

В Китае, например, уже практически запущена такая система, которая называется Система социального рейтинга – система оценки отдельных граждан или организаций по различным параметрам, значения которых получают с помощью инструментов массового наблюдения и используя технологию анализа больших данных. В то же время, следует отметить, что благодаря Системе члены общества сознательно или подсознательно становятся законопослушным и начинают вести себя по-другому [5].

К этическим проблемам в использовании ИИ также относятся риски дискриминации. По мнению большинства исследователей, дискриминация – это дифференцированное отношение, разные стандарты для мужчин и женщин, для людей, с разной расовой принадлежностью. Часто дискриминация может носить не преднамеренный характер.

Так, например, если организация пожарной безопасности практически никогда не нанимала на работу, на должность руководителя женщин, наверняка, ИИ, подбирая персонал, примет решение о том, что для компании совсем нежелательно продвигать женщин на должность руководителей. Или, например, как поступил Facebook, рекламируя вакансии в области науки, технологий, инжиниринга и математики. Они разместили рекламу для мужчин, так – как она дешевле, чем реклама для молодых женщин, сэкономив на этом средства. Однако затем в результате такой дискриминации по половому признаку они потеряли больше средств, чем сэкономили. А все потому, что алгоритмы были настроены так, чтобы от рекламы можно было получить максимальную прибыль.

Такие варианты дискриминации, и их немало, подобного предвзятого отношения, со временем должны быть устранены из алгоритмов. Организации должны исследовать все факторы, которые приводят к дискриминации и которые наносят урон бизнесу. Перед руководителями компаний стоит задача предусмотреть такого рода риски и находить методы управления ими. Использование ИИ потребует, разумеется, дополнительных средств в выявлении дискриминации и работы по ее устранению.

Можно также говорить и о других этических проблемах рисков в использовании ИИ. Возникает риск невольного, несоответствующего использования машинных данных. В качестве примера можно взять использование информации с целью выяснения вероятности увольнения высокоэффективного работника из компании. Предположим, что руководители получат от машины информацию, что «данный сотрудник, вероятнее всего, собирается уйти», то руководство может сформировать неправильное поведение – оно может пренебрегать этим сотрудников, может изменить отношение к нему. Поэтому руководители организации должны уметь правильно использовать влияние социальных, когнитивных и эмоциональных факторов на поведение в сфере экономики. Пока же необходимо признать, что ИИ – это «инструмент», помогающий вносить предложения, а также улучшения, а пока она не является системой, которая может самостоятельно принимать решения[4].

Также, можно отметить, что при внедрении ИИ исчезнет целый ряд профессий на рынке труда, а это, по сути, будет вести к росту безработицы. Так, исследования, проведенное консалтинговой компании Gartner показывает, что в 2020 году использование технологий искусственного интеллекта привело к сокращению рабочих мест на 1,8 млн. Одновременно с этим процессом наблюдается рост требований к кадрам, что будет вести к пересмотру подготовки специалистов в сфере образования[6].

Поэтому, говоря о рисках при внедрении ИИ, следует не бросать со счетов проблемы этики, особенно в процессе набора и процедуры отбора претендентов: получении информации о кандидатах. Да, компания должна иметь информацию о кандидатах, но такая процедура не безгранична и здесь организация вполне может столкнуться с этическими нормами. Отсюда, защита данных о человеке, предоставление возможных равных и объективных шансов каждому претенденту в процессе процедуры отбора с использованием ИИ, одна из актуальных задач HR – менеджера в условиях внедрения ИИ [2].

Конечно, возможно обучить ИИ акцентироваться на реальных прогностических (имеющих предсказательную силу) индикаторах потенциала, оставляя в стороне ненужные или неверные сигналы и другие факторы. Тогда ИИ, безусловно, будет функционировать намного быстрее и гораздо эффективнее, чем HR-менеджеры или рекрутеры. Однако, не факт, что ускорение или удешевление прогнозирования с помощью машин решит главные проблемы в процессе набора сотрудников. Необходимо иметь определенные критерии или одним словом такие индикаторы, которые были бы действенными для определения надежности в прямом понимании этого слова, сотрудника, занимающего ту или иную должность или, вообще, его места в компании. Имея такие высокие показатели работы сотрудника, компания только тогда способна создавать какие – либо серьезные модели для того, чтобы правильно прогнозировать каковы будут показатели работы сотрудника в будущем, и оценивать количественно, пригоден ли к работе тот или иной человек [1;7].

Одним словом, использование ИИ в HR – менеджменте будет, во многом, определяться от возможности выявить очень важные для организации данные, а затем обучить машины. А это потребует определенные способности человека, более того, специалист, занимающийся подбором кадров для компании, по-прежнему нужен, например, в случае, когда необходимо построить отношения, поднять на более высокий уровень бренд работодателя, в случае переговоров, и в ряде других видах организационной деятельности.

Нередко менеджерам по работе с персоналом предлагают немало инструментов и афишируют их как ИИ или программы с какой-либо поддержкой ИИ. Однако иногда они не соответствует реальности. Что примечательно, некоторые компании, производящие инструменты ИИ и продвигающие их, уклоняются от решения такой задачи как обучение машин. К сожалению, такие типы технологий нельзя отнести к ИИ. Качественно и быстро сортируя массу имеющихся вариантов, машины проделывают колоссальную работу, но, к сожалению, не обучаются. ИИ, разумеется, может приносить пользу, и приносит, но такие технологии не могут быть достаточно гибкими.

По мнению некоторых руководителей компаний, следует создать «пояснительные» и «прозрачные» системы ИИ. Одним словом, во время принятия решения, система должна проинформировать о том, какова причина принятия такого решения, для того, чтобы человек мог решить, о целесообразности его принятия. Далее, они отмечают, что компании должны придерживаться именно такого критерия, и он должен являться для них наиболее важным в процессе разработки новых инструментов. В тоже время, подчеркивают они, многие системы ИИ, как правило, производятся, игнорируя это обстоятельство [3].

Поэтому при разработке технологических решений, использующих ИИ, правомерно соблюдать соответствующие рекомендации. Прежде всего, необходимо разобраться, как работает программное обеспечение (ПО), которое компания хочет приобрести: каковы принципы, и каковы модели, на основе которых ИИ проводит анализ имеющейся информации, проходит обучение, выявляет значимые рутины, осуществляет процесс принятия решений. Требует осторожности передача компанией информации ПО, не забывая о том, что качество данных, их объем крайне необходимы в будущем для получения определенных результатов .

Руководители организации должны быть уверенными, что компания – разработчик ПО, владеет информацией о возможности предвзятости и постоянно ведет работу над этой проблемой. Признано, что одно из самых главных преимуществ внедрения ИИ – устранение человеческих мыслительных ошибок. Руководство компании должно обладать способностью уметь оценивать возможные этические риски в перспективе. Речь идет об определении основных проблем в области получения персональных данных, защите персональных данных, как в будущем все это будет влиять на репутацию и имидж компании, с которыми организация, возможно, столкнется в будущем при принятии управленческих решений [9].

Заключение

Итак, технологии ИИ в управлении персоналом все более активно внедряют современные предприятия. Они помогают решать самые сложные проблемы, которые возникают у специалистов по управлению персоналом в области подбора, обучении, расстановки, адаптации и оценки персонала Однако использование ИИ имеет определенные ограничения и сопряжено с определенными рисками. Основной риск в использовании ИИ состоит в том, что он не способен эффективно работать не обладая «обучающими данными». Отсюда, важным условием эффективного использования ИИ, чтобы инструменты ИИ сработали, безусловно, следует так настроить рекрутинг, чтобы стало прозрачно ясно, как именно данные инструменты ИИ могут дополнить и, более того, повысить эффективность работы кадровых агентств, так и менеджеров по подбору персонала компании. За это машинное обучение и считается революционной вычислительной технологией и заслужило название «искусственный интеллект». Бизнес – руководителям необходимо учитывать и другие риски, которые нередко возникают при использовании ИИ: риск невольного, несоответствующего использования машинных данных; риски этического характера; дискриминационные риски: по половому признаку, расовой принадлежности. И не важно, как они возникли преднамеренно или случайно, организация должна нести ответственность за них Организации должны исследовать все факторы, которые приводят к дискриминации и которые наносят урон бизнесу. Перед руководителями компаний стоит задача предусмотреть такого рода риски и находить методы управления ими Использование ИИ потребует, разумеется, дополнительных средств в выявлении причин рисков и работы по их устранению.