Введение
Цифровизация экономики отнесена к числу насущных задач, стоящих перед Российской Федерацией [1, 2, 3]. На практике это означает максимально широкое внедрение цифровых технологий, спектр которых значительно шире, чем то, что традиционно ассоциируют именно с «цифровой» экономикой. Основным технологическим наполнением цифровых технологий оказываются такие «продвинутые» и известные подходы, как технологии больших данных и технологии искусственного интеллекта (ИИ) – как в связи с необходимостью применения ИИ для работы с большими данными на всем протяжении их жизненного цикла, так и в части систем управления и принятия решений [1, 2]. Практически, можно утверждать, что на сегодня технологии больших данных и сопряженных с ними технологий ИИ не только составляют ядро становящейся цифровой экономики, но и определяют ее основные черты как минимум на среднесрочную перспективу [3].
Принципиально, что указанные технологии социально не нейтральны – они одновременно предлагают социуму новые возможности и решения, но одновременно являются источником серьезных социальных рисков, что находит понимание при стратегическом планировании [3].
При этом возможности и риски тесно переплетены. Так, например, большие данные, рассматриваемые как цифровой след человека, предоставляют нам широкие возможности адресного удовлетворения запросов клиента здесь и сейчас, возможности оказания экстренной и персонифицированной медицинской помощи вне географической привязки, и многое другое. Одновременно, это серьезный вызов современному обществу, исповедующему принципы приватности личности как неотъемлемому элементу свободы.
Эта двойственность находит свое отражение и в правовом регулировании оборота больших данных. Два крайних похода демонстрируют КНР и ЕС: с точки зрения Китая, развитие технологий является самоцелью, и не требует каких-либо ограничений, при условии, что у государства есть приоритет (в ряде случаев – монополия) на их использование. ЕС же, напротив, руководствуется приматом социально-гуманитарных вызовов в научной сфере [4], а защита персональных данных институционализирована в рамках общего регламента по защите данных (GDPR – General Data Protection Regulation).
Реализация сторон этой дихотомии институционально зависима. Цифровая экономика в условиях современной неготовности к ней как социальных институтов, так и отмечающегося низкого уровня проникновения цифровых технологий на производства – возможный источник серьезных негативных процессов, как социальных, так и экономических.
Цель исследования
В настоящее время построение цифровой экономики с упором на решение проблем развития социальных институтов, адекватных условиям цифровой экономики – задача текущего момента. Основными проблемными процессами в условиях развития цифровой экономики являются: непропорциональное развитие низкотехнологических отраслей экономики; деинтелектуализации деятельности человека; дегуманизация общества. Другим важным негативным последствием становится подмена понятий, когда ставится знак равенства между коннотацией «больших данных» и «цифровой экономикой».
В данной работе авторы рассмотрят каким образом внедрение прогрессивных цифровых технологий может привести к отчуждению человека, изменению социальной и институциональной среды. Какие основные институциональные факторы имманентны цифровым технологиям. В каком направлении происходит формирование социальных норм, регулирующих процесс формирования больших данных. Необходимо не только решать технические проблемы сбора и анализа больших объемов информации (см., например, [5]), но и учитывать возможные социальные и культурные последствия внедрения новых технологий. Последнее особенно важно в связи с тем, что большие данные уже стали неотъемлемой частью нашей жизни (социальные сети, цифровая медицина, ритейл, логистика в целом).
Материал исследования. Основные понятия
Многократно повторяемое определение цифровой экономики как экономики, основанной на цифровых технологиях, включая электронную коммерцию – глубоко недостаточно. Это, безусловно, определение «от достигнутого». Вместе с тем, кроме обобщенной «электронной коммерции», цифровые технологии, согласно национальной технологической инициативе [6], включают такие, как нейротехнологии и искусственный интеллект, квантовые технологии, новые производственные технологии, технологии виртуальной и дополненной реальностей, а также компоненты робототехники и сенсорику.
Вместе с тем, есть два взаимоувязанных «родовых понятия», которые емко характеризуют и позиционируют цифровую экономику в ее сегодняшнем состоянии: первое – большие данные, и второе – средства формирования, хранения и обработки больших данных, в том числе связанные с компьютингом, а также тем, что мы называем искусственным интеллектом.
Термин «большие данные» понимается различными авторами по-разному, прежде всего исходя из различий источников этих данных. Прежде всего, это социальные сети и интернет в целом [7]. Также называют такие направления, как наука (уникальные научные установки), а также ритейл и медицина [8,9]. Исходные данные (часто называемые «озерами данных») могут быть абсолютно любыми, имея лишь в качестве первого (но не единственного) отличия большой объем обрабатываемой информации.
При этом собранные вместе большие массивы разноплановых данных, по мнению ряда авторов, еще не составляют того, что следует называть большими данными. Разница здесь такая же, как в экономических определениях «сведений» и «знаний» [10]. Знания – в отличие от сведений – результат интерпретации последних. Аналогично, большие данные, в отличие от сырых информационных массивов, для которых введен удачный термин «озера данных» [11], – результат такой интерпретации. Эффективность использования информации определяется, в том числе, накопленным опытом управления данными, который можно применить к озеру данных, задействовав, по факту, технологию больших данных.
В случае озер больших данных, источники которых разноплановы как по структуре, так и по их семантике, – примером которых является интернет и социальные сети, – вопрос интерпретации тесно связан с характером алгоритмов поиска и анализа, которые можно ассоциировать с искусственным интеллектом. И, как следствие, получаемые большие данные алгоритмозависимы, включая и зависимость от априорных суждений, заложенных в алгоритмы еще до проведения анализа [5, 7]. Говоря более широко, сначала мы формируем алгоритмы работы ИИ, а потом ИИ формирует нашу жизнь.
Мы в дальнейшем будем понимать под большими данными как комплекс, включающий информацию per se, так и методы и средства ее обработки, рассматривая большие данные как социально-экономический феномен, связанный с появлением технологических возможностей анализировать огромные массивы данных, в некоторых проблемных областях – весь мировой объём данных, и вытекающих из этого трансформационных последствий.
Методы исследования. Сравнение общефилософских проблем и проблем цифровизации
Здесь можно выделить первую проблему, связанную со становлением цифровой экономики – эпистемологическую. При применении больших данных наше знание серьезно зависимо от априорных суждений и априорно заданных моделей. Более того, пересмотр последних в ходе анализа серьезно затруднен – сама возможность такого пересмотра требует построения других больших данных на базе тех же озер.
Может последовать возражение. Эпистемология важна там, где речь идет о данных науки. А в части данных, характерных, например, для социальных сетей, мы руководствуемся иными целями и задачами.
Но, во-первых, даже научные большие данные деформируют рутины, характерные для науки: происходит перенос акцента с поиска причинно-следственных связей на поиск корреляций. Причинно-следственные связи подменяются связями корреляционными, совершая кажущиеся новыми исторические логические ошибки: post hoc ergo propter hoc и сum hoc ergo propter hoc.
В результате т.н. «базы знаний», основанные на применении технологии больших данных, несут с собой серьезную, уже онтологическую угрозу – подмену института знаний институтом информации. И процесс этой подмены набирает темпы. Добиваясь посредством технологии больших данных упрощений и доступности знания, добиваясь его потенциальной обозримости, мы разрушаем неформальный институт человеческого знания, – знания как культуры и процесса, заменяя его другим – институтом всеобщей доступности ранее полученных знаний. Деструкция института знания, института, лежащего в основании нашего социума, – серьезное следствие развития цифровой экономики в условиях текущей институциональной рассогласованности.
Во-вторых, в рамках «стандартной экономической деятельности» свойство зависимости больших данных от априорно принятых моделей не менее значимо. Большие данные в варианте баз знаний, построенных на них, позиционируются как эффективный инструмент помощи в принятии решений в различных областях. В работе [12] выдвинут тезис об имманентном для цифровых технологий характере «аутсорсинга принятия решений». Суть гипотезы в следующем: цифровые технологии делают возможным и по факту неизбежным принятие решений компьютерной программой вместо человека. Человек отчуждается от принятия решений. Тем самым, решение (в современных институциональных условиях) не оспариваемо, не ответственно, и имеет высокий шанс быть неверным, несправедливым, не гуманным. С развитием цифровой экономики социальная технология «аутсорсинга принятия решений» становится все более распространенной, а лица, ранее принимавшие решения, определяются как безответственные.
Отчуждение человека от принятия решений имеет глубокие социальную и институциональную составляющие. Взаимосвязь цифровых технологий и социального отчуждения – концепции, сформулированной рядом авторов марксистского направления как социально-экономическое явление, имманентное рыночной экономике [13], имеет ряд специфических проявлений:
В первую очередь, как уже отмечено, это отчуждение человека от процесса принятия решения. Другим ярким проявлением отчуждения, свойственного цифровой экономике, являются большие данные, понимаемые как «цифровой след человека». Человек перестает быть субъектом – он объект: объект рекламной деятельности, объект систем слежения и контроля, включая системы безопасности.
Следующим примером отчуждения, обусловленной цифровой экономикой, является отчуждение от источника услуги. Возможности, предоставляемые большими данными, а также телематикой (еще одно следствие цифровизации), приводят к развитию технологий «одного окна», которые имеют оборотную сторону – отчуждение, обусловленное необходимостью делать удаленно то, что ранее делалось явочно, в прямом контакте людей.
Следует еще раз подчеркнуть, что как отмеченные, так и другие возможные негативные проявления цифровой экономики институционально зависимы. Надлежащее и своевременное развитие социальных институтов, адекватных запросам цифровой экономики, – настоятельная потребность. Речь идет как о формальных, так и неформальных институтах, таких как нормы поведения, критерии оценки, нравственность. Среди формальных институтов следует отметить простейшие – регуляторные институты, т.е. правила, устанавливаемые относительно больших данных и искусственного интеллекта.
Результаты исследования и их обсуждение
Процессы формирования и использования больших данных носят поступательный характер, причем большие данные и искусственный интеллект меняют социальную и институциональную среду, формируя новый технологический уклад. Так, цифровые технологии обладают свойством потенциальной агрегируемости информации, когда базы данных, даже при наличии ограничений и прямых запретов, «склонны» к агрегированию, составляя то, что мы и называем большими данными [5,7,12], давая на выходе исчерпывающую информацию о любом заданном индивидууме (см., например, [14]).
Один из таких вопросов, подлежащих анализу, – вопрос нейтральности информации и знания, потенциально содержащихся в больших данных. Вне зависимости от нейтральности или не нейтральности содержимого больших данных как таковых, вопрос нейтральности или не нейтральности последствий от их использования находится в прямой зависимости от ряда институциональных факторов, перечисленных ниже.
Первый из них таков: каковы алгоритмы доступа к озерам данных, обладают ли они селективностью, априорными предпочтениями и гипотезами? Оказывают ли на них влияние различные интересанты, решая тем самым свои частные задачи? Насколько алгоритмы соответствуют интересам общества, общепринятым нормам и не противоречат институциональному строению социума, и т.п.?
При этом, под алгоритмами доступа следует понимать всю совокупность алгоритмов: от протоколов доступа к конечным данным до алгоритмов интерпретации, т.е. формирования больших данных из озера данных. На всех этапах алгоритмизации больших данных возможно явное или неявное внесение предпочтений, интересов, заблуждений, необоснованных априорных гипотез. Формирование социальных норм, регулирующих процесс формирования больших данных, – серьезная задача.
Вторая проблема – каков источник появления этих алгоритмов? Кто и с какими целями эти алгоритмы создает и предоставляет третьим лицам? Каковы регуляторные правила и режимы прав собственности в части создания и предоставления этих алгоритмов?
Важно отметить, что права собственности на информацию (знания) и алгоритмы доступа к ней, могут, и, скорее всего, разделены. Например, GDPR изначально устанавливает два разных лица контролера – который формирует цель обработки и хранения данных и оператор, осуществляющий эту деятельность непосредственно. Фактически GDPR признает, что обработка и хранение данных это отдельный бизнес и устанавливает высокую меру ответственности для оператора и для контролера.
Помимо этого, в текущих условиях мы имеем широкое распространение предельно рыночной модели развития технологии больших данных, основанной на безальтернативной монетизации. Как следствие – частные компании заинтересованы именно в тех данных, где содержатся персональные данные. При этом режимы охраны персональных данных являются очевидным препятствием такого использования, а потому будут преодолены тем или иным путем. Так, гонка за личной информацией стала главной битвой эпохи для таких интернет-гигантов, как Google, Facebook, Apple и Microsoft: на базе цифрового следа человека возникает колоссальный растущий новый рынок информации [15]. Как ответ на бесконтрольное распространение информации растет запрос на ее «удаление» и/или «редактирование», что приводит к тому, что право на забвение становиться весьма прибыльным бизнесом.
Одним из решений этой проблемы стала концепция так называемой «открытой науки», берущая начало в сфере обработки и использования больших данных научного характера, где главным интересантом выступает государство, международные организации и научные коллаборации. В рамках этого подхода превалирует идея об освобождении от каких-либо ограничительных правовых режимов, что описывается отдельными аналитиками понятием «ничьи данные» (См. отчет McKinsey [16]).
Всё вышесказанное заставляет ожидать разнонаправленных векторов развития правил обращения с большими данными, в том числе, относимых к категории «научные».
Третий аспект – актуальная или потенциальная утрата анонимности. В части больших данных на сегодня скорее следует говорить о потенциальной утрате анонимности. На конкретного человека уже накоплен значительный объем информации (цифровой след, в терминологии цифровых технологий – «озеро данных» [11]), который, в случае необходимости, может стать основой соответствующих больших данных, что гипотетически означает потенциальное знание.
Следует иметь в виду, что на анонимности, понимаемой в широком смысле, основаны принципиальные социальные институты современной рыночной экономики, включая такой всеобъемлющий социальный институт как институт денег. Этот институт, понимаемый как институт принципиального отказа от учета статуса плательщика, – неотъемлемый элемент текущего социального порядка. Рыночная экономика как система институтов родилась именно в тот момент, когда деньгам, как инструменту, придали свойство анонимности [17].
Сегодня, с развитием технологии больших данных, мы стоим перед вызовом возврата статусной экономики времен Аристотеля, в рамках которой очевидно, что «умение людей различного статуса должно быть обменено по норме, пропорциональной статусу каждого», а не из «неестественного стремления делать деньги». Возможный тотальный контроль, открываемый большими данными, делает этот сценарий реалистичным. Вопрос в том, сопровождается ли технологическое развитие надлежащим развитием социальных институтов (например, КНР, где статусы граждан, могут обмениваться на социальные льготы и тп. Причем имеет место зависимость этих статусов от оценки «извне»).
Четвертое. Цифровым технологиям имманентны черты масштабируемости и экспансии (переноса): практически, цифровые технологии – суть технологии штамповки уже принятых простейших решений, часто не эффективных, а порой ошибочных [12]. Данное обстоятельство не означает «вредность» самих цифровых технологий, а лишь характеризует специфику их применения и реплицирования. На это накладывается вера в информацию, если ее источник «алгоритм», или информация опосредована алгоритмом, правилом – что стало уже устойчивым неформальным институтом современного мира.
Пятое. Большие данные и цифровые технологии в целом – важный фактор трансформации и даже деструкции принципиальных неформальных социальных институтов современного общества, понимаемые нами как традиции. Напротив, большие данные позволяют ставить широкомасштабные социальные опыты над человеком без его уведомления. Примеры возможной или уже текущей деструкции неформальных социальных институтов (традиций), связанных с цифровизацией в целом, множество. Так, например, медицинские опыты над человеком, запрещенные нашей традицией, трудно ставить так, чтобы человек, или люди его окружающие, факта этих опытов не заметили. При этом опыты над его личностью уже становятся реальностью [18].
Шестое. Серьезное, часто негативное, влияние технологий больших данных и искусственного интеллекта на институты общества, называемые нами собирательным термином «экономика». Это влияние многофакторно и многокомпонентно, мы ниже ограничимся лишь рядом наиболее ярких примеров.
Доступность и относительная малозатратность цифровых технологий – основание их массового распространения в тех секторах экономики, которые мы можем условно назвать низкотехнологическими. Сегодня именно эти отрасли получают преимущество в развитии, например, Uber – услуги: доставка товаров, услуги каршеринга и т.п. В целом мы имеем тенденцию по оптимизации использования человеческого труда, приводящую к возрождению социальных практик раннего капитализма поденного/почасового труда. Таким образом, наблюдаются не только структурные экономические изменения в сторону приоритета низкотехнологических секторов, но и изменение социальной структуры общества в сторону социальной деградации. Технологии, предполагавшиеся как источник технологического и социального прогресса, дали толчок развитию противоположных тенденций, среди которых: тенденция деградации социальных институтов, тенденция деградации структуры экономики, тенденция деградации человеческого капитала.
Седьмое. Деградация социальных институтов – серьезная предпосылка возможной деградации человеческого капитала. Вместе с тем, развитие технологий больших данных и искусственного интеллекта создает и другие – прямые – предпосылки такой деградации.
Первая из них, продуцирование «новых знаний», не являющихся по факту знаниями. Выдавая за знания корреляции больших данных – как выявленные, так и построенные за счет априорных предположений и предубеждений, создается тенденция вытеснения собственно знаний на периферию. Освоение кажущегося «нового знания» не сопряжено с формированием целостного мировоззрения. Тем самым формирующаяся технологическая элита утрачивает те качества, которые на протяжении последних столетий обеспечивало человечеству то, что мы привыкли называть технологическим прогрессом. В этом же ряду стоит система образования, основанная на цифровой имитации лабораторных демонстраций.
И последнее. Экспертные системы и искусственный интеллект как инструмент принятия решений – принципиальный элемент цифровой экономики. С их распространением связан, быть может, самый серьезный вызов современности в части устойчивости наших социальных институтов. Большие данные и искусственный интеллект, объединенные с виртуальной реальностью – способ перевести все мышление человека к преимущественно первой системе – ассоциативной, полностью убрав вторую – алгоритмическую, возложив ее на внешний компьютинг. Решения принимаются быстро, автоматически, но бесконтрольно. Это дает возможность управления и контроля, например используя образы одного и того же, но с различной коннотацией, привлекая «мнение экспертов», либо, создавая пузыри фильтров («filter bubbles») [15]. Общество, понимаемое нами как социум homo sapiens, трансформируется во внешне организованную совокупность populus sentire.
Заключение
С развитием цифровой экономики требуется быстрое развитие существующих и становление новых институтов. Однако в текущих условиях интересанты и выгодоприобретатели, имеющие большую рыночную силу, оказывают сильное давление на качество этих новых институтов. Среди таких качеств, прежде всего, – ориентированность на человека. Новые институты, с более низкими качествами, оказывают определяющее давление на институты традиционные, которые получают импульс к смещению вслед за институтами-драйверами. В результате мы оказываемся перед угрозой качественного изменения социальных институтов в сторону их дегуманизации.
Важно подчеркнуть, что подобное развитие надо рассматривать как социально-экономический процесс, тесно переплетенный с технологическим развитием. Цифровая экономика выступает в качестве среды, в которой этот процесс реализуется. Технологии больших данных, как наиболее широко востребованные в процессе цифровизации, используются для получения новой информации, оказания помощи в принятии решений, не продуцируя, тем не менее, нового знания. Порождаемые ими проблемы (когда объем информации ставит, прежде всего, вопрос ее хранения и передачи, а не извлечения новых знаний) уже были в человеческой истории; достаточно указать изобретение книгопечатания и изменение статуса монастырей в конце средних веков, когда они потеряли свою функцию накопителя и хранителя знаний.
Это позволяет использовать предшествующий опыт для решения проблем, возникающих при внедрении цифровых технологий. Так, попытка управлять большими данными «по частям» создает новые большие данные, регулирующие исходные большие данные: получается порочный круг. Помимо такого подхода «сверху» возможен и метод индукции. Например, одним из вариантов разрешения таких проблем выступает прецедентное право, фиксирующее сложившуюся традицию. Практически, общество ждет какого-то события (например, скандал с Cambridge Analytics) для того, чтобы начать регулировать эту область.
Требуется воспринимать «большие данные» как новый инструмент познания мира, несущий как положительные, так и отрицательные стороны. Это приводит нас к выводу о необходимости управления социальным измерением высоких технологий. При этом следует учитывать, что cхожие проблемы уже возникали ранее, и требуется их адаптация, «перевод» со старого языка и терминологии в современное звучание.
Как видится авторам, развитие больших данных пока порождает больше вопросов, чем ответов, и именно поэтому важно сейчас способствовать развитию новых технологий с учетом их социальных и экономических последствий. Это – на наш взгляд – равносильно формированию научной культуры использования цифровой инфраструктуры.
Работы выполнены при поддержке гранта РФФИ № 18-29-16130 МК.
Библиографическая ссылка
Жулего В.Г., Балякин А.А., Нурбина М.В., Тараненко С.Б. ЦИФРОВИЗАЦИЯ ОБЩЕСТВА: НОВЫЕ ВЫЗОВЫ В СОЦИАЛЬНОЙ СФЕРЕ // Вестник Алтайской академии экономики и права. – 2019. – № 9-2. – С. 36-43;URL: https://vaael.ru/ru/article/view?id=718 (дата обращения: 20.04.2024).