Artificial Intelligence in Education. Analysis of Implementation Goals
Table of contents
Share
Metrics
Artificial Intelligence in Education. Analysis of Implementation Goals
Annotation
PII
S023620070014856-8-1
DOI
10.31857/S023620070014856-8
Publication type
Article
Status
Published
Authors
Elena V. Bryzgalina 
Occupation: Head of Department of Philosophy of Education, Faculty of Philosophy
Affiliation: Lomonosov Moscow State University
Address: Moscow, Lenin Hills, the educational building "Shuvalovsky", Moskow 119234, Russian Federation
Pages
9-29
Abstract

The article typologies the goals of using AI systems, corresponding to three key aspects of understanding education (education as a system, education as a process, education as a result) and corresponding to significant trends in the development of education (increasing flexibility and decentralization of the global education system, personalization of the education process, digital fixation of competence results education). AI technologies will be able to bring education management closer to usage of methods based on a significant amount of quality data and contribute to the formation of evidence-based educational policy, when it will be applied to the systemic aspect of education. Problems with the interpretation of the decision-making model in administration directly affects on the effectiveness of artificial intelligence support for managerial decisions in the education. The process of education and upbringing can be personalized and individualized with the support of AI through the formation of individual educational programs by format, by content, by the educational environment; methodological support of training courses; increasing the motivation and involvement of students. The transformation of interaction models between educational subjects is ambiguous in terms of the impact on the autonomy and responsibility of the subjects, on the results of socialization and upbringing, on the labor intensity and transparency of the educational process, including in the light of the prospects for the emergence of “human–AI” systems as a trained agent. In the effective aspect, education involves AI as a tool for monitoring and recording educational achievements and expended resources, capable of clarifying the links between educational activities and results. The digital educational footprint, becoming a commodity, generates a number of conflicts regarding the autonomy of subjects and the status of personal data. The key risks of using AI in education are associated in the article with the problems of human existential security and the anthropological essence of education. Their assessment is limited by the Collingridge dilemma, in the solution of which a comprehensive socio-humanitarian examination of the goals and practices of using AI in education is important, part of which is the development in the field of education philosophy.

Keywords
education, philosophy of education, artificial intelligence systems, artificial intelligence technologies, goals of education, education as a value, education system, educational process
Date of publication
30.04.2021
Number of purchasers
2
Views
176
Readers community rating
0.0 (0 votes)
Cite Download pdf 100 RUB / 1.0 SU

To download PDF you should sign in

Full text is available to subscribers only
Subscribe right now
Only article and additional services
Whole issue and additional services
All issues and additional services for 2021
1 Датафикация общества под влиянием активного внедрения технологических новаций [25] требует системного анализа в связи с комплексным характером изменений и неоднозначными экспертными оценками моделей цифровой трансформации социальных процессов, в том числе связанных с образованием и развитием человека. Неотъемлемой частью цифровых решений в образовании становятся технологии искусственного интеллекта (ИИ)1.
1. Здесь и далее, говоря об искусственном интеллекте в образовании (ИИ в образовании), будем подразумевать не универсальный («сильный ИИ», strong AI/Artificial General Intelligence), а прикладной ИИ («слабый ИИ», «узкий ИИ», weak/applied/narrow AI), для обозначения которого используются выражения «технологии искусственного интеллекта», «системы искусственного интеллекта». Для обозначения технологии ИИ в образовании в литературе используется обозначение AIEd (Artificial Intelligence in Education или AI-enabled education).
2 Сфера образования, согласно экспертным оценкам, программным заявлениям международных организаций и нормативным документам ряда стран, рассматривается как одна из наиболее перспективных для использования систем ИИ, наряду со здравоохранением и государственным управлением. Так, например, сооснователь компании Microsoft Билл Гейтс в 2019 году высказал убеждение, что человечество должно заниматься развитием ИИ в мирных целях, таких как образование и медицина [22]. На неделе мобильного обучения в 2019 году был представлен совместный доклад ЮНЕСКО как специализированного учреждения ООН, которое развивает идеи ответа на глобальные вызовы посредством образования, и программы цифрового образования ProFuturo, ориентированной на сокращение разрыва в образовании в мире за счет технологий и повышения качества образования для детей, живущих в уязвимых средах Латинской Америки, Карибского бассейна, Африки и Азии. Документ «Искусственный интеллект в образовании: проблемы и возможности для устойчивого развития» [28] содержит описание того, в какой степени уже сегодня системы ИИ влияют на сектор образования, рассматривает перспективы, проблемы и последствия использования ИИ в образовании для устойчивого развития. Доклад содержит приглашение к глобальным и локальным дискуссиям об использовании, возможностях и рисках применения ИИ в образовании.
3 ИИ в образовании как перспективная область исследований и практика функционирования сложных экосистем знаний, технологий, бизнеса сосредоточена в развитых странах [39]. Разработка национальной государственной политики в отношении ИИ в образовании находится в стадии становления, так Китай разработал национальную стратегию ИИ в образовании [23].
4 В Российской Федерации перспективы использования технологий ИИ как условие для улучшения уровня жизни населения за счет повышения качества услуг, в том числе в сфере образования, определены Указом Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Развитие ИИ связывается с необходимостью междисциплинарного взаимодействия представителей естественнонаучной, технической и социально-гуманитарных сфер знаний для обсуждения перспектив и проблем развития ИИ [14]. Осенью 2020 года на онлайн-интенсиве, организованном АНО «Университет 20.35» и посвященном формированию и акселерации команд, способных создавать и коммерциализировать проекты в области ИИ, было заявлено 1787 проектов для опережающего технологического развития в приоритетных отраслях экономики. В отдельный трек «ИИ в обучении и развитии» были выделены проекты ИИ для образования [3].
5 Разработка систем ИИ для образовательных нужд является одним из самых быстрорастущих сегментов экономики. Так, согласно отчету «Рынок искусственного интеллекта в секторе образования США» (Artificial Intelligence Market in the US Education Sector 2018–2022) [30], аналитики прогнозируют, что в период 2018–2022 годов рынок искусственного интеллекта в секторе образования США будет расти в среднем на 47,77%. В отчете выделяются основные рыночные тенденции данной области, определяются стейкхолдеры, фиксируются рыночные возможности и угрозы для игроков этого рынка. Согласно отчету, одним из факторов, влияющих на этот рынок, является растущий упор на индивидуализированные программы обучения и запрос педагогов на автоматизацию сбора данных об успеваемости учащихся для принятия обоснованных решений. Отмечается, что в секторе образования США присутствуют интеллектуальные интерактивные программы, использующие различные технологии, такие как машинное обучение, обработка естественного языка и глубокое обучение. В отчете говорится, что этот рынок требует значительного финансирования и инвестиций, а также обширных исследований его применимости.
6 Таким образом, практическое функционирование современного образования уже включает использование систем ИИ, рыночный интерес к таким продуктам растет, соответственно, следует ожидать возрастания воздействий технологий ИИ на образование как систему, на образовательный процесс и его результаты. Важно, чтобы практические решения были соотнесены с сущностными характеристиками образования. В силу этого прикладной актуальностью обладает аналитика целей использования технологий ИИ в образовательном секторе, а также реальных и потенциальных трансформаций всех аспектов понимания образования под влиянием ИИ. Актуализируется задача комплексной социально-гуманитарной экспертизы как исследовательской практики, сопровождающей технологические разработки и призванной на постоянной основе проводить мониторирование целей и практик использования ИИ в образовании, последствий и рисков трансформаций образования как целостности под влиянием ИИ.
7 Теоретическая актуальность обращения философии образования к проблемам ИИ в контексте широкой социально-гуманитарной экспертизы обусловлена тем, что целевая и ценностная компоненты в настоящее время не в должной степени задают технические параметры и организационные условия внедрения технологических решений в сферу образования.
8 Объект анализа данной статьи —технологии искусственного интеллекта (или системы искусственного интеллекта), целевое предназначение которых связано с использованием в образовании, понятом как процесс, система, результат. Предметом рассмотрения будут основные цели применения систем ИИ в образовании, на которые ориентируются создатели при практическом воплощении технологических решений сегодня и в ближайшем будущем, а также ограничения и риски встраивания ИИ в системный, процессуальный и результативный компоненты образования. В тексте не будут приводиться примеры конкретных решений в области ИИ в образовании, поскольку в силу высокого динамизма этой области происходит быстрое обновление продуктов и технологий, кроме того, имеются примеры актуальных развернутых описаний, среди которых отдельно отметим обзор 2018 года [30], доклад национального института информационных и коммуникационных технологий Токио, Япония, 2018 год [31], доклад Всемирной организации интеллектуальной собственности, 2019 год [39].
9

Что такое ИИ в образовании?

10 Оставив за пределами рассмотрения крайне дискуссионные вопросы об определении естественного и искусственного интеллекта, о природе сознания и о достижимости глобального ИИ, констатируем отсутствие согласованного определения ИИ. Эта позиция стала отправной точкой практически всех публикаций по теме. Так, в проекте стандарта Международной организации по стандартизации используется три разных определения ИИ [37].
11 Тем не менее, выделим ряд характеристик систем ИИ, значимых при анализе целей их применения в образовании. Технологии ИИ предполагают алгоритмизированные способности программных решений анализировать окружающую среду при определенной доли автономности в реализации алгоритма. Способность к самообучению, а также наличие антропоморфно обозначенных характеристик интеллектуальности («разумности», «рациональности», «осознанности» во всех или в определенных обстоятельствах и прочее) рассматриваются как критически важные для понимания слабого ИИ.
12

Цели использования систем ИИ в образовании.

13 Обобщенное представление о целях использования ИИ в образовании сводится к утверждению о том, что технологии ИИ — способ улучшения образования. Однако за понятием «улучшение образования» скрывается сложность и многогранность образовательных явлений. Расширение использования систем ИИ в образовании обусловлено тем, что предлагаемые для преподавания и обучения решения соответствуют значимым трендам развития образования: возрастанию гибкости и децентрализации системы глобального образования, персонализации процесса образования, цифровой фиксации компетентностных результатов образования. Эти тренды получили ускоренную реализацию в условиях массового вынужденного перехода образовательного процесса в дистанционный формат с 2020 года в условиях пандемии.
14 Выделим цели использования систем ИИ в образовании, типологизируя их в соответствии с тремя ключевыми аспектами понимания образования (образование как система, как процесс и как результат) и современными тенденциями их изменений. Применительно к основным целям опишем ограничения и риски, понимаемые, с одной стороны, как недостижение ожидаемых результатов, с другой — как появление непланируемых разработчиками и пользователями последствий.
15 В настоящее время на развитие технологии ИИ в образовании преобладающее влияние оказывают позиции разработчиков, а не педагогического сообщества и организаторов образования, достаточно консервативно настроенных по отношению к технологическим инновациям. Однако системе образования нужны решения для «оказания поддержки, в которой нуждаются преподаватели, а не поддержки, которая, по мнению технологов или дизайнеров, им нужна» [24]. В обсуждении перспектив ИИ в образовании в отечественной традиции складывается устойчивое мнение о том, что ИИ не является конкурентом профессорско-преподавательскому составу, при достаточно расплывчатом понимании целей применения ИИ как инструмента в образовании [2; 11; 15].
16 Образование как система (системный аспект образования) требует эффективного управления как на локальном, так и на национальном уровнях. Предполагается, что системы ИИ могут сделать администрирование системы образования (от образовательных организаций до национального уровня) деятельностью, основанной на концепции «доказательной образовательной политики» (evidence-based educational policy) [18]. По аналогии с доказательной медициной эта концепция требует использования методов управления образованием, основанных на значительном объеме качественных данных, надежных доказательствах, подтвержденных экспериментально. Интеллектуальный анализ данных, направленный на обнаружение значимых закономерностей и взаимосвязей, и аналитика обучения (оценка данных для характеристики обучающегося и обратной связи) призваны помочь выработать рекомендации для руководителей образования на местном, региональном и локальном уровнях. Системы ИИ представляются способом формирования системы поддержки экспертных и управленческих решений в сфере образования посредством рекомендаций относительно управления текущей деятельностью и планирования изменений.
17 Ключевой вопрос заключается в том, насколько эффективна будет такая система поддержки для получения желаемых и прогнозируемых результатов. ИИ, применяемый для генерации национальной образовательной статистики и ее аналитики, должен создаваться, отталкиваясь от целей образования, которые по сути являются качественными, не сводимыми лишь к количественным индикаторам. В образовании важны не столько обобщенные данные и прогнозы, сколько понимание причин, вызывающих те или иные параметры и определяющих тренды развития элементов системы образования, выявление связи между действиями и результатами. Поэтому для сопровождения управленческих воздействий на систему образования технологиями ИИ принципиально важна прозрачность интерпретации модели, лежащей в основе конкретного технологического решения.
18 Цифровые решения являются фактором и одновременно проявлением глобализации и унификации образовательного пространства. Эти тренды поддерживает доступность массовых онлайн курсов без географической и временной фиксации правил их прохождения, развитие платформ с интерактивными учебными материалами от ведущих университетов и преподавателей и образовательной аналитикой. За счет решений на основе ИИ в рамках курсов и платформ могут быть сняты языковые образовательные барьеры (субтитры в режиме реального времени на основе распознавания речи позволят обучаться на родном языке), во взаимодействие с педагогами могут быть включены дети с особыми образовательными потребностями (этот же инструмент — создание субтитров — может быть использован для слабослышащих детей). Таким образом, ИИ может обеспечивать доступ к образовательным ресурсам различных категорий населения: одаренным детям; беженцам; студентам с особыми образовательными потребностями; представителям изолированных и маргинализованных сообществ; лицам, нуждающимся в дополнительном образовании. Поскольку формальные и неформальные провайдеры образования могут преследовать несовпадающие цели, расходиться в содержании воспитания и социализации, а также ожидаемых образовательных результатах, широкое использование систем ИИ обострит противоречия между глобальным и локальным в мировом образовательном пространстве.
19 Образование как процесс обучения и воспитания (процессуальный аспект образования) существенно трансформируется за счет цифровизации. Прежде всего следует отметить, что использование систем ИИ позиционируется как способ персонализации и индивидуализации процесса образования в интересах обучающихся [26]. Однако фактически запрос на такие системы субъектами процесса образования не формулируется, он исходит от разработчиков технологических решений, поддерживающих тренд персонализации и индивидуализации образовательного процесса.
20 Персонализация и индивидуализация за счет дифференциации контента (иначе говоря, за счет создания персонального «умного контента») может быть поддержана системами ИИ в разных вариантах. Выделим те, которые на данный момент имеют прикладное воплощение: а) формирование индивидуальных образовательных программ на основе стандартизированных учебных планов, то есть выделение содержания образования (курсов, моделей, тем, практик и т.д.), значимого для формирования определенных компетенций у конкретных групп или индивидов; б) формирование внутри образовательных форматов образовательного контента, соответствующего особенностям и потребностям учащихся (например, создание цифровых обучающих интерфейсов с персональными параметрами настройки, индивидуальных цифровых учебников (так называемых «алмазных букварей»). Системы ИИ могут структурировать и дополнять ссылками на внешние ресурсы содержание учебника, создавать краткое содержание разделов и тесты. Несовершенство имеющихся образцов (неточность выбора толкования терминов при предметной их многозначности, нерешенность вопросов экспертной оценки результатов работы системы на адекватность и т.д.) не рассматривается как свидетельство недостижимости целей персонификации контента; в) формирование учебных веб-сред с постоянной актуализацией информации и ее визуализацией, активной геймификацией и применением виртуальной и дополненной реальности.
21 Системы ИИ разрабатываются как способ методической поддержки учебных программ как при их создании за счет алгоритмизации разработки учебных курсов, так и при реализации через систему обратной связи при преподавании отдельных предметов. Учебная персонализированная аналитика может стать основанием обучения нейросетей для создания динамических моделей курса в процессе его преподавания. Выявление учебного материала, который вызывает трудности усвоения у большинства или у каких-то групп учащихся вплоть до затруднений конкретного человека, и предупреждение об этом может быть востребовано преподавателем курса для улучшения качества объяснений и используемых материалов и для принятия превентивных мер, позволяющих предотвратить возникновение трудностей. Кроме того, такие данные позволят учащимся обратить дополнительное внимание на определенные моменты учебных курсов и программ. Coursera как крупный поставщик открытых онлайн-курсов уже применяет это на практике [9]. Тем самым системы ИИ могут способствовать поддержанию единства и целостности усвоения концептуальных основ образовательной программы (курса, модуля) при допущении индивидуальных вариантов освоения.
22 Использование систем ИИ для целей персонализации и индивидуализации процесса образования может быть направлено на создание индивидуальных образовательных траекторий с точки зрения форматов: онлайн, оффлайн или гибридных форм организации учебного процесса. Понятие «адаптивное обучение» указывает на задачи формирования таких индивидуальных моделей (графиков) образовательного процесса, когда, например, необходим доступ к курсам того уровня, который не может быть предоставлен конкретному обучающемуся в конкретном образовательном учреждении.
23 Системы ИИ нацеливают на создание новых возможностей организации аудиторной и самостоятельной работы учащихся с учетом того режима обучения, который был бы предпочтителен, исходя из индивидуального учебного опыта, уровня знаний, навыков владения цифровыми технологиями, психологического комфорта и эмоционального состояния учащегося. Различные стили обучения и образ мышления могут быть приняты во внимание преподавателем в режиме реального времени или асинхронно, что рассматривается как фактор, значимый для улучшения образовательных результатов, поскольку системы ИИ смогут помочь учащимся проявить самостоятельность в постановке целей обучения и определении способов их достижения, что в свою очередь скажется на повышении мотивации и вовлеченности. «Мы не занимаемся мотивационными аспектами образования. Не разрабатываем программы, которые должны повысить интерес и вовлеченность со стороны учащихся. Новые методы обучения, к сожалению, не создаются. А ведь мы бы могли сохранить интерес к образованию и уменьшить количество учащихся, которые бросают школу», — отметил Билл Гейтс в 2019 году на конференции, посвященной ИИ [22]. Машинные решения планируются как способ организации коллективных образовательных взаимодействий, когда в рамках одного занятия с одним педагогом могут работать учащиеся с различным уровнем подготовки. Возможности выбора учащимися преподавателя на основании рекомендаций ИИ в зависимости от индивидуального стиля преподавания и особенностей межличностной коммуникации, вплоть до выбора виртуальных помощников как преподавателей второго эшелона, еще нуждаются в осмыслении.
24 На трансформацию социальных ролей субъектов образования могут повлиять решения на основе ИИ по тьюторской и репетиторской поддержке процесса образования. Системы ИИ могут выступать в роли цифрового наставника, помогающего за счет создания разнообразной образовательной среды в развитии определенных навыков, которые значимы для образования (внимание, память, иные алгоритмизируемые навыки), но не связаны с высокоуровневым творческим мышлением. Репетиторская поддержка от систем ИИ может освободить родителей от сопровождения домашней работы, а учителей — от дополнительных объяснений. В литературе есть данные о том, что такое использование цифровых решений в статусе «виртуальных репетиторов» может быть значимо для поддержания в ученике уверенности в себе, так как снимет необходимость обращаться с просьбами о помощи к другим учащимся или к учителю [27].
25 Таким образом, цели и преимущества включения ИИ в процесс образования для обучающихся могут быть связаны с персональным планированием содержания и форматов образовательных активностей с учетом значимых для человека факторов, с возможностями постоянного получения обратной связи в процессе индивидуального мониторирования образовательных результатов. Ожидается, что персонификация образовательных задач и процесса обучения позволит студентам как избежать негативного давления социальной нормативности при сравнении с другими учащимися, так и построить удобное сотрудничество. Примером могут служить платформы, на которых студенты могут обмениваться решениями, и при этом оставаться независимыми в поиске решений при фильтрации сообщений на базе алгоритмов машинного обучения. Для преподавателей использование ИИ в процессе образования позиционируется разработчиками как способ реализации педагогических установок на персонификацию процесса образования.
26 Заметим, что каждый из аргументов, используемый при обосновании целевых ориентиров использования ИИ в процессе образования, может быть оспорен. Так, выглядит односторонним представление о том, что возможности формирования индивидуальных образовательных траекторий с помощью ИИ однозначно приведут к повышению автономности обучающихся как субъектов образования. Последствием применения систем ИИ может стать и патернализация образовательного процесса, возникновение стремления переложить ответственность на антропоморфно воспринимаемый ИИ при отсутствии четкой фиксации субъекта ответственности в правовом пространстве. Повышение технологической зависимости каждого из субъектов образования не может не повлиять на понимание самоценности образовательных усилий. В фокусе внимания разработчиков находится процесс обучения, а не единство обучения и воспитания. Концептуализация образа и природы современного человека должна быть базой для прояснения социализирующего потенциала онлайн-обучения [12], в том числе с использованием ИИ. Для доказательных выводов о корреляции между сопровождением образовательного процесса умными системами и результативностью процессов воспитания и социализации в настоящее время недостаточно эмпирического материала, причем задача его появления сама по себе ставит крайне непростые этические проблемы проведения исследований с привлечением детей. Использование ИИ может обернуться конфликтами в педагогических коллективах, выгоранием педагогов, дополнительными сложностями в организации синхронных коллективных образовательных взаимодействий. Алгоритмизация дизайна учебных курсов может снизить массовую востребованность творческих преподавательских компетенций. Повышение «прозрачности курса» с точки зрения его освоения учащимися может не уменьшить, а увеличить трудозатратность ведения курса педагогом. Поэтому может оказаться практически не реализуемой гипотетическая возможность перераспределения за счет ИИ преподавательских усилий в пользу саморазвития, управления образовательной средой, методической работы или формирования у учащихся социальных навыков, в силу зависимости от множества факторов. Представляется крайне важным заранее определить границы применения систем ИИ пределами рутинных педагогических действий, не распространяя применение технологий на сущностные параметры образования, связанные с природой человека и социальных взаимодействий. Редукция тех изменений, которые происходят в процессе образования, до измеряемых параметров, ведет к утрате антропологической природы образования.
27 Совместная адаптация и взаимная подстройка человека и технологических решений открывает перспективы для рассмотрения системы «человек–ИИ» как целостного обучаемого агента (отмечу, что затруднительно в таком контексте употреблять как термин «объект», так и понятие «субъект» образования), для описания форматов сотрудничества машинных и(или) человеческих агентов [21]. В образовании возможно появление «цифрового кентавра», то есть человеко-машинной системы, в которой человек и ИИ взаимодействуют в процессе образования, взаимно обучая друг друга и дополняя своими сильными сторонами функционирование другого элемента системы, что в итоге связывается с потенциальными синергетическими эффектами. «С позиций современной эпистемологии искусственный интеллект рассматривается, главным образом, не в качестве конкурента интеллекту естественному, но как «срастающийся» с последним и участвующий в образовании гибридных форм» [1, 5]. Возникающие при этом модели взаимодействия субъектов образования нуждаются в описании форматов сотрудничества человека и ИИ, прояснении симметричности/асимметричности функционирования цифрового кентавра [17].
28 Использование технологий ИИ в обращении к образованию как результату (результативный аспект образования) связано с автоматизацией рутинных задач отслеживания и фиксации прогресса обучающихся, например, при выставлении оценок. Автоматизация уже происходит при тестировании различной сложности, быстро прогрессирует и поиск технического обеспечения оценивания текстовых заданий. Так, примерно 60 000 школ в Китае внедрили систему оценки сочинений, которая в 92% случаев предлагает оценки, соответствующие оцениванию текстов человеком [29].
29 Системы ИИ разрабатываются для фиксации образовательного опыта и результатов развития индивидов внутри образовательной системы. Решения в сфере ИИ способны предоставить визуализированную персональную учебную аналитику. Аналитика «цифровых аватаров учащихся» позволяет приблизиться к автоматизированному оцениванию эффективности процесса образования. Уникальный цифровой след («цифровая тень», цифровые профили обучающихся) образовательных активностей, собранный в активном и пассивном режиме, позволяет создавать и динамически поддерживать актуальную модель знаний и навыков учащегося. Структура модели задается разработчиком и заказчиком, поэтому технологические решения могут весьма сильно отличаться отслеживаемыми индикаторами. Результаты работы систем ИИ могут быть востребованы самим учащимся для более осознанного планирования образовательных результатов в соотнесении с личными целями и выбора образовательных возможностей, релевантных как уровню знаний, так и индивидуальным особенностям. Так, например, при подборе обучающего контента, дополнительных образовательных программ, разовых образовательных мероприятий и т.д. ИИ может стать средством формирования персональной траектории развития к желаемым результатам образования.
30 Цифровые следы способны прояснить связи между конкретными образовательными активностями и результатом обучения, что может позволить распаковать «черный ящик обучения» [24], то есть показать связь между определенными видами образовательной деятельности и результатами, показать, насколько использование конкретных педагогических инструментов адекватно решает педагогические задачи. При сравнении цифровых профилей обучающихся по конкретным параметрам возможно выявлять максимально эффективные образовательные траектории, масштабировать успешные педагогические практики, что потенциально может сократить трудоемкость образовательного процесса, ориентировав его на доказательность и проверяемость. Поскольку цифровой след отражает не только знаниевые и навыковые результаты, но и ресурсы, затраченные на их достижение, за счет ИИ могут появиться возможности для выбора преподавателями и образовательными учреждениями эффективных инструментов формирования новых видов деятельности как результатов образования. Повышение прозрачности в использовании технологий ИИ для фиксации образовательных результатов является одним из условий возможного следующего шага — поддержки профориентации и трудоустройства средствами ИИ. Цифровая аналитика областей сформированных «сильных» компетенций может стать основанием для выбора специальности и сферы деятельности. Безусловно, автономный выбор субъекта обладает приоритетом в сравнении с цифровыми рекомендациями, однако перспективы цифровизации экономики могут способствовать усилению статуса рекомендаций систем ИИ.
31 Как средство оценки образовательного результата цифровой образовательный след, создаваемый ИИ, может быть востребован при оценивании кадрового потенциала. Цифровой след уже сейчас имеет тенденцию к превращению в товар, что порождает ряд конфликтов относительно автономии человека, статуса персональных данных. Без добровольного информированного и активного заинтересованного участия обучающихся сбор цифрового следа невозможен, однако следует констатировать, что массового запроса на применение систем ИИ с такими целями пока не сложилось.
32

Ключевые ограничения и риски ИИ в образовании

33 Проблемы, которые видят исследователи, занимающиеся непосредственной разработкой систем ИИ, касаются либо вопросов адаптации технологий к человеку (сделать технологии более удобными, эффективными), либо рисков их применения для здоровья человека. В ориентации на эти вопросы проходят обсуждения задач разработки универсальной технической и нормативной регуляторики [34]. На данном этапе развития технологий фиксация цифровых данных и их интерпретация в образовании как системе, процессе, и результате связаны с трудностями выявления значимой информации и ее фиксации цифровым способом, с принципиальной неоднозначностью интерпретационной основы используемых моделей, с наличием принципиальных ограничений на оцифровку значимых для образовательных результатов взаимодействий между субъектами (неформальные обсуждения учебных тем, коллективная подготовка проектов и так далее). Технологические решения на основе ИИ требуют развитой инфраструктуры, цифровых компетенций каждого субъекта образовательного процесса, понимания им сути технологических новаций.
34 Специалисты социогуманитарной сферы обращают внимание на то, что использование систем ИИ в социальной сфере связано с высоким рискогенным потенциалом, оценка которого замыкается на глубинные ценностные основания культуры и экзистенциальную безопасность человека [20]. Обсуждение проблем применения ИИ с социогуманитарных позиций значительно отстает от практического воплощения технологических решений. П.Д. Тищенко и Б.Г. Юдин отмечали: «... новые вещи быстрее делаются, чем понимаются. Делание, сколь угодно изощренное, может быть ограниченной задачей проектирования и сборки, тогда как понимание требует знания огромного количества взаимодействий между новой вещью и многочисленными другими элементами в природе и культуре» [13, с. 200].
35 Комплексное осмысление и регулирование образовательных экосистем, в которых человек взаимодействует с технологиями ИИ, методологически затруднено известной дилеммой Коллингриджа, согласно которой «внедрение новых технологий — открытый и непредсказуемый процесс, все последствия которого можно оценить только в реальной жизни, но к этому времени они уже могут стать необратимыми» [6, с. 104]. Тем не менее рядом институций и сообществ экспертов ведется работа по поиску ответов на ключевые опасения относительно перспектив интеграции ИИ в различные социальные и экономические отношения: Международная организация по стандартизации (ISO) разрабатывает пакет документов по теме ИИ, в числе которых «Обзор этических и социальных проблемных вопросов» [35], ЮНЕСКО выпустила документы, освещающие этические и социальные проблемы применения ИИ [33, 38]. Обратим внимание на формирование Институтом Ады Лавлейс (Великобритания), входящим в Наффилдский фонд, независимой сети исследователей и практиков, приверженных пониманию социальной и этической ценности данных и ИИ [16].
36 Назовем те проблемы, которые по мнению экспертных международных организаций являются наиболее значимыми, и, по нашему мнению, имеют специфику проявления в образовании. Во-первых, это проблема «черного ящика» (возможность получения системой ИИ выводов без объяснения оснований принятия решения, что проводит к невозможности проверить и верифицировать результаты работы технологии) [19; 32; 36]; во-вторых, проблема онтологической неопределенности ИИ (перспективная субъектная и реальная объектная трактовки ИИ) и сопряженная с ней проблема ответственности (ответственность разработчиков, владельцев и разработчиков технологий ИИ и возложение ответственности на развитые системы ИИ в случае значительного развития их автономии [33]; в-третьих, это проблема взаимодействия человека с ИИ на базе этических требований и правовых норм, обеспечивающих права и благополучие человека (эффекты антропоморфизации устройств и имитации социальных связей и эмоциональных контактов) [41]; в-четвертых, это проблема цифрового суверенитета (определение соотношения международного и национального режимов применения систем ИИ).
37 Существует ряд общих проблем применения ИИ в социальной сфере — в здравоохранении и образовании [4, 5]. Представляется важным проведение дополнительных исследований того, как выделенные, так и другие проблемы, а также заявленные текущие и перспективные цели применения систем ИИ в образовании соотносятся с сущностными характеристиками образования, ориентирами повышения качества, доступности, недискриминационности, эффективности при уважении в образовании достоинства и автономии субъектов. Исследования в области философии образования значимы для выявления места, ограничений и рисков при масштабных трансформациях образования под влиянием ИИ.

References

1. Alekseeva I.Y. Subektnost' iskusstvennogo intellekta: starye voprosy v novyh kontekstah [Subjectivity of artificial intelligence: old questions in new contexts]. Informacionnoe obshchestvo. 2020. N 6. P. 2–6.

2. Amirov R.A., Bilalova U.M. Perspektivy vnedreniya tekhnologij iskusstvennogo intellekta v sfere vysshego obrazovaniya [Prospects for the implementation of artificial intelligence technologies in higher education]. Upravlencheskoe konsul'tirovanie. 2020. N 3 (135). P.80–88.

3. ANO «Universitet 20.35» oficial'nyj sajt. URL: https://2035.university/arkhipelag-20-35/ (date of access: 23.01.2021).

4. Bryzgalina E.V. Medicina v optike iskusstvennogo intellekta: filosofskij kontekst budushchego [Medicine in the optics of Artificial intelligence: the philosophical context of the future]. Chelovek. 2019. Vol. 30, N 6. P. 54–71.

5. Bryzgalina E.V. Iskusstvennyj intellekt v obrazovanii: social'no-filosofskie aspekty [Artificial intelligence in education: socio-philosophical aspects]. 20.35. Informbyuro. Nacional'naya tekhnologicheskaya iniciativa. 2019. [Electronic resource]. URL: https://ntinews.ru/blog/publications/iskusstvennyy-intellekt-v-obrazovanii-sotsialno-filosofskie-aspekty.html (date of access: 13.01.2020).

6. Grebenshchikova E.G. Gumanitarnaya ekspertiza i diskurs anticipacii [Humanitarian expertise and discourse of anticipation]. Idei i idealy. 2018. Vol. 1. N 2. P. 100–111.

7. Luchsheva L.V. Social'nye problemy ispol'zovaniya AI v vysshem obrazovanii: zadachi i perspektivy [Social problems of using AI in higher education: tasks and prospects]. Nauchnyj Tatarstan. 2020. N 4. P. 84-89

8. Materialy Obrazovatel'nogo intensiva «Arhipelag 20.35» [Materials of the Educational Intensive «Archipelago 20.35»] Oficial'nyj sajt ANO «Universitet 20.35» URL: https://2035.university/arkhipelag-20-35/. (date of access: 13.01.2020).

9. Onosov A.A., Bryzgalina E.V., Savina N.E., Tumanov S.V. Zarubezhnye obrazovatel'nye platformy v sisteme rossijskogo obrazovaniya: ocenka potenciala i prognozirovanie riskov [Foreign educational platforms in the Russian system of education: potential assessment and prediction of the risks]. Vysshee obrazovanie v Rossii. 2018. Vol. 27. N 8–9. P. 135–151.

10. Paskova A.A. Tekhnologii iskusstvennogo intellekta v personalizacii elektronnogo obucheniya [Technologies of Artificial intelligence in e-learning personalization]. Vestnik Majkopskogo gosudarstvennogo tekhnologicheskogo universiteta. 2019. N 3. P. 113–122.

11. Pyrnova O.A., Zaripova R.S. Tekhnologii iskusstvennogo intellekta v obrazovanii [Technologies of Artificial intelligence in education]. Russian Journal of Education and Psychology. 2019. N 3. P. 41–44.

12. Sohranyaeva T. V. Cifrovaya socializaciya kak problema filosofii obrazovaniya [Digital socialization as a problem in the philosophy of education]. Filosofiya obrazovaniya. 2018. Vol. 1. N 74. P. 35–43.

13. Tishchenko P.D., Yudin B.G. Zvezdnyj chas filosofii? [The finest hour of philosophy?]. Voprosy filosofii. 2015. N 12. P.198–203.

14. Ukaz Prezidenta Rossijskoj Federacii ot 10.10.2019 N 490 «O razvitii iskusstvennogo intellekta v Rossijskoj Federacii» [The decree of the President of the Russian Federation of 10.10.2019 N 490 «On the development of artificial intelligence in the Russian Federation»]. Oficial'noe internet-predstavitel'stvo prezidenta Rossii http://www.kremlin.ru/acts/bank/44731] (date of access: 23.01.2021).

15. Fomicheva T.L. Primenenie iskusstvennogo intellekta v obrazovanii [Application of Artificial intelligence in education]. Samoupravlenie. 2020. N 5 (122). P. 461–464.

16. Ada Lovelace Institute URL: https://www.adalovelaceinstitute.org. (date of access: 11.01.2021).

17. Bertino E., Doshi-Velez F., Gini M.L., Lopresti D., Parkes D. Artificial Intelligence & Cooperation. ArXiv, 2020, abs/2012.06034. URL:https://arxiv.org/pdf/2012.06034.pdf (date of access: 11.01.2021).

18. Cartwright N., Hardie J. Evidence-Based Policy: A Practical Guide to Doing it Better. Oxford: Oxford University Press, 2012.

19. Castelvecchi D. «Can we open the black box of AI?» // Nature, 2016. Vol. 538, P.21- 23. URL: https://www.nature.com/news/can-we-open-the-black-box-of-ai-1.20731 (date of access: 11.01.2021).

20. Critch A., Krueger D. AI Research Considerations for Human Existential Safety (ARCHES). 2020. URL: https://arxiv.org/pdf/2006.04948.pdf (date of access: 11.01.2021).

21. Dafoe A., Hughes E., Bachrach Y., Collins T, McKee K.R., Leibo J.Z, Larson K., Graepel T. «Open Problems in Cooperative AI» Centre for the Governance of AI, Future of Humanity Institute. 2020. URL: https://arxiv.org/abs/2012.08630 (date of access: 11.01.2021).

22. Gates B.// Stanford Institute for Human-Centered Artificial. URL: https://hai.stanford.edu/events/2019-hai-symposium/people/bill-gates (date of access: 11.01.2021).

23. Jing M. China wants to bring artificial intelligence to its classrooms to boost its education system. Science & Research, South China Morning Post. 2018. URL: https://www.scmp.com/tech/science-research/article/2115271/china-wants-bring-artificial-intelligence-its-classrooms-boost] (date of access: 25.01.2021).

24. Luckin R., Holmes W., Griffiths M., Forcier L.B. Intelligence Unleashed: an argument for AI in Education. London: Pearson, 2016.

25. Mayer-Schönberger V., Cukier K. Big Data: A revolution that will transform how we live, work, and think. Eamon Dolan/Mariner Books. USA, 2014.

26. Montebello M. AI injected e-learning: the future of Online Education. Berlin, Germany: Springer, 2017.

27. Nye B.D. Intelligent Tutoring Systems by and for the Developing World: a review of trends and approaches for Educational Technology in a Global Context. International Journal of Artificial Intelligence in Education. 2015. Vol. 25. N 2. P. 177–203.

28. Pedro F., Subosa M., Rivas A., Valverde P. Artificial intelligence in education: challenges and opportunities for sustainable development, UNESCO. 2019. URL: https://unesdoc.unesco.org/ark:/48223/pf0000366994 (date of access: 11.01.2021).

29. Report «Artificial intelligence in education: challenges and opportunities for sustainable development» UNESCO. 2019. URL:https://unesdoc.unesco.org/ark:/48223/pf0000366994] (date of access: 11.01.2021).

30. Report «Artificial Intelligence Market in the US Education Sector 2018-2022», Research and Markets. 2018. URL: https://www.researchandmarkets.com/reports/4613290/artificial-intelligence-market-in-the-us] (date of access: 25.01.2021).

31. Report «Consideration on Automation of 5G Network Slicing with Machine Learning», National Institute of Information and Communications Technology. Tokyo, Japan. 2018. URL: https://ieeexplore.ieee.org/document/8597639 (date of access: 25.01.2021).

32. Report «Ethically Aligned Design. First Edition. A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems», Institute of Electricaland Electronics Engineers (IEEE). 2017. URL:https://ethicsinaction.ieee.org (date of access: 11.01.2021).

33. Report «First draft of the Recommendation on the Ethics of Artificial Intelligence», UNESCO. 2020. URL: https://unesdoc.unesco.org/ark:/48223/pf0000373434 (date of access: 11.01.2021).

34. Report «ISO/IEC AWI 23894 «Information Technology - Artificial Intelligence - Risk Management»». 2019. URL: https://www.iso.org/standard/77304.html] (date of access: 11.01.2021).

35. Report «ISO/IEC AWI TR 24368 «Information technology - Artificial intelligence - Overview of ethical and societal concerns»». 2021. URL: https://www.iso.org/standard/78507.html (date of access: 11.01.2021).

36. Report «ISO/IEC TR 24029-1 Information technology - Artificial Intelligence (AI) – Assessment of the robustness of neural networks» - Part 1: Overview. 2019. Part 2: Methodology for the use of formal methods». 2019. URL: https://www.iso.org/standard/77609.html (date of access: 11.01.2021).

37. Report «ISO/IEC WD 22989 «Information Technology - Artificial intelligence - Concepts and terminology»», International Organization for Standardization. 2020. URL: https://www.iso.org/standard/74296.html] (date of access: 25.01.2021).

38. Report «Steering AI and Advanced ICTs for Knowledge Societies: Rights, Openness, Access, and Multi-stakeholder Perspective» UNESCO. 2019. URL: https://www.unesco.de/sites/default/files/2019-11/372132eng.pdf (date of access: 11.01.2021).

39. Report «WIPO Technology Trends 2019: Artificial Intelligence», World Intellectual Property Organization. 2019. URL: https://www.wipo.int/edocs/pubdocs/en/wipo_pub_1055.pdf (date of access: 25.01.2021).

40. Roll I., Wylie R. Evolution and Revolution in Artificial Intelligence in Education. International Journal of Artificial Intelligence in Education. 2016. Vol. 26. N 2. P. 582-599.

41. Zhou Y., Fischer M. AI love you. Developments in Human-Robot Intimate Relationships. Springer Nature, Switzerland AG. 2019.

Comments

No posts found

Write a review
Translate