Этика и психологическая безопасность применения алгоритмов искусственного интеллекта в системе оценки знаний и профориентации обучающихся
Аннотация
Обоснование. Статья посвящена педагогическому анализу этических и психологических аспектов безопасного использования алгоритмов искусственного интеллекта (ИИ) в двух, критически значимых для образовательной траектории обучающихся, практиках: оценивании учебных достижений и профориентационном сопровождении. В работе обосновано, что переход к алгоритмическим решениям меняет логику образовательного взаимодействия, создавая риски редукции личности обучающегося и утраты его субъектности.
В исследовании выделены четыре базовых параметра контроля алгоритмических систем: педагогическая применимость, социальная справедливость, объяснимость и поддержка автономии обучающегося. Особое внимание уделено операционным индикаторам психологической безопасности, таким как воспринимаемая справедливость, наличие процедур апелляции и недирективность профориентационных рекомендаций.
Практическая значимость исследования заключается в разработке системы рекомендаций для высших учебных заведений по созданию этико-педагогической инфраструктуры, необходимой для трансформации ИИ из инструмента внешнего контроля в средство поддержки развития и самоопределения обучающихся.
Цель исследования состоит в разработке и обосновании модели педагогических условий, снижающих риски нарушения психологической безопасности и обеспечивающих этически ответственное применение алгоритмических решений в университетской среде.
Материалы и методы. Методологическую основу составили системный и деятельностный подходы, компетентностная перспектива оценки, а также принципы педагогической этики и психологии безопасности образовательной среды. Исследование реализовано в форме теоретико-аналитического проекта: выполнен критический обзор ключевых направлений исследований, а именно, алгоритмическая справедливость, применимость и надежность цифровой оценки, объяснимость моделей, риск-ориентированное управление. Проведено концептуальное моделирование и предложены отдельные индикаторы психологической безопасности при использовании ИИ в образовательных решениях.
Результаты. Ключевым результатом является проект «этической и психологически безопасной алгоритмизации», включающий три уровня (технологический, педагогико-организационный, субъектно-коммуникативный) и четыре контура контроля (применимость, справедливость, прозрачность, поддержка автономии обучающегося). Показано, что наиболее значимые риски локализуются не в самом факте применения ИИ, а в педагогическом «обрамлении» алгоритма: в способах интерпретации результата, распределении ответственности, режимах обратной связи и возможностях апелляции.
Скачивания
Литература
Алешов, В. В., Самчинская, Я. Б., Алешов, Е. В., Линник, И. И., & Криницкий, Ю. В. (2025). Этические вопросы использования искусственного интеллекта в образовательном пространстве. Инновационные направления интеграции науки, образования и производства, с. 922–927. EDN: https://elibrary.ru/KYHACY
Ахметшина, Э. И., Пономарёв, Н. А., & Абдюшева, А. Д. (2024). Моделирование образовательных траекторий с использованием искусственного интеллекта. Современная наука: актуальные проблемы теории и практики. Серия: Естественные и технические науки, (1), с. 20–23. https://doi.org/10.37882/2223-2966.2024.01.03. EDN: https://elibrary.ru/VDEDYY
Боброва, И. И., & Тимофеев, Е. Г. (2024). Влияние искусственного интеллекта на формирование информационной безопасности в образовании. Актуальные проблемы современной науки, техники и образования, с. 218. EDN: https://elibrary.ru/HLWPBQ
Богатырева, Ю. И., Привалов, А. Н., & Смирнова, В. А. (2025). Модель угроз личности обучающихся при применении систем искусственного интеллекта. Вестник РГГУ. Серия: Информатика. Информационная безопасность. Математика, (1), с. 70–94. https://doi.org/10.28995/2686-679. EDN: https://elibrary.ru/WITTRY
Горбатенко, Н. Ю. (2024). Формирование личности студента в условиях воздействия искусственного интеллекта. Устойчивое развитие социально экономических процессов в условиях цифровой трансформации современного общества, с. 279–282. EDN: https://elibrary.ru/QOWEFV
Ермакова, Т. А. (2023). Возможности и угрозы применения искусственного интеллекта в современном образовании. Высшее образование в эпоху глобальных трансформаций: достижения, вызовы, перспективы, с. 31–35. EDN: https://elibrary.ru/COEDNB
Козырев, П. С., & Шмакова, А. П. (2025). Этические аспекты применения искусственного интеллекта в оценке образовательных достижений. Управление качеством образования: проблемы и перспективы, с. 301–307. EDN: https://elibrary.ru/WNWJSJ
Наумов, В. Н., & Шубодерова, П. А. (2024). Искусственный интеллект и профессиональный выбор нового поколения. Менеджмент XXI века: формирование суверенной системы образования Российской Федерации, с. 145–150.
Радугин, А. А., & Радугина, О. А. (2021). Применение искусственного интеллекта в образовательном процессе вуза: технологии, потенциал и проблемы. Вестник Воронежского государственного университета. Серия: Проблемы высшего образования, (4), с. 84–87. EDN: https://elibrary.ru/KLXUPF
Тамьярова, М. В., Тамьяров, А. В., & Тамьяров, И. А. (2023). Интеллектуальная образовательная среда и этические основы интеллектуальной поддержки современного преподавателя. В Международный форум Kazan Digital Week — 2023. Казань, с. 944–949. EDN: https://elibrary.ru/LHIEGO
Тимченко, В. В. (2024). Обеспечение безопасности применения искусственного интеллекта в образовании: стратегии стандартизации. Технико технологические проблемы сервиса, (4)70, с. 60–65. EDN: https://elibrary.ru/IMQHNV
Харченко, С. Я., & Гришак, С. Н. (2025). Трансформация образовательного процесса в высшей школе в контексте использования технологий искусственного интеллекта. Гуманитарная парадигма, (2)33, с. 124–133. EDN: https://elibrary.ru/HXULDN
Шлыкова, Н. В. (2024). Оптимизация педагогических технологий в профориентационной деятельности с помощью алгоритмов искусственного интеллекта. В Профессиональная ориентация и профессиональное самоопределение обучающихся: вызов времени. Саранск, с. 307–312. EDN: https://elibrary.ru/ELWCWG
Щербанич, Ф. Е., & Ромашкова, О. Н. Этика использования искусственного интеллекта в образовании. В Наука, инновации и технологии: от идей к внедрению, с. 626–628.
Яламов, Г. Ю. (2019). Методические подходы к обеспечению информационно психологической безопасности пользователей интеллектуальных обучающих систем. Педагогическая информатика, (4), с. 176–182. EDN: https://elibrary.ru/WAATZV
Яламов, Г. Ю. (2019). Обеспечение информационно психологической безопасности пользователей интеллектуальных обучающих систем: методические рекомендации. Управление образованием: теория и практика, (4)36, с. 48–59. EDN: https://elibrary.ru/DJBVSA
Kassymova, G. K., Malinichev, D. M., Lavrinenko, S. V., Panichkina, M. V., Koptyaeva, S. V., & Arpentiev, M. R. (2023). Ethical Problems of Digitalization and Artificial Intelligence in Education: A Global Perspective. Journal of Pharmaceutical Negative Results, 14(S2), pp. 2150–2161. https://doi.org/10.47750/pnr.2023.14.S02.254. EDN: https://elibrary.ru/QNZUMK
Kiselev, A. A. (2024). The Harm of Artificial Intelligence for the Education System. В Theory and Practice of Modern Science: The View of Youth. Saint Petersburg, pp. 288–292. EDN: https://elibrary.ru/BOAGTD
Mirtcheva Ivanova, D. (2024). Application of Artificial Intelligence in E Learning. Environment. Technology. Resources, (2), pp. 208–211. https://doi.org/10.17770/etr2024vol2.8053. EDN: https://elibrary.ru/MFWVLB
Odasheva, F. M. (2022). Possibilities of Using Innovative Educational Technologies to Increase Educational Efficiency. Theoretical & Applied Science, (5)109, pp. 769–771. https://doi.org/10.15863/TAS.2022.05.109.73. EDN: https://elibrary.ru/ARHXMJ
Ponomarev, A., Proletarskiy, A., Serebrennikov, O., Guglya, G., & Korotkevich, O. (2020). The Use of Artificial Intelligence Technologies to Implement a Multi Factor Analysis of a Student’s Actions during an Exam. В E Learning and Software for Education Conference. Bucharest, pp. 442–447. https://doi.org/10.12753/2066-026. EDN: https://elibrary.ru/HEZEJQ
Zinina, O. V., & Olentsova, Ju. A. (2020). Innovative Education Activities, Features of Implementation of the Innovative Process. Baltic Humanitarian Journal, 9(3)32, pp. 85–87. https://doi.org/10.26140/bgz3-2020-0903-0019. EDN: https://elibrary.ru/ZYQUIA
References
Aleshov, V. V., Samchinskaya, Ya. B., Aleshov, E. V., Linnik, I. I., & Krinitsky, Yu. V. (2025). Ethical issues of using artificial intelligence in the educational space. In Innovative Directions of Integration of Science, Education and Production, 922–927. EDN: https://elibrary.ru/KYHACY
Akhmetshina, E. I., Ponomarev, N. A., & Abdyusheva, A. D. (2024). Modeling educational trajectories using artificial intelligence. Modern Science: Actual Problems of Theory and Practice. Series: Natural and Technical Sciences, (1), 20–23. https://doi.org/10.37882/2223-2966.2024.01.03. EDN: https://elibrary.ru/VDEDYY
Bobrova, I. I., & Timofeev, E. G. (2024). The impact of artificial intelligence on the formation of information security in education. In Current Problems of Modern Science, Technology and Education, 218. EDN: https://elibrary.ru/HLWPBQ
Bogatyreva, Yu. I., Privalov, A. N., & Smirnova, V. A. (2025). Threat model for the personality of students when using artificial intelligence systems. Bulletin of the Russian State University for the Humanities. Series: Computer Science. Information Security. Mathematics, (1), 70–94. https://doi.org/10.28995/2686-679. EDN: https://elibrary.ru/WITTRY
Gorbatenko, N. Yu. (2024). Formation of a student’s personality under the influence of artificial intelligence. In Sustainable Development of Socio Economic Processes in the Context of Digital Transformation of Modern Society, 279–282. EDN: https://elibrary.ru/QOWEFV
Ermakova, T. A. (2023). Opportunities and threats of using artificial intelligence in modern education. In Higher Education in the Era of Global Transformations: Achievements, Challenges, Prospects, 31–35. EDN: https://elibrary.ru/COEDNB
Kozyrev, P. S., & Shmakova, A. P. (2025). Ethical aspects of using artificial intelligence in assessing educational achievements. In Quality Management in Education: Problems and Prospects, 301–307. EDN: https://elibrary.ru/WNWJSJ
Naumov, V. N., & Shuboderova, P. A. (2024). Artificial intelligence and professional choice of the new generation. In Management of the 21st Century: Formation of a Sovereign Education System of the Russian Federation, 145–150.
Radugin, A. A., & Radugina, O. A. (2021). Application of artificial intelligence in the university educational process: Technologies, potential and problems. Bulletin of Voronezh State University. Series: Problems of Higher Education, (4), 84–87. EDN: https://elibrary.ru/KLXUPF
Tam’yarova, M. V., Tam’yarov, A. V., & Tam’yarov, I. A. (2023). Intelligent educational environment and ethical foundations of intellectual support for the modern teacher. In International Forum Kazan Digital Week — 2023. Kazan, 944–949. EDN: https://elibrary.ru/LHIEGO
Timchenko, V. V. (2024). Ensuring the safety of using artificial intelligence in education: Standardization strategies. Technical and Technological Problems of Service, (4)70, 60–65. EDN: https://elibrary.ru/IMQHNV
Kharchenko, S. Ya., & Grishak, S. N. (2025). Transformation of the educational process in higher education in the context of using artificial intelligence technologies. Humanitarian Paradigm, (2)33, 124–133. EDN: https://elibrary.ru/HXULDN
Shlykova, N. V. (2024). Optimization of pedagogical technologies in career guidance activities using artificial intelligence algorithms. In Career Guidance and Professional Self Determination of Students: The Challenge of the Time. Saransk, 307–312. EDN: https://elibrary.ru/ELWCWG
Shcherbanich, F. E., & Romashkova, O. N. Ethics of using artificial intelligence in education. In Science, Innovation and Technology: From Ideas to Implementation, 626–628.
Yalamov, G. Yu. (2019). Methodological approaches to ensuring the information and psychological security of users of intelligent learning systems. Pedagogical Informatics, (4), 176–182. EDN: https://elibrary.ru/WAATZV
Yalamov, G. Yu. (2019). Ensuring the information and psychological security of users of intelligent learning systems: Methodological recommendations. Education Management: Theory and Practice, (4)36, 48–59. EDN: https://elibrary.ru/DJBVSA
Kassymova, G. K., Malinichev, D. M., Lavrinenko, S. V., Panichkina, M. V., Koptyaeva, S. V., & Arpentiev, M. R. (2023). Ethical problems of digitalization and artificial intelligence in education: A global perspective. Journal of Pharmaceutical Negative Results, 14(S2), 2150–2161. https://doi.org/10.47750/pnr.2023.14.S02.254. EDN: https://elibrary.ru/QNZUMK
Kiselev, A. A. (2024). The harm of artificial intelligence for the education system. In Theory and Practice of Modern Science: The View of Youth. Saint Petersburg, 288–292. EDN: https://elibrary.ru/BOAGTD
Mirtcheva Ivanova, D. (2024). Application of artificial intelligence in e learning. Environment. Technology. Resources, (2), 208–211. https://doi.org/10.17770/etr2024vol2.8053. EDN: https://elibrary.ru/MFWVLB
Odasheva, F. M. (2022). Possibilities of using innovative educational technologies to increase educational efficiency. Theoretical & Applied Science, (5)109, 769–771. https://doi.org/10.15863/TAS.2022.05.109.73. EDN: https://elibrary.ru/ARHXMJ
Ponomarev, A., Proletarskiy, A., Serebrennikov, O., Guglya, G., & Korotkevich, O. (2020). The use of artificial intelligence technologies to implement a multi factor analysis of a student’s actions during an exam. In E Learning and Software for Education Conference. Bucharest, 442–447. https://doi.org/10.12753/2066-026. EDN: https://elibrary.ru/HEZEJQ
Zinina, O. V., & Olentsova, Ju. A. (2020). Innovative education activities, features of implementation of the innovative process. Baltic Humanitarian Journal, 9(3)32, 85–87. https://doi.org/10.26140/bgz3-2020-0903-0019. EDN: https://elibrary.ru/ZYQUIA
Copyright (c) 2026 Maya V. Sirotiyk
Это произведение доступно по лицензии Creative Commons «Attribution-NonCommercial-NoDerivatives» («Атрибуция — Некоммерческое использование — Без производных произведений») 4.0 Всемирная.
