Обоснование. Статья посвящена педагогическому анализу этических и психологических аспектов безопасного использования алгоритмов искусственного интеллекта (ИИ) в двух, критически значимых для образовательной траектории обучающихся, практиках: оценивании учебных достижений и профориентационном сопровождении. В работе обосновано, что переход к алгоритмическим решениям меняет логику образовательного взаимодействия, создавая риски редукции личности обучающегося и утраты его субъектности. В исследовании выделены четыре базовых параметра контроля алгоритмических систем: педагогическая применимость, социальная справедливость, объяснимость и поддержка автономии обучающегося. Особое внимание уделено операционным индикаторам психологической безопасности, таким как воспринимаемая справедливость, наличие процедур апелляции и недирективность профориентационных рекомендаций. Практическая значимость исследования заключается в разработке системы рекомендаций для высших учебных заведений по созданию этико-педагогической инфраструктуры, необходимой для трансформации ИИ из инструмента внешнего контроля в средство поддержки развития и самоопределения обучающихся. Цель исследования состоит в разработке и обосновании модели педагогических условий, снижающих риски нарушения психологической безопасности и обеспечивающих этически ответственное применение алгоритмических решений в университетской среде. Материалы и методы. Методологическую основу составили системный и деятельностный подходы, компетентностная перспектива оценки, а также принципы педагогической этики и психологии безопасности образовательной среды. Исследование реализовано в форме теоретико-аналитического проекта: выполнен критический обзор ключевых направлений исследований, а именно, алгоритмическая справедливость, применимость и надежность цифровой оценки, объяснимость моделей, риск-ориентированное управление. Проведено концептуальное моделирование и предложены отдельные индикаторы психологической безопасности при использовании ИИ в образовательных решениях. Результаты. Ключевым результатом является проект «этической и психологически безопасной алгоритмизации», включающий три уровня (технологический, педагогико-организационный, субъектно-коммуникативный) и четыре контура контроля (применимость, справедливость, прозрачность, поддержка автономии обучающегося). Показано, что наиболее значимые риски локализуются не в самом факте применения ИИ, а в педагогическом «обрамлении» алгоритма: в способах интерпретации результата, распределении ответственности, режимах обратной связи и возможностях апелляции.
Background. The article is devoted to the pedagogical analysis of the ethical and psychological aspects of the safe use of artificial intelligence (AI) algorithms in two practices that are critically important for the educational trajectory of students: assessment of academic achievements and career guidance. The paper substantiates that the transition to algorithmic solutions changes the logic of educational interaction, creating risks of reducing the student's personality and the loss of his subjectivity. The study identifies four basic control parameters of algorithmic systems: pedagogical applicability, social justice, explainability, and support for student autonomy. Special attention is paid to operational indicators of psychological safety, such as perceived fairness, the availability of appeal procedures, and the non-directivity of career guidance recommendations. The practical significance of the research lies in the development of a system of recommendations for higher education institutions to create the ethical and pedagogical infrastructure necessary for the transformation of AI from an instrument of external control into a means of supporting the development and self-determination of students. Purpose. The purpose of the research is to develop and substantiate a model of pedagogical conditions that reduce the risks of psychological safety violations and ensure the ethically responsible application of algorithmic solutions in the university environment. Materials and methods. The methodological basis is based on systematic and activity-based approaches, a competence-based assessment perspective, as well as the principles of pedagogical ethics and the psychology of educational environment safety. The research was implemented in the form of a theoretical and analytical project: a critical review of key research areas was carried out, namely, algorithmic fairness, applicability and reliability of digital assessment, explainability of models, risk-based management. Conceptual modeling has been carried out and separate indicators of psychological safety have been proposed when using AI in educational solutions. Results. The key result is the project of «ethical and psychologically safe algorithmization», which includes three levels (technological, pedagogical-organizational, subject-communicative) and four control circuits (applicability, fairness, transparency, support for student autonomy). It is shown that the most significant risks are localized not in the very fact of using AI, but in the pedagogical «framing» of the algorithm: in the ways of interpreting the result, the distribution of responsibility, feedback modes and appeal possibilities.