AI, Cybersecurity and Students’ Rights in EU Digital Education Governance
Inteligência Artificial, Cibersegurança e Direitos dos Estudantes na Governança Digital da Educação na União Europeia
Andreea Nicoleta Dragomir iDLucian Blaga University from Sibiu, Faculty of Law
Ovidiu Bernaschi iDLucian Blaga University of Sibiu
Abstract
Objective: This article examines how artificial intelligence in higher education may affect students’ rights, particularly privacy, autonomy, equality, fair assessment, and institutional trust.
Method: The study adopts a qualitative, doctrinal, and documentary approach, combining legal analysis of the main European Union regulatory instruments, including the AI Act, the GDPR, and the NIS2 Directive, with a technical perspective on artificial intelligence and cybersecurity risks.
Results: The article shows that formal legal compliance alone is not sufficient to ensure trustworthy AI in education. Automated assessment systems, learning analytics, proctoring tools, chatbots, large language models, and vulnerable digital infrastructures may create significant risks for students’ rights. In response, the article proposes a rights-based Cyber-AI trust architecture structured around three operational layers: the AI system, the educational data flow, and the cybersecurity infrastructure.
Contribution: The main contribution of the article is to present an operational model that translates legal requirements into practical institutional and technological design principles, including human oversight, data minimization, cybersecurity-by-design, responsible EdTech procurement, continuous auditing, incident-response procedures, and student participation in AI governance.
Conclusion: AI can support the future of education only if legal, technical, and pedagogical safeguards are integrated into a coherent institutional architecture centered on the student.
Objetivo: Este artigo analisa como a inteligência artificial aplicada à educação superior pode afetar os direitos dos estudantes, especialmente em relação à privacidade, autonomia, igualdade, avaliação justa e confiança institucional.
Metodologia: A pesquisa adota abordagem qualitativa, doutrinária e documental, combinando análise jurídica dos principais instrumentos regulatórios da União Europeia, como o AI Act, o GDPR e a Diretiva NIS2, com uma perspectiva técnica sobre riscos de inteligência artificial e cibersegurança.
Resultados: O estudo demonstra que a conformidade jurídica formal não é suficiente para garantir uma IA confiável na educação. Sistemas de avaliação automatizada, learning analytics, proctoring, chatbots, grandes modelos de linguagem e infraestruturas digitais vulneráveis podem gerar riscos relevantes aos direitos dos estudantes. Como resposta, o artigo propõe uma arquitetura de confiança Cyber-AI baseada em direitos, estruturada em três camadas: sistema de IA, fluxo de dados educacionais e infraestrutura de cibersegurança.
Contribuição: A principal contribuição do artigo é apresentar um modelo operacional que traduz exigências jurídicas em princípios práticos de desenho institucional e tecnológico, incluindo supervisão humana, minimização de dados, cibersegurança desde a concepção, contratação responsável de EdTech, auditoria contínua, resposta a incidentes e participação estudantil na governança da IA.
Conclusão: A IA pode apoiar o futuro da educação, desde que salvaguardas jurídicas, técnicas e pedagógicas sejam integradas em uma arquitetura institucional centrada no estudante.
Cite this article
Zotero and Mendeley: open the RIS file, or use the Zotero Connector on this page (it reads the article metadata).
Share
Related articles
- Media Framing of Artificial Intelligence in Education: A Content Analysis of US News Coveragecorey basch, Grace C. Hillyer, Victoria H. Wagner · v. 7 (2026)
- An AI-Driven Approach to Developing Free, Inclusive, and Engaging Digital Learning Resources for Hearing-Impaired and Economically Disadvantaged StudentsSachin Sharma · v. 7 (2026)
- Developing an Integrated AI Pedagogical Framework for Pre-Service TeachersBindu Dua, Adit Gupta · v. 7 (2026)
- Towards a Psychologically Grounded Framework for Ethical, Inclusive, and AI-Enhanced EducationArpana Koul, Bharti Tandon, Bindu Dua · v. 7 (2026)