La disrupción algorítmica en las relaciones humanas: revisión sistemática del fenómeno juvenil de los AI companions
Resumen
El presente artículo de revisión sistemática tiene como objetivo analizar la disrupción algorítmica en las relaciones humanas, con énfasis en el fenómeno juvenil de los AI companions, examinando sus implicancias sociales, éticas, psicológicas y educativas. La revisión se llevó a cabo siguiendo la metodología PRISMA 2020, incluyendo estudios publicados entre 2010 y 2025 en bases de datos académicas internacionales, seleccionando investigaciones que abordaran la interacción de jóvenes con agentes conversacionales basados en inteligencia artificial. Se identificaron seis categorías analíticas: configuración algorítmica, motivaciones juveniles, construcción de identidad, transformación de relaciones interpersonales, riesgos éticos y psicológicos, e implicaciones educativas y socioculturales. Los hallazgos muestran que los AI companions generan vínculos emocionalmente significativos percibidos por los jóvenes, influyendo en la autopercepción, la validación emocional y las dinámicas sociales, mientras presentan riesgos asociados a la dependencia afectiva, la manipulación algorítmica y la explotación de datos sensibles. Además, la revisión evidencia vacíos en estudios longitudinales y diversidad cultural, así como la necesidad de alfabetización algorítmica y educación ética. Se concluye que los AI companions constituyen un fenómeno emergente que requiere enfoques interdisciplinarios y regulaciones orientadas a garantizar el bienestar relacional juvenil y un uso crítico y responsable de la tecnología.
Descargas
Citas
Buckingham, D. (2020). Epistemic education: Rethinking the social foundations of education in the digital age. Routledge.
https://doi.org/10.4324/9780429468399
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.
Erikson, E. H. (1968). Identity: Youth and crisis. W. W. Norton & Company.
Floridi, L. (2019). The logic of information: A theory of philosophy as conceptual design. Oxford University Press.
https://doi.org/10.1093/oso/9780198833635.001.0001
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707.
https://doi.org/10.1007/s11023-018-9482-5
Giddens, A. (1991). Modernity and self-identity: Self and society in the late modern age. Stanford University Press.
Kross, E., Verduyn, P., Demiralp, E., Park, J., Lee, D. S., Lin, N., Shablack, H., Jonides, J., & Ybarra, O. (2021). Facebook use predicts declines in subjective well-being in young adults. PLOS ONE, 16(4), e0248343.
https://doi.org/10.1371/journal.pone.0248343
McStay, A. (2020). Emotional AI: The rise of empathic media. SAGE Publications. https://doi.org/10.4135/9781529715993
Nadkarni, A., & Hofmann, S. G. (2012). Why do people use Facebook? Personality and Individual Differences, 52(3), 243–249.
https://doi.org/10.1016/j.paid.2011.11.007
Nowland, R., Necka, E. A., & Cacioppo, J. T. (2018). Loneliness and social internet use. Journal of Social and Clinical Psychology, 37(5), 341–366.
https://doi.org/10.1521/jscp.2018.37.5.341
Putnam, R. D. (2000). Bowling alone: The collapse and revival of American community. Simon & Schuster.
Russell, S. J. (2021). Human compatible: Artificial intelligence and the problem of control. Viking Press.
Selwyn, N. (2019). Should robots replace teachers? AI and the future of education. Polity Press.
Turkle, S. (2015). Reclaiming conversation: The power of talk in a digital age. Penguin Press.
Turkle, S. (2017). Alone together: Why we expect more from technology and less from each other (2nd ed.). Basic Books.
Williamson, B. (2021). Education and the governance of artificial intelligence. Routledge. https://doi.org/10.4324/9781003032845
Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.
OECD. (2021). Artificial intelligence, big data and the future of youth. OECD Publishing. https://doi.org/10.1787/1815199X
UNESCO. (2022). Guidance on generative AI in education and research. UNESCO Publishing.
Burr, C., Cristianini, N., & Ladyman, J. (2018). An analysis of the interaction between intelligent software agents and human users. Ethics and Information Technology, 20(4), 251–260. https://doi.org/10.1007/s10676-018-9451-4
Coeckelbergh, M. (2020). AI ethics. MIT Press.
https://doi.org/10.7551/mitpress/11465.001.0001
Epley, N. (2018). Mindwise: How we understand what others think, believe, feel, and want. Vintage Books.
Haraway, D. (2016). Staying with the trouble: Making kin in the Chthulucene. Duke University Press.
Suler, J. (2004). The online disinhibition effect. CyberPsychology & Behavior, 7(3), 321–326. https://doi.org/10.1089/1094931041291295
Derechos de autor 2026 Mario Alberto Carrillo Ancheyta, Jorge Humberto Ruiz Ovalle
Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
.png)
.png)
1.png)
