Análisis de riesgos en la seguridad de la información con la implementación de IA en los sistemas de atención al cliente
DOI:
https://doi.org/10.53591/strategos.v4i2.2086Palabras clave:
Riesgo, Seguridad de la Información, IA, Atención al Cliente, Risk, Information Security, AI, Customer ServiceResumen
Esta investigación es un estudio documental descriptivo que realiza una revisión exhaustiva de la literatura, incluyendo artículos científicos, informes de la industria como los de ESET y estudios sobre la implementación de la inteligencia artificial (IA) en sistemas de atención al cliente. El objetivo principal es evaluar los riesgos y vulnerabilidades en la seguridad de la información que surgen con la implementación de la IA, identificar las principales amenazas y proponer medidas preventivas y correctivas para proteger los datos sensibles y garantizar la integridad de los sistemas. Los hallazgos indican que, aunque la IA mejora significativamente la eficiencia y automatización en la atención al cliente, también introduce riesgos importantes como errores en los algoritmos, vulnerabilidades en la privacidad de los datos y un aumento en incidentes de seguridad como el robo de información y ataques de ransomware. Para mitigar estos riesgos, la literatura recomienda implementar medidas como el cifrado robusto de datos, la privacidad diferencial, la autenticación multifactor y el control de acceso basado en roles. Además, se enfatiza la importancia del monitoreo continuo, la gestión de parches, auditorías de seguridad periódicas y procedimientos sólidos de copia de seguridad y recuperación, asegurando así una respuesta efectiva ante incidentes de seguridad y la protección de los datos sensibles.
Abstract
This research is a descriptive documentary study that conducts an exhaustive literature review, including scientific articles, industry reports such as those from ESET, and studies on the implementation of artificial intelligence (AI) in customer service systems. The main objective is to evaluate the risks and vulnerabilities in information security that arise with the implementation of AI, identify the primary threats, and propose preventive and corrective measures to protect sensitive data and ensure the integrity of the systems.
The findings indicate that although AI significantly improves efficiency and automation in customer service, it also introduces important risks such as errors in algorithms, vulnerabilities in data privacy, and an increase in security incidents like data theft and ransomware attacks. To mitigate these risks, the literature recommends implementing measures such as robust data encryption, differential privacy, multifactor authentication, and role-based access control. Additionally, the importance of continuous monitoring, patch management, periodic security audits, and robust backup and recovery procedures is emphasized, thereby ensuring an effective
response to security incidents and the protection of sensitive data.
Citas
Canhoto, A. I., & Clear, F. (2019). Artificial intelligence and machine learning as business tools: A framework for diagnosing value destruction potential. Business Horizons, 63(2), 183-194.
CIS (2021). CIS Controls v8. Center for Internet Security. https://www.cisecurity.org/controls/
Davenport, T. H., & Ronanki, R. (2018). Artificial intelligence for the real world. Harvard Business Review. Recuperado de https://store.hbr.org/product/artificial-intelligence-for-the-real-world/r1801h?sku=R1801H-PDF-ENG
Deloitte. (2022). AI in customer service: Security challenges. Deloitte Insights. https://www2.deloitte.com/
Deloitte. (2022). Global AI adoption trends in customer service. Deloitte Insights. https://www.deloitte.com/global/adoption-ai
Devlin, J., Chang, M., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. arXiv preprint arXiv:1810.04805. https://doi.org/10.48550/arXiv.1810.04805
Dwork, C., Roth, A., Abowd, J., et al. (2014). The Algorithmic Foundations of Differential Privacy. Foundations and Trends® in Theoretical Computer Science, 9(3–4), 211-407.
ENISA. (2018). Cybersecurity training programs: Development and delivery. European Union Agency for Cybersecurity.
Ferraiolo, D. F., & Kuhn, D. R. (1992). Role-Based Access Controls. National Computer Security Conference.
Gartner. (2021). AI in customer service: The state of implementation. Gartner Research. https://www.gartner.com/en/research
Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep learning. MIT Press.
Google AI. (2020). Privacy-preserving machine learning with differential privacy. Google Research. https://ai.googleblog.com/
Grand View Research. (2023). Customer service AI market forecast 2023-2028. Grand View Research. https://www.grandviewresearch.com
Informe de Ciberseguridad de ESET. (2024). Tendencias de ciberseguridad en América Latina. Recuperado de https://web-assets.esetstatic.com/wls/es/articulos/reportes/cybersecurity-trends-2024-es.pdf
ISO/IEC 27001. (2013). Information security management systems – Requirements. International Organization for Standardization.
ISO/IEC 27002. (2013). Code of practice for information security controls. International Organization for Standardization.
Lawlor, B. (2021). Artificial intelligence and machine learning: Forging a new world for scholarly communication. Chemistry International, 8(1), 8-13. Recuperado de https://doi.org/10.3233/ISU-190068
LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444. https://doi.org/10.1038/nature14539
McKinsey & Company. (2021). The power of AI in customer service: Case studies and insights. McKinsey. https://www.mckinsey.com
Microsoft. (2019). Best practices for securing AI systems. Microsoft Security Documentation. https://docs.microsoft.com/
NIST. (2014). Special Publication 800-53: Security and Privacy Controls for Federal Information Systems and Organizations. National Institute of Standards and Technology.
NIST. (2017). Special Publication 800-63: Digital Identity Guidelines. National Institute of Standards and Technology.
NIST. (2020). Framework for Improving Critical Infrastructure Cybersecurity. National Institute of Standards and Technology.
OWASP. (2021). Top Ten Vulnerabilities 2021. Open Web Application Security Project.
Pothumsetty, R. (2020). Implementation of artificial intelligence and machine learning in financial services. International Research Journal of Engineering and Technology (IRJET), 7(3), 3186-3193.
Raimundo, R., & Rosário, A. (2021). The impact of artificial intelligence on data system security: A literature review. Sensors, 21(21), 7029.
Russell, S., & Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). Pearson.
Salesforce. (2021). State of Service report 2021. Salesforce Research. https://www.salesforce.com/research
SANS Institute. (2020). Incident Handling and Response. SANS Information Security Training.
Sheehan, M. (2020). Chatbots and the future of customer service. Customer Experience Journal, 15(2), 34-42. https://doi.org/10.1002/cxj.v15.2
Sutton, R. S., & Barto, A. G. (2018). Reinforcement learning: An introduction (2nd ed.). MIT Press.
Vanneschi, L., Bush, S., & Castelli, M. (2018). Artificial intelligence and its impacts on industries. Journal of AI and Society, 23(3), 145-162.
Zerfass, A., Hagelstein, J., & Tench, R. (2020). Artificial intelligence in communication management: A cross-national study on adoption and knowledge, impact, challenges, and risks. Journal of Communication Management, 24(3), 207-227.
Descargas
Publicado
Cómo citar
Número
Sección
Categorías
Licencia
Derechos de autor 2025 STRATEGOS - Revista Internacional de Estudios en Ciencias Administrativas
Esta obra está bajo una licencia internacional Creative Commons Atribución-SinDerivadas 4.0.
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
Los autores que publican en esta revista aceptan las siguientes condiciones:
Los autores conservan los derechos de autor y otorgan a la revista el derecho de primera publicación, y la obra se licencia simultáneamente bajo la licencia Creative Commons No Comercial, Sin Obras Derivadas, Atribución 4.0. Internacional (CC BY-NC-ND 4.0.), que permite a otros compartir la obra siempre que se reconozca su autoría y su publicación inicial en esta revista.
Los autores pueden establecer acuerdos contractuales adicionales por separado para la distribución no exclusiva de la versión publicada de la obra en la revista (por ejemplo, publicarla en un repositorio institucional o en un libro), siempre que se reconozca su publicación inicial en esta revista.
Se permite y se anima a los autores a publicar su trabajo en línea (por ejemplo, en repositorios institucionales o en su sitio web) antes y durante el proceso de envío, ya que esto puede generar intercambios productivos, así como una citación más temprana y mayor de la obra publicada (véase El efecto del acceso abierto).
Política de Preservación Digital
La revista STRATEGOS garantiza la preservación digital de sus contenidos a largo plazo mediante las siguientes estrategias:
-
Almacenamiento en servidores institucionales de la Universidad de Guayaquil con respaldos automáticos y control de versiones.
-
Participación en la red de preservación PKP Preservation Network (PKP PN), la cual permite el archivado en múltiples repositorios distribuidos a nivel internacional.
-
Utilización del protocolo LOCKSS (Lots of Copies Keep Stuff Safe) como sistema de respaldo descentralizado para asegurar el acceso continuo a los contenidos.
-
Todos los artículos se almacenan en formatos abiertos (PDF/A) y con metadatos compatibles con estándares internacionales (Dublin Core).
Estas acciones aseguran que los artículos publicados estarán disponibles para lectura, descarga y preservación incluso si la revista deja de operar en el futuro.
