Análisis de riesgos en la seguridad de la información con la implementación de IA en los sistemas de atención al cliente
DOI:
https://doi.org/10.53591/strategos.v4i2.2086Palabras clave:
Riesgo, Seguridad de la Información, IA, Atención al Cliente, Risk, Information Security, AI, Customer ServiceResumen
Esta investigación es un estudio documental descriptivo que realiza una revisión exhaustiva de la literatura, incluyendo artículos científicos, informes de la industria como los de ESET y estudios sobre la implementación de la inteligencia artificial (IA) en sistemas de atención al cliente. El objetivo principal es evaluar los riesgos y vulnerabilidades en la seguridad de la información que surgen con la implementación de la IA, identificar las principales amenazas y proponer medidas preventivas y correctivas para proteger los datos sensibles y garantizar la integridad de los sistemas. Los hallazgos indican que, aunque la IA mejora significativamente la eficiencia y automatización en la atención al cliente, también introduce riesgos importantes como errores en los algoritmos, vulnerabilidades en la privacidad de los datos y un aumento en incidentes de seguridad como el robo de información y ataques de ransomware. Para mitigar estos riesgos, la literatura recomienda implementar medidas como el cifrado robusto de datos, la privacidad diferencial, la autenticación multifactor y el control de acceso basado en roles. Además, se enfatiza la importancia del monitoreo continuo, la gestión de parches, auditorías de seguridad periódicas y procedimientos sólidos de copia de seguridad y recuperación, asegurando así una respuesta efectiva ante incidentes de seguridad y la protección de los datos sensibles.
Citas
Canhoto, A. I., & Clear, F. (2019). Artificial intelligence and machine learning as business tools: A framework for diagnosing value destruction potential. Business Horizons, 63(2), 183-194.
CIS (2021). CIS Controls v8. Center for Internet Security. https://www.cisecurity.org/controls/
Davenport, T. H., & Ronanki, R. (2018). Artificial intelligence for the real world. Harvard Business Review. Recuperado de https://store.hbr.org/product/artificial-intelligence-for-the-real-world/r1801h?sku=R1801H-PDF-ENG
Deloitte. (2022). AI in customer service: Security challenges. Deloitte Insights. https://www2.deloitte.com/
Deloitte. (2022). Global AI adoption trends in customer service. Deloitte Insights. https://www.deloitte.com/global/adoption-ai
Devlin, J., Chang, M., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. arXiv preprint arXiv:1810.04805. https://doi.org/10.48550/arXiv.1810.04805
Dwork, C., Roth, A., Abowd, J., et al. (2014). The Algorithmic Foundations of Differential Privacy. Foundations and Trends® in Theoretical Computer Science, 9(3–4), 211-407.
ENISA. (2018). Cybersecurity training programs: Development and delivery. European Union Agency for Cybersecurity.
Ferraiolo, D. F., & Kuhn, D. R. (1992). Role-Based Access Controls. National Computer Security Conference.
Gartner. (2021). AI in customer service: The state of implementation. Gartner Research. https://www.gartner.com/en/research
Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep learning. MIT Press.
Google AI. (2020). Privacy-preserving machine learning with differential privacy. Google Research. https://ai.googleblog.com/
Grand View Research. (2023). Customer service AI market forecast 2023-2028. Grand View Research. https://www.grandviewresearch.com
Informe de Ciberseguridad de ESET. (2024). Tendencias de ciberseguridad en América Latina. Recuperado de https://web-assets.esetstatic.com/wls/es/articulos/reportes/cybersecurity-trends-2024-es.pdf
ISO/IEC 27001. (2013). Information security management systems – Requirements. International Organization for Standardization.
ISO/IEC 27002. (2013). Code of practice for information security controls. International Organization for Standardization.
Lawlor, B. (2021). Artificial intelligence and machine learning: Forging a new world for scholarly communication. Chemistry International, 8(1), 8-13. Recuperado de https://doi.org/10.3233/ISU-190068
LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444. https://doi.org/10.1038/nature14539
McKinsey & Company. (2021). The power of AI in customer service: Case studies and insights. McKinsey. https://www.mckinsey.com
Microsoft. (2019). Best practices for securing AI systems. Microsoft Security Documentation. https://docs.microsoft.com/
NIST. (2014). Special Publication 800-53: Security and Privacy Controls for Federal Information Systems and Organizations. National Institute of Standards and Technology.
NIST. (2017). Special Publication 800-63: Digital Identity Guidelines. National Institute of Standards and Technology.
NIST. (2020). Framework for Improving Critical Infrastructure Cybersecurity. National Institute of Standards and Technology.
OWASP. (2021). Top Ten Vulnerabilities 2021. Open Web Application Security Project.
Pothumsetty, R. (2020). Implementation of artificial intelligence and machine learning in financial services. International Research Journal of Engineering and Technology (IRJET), 7(3), 3186-3193.
Raimundo, R., & Rosário, A. (2021). The impact of artificial intelligence on data system security: A literature review. Sensors, 21(21), 7029.
Russell, S., & Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). Pearson.
Salesforce. (2021). State of Service report 2021. Salesforce Research. https://www.salesforce.com/research
SANS Institute. (2020). Incident Handling and Response. SANS Information Security Training.
Sheehan, M. (2020). Chatbots and the future of customer service. Customer Experience Journal, 15(2), 34-42. https://doi.org/10.1002/cxj.v15.2
Sutton, R. S., & Barto, A. G. (2018). Reinforcement learning: An introduction (2nd ed.). MIT Press.
Vanneschi, L., Bush, S., & Castelli, M. (2018). Artificial intelligence and its impacts on industries. Journal of AI and Society, 23(3), 145-162.
Zerfass, A., Hagelstein, J., & Tench, R. (2020). Artificial intelligence in communication management: A cross-national study on adoption and knowledge, impact, challenges, and risks. Journal of Communication Management, 24(3), 207-227.
Descargas
Publicado
Cómo citar
Número
Sección
Categorías
Licencia
Derechos de autor 2025 STRATEGOS - Revista Internacional de Estudios en Ciencias Administrativas
Esta obra está bajo una licencia internacional Creative Commons Atribución-SinDerivadas 4.0.
