Sistemas de inteligencia artificial para la toma automatizada de decisiones: algunos problemas de los contratos algorítmicos concluidos con asistente digital
Artificial Intelligence systems for automated decision-making: Some issues with algorithmic contracts concluded with digital assistants
DOI:
https://doi.org/10.62158/cdp.64Palabras clave:
inteligencia artificial, toma de decisiones automatizada, contratos de consumo, garantías, protección de datosResumen
Es innegable el potencial de la Inteligencia Artificial (IA), que permite la automatización de procesos y la toma de decisiones basada en algoritmos avanzados, con importantes ventajas de precisión y personalización, pero también con riesgos en la transparencia y en la privacidad, así como en la perpetuación de sesgos discriminatorios. Uno de los escenarios donde se muestra el auge de la IA es en el de las decisiones automatizadas en la ejecución de contratos de consumo a través de asistentes digitales, que, a priori, mejoran la eficiencia en la gestión de la relación contractual. En el primer semestre de 2024 han proliferado recomendaciones y regulaciones sobre IA, manifestando el gran desafío al que se enfrentan todos los agentes implicados para generar un marco de referencia adecuado para el óptimo y seguro desarrollo de la IA.
Citas
BENGIO, Y., GOODFELOW, I. & COURVILLE, A. (2017): Deep learning, vol. 1. Cambridge, MA, USA: MIT press.
CALVO, J., GUZMÁN, M. y RAMOS, D. (2018): “Machine Learning, una pieza clave en la transformación de los modelos de negocio”, Management Solutions (pp. 1-42).
COGLIANESE, C. & LEHR, D. (2017): “Regulating by robot: administrative decision making in the machine-learning era”, The Georgetown Law Journal, vol. 105, n. 5 (pp. 1147-1223).
COTINO HUESO, L. (2024): “La primera sentencia del Tribunal de Justicia de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de datos y el Reglamento de inteligencia artificial”, Diario LA LEY. Disponible en: https://diariolaley.laleynext.es/dll/2024/01/17/la-primera-sentencia-del-tribunal-de-justicia-de-la-union-europea-sobre-decisiones-automatizadas-y-sus-implicaciones-para-la-proteccion-de-datos-y-el-reglamento-de-inteligencia-artificial
ESPÍN ALBA, I. (2024): “Sesgos discriminatorios en la toma automatizada de decisiones en la contratación y protección de datos”, ÁLVAREZ LATA, N. (Coord.) et al.: Derecho de contratos, responsabilidad extracontractual e inteligencia artificial, Aranzadi, Las Rozas (Madrid) (pp. 123-186).
GIL MEMBRADO, C. (2024): “Daños producidos por la IA: la opacidad del algoritmo y el efecto de caja negra”, ÁLVAREZ LATA,N. (Coord.) et al.: Derecho de contratos, responsabilidad extracontractual e inteligencia artificial, Aranzadi, Las Rozas (Madrid) (pp. 501-547).
McCARTHY, J. (1956): What is artificial intelligence? Disponible en: https://www-formal.stanford.edu/jmc/whatisai.pdf
MITTELSTADT, B. et al. (2016): “The ethics of algorithms: Mapping the debate”, Big Data & Society, 3 (2) (pp. 1-21). DOI: https://doi.org/10.1177/2053951716679679
MUÑOZ GARCÍA, C. (2023): Regulación de la inteligencia artificial en Europa. Incidencia en los regímenes jurídicos de protección de datos y de responsabilidad por productos, Tirant lo Blanch, Valencia.
NAVAS NAVARRO, S. (2024): “Deshumanizando al contrato. Una mirada desde la inteligencia artificial”, ÁLVAREZ LATA, N. (Coord.) et al.: Derecho de contratos, responsabilidad extracontractual e inteligencia artificial, Aranzadi, Las Rozas (Madrid) (pp. 31-100).
PACHECO JIMÉNEZ, Mª N. (2024): “Contratos algorítmicos y toma de decisiones automatizadas. El papel de la normativa europea de Consumo”, Blog Centro de Estudios de Consumo. Disponible en: https://centrodeestudiosdeconsumo.com/images/Contratos_algoritmicos_y_toma_de_decisiones_automatizada.pdf
PALMA ORTIGOSA, A. (2002.a): Decisiones automatizadas. Y protección de datos. Especial
atención a los sistemas de inteligencia artificial, Dykinson, Madrid. (2022.b): “El ciclo de vida de los sistemas de Inteligencia Artificial. Aproximación técnica de las fases presentes durante el diseño y despliegue de los sistemas algorítmicos”, en COTINO HUESO, L. (Dir.) et al: Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thomson Reuters Aranzadi, Cizur Menor (pp. 29-51).
PERTÍÑEZ VÍLCHEZ, F. (2024): “La contratación entre sistemas de inteligencia artificial”, ÁLVAREZ LATA, N. (Coord.) et al.: Derecho de contratos, responsabilidad extracontractual e inteligencia artificial, Aranzadi, Las Rozas (Madrid) (pp. 101-122).
ROBERTO GRANERO, H. (2022): “Derechos y garantías frente al uso de inteligencia artificial y decisiones automatizadas, especialmente en el ámbito judicial y de aplicación de la ley”, en COTINO HUESO, L. (Dir.) et al: Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thomson Reuters Aranzadi, Cizur Menor (pp. 107-137).
ROIG, A. (2020): Las garantías frente a las decisiones automatizadas. Del Reglamento General de Protección de Datos a la gobernanza algorítmica, Bosch, Barcelona. DOI: https://doi.org/10.2307/j.ctv1dv0v54
SÁENZ DE JUBERA HIGUERO, B. (2023): “Retos jurídicos de la inteligencia artificial en el ámbito del consentimiento contractual: una aproximación general”, Revista de Derecho Civil, vol. X, núm. 2 (pp. 41-70).
SALAZAR GARCÍA, I. (2022): “Retos actuales de la ética en la Inteligencia Artificial”, en COTINO HUESO, L. (Dir.) et al: Derechos y garantías ante la inteligencia artificial y las decisiones
automatizadas, Thomson Reuters Aranzadi, Cizur Menor (pp. 53-66).
SEMMLER, S. & ZEEVE R. (2017): “Artificial Intelligence: Application Today and Implications Tomorrow”, Duke Law and Technology Review, 16 (pp. 85-99).
SORIANO ARNANZ, A. (2021): “Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos”, Revista de Derecho Público: Teoría y Método, Marcial Pons, Madrid (pp. 85-127). DOI: https://doi.org/10.37417/RPD/vol_3_2021_535
SORIANO ARNANZ, A. (2022): “Discriminación algorítmica: garantías y protección jurídica”, en COTINO HUESO, L. (Dir.) et al: Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thomson Reuters Aranzadi, Cizur Menor (pp. 139-169).
TURING, A. M. (1950): “Computing Machinery and Intelligence”, Mind 49. DOI: https://doi.org/10.1093/mind/LIX.236.433
VESTRI, G. (2024): “La Unión Europea estrena el Reglamento de Inteligencia Artificial (RIA)”,
Diario La Ley, núm. 10550. Disponible en: https://diariolaley.laleynext.es/Content/Documento.aspx?params=H4sIAAAAAAAEAMtMSbF1jTAAAiNTMzMjY7Wy1KLizPw8WyMDIxMDc0NTtbz8lNQQF2fb0ryU1LTMvNQUtZzEpNQcZ5BwakWJbXpqXmpRZrJrUVF-EUh3ZlqlS35ySGVBqm1aYk5xqlpqUn5-Nool8TDDAbeRB19-AAAAWKE
