I. ACCIÓN DE INCONSTITUCIONALIDAD. LA PERSONA TITULAR DE LA CONSEJERÍA JURÍDICA DEL EJECUTIVO FEDERAL TIENE LA REPRESENTACIÓN LEGAL PARA PROMOVERLA EN NOMBRE DEL TITULAR DE ESE PODER PARA IMPUGNAR LEYES GENERALES EXPEDIDAS POR LAS ENTIDADES FEDERATIVAS [ARTÍCULO 105, FRACCIÓN II, INCISO C), DE LA CONSTITUCIÓN POLÍTICA DE LOS ESTADOS UNIDOS MEXICANOS]. II. ACCIÓN DE INCONSTITUCIONALIDAD. SI SE HACE VALER UNA CAUSA DE IMPROCEDENCIA QUE INVOLUCRA EL ESTUDIO DE FONDO, DEBERÁ DESESTIMARSE. III. INTELIGENCIA ARTIFICIAL. MARCO CONCEPTUAL. IV. VIOLENCIA EN CONTRA DE NIÑOS, NIÑAS Y ADOLESCENTES COMETIDA A TRAVÉS DE MEDIOS DIGITALES. CONTEXTO DE LA VIOLENCIA A LA QUE ESTÁN EXPUESTOS CON EL USO DE LA INTELIGENCIA ARTIFICIAL. V. INTELIGENCIA ARTIFICIAL. MARCO JURÍDICO INTERNACIONAL Y NACIONAL QUE REGULA EL USO DE MEDIOS TECNOLÓGICOS PARA CONTROLAR Y PREVENIR LAS PRÁCTICAS VIOLENTAS QUE PONEN EN PELIGRO A LAS PERSONAS MENORES DE EDAD. VI. DERECHO DE LA NIÑEZ A SER PROTEGIDA CONTRA TODA FORMA DE VIOLENCIA. QUEDA INCLUIDA AQUELLA QUE SE PRODUCE CUANDO SE USAN LAS TECNOLOGÍAS DE LA INFORMACIÓN Y DE LA COMUNICACIÓN, COMO LO ES LA INTELIGENCIA ARTIFICIAL, EN TÉRMINOS DE LOS ARTÍCULOS 46, 101 BIS Y 101 BIS 2 DE LA LEY GENERAL DE LOS DERECHOS DE NIÑAS, NIÑOS Y ADOLESCENTES. VII. DERECHO DE LA NIÑEZ A SER PROTEGIDA CONTRA TODA FORMA DE VIOLENCIA. EL ESTADO, EN TODOS SUS NIVELES DE GOBIERNO, TIENE EL DEBER DE SALVAGUARDAR LA INTEGRIDAD, SEGURIDAD Y BIENESTAR DE LAS PERSONAS MENORES DE EDAD, LO QUE INCLUYE GARANTIZAR SU DERECHO A VIVIR UNA VIDA LIBRE DE VIOLENCIA EN EL ENTORNO DIGITAL. VIII. PRINCIPIOS DE SEGURIDAD JURÍDICA Y LEGALIDAD. SE RESPETAN POR LAS AUTORIDADES LEGISLATIVAS CUANDO LAS DISPOSICIONES DE OBSERVANCIA GENERAL QUE EMITEN, POR UNA PARTE, GENERAN CERTIDUMBRE EN LOS GOBERNADOS SOBRE LAS CONSECUENCIAS JURÍDICAS QUE PRODUCEN Y, POR LA OTRA, TRATÁNDOSE DE NORMAS QUE CONFIEREN ALGUNA FACULTAD A UNA AUTORIDAD, ACOTAN EN LA MEDIDA NECESARIA Y RAZONABLE TAL ATRIBUCIÓN PARA IMPEDIR QUE EN SU EJERCICIO LA AUTORIDAD ACTÚE DE MANERA ARBITRARIA. IX. GARANTÍA DE SEGURIDAD JURÍDICA. LA FALTA DE DEFINICIÓN DE TÉRMINOS O LOCUCIONES EN LAS LEYES EMITIDAS POR LOS ÓRGANOS LEGISLATIVOS NO ES UN ASPECTO QUE CONTRAVENGA AQUÉLLA, TODA VEZ QUE EL SENTIDO QUE SE ATRIBUYA A CADA UNA DE LAS PALABRAS O EXPRESIONES EMPLEADAS EN UN PRECEPTO, EN TODO CASO, SERÁ MOTIVO DE INTERPRETACIÓN POR LOS DIFERENTES SISTEMAS EXISTENTES. X. LEYES. SU INCONSTITUCIONALIDAD NO PUEDE DERIVAR EXCLUSIVAMENTE DE LA FALTA DE DEFINICIÓN DE LOS VOCABLOS O LOCUCIONES UTILIZADOS POR EL LEGISLADOR. XI. DERECHO DE LA NIÑEZ A SER PROTEGIDA CONTRA TODA FORMA DE VIOLENCIA CIBERNÉTICA, DIGITAL O GENERADA MEDIANTE EL USO DE INTELIGENCIA ARTIFICIAL EN EL ESTADO DE ZACATECAS. LA PORCIÓN NORMATIVA QUE RECONOCE TAL DERECHO NO VULNERA EL PRINCIPIO DE SEGURIDAD JURÍDICA, EN TANTO QUE EL CONGRESO LOCAL NO ESTÁ OBLIGADO A ESTABLECER UN CATÁLOGO EN EL QUE DEFINA LOS TÉRMINOS O LOCUCIONES UTILIZADAS, ADEMÁS DE QUE EL CONCEPTO DE INTELIGENCIA ARTIFICIAL ES CAMBIANTE DERIVADO DE LA EVOLUCIÓN DE LOS PROCESOS TECNOLÓGICOS EN LA MATERIA [ARTÍCULO 9, FRACCIÓN III, INCISO C), EN LA PORCIÓN NORMATIVA "USO DE INTELIGENCIA ARTIFICIAL" DE LA LEY DE LOS DERECHOS DE NIÑAS, NIÑOS Y ADOLESCENTES DEL ESTADO DE ZACATECAS]. XII. DERECHO DE LA NIÑEZ A SER PROTEGIDA CONTRA TODA FORMA DE VIOLENCIA CIBERNÉTICA, DIGITAL O GENERADA MEDIANTE EL USO DE INTELIGENCIA ARTIFICIAL EN EL ESTADO DE ZACATECAS. LA PORCIÓN NORMATIVA QUE LO RECONOCE RESPONDE AL CRECIENTE CONTEXTO DE VIOLENCIA COMETIDA CONTRA LAS PERSONAS MENORES DE EDAD A TRAVÉS DEL USO DE LAS TECNOLOGÍAS DE LA INFORMACIÓN Y DE LA COMUNICACIÓN COMO LA INTELIGENCIA ARTIFICIAL, POR LO QUE NO SE VULNERA EL PRINCIPIO DE LEGALIDAD, EN TANTO QUE LA INTENCIÓN DEL LEGISLADOR LOCAL ES LA DE ADOPTAR UN SISTEMA DE PROTECCIÓN DE SUS DERECHOS QUE RESPONDA A LAS NECESIDADES DERIVADAS DE LOS CAMBIOS SOCIALES [ARTÍCULO 9, FRACCIÓN III, INCISO C), EN LA PORCIÓN NORMATIVA "USO DE INTELIGENCIA ARTIFICIAL" DE LA LEY DE LOS DERECHOS DE NIÑAS, NIÑOS Y ADOLESCENTES DEL ESTADO DE ZACATECAS].
ACCIÓN DE INCONSTITUCIONALIDAD 80/2024. PODER EJECUTIVO FEDERAL. 22 DE ABRIL DE 2025. PONENTE: ANA MARGARITA RÍOS FARJAT. SECRETARIA: IRLANDA DENISSE ÁVALOS NÚÑEZ.
ÍNDICE TEMÁTICO
Hechos: el Poder Ejecutivo Federal promovió una acción de inconstitucionalidad en contra del artículo 9, fracción III, inciso c), en su porción normativa "uso de inteligencia artificial", de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas, adicionado mediante Decreto número 448, publicado el veintiocho de febrero de dos mil veinticuatro en el Periódico Oficial de la entidad, al considerar que vulnera los principios de legalidad y seguridad jurídica.
El Tribunal Pleno de esta Suprema Corte de Justicia de la Nación debe resolver si la porción normativa impugnada es constitucional o si transgredió los principios de legalidad y seguridad jurídica de los artículos 14 y 16 de la Constitución Política del país.
Ver índice temático
Ciudad de México. El Tribunal Pleno de la Suprema Corte de Justicia de la Nación, en sesión correspondiente al veintidós de abril de dos mil veinticinco, emite la siguiente:
SENTENCIA
Mediante la cual se resuelve la acción de inconstitucionalidad 80/2024, promovida por el Poder Ejecutivo Federal en contra del artículo 9, fracción III, inciso c), en su porción normativa "uso de inteligencia artificial", de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas, adicionado mediante Decreto número 448, publicado el veintiocho de febrero de dos mil veinticuatro en el Periódico Oficial de la entidad.
ANTECEDENTES Y TRÁMITE DE LA DEMANDA
1. Publicación del Decreto. El veintiocho de febrero de dos mil veinticuatro, se publicó en el Periódico Oficial de la entidad, el Decreto número 448 mediante el cual se adicionó el inciso c) a la fracción III del artículo 9 de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas.
2. Presentación de la demanda. Por oficio presentado el primero de abril de dos mil veinticuatro en la Oficina de Certificación Judicial y Correspondencia de la Suprema Corte de Justicia de la Nación, María Estela Ríos González, en su carácter de consejera jurídica del Ejecutivo Federal, promovió una acción de inconstitucionalidad en contra del decreto señalado con anterioridad.
3. Artículos constitucionales violados. En la demanda, la accionante señaló como preceptos constitucionales y convencionales vulnerados los artículos 14 y 16 de la Constitución Política del país, en relación con los principios de legalidad y seguridad jurídica.
4. Concepto de invalidez. En su escrito inicial, el Poder Ejecutivo Federal expuso el siguiente concepto de invalidez:
a) El artículo 9, fracción III, inciso c), en su porción normativa "uso de inteligencia artificial", de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas es inconstitucional por vulnerar los principios fundamentales de legalidad y seguridad jurídica previstos en los artículos 14 y 16 de la Constitución Política del país.
b) La porción normativa impugnada extiende la protección de la violencia cibernética a aquella que es ocasionada por el uso de inteligencia artificial. Sin embargo, la legislación únicamente emplea el término de inteligencia artificial sin mayor especificación al respecto, lo que trasgrede los principios de legalidad y seguridad jurídica, toda vez que el término resulta impreciso, amplio y ambiguo y, por ende, su configuración depende de la interpretación que realice la autoridad.
c) La norma impugnada genera incertidumbre al admitir distintas interpretaciones del significado de inteligencia artificial, lo que impide la existencia de una definición homologada que permita distinguirla de cualquier otra tecnología de procesamiento. Lo anterior impide diferenciar entre "violencia cibernética", "violencia digital" y "violencia ocasionada por el uso de inteligencia artificial", por lo tanto, la diferenciación entre dichos términos queda al arbitrio de las autoridades encargadas de interpretar y aplicar la norma.
5. Registro y turno. El tres de abril de dos mil veinticuatro, la Ministra Norma Lucía Piña Hernández, Presidenta de esta Suprema Corte de Justicia de la Nación, tuvo por recibida la demanda, ordenó formar y registrar el expediente relativo a la acción de inconstitucionalidad 80/2024 y turnó el asunto a la Ministra Ana Margarita Ríos Farjat para instruir el procedimiento y formular el proyecto de resolución respectivo.
6. Admisión y trámite. Mediante proveído de diez de abril de dos mil veinticuatro, la Ministra instructora admitió a trámite la acción de inconstitucionalidad y tuvo a los Poderes Legislativo y Ejecutivo del Estado de Zacatecas como las autoridades que emitieron y promulgaron el decreto impugnado, por lo que ordenó darles vista para que rindieran sus respectivos informes. Asimismo, se ordenó dar vista al Fiscal General de la República para que manifestara lo que a su esfera competencial conviniera.
7. Informe del Poder Legislativo de Zacatecas. Por escrito presentado el seis de mayo de dos mil veinticuatro, Jehú Eduí Salas Dávila, en su carácter de Presidente de la Comisión de Puntos Constitucionales de la LXIV Legislatura del Estado de Zacatecas, rindió su informe en los términos siguientes:
a) La adición de la porción normativa "uso de inteligencia artificial" al artículo 9 de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas responde al creciente desarrollo de la inteligencia artificial que ha aumentado los riesgos de la comisión de delitos en contra de niños, niñas y adolescentes a partir de herramientas que permiten la manipulación de texto, imágenes y voces, pudiendo generar material sexualmente explícito de estos grupos en situación de vulnerabilidad.
b) Los términos de "violencia cibernética" "digital" e "inteligencia artificial", utilizados en la fracción que comprende a la porción normativa impugnada, forman parte del léxico común de la sociedad y, por ende, difícilmente podrían generar confusión. Por lo anterior, la supuesta interpretación arbitraria de las autoridades, señalada por el Ejecutivo Federal, se vería limitada por la definición social del término de inteligencia artificial.
c) La técnica legislativa empleada para fijar la porción normativa de "uso de inteligencia artificial" deja un margen de discrecionalidad a la autoridad jurisdiccional para que interprete progresivamente dicho término a partir del interés superior de la niñez y atendiendo al constante cambio, desarrollo y avance tecnológico que comprende la inteligencia artificial.
8. Informe del Poder Ejecutivo de Zacatecas. Mediante escrito presentado el nueve de mayo de dos mil veinticuatro, Ángel Manuel Muñoz Muro, en su carácter de Coordinador General Jurídico del Gobierno del Estado de Zacatecas, rindió su informe en los términos siguientes:
a) La adición de la porción normativa impugnada no viola los preceptos constitucionales señalados por el Poder Ejecutivo Federal, sino que atiende a la necesidad social de regular la violencia cibernética cometida en contra de niños, niñas y adolescentes, misma que se auxilia con el uso de inteligencia artificial.
b) Se actualiza una causal de improcedencia del artículo 19, fracciones VIII y IX de la Ley Reglamentaria(1) toda vez que no se demuestra que exista alguna violación a la Constitución Política del país, por lo tanto, debe sobreseerse.
9. Pedimento. El Fiscal General de la República no formuló pedimento en el presente asunto.
10. Cierre de instrucción. Tras el trámite legal correspondiente y la presentación de alegatos, por acuerdo de veintiséis de junio de dos mil veinticuatro, se cerró la instrucción del asunto y se envió el expediente a la Ministra instructora para la elaboración del proyecto de resolución.
I. COMPETENCIA
11. Este Tribunal Pleno de la Suprema Corte de Justicia de la Nación es competente para resolver la presente acción de inconstitucionalidad, en términos de lo dispuesto por los artículos 105, fracción II, inciso c), de la Constitución Política del país(2 )y 10, fracción I, de la Ley Orgánica del Poder Judicial de la Federación(3) –aplicable en términos del artículo tercero de la Ley Orgánica del Poder Judicial de la Federación, publicada en el Diario Oficial de la Federación el veinte de diciembre de dos mil veinticuatro–.(4) Lo anterior porque el Poder Ejecutivo Federal planteó la posible contradicción entre el artículo 9, fracción III, inciso c) de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas y la Constitución Política del país.
II. OPORTUNIDAD
12. Conforme al artículo 60, párrafo primero, de la Ley Reglamentaria de las Fracciones I y II del Artículo 105 de la Constitución Política del país, el plazo para promover la acción de inconstitucionalidad es de treinta días naturales, contados a partir del día siguiente a la fecha en que la norma general se publique en el medio oficial correspondiente.(5)
13. En este caso, el Decreto número 448 mediante el cual se adiciona el inciso c) de la fracción III del artículo 9 de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas se publicó en el Periódico Oficial de la entidad el veintiocho de febrero de dos mil veinticuatro. En consecuencia, el plazo de treinta días naturales para promover la acción de inconstitucionalidad transcurrió del veintinueve de febrero al veintinueve de marzo de dos mil veinticuatro.
14. No obstante, dado que el veintinueve de marzo de dos mil veinticuatro fue declarado día inhábil con fundamento en lo dispuesto por el punto primero, inciso n) del Acuerdo General Número 18/2013 emitido por el Pleno de la Suprema Corte de Justicia de la Nación,(6) se actualiza lo establecido por el artículo 60, párrafo primero, de la Ley Reglamentaria, el cual permite la presentación de la demanda el primer día hábil siguiente, en el presente caso, el primero de abril de dos mil veinticuatro.
15. En ese sentido, si la demanda se interpuso el primero de abril de dos mil veinticuatro, resulta claro que fue presentada oportunamente.
III. LEGITIMACIÓN
16. Este Tribunal Pleno advierte que la acción de inconstitucionalidad se promovió por parte legitimada.
17. El artículo 105, fracción II, inciso c), de la Constitución Política del país dispone que el Ejecutivo Federal, por conducto del Consejero Jurídico del Gobierno, está legitimado para impugnar leyes generales expedidas por las entidades federativas.(7)
18. En el caso, este requisito se cumple ya que el Poder Ejecutivo Federal impugnó el Decreto número 448 mediante el cual se adiciona el inciso c) de la fracción III del artículo 9 de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas, por vulnerar los principios de legalidad y seguridad jurídica.
19. Asimismo, se cumple con lo dispuesto en el primer párrafo del artículo 11 de la Ley Reglamentaria de la materia,(8) pues la demanda fue presentada por María Estela Ríos González, en su carácter de Consejera Jurídica del Ejecutivo Federal, personalidad que acredita mediante el acuerdo de designación de dos de septiembre de dos mil veintiuno emitido por el Presidente de los Estados Unidos Mexicanos.
IV. CAUSAS DE IMPROCEDENCIA Y SOBRESEIMIENTO
20. Las cuestiones relativas a la procedencia de la acción de inconstitucionalidad son de estudio preferente, por lo que se deben analizar las que sean formuladas por las partes, así como aquellas que este alto tribunal advierta de oficio.
21. En su informe, el Poder Ejecutivo de Zacatecas sostuvo en el apartado denominado "Primero: Inexistencia de violación a los principios de seguridad jurídica y legalidad" que, a su juicio, se actualizan las causales de improcedencia previstas en las fracciones VIII y IX del artículo 19(9) de la Ley Reglamentaria de las Fracciones I y II del Artículo 105 de la Constitución Política del país, toda vez que el inciso c) de la fracción III del artículo 9 de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas no transgrede ni contradice lo dispuesto en la Constitución Política del país.
22. Sin embargo, dado que este argumento se relaciona directamente con el estudio de fondo del presente asunto; es decir, versa en definir si la porción normativa impugnada vulnera los principios de legalidad y seguridad jurídica, procede su desestimación.
23. Finalmente, debe destacarse que este Tribunal Pleno no advierte de oficio que se actualice algún motivo de improcedencia diverso.
24. Al no haberse planteado otra causal de improcedencia ni advertiste alguna de oficio, este Tribunal Pleno procede a estudiar el fondo de la cuestión planteada.
V. ESTUDIO DE FONDO
25. Corresponde a este alto tribunal determinar si el artículo 9, fracción III, inciso c), en su porción normativa "uso de inteligencia artificial", de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas es constitucional o, de lo contrario, determinar su invalidez, por vulnerar los principios de legalidad y seguridad jurídica.
26. En su concepto de invalidez, el Poder Ejecutivo Federal alegó que la porción normativa impugnada vulnera los principios de legalidad y seguridad jurídica, pues no establece una definición de "inteligencia artificial", por lo que su descripción es imprecisa, amplia y ambigua, y que su configuración depende de la apreciación subjetiva por parte de la autoridad.
27. A fin de dar contestación al concepto de invalidez, por cuestión de metodología, el estudio se divide en los siguientes apartados:
A. Marco conceptual de la inteligencia artificial
B. Contexto de violencia en contra de niños, niñas y adolescentes cometida a través medios digitales y, en particular, por inteligencia artificial
C. Parámetro de regularidad de los principios de legalidad y seguridad jurídica
D. Estudio de constitucionalidad de la norma impugnada
A. MARCO CONCEPTUAL DE LA INTELIGENCIA ARTIFICIAL
28. Para estar en condiciones de analizar la constitucionalidad de la norma impugnada, este Tribunal Pleno considera que es necesario establecer primero qué se entiende por inteligencia artificial y si hay una definición comúnmente aceptada, así como definir cuáles son sus implicaciones tecnológicas en el día a día.
29. Desde dos mil dieciocho, la Organización para la Cooperación y el Desarrollo Económico comenzó a trabajar en una definición de inteligencia artificial y en una serie de principios para su gestión responsable y confiable, dada su creciente importancia en el entorno global. Si bien la inteligencia artificial ofrece diversas ventajas en áreas como la salud, la productividad y el progreso científico, lo cierto es que también implica riesgos como la desinformación, la falta de seguridad en los datos y la infracción en derechos de autor.(10)
30. Así, en dos mil diecinueve, la Organización para la Cooperación y el Desarrollo Económico emitió su "Recomendación sobre Inteligencia Artificial" en la que define a la inteligencia artificial como "un sistema basado en máquinas que, para un conjunto determinado de objetivos definidos por humanos, puede hacer predicciones, recomendaciones o tomar decisiones que influyan en entornos reales o virtuales. Los sistemas de inteligencia artificial están diseñados para funcionar con distintos niveles de autonomía".(11)
31. Asimismo, establece cinco principios para una gestión responsable y de confianza: a) crecimiento inclusivo, desarrollo sostenible y bienestar; b) respeto al estado de derecho, a los derechos humanos y a los valores democráticos, incluida la equidad y la privacidad; c) transparencia y explicabilidad; d) robustez, seguridad y protección; y e) responsabilidad.
32. La Recomendación sobre Inteligencia Artificial de la Organización para la Cooperación y el Desarrollo Económico ha sido adoptada por todos sus Estados miembros, incluido México,(12) ocho Estados no miembros(13) y por la Unión Europea.
33. En dos mil veinticuatro, derivado del ritmo acelerado en los avances tecnológicos, la Organización actualizó la definición para quedar como sigue: "un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Los diferentes sistemas de inteligencia artificial varían en sus niveles de autonomía y adaptabilidad después de su implementación".(14)
34. La actualización en la definición de la Organización para la Cooperación y el Desarrollo Económico refleja: a) la rápida evolución tecnológica en el campo, b) la necesidad de adaptar los marcos conceptuales a nuevas realidades técnicas y c) el desafío de mantener definiciones jurídicamente operativas en un contexto de constante innovación.
35. De la definición de inteligencia artificial se desprende que, para que un sistema sea clasificado como inteligencia artificial, debe operar mediante computadoras o dispositivos electrónicos. Cada sistema de inteligencia artificial está diseñado para cumplir ciertos propósitos, los cuales podrán ser claramente definidos (explícitos) o estar incorporados en su diseño sin estar directamente declarados (implícitos).
36. Los sistemas de inteligencia artificial reciben datos o información del entorno, que luego procesan. Los resultados de dicho procesamiento pueden incluir enunciativa y no limitativamente: a) predicciones (anticipar eventos o resultados futuros); b) contenido (crear texto, imágenes, vídeos, etc.); c) recomendaciones (sugerir acciones o decisiones) y d) decisiones (tomar determinaciones basadas en el análisis de datos).
37. Los resultados generados por la inteligencia artificial pueden tener impacto tanto en el mundo físico (por ejemplo, en sistemas de control industrial) como en entornos virtuales (por ejemplo, los buscadores presentes en redes sociales o en buscadores más grandes como "Google", que ofrecen información precisa y que ayudan con labores de creación y síntesis de textos).
38. Los diferentes sistemas de inteligencia artificial se caracterizan por tener distintos niveles de autonomía y adaptabilidad. La autonomía, en el contexto de la inteligencia artificial, se refiere a la capacidad del sistema para operar de manera independiente, sin requerir una intervención humana constante.(15) Por otro lado, la adaptabilidad, dentro del mismo contexto, refiere a la habilidad del sistema para aprender y mejorar su rendimiento a través de la experiencia acumulada.(16) Estos dos aspectos son fundamentales para comprender las capacidades y limitaciones de los diversos sistemas de inteligencia artificial que existen en la actualidad.
39. Por su parte, la Unión Europea emitió una legislación pionera a nivel mundial para regular el desarrollo y uso de la inteligencia artificial: la Ley de Inteligencia Artificial de la Unión Europea. Esta legislación plantea que se realice una distinción conceptual entre los "sistemas" y "modelos" de inteligencia artificial. Al regularlos de manera diferenciada, se busca asignar responsabilidades específicas a diferentes actores en la cadena de valor, permitiendo una regulación más flexible y adaptable a los rápidos avances tecnológicos en el campo.
40. De conformidad con el artículo 3 (1) de la Ley de Inteligencia Artificial de la Unión Europea un "sistema de inteligencia artificial" es aquél sistema basado en máquinas diseñado para operar con diversos niveles de autonomía, que puede exhibir adaptabilidad después de su implementación y que, para objetivos explícitos o implícitos, infiere, a partir de las entradas que recibe, cómo generar salidas tales como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.(17)
41. A su vez, el artículo 3 (63) de la citada Ley introduce el concepto de "modelo de inteligencia artificial de propósito general", definiéndolo como: aquellos entrenados con una gran cantidad de datos utilizando autosupervisión a escala, que muestran una generalidad significativa y que son capaces de realizar competentemente una amplia gama de tareas distintas.(18) 42. A partir de esto, se puede determinar que un modelo de inteligencia artificial es un componente de un sistema de inteligencia artificial, pero no constituye un sistema completo por sí solo. Un sistema de inteligencia artificial integra el modelo con otros componentes adicionales (como interfaces de usuario, bases de datos y/o procesamiento de información).
43. En términos más sencillos, un modelo de inteligencia artificial es como el "cerebro" de un sistema más grande. Es la parte que aprende de grandes cantidades de datos y puede realizar tareas generales, como generar texto o reconocer imágenes. Por otro lado, un sistema de inteligencia artificial es el conjunto completo que incluye este modelo junto con otros componentes, como interfaces para que las personas lo usen, bases de datos y herramientas para procesar información. Es posible pensar en el modelo como el motor de un coche, mientras que el sistema de inteligencia artificial sería el coche completo, listo para ser usado.
44. A su vez, los modelos de inteligencia artificial de propósito general están diseñados para realizar tareas generales y pueden integrarse en diversos sistemas de inteligencia artificial. Los sistemas de inteligencia artificial tienen un propósito más específico y están diseñados para una aplicación concreta.
45. La Ley de Inteligencia Artificial de la Unión Europea clasifica los sistemas y modelos de inteligencia artificial en varias categorías según su nivel de riesgo. En el nivel más alto, se encuentran las prácticas de inteligencia artificial prohibidas, que presentan un riesgo inaceptable y están completamente vetadas. Luego están los sistemas de inteligencia artificial de alto riesgo, que podrían tener un impacto significativo en la salud, seguridad o derechos fundamentales de las personas, y están sujetos a estrictas regulaciones.(19)
46. La citada Ley también identifica sistemas de inteligencia artificial de riesgo limitado, que requieren obligaciones de transparencia específicas. En cuanto a los modelos, la Ley se centra principalmente en los modelos de inteligencia artificial de propósito general, clasificándolos en estándar y aquellos con riesgo sistémico, estos últimos sujetos a obligaciones adicionales debido a su potencial impacto significativo.
47. Esta clasificación determina las obligaciones y requisitos específicos que deben cumplir los proveedores y usuarios de estos sistemas y modelos de inteligencia artificial, con regulaciones más estrictas para las categorías de mayor riesgo.
48. Ahora, los Modelos de Lenguaje de Gran Escala (Large Language Models, en inglés) son un tipo específico de modelo de inteligencia artificial diseñado para procesar y generar lenguaje natural a gran escala. Estos modelos son entrenados con enormes cantidades de datos textuales, lo que les permite comprender y generar texto de una manera que se asemeja a la comunicación humana.(20)
49. Los Modelos de Lenguaje de Gran Escala pueden realizar una amplia gama de tareas lingüísticas, como redacción de textos, respuesta a preguntas, traducción entre idiomas y análisis de sentimientos, entre otras. Debido a su capacidad para manejar diversas tareas relacionadas con el lenguaje, se consideran un subtipo de modelo de inteligencia artificial de propósito general, capaz de adaptarse a diferentes aplicaciones y contextos dentro del ámbito del procesamiento del lenguaje.
50. Lo anterior se puede entender con el siguiente ejemplo del mundo real. Un sistema de chat inteligente tiene dos partes importantes: el modelo y el sistema. El modelo (en este caso modelo de lenguaje de gran escala) sería como el cerebro, entrenado para entender y crear el texto. Por ejemplo, puede escribir historias o responder preguntas.
51. El sistema es más grande e incluye este cerebro junto con otras herramientas. Estas pueden ser: una interfaz con la que el usuario interactúa, un buscador de información en internet, directrices de comportamiento que definen cómo debe actuar, una memoria contextual para recordar la conversación, consulta a una base de datos, filtros para evitar contenido dañino y formas de adaptarse y aprender de cada usuario. Juntos el modelo y la serie de herramientas producen un sistema de inteligencia artificial que puede servir fines específicos.
52. De todo lo anterior se desprende que si bien la Organización para la Cooperación y el Desarrollo Económico y la Unión Europea comparten una definición muy similar de lo que es un sistema de inteligencia artificial, la divergencia entre las aproximaciones subraya: a) la ausencia de un consenso internacional sobre la definición jurídica de inteligencia artificial y su alcance, b) los desafíos para la armonización normativa a nivel global en la materia y c) la necesidad de marcos jurídicos flexibles que puedan adaptarse a definiciones en evolución.
53. Ahora bien, aunque es posible realizar una distinción entre "modelos" y "sistemas" de inteligencia artificial, es particularmente relevante destacar que ambos representan herramientas que pueden potencialmente ejercer violencia hacia niñas, niños y adolescentes. Por lo tanto, el enfoque de una ley que busque proteger a niños, niñas y adolescentes de la violencia ejercida mediante inteligencia artificial debe estar en garantizar una protección amplia y efectiva.
54. Esta distinción, aunque importante desde una perspectiva técnica y regulatoria general, no debe ser el enfoque principal cuando se trata de proteger a los niños, niñas y adolescentes, ya que podría llevar a interpretaciones restrictivas que no prioricen el interés superior de la infancia y podría hacerla rápidamente obsoleta frente a los rápidos avances tecnológicos.
55. En su lugar, la legislación debe centrarse en los impactos concretos que la inteligencia artificial puede tener sobre los derechos y el bienestar de niñas, niños y adolescentes, independientemente de las especificidades técnicas de la tecnología en cuestión. Una formulación más general, en este caso particular, permitiría a la ley mantenerse relevante y aplicable a medida que evoluciona la tecnología.
56. Este Tribunal Pleno advierte que la inteligencia artificial representa tanto oportunidades como desafíos significativos para la protección y el bienestar de niñas, niños y adolescentes. A medida que esta tecnología evoluciona rápidamente, se hace evidente la necesidad de un marco regulatorio que priorice el interés superior de la infancia para desarrollar protecciones integrales. Estas deben ser lo suficientemente amplias como para abarcar las formas actuales y evitar ser obsoletas antes las formas futuras de inteligencia artificial, para así ofrecer protecciones efectivas contra la violencia y la explotación facilitadas por esta tecnología.
B. CONTEXTO DE VIOLENCIA EN CONTRA DE NIÑOS, NIÑAS Y ADOLESCENTES COMETIDA A TRAVÉS DE MEDIOS DIGITALES Y, EN PARTICULAR, POR INTELIGENCIA ARTIFICIAL
57. Una vez abordado lo que se entiende comúnmente como inteligencia artificial y sus implicaciones tecnológicas, este Tribunal Pleno considera necesario desarrollar el contexto de violencia a la que están expuestos los niños, niñas y adolescentes en el entorno digital y, en particular, con la inteligencia artificial, y si esto ha sido objeto de regulación en el marco internacional o nacional.
58. El aumento en el acceso y uso de tecnologías y medios digitales, así como su integración en muchas de las actividades diarias, especialmente entre la población más joven, ha logrado avances importantes como en el acceso al derecho a la educación y al derecho a la información. Sin embargo, estas herramientas también se han utilizado como medios para perpetuar la violencia en contra de niños, niñas y adolescentes, quienes se encuentran en una especial situación de vulnerabilidad.
59. Al respecto, el Instituto Nacional de Estadísticas y Geografía, en su Informe de Estadísticas del año dos mil veintitrés, señaló que 41.8% de las adolescentes de quince años en adelante manifestaron haber vivido alguna situación de violencia en su infancia y que alrededor de 12.4 millones de adolescentes de quince años en adelante experimentaron violencia sexual.(21)
60. Asimismo, de conformidad con la Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hogares del Instituto Nacional de Estadística y Geografía, el 50% de niñas y niños de entre seis y once años son usuarios de internet o computadora, en tanto que entre el 80% y 94% de las personas adolescentes de doce a diecisiete años usan estas tecnologías.(22)
61. A nivel nacional, 20.9% de las personas adolescentes entre doce y diecisiete años han vivido alguna forma de ciberacoso. Entre las principales formas destaca el envío de virus con intención de dañar; videos o imágenes con contenidos sexuales o agresivos; y mensajes con insultos, amenazas o intimidación. Las mujeres son más vulnerables que los hombres a ser agredidas por esos medios, en particular, con el envío de videos, imágenes o mensajes con contenidos sexuales, agresivos o insultantes.(23)
62. Al respecto, el Fondo de las Naciones Unidas para la Infancia (UNICEF por sus siglas en inglés) ha señalado que hay casos en los que la tecnología se ha empleado para producir, distribuir, mostrar y poseer imágenes o grabaciones de abuso en contra de personas menores de edad, con la finalidad de intimidarlos, hostigarlos, acosarlos o coaccionarlos para que participen en actividades sexuales o entreguen información personal.(24)
63. En ese sentido, dicho Fondo emitió la "Orientación de Políticas Sobre el Uso de la Inteligencia Artificial en Favor de la Infancia" en la que detalla como los sistemas de inteligencia artificial pueden emplearse para ejercer violencia en contra de las personas menores de
Fuente y verificación: corpusiuris.mx/precedente/33718-1b309d92/i-accion-de-inconstitucionalidad-la-persona-titular-de · Corpus Iuris · texto íntegro conforme a la publicación oficial
Extracto de la sentencia. El texto íntegro está disponible en la fuente oficial y en la plataforma Corpus Iuris.
Fuente oficial: Ver esta sentencia en la SCJN (Semanario Judicial de la Federación)
Precedentes relacionados
- I. TRATA DE PERSONAS. LAS LEGISLATURAS LOCALES CARECEN DE COMPETENCIA PARA LEGISLAR SOBRE ESE DELITO. II. TRATA DE PERSONAS. DISTRIBUCIÓN COMPETENCIAL ENTRE LA FEDERACIÓN Y LOS ES (ACCIÓN DE INCONSTITUCIONALIDAD)
- I. ACCIÓN DE INCONSTITUCIONALIDAD. LA PERSONA TITULAR DE LA CONSEJERÍA JURÍDICA DEL EJECUTIVO FEDERAL TIENE LA REPRESENTACIÓN LEGAL PARA PROMOVERLA EN NOMBRE DEL TITULAR DE ESE POD (ACCIÓN DE INCONSTITUCIONALIDAD)
- ABORTO FORZADO. LA PORCIÓN "CON O SIN EL CONOCIMIENTO DE LA VÍCTIMA" DEL ARTÍCULO 311 BIS, PÁRRAFO PRIMERO, DEL CÓDIGO PENAL PARA EL ESTADO DE ZACATECAS, VIOLA EL PRINCIPIO DE LEGA (ACCIÓN DE INCONSTITUCIONALIDAD)
- I. ACCIÓN DE INCONSTITUCIONALIDAD. EL PLAZO DE TREINTA DÍAS NATURALES PARA SU PROMOCIÓN COMIENZA A PARTIR DEL DÍA SIGUIENTE AL DE LA PUBLICACIÓN DE LA NORMA GENERAL IMPUGNADA, SIN (ACCIÓN DE INCONSTITUCIONALIDAD)
Tesis y jurisprudencia relacionadas
- ACCIÓN DE INCONSTITUCIONALIDAD. LA SUPLENCIA DE LOS CONCEPTOS DE INVALIDEZ OPERA AUN ANTE LA AUSENCIA DE LOS MISMOS. (P./J. 96/2006 )
- ACCIÓN DE INCONSTITUCIONALIDAD. LA SUPLENCIA DE LOS CONCEPTOS DE INVALIDEZ OPERA AUN ANTE LA AUSENCIA DE LOS MISMOS. (43)
- ACCIÓN DE INCONSTITUCIONALIDAD. EL PLAZO PARA INTERPONERLA ES A PARTIR DEL DÍA SIGUIENTE DE LA PUBLICACIÓN OFICIAL DE LA NORMA IMPUGNADA.- (6)
- ACCIÓN DE INCONSTITUCIONALIDAD. EL PLAZO PARA INTERPONERLA ES A PARTIR DEL DÍA SIGUIENTE DE LA PUBLICACIÓN OFICIAL DE LA NORMA IMPUGNADA. (P./J. 2/99 )
En Corpus Iuris puedes buscar con IA en 11,708 sentencias de la SCJN, más de 300 mil tesis y 7 mil leyes, y consultarle al Corpus sobre este criterio.
Buscar precedentes Probar el Corpus gratis